1. Publicada guía integral para el ajuste fino de LLMs con capacidad de llamada a herramientas
Se ha publicado una guía completa que detalla un flujo de trabajo de ajuste fino supervisado de extremo a extremo, diseñado para mejorar las capacidades de llamada a herramientas en LLMs pequeños. Utilizando el conjunto de datos XYZ-Aquila-SFT, el tutorial demuestra cómo analizar trayectorias de herramientas de múltiples turnos, extraer llamadas a herramientas estructuradas y formatearlas en ChatML compatible con Qwen. El flujo de trabajo aplica LoRA a un modelo Qwen3-0.6B utilizando Hugging Face Transformers, PyTorch y PEFT, incorporando enmascaramiento de pérdida solo para el asistente para centrar el entrenamiento en las respuestas del modelo. También incluye pruebas de evaluación con 'teacher-forcing' para medir sistemáticamente las mejoras en la precisión de las llamadas a herramientas.
- • El tutorial describe un flujo de trabajo de ajuste fino supervisado (SFT) de extremo a extremo utilizando Hugging Face Transformers, PyTorch y PEFT.
- • El flujo de trabajo analiza trayectorias de herramientas de múltiples turnos y las convierte al formato ChatML compatible con Qwen.
- • Se ajusta un modelo Qwen3-0.6B utilizando LoRA con enmascaramiento de pérdida aplicado solo a los tokens de entrenamiento del asistente.
- • El flujo de trabajo incluye pruebas de evaluación con 'teacher-forcing' para medir el rendimiento de las llamadas a herramientas antes y después del entrenamiento.
Proporciona a los desarrolladores un flujo de trabajo concreto y reproducible para ajustar modelos pequeños y específicos de tareas, permitiéndoles generar llamadas a herramientas estructuradas de manera confiable.
2. Anthropic detalla la implementación de SynthID-Text para Claude
Dando continuidad a su compromiso previo de implementar marcas de agua invisibles, Anthropic ha especificado que utilizará SynthID-Text de Google DeepMind para sus futuros modelos Claude. Este método ajusta la aleatoriedad en la selección de tokens para insertar marcas de agua sin afectar la calidad, la velocidad o el costo de la salida. La compañía también confirmó que las imágenes utilizarán el estándar C2PA para metadatos, con una API de detección planificada para un futuro lanzamiento.
- • Anthropic utiliza SynthID-Text de Google DeepMind para el marcado de agua de texto en futuros modelos Claude.
- • El método inserta marcas de agua ajustando la aleatoriedad en la selección de tokens, asegurando que no haya impacto en la calidad, velocidad o costo.
- • La marca de agua no contiene información que identifique al usuario.
- • Las imágenes continuarán utilizando el estándar C2PA para metadatos.
- • Se planea el lanzamiento de una API de detección de marcas de agua en el futuro.
Aporta claridad técnica sobre el método de marcado de agua que se está implementando para cumplir con la Ley de IA de la UE, confirmando que no afectará el rendimiento del modelo.