Transformers 5.17: siete modelos nuevos, RoPE de visión unificado
Llegan modelos de lenguaje, voz y multimodales, se estandariza el RoPE de visión (rompe compatibilidad) y se ajustan generación, caché y cuantización.
Modelos nuevos
Se suma HYV4 (Hy4-Preview), un MoE de 780B parámetros con 49B activos por token, contexto de 1M tokens y una combinación de Multi-head Latent Attention, DeepSeek Sparse Attention, sinks de atención aprendibles e Independent Hyper-Connections; las capas de multi-token prediction se ignoran al cargar el checkpoint, pero los pesos quedan disponibles para decodificación especulativa en otros runtimes. También entra KimiLinear, de Moonshot AI, que usa Kimi Delta Attention con forget gate por canal en la mayoría de capas y bloques de atención completa (MLA de DeepSeek-V3) cada cuatro capas. En audio y voz suman VibeVoice (síntesis de voz de forma larga con múltiples hablantes vía diffusion de próximo token), Fun-ASR-Nano (ASR de 800M parámetros para chino, inglés y japonés, con hotwords y puntuación nativa), Canary-1B-v2 (ASR y traducción de voz a texto sobre encoder Fast Conformer de Parakeet) y NeuCodec (códec de audio neuronal con un solo codebook y 0.8kbps de bitrate). NeoMME aporta encoders multimodales multilingües de 260M y 800M parámetros sin torre de visión separada, más una variante para recuperación de documentos visuales.
RoPE de visión: rompe compatibilidad
Los embeddings rotatorios de visión (2D/3D) pasaron a un módulo unificado de cómputo de frecuencias en modeling_rope_utils.py. Si tenés modelos de visión personalizados que dependían de la lógica de interleaving de grilla RoPE a nivel de capa de atención o específica del modelo, tenés que migrarlos a esta implementación centralizada.
Generación y caché
Generation deja de sincronizar el acelerador en cada paso de decodificación, lo que reduce el overhead por paso, y se corrigió una descarga incondicional de archivos remotos del hub durante la generación. En caché se arreglaron un bug de quantized cache en VibeVoice, el rechazo incorrecto de caches no estáticas en VoxtralRealtime, la falta de chequeo de auto-compile cache en modelos encoder-decoder, y una falla silenciosa cuando se llama paged attention sin caché configurada.
Kernels y cuantización
Se mejoró el soporte de kernels: imports anidados de FLA cuando solo está instalado fla-core, un warning cuando una función de hub-kernel cae a su implementación de referencia en PyTorch puro, y la posibilidad de registrar funciones sueltas (como RoPE) en KernelConfig sin heredar los mapeos por defecto. En cuantización se corrigieron el manejo de embeddings FP8 en modelos Qwen, overrides faltantes de capas FP8 para tensor parallelism, y una dequantización innecesaria de pesos MXFP4 en dispositivos XPU.
Qué te llevas
Siete modelos nuevos cubren MoE de gran escala, atención lineal híbrida, ASR, TTS multi-hablante, codificación de audio y encoders multimodales.
Si tenés modelos de visión custom con RoPE propio, hay migración obligatoria a
modeling_rope_utils.py.Generación gana algo de performance al evitar sincronización del acelerador en cada paso de decode.
Varios fixes puntuales en caché, kernels y cuantización que afectan casos específicos como VibeVoice, VoxtralRealtime, Qwen FP8 y XPU.
¿Quieres una clase de esto?
Si varias personas lo piden, entra al programa. No hace falta dejar mail ni nombre.