Ollama 0.34.1: MLX ya no es experimental
El soporte de MLX con safetensors pasa a estable, /api/tags responde mucho más rápido y se ajustan dos comportamientos internos.
MLX safetensors deja de ser experimental
Si usás ollama create con modelos en formato safetensors sobre MLX, ese camino ya es estable. Como contrapartida, si necesitás crear modelos GGUF, ahora tenés que pasar por las herramientas de llama.cpp para la conversión y cuantización de safetensors. Es un cambio de flujo, no solo de estabilidad: revisá tus scripts si dependían del comportamiento anterior.
/api/tags mucho más rápido
En bibliotecas de modelos grandes, el tiempo de respuesta de /api/tags bajó de 3.1 segundos a 294 ms en frío, según las pruebas del equipo. Además, las capacidades de cada modelo se reportan de forma consistente. Si tenés integraciones que listan modelos seguido, notás la diferencia directamente.
Ajustes de comportamiento
La detección de repetición de tokens ahora exige 100 tokens repetidos antes de activarse, para reducir falsos positivos en casos como OCR. Por otro lado, typical_p queda deprecado: no se puede configurar en modelos nuevos, aunque los GGUF existentes lo siguen soportando.
Qué te llevas
MLX con safetensors ya es estable para
ollama create, pero GGUF ahora depende de llama.cpp para conversión y cuantización./api/tagsresponde en milisegundos en vez de segundos con bibliotecas grandes de modelos.La detección de repetición de tokens es menos sensible, pensada para reducir falsos positivos en OCR.
typical_pya no se puede fijar en modelos nuevos; los existentes no se ven afectados.
¿Quieres una clase de esto?
Si varias personas lo piden, entra al programa. No hace falta dejar mail ni nombre.