Avanzado 9 minLM Studio

MTP en LM Studio: activar Multi-Token Prediction

MTP en LM Studio: activar la Multi-Token Prediction

El MTP (Multi-Token Prediction) es una de las pocas técnicas de inferencia que permite aumentar de verdad los tokens/segundo en LM Studio sin degradar la calidad. Popularizada por DeepSeek V3, esta técnica se incorpora ahora al entorno de ejecución llama.cpp utilizado por LM Studio. Esta guía explica qué es el MTP, en qué modelos funciona, cómo activarlo en LM Studio y qué mejora cabe esperar, sin prometer la luna.

Por Mohamed Meguedmi·Actualización 2026-08-27·Probado en Windows, macOS y Linux
i
En resumen
El MTP (Multi-Token Prediction) genera varios tokens por pasada forward en lugar de uno solo, lo que aumenta la tasa de generación sin una tarjeta más rápida. · Solo ciertos modelos lo admiten de forma nativa: la familia DeepSeek (V3, V3.1, V4 Flash) y algunas variantes Qwen3 MoE con cabezales MTP en el GGUF. · Se activa en LM Studio 0.3.10+ mediante un runtime de llama.cpp actualizado y, después, un interruptor en «Advanced Configuration» del modelo. · Mejora medida: DeepSeek V3 32B Q4 en RTX 4090 pasa de aproximadamente 25 a 42 tok/s al generar código.

#Por qué MTP acelera la inferencia

La memoria es el cuello de botella de la inferencia de un LLM: por cada token generado, hay que volver a leer todos los pesos del modelo desde la VRAM. En un modelo de 32B en Q4, se transfieren aproximadamente 19 GB en cada paso. Incluso una RTX 4090 tiene un límite de alrededor de 1 TB/s de ancho de banda, lo que limita mecánicamente el rendimiento a unas pocas decenas de tokens por segundo.

El MTP sortea esta barrera de una forma sencilla: generar varios tokens por pasada de propagación hacia delante, en lugar de uno solo. Si se pueden producir 2 o 3 tokens válidos con un solo acceso de ida y vuelta a la memoria, la tasa de generación aumenta en la misma proporción, sin necesidad de comprar una tarjeta más rápida. Esto es lo que distingue al MTP de otras «optimizaciones» que se limitan a aprovechar mejor la capacidad de cálculo (Flash Attention, prefix caching): aquí se aborda directamente la limitación dominante.

i
El reto en una frase
El MTP no hace que el modelo se cargue más rápido, sea más pequeño ni sea mejor. Solo realiza más trabajo útil por acceso a la VRAM. En un modelo local de 32B, supone la diferencia entre 25 y 45 tok/s. Es enorme.

#Lo que realmente hace MTP

El kit completo para crear tu propio asistente de IA.

Aprovecha nuestra experiencia y un recorrido guiado para crear tu asistente local y usar tu IA en el día a día.

  • Espacio en línea de por vida
  • PDF + archivos
  • Reembolsado 30 d

Concretamente, un modelo entrenado con MTP no tiene solo una cabeza de predicción. Tiene dos, tres o cuatro, en cascada: la primera predice el token N+1, la segunda intenta predecir el token N+2, etc. Durante el entrenamiento, estas cabezas auxiliares aprenden a anticipar los tokens siguientes a partir de los estados ocultos intermedios. Una vez entrenado, el modelo puede usar estas cabezas en inferencia para generar varios candidatos de una sola vez.

Durante la generación, coexisten dos esquemas en los runtimes actuales:

MTP en speculative decoding
Las cabezas auxiliares generan un borrador de 2 a 4 tokens y luego el modelo principal comprueba en una sola pasada hacia delante si los valida. Cada token rechazado se regenera. Esta es la implementación predeterminada en llama.cpp para DeepSeek V3.
MTP como modelo borrador interno
Variante en la que las cabezas secundarias sirven únicamente como un pequeño modelo de borrador, y el runtime lo trata como un modelo de borrador estándar, pero alojado en el mismo archivo GGUF. Más sencillo de servir, pero con una mejora más modesta.
→
No hace magia, pero es potente
La tasa de aceptación de los tokens propuestos es el factor clave. En texto estructurado (código, JSON, marcado) supera el 80 % y la mejora roza 2×. En texto muy creativo o impredecible, a veces cae por debajo del 50 % y la mejora se reduce a 1.2-1.3×.

#¿Qué modelos admiten realmente el MTP?

El MTP no es un ajuste que se active en cualquier modelo: el modelo debe haber sido entrenado con las cabezas MTP y los pesos correspondientes deben estar presentes en el archivo GGUF. En este momento, la lista útil para el uso local en LM Studio es breve:

DeepSeek V3 (base y chat)
El pionero. Arquitectura MoE de 671B con 4 cabezas MTP. Para ejecutarlo en local, se buscan variantes con una cuantización agresiva (Q2_K_XL, IQ3_XS) o versiones destiladas.
DeepSeek V3.1 / V3.2 / V4 Flash
Toda la línea DeepSeek ha heredado el MTP. Las versiones Flash (≈300B MoE) son las únicas que realmente caben en un Mac Studio Ultra o en un equipo multi-GPU con 80-100 GB de VRAM.
Qwen3 MoE (selección de variantes)
Se han publicado pesos GGUF con cabezas MTP para varias variantes de Qwen3 MoE. Revisa la ficha del modelo en Hugging Face: la presencia de un campo «mtp_layers» o de un sufijo -mtp en el nombre es un buen indicador.
Modelos densos clásicos (Gemma 4, Mistral Small, Qwen 3.5)
Sin MTP nativo. LM Studio no hará nada especial. Para estos modelos, el único equivalente disponible es la decodificación especulativa clásica con un modelo borrador separado.
!
Verificar el GGUF
Un archivo GGUF con la marca « DeepSeek » no contiene necesariamente las cabezas MTP: algunas conversiones de la comunidad las han eliminado para ahorrar unos cientos de Mo. Busca la mención explícita « MTP » o « multi-token » en la descripción del repositorio, o fíjate en el tamaño: un modelo con MTP es un 5-10 % más grande con la misma cuantización.

#Requisitos previos en LM Studio

Versión reciente de LM Studio
Versión 0.3.10 o posterior. Las versiones anteriores utilizan un runtime de llama.cpp anterior a la compatibilidad con MTP y la opción simplemente no aparece en la interfaz.
Runtime de llama.cpp actualizado
El soporte de MTP en llama.cpp llegó a finales de 2024 y se estabilizó durante 2025. LM Studio incluye varias versiones del runtime; debes seleccionar explícitamente la más reciente en la pestaña Runtimes.
VRAM o memoria unificada suficiente
El MTP añade poca sobrecarga de memoria (las cabezas auxiliares son pequeñas), pero aun así hay que cargar el modelo completo. Calcula la VRAM habitual para el tamaño previsto, más un 5-10 % para la caché KV ampliada utilizada durante la verificación.
GPU detectada correctamente
La mejora con MTP solo aparece si la inferencia está limitada por la GPU. En modo solo CPU, el beneficio existe, pero es muy marginal y a veces negativo en los modelos pequeños.

#1. Activar el runtime actualizado

Antes de tocar el modelo, se verifica que LM Studio use una versión de llama.cpp compatible con MTP. Es el paso que más se suele olvidar.

  1. 01
    Abrir los ajustes de Runtimes
    En LM Studio, ve al icono de engranaje (Settings) y luego a la sección «Runtimes» (o «LM Runtimes», según la versión). Allí verás los runtimes instalados: CUDA, Metal, Vulkan, CPU.
  2. 02
    Instalar la última versión
    Haz clic en «Check for updates» junto al runtime de tu plataforma. LM Studio descarga una versión reciente de llama.cpp integrada en la aplicación. La compatibilidad con MTP está presente en todas las compilaciones de 2025 en adelante.
  3. 03
    Comprobar la versión activa
    En la misma sección se muestra la versión utilizada actualmente (por ejemplo, «llama.cpp v0.3.x — CUDA»). Confirma que es posterior a noviembre de 2024. Si coexisten varios entornos de ejecución, selecciona el más reciente como predeterminado.
i
El runtime, no la aplicación
LM Studio y su runtime llama.cpp evolucionan de forma independiente. Una versión antigua de LM Studio puede funcionar perfectamente con un runtime reciente: lo que importa es la versión del runtime incluido para el MTP.

#2. Cargar un modelo con cabeza MTP

Descarga un modelo compatible con MTP desde la pestaña de búsqueda integrada. Escribe «DeepSeek V3» o «Qwen3 MoE» y filtra por las compilaciones GGUF recientes que mencionen MTP. Si no encuentras ninguna, accede directamente a Hugging Face y arrastra el archivo GGUF a la carpeta de modelos de LM Studio.

Ruta del directorio de modelos de LM Studio
# Linux / macOS
~/.lmstudio/models/

# Windows
%USERPROFILE%\.lmstudio\models\

Una vez que el modelo esté visible en la biblioteca, cárgalo normalmente desde la pestaña Chat o la pestaña Local Server. Antes de hacer clic en «Load», abre el panel «Advanced Configuration»: ahí aparecen las opciones MTP cuando el modelo las declara.

→
Una buena señal
Si la opción MTP no aparece en Advanced Configuration, casi siempre es porque las cabezas MTP no se han incluido en el GGUF. Descarga otra variante antes de complicarte la vida.

#3. Ajustar los parámetros MTP

Advanced Configuration suele mostrar tres parámetros relacionados con MTP. Los nombres varían según la versión de LM Studio, pero el principio sigue siendo el mismo.

Enable MTP (o Use MTP heads)
Interruptor principal. Activar. Cuando está desactivado, el modelo ignora sus cabezas auxiliares y se comporta como un modelo clásico.
Tokens propuestos por MTP (n_draft)
Número de tokens propuestos por pasada. Valor típico: 3 o 4. Por encima, la tasa de aceptación cae y la ganancia se evapora. Por debajo (1-2), el coste de verificación se vuelve comparable a la ganancia.
MTP acceptance threshold
Umbral de confianza para aceptar un token propuesto. Por defecto, suele estar alrededor de 0.7. Más alto = más seguridad, pero menos ganancia. Más bajo = más rápido, pero la calidad de la salida puede desviarse sutilmente.
Ejemplo de configuración guardada (model_config.json)
{
  "mtp": {
    "enabled": true,
    "n_draft": 3,
    "acceptance_threshold": 0.7
  },
  "gpu_layers": -1,
  "context_length": 8192
}
!
No bajes el umbral sin probar
Bajar acceptance_threshold a 0.5 aumenta los tokens/segundo entre un 10 % y un 15 %, pero introduce pequeñas desviaciones de estilo en las generaciones largas. Compara tus resultados uno junto al otro antes de dejar fijo este ajuste.

#4. Medir la ganancia real en tu máquina

Activar el MTP sin medir es renunciar a la mitad del beneficio de la guía. LM Studio muestra la velocidad de generación en la parte inferior del chat (tok/s) después de cada generación. El método honesto:

  1. 01
    Preparar 3 prompts representativos
    Un prompt de código (muy estructurado, con una tasa de aceptación esperada alta), un prompt factual en francés y un prompt creativo libre. Guárdalos para poder volver a ejecutarlos exactamente igual.
  2. 02
    Desactivar MTP, medir la línea base
    Liberar el modelo de la memoria, desactivar MTP y volver a cargarlo. Ejecutar cada prompt y anotar el promedio de tok/s en 3 repeticiones. No olvidar excluir la primera ejecución (prefill no comparable).
  3. 03
    Activar MTP, medir
    Descargarlo, volver a activar MTP y volver a cargarlo con exactamente los mismos parámetros (contexto, temperatura, etc.). Repetir los mismos prompts.
  4. 04
    Comparar
    Calcular la relación por prompt. Se espera un factor de 1,5-2× en código, de 1,3-1,7× en textos factuales en francés y de 1,1-1,4× en textos creativos. Por debajo de 1,2× en todos los casos, algo no va bien (runtime demasiado antiguo, cabezas MTP ausentes o GPU saturada por otra actividad).
DeepSeek V3 destilado 32B Q4, RTX 4090
Referencia: ~25 tok/s, MTP activado: ~42 tok/s con un prompt de código Python. En prosa francesa, ~30 tok/s.
DeepSeek V4 Flash en Mac Studio M2 Ultra de 192 GB
Baseline ~14 tok/s, MTP activado ~24 tok/s con código. En texto libre, ~18 tok/s. La mejora es notable incluso en Apple Silicon.
Qwen3 MoE 30B-A3B Q4, RTX 4070 Ti
Velocidad de referencia: ~38 tok/s; con MTP activado: ~55 tok/s al generar JSON. En texto creativo, la mejora se limita a alcanzar ~46 tok/s.

#Ajustes avanzados y combinaciones

El MTP se combina bien con otras optimizaciones disponibles en LM Studio. Algunas combinaciones que funcionan:

MTP + Flash Attention
Activar al mismo tiempo. Flash Attention reduce el consumo de memoria de la caché KV durante la verificación de los borradores, lo que ayuda cuando n_draft es alto.
MTP + Q4_K_M (frente a Q8)
El MTP conserva la calidad incluso con una cuantización Q4 agresiva. No hay razón para subir a Q8 «para compensar»: mantén Q4_K_M y ahorra VRAM.
MTP + contexto amplio
El KV-cache ocupa más memoria con MTP (la verificación almacena más estados intermedios). En un modelo de 32B con un contexto de 32k, calcula entre 1 y 2 GB adicionales de VRAM.
MTP + batch (Local Server)
Si atiendes varias solicitudes simultáneas a través del servidor compatible con OpenAI de LM Studio, la mejora de rendimiento de MTP se suma a la del procesamiento por lotes. Es ahí donde se observan las mayores diferencias.
→
Perfil por uso
Para asistencia de código (Continue.dev, Aider) conectada a LM Studio, aumenta n_draft a 4: el código es tan previsible que la tasa de aceptación se mantiene alta. Para chat general, mantenlo en 3. Para ficción o brainstorming, bájalo a 2 o incluso desactiva el MTP.

#Solución de problemas

La opción MTP no aparece
O bien el runtime es demasiado antiguo —comprueba la versión en Settings → Runtimes—, o bien el modelo GGUF no contiene las cabezas MTP. Descarga una variante marcada explícitamente como MTP.
MTP activado, pero cero ganancia medida
Comprueba que se esté usando la GPU (gpu_layers = -1 o igual al número total de capas). Si solo usas la CPU, el MTP a veces cuesta más de lo que aporta. Comprueba también que ningún otro proceso sature la VRAM.
Salida que se desvía o repeticiones extrañas
Acceptance threshold demasiado bajo. Súbelo a 0,75-0,8. Si el problema persiste, desactiva MTP: existen casos patológicos con prompts muy atípicos.
LM Studio falla durante la carga
Un GGUF mal convertido con cabezas MTP corruptas puede provocar un fallo del entorno de ejecución. Prueba otra cuantización del mismo modelo o un archivo publicado por otro autor en Hugging Face.
Mejora visible en el chat, pero no a través de la API
Verifica que Local Server use la misma configuración que el chat: existe una página de ajustes separada para el servidor, donde MTP debe volver a activarse de forma independiente.
i
Cuándo mantener MTP desactivado
En un ajuste fino personalizado donde sospechas que las cabezas auxiliares no han aprendido bien, en un modelo pequeño ejecutado únicamente en CPU o durante la depuración cuando quieres una salida lo más determinista posible: desactivar el MTP es una decisión razonable.

#Para ir más allá

El MTP es uno de los mecanismos para mejorar el rendimiento que realmente funcionan en local. Algunas ideas complementarias para ir más allá:

Primeros pasos con LM Studio
Si llegas aquí sin haber instalado LM Studio, la guía de inicio cubre las bases antes de abordar los ajustes avanzados.
Convertir LM Studio en servidor API
Para exponer un endpoint compatible con OpenAI y beneficiarte del MTP en todos tus clientes (Continue.dev, Aider, scripts Python).
Plugins de LM Studio: cuáles instalar y cómo
Más allá del MTP, el ecosistema de plugins y el SDK lmstudio-js/python abren otras posibilidades.
¿Esta guía te ha ayudado?

¿Un comentario, un error, una precisión? Avísanos, eso mejora la guía para todos.