¿Qué LLM en MacBook Pro M2 Pro / Max (16–96 GB)? ?

#MacBook Pro M2 Pro / Max en 2026: la ficha técnica útil

En su presentación, Apple anunciaba para el M2 Pro un ancho de banda de 200 GB/s y hasta 32 GB de memoria unificada, y para el M2 Max, 400 GB/s, hasta 96 GB y una GPU de hasta 38 núcleos. Apple presentaba esos 96 GB como una ampliación de los límites de la memoria gráfica en un portátil. La memoria está soldada al procesador, por lo que la configuración se elige al comprar el equipo y ya no se puede cambiar.

La refrigeración activa es el segundo punto a favor respecto a un MacBook Air: el MacBook Pro puede mantener cargas prolongadas sin que el chip tenga que reducir notablemente su velocidad. Apple también ofrece, en algunos modelos, un modo de alta potencia que permite que los ventiladores giren más rápido; es un ajuste que puedes probar durante las generaciones largas, a costa de un ruido adicional.

#M2 Pro o M2 Max: qué cambia realmente el ancho de banda

La generación de texto lee todos los pesos activos del modelo con cada token. Por tanto, la velocidad máxima es el ancho de banda dividido por el tamaño de los pesos. Un M2 Max con 400 GB/s puede, en teoría, ser dos veces más rápido que un M2 Pro con 200 GB/s. Las mediciones publicadas en el repositorio llama.cpp muestran que esto solo se cumple en parte.

En un modelo de 7B en Q4_0, el M2 Max solo ofrece entre 1,6 y 1,7 veces el rendimiento del M2 Pro. En el mismo modelo en F16, de aproximadamente 13 GB, la diferencia sube hasta casi 1,9 veces. El cálculo lo explica: un modelo pequeño se lee tan rápido que otras limitaciones (cálculo, latencia, sobrecarga) pasan a dominar, mientras que un modelo grande realmente satura la memoria. La consecuencia práctica es contraintuitiva: cuanto más grande es el modelo, mejor justifica el M2 Max su precio. Para un 7B, un M2 Pro es más que suficiente.

#De 16 a 96 GB: lo que cabe y lo que va justo

En Apple Silicon, la GPU no tiene acceso a toda la memoria por defecto: según las discusiones del repositorio llama.cpp, Metal le asigna entre dos tercios y tres cuartos. Con 16 GB, cuenta con unos 10 a 12 GB para el modelo y su contexto; con 96 GB, unos 64 a 72 GB. El límite se puede aumentar mediante un ajuste del sistema detallado en la guía dedicada, pero superarlo puede bloquear el equipo.

Los modelos MoE como Qwen3-Coder 30B-A3B o Qwen 3.6 35B-A3B pesan 19 y 21 GB, pero activan solo alrededor de 3 mil millones de parámetros por token: con la misma memoria, generan claramente más rápido que un modelo denso de 27B. Es la opción más rentable con 32 GB. Con 96 GB, el atractivo del M2 Max radica menos en cargar un único modelo muy grande que en mantener dos modelos en memoria a la vez, por ejemplo, uno de chat y otro de código.

• Calculadora de memoria para un modelo y su contexto
• Comprender la ventana de contexto

#Velocidades publicadas: lo que se puede afirmar y lo que no se puede

No tenemos mediciones propias en esta máquina, y los tokens por segundo dependen del modelo, de la cuantización, del contexto y de la versión de llama.cpp o de Ollama. Las únicas mediciones que citamos son las publicadas por usuarios con un Llama 7B, que sirven para hacerse una idea del orden de magnitud. Para un modelo más reciente, dividir el ancho de banda entre el peso sigue siendo una buena práctica, con el margen de error indicado más arriba.

El procesamiento del prompt sigue otra lógica: la tabla de llama.cpp indica, para este mismo Llama 7B en F16, 384 t/s de procesamiento del prompt en un M2 Pro con 19 núcleos y 756 t/s en un M2 Max con 38 núcleos. El número de núcleos de la GPU influye en esta fase, no en la generación. Para un RAG o el análisis de un documento largo, un M2 Max tendrá, por tanto, un tiempo de espera hasta la primera palabra de aproximadamente la mitad que un M2 Pro.

#Instalar Ollama y usarlo correctamente en Mac

Ollama requiere macOS Sonoma (14) o una versión más reciente. En Mac, las preguntas frecuentes oficiales aclaran que, cuando Ollama se ejecuta como aplicación, sus variables de entorno se definen con launchctl y después hay que volver a iniciar la aplicación. Las variables exportadas en un terminal no bastan: la aplicación no las ve.

launchctl setenv OLLAMA_FLASH_ATTENTION 1
launchctl setenv OLLAMA_KV_CACHE_TYPE q8_0
# puis quitter et relancer l'application Ollama

La FAQ de Ollama indica que la caché K/V cuantizada en q8_0 utiliza aproximadamente la mitad de la memoria del formato f16 predeterminado y que Flash Attention debe estar activado para aprovecharla. En un modelo de 70B con un contexto largo, este ajuste permite que la caché quepa en la memoria. Una limitación que debes conocer: la cuantización de la caché puede degradar ligeramente la calidad en algunos modelos; pruébala en tus casos de uso antes de mantener este ajuste.

#¿Qué modelo para qué uso?

Chat generalista

Un modelo de 8 a 12B (Qwen 3.5 9B, Gemma 4 12B) responde rápido en M2 Pro; un modelo de 27B se vuelve interesante a partir de 32 GB para un francés más cuidado.

Código

Un modelo MoE de código como Qwen3-Coder 30B-A3B en 32 GB o más, o un modelo de agente de código de 24B como Devstral Small 2 (14 GB en Q4). Para autocompletado en línea, un modelo de 7B basta.

RAG documental

Gemma 4 12B en velocidad, un modelo de 24B en calidad de razonamiento; limita el contexto para no alargar la espera antes de la primera palabra.

Análisis extensos, agentes

Con 64 GB o más: Qwen 3.6 35B-A3B como MoE rápido, o un 70B para priorizar la calidad, siempre que aceptes alrededor de 10 t/s en el mejor de los casos (400 ÷ 40).

Un aspecto que conviene tener en cuenta con los modelos de razonamiento: generan largos bloques de reflexión antes de responder, lo que multiplica el número de tokens que deben generar. En una máquina que genera 60 t/s, diez mil tokens de reflexión tardan casi tres minutos. Para preguntas sencillas, desactiva el modo de reflexión cuando el modelo lo permita.

• Ajustes de macOS y Metal para Apple Silicon
• MLX o llama.cpp en Mac

#Con batería y bajo carga prolongada: lo que cambia

El MacBook Pro está diseñado para mantener el rendimiento durante más tiempo que un Air, pero sigue siendo un portátil. Dos ajustes influyen en las velocidades de procesamiento: el modo de alimentación (con batería, macOS puede limitar la potencia) y, en los modelos que lo ofrecen, el modo de alta potencia. Según Apple, este modo permite que los ventiladores giren más rápido para mantener un mejor rendimiento con cargas de trabajo muy intensivas, a costa de más ruido. Para una generación de varios minutos, conecta el equipo a la corriente y prueba este modo.

• Optimizar el enfriamiento para la inferencia

#¿Conviene pasar a un M4 Max?

El M4 Max alcanza 546 GB/s y 128 GB de memoria según Apple. En la tabla de llama.cpp, un Llama de 7B en Q4_0 pasa de 65,95 t/s en M2 Max 38 núcleos a 83,06 t/s en M4 Max 40 núcleos: aproximadamente un 26 % más. La mejora es real para un uso intenso, pero el M2 Max de 96 GB mantiene una ventaja de capacidad respecto a un M4 Pro limitado a 64 GB.

• MacBook Pro M3
• MacBook Pro M4
• Mac Studio de 64 a 512 GB
• Ficha de hardware: MacBook Pro M4 Max
• Fuente: mediciones de llama.cpp en chips Apple
• Fuente: Apple, lanzamiento del MacBook Pro M2 Pro y M2 Max
• Fuente: FAQ oficial de Ollama

#Preguntas frecuentes