🇺🇸 Granite 4.1 8B Instruct
Dense 8B Apache 2.0, 12 idiomas, incluido FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Salida 29 de abril de 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Ranking actualizado el 22/09/2026
El Mac mini M2 / M2 Pro (8-32 GB, 100-200 GB/s) sigue siendo un excelente servidor de inferencia silencioso para 7-13B en Q4_K_M. Ventilado, compacto, listo 24/7.
Compara los precios de Mac mini M5 Pro (24 GB / 512 GB) en nuestros comercios asociados (fichas de producto verificadas):
¿Por qué esta elección? Nuestra ficha completa sobre Mac mini M5 Pro (24 GB / 512 GB) →
¿Qué PC elegir según tu presupuesto? Nuestras opciones de 800 a 3 500 € →
Enlaces de afiliados — QuelLLM puede percibir una comisión por las compras, sin coste adicional para ti, lo cual no influye en el ranking (establecido de forma independiente). Como socio de Amazon, QuelLLM obtiene un beneficio de las compras que cumplen las condiciones requeridas.
Dense 8B Apache 2.0, 12 idiomas, incluido FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Salida 29 de abril de 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Granite 4.2 8B (IBM): modelo denso con licencia Apache 2.0, contexto de 128k, ~4,6 GB de VRAM en Q4. Chat, código y razonamiento multilingües para empresas.
ollama pull granite4.2
Ajuste fino SFT «thinking» de OLMo 3 7B: razonamiento paso a paso, contexto de 16k, ~4,2 GB de VRAM en Q4. 100 % abierto, licencia Apache 2.0.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
GLM 5.3 (Zhipu): modelo denso de 7B especializado en código y razonamiento, contexto de 128k, ~4,1 GB de VRAM en Q4. Ligero, funciona en GPU de 6-8 GB, licencia MIT.
ollama pull glm-5.3
Modelo denso de 7B, 100 % abierto (pesos + datos + código). Transparencia total para la investigación.
ollama run olmo-3:7b
Modo híbrido thinking/fast. 119 idiomas, 32k nativo (131k mediante YaRN).
ollama run qwen3:8b
Gemma 4 12B (Google): modelo denso multimodal (texto, visión, audio), 256k de contexto, ~7 GB de VRAM en Q4. Apache 2.0, multilingüe.
# HuggingFace : google/gemma-4-12B
| Puesto | Modelo | Params | VRAM Q4 | Contexto | Licencia | En Apple M2 (16 GB) |
|---|---|---|---|---|---|---|
| #1 | Granite 4.1 8B Instruct | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q8 |
| #2 | Granite 4.2 8B | 8B | 4.6 GB | 128 000 | Apache 2.0 | 32 tok/s · Q8 |
| #3 | OLMo 3 7B Think (SFT) | 7B | 4.2 GB | 16 000 | Apache 2.0 | 32 tok/s · Q8 |
| #4 | GLM 5.3 7B | 7B | 4.1 GB | 128 000 | MIT | 32 tok/s · Q8 |
| #5 | OLMo 3 7B | 7B | 5 GB | 8 192 | Apache 2.0 | 12 tok/s · Q8 |
| #6 | Qwen 3 8B | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q8 |
| #7 | Gemma 4 12B | 12B | 7 GB | 262 144 | Apache 2.0 | 18 tok/s · Q5_K_M |
La IA local en tu Mac, a fondo: memoria unificada, MLX vs GGUF, el modelo adecuado para tu chip, Ollama y LM Studio configurados para Apple Silicon.
Memo gratuito
Recibe el resumen VRAM → mejor modelo de código → comando Ollama (una sola pantalla, copiar y pegar). Y pasa al kit Copiloto Local para convertirlo en una configuración que realmente funcione.
El kit Copiloto Local — las configuraciones de Ollama + Cline + Aider listas para pegar, Modelfiles ajustados, solución de problemas, espacio en línea de por vida →Sin spam. Darte de baja en 1 clic. Tus datos se quedan con nosotros (nunca se venden).
Tu tarjeta → el mejor modelo para programar que puedes ejecutar en local, y el comando exacto de Ollama:
| Tu VRAM | GPU / Mac típicos | Modelo recomendado para programar | Comando Ollama |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6,6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) o Gemma 4 12B (7,6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — especialista en agentes de programación | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — el « casi Copilot » | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — MoE rápido | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — sigue siendo la referencia en este caso concreto. ⚠️ Qwen 3.8: su nivel de razonamiento está configurado muy alto por defecto y «piensa demasiado» ante solicitudes simples — bájalo a low (o desactívalo) en el primer arranque. ⚠️ La trampa de la licencia: Codestral 22B = Mistral Non-Production License → prohibido para programar en el trabajo. Qwen 3.5/3.8, Gemma 4 y Devstral tienen licencia Apache 2.0. 💡 ¿Se cuelga por falta de memoria? Deja ~1,5 GB de VRAM libre para el contexto, o baja un nivel de cuantización.🔌 Para integrarlo en VS Code: Cline (agente que trabaja con varios archivos), Aider (CLI) o Tabby/Twinny (autocompletado FIM) — todos se conectan a Ollama en local. El kit Copiloto Local — configuraciones listas para pegar + configuración probada — está disponible: /copilote-local.
Filtro: modelos de 1-32B cuya versión Q4_K_M cabe en menos de 22 GB (M2 Pro con un máximo de 32 GB). Puntos extra para los de 7-13B (rendimiento óptimo en M2 Pro) y las licencias libres para un servidor compartido.
Criterios considerados:
La puntuación es totalmente transparente: consulta nuestra metodología para conocer los detalles del cálculo de VRAM/tokens/seg.
Mac mini M2 de 8 GB: ¿sigue siendo una opción pertinente en 2026?
Phi-4 Mini 3,8B Q4 o Llama 3.2 3B Q4 funcionan, pero el margen es escaso. Es preferible optar por al menos 16 GB. Consulta la guía para Mac mini M2.
Mac mini M2 Pro 32 GB: ¿cuál es el punto óptimo?
Mistral Nemo 12B Q4 (~7 GB) o Qwen 3 14B Q4 (~8 GB) — 22-28 tok/s. Excelente servidor LLM doméstico para 1-3 usuarios simultáneos a través de la API de Ollama.
¿M2 Pro vs M4 Pro para un servidor LLM?
M4 Pro (273 GB/s) es ~35-40 % más rápido que M2 Pro (200 GB/s) en los mismos modelos. Si lo compras nuevo en 2026, mejor elegir el M4 Pro. Consulta Mac mini M4.
¿Cómo configurar un Mac mini M2 como servidor silencioso?
Ollama + Open WebUI en la LAN, puerto 11434 detrás de un proxy inverso nginx. Arranque automático mediante launchd. Consumo en reposo ~10 W, bajo carga ~35 W. Más silencioso que un PC ITX.