🇺🇸 OLMo 3 7B Think (SFT)
Ajuste fino SFT «thinking» de OLMo 3 7B: razonamiento paso a paso, contexto de 16k, ~4,2 GB de VRAM en Q4. 100 % abierto, licencia Apache 2.0.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
Ranking actualizado el 22/09/2026
La RTX 5060 (8 GB GDDR7, 448 GB/s) es la opción de entrada de Blackwell. 8 GB solo permiten ejecutar modelos de 7-9B en Q4_K_M, pero GDDR7 + Neural Engine proporcionan 35-45 tok/s con Mistral 7B.
RTX 5060 : alternativa de compra disponible para IA local — RTX 5060 Ti 16 GB :
¿Qué PC elegir según tu presupuesto? Nuestras opciones de 800 a 3 500 € →
Enlaces de afiliados — QuelLLM puede percibir una comisión por las compras, sin coste adicional para ti, lo cual no influye en el ranking (establecido de forma independiente). Como socio de Amazon, QuelLLM obtiene un beneficio de las compras que cumplen las condiciones requeridas.
Ajuste fino SFT «thinking» de OLMo 3 7B: razonamiento paso a paso, contexto de 16k, ~4,2 GB de VRAM en Q4. 100 % abierto, licencia Apache 2.0.
# HuggingFace : zimplex/olmo3-7b-think-sft-eosfix-16k-3ep-euc
GLM 5.3 (Zhipu): modelo denso de 7B especializado en código y razonamiento, contexto de 128k, ~4,1 GB de VRAM en Q4. Ligero, funciona en GPU de 6-8 GB, licencia MIT.
ollama pull glm-5.3
Dense 8B Apache 2.0, 12 idiomas, incluido FR, 131k ctx, GQA 32Q/8KV. MMLU 73.84, HumanEval 85.37. Salida 29 de abril de 2026.
# HuggingFace : ibm-granite/granite-4.1-8b
Modelo denso de 7B, 100 % abierto (pesos + datos + código). Transparencia total para la investigación.
ollama run olmo-3:7b
LFM2.5 7B (Liquid AI): Liquid Foundation Model denso, 32k de contexto, 4.1 GB de VRAM en Q4. Optimizado para CPU y edge. Lanzamiento en mayo de 2026.
ollama pull lfm2.5
Granite 4.2 8B (IBM): modelo denso con licencia Apache 2.0, contexto de 128k, ~4,6 GB de VRAM en Q4. Chat, código y razonamiento multilingües para empresas.
ollama pull granite4.2
LFM2.5 DSpark (Liquid AI): Liquid Foundation Model denso de 7B, 32k de contexto, ~4,1 GB de VRAM en Q4. Chat versátil optimizado para edge/CPU.
# HuggingFace : LiquidAI/LFM2.5-DSpark
| Puesto | Modelo | Params | VRAM Q4 | Contexto | Licencia | En RTX 5060 |
|---|---|---|---|---|---|---|
| #1 | OLMo 3 7B Think (SFT) | 7B | 4.2 GB | 16 000 | Apache 2.0 | 32 tok/s · Q8 |
| #2 | GLM 5.3 7B | 7B | 4.1 GB | 128 000 | MIT | 32 tok/s · Q8 |
| #3 | Granite 4.1 8B Instruct | 8B | 5 GB | 131 072 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #4 | OLMo 3 7B | 7B | 5 GB | 8 192 | Apache 2.0 | 12 tok/s · Q5_K_M |
| #5 | LFM2.5 7B | 7B | 4.1 GB | 32 768 | LFM Open License v1.0 | 32 tok/s · Q8 |
| #6 | Granite 4.2 8B | 8B | 4.6 GB | 128 000 | Apache 2.0 | 32 tok/s · Q5_K_M |
| #7 | LFM2.5 DSpark | 7B | 4.1 GB | 32 768 | LFM Open License v1.0 | 32 tok/s · Q8 |
Tu ChatGPT privado y gratuito en tu máquina en 1 hora — LM Studio, Ollama, Open WebUI, tus documentos, sin nube.
Memo gratuito
Recibe el resumen VRAM → mejor modelo de código → comando Ollama (una sola pantalla, copiar y pegar). Y pasa al kit Copiloto Local para convertirlo en una configuración que realmente funcione.
El kit Copiloto Local — las configuraciones de Ollama + Cline + Aider listas para pegar, Modelfiles ajustados, solución de problemas, espacio en línea de por vida →Sin spam. Darte de baja en 1 clic. Tus datos se quedan con nosotros (nunca se venden).
Tu tarjeta → el mejor modelo para programar que puedes ejecutar en local, y el comando exacto de Ollama:
| Tu VRAM | GPU / Mac típicos | Modelo recomendado para programar | Comando Ollama |
|---|---|---|---|
| 8 GB | RTX 4060 / 3060 · M1-M2 16 GB | Qwen 3.5 9B (Q4, 6,6 GB — 256k ctx) | ollama run qwen3.5:9b |
| 12 GB | RTX 3060 12 GB / 4070 / 5070 | Qwen 3.5 9B (Q8, 11 GB) o Gemma 4 12B (7,6 GB) | ollama run qwen3.5:9b-q8_0 |
| 16 GB | RTX 5070 Ti / 4080 / 5080 · RX 9070 XT · M4 24 GB | Devstral 24B (Q4, 14 GB) — especialista en agentes de programación | ollama run devstral:24b |
| 24 GB | RTX 3090 / 4090 · RX 7900 XTX · M4 Pro 48 GB | Qwen 3.8 27B (Q4, 18 GB) — el « casi Copilot » | ollama run qwen3.8:27b |
| 32 GB | RTX 5090 | Qwen 3.6 35B-A3B (Q4, 23 GB) — MoE rápido | ollama run qwen3.6:35b |
| 48 GB+ | Mac M4 Max 64 GB · M2 Ultra 128 GB | Qwen3-Coder 30B-A3B (Q8, 32 GB — 256k ctx) | ollama run qwen3-coder:30b-a3b-q8_0 |
-base : ollama run qwen2.5-coder:7b-base — sigue siendo la referencia en este caso concreto. ⚠️ Qwen 3.8: su nivel de razonamiento está configurado muy alto por defecto y «piensa demasiado» ante solicitudes simples — bájalo a low (o desactívalo) en el primer arranque. ⚠️ La trampa de la licencia: Codestral 22B = Mistral Non-Production License → prohibido para programar en el trabajo. Qwen 3.5/3.8, Gemma 4 y Devstral tienen licencia Apache 2.0. 💡 ¿Se cuelga por falta de memoria? Deja ~1,5 GB de VRAM libre para el contexto, o baja un nivel de cuantización.🔌 Para integrarlo en VS Code: Cline (agente que trabaja con varios archivos), Aider (CLI) o Tabby/Twinny (autocompletado FIM) — todos se conectan a Ollama en local. El kit Copiloto Local — configuraciones listas para pegar + configuración probada — está disponible: /copilote-local.
Filtro: Q4_K_M ≤ 7 GB (deja 1 GB para el contexto). Bonificación para 3-9B (pico de 8 GB) y ≤ 7B (sin swap). 448 GB/s = tasa de generación aceptable para la gama de entrada.
Criterios considerados:
La puntuación es totalmente transparente: consulta nuestra metodología para conocer los detalles del cálculo de VRAM/tokens/seg.
¿RTX 5060 vs RTX 4060?
Los mismos 8 GB. 5060 GDDR7 448 GB/s vs 4060 GDDR6 272 GB/s = ~65 % de mejora. Mistral 7B Q4: 5060 ~40 tok/s vs 4060 ~24 tok/s. Ver RTX 4060.
¿Son suficientes 8 GB para empezar con un LLM local?
Sí: Mistral 7B Q4 (~4,5 GB), Qwen 3 8B Q4 (~5 GB) y Llama 3.2 3B Q4 (~2 GB) son todos excelentes. Para 13B+, se necesitan 12 GB (RTX 5070). Consulta clasificación para 8 GB de VRAM.
¿RTX 5060 o 5060 Ti 16?
5060 = gama de entrada, 8 GB (~340 €). 5060 Ti 16 = gama media, 16 GB (~480 €). El salto de +150 € permite ejecutar modelos de 24B (Mistral Small Q4). Si el presupuesto lo permite, 5060 Ti 16. Ver RTX 5060 Ti 16GB.
¿Qué cuantización usar en la 5060?
Q5_K_M para 7B (5,5 GB, calidad máxima). Q4_K_M para 8-9B (5 a 5,5 GB). Q4_0 para hacer caber un modelo de 13B (~7 GB), pero con calidad reducida. Quédate con 7B Q5 para el punto óptimo.