Mejor LLM en Radeon RX 9070 XT (16 GB) en 2026

Identificar el mejor LLM para la RX 9070 XT exige entender dos restricciones interrelacionadas: 16 GB de VRAM GDDR6 y el ecosistema ROCm de AMD, ahora funcional en la arquitectura RDNA4. La RX 9070 XT representa en 2026 el punto de entrada más accesible para ejecutar modelos de 27 mil millones de parámetros con cuantización Q4 en GPU de consumo bajo Linux o Windows. Esta guía analiza las especificaciones del hardware, selecciona los modelos del catálogo quelllm.fr adecuados para esta tarjeta, compara las licencias, ofrece referencias de velocidad y propone recomendaciones según el caso de uso.

RX 9070 XT y ROCm: lo que debes saber antes de elegir un modelo

La Radeon RX 9070 XT incorpora 16 GB de memoria GDDR6 con un bus de 256 bits, lo que proporciona un ancho de banda teórico de aproximadamente 576 GB/s. La arquitectura RDNA4 cuenta con soporte desde ROCm 6.x, lo que permite usar llama.cpp compilado con el backend HIP, Ollama ≥ 0.3.x o LM Studio — siempre que se disponga de los drivers amdgpu recientes en Linux, o de una instalación de ROCm para Windows.

Puntos clave antes de lanzar un modelo:

• VRAM utilizable : ~15,5 GB en la práctica, descontando la memoria utilizada por el sistema y los controladores
• Ancho de banda : ~576 GB/s (estimado), frente a ~1 008 GB/s para una RTX 4090 — la velocidad de inferencia se reduce proporcionalmente
• Backend más estable : llama.cpp con -DGGML_HIPBLAS=ON en Linux
• Compatibilidad : verificar la matriz de compatibilidad AMD para tu kernel y tu controlador exactos
• Precisión nativa : las unidades de cálculo RDNA4 admiten FP16

La buena noticia: los modelos alrededor de 27B con cuantización Q4 son perfectamente adecuados para 16 GB, y la familia de 24B ofrece un margen cómodo para contextos largos.

¿Qué modelos caben en 16 GB de VRAM?

La regla aproximada para Q4 es de unos 0,55 GB por mil millones de parámetros. Un modelo de 27B ocupa, por tanto, ~15-16 GB en Q4, uno de 24B ~13-14 GB y uno de 32B ~18-19 GB, por encima del límite.

Modelos de 26-27B compatibles de forma nativa en Q4 (≤ 16 GB)

• Gemma 2 27B — VRAM Q4 : ~16 GB, ctx : 8 192
• Gemma 3 27B — VRAM Q4 : ~16 GB, ctx : 128 000
• Qwen 3.5 27B — VRAM Q4 : ~16 GB, ctx : 262 000
• Qwen 3.6 27B — VRAM Q4 : ~16 GB, ctx : 262 144
• Qwen 3.8 27B — VRAM Q4 : ~16 GB, ctx : 262 144
• Gemma 4 26B-A4B MoE — VRAM Q4 : ~16 GB, ctx : 128 000, arquitectura mixture-of-experts
• Trinity Mini 26B-A3B — VRAM Q4 : ~15 GB, ctx : 131 072

Modelos 24B (margen cómodo, 2-3 GB libres)

• Mistral Small 3.2 24B — VRAM Q4 : ~14 GB
• Magistral Small 24B — VRAM Q4 : ~14 GB
• Devstral Small 2 24B — VRAM Q4 : ~14 GB, ctx : 256 000

Modelos 20-22B (gran margen, ~3-5 GB libres)

• Codestral 22B v0.1 — VRAM Q4 : ~13 GB, ctx : 32 000
• EuroLLM 22B Instruct 2512 — VRAM Q4 : ~13 GB, europeo multilingüe
• gpt-oss 20B — VRAM Q4 : ~13 GB, ctx : 128 000

Nota sobre los 32B : en Q4 (~19 GB), superan los 16 GB disponibles. En Q3 (~13-14 GB, es decir ~0,42 GB/B), es técnicamente posible con una pérdida de precisión medible. En la 9070 XT, mantener los 27B en Q4 sigue siendo la opción más razonable.

Top 5 de los modelos recomendados para la RX 9070 XT

1. Qwen 3.8 27B — polivalencia y contexto largo

Qwen 3.8 27B es la versión más avanzada de la serie Qwen 3.x en el rango de 27B, publicada por Alibaba bajo licencia Apache 2.0. Su contexto de 262.144 tokens es uno de los más amplios disponibles en este rango de tamaño. Ocupa íntegramente los 16 GB en Q4 sin desbordarse a la RAM del sistema.

• Licencia : Apache 2.0 (uso comercial autorizado)
• VRAM Q4 : ~16 GB
• Contexto : 262 144 tokens
• Puntos fuertes : razonamiento general, código, preguntas de larga distancia
• Velocidad estimada : 20-30 tokens/s en una RX 9070 XT (estimado a partir de un benchmark de la comunidad, proporcional al ancho de banda)

2. Gemma 3 27B — rendimiento validado, contexto 128 k

Gemma 3 27B de Google ofrece 128 000 tokens de contexto y una arquitectura bien documentada. Su rendimiento en el Open LLM Leaderboard de Hugging Face lo sitúan entre los referentes en la categoría de 27B para la comprensión y el seguimiento de instrucciones.

• Licencia : Gemma (restricciones para ciertos usos comerciales — ver Términos y condiciones de Google)
• VRAM Q4 : ~16 GB
• Contexto : 128 000 tokens
• Puntos fuertes : comprensión de relaciones a larga distancia, seguimiento preciso de instrucciones

3. Magistral Small 24B — razonamiento estructurado

Magistral Small 24B de Mistral AI está diseñado para tareas de razonamiento multietapa y análisis estructurado. Con ~14 GB en Q4, deja 2 GB de margen en la 9070 XT, útil para mantener un contexto de sistema amplio en producción.

• Licencia : Apache 2.0
• VRAM Q4 : ~14 GB
• Contexto : 128 000 tokens
• Puntos fuertes : análisis, resumen estructurado, agente que actúa por etapas, razonamiento en cadena

4. Devstral Small 2 24B — agente de desarrollo de software

Devstral Small 2 24B (Apache 2.0, Mistral AI) se orienta explícitamente a los agentes de desarrollo con un contexto excepcional de 256 000 tokens. Puede procesar una base de código entera en una sola pasada, lo que lo hace pertinente para la revisión automatizada, la generación de pruebas o la documentación.

• Licencia : Apache 2.0
• VRAM Q4 : ~14 GB
• Contexto : 256 000 tokens
• Puntos fuertes : generación de código, refactorización, lectura de una base de código extensa

5. Codestral 22B v0.1 — especialista en código, ligero

Codestral 22B v0.1 de Mistral AI es una de las referencias entre los modelos de código de menos de 23B. Admite fill-in-the-middle (FIM) y alcanza puntuaciones en HumanEval superiores a las de los modelos generalistas del mismo tamaño (puntuaciones exactas en GGUF Q4: por confirmar). Pesa solo ~13 GB en Q4.

• Licencia : Mistral Non-Production License (uso exclusivamente no comercial)
• VRAM Q4 : ~13 GB
• Contexto : 32.000 tokens
• Puntos fuertes : completado de código, FIM, integración en IDE

Licencias: Apache 2.0, MIT, Gemma — lo que cambia según el uso

La elección de la licencia condiciona el uso en una empresa o en un producto.

Licencias libres para uso comercial (Apache 2.0 o MIT)

• Qwen 3.5 27B, Qwen 3.6 27B, Qwen 3.8 27B — Apache 2.0
• Trinity Mini 26B-A3B — Apache 2.0
• Magistral Small 24B, Devstral Small 2 24B, Mistral Small 3.2 24B — Apache 2.0
• EuroLLM 22B Instruct 2512, gpt-oss 20B — Apache 2.0
• Phi-4 14B — MIT

Licencias restringidas

• Licencia Gemma (Gemma 2 27B, Gemma 3 27B, Gemma 4 26B-A4B MoE): requiere la aceptación de las condiciones de uso de Google Gemma ; ciertos usos comerciales están sujetos a restricciones
• Mistral Non-Production License : Codestral 22B está reservado para contextos no comerciales y de investigación

Para una visión resumida de las licencias disponibles en el catálogo, consultar el guía de licencias de LLM con pesos abiertos.

Pruebas y rendimiento esperado en RX 9070 XT

Las puntuaciones a continuación provienen de publicaciones oficiales o de benchmarks comunitarios. Las velocidades de inferencia en RX 9070 XT son estimadas a partir de mediciones en otras GPU ponderadas por el ancho de banda de memoria respectivo.

MMLU — evaluación general

• Serie Qwen 3.x 27B: rendimiento en MMLU superior al 75 % en 5-shot, según lo publicado en la página de Qwen en HuggingFace para las variantes de este tamaño (a confirmar en Q4)
• Gemma 3 27B : resultados publicados por Google en la documentación oficial de Gemma — verificar la degradación en Q4 según el nivel de cuantización
• Magistral Small 24B: métricas de razonamiento publicadas por Mistral AI en las notas de versión

HumanEval — generación de código

• Devstral Small 2 24B: diseñado para agentes de programación, puntuación en HumanEval superior a la de los modelos generalistas del mismo tamaño (por confirmar en GGUF Q4)
• Codestral 22B: referencia en la categoría de código de menos de 23B según los benchmarks comunitarios publicados en r/LocalLLaMA

Velocidad de inferencia (estimada)

• Modelos de 27B en Q4: 20-35 tokens/s en RX 9070 XT
• Modelos 24B Q4 : 35-50 tokens/s
• Modelos 14-22B Q4: 50-80 tokens/s

Estos rangos dependen del backend (llama.cpp HIP vs ROCm nativo), del nivel de paralelismo y de la longitud del contexto activo. Con un contexto cercano al máximo (262 k tokens), la velocidad disminuye significativamente.

Casos de uso concretos

Desarrollo de software y revisión de código Devstral Small 2 24B para agentes que trabajan con múltiples archivos y proyectos de gran tamaño; Codestral 22B para el autocompletado y el FIM en un IDE. Ambos se ejecutan con margen en la 9070 XT.

Análisis de documentos largos Qwen 3.8 27B con sus 262.144 tokens de contexto permite analizar contratos o informes voluminosos en una sola consulta. Gemma 3 27B (128 000 tokens) es una alternativa sólida bajo licencia Gemma.

Multilingüismo y francés EuroLLM 22B Instruct 2512 está entrenado específicamente en lenguas europeas como el francés, alemán y español. Se ejecuta con aproximadamente 3 GB de margen en la 9070 XT.

Modelo rápido y ligero Phi-4 14B (MIT, Microsoft) ocupa ~9 GB en Q4 y libera 7 GB para un contexto muy amplio o sesiones simultáneas. Pertinente cuando la velocidad es más importante que el tamaño del modelo.

Razonamiento y agentes Magistral Small 24B para cadenas de razonamiento estructuradas y agentes simples. Trinity Mini 26B-A3B (Apache 2.0, Arcee AI), con ~15 GB en Q4, ofrece un buen equilibrio entre razonamiento y tamaño.

Para comparar dos modelos directamente, usar el comparador quelllm.fr.

FAQ

P: ¿ROCm ofrece buen soporte para la RX 9070 XT?

ROCm 6.x incluye soporte para la arquitectura RDNA4 (navi48). En Linux con los controladores amdgpu-dkms recientes, llama.cpp HIP funciona de forma estable. En Windows, ROCm for Windows aún está madurando — consultar la matriz de compatibilidad AMD antes de cualquier configuración. El rendimiento bajo Linux suele ser mejor que en entornos Windows por el momento.

P: ¿Se puede ejecutar un modelo de 32B en una RX 9070 XT con 16 GB?

En Q4 (~19 GB para un 32B), no: se supera la capacidad de la VRAM. En Q3 (~13-14 GB), es posible con una pérdida notable de precisión. En la práctica, los modelos de 27B en Q4 ofrecen una mejor relación calidad/tamaño en esta tarjeta: mismo nivel de inferencia, toda la precisión de Q4 y sin riesgo de exceder la capacidad de la VRAM.

P: ¿Qué cuantización elegir entre Q4, Q5 y Q8?

Q4_K_M es el mejor punto de partida: pérdida de calidad baja y tamaño reducido a la mitad en comparación con FP16. Q5_K_M mejora la precisión a costa de aproximadamente un 25 % más de VRAM. Q8_0 se aproxima a FP16, pero supera los 16 GB para la mayoría de los modelos de 27B. En la 9070 XT, Q4_K_M para modelos de 27B o Q5_K_M para modelos de 24B son opciones razonables. Un modelo de 27B íntegramente en FP16 (~30 GB) queda fuera de alcance.

P: ¿Funciona Ollama en la RX 9070 XT bajo Linux?

Sí. Ollama ≥ 0.3.x detecta automáticamente las GPU AMD compatibles con ROCm en Linux si los controladores amdgpu-dkms están correctamente instalados. No se requiere configuración manual en la mayoría de los casos. En Windows, la compatibilidad depende de la versión de ROCm for Windows disponible en el momento de la instalación.

P: ¿Qué modelo recomiendas para el francés cotidiano?

EuroLLM 22B Instruct 2512 es el más orientado a las lenguas europeas. Mistral Small 3.2 24B de Mistral AI (Apache 2.0) ofrece un excelente rendimiento en francés para tareas generales y redacción asistida, con un buen margen en la 9070 XT.

P: Qwen 3.8 27B o Gemma 3 27B: ¿cuál elegir?

Los dos ocupan ~16 GB en Q4. Qwen 3.8 27B está bajo Apache 2.0 (uso comercial libre) y ofrece un contexto más amplio (262 144 vs 128 000 tokens). Gemma 3 27B está sujeto a la licencia Gemma, más restrictiva para los usos comerciales. Si la licencia no influye en la elección, las puntuaciones respectivas en el Open LLM Leaderboard permiten tomar decisiones según tu tarea específica.

Conclusión

Le mejor LLM para la RX 9070 XT en 2026 se sitúa en el rango de 24-27B: Qwen 3.8 27B y Gemma 3 27B para la versatilidad general, Devstral Small 2 24B y Codestral 22B para el desarrollo de software, EuroLLM 22B para el multilingüismo europeo y Magistral Small 24B para el razonamiento estructurado. Con 16 GB de VRAM RDNA4 y ROCm, esta tarjeta permite alcanzar un nivel de rendimiento considerable en un entorno autoalojado. Explora el catálogo completo de quelllm.fr o utiliza el configurador para afinar tu selección según tu GPU, tu licencia objetivo y tu caso de uso.