¿Qué LLM en RTX 5060 Ti (8 / 16 GB)? ?

#RTX 5060 Ti para un LLM local: qué permiten 16 GB a 448 GB/s

Para un LLM local, una RTX 5060 Ti de 16 GB mantiene íntegramente en VRAM los modelos de hasta 14 a 20 mil millones de parámetros, pero su ancho de banda de 448 GB/s la hace entre dos y tres veces más lenta que las tarjetas de gama alta. Según la biblioteca de Ollama, Qwen3 14B pesa 9,3 GB y gpt-oss 20B, 14 GB. Hardware Corner mide 32,9 tokens por segundo en Qwen3 14B con 16.000 tokens de contexto, y 43,8 en gpt-oss 20B con 128.000 tokens. Los modelos de 27 a 32 mil millones de parámetros, de 17 GB o más, no caben. La versión de 8 GB, por su parte, se limita a modelos de 9 mil millones de parámetros o menos.

Memoria

16 GB o 8 GB de GDDR7 en un bus de 128 bits, según NVIDIA; 448 GB/s de ancho de banda, según Hardware Corner.

Consumo

180 W de potencia gráfica y una fuente de alimentación de 600 W requerida para el sistema, según NVIDIA. Este valor supera los 550 W que suelen circular.

Software

Capacidad de cómputo 12.0, compatible con Ollama con un controlador 550 o más reciente.

#8 GB o 16 GB: la única pregunta que realmente importa

Ambas versiones comparten la GPU y el ancho de banda: solo cambia la capacidad, y es esta la que determina qué puedes ejecutar. NVIDIA ofrece la 5060 Ti en versiones de 16 GB y de 8 GB; la comparación que aparece a continuación utiliza los archivos de la biblioteca de Ollama consultados el 29 de septiembre de 2026.

Con 8 GB, un modelo de 9 mil millones deja 1,4 GB para el contexto y el sistema: es poco, y pronto hay que recurrir a la RAM, que es más lenta. La versión de 16 GB duplica el catálogo y permite usar modelos de 12 a 20 mil millones. Para un uso habitual de LLM, la de 16 GB es la única versión que conserva un margen, aunque siga lejos de una tarjeta de 24 GB.

#Calcular tu margen antes de descargar un modelo

La regla es simple: la capacidad de la tarjeta menos el tamaño del archivo da el margen bruto, y ese margen debe cubrir la caché KV, los búferes del motor y lo que el sistema operativo utiliza para mostrar la imagen en pantalla. Con Qwen3 14B, 16 - 9,3 deja 6,7 GB; con Qwen 3.5 9B en la versión de 8 GB, 8 - 6,6 deja 1,4 GB. Cuanto menor sea el margen, más hay que reducir el contexto y cuantizar la caché. Si ollama ps muestra un reparto entre CPU y GPU, el modelo o su contexto excede la VRAM disponible y pasa en parte a la RAM: la velocidad de generación cae entonces hasta quedar limitada por la velocidad de la memoria RAM.

En la versión de 8 GB, tres hábitos evitan la mayoría de los desbordamientos. Elige un modelo de 9 mil millones o menos, cuyo archivo ocupe menos de 7 GB. Mantén un contexto reducido mientras ollama ps muestre 100 % GPU. Y cierra las aplicaciones que consumen memoria de vídeo, como el navegador o los juegos, antes de ejecutar el modelo.

• Qué LLM elegir para 8 GB de VRAM: modelos para la versión de 8 GB

#Los modelos recomendados para 16 GB

Lo recomendable es empezar con Qwen3 14B o con gpt-oss 20B. Qwen3 14B deja cerca de 7 GB para el contexto. gpt-oss 20B cabe en 14 GB porque, según Ollama, sus pesos de expertos están cuantizados en MXFP4 con 4,25 bits por parámetro, lo que le permite ejecutarse con 16 GB de memoria. Un modelo de 24 mil millones de parámetros en Q4, como Devstral Small 2 (15 GB), solo deja un GB: cabe en memoria para un intercambio corto, pero no para usarlo con un agente. Un RAG local añade un modelo de embeddings: bge-m3 ocupa 1,2 GB en Ollama, lo que suma 7,8 GB en total con Qwen 3.5 9B.

• Qué LLM usar con 16 GB de VRAM: la lista completa para todas las tarjetas

#Instalar Ollama en una RTX 5060 Ti

1. 01
   Verificar el controlador

   Ejecuta nvidia-smi en un terminal: el controlador debe estar en versión 550 o superior (551.61 en Windows) y la memoria total debe mostrar 16 GB, o 8 GB para la otra versión.
2. 02
   Instalar Ollama

   Instala Ollama desde su sitio oficial. La API local escucha en http://localhost:11434.
3. 03
   Ejecutar un modelo

   Ejecuta ollama run qwen3:14b en 16 GB, o ollama run qwen3.5:9b en 8 GB. La descarga se realiza una sola vez.
4. 04
   Controlar la distribución

   En un segundo terminal, ejecuta ollama ps: la columna Procesador debe mostrar 100 % GPU. En 8 GB, una distribución CPU/GPU significa que el modelo o el contexto supera el límite: elige un modelo más ligero.
5. 05
   Ajustar el contexto

   Fija el contexto con OLLAMA_CONTEXT_LENGTH y luego vuelve a ejecutar ollama ps. Si no hay suficiente margen, establece OLLAMA_FLASH_ATTENTION en 1 y OLLAMA_KV_CACHE_TYPE en q8_0 al iniciar.

ollama run qwen3:14b
ollama run gpt-oss:20b
ollama ps

# Exemple de la documentation Ollama : contexte de 64 000 tokens
OLLAMA_CONTEXT_LENGTH=64000 ollama serve

• Instalar Ollama en Windows 11: guía completa

#Tasas de generación medidas: el ancho de banda marca el ritmo

Los números provienen de Hardware Corner, que prueba la versión de 16 GB con llama.cpp usando contextos de 4k a 128k. No son mediciones de QuelLLM.

La generación está limitada por el ancho de banda: el límite teórico equivale aproximadamente al ancho de banda dividido por el tamaño del modelo. Para Qwen3 14B (9,3 GB), 448 ÷ 9,3 da 48 tokens por segundo, y la medición con un contexto de 4k, de 41,1 tokens por segundo, alcanza el 85 % de ese límite. El contexto reduce la velocidad: Qwen3 14B pierde un 37 % entre 4k y 32k (de 41,1 a 25,9). gpt-oss 20B, un modelo de expertos, supera su límite aparente (448 ÷ 14 = 32) con 92,1 tokens por segundo, porque solo lee una parte de sus pesos por token.

Ollama establece el contexto por defecto según la memoria de vídeo: su documentación indica 4k tokens con menos de 24 GiB de VRAM y recomienda al menos 64.000 tokens para los agentes y la búsqueda web. La 5060 Ti entra en la franja de 4k. Según su FAQ, q8_0 reduce la memoria que ocupa la caché KV a aproximadamente la mitad de la que ocupa con f16, con una pérdida de precisión muy pequeña: es el primer ajuste que hay que activar con 16 GB y es indispensable con 8 GB.

• Cuantizar la caché KV para ahorrar VRAM con contextos largos

#5060 Ti frente a otras tarjetas: la diferencia medida

Este gráfico muestra el compromiso de la 5060 Ti: genera casi la mitad más rápido que la 4060 Ti 16 GB (100 ÷ 68), gracias a su memoria GDDR7 (448 contra 288 GB/s), pero sigue lejos de la 5070 Ti, que ofrece la misma capacidad con un 76 % más de velocidad. En cuanto al rendimiento solo, una 4070 Super de 12 GB es más rápida, pero no cumple gpt-oss 20B. Según Hardware Corner, su relación precio/memoria la convierte en la «reina de valor» para principiantes en 2026; compárelo con el seguimiento de precios actuales.

Hardware Corner también señala que dos tarjetas de 16 GB permiten alcanzar 32 GB sin pagar lo que cuesta una tarjeta de gama alta. El reparto entre dos GPU se realiza mediante llama.cpp y su modo tensor-split, detallado en la guía multi-GPU; añade capacidad, no velocidad por tarjeta.

• LLM multi-GPU con llama.cpp: tensor-split en 2 tarjetas

#Veredicto: 16 GB, 8 GB u otra tarjeta

Un método de decisión se reduce a dos preguntas. ¿Cuál es el modelo más grande que deseas lanzar? Si es bajo los 9 mil millones, 8 GB es suficiente; entre 12 y 20 mil millones, se necesitan 16 GB; por encima de eso, se requiere una tarjeta de 24 GB o dos tarjetas. ¿Qué velocidad aceptas? A 40 tokens por segundo en un modelo de 14B, la lectura sigue siendo fluida; la 5070 Ti solo se justifica si generas textos largos o sirves a varias personas.

Para el fine-tuning, Unsloth indica mínimos de VRAM en QLoRA de 4 bits: 6 GB para un modelo de 8 mil millones, 8,5 GB para 14 mil millones, 22 GB para 27 mil millones. La versión de 16 GB permite, por tanto, realizar fine-tuning de un modelo de 14B, con un tamaño de lote de 1 y un contexto corto. Para los precios actuales, consulta nuestro seguimiento, que registra el precio más bajo de cada tarjeta dos veces por semana.

• Precios de las tarjetas gráficas para IA local (actualizados dos veces por semana)

• Fuente: NVIDIA, especificaciones de la familia RTX 5060
• Fuente: Hardware Corner, benchmarks LLM en RTX 5060 Ti 16 GB
• Fuente: Ollama, página del modelo gpt-oss
• Fuente: documentación de Ollama, longitud de contexto
• Fuente: Unsloth, VRAM requerida para el fine-tuning

#Preguntas frecuentes