¿Qué LLM en GTX 1080 Ti (11 GB)? ?

#La GTX 1080 Ti en 2026: lo que tiene, lo que no tiene

La GTX 1080 Ti es una tarjeta Pascal (chip GP102) de 3 584 núcleos CUDA, 11 GB de GDDR5X y 484 GB/s de ancho de banda, con una potencia de 250 W. En el banco de pruebas público de llama.cpp, produce 62,49 tokens/s en generación y 1 084,41 tokens/s en lectura del prompt con un Llama 2 7B en Q4_0. Estos resultados la sitúan al nivel de una RTX 2060 Super en generación, con 3 GB más: es esa capacidad, más que la velocidad, la que justifica seguir interesándose por ella.

La tabla ya contiene la información más importante: en esta tarjeta, el rendimiento en FP16 es aproximadamente 1/64 del rendimiento en FP32. El párrafo siguiente explica por qué esto no supone una desventaja tan grande como se cree.

#Las limitaciones de Pascal, lo que cuenta y lo que no cuenta

Hay tres limitaciones reales. La primera es la ausencia de Tensor Cores, las unidades de cálculo matricial que aparecieron con Volta y Turing: aceleran la lectura del prompt y el entrenamiento, no la generación, que depende de la memoria. La segunda es el FP16, con un rendimiento ridículamente bajo en las GPU Pascal de consumo (aproximadamente 166 GFLOPS frente a 10 609 en FP32): los motores como llama.cpp sortean el problema realizando los cálculos de los modelos cuantizados con números enteros. La tercera es el fin del soporte de software, que se aborda más abajo.

Dos afirmaciones repetidas con frecuencia son falsas. El FP16 no es simplemente el doble de lento, es sesenta veces más lento. Y Flash Attention no está reservada a los Tensor Cores: el banco de pruebas llama.cpp ejecuta la 1080 Ti con Flash Attention activada, a 1 138,14 tokens/s en la lectura del prompt y 61,38 tokens/s en la generación, frente a 1 084,41 y 62,49 sin ella. La mejora en la tasa de procesamiento es pequeña, pero la función está disponible y reduce la memoria del contexto.

#Lo que permiten 11 GB: la tabla de decisión

La referencia del sitio sitúa un 8B en Q4 alrededor de 5 GB y un 14B alrededor de 9 GB, sin contar la caché KV. Con 11 GB, un 12B deja 4 GB de margen y un 14B solo 2 GB. La tabla aplica el rendimiento observado en el banco de pruebas (el 49 % del máximo teórico de 484 GB/s, es decir, 62,49 tokens/s para 3,82 GB de pesos) a los modelos habituales: son proyecciones, no mediciones.

El rango más interesante es el de 12B: es el modelo más grande que sigue funcionando con holgura, con un contexto de varios miles de tokens. En una tarjeta de 8 GB, este mismo modelo deja apenas 1 GB y obliga a reducir drásticamente el contexto. Por encima de ese tamaño, un 14B en Q4 cabe, pero sin margen, y un modelo de 30 mil millones de parámetros no cabe.

#Lo que dicen los benchmarks públicos

QuelLLM no prueba esta tarjeta. El banco de pruebas de la discusión «Performance of llama.cpp on Nvidia CUDA» compara todas las tarjetas con el mismo modelo, lo que permite situar la 1080 Ti frente a las tarjetas próximas a ella.

Se desprenden tres conclusiones. En generación, la 1080 Ti iguala a la RTX 2060 Super y queda un 17 % por detrás de una RTX 3060 de 12 GB. En el procesamiento del prompt, la diferencia aumenta: la RTX 3060 alcanza casi el doble de su velocidad, y la RTX 2080 Ti, con la misma capacidad, alcanza 2,7 veces su velocidad. Por último, la Tesla P40, una tarjeta Pascal de 24 GB, alcanza 54,74 tokens/s: demuestra que esta arquitectura permite alcanzar una capacidad de 24 GB, con una tasa de generación inferior a la de la 1080 Ti.

#Aprovechar los 11 GB: aplicar una cuantización menos agresiva

Una ventaja propia de los 11 GB es poder aumentar la calidad en lugar del tamaño. El catálogo QuelLLM indica para un Granite 4.2 8B: 4,6 GB en Q4, 6 GB en Q5 y 9 GB en Q8. Con 8 GB, solo Q4 deja margen. Con 11 GB, Q5 (6 GB) sigue dejando un margen muy cómodo y Q8 (9 GB) cabe con un contexto corto.

El compromiso es claro: cada nivel de cuantización reduce los errores del modelo, pero ralentiza la generación, ya que se releen más pesos para cada token. Para conversaciones habituales, Q5 ofrece un buen equilibrio; Q8 se justifica por la precisión (extracción, código) cuando la velocidad de generación importa poco. La guía de cuantización detalla la diferencia de calidad.

• Elegir tu cuantización (Q4, Q5, Q8, FP16)

#Dos tarjetas para 22 GB: posible, pero debe verificarse

El banco de pruebas de llama.cpp indica en sus instrucciones que los colaboradores con varias GPU deben forzar el uso de una sola GPU con -sm none -mg, salvo que el modelo sea demasiado grande para la VRAM: por tanto, el motor sí distribuye un modelo entre varias tarjetas. Dos GTX 1080 Ti ofrecerían 22 GB para los pesos, suficientes para alojar un modelo de 32 mil millones de parámetros en Q4 (19 a 20 GB según la referencia del sitio), sin margen para el contexto.

La distribución no suma las velocidades: las capas se reparten entre las tarjetas y pasan por el bus PCIe, lo que limita la ganancia. Este montaje también requiere una caja, una fuente de alimentación y una placa base adecuadas, y duplica la exposición al fin del soporte de Pascal. Para un proyecto que requiera 24 GB, compara primero el coste de una sola tarjeta más reciente.

#Instalar y verificar en cuatro pasos

1. 01
   Comprobar el controlador

   Ejecuta nvidia-smi. Para las tarjetas de compute capability 5.0 a 6.2, como la GTX 1080 Ti, la documentación de Ollama exige un controlador 570 o más reciente.
2. 02
   Instalar Ollama

   Sigue la guía de instalación para tu sistema. Ollama reconoce la tarjeta como GTX 1080 Ti (capacidad de cómputo 6.1) en su lista oficial.
3. 03
   Elegir un modelo adecuado

   Comienza con un 8B en Q4 para validar todo el proceso, luego prueba un 12B con un contexto de 4 096 tokens.
4. 04
   Comprobar dónde se ejecuta

   Inicia ollama ps: la columna PROCESSOR debe indicar 100 % GPU. De lo contrario, reduce el contexto o el modelo.

Si falla la carga, no busques una variable poco habitual para sortear el problema: Ollama activa automáticamente Flash Attention cuando el motor y la tarjeta son compatibles con ella, y la variable documentada es OLLAMA_FLASH_ATTENTION (1 para forzar su activación, 0 para desactivarla). La guía de solución de problemas detalla los errores comunes.

• Instalar Ollama paso a paso
• Solucionar problemas de Ollama: GPU no detectada, lentitud

#Fin de vida de Pascal: lo que hay que planificar

Las notas de versión de CUDA 13 indican que Maxwell, Pascal y Volta ya no son compatibles. Wikipedia informa de que NVIDIA dejó de ofrecer soporte Game Ready para estas arquitecturas en diciembre de 2025, con actualizaciones de seguridad hasta octubre de 2028. Actualmente, la GTX 1080 Ti funciona con Ollama y un controlador de la versión 570 o posterior: el riesgo es que los futuros motores de inferencia solo se orienten a CUDA 13. Anota las versiones de tu controlador y de Ollama antes de cualquier actualización.

#Veredicto: conservarla, sí; comprarla, con condiciones

Para comparar las opciones actuales sin listar precios que cambian cada semana, las páginas del sitio indican los modelos adecuados para cada capacidad de memoria y enlazan a la página de precios de las tarjetas.

• ¿Qué LLM usar en una RTX 3060 de 12 GB?
• ¿Qué LLM en RTX 2080 Ti (11 GB)?
• Qué modelos usar con 12 GB de VRAM, en cualquier tarjeta
• Comparar los precios de las GPU para la IA

• Fuente: benchmark público de llama.cpp con CUDA
• Fuente: documentación de Ollama, hardware NVIDIA compatible
• Fuente: Serie GeForce 10, características
• Fuente: notas de versión del CUDA Toolkit