Precio de las tarjetas gráficas para laIA local

¿Qué tarjeta gráfica comprar para ejecutar un LLM localmente?

Mira primero la memoria de vídeo (VRAM): el modelo debe caber por completo en ella; de lo contrario, parte del modelo pasa a la memoria del PC y la velocidad cae en picado. En Q4, 12 GB bastan para modelos de hasta unos 14 mil millones de parámetros, 16 GB para hasta unos 24 mil millones, entre 24 y 32 GB para modelos de 30 a 35 mil millones y 48 GB para hasta unos 70 mil millones. A igual capacidad de memoria, el ancho de banda marca la diferencia: determina la velocidad de generación.

¿NVIDIA, AMD o Intel para la IA local?

NVIDIA sigue siendo la opción más sencilla: todas las herramientas (Ollama, LM Studio, llama.cpp, vLLM) admiten CUDA. Ollama (ROCm 7), LM Studio y llama.cpp admiten las Radeon RX 9000 y AI PRO R9700, aunque a veces requieren algo más de configuración. Las Intel Arc funcionan principalmente mediante Vulkan o SYCL (llama.cpp, LM Studio) y OpenVINO: suelen ofrecer la VRAM más barata, pero tienen el ecosistema menos maduro.

¿Vale la RTX 5090 lo que cuesta para la IA?

Es la tarjeta para el gran público más rápida (1 792 GB/s) con 32 GB, pero cuesta 6 999,95 € según el último registro de precios, frente a 2 349 € en su lanzamiento. Para disponer de 32 GB, una Radeon AI PRO R9700 (2 199,95 €) o una Intel Arc Pro B70 (1 899,95 €) cuesta mucho menos, con una velocidad aproximadamente 2,8 veces menor. Para los modelos muy grandes, un mini-PC con 128 GB de memoria unificada sigue siendo la alternativa.

¿De dónde vienen estos precios y cuándo se actualizan?

Del catálogo de productos de Materiel.net, nuestro socio, cuyos datos recogemos automáticamente cada lunes y cada jueves. Para cada chip, seleccionamos la tarjeta más barata en stock o que se envíe en un plazo de 7 días, independientemente de la marca. Los precios de Amazon no se archivan: Amazon solo permite mostrar precios recientes, por lo que aparecen en tiempo real en los botones. Los enlaces son de afiliación: una compra nos genera una comisión, sin coste adicional para ti, y no influye en la clasificación, que se calcula automáticamente.

¿Cómo se estima la velocidad?

Para generar cada token, la tarjeta vuelve a leer todo el modelo en memoria: la velocidad máxima equivale aproximadamente al ancho de banda dividido por el tamaño del modelo. Tomamos el 70 % de ese valor para un modelo de 14 mil millones de parámetros en Q4 (unos 9 GB). Las mediciones reales varían según el software y los controladores: es un orden de magnitud para comparar tarjetas, no una promesa.