Tres modelos, una máquina, pruebas
Prueba del 12 de septiembre de 2026 en RTX 5070 Ti Laptop: 12 227 MiB registrados, Ollama, contexto de 4096, una solicitud a la vez. Ninguna extrapolación a la versión de escritorio, a una RTX 5090 ni a un Mac.
Las antiguas matrices para varias máquinas se retiraron por falta de artefactos que permitieran verificarlas. Este documento publica las mediciones de esta prueba, con un calentamiento y después cinco repeticiones por modelo; las de la serie AI TOP ATOM tienen su propia sección, más abajo.
| Modelo | Cuantización | Mediana de tok/s | Min–max | Código FR | Documentos en francés |
|---|---|---|---|---|---|
| qwen3:8b | Q4_K_M | 59.71 | 59.45–59.96 | Correcto | Contenido factual y formato correctos |
| hermes3:8b | Q4_0 | 71.97 | 71.79–72.15 | Fallo | Hechos exitosos, claves diferentes |
| mistral-nemo:12b | Q4_0 | 47.44 | 47.37–47.56 | Correcto | Contenido factual y formato correctos |
Lo que permite afirmar esta prueba
Hermes3 genera más rápido en este test, pero su función no elimina correctamente los duplicados y ordena los valores. Qwen3 y Mistral Nemo resuelven correctamente este ejercicio. Una tasa de generación no demuestra por sí sola la calidad. Una tarea de código y una extracción sintética no son suficientes para clasificar los modelos para todos los usos; la salida de Hermes3 también alcanza el límite de 256 tokens.
Reproducir y examinar los datos
- Protocolo, parámetros y límites
- Respuestas completas y asignaciones de GPU — JSON sin procesar
- Todas las repeticiones — CSV
- Resultados, identificadores y cuantizaciones
- Hardware, versiones y estado inicial
- Script reproducible
- Dosier completo, entradas y salidas incluidas
El procesamiento del prompt y la generación están separados en los datos sin procesar. La caché del prefijo puede influir en el primero; el rendimiento mostrado corresponde únicamente a la generación. No es una medida de energía ni la latencia total de la aplicación.
Serie AI TOP ATOM (GIGABYTE), octubre de 2026
Nuestra serie sobre AI TOP ATOM (chip NVIDIA GB10, 128 GB), proporcionada gratuitamente por GIGABYTE, cuenta con 7 guías publicadas una por semana desde el 8 de octubre de 2026. Cada guía publica aquí sus datos: cada tabla tal como aparece en la guía, en formato CSV (separador punto y coma, UTF-8, encabezado en la primera línea), junto con el método y las huellas digitales de los modelos. Datos, infografías y fotos de la serie: licencia CC BY 4.0, reutilización libre citando QuéLLM.
- Método de medición y adendas fechadas
- Huellas SHA-256 de los 27 archivos de modelos de la guía 1, comparadas con Hugging Face
- Guía 6: las 100 respuestas del asistente, anotadas una por una con su justificación (CSV)
- Guía 1: qué LLM funcionan realmente con 128 GB: tabla 1 · tabla 2 · tabla 3 · tabla 4 · tabla 5 · tabla 6
- Guía 2: AI TOP ATOM y DGX Spark: tabla 1 · tabla 2 · tabla 3 · tabla 4 · tabla 5 · tabla 6
- Guía 3: GB10, Ryzen AI Max+ 395 o Mac: tabla 1 · tabla 2 · tabla 3 · tabla 4 · tabla 5
- Guía 4: un LLM 70B local: tabla 1 · tabla 2 · tabla 3 · tabla 4 · tabla 5
- Guía 5: fine-tuning local: tabla 1 · tabla 2 · tabla 3
- Guía 6: asistente de IA privado para pymes: tabla 1 · tabla 2 · tabla 3 · tabla 4 · tabla 5 · tabla 6 · tabla 7
- Guía 7: consumo de una IA local: tabla 1 · tabla 2 · tabla 3 · tabla 4
Tres tipos de datos
«Medido por QuelLLM» designa un experimento vinculado a sus artefactos. «Medición externa» debe identificar al autor y su protocolo. «Estimación» designa, en particular, las velocidades heurísticas y los presupuestos de memoria del configurador; estos valores no proceden de esta nueva prueba.
Metodología · Elegir según mi máquina · Instalar una IA local gratis