Medido por QuelLLM

Tres modelos, una máquina, pruebas

Prueba del 12 de septiembre de 2026 en RTX 5070 Ti Laptop: 12 227 MiB registrados, Ollama, contexto de 4096, una solicitud a la vez. Ninguna extrapolación a la versión de escritorio, a una RTX 5090 ni a un Mac.

Las antiguas matrices para varias máquinas se retiraron por falta de artefactos que permitieran verificarlas. Este documento publica las mediciones de esta prueba, con un calentamiento y después cinco repeticiones por modelo; las de la serie AI TOP ATOM tienen su propia sección, más abajo.

ModeloCuantizaciónMediana de tok/sMin–maxCódigo FRDocumentos en francés
qwen3:8bQ4_K_M59.7159.45–59.96CorrectoContenido factual y formato correctos
hermes3:8bQ4_071.9771.79–72.15FalloHechos exitosos, claves diferentes
mistral-nemo:12bQ4_047.4447.37–47.56CorrectoContenido factual y formato correctos

Lo que permite afirmar esta prueba

Hermes3 genera más rápido en este test, pero su función no elimina correctamente los duplicados y ordena los valores. Qwen3 y Mistral Nemo resuelven correctamente este ejercicio. Una tasa de generación no demuestra por sí sola la calidad. Una tarea de código y una extracción sintética no son suficientes para clasificar los modelos para todos los usos; la salida de Hermes3 también alcanza el límite de 256 tokens.

Reproducir y examinar los datos

El procesamiento del prompt y la generación están separados en los datos sin procesar. La caché del prefijo puede influir en el primero; el rendimiento mostrado corresponde únicamente a la generación. No es una medida de energía ni la latencia total de la aplicación.

Serie AI TOP ATOM (GIGABYTE), octubre de 2026

Nuestra serie sobre AI TOP ATOM (chip NVIDIA GB10, 128 GB), proporcionada gratuitamente por GIGABYTE, cuenta con 7 guías publicadas una por semana desde el 8 de octubre de 2026. Cada guía publica aquí sus datos: cada tabla tal como aparece en la guía, en formato CSV (separador punto y coma, UTF-8, encabezado en la primera línea), junto con el método y las huellas digitales de los modelos. Datos, infografías y fotos de la serie: licencia CC BY 4.0, reutilización libre citando QuéLLM.

Tres tipos de datos

«Medido por QuelLLM» designa un experimento vinculado a sus artefactos. «Medición externa» debe identificar al autor y su protocolo. «Estimación» designa, en particular, las velocidades heurísticas y los presupuestos de memoria del configurador; estos valores no proceden de esta nueva prueba.

Metodología · Elegir según mi máquina · Instalar una IA local gratis