Aya Expanse 32BvsQwen 2.5 32B
Comparativa completa entre Aya Expanse 32B (32B parámetros, Cohere For AI) y Qwen 2.5 32B (32B, Alibaba). VRAM requerida por cuantización, tokens por segundo medidos en 4 GPU de referencia, veredicto por caso de uso, licencia, comandos de instalación. Todas las cifras se calculan a partir de los datos del catálogo — sin copiar y pegar entre páginas.
En resumen
| Característica | Aya Expanse 32B | Qwen 2.5 32B |
|---|---|---|
| Parámetros | 32B | 32B |
| Familia | Aya | Qwen |
| Autor | Cohere For AI | Alibaba |
| Origen | US | CN |
| Licencia | CC-BY-NC 4.0 | Apache 2.0 |
| Contexto | 8 192 tokens | 131 072 tokens |
| Fecha de lanzamiento | octubre de 2024 | septiembre de 2024 |
Huella de memoria
VRAM aproximada necesaria para la inferencia con una ventana de contexto media. El ganador (en verde) es el modelo que consume menos — ventaja para los pequeños.
| Cuantización | Aya Expanse 32B | Qwen 2.5 32B |
|---|---|---|
| Q4_K_M (ligero) | 19 GB | 19 GB |
| Q5_K_M (equilibrio) | 23 GB | 23 GB |
| Q8 (casi sin pérdida) | 35 GB | 35 GB |
| FP16 (máxima calidad) | 64 GB | 64 GB |
| RAM (solo CPU) | 32 GB | 32 GB |
Velocidad estimada (tokens/segundo)
Estimaciones basadas en la mejor cuantización viable en cada GPU. Las cifras reales dependen del prompt, del contexto y del motor (llama.cpp, vLLM, MLX). Metodología.
| GPU de referencia | Aya Expanse 32B | Qwen 2.5 32B |
|---|---|---|
| RTX 4090 (24 GB) | 30 tok/s · Q5_K_M | 30 tok/s · Q5_K_M |
| RTX 4080 (16 GB) | ✗ demasiado pesado | ✗ demasiado pesado |
| RTX 3060 12GB (12 GB) | ✗ demasiado pesado | ✗ demasiado pesado |
| Apple M4 Pro (48 GB) (36 GB) | 12 tok/s · Q8 | 12 tok/s · Q8 |
Veredicto por caso de uso
Para cada uso habitual, indicamos cuál de los dos es el más adecuado según sus etiquetas, su tamaño y su especialización.
Tu ChatGPT privado y gratuito en tu máquina en 1 hora — LM Studio, Ollama, Open WebUI, tus documentos, sin nube.
- Espacio en línea de por vida
- PDF + archivos
- Actualizaciones de por vida
Fortalezas y debilidades
Aya Expanse 32B
23 idiomas, +25% en idiomas con pocos recursos. 89.9% Dolly vs Mixtral 8x22B. ⚠ No comercial.
- +25% en bajo recurso
- 23 idiomas
- 89.9% Dolly vs Mixtral 8x22B
- ⚠ Licencia CC-BY-NC
- Ctx de solo 8k
Instalación
Qwen 2.5 32B
Compite con los 70B en la mayoría de las pruebas de referencia.
- Referencia entre los modelos de pesos abiertos de 32B en 2024
- 128k de contexto
- Apache 2.0
- Muy fuerte en matemáticas/código/razonamiento
- Necesita 19 GB de VRAM en Q4
- Superado por Qwen 3 32B en 2025
Instalación
Preguntas frecuentes
¿Qué modelo funciona mejor en RTX 4090 (24 GB): Aya Expanse 32B o Qwen 2.5 32B?
En una RTX 4090, Aya Expanse 32B funciona en Q5_K_M (~30 tok/s), Qwen 2.5 32B en Q5_K_M (~30 tok/s). Si solo consideramos la velocidad de generación, Qwen 2.5 32B gana. Consulta el configurador para probar tu GPU concreta.
¿Cuál consume menos VRAM?
Ambos requieren la misma VRAM en Q4 (19 GB). La elección se basa entonces en la licencia o la calidad percibida.
¿Se pueden usar estos modelos en producción comercial?
Aya Expanse 32B está bajo licencia CC-BY-NC 4.0: comprueba las restricciones (especialmente los umbrales de usuarios mensuales). Qwen 2.5 32B está bajo la licencia Apache 2.0 — también libre. Para SaaS, prefiere Apache 2.0 o MIT.
¿Cuál elegir en 2026?
Depende de tu restricción principal. Más pequeño / más rápido : Aya Expanse 32B (32B). Más capaz : Aya Expanse 32B (32B). Si dudas, arranca el configurador con tu GPU y tu caso de uso — decidirá en función de ambos.
Alternativas a considerar
Si ninguno de los dos te convence, aquí tienes otros modelos similares que podrías explorar.