Familia Qwen · 30B de parámetros

Qwen 3 Omni 30B-A3B

Omni MoE 30B/3B activos. Streaming de voz. ASR en 119 idiomas. Apache 2.0.

🇨🇳 Alibaba·Licencia Apache 2.0·Contexto 128k tokens·Fecha de lanzamiento mayo de 2025← Catálogo

01Lo que sabe hacer

Puntos fuertes
  • Omnimodal nativo (texto+imagen+audio E/S)
  • 131k de contexto
  • MoE eficiente
Limitaciones que debes conocer
  • —19 GB VRAM Q4
  • —Audio en beta — menos maduro que texto/visión
Arquitectura
MoE · 30B · Qwen3-Omni · texto + visión + audio de punta a punta
Entrenamiento
Qwen3-Omni 30B — modelo omnimodal Qwen (texto, imágenes, audio de entrada/salida).
Ideal para
Omni MoEHabla en múltiples idiomas

04Instalar

Instala Ollama para tu SO. Verifica el modelo y su cuantización antes de la descarga. Comienza con 4096 tokens de contexto y luego controla la asignación con ollama ps. Un comando a continuación no es prueba de que se haya ejecutado una prueba en tu máquina.

$ollama run qwen3-omni:30b
⚠
Primera descarga: entre 2 y 40 GB según la cuantización elegida. Reserva espacio en disco y se recomienda una conexión estable. Las siguientes ejecuciones son instantáneas.

02Memoria requerida

VRAM de GPU aproximada para ejecutar este modelo, incluido el sobrecoste de contexto de 4k tokens. Para un contexto más largo, añade ~1 GB por cada tramo de 8k tokens.

Q4_K_M
El más ligero, ~5% de pérdida
19 GB
Q5_K_M
Buen equilibrio calidad/tamaño
23 GB
Q8_0
Casi indistinguible de FP16
35 GB
FP16
Precisión completa — uso en servidor
62 GB
Alternativa con CPU · Si no tienes GPU, calcula 32 GB de RAM mínimo para ejecutar este modelo a velocidad reducida.

¿Qué hardware necesitas para Qwen 3 Omni 30B-A3B?

Para ejecutar Qwen 3 Omni 30B-A3B en local con cuantización Q4, necesitas aproximadamente 19 GB de VRAM. Una opción para comparar: GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) — deja un margen para el sistema y el contexto; verifica la compatibilidad del motor con la GPU.

Oferta actual: GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395)
AmazonVer el precio →

¿Por qué esta elección? Nuestra ficha completa sobre GMKtec EVO-X2 64 GB / 1 TB (Ryzen AI Max+ 395) →

Enlaces de afiliados — posible comisión sin coste adicional para ti, recomendación independiente. Como socio de Amazon, QuelLLM obtiene un beneficio de las compras que cumplen las condiciones requeridas.

Cuando te desplazas: Qwen 3 Omni 30B-A3B también funciona en un Portátil RTX (24 GB de VRAM) →

Este modelo en tu ChatGPT privado, sin nube

Tu ChatGPT privado y gratuito en tu máquina en 1 hora — LM Studio, Ollama, Open WebUI, tus documentos, sin nube.

  • Espacio en línea de por vida
  • PDF + archivos
  • Reembolsado 30 j

03Velocidad estimada

Tokens generados por segundo en Q4_K_M, contexto 4k. Por encima de 20 t/s, la lectura es cómoda. Por debajo de 10 t/s, es solo para probar.

Gama de entrada
~15t/s
GTX 1650, RX 6600, MBA M2 8GB
Gama media
~40t/s
RTX 4060, 4070, MBP M3 Pro
Gama alta
~100t/s
RTX 4090, M4 Max, Radeon 7900