Qwen 3.6 27B en local: memoria por cuantización

#Qwen 3.6 27B: la respuesta corta

Para usar Qwen 3.6 27B sin desbordamiento al procesador, necesitarás una tarjeta con 24 GB de VRAM o un Mac con al menos 32 GB de memoria unificada. Un Mac de 24 GB puede servir para una prueba con un contexto corto y pocas aplicaciones más abiertas. Por debajo de eso, el modelo aún puede cargarse, pero parte del cálculo pasa al procesador.

Commande

ollama run qwen3.6:27b. Le tag existe dans la bibliothèque officielle d'Ollama (relevé du 5 septembre 2026).

Archivo

18 GB en Ollama (registro del 29 de septiembre de 2026); 16,10 GB en la ficha de LM Studio (registro del 5 de septiembre de 2026).

Otras cuantizaciones

Alrededor de 19 GB en Q5, 29 GB en Q8 y 54 GB en FP16 según el catálogo de QuelLLM. Son estimaciones, no tamaños de archivo oficiales.

Contexto

Ollama asigna 4 k tokens por debajo de 24 GiB de VRAM, 32 k de 24 a 48 GiB y 256 k a partir de 48 GiB. Cualquier aumento consume memoria además de la del archivo.

Comprobación de rutina

ollama ps: mientras la columna PROCESSOR no indique 100% GPU, el modelo se desborda.

#Lo que instalas

Qwen 3.6 27B es un modelo denso de Alibaba, publicado en abril de 2026 con licencia Apache 2.0. «Denso» significa que sus 27 000 millones de parámetros participan en el cálculo de cada token. La ficha de Ollama le atribuye las capacidades de visión, herramientas y razonamiento (thinking), y un contexto máximo anunciado de 256 k tokens. Las especificaciones completas figuran en la ficha de /modele/qwen36-27b: esta guía solo trata la memoria y la instalación.

Este modelo ya no es el más reciente de su tamaño: Qwen 3.8 27B lo sucedió en agosto de 2026. El 3.6 sigue teniendo interés si tus prompts ya están ajustados para él o si una herramienta que usas lo menciona en su documentación. Para una primera instalación, compara también con nuestra guía sobre Qwen 3.8 27B, que tiene sus propias etiquetas y ajustes.

#Memoria de Qwen 3.6 27B por cuantización

La cuantización reduce la precisión de los pesos para reducir su tamaño. Cuanto más fuerte es, menos pesa el archivo, con riesgo de pérdida de calidad. La tabla separa a propósito los tamaños publicados y las estimaciones del catálogo, porque estas cifras no tienen el mismo valor.

La columna «Tamaño + 15 a 25 %» aplica una regla de prudencia, idéntica a la de nuestra guía sobre Qwen 3.8 27B. Sirve para prever la caché de contexto y la sobrecarga del motor. Es un cálculo, no una medición: el consumo real depende del contexto elegido, del motor y de lo que se ejecute al mismo tiempo.

¿Por qué 18 GB y 16,10 GB?

Ollama y LM Studio no distribuyen necesariamente el mismo paquete. Nuestro registro no permite atribuir la diferencia a una causa concreta: quédate con la cifra que muestre la herramienta que utilices.

¿Por qué el catálogo indica 16 GB en Q4?

Es una estimación basada en el número de parámetros. Da un orden de magnitud y queda 2 GB por debajo del archivo anunciado por Ollama. Para este tag, prevalece la cifra de Ollama.

Un punto de comparación

Para Qwen 3.8 27B, un modelo del mismo tamaño, Ollama publicaba 18 GB en Q4_K_M, 30 GB en Q8 y 56 GB en BF16 (registro del 18 de agosto de 2026). Estos valores corresponden a otro modelo: indican una tendencia, pero no sustituyen a un registro del 3.6.

Si varias variantes caben en tu memoria, empieza por la Q4_K_M: es el ajuste recomendado en QuelLLM. Sube de gama solo si tus propios prompts revelan un defecto que la cuantización explique. Nuestra guía sobre la elección de la cuantización detalla este equilibrio en general.

#El margen que debes reservar para el contexto

El peso del archivo es solo el punto de partida. El motor también reserva memoria para la ventana de contexto, es decir, la conversación, los documentos y el razonamiento del modelo. El contexto anunciado de 256 k tokens es un máximo, no lo que se asignará realmente.

Menos de 24 GiB de VRAM

Ollama arranca con 4 k tokens. Es suficiente para un intercambio corto, pero no para un documento largo.

De 24 a 48 GiB

32 k tokens por defecto: el rango de una RTX 4090.

48 GiB o más

256 k tokens por defecto. Esta asignación ocupa mucho espacio: redúcela si no la necesitas.

Agentes, código, búsqueda web

Ollama recomienda al menos 64 000 tokens para estos usos. Con 24 GB, este valor no está garantizado: pruébalo con ollama ps.

El riesgo es doble. Una ventana demasiado corta obliga al motor a dejar fuera una parte de la entrada, y entonces el modelo responde sobre un texto incompleto. Una ventana demasiado larga puede hacer que el modelo se desborde al procesador. A falta de mediciones con este modelo, esta guía no da una cifra en GB por tramo de tokens: el método correcto consiste en aumentar el valor de forma escalonada.

1. 01
   Parte del valor predeterminado

   Ejecuta el modelo con una consulta habitual y luego lee ollama ps. Anota la memoria ocupada, el contexto y el reparto GPU/CPU.
2. 02
   Sube por niveles

   Pasa, por ejemplo, de 8 k a 16 k, luego a 32 k y a 64 k tokens. Recarga el modelo con cada cambio: el contexto se fija durante la carga.
3. 03
   Detente antes del desbordamiento

   En cuanto PROCESSOR muestre un reparto entre CPU y GPU, vuelve al nivel anterior. Deja algo de margen si también envías imágenes, ya que su procesamiento también consume memoria.

OLLAMA_CONTEXT_LENGTH=32768 ollama serve

curl http://localhost:11434/api/generate -d '{
  "model": "qwen3.6:27b",
  "prompt": "Résume ce texte en trois points : ...",
  "stream": false,
  "options": { "num_ctx": 32768 }
}'

Si Ollama ya se ejecuta como servicio, la variable debe definirse en la configuración del servicio, porque un comando lanzado en una terminal no lo modifica. La aplicación Ollama también ofrece un control deslizante de contexto en sus ajustes.

#¿Basta con tu equipo?

La tabla de memoria se traduce de forma bastante sencilla en hardware. Las referencias siguientes corresponden a la etiqueta predeterminada de 18 GB. Se derivan de este cálculo de tamaño y no describen pruebas: no se indica ninguna velocidad.

RTX 3060 12 GB, RTX 4070 12 GB

El archivo supera la VRAM: el modelo quedará en parte en el procesador. Es preferible un modelo más pequeño, de tamaño 14B aproximadamente en Q4 (≈ 9 GB).

RTX 4080 16 GB

El archivo de 18 GB todavía supera la VRAM, al igual que los 16,10 GB de LM Studio una vez añadido el contexto. Se puede usar repartiendo la carga entre GPU y CPU, aunque sin ser cómodo.

RTX 4090 24 GB

El primer nivel coherente: deja unos 6 GB por encima del archivo para el contexto y la sobrecarga del motor.

Mac M4 Pro de 24 GB

Posible para una prueba: el sistema y las aplicaciones usan la misma memoria que el modelo. Mantén un contexto corto y cierra las aplicaciones pesadas.

Mac de 32 a 48 GB

La opción razonable para el uso diario, con un margen real para el contexto.

Sin tarjeta gráfica

El catálogo de QuelLLM estima en 28 GB la memoria RAM necesaria. El modelo puede funcionar, pero debes esperar una generación mucho más lenta que en GPU.

Reserva también espacio en disco: como mínimo el tamaño del archivo, con margen si conservas varias variantes. Para tu configuración concreta, el configurador de QuelLLM ofrece una primera estimación, que debes confirmar con ollama ps.

#Instalar Qwen 3.6 27B con Ollama

Ollama es adecuado si quieres un servicio local accesible por API, en http://localhost:11434, opcionalmente con Open WebUI como interfaz.

1. 01
   Instala o actualiza Ollama

   En Linux, usa el script oficial que aparece a continuación. En macOS y Windows, descarga la aplicación desde ollama.com. Es posible que una versión antigua no reconozca el modelo: actualizar es lo primero que debes hacer si hay un error.
2. 02
   Descargue el modelo

   ollama pull qwen3.6:27b récupère le fichier. Si la connexion coupe, relancez la commande.
3. 03
   Comprueba lo que has recibido

   ollama show qwen3.6:27b affiche notamment la quantification, le contexte maximal et les capacités du paquet. C'est le moyen le plus sûr de savoir à quelle variante correspond le tag par défaut.
4. 04
   Inicia un primer intercambio

   La primera respuesta llega después de que los pesos se carguen en memoria. Mientras se carga el modelo, consulta ollama ps en una segunda terminal.

# Linux : installer ou mettre à jour Ollama
curl -fsSL https://ollama.com/install.sh | sh

# Télécharger le modèle
ollama pull qwen3.6:27b

# Vérifier la quantification, le contexte et les capacités
ollama show qwen3.6:27b

# Discuter avec le modèle
ollama run qwen3.6:27b

# Dans un second terminal : mémoire et répartition GPU/CPU
ollama ps

En Mac Apple Silicon, la biblioteca también ofrece qwen3.6:27b-mlx (registro del 5 de septiembre de 2026), destinado al motor MLX. Su tamaño puede variar: consulta la página de tags antes de elegir.

#Instalar con LM Studio

LM Studio es adecuado si prefieres una interfaz gráfica, con un ajuste visible del contexto y del número de capas enviadas a la GPU. Su ficha oficial lleva el identificador qwen/qwen3.6-27b, indica 16,10 GB y confirma el uso de herramientas, la visión y el razonamiento (dato del 5 de septiembre de 2026).

1. 01
   Busca el modelo

   En la búsqueda de modelos, escribe qwen/qwen3.6-27b. LM Studio muestra las variantes disponibles y destaca la que considera adecuada para tu hardware.
2. 02
   Elige el formato

   GGUF en PC, MLX o GGUF en Mac. Compara el tamaño indicado con tu memoria, manteniendo el margen de la tabla anterior.
3. 03
   Ajusta la carga

   Antes de cargar el modelo, ajusta la longitud de contexto y la descarga a la GPU. Empieza con un valor modesto y luego auméntalo de forma escalonada, como con Ollama.
4. 04
   Vigila la memoria

   Haz una prueba con una solicitud real y observa la memoria utilizada. Si el sistema se ralentiza, reduce el contexto antes de cambiar de cuantización.

# Variante GGUF (--mlx sur Mac pour le format MLX)
lms get qwen/qwen3.6-27b --gguf

Después podrás exponer el modelo a otras aplicaciones gracias al servidor local de LM Studio: nuestra guía dedicada a su API detalla este paso. Para elegir entre ambas herramientas, consulta nuestra comparativa de Ollama y LM Studio.

#Qwen 3.6 27B o 35B-A3B: la elección en principio

Ambos modelos pertenecen a la misma familia, pero no están construidos de la misma manera. El 27B es denso. El 35B-A3B es un Mixture-of-Experts (MoE): tiene 35 000 millones de parámetros, de los cuales unos 3000 millones están activos en cada token. La comparación siguiente se basa en esta arquitectura y en los tamaños publicados, sin benchmark.

Memoria

Ventaja para el 27B: 16,10 GB frente a 20,40 GB en las fichas de LM Studio (dato del 5 de septiembre de 2026). Un MoE debe mantener a todos sus expertos en memoria, aunque pocos de ellos trabajen en cada token.

Cálculo por token

Ventaja de principio para el 35B-A3B: menos parámetros activos significan menos cálculo por token, siempre que todo el modelo quepa en memoria. La diferencia real depende de tu equipo.

Si estás en el límite de 24 GB

El 27B deja más espacio para el contexto. El 35B-A3B deja menos, lo que puede importar con documentos largos.

Si tienes 32 GB o más

Ambos caben. Haz la prueba con tus propias tareas: el 35B-A3B si la capacidad de respuesta es prioritaria, el 27B si importa la visión (sus capacidades están confirmadas por nuestros registros).

Licencia

Apache 2.0 en ambos casos: este criterio no los diferencia.

#Solución de problemas

«model not found» al descargar

Comprueba la ortografía: qwen3.6:27b, con un punto. Si se rechaza un sufijo de cuantización, puede que no exista: consulta la página de tags y luego actualiza Ollama si el tag aparece en ella.

Generación muy lenta

Mira ollama ps. Un reparto CPU/GPU indica un desbordamiento: reduce el contexto, cierra las aplicaciones que usan la GPU o pasa a un modelo más pequeño.

El principio del documento parece ignorarse

Probablemente el contexto sea demasiado corto, sobre todo con los 4 k tokens predeterminados por debajo de 24 GiB. Aumenta num_ctx o divide el documento.

El ajuste OLLAMA_CONTEXT_LENGTH no tiene efecto

La variable debe aplicarse al servidor, no al cliente. Reinicia el servicio después de modificarla y luego vuelve a cargar el modelo.

Error de memoria durante la carga

Primero reduce el contexto. Si el error persiste, comprueba la memoria libre y el número de modelos cargados: ollama stop qwen3.6:27b libera este modelo.

Tamaños distintos a los de esta guía

Los paquetes pueden cambiar. Guíate por la página oficial del momento y por lo que muestre tu herramienta, y aplica el mismo margen.

#Para ir más allá

Estas páginas complementan la guía sin repetir sus cifras: la ficha del modelo para las especificaciones, y las guías relacionadas para los demás modelos y las nociones generales.