DeepSeek V4 Flash 284B : el 1er frontier que cabe en Mac Studio

#DeepSeek V4 Flash en resumen

Fecha de lanzamiento

24 de abril de 2026, al mismo tiempo que V4 Pro. Disponible en HuggingFace: deepseek-ai/DeepSeek-V4-Flash.

Arquitectura

MoE 284B totales, 13B activos por token. 128 expertos por capa, routing top-8. Variantes Base + Instruct disponibles.

Innovaciones heredadas del Pro

Atención CSA+HCA, mHC, optimizador Muon, entrenamiento mixto FP4+FP8.

Contexto

1 000 000 tokens nativos (igual que el Pro).

Modos de pensamiento

3 niveles Non / High / Max — seleccionables mediante el prompt.

Licencia

MIT, igual que el Pro. Ninguna restricción de uso comercial ni geográfica.

#1. Por qué es un acontecimiento

Antes del 24 de abril de 2026, ejecutar un modelo frontera localmente implicaba o bien un cluster de GPU de 80 k€+ o bien aceptar una calidad degradada de un modelo de 70B. DeepSeek V4 Flash cambia eso: 170 GB en Q4 caben en configuraciones de 4 a 8 k€ de ocasión.

Mac Studio M3 Ultra 256 GB

7 299 € en el catálogo hasta septiembre de 2026, ahora de segunda mano (el M5 Ultra de 256 GB lo sustituye en Apple). 170 GB para el modelo + 30 GB para el contexto = cabe con amplio margen. ~10-12 tok/s en Q4.

2× RTX 5090 32 GB (64 GB VRAM)

≈ 11 400 €. Insuficiente: faltan ~110 GB. Posible con offload a la CPU, pero lento (3-5 tok/s).

4× RTX A6000 48 GB (192 GB VRAM)

~12 000 € de segunda mano. Cabe con holgura, ~18-25 tok/s.

Estación de trabajo 2× Mac Studio Max 64 GB

Insuficiente en single. Con llama.cpp RPC swarm y 4× Mac Studio: posible, ~5 tok/s.

#2. Arquitectura (variante eficiente de V4)

V4 Flash es una reducción proporcional de V4 Pro: unas 5,7 veces menos expertos, unas 3,8 veces menos parámetros activos, pero la misma estructura CSA+HCA + Muon + FP4/FP8. Es esta homogeneidad la que permite a V4 Flash heredar la calidad del Pro a un costo mucho menor.

Expertos por capa

128 (vs 256 para Pro). Ruteo top-8 idéntico.

Parámetros activos

13B (frente a 49B para Pro). Velocidad de inferencia aproximadamente 3,8 veces mayor con el mismo número total de parámetros.

Capas

61 (Pro: 76). Reducción moderada para preservar la profundidad del razonamiento.

Cabezas de atención

Igual que el Pro (CSA+HCA configurados de la misma manera). No se reduce la atención para preservar la calidad con contextos largos.

Preentrenamiento

Objetivo «efficient reasoning»: 18T tokens (frente a 32T para Pro), con una mezcla de datos optimizada para matemáticas + código.

#3. Hardware por cuantización

#4. Configuración de Mac Studio Ultra 256/512 GB

# 1. Relever la mémoire GPU allouable
sudo sysctl iogpu.wired_limit_mb=240640    # 256 Go : 235 Go GPU
# Ou pour Mac Studio 512 Go :
# sudo sysctl iogpu.wired_limit_mb=491520

# Persistant
echo "iogpu.wired_limit_mb=240640" | sudo tee -a /etc/sysctl.conf

# 2. llama.cpp avec Metal + Flash Attention
git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp
make GGML_METAL=1 LLAMA_METAL_EMBED_LIBRARY=1

# 3. Téléchargement Q4_K_M (~170 Go split en chunks)
huggingface-cli download deepseek-ai/DeepSeek-V4-Flash-GGUF \
  --include "*Q4_K_M*.gguf" \
  --local-dir ./models

# 4. Lancement avec optimisations max
./build/bin/llama-server \
  -m ./models/DeepSeek-V4-Flash-Q4_K_M-00001-of-00004.gguf \
  -ngl 99 -fa \
  -ctk q8_0 -ctv q8_0 \
  -c 65536 \
  --host 0.0.0.0 --port 8080

#5. Configuración multi-GPU NVIDIA

#Opción A — vLLM 4× RTX A6000 (48 GB × 4 = 192 GB)

pip install vllm>=0.7

vllm serve deepseek-ai/DeepSeek-V4-Flash \
  --tensor-parallel-size 4 \
  --quantization fp8 \
  --max-model-len 1000000 \
  --enable-prefix-caching \
  --port 8000

#Opción B — llama.cpp con offload parcial

./build/bin/llama-server \
  -m ./models/DeepSeek-V4-Flash-Q4_K_M-00001-of-00004.gguf \
  -ngl 50 \
  --tensor-split 0.5,0.5 \
  -ctk q8_0 -ctv q8_0 \
  -c 32768

#6. Benchmarks y tokens/sec medidos

#7. Modos de pensamiento y contexto largo

V4 Flash hereda los tres modos de pensamiento de V4 Pro con calidad ligeramente inferior, pero con un costo de inferencia mucho menor. Es la opción adecuada para agentes que deben razonar sin monopolizar una infraestructura.

Modo No

Respuesta directa. Latencia muy baja (~1s para iniciar el streaming). Para chat conversacional, traducción.

Modo High

200-2000 tokens de cadena de pensamiento antes de la respuesta. +25 % de calidad en matemáticas/código. Latencia de 5 a 15 segundos antes del primer token de la respuesta final.

Modo Max

Hasta 16k tokens de reflexión. Latencia de 1 a 5 minutos en local. Reservar para problemas difíciles (demostraciones matemáticas, depuración compleja).

Contexto largo 1M

Mismas capacidades que V4 Pro gracias a HCA — Needle-in-Haystack 1M ~95 % (vs 98 % para Pro). Excelente para RAG en grandes bases.

#V4 Flash vs V4 Pro: elegir

#Presentado oficialmente el 31 de julio de 2026 (build 0731)

DeepSeek sacó V4-Flash de la fase de preview a finales de julio de 2026 con la versión «0731»: la API está en beta pública y, de paso, el precio de los tokens de salida de V4-Pro baja un 75 % (0,87 $ por millón de tokens de salida). Artificial Analysis vuelve a situar a la familia V4 «entre los líderes de pesos abiertos». En cuanto a los pesos, nada cambia: 284B en total y 13B activos; sigue siendo la única variante V4 medianamente viable en local con equipos de gama alta (Mac de 256 GB, Strix Halo, varios GPU) y cuantización agresiva.

Desde el 2 de agosto, LM Studio también lo ofrece: en local si tu máquina tiene capacidad suficiente, o a través de la app Bionic en servidores estadounidenses con «Zero Data Retention» por defecto; una solución de compromiso que conviene conocer, aunque la filosofía de este sitio sigue siendo el funcionamiento 100 % local.

#FAQ

Los precios cambian rápidamente: nuestro seguimiento registra cada lunes y cada jueves el precio más bajo de las tarjetas gráficas para IA local, junto con el precio por GB de VRAM.

• Precios de las tarjetas gráficas para la IA local (actualizados dos veces por semana)