DeepSeek V4 Pro en local: VRAM, hardware, instalación

#DeepSeek V4 Pro en pocas palabras

Fecha de lanzamiento

24 de abril de 2026 — DeepSeek-AI en HuggingFace, pesos bajo licencia MIT, artículo publicado simultáneamente.

Arquitectura

Mixture-of-Experts denso de 1,6T parámetros totales, 49B activos por token, 256 expertos con routing top-8

Atención

Combinación híbrida de CSA (Compressed Sparse Attention) + HCA (Hybrid Constrained Attention): primera implementación a esta escala.

Contexto

1 millón de tokens nativos (con RoPE extendido y Flash Attention v3).

Preentrenamiento

32T+ tokens, optimizador Muon (reemplaza a AdamW), precisión mixta FP4+FP8 (entrenamiento más eficiente conocido)

Modos de pensamiento

3 niveles: No / High / Max. El modo Max se acerca al rendimiento de o4 en AIME y GPQA.

Licencia

MIT — uso comercial, redistribución y modificación autorizados sin restricción. Más libre que la licencia Llama.

#1. Arquitectura CSA+HCA y MoE 1.6T

DeepSeek V4 Pro acumula tres innovaciones principales, cada una publicada por separado en los últimos 12 meses y combinadas aquí por primera vez a escala trillón.

MoE 1,6T / 49B activos

256 expertos por capa, enrutamiento top-8. Por cada token, solo 49 mil millones de parámetros realizan cálculos — por lo que su velocidad es comparable a un modelo denso de 50B a pesar de su tamaño total.

CSA — Compressed Sparse Attention

Comprime las claves y los valores antiguos de la caché KV mediante descomposición de bajo rango. Divide por 4 la memoria de atención en contextos >128k.

HCA — Atención híbrida restringida

Combina atención local (ventana deslizante de 4k) y global (dispersa) según la capa. Rendimiento ×2 con contexto largo frente a la atención densa.

mHC — multi-Head Compressor

Mecanismo de compresión entre cabezas: reduce la VRAM ocupada por las activaciones sin pérdida medible de calidad.

Optimizador Muon

Sucesor de AdamW, converge 1,8 veces más rápido durante el preentrenamiento de modelos muy grandes. Adoptado por DeepSeek desde V3.5.

Entrenamiento FP4+FP8

Combinación de FP4 en las capas de atención y FP8 en los MLP. -45 % de memoria de entrenamiento frente a FP8 puro, con la calidad preservada gracias a un esquema de escalado propietario.

#2. Los 3 modos de razonamiento (Non / High / Max)

El sistema de pensamiento de DeepSeek V4 Pro es explícito y puede activarse y desactivarse, a diferencia de los modos opacos de los modelos propietarios competidores.

Modo No (predeterminado)

Respuesta directa sin una cadena de pensamiento visible. Latencia mínima (~2-5 s a 8 tok/s). Para chat, traducción y generación de texto simple.

Modo High

Inserta 200-2000 tokens de reflexión antes de la respuesta. +30-40 % de calidad en matemáticas, código y análisis. Activable mediante el indicador /think en Ollama o el encabezado thinking_mode en la API.

Modo Max

Reflexión exhaustiva (hasta 16k tokens de cadena de pensamiento). Se acerca al rendimiento de o4 en AIME 2025 (87 % frente al 91 % de o4). Costoso: entre 10 y 30 minutos por consulta en local.

# Mode High
ollama run deepseek-v4 "Résous : x² + 5x - 14 = 0 /think"

# Mode Max
ollama run deepseek-v4 "Démontre la conjecture de Collatz pour n<100 /think_max"

#3. Hardware requerido según la cuantización

#4. Instalación local

Tres opciones según tu infraestructura: llama.cpp para un swarm de varias máquinas, vLLM para un clúster homogéneo de GPU o MLX-distributed para un swarm de Mac Studio.

#Opción A — llama.cpp distribuido (recomendado para múltiples máquinas)

# Sur chaque machine
git clone https://github.com/ggerganov/llama.cpp && cd llama.cpp
make GGML_METAL=1 GGML_RPC=1 GGML_CUDA=0

# Téléchargement modèle (split GGUF, ~960 Go)
huggingface-cli download deepseek-ai/DeepSeek-V4-Pro-GGUF \
  --include "*Q4_K_M*.gguf" --local-dir ./models

# Machine 1 (rpc-server, écoute sur :50052)
./build/bin/rpc-server -H 0.0.0.0 -p 50052

# Machine 2 (rpc-server également)
./build/bin/rpc-server -H 0.0.0.0 -p 50052

# Coordinator (peut être l'une des deux)
./build/bin/llama-cli \
  -m ./models/DeepSeek-V4-Pro-Q4_K_M-00001-of-00020.gguf \
  --rpc 192.168.1.10:50052,192.168.1.11:50052 \
  -ngl 99 -fa -c 32768 \
  -ctk q8_0 -ctv q8_0

#Opción B — vLLM en un clúster H100/H200

pip install vllm>=0.7

vllm serve deepseek-ai/DeepSeek-V4-Pro \
  --tensor-parallel-size 8 \
  --pipeline-parallel-size 1 \
  --max-model-len 1000000 \
  --quantization fp8 \
  --enable-prefix-caching \
  --port 8000

# Endpoint OpenAI-compatible sur :8000
curl http://localhost:8000/v1/chat/completions -d '{...}'

#Opción C — Ollama (cuando esté disponible la adaptación)

A fecha de 25 de abril de 2026, Ollama aún no ha integrado DeepSeek V4 Pro (las versiones cuantizadas Q4_K_M de la comunidad salen este fin de semana). Sigue el progreso en ollama.com/library.

#5. Benchmarks vs GPT-5, Claude 4.7, Gemini 3

#6. Aprovechar el contexto de 1 millón de tokens

El contexto de 1M es nativo (no se ha ampliado mediante YaRN), gracias a HCA. Es uno de los tres o cuatro modelos de pesos abiertos del mundo que ofrecen 1M, y el único que lo hace con esta calidad de recuperación de información.

Needle-in-Haystack 1M

98 % de recuperación en todo el contexto (frente al 76 % de Gemini 1.5 Pro en condiciones equivalentes).

Caso de uso 1 — Bases de código completas

Kernel de Linux net/* (~800 k tokens) cargado de una sola vez, refactorización interarchivos en una sola solicitud.

Caso de uso 2 — Investigación jurídica

Código civil + sentencias recientes (~600 k tokens) en contexto, extracción de jurisprudencia en una pasada.

Caso de uso 3 — Análisis contable

10 años de balances más anexos (~400 k tokens), detección de anomalías en múltiples ejercicios

VRAM de caché KV a 1M

Con KV Q4 y CSA activado: ~280 GB. A 1M sin compresión: ~2 TB (impracticable).

#7. Casos de uso ideales

Investigación científica

Matemáticas, física teórica, química computacional. El modo Max supera a o4 en algunos benchmarks AIME/Putnam.

Seguridad / soberanía

Bancos, defensa, salud, gobierno: modelo de frontera 100 % autoalojado, con licencia MIT y auditable. No hay equivalente aparte de LLaMA 4 (licencia más restrictiva).

Agentes complejos de horizonte largo

El contexto de 1M + razonamiento Max + 49B activos lo convierten en un agente mejor que los modelos densos más pequeños, sin el costo de inferencia de un GPT-5.

RAG a escala empresarial

Base de conocimientos de varios millones de tokens (bases de código, documentos internos, normas ISO). Búsqueda directa sin recuperación gracias al contexto.

#Límites y alternativas

Hardware de coste prohibitivo para particulares

Mínimo 960 GB de VRAM en Q4 = clúster de segunda mano de ~80 k€. Fuera del alcance de un particular.

Tooling inmaduro a J+1

Cuantizaciones GGUF comunitarias en curso, vLLM requiere la rama dev, MLX-distributed aún experimental. Esperar aproximadamente 2 semanas para que sea estable.

Huella de carbono

Clúster de 8× H200 funcionando 24/7 = ~45 MWh/año. Compararlo con el uso de API (que amortiza mejor).

Alternativas más accesibles

DeepSeek V4 Flash 284B (170 GB Q4, cabe en Mac Studio) · DeepSeek V3.2 671B (240 GB Q2 en Mac Studio 512) · Llama 4 Behemoth (cercano en calidad).

#FAQ