El profesional con documentos confidenciales — « Mis documentos no salen de mi equipo. »
Jurista, médico, profesional de recursos humanos, consultor, experto contable, notario: tus documentos están sujetos al secreto profesional o a un acuerdo de confidencialidad (NDA). Un LLM local combinado con un RAG te permite consultarlos, resumirlos, compararlos y contrastarlos, sin subir nunca nada. Y sin línea de comandos.
Al final, LM Studio funcionará con una interfaz gráfica completa (sin terminal). Tendrás cargado un modelo de 12 a 27B. Una carpeta de PDF quedará indexada mediante AnythingLLM o la función Documents integrada. Podrás hacer preguntas en francés a tus archivos, obtener citas exactas con número de página y exportar un resumen, sin que ningún byte salga de tu equipo.
Para quién está pensado este recorrido
Preferimos decírtelo pronto a dejar que pierdas 30 minutos para nada.
- ✓Tus documentos están protegidos por el secreto profesional (abogado, médico, notario, experto contable).
- ✓Trabajas bajo NDA y las herramientas en la nube están contractualmente prohibidas.
- ✓Gestionas datos personales sujetos al RGPD: evitar las transferencias fuera de la UE es un requisito.
- ✓Quieres una interfaz limpia y clara, no un comando en un terminal.
- ✓Tienes entre 100 y 10.000 PDF para consultar sin tener que volver a subirlos cada vez.
- ·Tus datos son públicos y solo quieres un asistente: un servicio en la nube será más sencillo.
- ·Gestionas terabytes de documentos: necesitas un despliegue en un servidor, no una estación de trabajo.
- ·Quieres procesar cientos de documentos por segundo en tiempo real: un RAG simple no dará abasto; consulta vLLM o TGI.
El recorrido en 5 pasos
Cada paso remite a una guía detallada que puedes leer en paralelo. El orden está optimizado: no te saltes ningún paso la primera vez.
- 1Paso 01·5 min·Principiante
Instalar LM Studio
Instalador clásico para Windows, macOS o Linux. Interfaz gráfica completa: búsqueda, descarga de modelos, chat y ajustes, sin tener que abrir nunca un terminal.
LM Studio está instalado; ves la galería de modelos.Leer la guía → - 2Paso 02·8 min·Intermedio
Elegir un modelo de 12 a 27B
Gemma 4 12B si tienes de 12 a 16 GB de VRAM (en Q8 con 16 GB). Qwen 3.8 27B en Q4 con 24 GB. Descarga directa en la app, verificación de integridad automática.
Un modelo robusto para el análisis de texto está cargado en memoria.Leer la guía → - 3Paso 03·20 min·Principiante
Indexar tus documentos
AnythingLLM u Open WebUI para la parte de RAG. Indicar una carpeta, elegir un modelo de embeddings francés (Solon, BGE-M3), iniciar la indexación. Todo permanece en disco.
Tus PDF están indexados en una base de datos vectorial local (ChromaDB).Leer la guía → - 4Paso 04·8 min·Principiante
Verificar el aislamiento de red
Una lista de verificación: Wireshark para confirmar que no sale nada, desactivación de la telemetría que pueda estar habilitada, cifrado de la carpeta de modelos y copia de seguridad local cifrada.
Confianza verificada: cero paquetes salientes durante el uso.Leer la guía → - +Paso bonus·15 min·Avanzado
Bonus — Aislamiento completo de la red
Para los expedientes más sensibles: una regla de cortafuegos que bloquee todo el tráfico saliente, salvo las actualizaciones automáticas del sistema. Es una doble precaución.
Máquina certificada sin conexión para sesiones sensibles.Leer la guía →
Modelos recomendados
Tres opciones para esta guía, del más ligero al más capaz. Haz clic para ver la ficha detallada (VRAM, contexto, benchmarks).
La opción predeterminada adecuada con 12 a 16 GB: resumen y extracción sobre tus documentos, licencia Apache 2.0. Comprueba la calidad en francés con tus propios textos.
Ver la ficha →Con 24 GB de VRAM o un Mac de 32 GB: el más potente de los tres en el índice de Artificial Analysis; compruébalo con tus propios documentos.
Ver la ficha →Para un equipo de 96 a 128 GB (GB10, Mac de 128 GB): un MoE rápido, con licencia Apache 2.0.
Ver la ficha →Preguntas frecuentes
Las preguntas reales que nos hacen por correo y en Mastodon. Si falta la tuya, abre un ticket.
El curioso — « Solo quiero probar, sin complicaciones. »
Has oído hablar de los LLM locales y quieres ver qué pueden hacer en tu máquina. Sin código ni líneas de comandos complicadas: en 15 minutos chateas con tu…
Tus documentos, tu IA: un RAG local fiable sobre tus PDF, notas y correos — sin enviar nada a la nube.
- Espacio en línea de por vida
- PDF + archivos
- Reembolsado 30 d
¿Una pregunta, una errata, un bug?
Este itinerario evoluciona con cada lanzamiento de un modelo. Tus comentarios son la materia prima.