Ollama en un NAS Synology: un LLM en el servidor familial

#¿Qué NAS Synology son compatibles con Ollama?

La memoria es lo primero que debes comprobar antes de cualquier compra o intento de instalación. Ollama publica versiones para Linux tanto para x86-64 como para ARM64: por tanto, el procesador ARM no es el verdadero obstáculo. En cambio, los NAS Synology de gama de entrada basados en un procesador ARM Realtek solo incorporan 1 GB (DS124, DS223j) o 2 GB (DS223) de memoria según las fichas técnicas de Synology, mientras que un modelo de 7B cuantizado en Q4 ocupa por sí solo unos 5 GB. Los modelos x86 (Intel Celeron o AMD Ryzen, generalmente las series «Plus») son la opción realista, porque su memoria se puede ampliar.

En la práctica, son las series «Plus» y superiores, equipadas con un Intel Celeron o un AMD Ryzen, las que convienen. Antes de instalar cualquier cosa, revisa la ficha técnica exacta de tu modelo: el nombre de la gama (Plus) es una pista, no una garantía por sí solo.

#¿Cuánta RAM se debe prever para un uso realista?

La necesidad de RAM varía según el modelo cargado, la cuantización, la longitud del contexto y el número de usuarios simultáneos; también hay que dejar margen para DSM y otros paquetes que funcionan en paralelo. Un modelo 7B en Q4 ocupa aproximadamente 5 GB para sus pesos, a los que se suman el contexto y los procesos: calcula entre 6 y 8 GB de RAM libre. En un NAS con 8 GB en total, el margen se vuelve muy pequeño una vez que se consideran DSM y Container Manager; 16 GB permiten un funcionamiento cómodo.

Los DS225+ y DS425+ vienen con solo 2 GB de RAM de fábrica: es una cantidad claramente insuficiente para un LLM utilizable, incluso para un modelo pequeño. Es indispensable ampliar la memoria de estos modelos antes de instalar Ollama.

#¿Qué modelos de Synology considerar primero?

Los modelos equipados con un Ryzen (DS725+, DS925+, DS1525+, DS1825+) ofrecen RAM ampliable hasta 32 GB y una CPU más adecuada para el cálculo que los Celeron de las gamas DS225+/DS425+. Para un uso serio de LLM, hay que optar por estas gamas y ampliar la memoria hasta el máximo admitido en lugar de mantener la configuración de fábrica.

#Instalar Ollama a través de Container Manager

Synology no ofrece Ollama como paquete oficial en el Centro de paquetes: hay que usar Container Manager, que reemplaza el paquete Docker antiguo desde DSM 7.2 (en DSM 7.0 y 7.1, aún está disponible el paquete Docker antiguo).

1. 01
   Verificar la versión de DSM

   Container Manager requiere DSM 7.2 o superior. En versiones anteriores, se debe usar el paquete Docker antiguo, con una interfaz diferente.
2. 02
   Abrir Container Manager y buscar la imagen oficial

   Desde el menú principal de DSM, abrir Container Manager, ir a Registro, buscar ollama/ollama, seleccionar la imagen oficial y hacer clic en Descargar.
3. 03
   Configurar el puerto y arrancar el contenedor

   Asignar el puerto del contenedor (11434 por defecto para Ollama) a un puerto de un rango alto en el equipo anfitrión, en consonancia con el rango 8000-9000 recomendado para este tipo de servicio, en lugar de modificar los puertos predeterminados de DSM.
4. 04
   Descargar un primer modelo adecuado para la RAM disponible

   Una vez iniciado el contenedor, conectarse por línea de comandos o mediante la interfaz y descargar un modelo cuyo tamaño se ajuste a la RAM libre realmente disponible en el NAS, no a la RAM total instalada.

• Recordatorio: instalar Ollama con Docker
• Fuente: pasos detallados del Container Manager

#Añadir una interfaz: Open WebUI en Docker Compose

Ollama por sí solo solo ofrece una API y una interfaz de línea de comandos, sin interfaz de conversación: para obtener una experiencia similar a ChatGPT, necesitas un segundo programa conectado a él. El método recomendado consiste en desplegar Ollama y Open WebUI como dos contenedores Docker distintos en el mismo NAS y después descargar un modelo cuyo tamaño se ajuste a la RAM realmente disponible, en vez de elegir el modelo más capaz que encuentres en internet; la elección del modelo sigue sujeta a las mismas restricciones de memoria que cuando usas Ollama por sí solo, descritas más arriba. Desde DSM 7.2, Container Manager incluye una pestaña «Proyecto» que ejecuta directamente un archivo docker-compose.yml, sin usar SSH ni escribir comandos en un terminal, lo que acerca la experiencia de Synology a la de un servidor Linux clásico, manteniendo el control desde la interfaz gráfica de DSM.

1. 01
   Crear la carpeta del proyecto

   En File Station, crear una carpeta dedicada, por ejemplo /volume1/docker/openwebui, que alojará el archivo docker-compose.yml del proyecto; mantener esta carpeta separada de la utilizada para instalar únicamente Ollama evita mezclar las configuraciones de los dos contenedores.
2. 02
   Escribir el archivo docker-compose.yml

   Declarar dos servicios: ollama (la API ya instalada en el paso anterior o incorporada de nuevo aquí) y open-webui, conectado a Ollama mediante su URL interna, con el puerto 3000 expuesto en el host para la interfaz web.
3. 03
   Iniciar el proyecto desde Container Manager

   Crear un nuevo Proyecto en Container Manager, seleccionar esta carpeta y luego desplegar: el comando subyacente equivale a docker compose up -d e inicia los dos contenedores juntos, en el orden correcto de sus dependencias.
4. 04
   Abrir la interfaz y crear la cuenta de administrador

   Una vez iniciados los contenedores, abrir la dirección IP del NAS seguida del puerto 3000 desde un navegador en la red local, crear la cuenta de administrador en el primer acceso y, después, obtener un modelo de Ollama directamente desde la interfaz.

• Guía completa de Open WebUI con Ollama
• Fuente: Open WebUI en NAS con Docker Compose

#Expectativas realistas con solo CPU

Un NAS Synology ejecuta Ollama únicamente en CPU: no hay una GPU dedicada que se pueda aprovechar en estas máquinas. La velocidad real debe medirse con el modelo y la carga previstos, ya que varía con la longitud del contexto, la versión de Ollama y la actividad concurrente del NAS (copias de seguridad, indexación, otros paquetes). Como referencia cualitativa, la velocidad observada para la generación de textos largos ronda los 5 tokens por segundo: más que suficiente para un uso asíncrono (resúmenes, procesamiento en segundo plano), pero algo justa para una conversación exigente en tiempo real.

#Seguridad de red: no exponer Ollama en Internet

Un NAS suele contener todos los archivos personales o profesionales de un hogar o de una pequeña organización: es una máquina cuya protección debe ser prioritaria, no algo que debas exponer por comodidad. Redirigir un puerto DSM o un puerto de un contenedor directamente a Internet pone un dispositivo que contiene todos tus archivos al alcance de escaneos automatizados, y los NAS Synology ya han sido blanco de campañas de ransomware precisamente por este motivo.

#Frente a un despliegue Docker de producción

Esta guía está orientada a una instalación sencilla, con un solo contenedor, en un NAS doméstico o de una pequeña organización. Para una pila de producción con proxy inverso HTTPS, interfaz web dedicada, RAG vectorial y monitorización, el procedimiento es diferente y exige más trabajo de operación: se explica en la guía de Docker Compose para producción de este sitio, pensada para un servidor Linux dedicado en lugar de un NAS.

• Despliegue de LLM con Docker Compose en producción
• Opción alternativa: Ollama en Proxmox (LXC/VM)
• Fuente: compatibilidad con CPU y RAM por modelo
• Fuente: Container Manager y seguridad de red

#Para quién tiene sentido este montaje

Ejecutar Ollama en un NAS Synology es adecuado para quien ya tiene un NAS x86 en funcionamiento para almacenar datos y quiere añadirle un uso ligero y asíncrono de IA, accesible desde toda la red local: resumir documentos guardados en una carpeta compartida, extraer información de correos electrónicos archivados o servir como componente de una automatización doméstica. No es la opción adecuada si el objetivo es mantener conversaciones fluidas y rápidas a diario, o si el NAS ya sirve como sistema principal de copias de seguridad y no tiene margen de memoria para dedicar a un LLM sin arriesgarse a ralentizar sus tareas habituales.

Ya tienes un NAS x86 Plus con RAM libre

Es el escenario más rentable: no se necesita adquirir material adicional, solo una posible actualización de memoria y un contenedor que configurar.

Estás buscando una conversación inmediata tipo ChatGPT

La CPU de un NAS, por sí sola, sigue siendo lenta frente a una GPU dedicada o un chip reciente con memoria unificada; opta más bien por un mini-PC o una máquina con GPU para este uso.

El NAS ya alberga respaldos críticos

Comprueba la RAM disponible y la carga de la CPU antes de añadir Ollama: un servicio mal dimensionado puede ralentizar las tareas de copia de seguridad existentes.