IA local para ayuntamientos y entidades territoriales territoriales

#¿Por qué una IA local en una entidad territorial?

El problema de una administración local no es tener acceso a una IA. Sus empleados ya tienen una: ChatGPT en el teléfono personal, Copilot en la suite ofimática, un asistente en el servicio de mensajería. El problema es que estos usos se realizan sin un marco definido, copiando datos de los ciudadanos en servicios cuyo alojamiento, conservación y reutilización no controla la administración local. El DPO (delegado de protección de datos, obligatorio para toda autoridad pública desde 2018) no tiene ninguna visibilidad sobre estos usos.

Un LLM autoalojado invierte la lógica. El modelo se ejecuta en una máquina en las instalaciones de la entidad local o en las de su proveedor de alojamiento habitual. Ningún texto sale de la red. La entidad local sigue siendo la responsable del tratamiento, sin un encargado del tratamiento adicional con el que formalizar un contrato, sin transferencias fuera de la Unión Europea y sin cláusulas que negociar con un gigante que no negocia. Y el coste es una inversión puntual en hardware, no una suscripción por empleado que aumenta con el uso.

No es una solución universal. Un modelo local de 8 a 30 mil millones de parámetros es menos brillante que los mejores modelos propietarios en tareas abiertas. Pero las tareas de un ayuntamiento rara vez son abiertas: reformular una carta, estructurar una deliberación, resumir un informe de 40 páginas o responder a una pregunta sobre el reglamento del cementerio. En estas tareas acotadas, con un buen prompt y los documentos adecuados, un modelo del tamaño de Mistral Small o Qwen3 14B cumple su cometido.

#Casos de uso que funcionan en los ayuntamientos

La mejor forma de hacer fracasar un proyecto de IA en una administración local es prometer un «asistente ciudadano» que responda a todo en el sitio web de la ciudad. La mejor forma de llevarlo al éxito es empezar por las tareas internas repetitivas en las que el personal pierde tiempo y los errores son fáciles de detectar. Aquí tienes las que funcionan bien con un modelo local.

Cartas a los administrados

Respuesta a una solicitud de excepción a las normas de escolarización, acuse de recibo de una reclamación, notificación de una decisión. El funcionario proporciona los datos objetivos y el sentido de la respuesta, el modelo redacta en un registro administrativo y el funcionario revisa y firma. La mejora se mide en las comunicaciones de poca trascendencia, que son la mayoría.

Proyectos de acuerdos

Pasar de una circular interna o de un presupuesto a un proyecto de acuerdo estructurado (referencias normativas, considerandos y parte dispositiva). El modelo respeta bien la estructura si se le proporcionan dos o tres acuerdos existentes como modelos. El contenido sigue siendo responsabilidad de la secretaría general y del jurista.

Actas y síntesis

Resumir un informe de una oficina de estudios técnicos, extraer las decisiones de un acta de comisión, elaborar una síntesis de una consulta pública con 300 aportaciones. Un modelo con un contexto de 32 000 tokens puede procesar un documento de unas cien páginas.

Recepción y centralita telefónica

Ayudar al personal de recepción a responder con rapidez y precisión: horarios del punto limpio, documentos necesarios para un certificado de nacimiento, tarifas de los servicios escolares fuera del horario lectivo. Para ello se utiliza un RAG (generación aumentada por recuperación) que se basa en los documentos oficiales de la administración local, no en la memoria del modelo.

Contratación pública

Primera revisión de un CCTP para detectar incoherencias, reformulación de criterios de análisis, ayuda en la redacción del informe de análisis de ofertas. El modelo no toma decisiones, solo acelera la lectura.

Traducción y accesibilidad

Traducir un documento informativo para ciudadanos que no hablan francés, reescribir una carta en lenguaje claro (FALC, fácil de leer y comprender). Los modelos recientes ofrecen buenos resultados en francés y en las principales lenguas europeas.

Dos casos que hay que descartar al principio. El primero es cualquier decisión individual automatizada (concesión de una ayuda social, cálculo de una tarifa según el cociente familiar): el Código de Relaciones entre el Público y la Administración exige informar al usuario de que se realiza un tratamiento algorítmico y explicar sus reglas, y el reglamento europeo sobre la IA clasifica la evaluación del acceso a prestaciones públicas esenciales entre los sistemas de alto riesgo. El segundo es el agente conversacional accesible al público en el sitio web de la ciudad, que exige una madurez (pruebas, supervisión, gestión de desviaciones) que pocas entidades locales tienen en su primer proyecto.

#Por qué la nube estadounidense plantea problemas para una administración local

El argumento no es ideológico, es jurídico. Una entidad territorial es responsable del tratamiento en el sentido del RGPD. Cuando utiliza un servicio de IA en línea, el proveedor se convierte en encargado del tratamiento y un contrato conforme al artículo 28 debe regular la relación: finalidades, plazos, seguridad, subencargados del tratamiento y destino de los datos al finalizar el contrato. Con los grandes servicios dirigidos al público general, este contrato es un contrato de adhesión que la entidad territorial no puede modificar, y las condiciones permiten a menudo conservar las conversaciones y, según la oferta, utilizarlas para mejorar el servicio.

Transferencias fuera de la UE

El alojamiento en Estados Unidos constituye una transferencia a un tercer país. Actualmente se basa en el Marco de Protección de Datos UE-Estados Unidos (decisión de adecuación de julio de 2023), ya impugnado ante los tribunales europeos. El precedente de Schrems II (invalidación del Privacy Shield en 2020) demuestra que esta base puede desaparecer de un día para otro, y la entidad local debe entonces justificar su tratamiento de otra manera.

Cloud Act

La ley estadounidense de 2018 permite a las autoridades de Estados Unidos exigir a un proveedor sujeto a su legislación la entrega de datos, dondequiera que estén almacenados. El alojamiento en un centro de datos europeo de un proveedor estadounidense no protege frente a esta exigencia. Eso es precisamente lo que el marco de referencia SecNumCloud de la ANSSI busca excluir.

Doctrina «nube en el centro»

La circular del primer ministro de 2021, actualizada en 2023, exige a las administraciones del Estado alojar los datos sensibles en servicios certificados SecNumCloud e inmunes a las legislaciones extraterritoriales. No se aplica directamente a las entidades locales, pero establece el nivel de exigencia que puede tomar como referencia un representante electo o un responsable de protección de datos, y las prefecturas se inspiran en ella en sus intercambios con las entidades locales.

Análisis de impacto

El tratamiento de datos de los ciudadanos mediante una IA generativa, a escala de una entidad local, es uno de los casos en los que se recomienda encarecidamente una evaluación de impacto relativa a la protección de datos (artículo 35 del RGPD). Es mucho más fácil redactarla cuando no hay ni transferencia ni encargado del tratamiento.

Confidencialidad y datos sensibles

Los servicios sociales (CCAS), la policía municipal y el registro civil manejan datos de salud, infracciones y situaciones familiares. Estas categorías están excluidas de las condiciones de uso de la mayoría de los servicios de IA para el público en general, y su envío a un tercero con el que no se ha formalizado un contrato constituye una brecha de datos que debe notificarse a la CNIL.

Con el autoalojamiento, la mayoría de estos puntos desaparecen por diseño. Quedan obligaciones, y son reales: mantener actualizado el registro de actividades de tratamiento para incluir esta nueva herramienta, definir los plazos de conservación de las conversaciones, informar a los empleados públicos y regular los usos mediante un código de uso. Pero son obligaciones que la administración local ya sabe cumplir con sus otros programas.

#Requisitos previos y gobernanza

Antes de comprar hardware, hay tres decisiones que tomar en una reunión, no frente a un terminal.

Quién lleva el proyecto

Un equipo de dos: un responsable del área funcional (director general de servicios, secretario general) y un referente técnico (responsable de informática, proveedor de servicios informáticos del municipio o servicio compartido de la agrupación intermunicipal). Sin un responsable del área funcional, el proyecto sigue siendo un juguete del departamento de informática.

Dónde se ejecuta el servidor

En la entidad local, en el centro de datos de la agrupación intermunicipal o del departamento, o con un proveedor de alojamiento francés. Las tres opciones son compatibles con esta guía. Para un municipio pequeño, el servicio informático compartido de la comunidad de municipios suele ser la mejor opción: un servidor, diez ayuntamientos.

¿Qué datos entran?

Decidir de antemano qué documentos alimentarán el RAG (reglamentos, deliberaciones publicadas, procedimientos internos) y qué no se incluirá en él (expedientes individuales del CCAS, datos de la policía municipal). Esta lista es el núcleo de la inscripción en el registro de actividades de tratamiento.

Habilidades

Un técnico familiarizado con Linux y Docker basta para la instalación y la operación. El RAG requiere un poco más de método (preparación de documentos), pero no más código.

Red

El servidor debe ser accesible desde los equipos de los agentes (red interna o VPN) y nunca debe exponerse directamente a internet. Un reverse proxy con autenticación es el mínimo si el acceso supera la red local.

En cuanto a la compra, una máquina de menos de 40.000 € sin impuestos entra en la categoría de contratos públicos sin publicidad ni procedimiento competitivo previo, lo que abarca todas las configuraciones de esta guía. Aun así, hay que solicitar presupuestos para compararlos e incluir una justificación de la necesidad en el expediente. De hecho, la mayoría de las configuraciones descritas más abajo se pueden comprar a través del catálogo de la UGAP o al ensamblador habitual de la entidad local.

#Dimensionar servidor y presupuesto

Lo que determina todo es el tamaño del modelo que quieres servir y, por tanto, la memoria de vídeo (VRAM) disponible. Con la cuantización Q4_K_M, la más común, un modelo de 7 a 8 mil millones de parámetros ocupa aproximadamente 5 GB, uno de 14B alrededor de 9 GB, uno de 24 a 32B entre 15 y 19 GB y uno de 70B alrededor de 40 GB. Hay que sumar la memoria del contexto (los documentos que se están leyendo), que aumenta rápidamente con textos largos. El número de empleados que lo utilizan simultáneamente importa menos de lo que se suele pensar: en un ayuntamiento, diez empleados equipados rara vez generan más de dos o tres solicitudes al mismo tiempo.

Tres niveles cubren la práctica totalidad de las entidades territoriales. Los rangos de precios que aparecen a continuación son orientativos y deben confirmarse mediante un presupuesto: varían según el proveedor, la memoria, el almacenamiento y la garantía.

Nivel 1: municipio de menos de 5.000 habitantes

Una estación de trabajo o un miniservidor con una tarjeta de 12 o 16 GB de VRAM (tipo RTX 4070, RTX 4080 o equivalente), 32 GB de RAM y 1 TB de SSD. Modelos objetivo: Qwen3 8B o 14B, Gemma 3 12B. Presupuesto orientativo de hardware de entre 1.500 y 2.500 € sin impuestos. De cinco a diez empleados, redacción y resumen, RAG sobre los reglamentos del municipio.

Nivel 2: ciudad de tamaño medio o agrupación intermunicipal

Una estación de trabajo con una tarjeta de 24 GB (RTX 4090 o equivalente profesional), 64 GB de RAM, 2 TB de SSD, o un Mac Studio con 64 GB de memoria unificada. Modelos objetivo: Mistral Small 24B, Qwen3 32B en Q4, gpt-oss 20B. Presupuesto orientativo de 3.500 a 6.000 € sin IVA. Entre veinte y cincuenta empleados, todos los casos de uso de esta guía.

Nivel 3: entidad territorial de gran tamaño o servicio compartido a escala de un departamento francés

Un servidor para montaje en rack con una o dos tarjetas profesionales de 48 GB (o más), alimentación redundante, integrado en la sala de servidores existente. Modelos objetivo: 70B en Q4, o varios modelos especializados servidos en paralelo. Presupuesto orientativo a partir de 10 000 € sin impuestos, a menudo entre 15 000 y 25 000 € sin impuestos con el soporte del fabricante. Varios cientos de empleados públicos, varias administraciones territoriales miembros.

A estos importes se añaden la electricidad (una estación de trabajo con una tarjeta de consumo general consume entre 300 y 500 W bajo carga y muy poco en reposo), unos días de instalación y configuración a cargo del responsable técnico o de un proveedor de servicios y, sobre todo, el tiempo de formación del personal, que es el verdadero coste del proyecto. A modo de comparación, una suscripción a un asistente de IA propietario para cincuenta empleados suele superar el precio del nivel 2 ya en el primer año y se renueva cada año.

#Despliegue paso a paso

El procedimiento que sigue presupone un servidor Linux (Ubuntu o Debian) con una tarjeta NVIDIA y los controladores instalados. El conjunto de software está compuesto por Ollama para servir los modelos y Open WebUI para la interfaz con cuentas de usuario, historial y RAG integrado.

1. 01
   Instalar Ollama y hacerlo accesible en la red

   El script oficial instala Ollama como servicio systemd. Por defecto, solo escucha en la propia máquina (http://localhost:11434). Para que la interfaz, instalada en un contenedor, pueda conectarse, se hace que escuche en todas las interfaces, asegurándose de que el firewall del servidor bloquee el puerto 11434 desde el exterior.
2. 02
   Descargar uno o dos modelos

   Comienza con un modelo de tamaño medio y un modelo pequeño y rápido. El primero para la redacción y la síntesis, el segundo para las tareas cortas y la atención al público. La descarga ocupa varios gigabytes; prográmala fuera del horario de apertura si la conexión del ayuntamiento es modesta.
3. 03
   Instalar Open WebUI

   Open WebUI se instala en un contenedor Docker y se conecta a Ollama. La primera cuenta creada es de administrador. Desactiva después el registro abierto y crea las cuentas del personal manualmente o mediante el directorio (LDAP o SSO son compatibles y se configuran en los ajustes de administración).
4. 04
   Alimentar la base documental

   En el espacio de trabajo de Open WebUI, crea una colección por tema (reglamentos, deliberaciones, procedimientos de RR. HH.) y sube los PDF y documentos de Word. Prioriza documentos limpios, actualizados y sin imágenes escaneadas. Luego vincula cada colección a un modelo personalizado con un prompt de sistema que describa el rol esperado.
5. 05
   Redactar los prompts de sistema por función profesional

   Un modelo personalizado «Correspondencia administrativa» con la guía de estilo de la administración local, uno llamado «Deliberación» con la estructura esperada y dos ejemplos, y otro llamado «Atención al público» vinculado a la colección de información práctica. Estos modelos se presentan como herramientas listas para usar para el personal, que no necesita saber redactar prompts.
6. 06
   Proteger y hacer copias de seguridad

   Proxy inverso con certificado TLS delante de Open WebUI, acceso limitado a la red interna o a la VPN, copia de seguridad diaria del volumen de datos de Open WebUI (cuentas, conversaciones, documentos) y de la configuración. Inscribe la herramienta en el registro de actividades de tratamiento, establece un plazo de conservación de las conversaciones y configura su eliminación en consecuencia.

# Installation d'Ollama (script officiel)
curl -fsSL https://ollama.com/install.sh | sh

# Écouter sur le réseau pour le conteneur Open WebUI
sudo systemctl edit ollama.service
# Ajouter dans le fichier ouvert :
# [Service]
# Environment="OLLAMA_HOST=0.0.0.0"
# Environment="OLLAMA_KEEP_ALIVE=24h"
sudo systemctl daemon-reload
sudo systemctl restart ollama

# Modèles de départ (Q4_K_M par défaut)
ollama pull qwen3:14b
ollama pull mistral-small3.2
ollama pull qwen3:8b

# Vérification
ollama list
curl http://localhost:11434/api/tags

docker run -d -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

# L'interface est ensuite accessible sur http://<ip-du-serveur>:3000
# Premier compte créé = administrateur
# Ensuite : Admin > Settings > désactiver « Enable New Sign Ups »

Para no dejar el puerto 11434 abierto a toda la red, restringe el acceso al propio servidor y al contenedor mediante el cortafuegos (ufw o nftables). La guía del sitio sobre cómo proteger un servidor Ollama detalla esta parte, así como la configuración del proxy inverso. Si la entidad local ya dispone de un hipervisor Proxmox, una máquina virtual con acceso directo a la tarjeta gráfica es una buena forma de integrar este servidor en la infraestructura existente.

#Apoyar al personal sin sustituirlo

El miedo a ser reemplazado es la primera reacción en un departamento cuando se anuncia una IA. Es legítimo, y responder con eslóganes no funciona. Lo que funciona es decir con precisión qué hace y qué no hace la herramienta, y demostrarlo con el trabajo real de los empleados públicos.

El modelo propone, el empleado público decide

Ningún documento generado por el modelo se envía sin revisión y firma humana. Esta regla figura en la política de uso, y el prompt de sistema de cada modelo personalizado la recuerda al final de la respuesta. Protege a la administración local (responsabilidad) y al empleado público (sigue siendo el autor).

Formar con casos reales

Dos horas por servicio, trabajando con la correspondencia y los expedientes de la semana, no con ejemplos genéricos. El objetivo es que cada empleado se lleve tres situaciones en las que la herramienta le ahorra tiempo y dos en las que no debe utilizarla.

Explicar las alucinaciones

Un modelo local inventa referencias jurídicas, artículos de códigos legales y cifras con la misma seguridad que al dar una respuesta correcta. El personal debe saber que toda referencia legal generada por el modelo debe verificarse en Légifrance y que el RAG reduce este riesgo en los documentos de la entidad local sin eliminarlo.

Hacer visible el uso

Una convención interna: mencionar «redactado con la ayuda de un asistente, revisado por [agente]» en los documentos de trabajo, nunca en actos oficiales. Esto desdramatiza el uso y facilita el control.

Involucrar a los representantes del personal

La introducción de una herramienta de IA afecta a la organización del trabajo. Informar al comité social territorial (CST) antes del despliegue evita que se entere por rumores y convierta el proyecto en un conflicto.

Medir sin vigilar

Haz un seguimiento del número de usuarios activos y de los comentarios cualitativos, no de la productividad individual. Los registros de conversación sirven para resolver problemas técnicos y garantizar el cumplimiento normativo, no para evaluar al personal, y la carta de uso debe indicarlo.

En las administraciones locales que han procedido así, la adopción no plantea problemas: el personal adopta de buen grado una herramienta que elimina la parte ingrata de redactar una carta. El aspecto que requiere atención es otro: algunos empleados confían demasiado en el modelo y dejan de releer. La revisión cruzada durante las primeras semanas y un recordatorio periódico de las alucinaciones detectadas son las mejores salvaguardas.

#Errores que evitar y solución de problemas

Respuestas lentas o intermitentes

El modelo supera la capacidad de la VRAM y parte de él se ejecuta en el procesador. Comprueba con ollama ps la distribución GPU/CPU. Usa un modelo más pequeño, una cuantización más agresiva o reduce el tamaño de contexto solicitado por Open WebUI.

El RAG da respuestas que no responden a la pregunta

Normalmente, los documentos están mal divididos (PDF escaneados, tablas, diseños complejos). Convértelos en texto limpio antes de subirlos, elimina las versiones obsoletas de los reglamentos, y prueba cada colección con diez preguntas cuya respuesta conoces.

El modelo no conoce la terminología de las administraciones territoriales

No sabe qué es un CCAS, una DETR o una DSP en tu contexto. Añade un glosario de la entidad local al prompt del sistema o a una colección dedicada.

Un empleado ha pegado un expediente de servicios sociales en una conversación

No es una filtración fuera de la entidad local, pero sí un tratamiento fuera del ámbito autorizado. Elimina la conversación, recuerda las normas de uso y, si es necesario, ajusta los derechos de acceso a los modelos por grupo de usuarios en Open WebUI.

Actualización que rompe todo

Fija las versiones: tag de la imagen Open WebUI, versión de Ollama, lista exacta de modelos. Prueba las actualizaciones en una máquina secundaria o en una máquina virtual antes de tocar el servidor de agentes.

El servidor es accesible desde fuera

Comprueba regularmente que ninguna redirección de puertos ni regla de cortafuegos exponga el puerto 11434 o el de Open WebUI en la dirección pública del ayuntamiento. Se registran continuamente miles de servidores Ollama abiertos en internet.

#Para ir más allá

Esta guía establece el marco y el despliegue básico. Estas guías del sitio detallan los componentes con los que vas a trabajar a continuación:

Desplegar un chatbot de IA para tu equipo en una intranet

Los detalles del proxy inverso Nginx, la autenticación, la supervisión y las copias de seguridad de las conversaciones para un despliegue multiusuario de Open WebUI.

Proteger tu servidor Ollama

Comprobar su exposición, añadir autenticación y TLS, y aplicar buenas prácticas de red. Leer antes de abrir el acceso más allá de la red local.

LLM local y RGPD: cumplimiento normativo para los datos privados

El marco legal completo (RGPD, reglamento europeo sobre IA, recomendaciones de la CNIL) para documentar el análisis de impacto y la inscripción en el registro.

RAG local con Ollama sin programar

Para entender qué ocurre cuando subes documentos a una colección y mejorar la calidad de las respuestas del servicio de atención al público.

Elegir tu cuantización (Q4, Q5, Q8, FP16)

Para elegir entre un modelo más grande en Q4 y uno más pequeño en Q8 según la VRAM del servidor comprado.