Ollama Modelfile: crear y personalizar tu modelo

#¿Por qué se necesita un Modelfile?

Cuando escribes ollama run qwen3.5:9b, obtienes un modelo genérico. A veces responde en inglés a una pregunta en francés, comenta sus respuestas de código con introducciones interminables y negocia cuando pides una traducción literal. En lugar de repetir el mismo prompt de sistema en cada sesión, lo dejas fijado una sola vez en un Modelfile y obtienes una variante reutilizable.

En concreto, un Modelfile permite tres cosas: (1) asociar un prompt de sistema persistente al modelo, (2) ajustar los parámetros de generación (temperatura, contexto, tokens de parada), (3) opcionalmente reemplazar el template de chat. La variante creada se utiliza como cualquier modelo Ollama: ollama run mon-assistant.

#Prerrequisitos

Ollama instalado

Versión 0.3+ recomendada. Comprueba la versión con ollama --version. El daemon debe estar en ejecución en http://localhost:11434.

Un modelo base ya descargado

Por ejemplo, ollama pull qwen3.5:9b o ollama pull qwen3-coder:30b. El Modelfile hereda de este modelo.

Un editor de texto

VSCode, Notepad++, vim: cualquiera. El archivo no requiere una extensión concreta; por convención, suele llamarse Modelfile.

Alrededor de 5 minutos

El tiempo necesario para crear el archivo y ejecutar ollama create. No hay descargas adicionales: se reutiliza un modelo que ya está disponible.

#1. Sintaxis del Modelfile

Un Modelfile es un archivo de texto con instrucciones en mayúsculas, una por bloque. El orden no tiene importancia, pero la convención coloca FROM al principio.

FROM qwen3.5:9b

SYSTEM """
Tu es un assistant utile et concis.
"""

PARAMETER temperature 0.7
PARAMETER num_ctx 4096

Instrucciones principales:

FROM

Modelo base. Obligatorio. Acepta un nombre Ollama (qwen3.5:9b, qwen3.8:27b) o una ruta local hacia un GGUF.

SYSTEM

El prompt de sistema que se inyectará en cada conversación. Usa comillas triples para textos multilínea.

PARAMETER

Ajustes de muestreo y contexto. Una instrucción por parámetro. Los más útiles: temperature, top_p, top_k, num_ctx, repeat_penalty, num_predict, stop.

TEMPLATE

Formato de prompt completo (raro). Solo modificarlo si sabes lo que haces: cada familia de modelos tiene su plantilla.

MESSAGE

Ejemplos few-shot. Precedidos por MESSAGE user o MESSAGE assistant. Útiles para fijar un estilo.

ADAPTER

Ruta hacia un GGUF LoRA para aplicar sobre FROM. Para usuarios avanzados.

LICENSE

Texto libre, para trazabilidad. No afecta la ejecución.

#2. Crear tu primer modelo

El flujo de trabajo es siempre el mismo: escribimos un Modelfile, lanzamos ollama create y probamos con ollama run.

1. 01
   Crear el archivo

   En una carpeta de trabajo, crea un archivo llamado Modelfile (sin extensión). Escribe en él la definición de tu variante.
2. 02
   Empezar a crear

   Desde el mismo directorio: ollama create mon-modele -f ./Modelfile. Ollama valida la sintaxis, hereda los pesos del modelo FROM y registra una nueva entrada. Es instantáneo, no vuelve a descargar nada.
3. 03
   Verificar

   ollama list montre votre nouveau modèle aux côtés des autres. La taille affichée est identique à celle du modèle de base — c'est une référence, pas une copie.
4. 04
   Probar

   ollama run mon-modele. Le system prompt et les paramètres sont déjà appliqués. Vous pouvez aussi pointer une interface (Open WebUI, LM Studio) sur cette variante via l'API.

# Dans le dossier qui contient le Modelfile
ollama create assistant-fr -f ./Modelfile
ollama list
ollama run assistant-fr

#3. Ejemplo: asistente conciso en francés

Objetivo: un asistente que responda siempre en francés, sin prólogo del tipo "Bien sûr, voici…", sin fórmulas de disculpa, con una longitud ajustada.

FROM qwen3.5:9b

SYSTEM """
Tu es un assistant francophone précis et concis.

Règles strictes :
- Réponds toujours en français, jamais en anglais, même si l'utilisateur écrit en anglais.
- Pas de préambule ("Bien sûr", "Voici", "Absolument"). Va directement au fait.
- Pas d'excuses ni de disclaimers sauf si l'information est réellement incertaine.
- Réponses courtes par défaut (3-5 phrases). Détaille uniquement si on te le demande explicitement.
- Si tu ne sais pas, dis-le en une phrase. N'invente pas.
"""

PARAMETER temperature 0.6
PARAMETER top_p 0.9
PARAMETER num_ctx 8192
PARAMETER repeat_penalty 1.15

Creación y prueba:

ollama create assistant-fr -f ./Modelfile-assistant-fr
ollama run assistant-fr "Quels sont les avantages d'un LLM local ?"

Configurar repeat_penalty en 1.15 (en lugar de 1.1, el valor predeterminado) frena las repeticiones de los modelos. Configurar num_ctx en 8192 permite pegar documentos algo largos sin desbordar el contexto predeterminado de 2048.

#4. Ejemplo: codificar Python en silencio

Objetivo: un compañero de código que devuelve código Python listo para pegar, con un mínimo de texto adicional. Ideal para flujos de trabajo en los que se quiere enviar la salida a un editor o a un script mediante una tubería.

FROM qwen3-coder:30b

SYSTEM """
Tu es un assistant de code Python expert. Tu suis ces règles :

1. Réponds uniquement avec du code Python valide, dans un bloc fenced ```python.
2. Pas d'explication avant ou après le code, sauf si l'utilisateur demande explicitement une explication.
3. Le code doit être complet, exécutable, avec les imports nécessaires en haut.
4. Privilégie la stdlib quand c'est possible. Si une dépendance externe est nécessaire, mets un commentaire en tête : # pip install <package>.
5. Type hints quand c'est raisonnable (Python 3.10+).
6. Si la demande est ambiguë, choisis l'interprétation la plus probable et code-la, sans poser de questions.
"""

PARAMETER temperature 0.2
PARAMETER top_p 0.95
PARAMETER num_ctx 16384
PARAMETER stop "```\n\n"

Algunas decisiones técnicas destacadas:

FROM qwen3-coder:30b

Modelo especializado en código de 2026 (MoE 30B-A3B, solo 3B de parámetros activos, 256k de contexto, ~19 GB en Q4). En una tarjeta de 24 GB (RTX 4090) o en un Mac de 32 GB, funciona a 50-80 tokens/s gracias a sus 3B activos. Si solo tienes 16 GB de VRAM, sustitúyelo por gpt-oss:20b (14 GB) o devstral:24b.

temperature 0.2

Baja para el código. Con 0.7 (valor predeterminado), el modelo improvisa nombres de variables y a veces inventa API. Para el código, buscamos determinismo.

num_ctx 16384

Ventana ampliada para analizar archivos enteros. Cuidado: multiplica la VRAM consumida por el contexto.

stop

El modelo se detiene después del primer bloque de código. Esto evita las explicaciones posteriores al código que contaminan la salida.

ollama create coder-py -f ./Modelfile-coder-py
ollama run coder-py "Lire un CSV avec pandas et retourner la moyenne de la colonne 'prix'"

#5. Ejemplo: traductor estricto EN→FR

Objetivo: un traductor que devuelva ÚNICAMENTE la traducción, sin comillas, sin "Traducción:", sin variación estilística. Caso de uso típico: integración en un pipeline n8n o un script bash donde la salida se consuma directamente.

FROM qwen3.5:9b

SYSTEM """
Tu es un traducteur professionnel anglais → français.

Règles ABSOLUES :
- Tu reçois un texte en anglais. Tu retournes UNIQUEMENT la traduction française.
- Pas de préfixe ("Traduction :", "Voici :"), pas de guillemets autour de ta réponse, pas de commentaire.
- Conserve la mise en forme exacte du texte source (sauts de ligne, listes, ponctuation).
- Conserve les noms propres, marques, URLs et identifiants techniques tels quels.
- Si le texte est déjà en français, renvoie-le inchangé.
- Si le texte est dans une autre langue que l'anglais, renvoie : ERREUR_LANGUE_NON_SUPPORTÉE
"""

PARAMETER temperature 0.3
PARAMETER num_ctx 4096
PARAMETER num_predict 2048

Añadir MESSAGE para fijar el formato mediante unos pocos ejemplos (few-shot) hace que el comportamiento sea aún más predecible:

FROM qwen3.5:9b

SYSTEM """
Tu traduis de l'anglais vers le français. Tu renvoies UNIQUEMENT la traduction, sans préfixe ni guillemets.
"""

MESSAGE user "The meeting starts at 3 PM."
MESSAGE assistant "La réunion commence à 15 heures."

MESSAGE user "Please check the attached document."
MESSAGE assistant "Merci de consulter le document ci-joint."

PARAMETER temperature 0.3

Uso en pipeline:

echo "The deployment is scheduled for tomorrow morning." | ollama run translator-en-fr

#6. Gestionar tus modelos personalizados

Con el tiempo, irás acumulando varias variantes. Algunas órdenes útiles para mantener el control:

# Lister tous les modèles (originaux + variantes)
ollama list

# Voir le Modelfile d'une variante (utile pour récupérer un Modelfile perdu)
ollama show --modelfile assistant-fr

# Voir les paramètres effectifs
ollama show --parameters assistant-fr

# Voir le system prompt seul
ollama show --system assistant-fr

# Supprimer une variante (libère uniquement l'entrée, pas les poids du modèle de base)
ollama rm assistant-fr

#7. ¿Qué modelo base elegir?

Todo Modelfile comienza con FROM: la elección del modelo base determina el 90 % del resultado final. Un prompt de sistema perfecto nunca compensará una base inadecuada para tu uso o demasiado grande para tu VRAM.

Asistente generalista

Un modelo reciente de 8 a 14B (familia Qwen o Gemma) en Q4: responde con rapidez, funciona bien en francés y deja margen para el contexto.

Código

Un modelo especializado en código — los modelos MoE tipo Qwen3-Coder 30B-A3B son muy rápidos a partir de 20 GB de memoria; por debajo, un modelo de código de 7 a 9B sigue siendo relevante.

Francés formal / redacción

Los modelos Mistral (Nemo, Magistral) mantienen la ventaja en el idioma francés a igual tamaño.

Configuración modesta (8 GB de VRAM)

Quédate con modelos de 4 a 9B en Q4: un modelo que no cabe en la VRAM y se carga parcialmente en la RAM arruina la capacidad de respuesta, independientemente del Modelfile.

Para comparar las bases por VRAM, licencia y uso, el catálogo QuelLLM filtra los modelos compatibles con tu máquina — cada ficha da la orden ollama run exacte para poner en tu FROM.

#Solución de problemas

El modelo ignora el prompt del sistema

Asegúrate de que estás ejecutando tu variante (ollama run mon-modele) y no el modelo base. Confírmalo con ollama show --system mon-modele.

Respuestas truncadas

Aumenta num_predict (predeterminado 128 en algunas configuraciones) hasta 2048 o más. O añade PARAMETER num_predict -1 para desactivar el límite.

El modelo no cumple una regla estricta

Reformula la regla en mayúsculas, añade "ABSOLUTAMENTE" o "NUNCA" y añade un ejemplo mediante MESSAGE. Los modelos pequeños (menos de ~10B) tienen dificultades con las negaciones aisladas.

Error "Error: invalid model reference"

El modelo FROM no está instalado localmente. Ejecuta ollama pull <modele> antes de ollama create.

VRAM saturada tras la creación

Un num_ctx elevado multiplica el consumo. Si pasas de 2048 a 16384, calcula entre 1 y 3 GB adicionales de VRAM según el tamaño del modelo. Vuelve a 8192 si queda poco margen.

#Para ir más allá

El Modelfile es la base para especializar Ollama sin tocar los pesos. Tres vías que puedes explorar a continuación:

Dominar los prompts de sistema con mayor profundidad

La guía sobre los prompts de sistema detalla cómo estructurar roles, restricciones y ejemplos para lograr comportamientos realmente fiables; resulta útil en cuanto superas las 5 líneas de SYSTEM.

Ajustar temperatura, top-p y top-k

Antes de tocar el modelo, saber con precisión qué cambia cada parámetro de muestreo evita muchas idas y venidas. La guía específica cubre todos los ajustes útiles.

Exponer tus variantes mediante Open WebUI

Una vez que hayas creado tus modelos personalizados, Open WebUI los lista automáticamente. Puedes cambiar entre assistant-fr, coder-py y translator-en-fr con un clic desde la interfaz.