Cómo usar llamadas a herramientas (Tool Calling) con Ollama

L'llamada a herramientas en Ollama representa un avance significativo para transformar los modelos de lenguaje en agentes capaces de interactuar con el mundo exterior. Esta funcionalidad permite a un LLM, alojado localmente a través de Ollama, determinar cuándo y cómo utilizar funciones externas (herramientas) para responder a una consulta compleja. En esta guía, exploraremos en detalle la teoría que sustenta esta capacidad, los mecanismos prácticos de implementación y cómo optimizar el uso de modelos de pesos abiertos de alto rendimiento en tu infraestructura local. También abordaremos las particularidades de los diferentes modelos disponibles en nuestro catálogo para maximizar tus posibilidades de éxito con el tool calling.

Entender el concepto de llamada a herramientas (Tool Calling)

Le tool calling es una capacidad sofisticada en la que un LLM no se limita a generar texto, sino que produce en su lugar una estructura de datos específica (generalmente JSON) que indica que debe ejecutarse una función. El proceso sigue un ciclo iterativo:

1. Solicitud de usuario : El usuario plantea una pregunta que requiere información externa (por ejemplo, "¿Qué tiempo hará en París mañana?").
2. Análisis del LLM : El modelo, entrenado con información sobre las funciones que tienes disponibles (el schema), determina que una función get_weather(city) es adecuada. No responde directamente, pero genera una llamada en el formato esperado.
3. Ejecución externa : Tu sistema anfitrión intercepta esta salida JSON y ejecuta la función real (llamada a una API meteorológica).
4. Devolución del resultado : El resultado de la ejecución ({"temperature": "15°C", "condition": "ensoleillé"}) se devuelve al LLM como un nuevo contexto.
5. Generación Final : El LLM utiliza este resultado factual para formular una respuesta natural y completa al usuario.

Esta arquitectura permite cerrar la brecha entre el conocimiento estático del modelo y los datos dinámicos necesarios para las aplicaciones reales. Para tareas que requieran razonamiento complejo, podrías considerar el uso de modelos potentes como DeepSeek V4 Pro 1.6T ficha de DeepSeek V4 Pro 1.6T o MiMo V2.5 Pro ficha MiMo V2.5 Pro, cuyos contextos ampliados facilitan la gestión de esquemas de herramientas complejos, alcanzando hasta 1.000.000 de tokens en contexto.

Elegir el modelo adecuado para el Agente LLM: Rendimiento vs Tamaño

El éxito de lallamada a herramientas en Ollama depende intrínsecamente de la capacidad del modelo para seguir instrucciones estructuradas y razonar lógicamente. Los modelos de pesos abiertos varían considerablemente en cuanto a complejidad, lo que afecta directamente a su rendimiento en tool calling.

Para las tareas que requieren una alta fidelidad en la invocación de herramientas (donde la precisión del JSON es crítica), prioriza modelos bien alineados con las instrucciones. Por ejemplo, Kimi K2.7 Code Ficha Kimi K2.7 Code o Qwen3-Coder-Next 80B-A3B ficha Qwen3-Coder-Next 80B-A3B demuestran una alta capacidad de razonamiento estructurado, lo cual es un requisito para el tool calling fiable.

En cambio, si tus restricciones de hardware son severas (por ejemplo, uso en configuraciones con menos de 16 GB de VRAM), deberás elegir modelos más pequeños que sigan ofreciendo un buen rendimiento. Modelos como Mistral Medium 3.5 128B ficha Mistral Medium 3.5 128B o Llama 4 Scout 109B ficha Llama 4 Scout 109B ofrecen un buen equilibrio entre capacidad de razonamiento y huella de memoria, permitiendo pruebas eficaces del tool calling sin sobrecargar la GPU.

Implementación técnica: el papel del prompt de sistema

La forma en que presentes las herramientas al LLM es crucial. Debes proporcionar una descripción clara (el schema) de cada función disponible, incluyendo sus parámetros esperados y su tipo de datos. Esta documentación debe integrarse en el prompt del sistema o proporcionarse como contexto antes de la solicitud del usuario.

Un buen ejemplo de definición de herramienta sería: "description": "Récupère les informations sur un modèle spécifique.", "parameters": {"type": "object", "properties": {"model_name": {"type": "string", "description": "Le nom exact du LLM à rechercher (ex: DeepSeek V4 Pro 1.6T)"}}}

La eficacia de esta descripción está directamente relacionada con el nivel de instrucción del modelo. Los modelos entrenados con conjuntos de datos ricos en ejemplos de llamada a funciones se desempeñan mejor. Para comparar las capacidades, puedes consultar nuestra guía comparativa de LLM. También recomendamos estudiar el rendimiento de Inkling ficha Inkling que tiene un contexto muy amplio, ideal para mantener la definición de herramientas en varios intercambios.

Gestión de flujos e iteraciones con Ollama

La implementación del tool calling requiere un bucle de interacción entre tu aplicación y la API Ollama. Es esencial gestionar los siguientes estados:

1. Inicialización : Enviar el prompt de sistema que contiene la definición de las herramientas al LLM a través de Ollama.
2. Verificación de Salida : Analizar la respuesta del LLM. Si contiene una llamada a una herramienta (formato JSON predefinido), pasa al paso 3. De lo contrario, es la respuesta final.
3. Ejecución y Inyección : Ejecutar el código correspondiente a la llamada, luego devolver el resultado bruto al LLM en una nueva solicitud, especificando que se trata del resultado de la herramienta.
4. Finalización : El LLM utiliza este resultado para generar la respuesta final para el usuario.

Modelos como GLM 5.2 753B-A40B ficha GLM 5.2 753B-A40B o Mixtral 8x22B Instruct ficha de Mixtral 8x22B Instruct son excelentes para esta fase de razonamiento iterativo, ya que mantienen una alta coherencia entre las etapas de llamada y respuesta. Para más detalles sobre la optimización de prompts, consulta nuestro artículo sobre ingeniería de prompts.

Casos de uso concretos para LLM locales

Le tool calling abre la puerta a aplicaciones autónomas basadas en tus modelos de pesos abiertos:

• Agentes de Investigación Especializados : Un agente puede usar una herramienta de búsqueda web (si se la proporcionas) para encontrar la información más reciente sobre una tecnología y luego sintetizar esos datos usando un modelo como DeepSeek V3.2 ficha DeepSeek V3.2.
• Asistentes de código contextuales : Un LLM puede llamar a herramientas para leer la documentación local o ejecutar pruebas unitarias sobre una base de código, antes de proponer una corrección utilizando un modelo especializado como Kimi K2.5 ficha de Kimi K2.5.
• Sistemas de Gestión de Entidades : Para extraer y clasificar datos complejos a partir de documentos, la herramienta puede ser una función de clasificación o de validación de esquema. Modelos como Qwen 3 VL 235B-A22B ficha de Qwen 3 VL 235B-A22B son particularmente aptos para este tipo de análisis multimodal y estructurado.

Para comparar el rendimiento de diferentes modelos en escenarios específicos, te invitamos a usar nuestra herramienta de comparación.

Preguntas frecuentes sobre la llamada a herramientas con Ollama

P: ¿Cuál es el requisito principal para que mi LLM compatible con Ollama haga tool calling ?

R: El requisito fundamental no es solo la capacidad nativa del modelo, sino sobre todo la calidad de tu prompt de sistema. Debes describir las funciones disponibles (nombre, descripción, parámetros esperados) en un formato estructurado (a menudo JSON Schema) que el LLM debe aprender a reproducir en su salida cuando considere que una herramienta es necesaria para responder.

Q: ¿Todos los modelos con pesos abiertos soportan nativamente el tool calling ?

R: No, depende de cómo se haya entrenado y afinado el modelo (fine-tuning). Las versiones optimizadas o especializadas en la alineación con instrucciones tienen muchas más probabilidades de generar llamadas a herramientas fiables. Modelos como Nemotron 3 Ultra ficha Nemotron 3 Ultra muestran una gran capacidad para seguir estos esquemas complejos.

P: ¿Qué impacto tiene el tamaño del modelo en el éxito de la llamada a una herramienta?

R: En general, cuanto mayor es el modelo (en parámetros), mayor es su capacidad de razonamiento y su fidelidad al formato JSON requerido para la invocación. Sin embargo, un modelo medio bien alineado puede superar a un modelo muy grande mal afinado en esta tarea específica.

P: ¿Cómo gestionar los errores durante la ejecución de una herramienta externa?

R: Cuando tu código ejecuta una herramienta y encuentra un error (por ejemplo: API no disponible), debes devolver este mensaje de error al LLM como contexto. El modelo debe entonces ser capaz de reconocer este error y, si es posible, proponer una acción correctiva o informar al usuario de que la tarea no puede completarse.

P: ¿Cuál es el papel del contexto (ventana de contexto) en el tool calling ?

R: Un contexto amplio permite al LLM «recordar» tanto las definiciones complejas de todas tus herramientas como el historial completo de la conversación y los resultados intermedios. Modelos con un contexto ampliado como DeepSeek V4 Pro 1.6T ficha de DeepSeek V4 Pro 1.6T son especialmente ventajosos para los agentes de varios pasos.

Conclusión: Hacia agentes LLM autónomos locales

Dominar elllamada a herramientas en Ollama es la clave para transformar un simple generador de texto en un verdadero agente capaz de actuar en tu entorno local o remoto. Al combinar la elección cuidadosa de un modelo de alto rendimiento — ya sea GLM-5 744B-A40B la ficha GLM 5 744B-A40B para la potencia bruta, o un modelo más ligero como MiMo V2 Flash ficha de MiMo V2 Flash por su eficiencia — con un diseño riguroso de prompts, construyes sistemas robustos. Para explorar las capacidades específicas de cada LLM en este ámbito o configurar tu entorno ideal, consulta nuestro catálogo completo o nuestro configurador de hardware.

Fuentes externas utilizadas para enriquecer el contenido (se requieren al menos 3) Guía sobre el Function Calling en general Documentación de la API Ollama Investigación académica sobre agentes LLM