Tool Calling
Tool Calling bezeichnet die Fähigkeit von Large Language Models (LLMs), externe Funktionen oder Tools gezielt aufzurufen. Das Modell führt die Funktionen nicht selbst aus, sondern liefert strukturierte Anweisungen in JSON-Format, die dann von der Anwendung umgesetzt werden.
Ausführliche Erklärung
Tool Calling ist eine Schnittstellen-Technik, die es Sprachmodellen ermöglicht, über ihre reine Textgenerierung hinauszugehen und mit externen Systemen zu interagieren. Wenn ein LLM wie GPT-4 oder Claude eine Aufgabe erhält, für die es eine externe Funktion benötigt – etwa eine Datenbankabfrage, einen API-Aufruf oder eine Wetterauskunft –, erkennt es diese Notwendigkeit und gibt eine strukturierte Anfrage zurück. Diese enthält den Namen der gewünschten Funktion und die erforderlichen Parameter im JSON-Format. Die eigentliche Ausführung übernimmt dann die aufrufende Anwendung, nicht das Sprachmodell selbst.
Praxisbeispiel
Eine österreichische Steuerberatungskanzlei mit 12 Mitarbeitenden setzt einen KI-Assistenten ein, der Mandantenanfragen bearbeitet. Fragt ein Mandant "Wann ist meine nächste Umsatzsteuervoranmeldung fällig?", nutzt der Assistent Tool Calling, um im Kalendersystem des Kanzleiprogramms nachzusehen. Das LLM erkennt die Anfrage, fordert den Tool-Aufruf "get_tax_deadline(mandant_id, steuerart)" an, erhält die Daten und formuliert eine verständliche Antwort – ohne dass ein Mitarbeiter manuell nachschlagen muss.
Code-Beispiel
// Beispiel: Tool-Definition für OpenAI API
const tools = [{
type: "function",
function: {
name: "get_customer_data",
description: "Ruft Kundendaten aus CRM ab",
parameters: {
type: "object",
properties: {
customer_id: {
type: "string",
description: "Die Kundennummer"
}
},
required: ["customer_id"]
}
}
}];
// Antwort des LLM enthält tool_call:
// { "name": "get_customer_data",
// "arguments": "{\"customer_id\": \"K-12345\"}" }