loskan.io
@

Function Calling / Tool Use

DefinitionLLM ruft definierte Funktionen/APIs strukturiert auf.

Function Calling (auch „Tool Use“ genannt) bedeutet, dass ein Large Language Model (LLM) wie ChatGPT nicht nur Text generiert, sondern definierte Funktionen, Tools oder APIs in einem strukturierten Format aufruft. Statt „frei“ zu raten, kann das Modell z. B. eine Wetter-API abfragen, Daten in einem CRM speichern oder einen Workflow in n8n starten – und anschließend das Ergebnis verständlich zusammenfassen.

Was bedeutet Function Calling / Tool Use?

Der Begriff beschreibt eine Schnittstelle zwischen LLM und Software-Welt: Du stellst dem Modell „Werkzeuge“ (Funktionen) zur Verfügung, inklusive Name, Beschreibung und Parametern (z. B. JSON-Schema). Wenn der Nutzer etwas fragt, entscheidet das LLM, ob es ein Tool nutzen sollte, erzeugt einen passenden Funktionsaufruf (strukturierte Daten), und ein System führt diesen Aufruf aus. Das LLM erhält danach das Tool-Ergebnis zurück und formuliert daraus die Antwort.

Wie funktioniert Function Calling?

  • 1) Tools definieren: Du beschreibst Funktionen/APIs (z. B. get_weather, create_ticket) samt Parametern und Validierungsregeln.
  • 2) Nutzeranfrage: Der User stellt eine Frage („Buche einen Termin am Freitag um 14 Uhr“).
  • 3) Tool-Entscheidung: Das LLM erkennt, dass ein externer Schritt nötig ist (Kalender prüfen/buchen).
  • 4) Strukturierter Aufruf: Das Modell erzeugt z. B. JSON mit date, time, timezone statt unstrukturiertem Text.
  • 5) Ausführung & Rückgabe: Dein Backend, Zapier/n8n oder ein Service führt den Call aus und liefert Resultate (Bestätigung, Fehlermeldung, Daten).
  • 6) Antwortgenerierung: Das LLM erklärt das Ergebnis („Termin ist eingetragen, Einladung ist raus“).

Warum ist Tool Use wichtig?

Function Calling macht LLMs deutlich zuverlässiger und „handlungsfähig“. Statt Halluzinationen zu riskieren, kann das Modell Informationen aus verlässlichen Quellen holen oder Aktionen in Systemen ausführen. Das ist zentral für Automationen (z. B. in n8n), Assistenzsysteme und AI Agents (KI-Agenten), die mehrere Schritte planen und Tools kombinieren.

Beispiele aus Praxis & Automation

  • Kundensupport: Ticket anlegen, Status aus Helpdesk abrufen, Rückerstattung anstoßen.
  • Sales/CRM: Lead anlegen, Notizen speichern, Follow-up-E-Mail vorbereiten und versenden.
  • Reporting: Daten aus Google Sheets/DB ziehen, Kennzahlen berechnen, Management-Zusammenfassung schreiben.
  • n8n-Workflows: LLM entscheidet, welche Node/Route genutzt wird, und übergibt saubere Parameter.

Was kostet Function Calling / Tool Use?

Die Kosten hängen meist von (a) LLM-Tokens (Eingabe/Ausgabe), (b) Tool-/API-Kosten (z. B. CRM, Maps, Datenbanken) und (c) Infrastruktur/Workflow-Plattform (z. B. n8n Cloud vs. Self-Hosted) ab. Oft starten einfache Setups im niedrigen zweistelligen Eurobereich pro Monat (Tool+Hosting), während produktive Systeme je nach Volumen schnell deutlich höher liegen.

Wichtige Erfolgsfaktoren

  • Gute Tool-Beschreibungen: Klare Namen, präzise Parameter, Beispiele.
  • Validierung & Sicherheit: Parameter prüfen, Berechtigungen/Scopes, Logging, Rate Limits.
  • Fehlerhandling: Saubere Rückgaben (z. B. „Termin nicht verfügbar“) und sinnvolle Nachfragen.

Richtig umgesetzt ist Function Calling der Schlüssel, um aus „Chat“ echte, zuverlässige Automatisierung zu machen – mit nachvollziehbaren, strukturierten Aktionen statt reiner Textausgabe.

  • 35%

    schnellere Bearbeitung

    Wenn LLMs definierte Funktionen oder APIs direkt aufrufen, verkürzen sich typische Support- und Backoffice-Prozesse in KMU deutlich durch weniger manuelle Zwischenschritte.

  • 28%

    geringere Prozesskosten

    Tool Use senkt in B2B-Abläufen die Kosten pro Vorgang, weil Datenabfragen, Formularlogik und Systemaktionen strukturiert statt per manueller Nacharbeit ausgeführt werden.

  • 3 von 5

    höhere Automatisierungsquote

    Rund 60% der wiederkehrenden Standardanfragen lassen sich mit Function Calling in CRM-, ERP- oder Ticketing-Prozessen teilautomatisiert oder vollautomatisiert abwickeln.

  • Serviceanfragen automatisch im Ticketsystem anlegen und priorisieren

    Ein KMU im technischen Kundenservice lässt ein LLM eingehende E-Mails oder Chat-Nachrichten analysieren und per Function Calling direkt im Helpdesk-System als Ticket anlegen. Dabei ruft das Modell definierte Funktionen für Kategorie, Priorität und Kundendatenabgleich auf, sodass Anfragen schneller beim richtigen Team landen und Rückfragen reduziert werden.

  • Vertriebschancen aus Webformularen direkt ins CRM übertragen

    Ein mittelständisches B2B-Unternehmen nutzt Tool Use, um Anfragen aus Kontaktformularen strukturiert auszulesen und automatisch im CRM als Lead zu erfassen. Das LLM kann dabei Funktionen für Dublettenprüfung, Lead-Scoring und Terminvereinbarung aufrufen, wodurch der Vertrieb schneller auf qualifizierte Anfragen reagiert.

  • Bestell- und Lagerdaten für den Einkauf in Echtzeit abfragen

    Ein produzierendes KMU setzt ein LLM ein, das per API-Aufruf aktuelle Lagerbestände, offene Bestellungen und Liefertermine aus ERP- und Warenwirtschaftssystemen zusammenführt. Mitarbeitende im Einkauf können natürliche Fragen stellen, während das Modell im Hintergrund die passenden Funktionen nutzt und so schnell belastbare Entscheidungen zur Nachbestellung ermöglicht.

Häufig gestellte Fragen

Was ist der Unterschied zwischen Function Calling und einer normalen Chat-Antwort?

Bei einer normalen Chat-Antwort erzeugt das Sprachmodell nur Text. Beim Function Calling bzw. Tool Use kann das Modell zusätzlich strukturierte Funktionsaufrufe auslösen, etwa eine API abfragen, Daten speichern oder einen Workflow starten, und das Ergebnis danach verständlich erklären. Das macht KI-Antworten verlässlicher, nachvollziehbarer und deutlich nützlicher für echte Geschäftsprozesse.

Wofür wird Function Calling in Unternehmen eingesetzt?

Function Calling wird genutzt, um KI mit bestehenden Tools und Systemen zu verbinden, zum Beispiel mit CRM, Helpdesk, Datenbanken, Kalendern oder Automationen. Typische Anwendungsfälle sind Support-Automatisierung, Datenerfassung, Angebotsprozesse, Reporting oder interne Assistenten, die nicht nur antworten, sondern auch direkt Aufgaben ausführen.

Ist Function Calling für mein Unternehmen nicht zu technisch und zu komplex?

Nicht, wenn die Umsetzung sauber geplant wird. In meiner KI-Beratung & Hilfestellung prüfen wir zuerst, welche Prozesse wirklich geeignet sind, und bauen nur Lösungen, die für dein Team im Alltag sinnvoll nutzbar sind – inklusive Einrichtung, Tests und verständlicher Einführung.

Brauche ich dafür eine eigene IT-Abteilung oder Entwickler im Haus?

Nein, nicht zwingend. Gerade für Unternehmen ohne eigene IT-Leitung ist meine Tech-Partnerschaft als externer CTO sinnvoll: Ich denke die technische Architektur mit, bewerte Tools und Schnittstellen und begleite die Umsetzung so, dass du keine interne Spezialabteilung aufbauen musst.

Woher weiß ich, ob sich Function Calling bei uns überhaupt lohnt?

Genau dafür gibt es mein Tech-Gutachten und die KI-Beratung mit PUR-Framework. Wir schauen uns Prozesse, Umsetzbarkeit und ROI an und klären, ob Function Calling echten Mehrwert bringt oder ob ein einfacherer Ansatz für dich wirtschaftlicher ist.

Kann Function Calling auch direkt in bestehende Systeme wie CRM oder Projektmanagement eingebunden werden?

Ja, genau darin liegt der eigentliche Nutzen. Mit der Tech-Umsetzung auf OrbitOS oder über passende Schnittstellen integriere ich KI-Funktionen so, dass Daten, Aufgaben, Inhalte und Automationen in einem funktionierenden System zusammenlaufen statt in isolierten Einzeltools.

Was passiert, wenn wir schon viele Tools haben und nicht wissen, wo wir anfangen sollen?

Dann starten wir nicht mit mehr Technik, sondern mit Klarheit. Im Tech-Gutachten analysiere ich deine bestehende Tool-Landschaft, identifiziere Doppelstrukturen, unnötige Kosten und sinnvolle KI-Ansatzpunkte, damit Function Calling nicht zusätzliches Chaos erzeugt, sondern Prozesse wirklich vereinfacht.