Function Calling / Tool Use
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.
Praktische Aspekte der LLM-API-Nutzung — Streaming, Caching, Rate Limits.
Wie ein LLM Werkzeuge aufruft: Tool-Definition als Schema, Modell wählt Funktion und Argumente, Ergebnis zurück ins Gespräch — der Grundbaustein jedes Agenten.
Praktische API-Mechanik jenseits des Pricings: Streaming für UX, Prompt Caching gegen Token-Kosten, Batch-API für Massenjobs, Rate Limits ohne 429-Drama.
Wie Prompt Caching bei Claude, GPT-6 Astra und Gemini 3 Pro funktioniert: Cache-Schreiben und -Lesen, TTL-Varianten, Modellunterschiede und wann es sich lohnt.
Wie Structured Outputs bei Anthropic, OpenAI und Gemini JSON-Schemas erzwingen: Grammatik statt Bitte, validierte Outputs für Pipelines statt Freitext.