Funktionsaufruf erstellen (Streaming)
- Tool Use-Streaming-Endpunkt der Anthropic Messages API (Native-Format)
- Deklarieren Sie aufrufbare Tools über
tools(name,description,input_schema) - Setzen Sie
stream: trueim Request-Body für SSE-Streaming von Tool-Aufrufen und Modellantworten - Offizielle Dokumentation: Tool use
Authorizations
Request Body
ID des zu verwendenden Modells. Siehe Kompatibilitätstabelle der Modell-Endpunkte für die Chat-API.
Liste der Nachrichten des Gesprächs. Python-Codebeispiel.
Sampling-Temperatur zwischen 0 und 2. Höhere Werte (z. B. 0,8) machen die Ausgabe zufälliger; niedrigere (z. B. 0,2) fokussierter. Wir empfehlen, entweder dies oder top_p zu ändern, nicht beides.
Nucleus-Sampling als Alternative zu temperature. 0,1 bedeutet nur die oberen 10 % der Wahrscheinlichkeitsmasse. Wir empfehlen, entweder dies oder temperature zu ändern, nicht beides.
Standard 1
Anzahl der Chat-Vervollständigungsoptionen pro Eingabenachricht.
Für den Tool-Use-Streaming-Endpunkt auf true setzen. Aktiviert SSE-Teilnachrichten-Deltas; der Stream endet bei data: [DONE].
Standard null. Bis zu 4 Sequenzen, bei denen die API keine weiteren Tokens erzeugt.
Standard inf
Maximale Anzahl zu erzeugender Tokens in der Vervollständigung.
Gesamtlänge von Eingabe- und erzeugten Tokens ist durch den Modellkontext begrenzt.
Zahl zwischen -2,0 und 2,0. Positive Werte bestrafen neue Tokens nach bisherigem Vorkommen. Mehr zu Strafen
Standard 0. Zahl zwischen -2,0 und 2,0. Positive Werte reduzieren Wiederholungen nach Häufigkeit.
Ändert die Wahrscheinlichkeit bestimmter Tokens in der Vervollständigung. Akzeptiert ein JSON-Objekt mit Token-IDs und Bias von -100 bis 100.
Eindeutige Kennung des Endbenutzers. Mehr erfahren
Objekt für das vom Modell geforderte Ausgabeformat. { "type": "json_object" } aktiviert den JSON-Modus.
Beta-Funktion. Bei Angabe versucht das System deterministisches Sampling bei wiederholten Anfragen mit gleichem Seed.
Liste von Tools, die das Modell aufrufen kann. Derzeit nur Funktionen unterstützt.
Steuert, welche Funktion (falls vorhanden) das Modell aufruft. none: kein Aufruf; auto: Wahl zwischen Nachricht und Funktion.