Offizieller Function-Calling-Aufruf
- Aufrufbare Funktionen (Function) über
toolsim Modell registrieren - Das Modell kann je nach Gespräch entscheiden, ob eine Funktion aufgerufen wird, und strukturierte Argumente zurückgeben
- Kompatibel mit Function calling von OpenAI Chat Completions
- Offizielle Dokumentation: Tools / Function calling
Authorizations
Request Body
Zu verwendendes Modell. Siehe Kompatibilitätstabelle der Modelle mit der Chat-API.
Liste der bisherigen Nachrichten in der Unterhaltung.
Sampling-Temperatur zwischen 0 und 2. Höhere Werte (z. B. 0,8) machen die Ausgabe zufälliger; niedrigere (z. B. 0,2) fokussierter. In der Regel nur diesen oder top_p ändern, nicht beides.
Nucleus-Sampling als Alternative zu temperature. Das Modell berücksichtigt Tokens mit top_p-Wahrscheinlichkeitsmasse (z. B. 0,1 = oberste 10 %). In der Regel nur diesen oder temperature ändern, nicht beides.
Standard 1. Anzahl der Chat-Abschluss-Optionen pro Eingabenachricht.
Standard false. Wenn gesetzt, werden partielle Nachrichtendeltas wie in ChatGPT gesendet. Tokens als Server-Sent Events; der Stream endet mit data: [DONE].
Standard null. Bis zu 4 Sequenzen, bei denen die API keine weiteren Tokens erzeugt.
Standard inf. Maximale Tokens im Abschluss.
Die Gesamtlänge von Ein- und Ausgabe-Tokens ist durch den Modellkontext begrenzt.
Zahl zwischen -2,0 und 2,0. Positive Werte bestrafen neue Tokens nach bisherigem Vorkommen im Text und fördern neue Themen. Mehr zu Strafen
Standard 0. Zwischen -2,0 und 2,0. Positive Werte bestrafen nach Häufigkeit im Text und reduzieren Wiederholungen.
Ändert die Wahrscheinlichkeit bestimmter Tokens im Abschluss.
JSON-Objekt: Token-ID → Bias von -100 bis 100. Wird vor dem Sampling auf Logits angewendet; Wirkung modellabhängig.
Eindeutige Kennung des Endnutzers. Hilft OpenAI bei Missbrauchserkennung. Mehr erfahren
Ausgabeformat. { "type": "json_object" } aktiviert den JSON-Modus. Im JSON-Modus muss das Modell auch per System-/User-Nachricht zum JSON-Erzeugen angewiesen werden.
Beta. Wenn gesetzt, versucht das System deterministisch zu sampeln; Änderungen über system_fingerprint in der Antwort beobachten.
Liste von Tools, die das Modell aufrufen kann. Derzeit nur Funktionen als Tools. Geben Sie Funktionen an, für die das Modell JSON-Eingaben erzeugen kann.
Steuert Funktionsaufrufe: none = keiner; auto = Modell wählt; erzwingen mit {"type": "function", "function": {"name": "my_function"}}. Standard none ohne Funktionen, sonst auto.