Официальный вызов Function calling
- Регистрация вызываемых функций (Function) в модели через
tools - Модель может решить, вызывать ли функцию по содержанию диалога, и вернуть структурированные аргументы
- Совместимо с Function calling в OpenAI Chat Completions
- Официальная документация: Tools / Function calling
Authorizations
Request Body
Используемая модель. См. таблицу совместимости моделей с Chat API.
Список сообщений в диалоге на данный момент.
Температура выборки от 0 до 2. Более высокие значения (напр. 0.8) делают вывод более случайным; более низкие (напр. 0.2) — более сфокусированным. Обычно рекомендуется менять либо это, либо top_p, но не оба.
Ядерная выборка вместо temperature. Модель учитывает токены с верхней массой вероятности top_p (напр. 0.1 = верхние 10%). Обычно рекомендуется менять либо это, либо temperature, но не оба.
По умолчанию 1. Сколько вариантов завершения чата генерировать для каждого входного сообщения.
По умолчанию false. При включении отправляются частичные дельты сообщений, как в ChatGPT. Токены передаются как server-sent events; поток завершается сообщением data: [DONE].
По умолчанию null. До 4 последовательностей, при которых API прекращает генерацию токенов.
По умолчанию inf. Максимум токенов в завершении.
Суммарная длина входных и выходных токенов ограничена контекстом модели.
Число от -2.0 до 2.0. Положительные значения штрафуют новые токены за появление в тексте, повышая вероятность новых тем. Подробнее о штрафах
По умолчанию 0. Число от -2.0 до 2.0. Положительные значения штрафуют токены по частоте в тексте, снижая повторения.
Изменяет вероятность появления указанных токенов в завершении.
JSON-объект: ID токена → смещение от -100 до 100. Применяется к logit до выборки; эффект зависит от модели.
Уникальный идентификатор конечного пользователя. Помогает OpenAI отслеживать злоупотребления. Подробнее
Формат вывода. { "type": "json_object" } включает JSON-режим. При JSON-режиме нужно также указать модели генерировать JSON в system/user сообщениях.
Бета. При указании система старается детерминированно сэмплировать; следите за изменениями через system_fingerprint в ответе.
Список инструментов, которые может вызывать модель. Сейчас поддерживаются только функции. Укажите функции, для которых модель может сгенерировать JSON-ввод.
Какую функцию вызывать: none — не вызывать; auto — модель выбирает; принудительно — {"type": "function", "function": {"name": "my_function"}}. По умолчанию none без функций, иначе auto.