Создание вызова функций (потоковый режим)
- Потоковая конечная точка использования инструментов (Tool Use) Anthropic Messages API (нативный формат)
- Объявляйте вызываемые инструменты через
tools(name,description,input_schema) - Установите
stream: trueв теле запроса для SSE-потоковой передачи вызовов инструментов и ответов модели - Официальная документация: Tool use
Authorizations
Request Body
ID используемой модели. См. таблицу совместимости эндпоинтов моделей для Chat API.
Список сообщений диалога. Пример кода на Python.
Температура выборки от 0 до 2. Более высокие значения (напр. 0,8) делают вывод случайнее, низкие (напр. 0,2) — более сфокусированным. Рекомендуется менять либо это, либо top_p.
Ядерная выборка вместо temperature. 0,1 означает только верхние 10% вероятностной массы. Рекомендуется менять либо это, либо temperature.
По умолчанию 1
Сколько вариантов завершения чата генерировать для каждого входного сообщения.
Для потокового API вызова инструментов установите true. Включает SSE-инкременты частичных сообщений; поток завершается на data: [DONE].
По умолчанию null. До 4 последовательностей, после которых API прекращает генерацию.
По умолчанию inf
Максимальное число токенов в завершении чата.
Суммарная длина входных и сгенерированных токенов ограничена контекстом модели.
Число от -2,0 до 2,0. Положительные значения штрафуют новые токены за уже встречавшиеся в тексте. Подробнее о штрафах
По умолчанию 0. Число от -2,0 до 2,0. Положительные значения снижают повторения по частоте появления.
Изменяет вероятность появления указанных токенов в завершении. Принимает JSON-объект с ID токенов и смещениями от -100 до 100.
Уникальный идентификатор конечного пользователя. Подробнее
Объект формата вывода модели. { "type": "json_object" } включает JSON-режим.
Бета-функция. При указании система стремится к детерминированной выборке при повторных запросах с тем же seed.
Список инструментов, которые может вызывать модель. Сейчас поддерживаются только функции.
Управляет вызовом функции. none — без вызова, auto — выбор между сообщением и функцией.