Мониторинг использования
Отслеживайте запросы, неограниченное потребление токенов, элементы запроса изображений и нагрузку на соединение в рамках «Неограниченного еженедельно» и «Неограниченно ежемесячно».
Product / Видимость использования
Следите за неограниченным использованием токенов и давлением 4-х подключений.
Отслеживайте запросы, потребление токенов, изображения и 4 одновременных соединения вместе с сигналами ограничения скорости, чтобы команды понимали рабочие границы каждого пакета доступа API.
Плоскость управления
Видимость использования
Модель токенаБезлимитный
Соединения4 одновременно
Оценить состоянияПредупреждение и срочно
Пороговые предупреждения
Выявляйте состояния предупреждений и срочных ставок до того, как загруженность дорог повлияет на рабочие процессы работы с клиентами.
Ограничить ответы
Возвращайте 429 ответов в форме OpenAI, когда давление на скорость требует от клиентов приостановить, снизить спрос или перенаправить некритическую работу позже.
Разбивка по использованию
Разделите трафик по конечной точке, модели, ключу и периоду времени, чтобы понять, что движет использованием пакета.
Рабочий процесс
От настройки до подготовки к запуску.
Каждый модуль предназначен для того, чтобы предоставить разработчикам возможность быстрой интеграции, а также предоставить операторам необходимые элементы управления перед масштабированием трафика.
1
Выберите правильный пакет
Начните с еженедельно или ежемесячно в зависимости от вашего окна доступа, ожидаемой формы использования и потребностей в поддержке.
2
Использовать предоставленный доступ API
Используйте предоставленный ключ API и OpenAI-совместимую базу URL, в то время как форма запроса, поведение скорости, использование токена и давление соединения измеряются в фоновом режиме.
3
Реагировать на статусы оценок
Используйте состояния предупреждения и срочности, чтобы настроить политику модели, перенести фоновую работу или снизить спрос до того, как давление достигнет пользователей.
4
Просмотр шаблонов использования
Отслеживайте, какие конечные точки и модели стимулируют использование, чтобы команды могли со временем улучшить поведение продукта.
Реакция на ограничение скорости
HTTP/1.1 429 Too Many Requests
x-unlimitedcodex-rate-state: blocked
x-ratelimit-limit-requests: <workspace_request_limit>
x-ratelimit-remaining-requests: 0
{
"error": {
"message": "Rate limit reached for this workspace.",
"type": "rate_limit_error",
"code": "rate_limit_exceeded"
}
}Создан для прозрачных окон доступа
Видимость использования делает неограниченное потребление токенов конкретным. Команды могут видеть, что происходит, понимать границу четырех соединений и корректировать трафик до того, как давление станет заметным для пользователя.
FAQ
Вопросы, которые команды задают перед внедрением.
Какие типы использования отслеживаются?
Запросы, потребление токенов, элементы запросов изображений и нагрузка на соединение отслеживаются в рамках Unlimited Weekly и Unlimited Monthly на предмет работоспособности службы, журналов и поведения при ограничении скорости.
Предупреждаете ли вы команды перед прекращением доступа?
API отображает состояния предупреждения и срочной скорости до того, как давление станет видимым для пользователя. При достижении жесткого ограничения скорости защищенные конечные точки возвращают 429 ответов в форме OpenAI.
Может ли видимость использования поддерживать несколько продуктов?
Да. Команды могут использовать отдельные ключи и отчеты о конечных точках, чтобы понять потребление в приложениях, службах и средах.
Готовы строить?