Kullanım izleme
Sınırsız Haftalık ve Sınırsız Aylık genelinde istekleri, sınırsız jeton tüketimini, görüntü istek öğelerini ve bağlantı baskısını izleyin.
Product / Kullanım Görünürlüğü
Sınırsız jeton kullanımını ve 4 bağlantı baskısını izleyin.
Ekiplerin her API erişim paketinin çalışma sınırlarını anlaması için istekleri, jeton tüketimini, görüntüleri ve 4 eşzamanlı bağlantıyı hız sınırı sinyalleriyle birlikte izleyin.
Kontrol düzlemi
Kullanım Görünürlüğü
Jeton modeliSınırsız
Bağlantılar4 eşzamanlı
Oran durumlarıUyarı ve acil
Eşik uyarıları
Trafik baskısı müşteriye yönelik iş akışlarını etkilemeden önce uyarı ve acil ücret durumlarını ortaya çıkarın.
Yanıtları sınırla
Hız baskısı müşterilerin duraklatmasını, talebi azaltmasını veya kritik olmayan işleri daha sonra yönlendirmesini gerektirdiğinde OpenAI şeklindeki 429 yanıtını döndürün.
Kullanım dökümleri
Paket kapsamındaki kullanımı neyin artırdığını anlamak için trafiği uç nokta, model, anahtar ve zaman aralığına göre ayırın.
İş akışı
Kurulumdan lansman hazırlığına kadar.
Her modül, geliştiricilere hızlı entegrasyon yolları sunarken, operatörlere trafik ölçeklenmeden önce ihtiyaç duydukları kontrolleri sağlayacak şekilde tasarlanmıştır.
1
Doğru paketi seçin
Erişim pencerenize, beklenen kullanım şekline ve destek ihtiyaçlarınıza göre Haftalık veya Aylık ile başlayın.
2
Teslim edilen API erişimini kullan
Talep şekli, oran davranışı, belirteç kullanımı ve bağlantı basıncı arka planda ölçülürken, teslim edilen API anahtarını ve OpenAI uyumlu tabanı URL kullanın.
3
Oran durumlarına yanıt verme
Model politikasını ayarlamak, arka plan çalışmasını taşımak veya baskı kullanıcılara ulaşmadan talebi azaltmak içiçinde uyarı ve acil durumları kullanın.
4
Kullanım kalıplarını inceleyin
Ekiplerin zaman içinde ürün davranışını iyileştirebilmesi için hangi uç noktaların ve modellerin kullanımı artırdığını takip edin.
Hıza duyarlı limit yanıtı
HTTP/1.1 429 Too Many Requests
x-unlimitedcodex-rate-state: blocked
x-ratelimit-limit-requests: <workspace_request_limit>
x-ratelimit-remaining-requests: 0
{
"error": {
"message": "Rate limit reached for this workspace.",
"type": "rate_limit_error",
"code": "rate_limit_exceeded"
}
}Şeffaf erişim pencereleri için tasarlandı
Kullanım görünürlüğü sınırsız token tüketimini somut hale getirir. Ekipler neler olduğunu görebilir, 4 bağlantı sınırını anlayabilir ve baskı kullanıcı tarafından görülebilir hale gelmeden önce trafiği ayarlayabilir.
SSS
Ekiplerin kullanıma sunmadan önce sorduğu sorular.
Hangi kullanım türleri izleniyor?
Hizmet durumu, günlükler ve hız sınırı davranışı için istekler, belirteç tüketimi, görüntü isteği öğeleri ve bağlantı baskısı Sınırsız Haftalık ve Sınırsız Aylık olarak izlenir.
Erişim durmadan önce ekipleri uyarıyor musunuz?
API, basınç kullanıcı tarafından görülebilir hale gelmeden önce uyarı ve acil oran durumlarını ortaya çıkarır. Sabit hız sınırına ulaşıldığında, korunan uç noktalar OpenAI şeklindeki 429 yanıtını döndürür.
Kullanım görünürlüğü birden fazla ürünü destekleyebilir mi?
Evet. Ekipler uygulamalar, hizmetler ve ortamlar arasındaki tüketimi anlamak için ayrı anahtarlar ve uç nokta raporlaması kullanabilir.
İnşa etmeye hazır mısınız?