Nutzungsüberwachung
Verfolgen Sie Anfragen, unbegrenzten Token-Verbrauch, Bildanforderungselemente und Verbindungsdruck über Unlimited Weekly und Unlimited Monthly.
Product / Sichtbarkeit der Nutzung
Beobachten Sie unbegrenzte Token-Nutzung und 4-Verbindungsdruck.
Überwachen Sie Anforderungen, Token-Verbrauch, Bilder und 4 gleichzeitige Verbindungen sowie Ratenbegrenzungssignale, damit Teams die Betriebsgrenzen jedes API-Zugriffspakets verstehen.
Kontrollebene
Sichtbarkeit der Nutzung
Token-ModellUnbegrenzt
Verbindungen4 gleichzeitig
Bewerten Sie StaatenWarnung und dringend
Schwellenwarnungen
Machen Sie Warnungen und dringende Tarifzustände sichtbar, bevor der Verkehrsdruck die kundenorientierten Arbeitsabläufe beeinträchtigt.
Beschränken Sie die Antworten
Geben Sie OpenAI-förmige 429-Antworten zurück, wenn der Preisdruck es erforderlich macht, dass Anwendungen pausieren, die Nachfrage reduzieren oder unkritische Arbeiten später weiterleiten.
Nutzungsaufschlüsselungen
Trennen Sie den Datenverkehr nach Endpunkt, Modell, Schlüssel und Zeitraum, um zu verstehen, war die Nutzung im Rahmen des Pakets antreibt.
Arbeitsablauf
Von der Einrichtung bis zur Startvorbereitung.
Jedes Modul ist darauf ausgelegt, Entwicklern schnelle Integrationspfade zu bieten und den Betreibern gleichzeitig die Kontrollen zu geben, die sie benötigen, bevor der Datenverkehr zunimmt.
1
Wählen Sie das richtige Paket
Beginnen Sie mit Wöchentlich oder Monatlich, basierend auf Ihrem Zugriffsfenster, der erwarteten Nutzungsform und dem Supportbedarf.
2
Verwenden Sie den bereitgestellten API-Zugang
Verwenden Sie den bereitgestellten API-Schlüssel und die OpenAI-kompatible Basis-URL, während Anforderungsform, Ratenverhalten, Token-Nutzung und Verbindungsdruck im Hintergrund gemessen werden.
3
Reagieren Sie auf Tarifzustände
Verwenden Sie Warn- und Dringlichkeitszustände, um die Modellrichtlinien zu optimieren, Hintergrundarbeit zu verschieben oder die Nachfrage zu reduzieren, bevor der Druck die Benutzer erreicht.
4
Überprüfen Sie die Nutzungsmuster
Verfolgen Sie, welche Endpunkte und Modelle die Nutzung fördern, damit Teams das Produktverhalten im Laufe der Zeit verbessern können.
Ratenbewusste Grenzwertreaktion
HTTP/1.1 429 Too Many Requests
x-unlimitedcodex-rate-state: blocked
x-ratelimit-limit-requests: <workspace_request_limit>
x-ratelimit-remaining-requests: 0
{
"error": {
"message": "Rate limit reached for this workspace.",
"type": "rate_limit_error",
"code": "rate_limit_exceeded"
}
}Gebaut für transparente Zugangsfenster
Durch die Sichtbarkeit der Nutzung wird der unbegrenzte Token-Verbrauch konkret. Teams können sehen, war passiert, die 4-Verbindungsgrenze verstehen und den Datenverkehr anpassen, bevor der Druck für den Benutzer sichtbar wird.
FAQ
Fragen, die Teams vor dem Rollout stellen.
Welche Nutzungsarten werden überwacht?
Anfragen, Token-Verbrauch, Bildanforderungselemente und Verbindungsdruck werden im Rahmen von Unlimited Weekly und Unlimited Monthly auf Dienstzustand, Protokolle und Ratenbegrenzungsverhalten überwacht.
Benachrichtigen Sie Teams, bevor der Zugriff unterbrochen wird?
Der API stellt Warnungen und dringende Ratenzustände bereit, bevor der Druck für den Benutzer sichtbar wird. Wenn ein hartes Ratenlimit erreicht ist, geben geschützte Endpunkte OpenAI-förmige 429-Antworten zurück.
Kann die Nutzungssichtbarkeit mehrere Produkte unterstützen?
Ja. Teams können separate Schlüssel und Endpunktberichte verwenden, um den Verbrauch über Apps, Dienste und Umgebungen hinweg zu verstehen.
Bereit zum Bauen?