Modellmetadaten und Fallback-Überprüfung
Erfassen Sie den bereitgestellten Modellwert für jede Arbeitslast und definieren Sie ein Fallback-Verhalten, bevor der kundenorientierte Datenverkehr zunimmt.
Product / Modellrichtlinie
Dokumentieren Sie die genauen Modell-IDs, die für Ihr Paket geliefert wurden.
Halten Sie bereitgestellte Modell-IDs, Fallback-Pläne, Endpunkt-Standardeinstellungen und Paketannahmen sichtbar, bevor der Datenverkehr zunimmt.
Kontrollebene
Modellrichtlinie
ModellzuordnungXHigh oder Sol je nach Paket
RegelumfangPro Endpunkt
Paketlimit4 gleichzeitig
Budgetbewusste Richtlinien
Planen Sie Anfragen mit geringerem Risiko rund um die genauen Modelle, die für das gekaufte Paket zurückgegeben werden, anstatt davon auszugehen, dass ein öffentlicher Anzeigename aufrufbar ist.
Kontrolle auf Endpunktebene
Bereiten Sie Chat-, Einbettungs- und Bildrichtlinien-Standardeinstellungen separat vor, anstatt eine Regel für jede Funktion zu erzwingen.
Fordern Sie Sichtbarkeit an
Überprüfen Sie Modell, Latenz, Status und geschätzte Kosten in Anforderungsprotokollen, damit Richtlinienentscheidungen messbar bleiben.
Arbeitsablauf
Von der Einrichtung bis zur Startvorbereitung.
Jedes Modul ist darauf ausgelegt, Entwicklern schnelle Integrationspfade zu bieten und den Betreibern gleichzeitig die Kontrollen zu geben, die sie benötigen, bevor der Datenverkehr zunimmt.
1
Wählen Sie die Arbeitsbelastung
Beginnen Sie mit der Anforderungsform, die Ihr Produkt am häufigsten verwendet: Chat-Vervollständigungen, Einbettungen oder Bilder.
2
Definieren Sie die Modellrichtlinie
Notieren Sie den genauen Modellwert aus der Einrichtung-E-Mail und authentifizierten GET /v1/models, den Fallback-Plan und ob die Richtlinie hinsichtlich Qualität, Geschwindigkeit oder Kosten optimiert werden soll.
3
Verbinden Sie den Verkehr absichtlich
Rufen Sie die bereitgestellte OpenAI-kompatible Basis-URL mit einem expliziten Modellwert auf und überprüfen Sie dann die Token-Nutzung, den 4-Verbindungsdruck und das Ratenbegrenzungsverhalten.
4
Überprüfen und anpassen
Verwenden Sie Anforderungsprotokolle und Nutzungsberichte, um Richtlinienmetadaten anzupassen, bevor das Datenverkehrsvolumen zunimmt.
Anfrage mit einem expliziten Modellwert
# Replace DELIVERED_MODEL_ID using the setup email and authenticated GET /v1/models.
POST /v1/chat/completions
Authorization: Bearer $UCX_API_KEY
Content-Type: application/json
{
"model": "DELIVERED_MODEL_ID",
"messages": [
{ "role": "user", "content": "Summarize this support ticket." }
]
}Warum es wichtig ist
KI-Produkte ändern sich schnell. Die Einrichtung-E-Mail und die authentifizierten GET /v1/models sorgen dafür, dass genaue Modellwerte sichtbar sind, sodass Entwickler Nutzung, Latenz und Fallback-Pläne überprüfen können, bevor der Zugriff zu einer Abhängigkeit wird.
FAQ
Fragen, die Teams vor dem Rollout stellen.
Kann ich ein bestimmtes Modell aus meinen Einrichtung-Dateien verwenden?
Ja. Senden Sie die genaue ID des gelieferten Modells aus der Einrichtung-E-Mail und authentifizieren Sie GET /v1/models.. Richtlinienstandards, Fallback-Pläne und Kostenpräferenzen bleiben im Paket-Einrichtung-Datensatz sichtbar.
Beeinflussen die Modellauswahl die Nutzungsberichte?
Nein. Anfragen werden weiterhin in den Nutzungs- und Anfrageprotokollen mit dem angeforderten Modell, Status, Latenz, Token-Anzahl und geschätzten Kosten angezeigt.
Können Richtlinienstandards je nach Endpunkt variieren?
Ja. Chat, Einbettungen und Bilder können jeweils unterschiedliche Standardeinstellungen, Fallback-Pläne und Kostenpräferenzen dokumentieren.
Bereit zum Bauen?