Skip to main content
Ihr Prompt durchläuft uns auf dem Weg zum Provider. Vier Felder bestimmen, was wir damit tun. Wir entfernen alle vier aus dem Body, bevor wir den Provider aufrufen, sodass der Provider sie nie sieht. Die ersten drei Funktionen laufen nur auf Managed Keys. Bei Ihren eigenen Keys leiten wir Ihre Anfrage unverändert weiter. Maskierung und Moderation lesen zuerst Ihre Anfrage, dann die Standardeinstellung Ihrer Organisation, dann ist die Funktion deaktiviert. Trace-Speicherung liest nur die Anfrage und nichts anderes.

​
PII-Maskierung

Wir können persönliche Daten in Ihrem Prompt maskieren, bevor er den Provider erreicht. Jede Übereinstimmung wird zu einem stabilen Platzhalter wie [EMAIL_1], sodass das Modell Personen weiterhin unterscheiden kann. Dies umfasst E-Mails, Telefonnummern und andere Muster wie Kartennummern.
Senden Sie false in einer Anfrage, um die Maskierung zu überspringen, die Ihre Organisation aktiviert hat. Wenn die Maskierung aktiviert ist und fehlschlägt, stoppen wir die Anfrage mit 500 pii_masking_failed, anstatt sie unmaskiert zu senden.

​
Moderation

Wir können einen Prompt auf schädliche Inhalte prüfen, bevor wir ihn senden. Ein blockierter Prompt gibt 403 moderation_blocked zurück und erreicht keinen Provider.

​
Trace-Speicherung

Wir können Ihre Prompts und Antworten verschlüsselt speichern, damit die Logs-Seite sie anzeigen kann. Nur Ihre Anfrage aktiviert dies. Eine Managed Request speichert ansonsten das, was eine BYOK-Anfrage speichert, nämlich Abrechnungsdaten und nichts anderes.
Eine spätere Anfrage ohne das Feld speichert nichts Neues. Was Sie bereits gespeichert haben, bleibt erhalten, bis Sie es auf der Logs-Seite löschen.

​
Prompt-Caching

Wir cachen jede Claude-Anfrage auf der direkten Anthropic-Route. Ein wiederholtes Präfix wird dann zum Zehntel des normalen Eingabepreises abgerechnet. Das Schreiben des Caches kostet das 1,25-fache des Eingabepreises. Ein Präfix, das Sie nie wiederverwenden, kostet 25 Prozent mehr. Deshalb können Sie das Caching deaktivieren.
Ihre eigenen Marker haben immer Vorrang. Wenn Ihre Anfrage cache_control enthält, leiten wir es weiter und fügen nichts Eigenes hinzu. Eine zu kurze Anfrage zum Cachen wird einfach ungecached ausgeführt. Die Antwort meldet cached_tokens und cache_write_tokens in ihrem Usage-Block.

​
Identitätsfelder bei Managed Keys

Bei Managed Keys ersetzen wir vier Identitätsfelder durch einen stabilen Hash Ihrer Organisations-ID, bevor wir den Provider aufrufen. Die Identität, die ein Provider auf unseren Credentials sieht, muss von uns stammen, daher sind dies die einzigen Felder, die wir ändern, anstatt sie weiterzuleiten.
  • user
  • safety_identifier
  • prompt_cache_key
  • metadata.user_id
Bei Ihrem eigenen Key leiten wir alle vier so weiter, wie Sie sie gesendet haben. Alle anderen Keys in metadata lassen wir unverändert. Workers AI akzeptiert kein Identitätsfeld im Body, daher hängen wir den Hash stattdessen an die Anfrage selbst an. Gemini, Vertex und Bedrock akzeptieren kein Identitätsfeld, das wir setzen können. Auf diesen drei Routen entfernen wir Ihres und senden nichts an seiner Stelle.

​
Ein reservierter Marker in Tool-Call-IDs

Gemini benötigt eine Signatur, die bei jedem Tool-Call wiedergegeben wird, daher führen wir sie in der Tool-Call-ID mit. Die ID, die wir Ihnen übergeben, sieht aus wie <id>::gsig::<signature>, und wir entfernen die Signatur wieder, bevor ein anderer Provider sie sieht. Ihre eigenen IDs werden unverändert durchgeleitet, selbst wenn sie :: enthalten. Das Einzige, was Sie vermeiden sollten, ist der Literaltext ::gsig:: innerhalb einer von Ihnen erfundenen ID, da wir ihn als unseren lesen und die ID kürzen würden.

​
Dateinamen bei Gemini-Modellen

Sie können ein Dokument inline als Base64-Bytes oder als data:-URL senden. Bei einem Gemini-Modell senden wir Google den Medientyp und die Bytes und lassen filename und file_id weg. Googles Dokumentformat hat keine Felder dafür und lehnt eine Anfrage ab, die eines enthält. Das Modell liest die Bytes und sieht nie einen Namen, sodass nichts von dem, was Sie gesendet haben, verloren geht. Jeder andere Provider erhält weiterhin den Namen.