> ## Documentation Index
> Fetch the complete documentation index at: https://docs.flexinference.com/llms.txt
> Use this file to discover all available pages before exploring further.
# Ce que fait FlexInference
> Un routeur compatible OpenAI pour OpenAI, Gemini et Anthropic, avec routage cloud via Amazon Bedrock et Google Vertex AI. Apportez votre propre clé et définissez un seul champ, start_within, pour indiquer le temps d'attente maximal. FlexInference trouve un moyen moins cher d'exécuter la même requête, et vous ne payez que lorsque cela vous fait économiser de l'argent.
FlexInference est un routeur de délais compatible OpenAI pour OpenAI, Gemini et Anthropic, avec des routes cloud optionnelles via Amazon Bedrock et Google Vertex AI. Un planificateur de surface mappe chaque requête à la surface d'API et au niveau de service du fournisseur approprié. Vous conservez les formats de requête que vous utilisez déjà pour les Chat Completions, Responses, Interactions et Anthropic Messages, et définissez un champ obligatoire : `start_within`.
Un tableau `provider` optionnel fixe la route que prend votre requête. Les routes directes atteignent OpenAI, Gemini et Anthropic ; les routes cloud servent le même model sur votre propre compte cloud - `bedrock` exécute `claude-*` via Amazon Bedrock et `vertex` exécute `gemini-*` via Google Vertex AI, au niveau standard sans flex race. Voir [Routage des fournisseurs](/fr/models).
Vous apportez vos clés de fournisseur une seule fois. FlexInference stocke les clés BYOK chiffrées et ne les exige jamais par requête. Les requêtes s'authentifient avec une clé FlexInference ; le routeur résout votre organisation à partir de cette clé, vérifie le registre de révocation fortement cohérent et utilise la clé de fournisseur stockée pour la surface sélectionnée.
Sur plus de 60 000 requêtes réelles, le flex routing réduit le coût pondéré par les tokens d'environ 47 %, pour un temps jusqu'au premier token supérieur d'environ 16 %.
FlexInference ne vend pas d'inférence. Vous apportez votre propre clé de fournisseur (BYOK)
* OpenAI, Gemini ou Anthropic, plus une clé Google Vertex AI express ou une
clé Amazon Bedrock pour une route cloud - et le fournisseur facture votre compte
directement au niveau qui a servi la requête. Nous ajoutons un routage des coûts
qui respecte le temps que vous pouvez attendre.
Le routage standard est gratuit. Pour le flex routing, FlexInference facture 20 % de l'argent économisé. Pas d'économies signifie pas de frais. Il n'y a pas de frais par requête ni de majoration de token.
Chaque réponse réussie inclut `x-flexinference-flex-applied` et `x-flexinference-flex-reason`, ainsi que le `service_tier` de la réponse, afin que vous puissiez vérifier si flex a servi la requête ou pourquoi elle a échoué.
## Pourquoi cela existe
OpenAI expose plusieurs niveaux de service pour les mêmes models. Le niveau flex (batch) coûte la moitié du tarif standard, mais la capacité n'est pas garantie. Les applications soucieuses de la latence ont besoin d'un moyen par requête pour décider quand l'attente est acceptable.
`start_within` est le temps maximum que vous autorisez avant que la requête ne commence à s'exécuter. Ce n'est pas une date limite de complétion stricte. Utilisez une valeur courte lorsqu'un utilisateur attend ; utilisez une valeur plus longue pour les tâches de fond où un coût inférieur est plus important.
`start_within: "priority"` route vers le niveau de priorité d'OpenAI.
`start_within: "00h-00m-30s"` essaie d'abord le niveau flex moins cher. Si flex
ne peut pas démarrer dans les 30 secondes, FlexInference déplace la requête
vers votre niveau standard afin qu'elle s'exécute quand même.
`start_within: "default"` utilise le niveau et la tarification par défaut d'OpenAI. (`"auto"`
laisse OpenAI choisir.)
La plupart des routeurs réduisent les coûts en passant d'un model plus puissant à un model moins cher. FlexInference maintient le model fixe. Il essaie d'abord le niveau flex moins cher, puis passe au niveau standard si flex ne peut pas démarrer dans le délai `start_within`. L'escalade ne coûte pas plus cher que d'appeler directement le fournisseur au tarif standard.
## Compatible sans effort
Définissez votre URL de base sur FlexInference et incluez `start_within`. Le routeur conserve la forme de la requête et de la réponse du fournisseur intacte pour le streaming, l'appel d'outils, les sorties structurées, la vision et le raisonnement à travers OpenAI, Gemini et Anthropic.
```
https://api.flexinference.com/v1
```
Passez de zéro à votre première requête.
Comment fonctionne `start_within`, et quand l'escalade vers le standard se déclenche.
Clés API FlexInference, plus votre propre clé OpenAI, Gemini ou Anthropic.
Les modèles qui prennent en charge le flex routing.
Fixez une route, ou ajoutez une route cloud via Amazon Bedrock ou Google Vertex
AI.
## Transcriptions de démonstration
Trois démonstrations enregistrées comparent le même model exécuté deux fois en parallèle : un côté définit un délai start\_within et l'autre utilise le routage par défaut. Chaque démonstration a une transcription complète en texte brut, lisible par les humains et les agents :
* [Gemini image classification](https://www.flexinference.com/transcripts/gemini-image-classification.txt)
* [OpenAI browser agent](https://www.flexinference.com/transcripts/openai-browser-agent.txt)
* [OpenAI deep research](https://www.flexinference.com/transcripts/openai-deep-research.txt)
Les vidéos elles-mêmes se trouvent sur la [page d'accueil de FlexInference](https://www.flexinference.com/#demos).