> ## Documentation Index
> Fetch the complete documentation index at: https://docs.flexinference.com/llms.txt
> Use this file to discover all available pages before exploring further.

# FAQ

> Questions fréquentes sur FlexInference : start_within, tarification, fournisseurs, facturation et le serveur MCP.

{/* GENERATED FILE - do not edit by hand.
  Source of truth: website/src/app/faq-data.ts
  Regenerate: pnpm --dir apps/website gen:faq */}

## Qu'est-ce que FlexInference ?

FlexInference est un routeur de LLM sensible aux délais. Il fonctionne avec OpenAI, Gemini et Anthropic, et il est compatible OpenAI, vous permettant de conserver le SDK OpenAI. Vous utilisez votre propre clé de fournisseur. Pointez l'URL de base vers FlexInference et ajoutez un délai `start_within` à toute requête. Dans cette fenêtre, nous mettons en concurrence un niveau flex moins cher et vous renvoyons le modèle exact que vous avez demandé. Les requêtes standard restent gratuites. Lorsque flex bat le prix standard, nous conservons 20 % de ce que cela vous fait économiser, facturé une fois que votre solde dépasse 20 \$. Vous pouvez également épingler la route avec un tableau de fournisseurs facultatif, y compris des routes cloud qui servent le même modèle via Amazon Bedrock (Claude) ou Google Vertex AI (Gemini) avec votre propre clé cloud.

## Qu'est-ce que start\_within ?

Un champ obligatoire sur chaque requête. Définissez-le sur `default`, `priority`, `auto`, ou une durée HHh-MMm-SSs (5 secondes à 10 minutes). Sur les modèles compatibles flex, une durée recherche un niveau moins cher pour le modèle que vous avez sélectionné. Si cette course flex ne parvient pas à trouver une inférence moins chère à temps, nous escaladons votre requête vers une requête par défaut. De cette façon, vous obtenez une réponse, mais chaque fois que possible, à moindre coût.

## Combien FlexInference permet-il d'économiser ?

Sur l'ensemble de notre trafic, le routage flex réduit le coût moyen d'environ 47 %, pour environ 16 % de temps supplémentaire jusqu'au premier token. Nous ne facturons jamais les requêtes `default`, `auto` ou `priority`, vous évitant ainsi instantanément le surcoût d'environ 5,5 % que d'autres routeurs ajoutent sur celles-ci. Les économies réelles dépendent de vos modèles, fournisseurs et du délai que vous définissez. Anthropic est uniquement proxy et ne bénéficie pas des économies flex.

## Pour quels cas d'utilisation FlexInference est-il idéal ?

Pouvons-nous dire "tout" ? En tant que routeur normal, il est gratuit pour BYOK et ne supprime pas les paramètres que vous définissez pour forcer un succès. Donc, lorsque vous voulez être sûr d'obtenir ce que vous avez demandé, c'est excellent. Quant à la course flex, vous définissez `start_within` sur un délai. C'est idéal pour les tâches qui ne sont pas sensibles à la latence. Cela peut inclure le traitement de données, les évaluations, les LLM en tant que juges, les agents de navigateur ou le résumé. Tout ce qui peut se permettre d'attendre quelques secondes pour d'énormes réductions de coûts.

## Que se passe-t-il si FlexInference ne trouve pas d'inférence moins chère ?

Si la course flex ne parvient pas à trouver une inférence moins chère dans votre délai `start_within`, nous escaladons la requête vers une requête standard de niveau par défaut, afin que vous obteniez toujours votre réponse. Nous ne facturons une commission que lorsqu'une requête flex vous fait réellement économiser de l'argent ; une requête qui ne trouve rien de moins cher n'entraîne donc aucun frais.

## Si flex perd la course, est-ce que je paie ?

Non. Nous escaladons vers le standard avant que flex n'écrive un seul token de sortie, il n'y a donc pas de réponse flex à payer et pas de commission sur une requête qui n'a rien économisé. Si une tentative flex démarre puis échoue avant de s'engager, elle peut consommer quelques tokens d'entrée ; votre fournisseur les facture directement et nous les transmettons sans aucune marge.

## Quels fournisseurs et modèles prenez-vous en charge ?

Tous les modèles OpenAI, Gemini et Anthropic. Seuls ceux qui prennent en charge flex sont disponibles pour la recherche d'inférence moins chère. Vous pouvez également épingler la route avec un tableau de fournisseurs facultatif : `openai`, `google` et `anthropic` sont des routes directes, tandis que Vertex (Gemini) et Bedrock (Claude) sont des routes cloud qui servent le même modèle via Google Vertex AI et Amazon Bedrock en utilisant votre propre clé cloud. Les routes cloud fonctionnent uniquement au niveau standard, sans flex.

## Avez-vous un serveur MCP ?

Oui. Pointez tout client MCP tel que Claude ou Cursor vers [https://mcp.flexinference.com/mcp](https://mcp.flexinference.com/mcp). Deux outils de documentation fonctionnent sans connexion. Ils recherchent dans la documentation et consultent tout error code. Après une connexion OAuth unique, un agent peut également lire votre utilisation et vos économies, lister, créer ou révoquer des API keys, et vérifier la billing, chacun derrière sa propre scope. Nous ne prenons jamais de clé de fournisseur brute via MCP, alors ajoutez-les sur le dashboard. Consultez la documentation MCP pour la configuration.

## Vos erreurs sont-elles conçues pour les agents de codage ?

Oui. Les erreurs sont renvoyées sous la forme du point de terminaison que vous avez appelé, OpenAI, Anthropic ou Google, de sorte que le SDK que vous utilisez déjà les analyse sans modification. La forme OpenAI ajoute un code lisible par machine, le champ incriminé et une `doc_url`. Chaque message indique ce qui a échoué, la règle que vous avez enfreinte et la correction exacte avec un exemple, de sorte que le montrer à votre agent est généralement suffisant pour corriger du premier coup.

## Les modèles Anthropic bénéficient-ils de la recherche d'inférence moins chère ?

Pas encore. Uniquement le routage normal, et nous y travaillons.

## Prenez-vous en charge la mise en cache ?

Oui, la mise en cache lexicale, la mise en cache sémantique arrive bientôt.

## Prenez-vous en charge les fournisseurs de secours ?

Oui. Vous pouvez ajouter une liste ordonnée de fournisseurs de secours. Nous l'utilisons en cas d'erreur 429, 5xx, d'erreur de connexion ou de délai d'attente. La course flex s'applique toujours lorsque le premier fournisseur de la liste est compatible flex. Si vous ne le définissez pas, nous utilisons par défaut OpenAI, Google ou Anthropic en fonction du modèle que vous avez demandé. Nous prenons en charge Vertex et Bedrock, avec Foundry en préparation.

## Prenez-vous en charge les nouvelles tentatives en amont (vers les fournisseurs de LLM) ?

Oui. Vous pouvez définir un nombre de tentatives comme `2` et activer ou désactiver la gigue. L'attente exponentielle est linéaire ou exponentielle, et vous définissez le timing. Les nouvelles tentatives se déclenchent sur les erreurs 429 et 5xx transitoires. Nous respectons également l'en-tête `Retry-After` du fournisseur, vous n'avez donc pas à vous en soucier.

## Prenez-vous en charge la sélection automatique de modèle ?

Pas encore, cela arrive bientôt. (La valeur `auto` de `start_within` est le niveau de service d'OpenAI, pas cela.)

## Facturez-vous des frais par requête ?

Il n'y a pas de frais fixes par requête. Une requête flex qui bat le prix standard entraîne une commission de 20 % de ce qu'elle vous fait économiser, vous ne payez donc que lorsque vous réalisez réellement des économies ; si une requête n'économise rien, elle est gratuite. Le routage standard, `priority` et `auto`, ainsi que les requêtes de niveau/proxy Anthropic, n'entraînent aucun frais.

## Comment gagnez-vous de l'argent ?

Nous facturons une commission de 20 % de l'argent qu'une requête flex vous fait réellement économiser par rapport au prix standard. Si une requête ne vous fait rien économiser, elle est gratuite, et le routage standard, `priority` et `auto`, ainsi que les requêtes de niveau/proxy Anthropic, sont toujours gratuits. La commission s'accumule par requête et est facturée mensuellement.

## Quand et comment suis-je facturé ?

Nous facturons mensuellement une fois que votre solde dépasse 20 \$ ; un solde inférieur est reporté et nous le réglons au moins tous les trois mois afin qu'il ne s'accumule jamais. Ajoutez une carte sur la page Billing du dashboard et nous la débiterons automatiquement lorsqu'une facture est due. Si un paiement est en retard, le flex payant est mis en pause et renvoie une erreur 402, tandis que le routage gratuit (`default`, `priority`, `auto`) et toutes les requêtes de niveau/proxy Anthropic continuent de fonctionner ; mettez à jour votre carte pour reprendre.

## Puis-je toujours économiser sur l'inférence si j'ai déjà des crédits de fournisseur ?

Oui. Utilisez votre propre API key, que nous chiffrons au repos, et vos requêtes déduiront de vos crédits existants.

## Voyez-vous mes requêtes ou mes réponses ?

Non, nous ne voyons pas vos informations.

## FlexInference modifie-t-il mon modèle, mon prompt ou ma sortie ?

Non, nous ne modifions rien de ce que vous avez demandé. La seule chose que nous faisons varier est le niveau qui sert votre modèle, lorsque cela rend le même modèle moins cher. D'autres routeurs nous ont agacés en modifiant des choses, et c'est en partie pourquoi nous avons construit celui-ci. Alors faites-nous confiance, nous ne changeons rien. Vous pouvez auditer n'importe quelle requête et le constater par vous-même.

## Dans quelles langues le site et la documentation sont-ils disponibles ?

Le site web et la documentation sont disponibles en sept langues : anglais, français, allemand, hindi, chinois mandarin, espagnol et portugais. Vous choisissez vous-même la langue, dans le pied de page du site web ou l'onglet User du dashboard. Ce choix vous suit sur le site et dans la documentation. Nous ne le détectons jamais automatiquement depuis votre navigateur, donc une page ouverte sans choix enregistré est servie en anglais. L'anglais se trouve à l'URL racine et toutes les autres langues sont sous un préfixe tel que `/es`, sur le site web et dans la documentation. Les traductions sont sémantiques et adaptées aux dialectes, correspondant à chaque région plutôt que traduites mot à mot.