> ## Documentation Index
> Fetch the complete documentation index at: https://docs.flexinference.com/llms.txt
> Use this file to discover all available pages before exploring further.

# FAQ

> Perguntas comuns sobre FlexInference: start_within, preços, provedores, faturamento e o servidor MCP.

{/* GENERATED FILE - do not edit by hand.
  Source of truth: website/src/app/faq-data.ts
  Regenerate: pnpm --dir apps/website gen:faq */}

## O que é FlexInference?

FlexInference é um roteador de LLM sensível a prazos. Ele funciona com OpenAI, Gemini e Anthropic, e é compatível com OpenAI, então você mantém o SDK da OpenAI. Você traz sua própria chave de provedor. Aponte a URL base para FlexInference e adicione um prazo start\_within a qualquer solicitação. Dentro dessa janela, competimos com uma camada flex mais barata e devolvemos o modelo exato que você pediu. As solicitações padrão permanecem gratuitas. Quando o flex supera o preço padrão, ficamos com 20% do que ele economiza para você, faturado assim que seu saldo ultrapassa US\$ 20. Você também pode fixar a rota com um array de provedores opcional, incluindo rotas de nuvem que servem o mesmo modelo através do Amazon Bedrock (Claude) ou Google Vertex AI (Gemini) com sua própria chave de nuvem.

## O que é start\_within?

Um campo obrigatório em cada solicitação. Defina-o como `default`, `priority`, `auto` ou uma duração HHh-MMm-SSs (5 segundos a 10 minutos). Em modelos compatíveis com flex, uma duração busca uma camada mais barata para o modelo que você selecionou. Se essa corrida flex não conseguir encontrar inferência mais barata a tempo, escalamos sua solicitação para uma solicitação `default`. Dessa forma, você obtém uma resposta, mas sempre que possível, por um preço mais baixo.

## Quanto o FlexInference economiza?

Em todo o nosso tráfego, o roteamento flex reduz o custo combinado em aproximadamente 47%, por cerca de 16% mais tempo para o primeiro token. Nunca cobramos em solicitações `default`, `auto` ou `priority`, então você evita instantaneamente a sobretaxa de aproximadamente 5,5% que outros roteadores adicionam a elas. A economia real depende dos seus modelos, provedores e do prazo que você definir. Anthropic é somente proxy e não obtém a economia flex.

## Para quais casos de uso o FlexInference é ótimo?

Podemos dizer tudo? Como um roteador normal, é gratuito para BYOK e não remove parâmetros que você definiu para forçar um sucesso. Então, quando você quer saber que o que você pediu é o que você obteve, é ótimo. Quanto à corrida flex, você define start\_within para um prazo. É ótimo para tarefas que não são sensíveis à latência. Isso pode ser processamento de dados, avaliações, LLMs como juízes, agentes de navegador ou resumo. Qualquer coisa que possa esperar alguns segundos por grandes reduções de custo.

## O que acontece se o FlexInference não conseguir encontrar inferência mais barata?

Se a corrida flex não conseguir encontrar inferência mais barata dentro do seu prazo start\_within, escalamos a solicitação para uma solicitação de camada padrão, `default`, para que você ainda receba sua resposta. Cobramos uma comissão apenas quando uma solicitação flex realmente economiza dinheiro para você, então uma solicitação que não encontra nada mais barato não tem taxa.

## Se o flex perder a corrida, eu pago por isso?

Não. Escalamos para o padrão antes que o flex escreva um único token de saída, então não há resposta flex para pagar e nenhuma comissão em uma solicitação que não economizou nada. Se uma tentativa flex começar e falhar antes de ser concluída, ela pode consumir alguns tokens de entrada; seu provedor os fatura diretamente e nós os repassamos sem margem de lucro.

## Quais provedores e modelos vocês suportam?

Todos os modelos OpenAI, Gemini e Anthropic. Apenas aqueles que suportam flex estão disponíveis para busca de inferência mais barata. Você também pode fixar a rota com um array de provedores opcional: `openai`, `google` e `anthropic` são rotas diretas, enquanto Vertex (Gemini) e Bedrock (Claude) são rotas de nuvem que servem o mesmo modelo através do Google Vertex AI e Amazon Bedrock usando sua própria chave de nuvem. As rotas de nuvem funcionam apenas na camada padrão, sem flex.

## Vocês têm um servidor MCP?

Sim. Aponte qualquer cliente MCP, como Claude ou Cursor, para [https://mcp.flexinference.com/mcp](https://mcp.flexinference.com/mcp). Duas ferramentas de documentação funcionam sem login. Elas pesquisam a documentação e consultam qualquer código de erro. Após um login OAuth único, um agente também pode ler seu uso e economia, listar, criar ou revogar chaves de API e verificar o faturamento, cada um com seu próprio scope. Nunca aceitamos uma chave de provedor bruta via MCP, então adicione-as no painel. Consulte a documentação do MCP para configuração.

## Seus erros são construídos para agentes de codificação?

Sim. Os erros retornam no formato do endpoint que você chamou, OpenAI, Anthropic ou Google, para que o SDK que você já usa os analise sem alterações. O formato OpenAI adiciona um código legível por máquina, o campo problemático e uma `doc_url`. Cada mensagem indica o que falhou, a regra que você atingiu e a correção exata com um exemplo, então mostrá-la ao seu agente geralmente é suficiente para corrigir na primeira tentativa.

## Os modelos Anthropic obtêm a busca de inferência mais barata?

Ainda não. Apenas roteamento normal, e estamos trabalhando nisso.

## Vocês suportam caching?

Sim, cache lexical, cache semântico em breve.

## Vocês suportam provedores de fallback?

Sim. Você pode adicionar uma lista ordenada de provedores para os quais fazer fallback. Usamos isso em um 429, um 5xx, um erro de conexão ou um tempo limite. A corrida flex ainda se aplica quando o primeiro provedor na lista é compatível com flex. Se você não definir, o padrão é `openai`, `google` ou `anthropic` com base no modelo que você pediu. Suportamos Vertex e Bedrock, com Foundry a caminho.

## Vocês suportam retentativas upstream (para os provedores de LLM)?

Sim. Você pode definir uma contagem de retentativas como 2 e ativar ou desativar o jitter. O Backoff é linear ou exponencial, e você define o tempo. As retentativas são acionadas em 429s transitórios e erros 5xx. Também honramos o cabeçalho Retry-After do provedor, para que você não precise se preocupar com isso.

## Vocês suportam seleção automática de modelo?

Ainda não, em breve. (O valor `auto` de start\_within é a camada de serviço da OpenAI, não isso.)

## Vocês cobram uma taxa por solicitação?

Não há taxa fixa por solicitação. Uma solicitação flex que supera o preço padrão acarreta uma comissão de 20% do que ela economiza para você, então você só paga quando realmente economiza; se uma solicitação não economiza nada, ela é gratuita. O roteamento padrão, `priority` e `auto`, e as solicitações de camada/proxy Anthropic não têm taxa alguma.

## Como vocês ganham dinheiro?

Cobramos uma comissão de 20% do dinheiro que uma solicitação flex realmente economiza para você em comparação com o preço padrão. Se uma solicitação não economiza nada, ela é gratuita, e o roteamento padrão, `priority` e `auto`, e as solicitações de camada/proxy Anthropic são sempre gratuitas. A comissão acumula por solicitação e é faturada mensalmente.

## Quando e como sou cobrado?

Faturamos mensalmente assim que seu saldo ultrapassa US\$ 20; um saldo menor é transferido e o liquidamos pelo menos a cada três meses para que nunca se acumule. Adicione um cartão na página de Faturamento do painel e o cobraremos automaticamente quando uma fatura for devida. Se um pagamento estiver vencido, o flex pago é pausado e retorna um 402, enquanto o roteamento gratuito (`default`, `priority`, `auto`) e todas as solicitações de camada/proxy Anthropic continuam funcionando; atualize seu cartão para retomar.

## Ainda posso economizar na inferência se já tiver créditos de provedor?

Sim. Traga sua própria chave de API, que criptografamos em repouso, e suas solicitações consomem seus créditos existentes.

## Vocês veem minhas solicitações ou respostas?

Não, não vemos suas informações.

## O FlexInference altera meu modelo, prompt ou saída?

Não, não alteramos nada que você pediu. A única coisa que variamos é a camada que serve seu modelo, quando isso torna o mesmo modelo mais barato. Outros roteadores nos incomodavam ao mudar as coisas, e isso é parte do motivo pelo qual construímos este. Então, confie em nós, não mudamos nada. Você pode auditar qualquer solicitação e ver por si mesmo.

## Em quais idiomas o site e a documentação estão disponíveis?

O site e a documentação estão disponíveis em sete idiomas: inglês, francês, alemão, hindi, chinês mandarim, espanhol e português. Você escolhe o idioma no rodapé do site ou na aba Usuário do painel. Essa escolha o acompanha tanto no site quanto na documentação. Nunca o detectamos automaticamente do seu navegador, então uma página aberta sem uma escolha salva serve em inglês. O inglês está na URL base e todos os outros idiomas estão sob um prefixo como `/es`, tanto no site quanto na documentação. As traduções são semânticas e sensíveis ao dialeto, adaptadas a cada região em vez de traduzidas palavra por palavra.