> ## Documentation Index
> Fetch the complete documentation index at: https://docs.flexinference.com/llms.txt
> Use this file to discover all available pages before exploring further.

# Qué hace FlexInference

> Un enrutador compatible con OpenAI para OpenAI, Gemini y Anthropic, con enrutamiento en la nube a través de Amazon Bedrock y Google Vertex AI. Traiga su propia clave y configure un solo campo, start_within, para indicar cuánto tiempo puede esperar. FlexInference encuentra una forma más económica de ejecutar la misma solicitud, y solo paga cuando le ahorra dinero.

FlexInference es un enrutador de plazos compatible con OpenAI para OpenAI, Gemini y Anthropic, con rutas opcionales en la nube a través de Amazon Bedrock y Google Vertex AI. Un planificador de superficie mapea cada solicitud a la superficie de API y al nivel de servicio del proveedor correctos. Usted mantiene las formas de solicitud que ya utiliza para Chat Completions, Responses, Interactions y Anthropic Messages, y configura un campo obligatorio: `start_within`.

Una matriz `provider` opcional fija la ruta que toma su solicitud. Las rutas directas llegan a OpenAI, Gemini y Anthropic; las rutas en la nube sirven el mismo modelo en su propia cuenta de la nube - `bedrock` ejecuta `claude-*` a través de Amazon Bedrock y `vertex` ejecuta `gemini-*` a través de Google Vertex AI, en el nivel estándar sin flex race. Consulte [enrutamiento de proveedores](/es/models).

Usted proporciona sus claves de proveedor una sola vez. FlexInference almacena las claves BYOK cifradas y nunca las requiere por solicitud. Las solicitudes se autentican con una clave de FlexInference; el enrutador resuelve su organización a partir de esa clave, verifica el registro de revocación fuertemente consistente y utiliza la clave de proveedor almacenada para la superficie seleccionada.

En más de 60,000 solicitudes reales, el enrutamiento flex reduce el costo ponderado por token en aproximadamente un 47 por ciento, a cambio de aproximadamente un 16 por ciento más de tiempo hasta el primer token.

<Info>
  FlexInference no vende inferencia. Usted trae su propia clave de proveedor (BYOK)

  * OpenAI, Gemini o Anthropic, además de una clave express de Google Vertex AI o una
    clave de Amazon Bedrock para una ruta en la nube - y el proveedor factura su cuenta
    directamente en el nivel que atendió la solicitud. Nosotros añadimos un enrutamiento de costos
    que respeta cuánto tiempo puede esperar.
</Info>

El enrutamiento estándar es gratuito. Para el enrutamiento flex, FlexInference cobra el 20 por ciento del dinero ahorrado. Sin ahorros no hay tarifa. No hay cargo por solicitud ni recargo por token.

Cada respuesta exitosa incluye `x-flexinference-flex-applied` y `x-flexinference-flex-reason`, junto con el `service_tier` de la respuesta, para que pueda auditar si flex atendió la solicitud o por qué recurrió a otra opción.

## Por qué existe

OpenAI expone múltiples niveles de servicio para los mismos modelos. El nivel flex (por lotes) cuesta la mitad de la tarifa estándar, pero la capacidad no está garantizada. Las aplicaciones que se preocupan por la latencia necesitan una forma por solicitud para decidir cuándo es aceptable esperar.

`start_within` es el tiempo máximo que permite antes de que la solicitud comience a ejecutarse. No es un plazo de finalización estricto. Utilice un valor corto cuando un usuario esté esperando; utilice un valor más largo para trabajos en segundo plano donde un costo menor sea más importante.

<CardGroup cols={3}>
  <Card title="Lo necesito ahora" icon="bolt">
    `start_within: "priority"` enruta al nivel de prioridad de OpenAI.
  </Card>

  <Card title="Puedo esperar un poco" icon="hourglass-half">
    `start_within: "00h-00m-30s"` intenta primero el nivel flex más económico. Si flex
    no puede comenzar en 30 segundos, FlexInference eleva la solicitud a su
    nivel estándar para que aún se ejecute.
  </Card>

  <Card title="Predeterminado" icon="equals">
    `start_within: "default"` utiliza el nivel y los precios predeterminados de OpenAI. (`"auto"`
    permite que OpenAI elija.)
  </Card>
</CardGroup>

La mayoría de los enrutadores reducen costos al pasar de un modelo más potente a uno más económico. FlexInference mantiene el modelo fijo. Primero intenta el nivel flex más económico, luego escala al nivel estándar si flex no puede comenzar dentro de `start_within`. La escalada no cuesta más que llamar al proveedor directamente con precios estándar.

## Compatible sin esfuerzo

Configure su URL base a FlexInference e incluya `start_within`. El enrutador mantiene intacta la forma de solicitud y respuesta del proveedor para streaming, tool calling, structured outputs, vision y reasoning en OpenAI, Gemini y Anthropic.

```
https://api.flexinference.com/v1
```

<CardGroup cols={2}>
  <Card title="Inicio rápido" icon="rocket" href="/es/quickstart">
    Pase de cero a su primera solicitud.
  </Card>

  <Card title="Enrutamiento por plazos" icon="hourglass-half" href="/es/deadline-routing">
    Cómo funciona `start_within` y cuándo se activa la escalada al estándar.
  </Card>

  <Card title="Autenticación" icon="key" href="/es/authentication">
    Claves de API de FlexInference, además de su propia clave de OpenAI, Gemini o Anthropic.
  </Card>

  <Card title="Modelos compatibles" icon="layer-group" href="/es/models">
    Los modelos que admiten el enrutamiento flex.
  </Card>

  <Card title="Enrutamiento de proveedores" icon="route" href="/es/models">
    Fije una ruta o añada una ruta en la nube a través de Amazon Bedrock o Google Vertex
    AI.
  </Card>
</CardGroup>

## Transcripciones de demostración

Tres demostraciones grabadas comparan el mismo modelo ejecutado dos veces en paralelo: un lado establece un plazo start\_within y el otro utiliza el enrutamiento predeterminado. Cada demostración tiene una transcripción completa en texto plano, legible tanto por personas como por agentes:

* [Clasificación de imágenes de Gemini](https://www.flexinference.com/transcripts/gemini-image-classification.txt)
* [Agente de navegador de OpenAI](https://www.flexinference.com/transcripts/openai-browser-agent.txt)
* [Investigación profunda de OpenAI](https://www.flexinference.com/transcripts/openai-deep-research.txt)

Los videos se encuentran en la [página de inicio de FlexInference](https://www.flexinference.com/#demos).
