Precios y facturación

FlexInference es gratuito para el enrutamiento. Solo paga a FlexInference cuando una solicitud flex obtiene un precio de proveedor más económico. La tarifa es una parte de ese ahorro, no un recargo por token.

​

Lo que paga

FlexInference cobra el 20% del dinero ahorrado en una solicitud flex. Una solicitud flex es una llamada que establece start_within a una duración y puede ejecutar la carrera flex. Solo un modelo con precio y no Anthropic puede ejecutar flex, lo que significa los modelos OpenAI y Gemini compatibles con flex. Los parámetros de Chat Completions solo nativos no se pueden combinar con una duración start_within, por lo que esas solicitudes se rechazan antes de la facturación. start_within es un presupuesto de plazo, como 30 segundos. FlexInference puede usar ese tiempo para intentar iniciar la solicitud en un nivel más económico. Si ningún nivel más económico puede iniciar antes de que expire el presupuesto, el enrutador escala a su modelo estándar. start_within es un presupuesto que usted establece, no una garantía de tiempo de inicio. El enrutamiento flex comienza con el nivel más económico y asciende al estándar cuando es necesario. No enruta primero el estándar para luego degradar. El ahorro es la diferencia entre el precio estándar del proveedor para la llamada y el precio flex más económico utilizado para esa llamada. FlexInference toma el 20% de esa diferencia. Usted se queda con el otro 80%. Si una solicitud flex no ahorra nada, usted no debe nada.

​

Lo que es gratis

• Todo el enrutamiento default, priority y auto, en cualquier modelo. Estas rutas se conectan directamente con el proveedor. FlexInference no intenta un nivel más económico, por lo que no hay ahorro que compartir ni tarifa.
• Todas las solicitudes de nivel Anthropic (Claude). Claude es solo proxy. No tiene un nivel flex, por lo que las solicitudes default, priority y auto en los modelos claude-* nunca son solicitudes flex facturables. Consulte modelos.
• Las fallas de validación no se facturan. Una duración en un modelo OpenAI o Gemini no compatible con flex, o en cualquier modelo Claude, devuelve 400 en la validación. No se factura ni se atiende. Use un valor de nivel en su lugar.
• Las rutas en la nube son de paso sin precio. Las rutas en la nube vertex y bedrock se sirven solo en el nivel estándar, por lo que nunca conllevan una tarifa flex. FlexInference pasa el uso de la nube sin precio, sin recargo ni comisión; solo una solicitud directa servida por flex genera la comisión del 20%. Consulte enrutamiento de proveedores.

Solo una solicitud flex con precio en un modelo OpenAI o Gemini le genera una tarifa.

​

Traiga su propia clave (BYOK)

FlexInference enruta con sus claves de proveedor. Agregue sus claves de OpenAI, Gemini o Anthropic en el panel de control; FlexInference las almacena cifradas y las utiliza para el enrutamiento. No envía claves de proveedor por solicitud. Su proveedor le factura directamente los tokens a sus tarifas. FlexInference no agrega recargo a los tokens y no gestiona el gasto de tokens. El único cargo de FlexInference es la tarifa flex del 20% descrita anteriormente.

​

Caché de prompts entre proveedores

El almacenamiento en caché de prompts reduce el costo de los tokens de entrada repetidos, y cada proveedor ejecuta su propia caché. La caché de prompts no se transfiere entre proveedores: cuando un proveedor de respaldo atiende su solicitud en la ruta de un proveedor diferente, la propia caché del proveedor de respaldo se aplica de forma independiente y se calienta con el uso repetido. La primera solicitud en la nueva ruta paga el precio completo del token de entrada, y las solicitudes posteriores utilizan la caché de ese proveedor a medida que se llena. Una solicitud atendida en su ruta nativa utiliza la caché de ese proveedor como de costumbre.

​

Cómo se carga su tarjeta

Agregue o actualice una tarjeta en la página Facturación del panel de control. Su saldo impago aumenta cuando las solicitudes flex ahorran dinero:

• FlexInference carga su tarjeta automáticamente cada mes una vez que su saldo impago alcanza los $20.
• Un saldo **inferior a $20 se transfiere** al mes siguiente. FlexInference lo carga una vez que supera los$20. Si un saldo transferido permanece durante aproximadamente tres meses y aún vale al menos el mínimo de **$0.50** de Stripe, FlexInference lo carga en ese momento, incluso si nunca alcanzó los$20.

​

Vencimiento y el 402

Un solo cargo fallido no pausa flex. Cuando un pago falla, la organización entra en un período de gracia, y el flex facturable sigue funcionando mientras FlexInference reintenta el cargo. FlexInference pausa flex solo después de que finaliza el período de gracia. Esto ocurre cuando transcurren aproximadamente tres semanas sin un pago exitoso, cuando la factura se disputa o se da por incobrable, o cuando no hay una tarjeta válida registrada. Una vez que flex está en pausa:

• Las solicitudes flex facturables devuelven un 402 payment_required.
• El enrutamiento gratuito (default, priority, auto) y todas las solicitudes de nivel Anthropic siguen funcionando. Solo el flex con precio se ve afectado.

Una solicitud flex en pausa devuelve 402 payment_required con un cuerpo que identifica el estado de facturación fallido y cómo solucionarlo. Consulte el error 402 para ver el JSON exacto. Para eliminar la pausa, agregue o actualice una tarjeta en la página Facturación del panel de control y luego reintente.