Saltar al contenido

Modelos y enrutamiento

Cada elección de modelo, con su motivo.

Tu política decide qué modelos pueden usar tus agentes de IA. Cada ejecución registra el modelo en el que se ejecutó y el motivo.

Enrutamiento · ejecuciones recientesEjemplo

mistral-small-latestPregunta sencilla, modelo eficienteEficiente

Un turno de chat breve, así que se ejecutó con el modelo eficiente del proveedor.

En una frase

El enrutamiento de modelos decide qué modelo responde a una solicitud. En Infinized sigue la configuración del propio agente de IA y la política de enrutamiento de tu espacio de trabajo, y cada ejecución registra la ruta que siguió y por qué.

Una política de enrutamiento por espacio de trabajo decide qué proveedores y modelos pueden usar tus agentes de IA. Cada ejecución registra el modelo que usó y por qué acabó ahí.

Respaldo

Cuando falla un proveedor, la ejecución sigue adelante.

Asigna a un agente de IA hasta tres modelos de respaldo. Tras una caída, la plataforma primero lo vuelve a intentar y después la ejecución pasa al siguiente modelo de la lista. Cada intento queda registrado como una ejecución propia, con su motivo.

Iris · modelos, por ordenEjemplo
  1. Modelo configuradoclaude-sonnet-5Caída del proveedor · primero se reintentó
  2. Respaldo 1mistral-medium-latestEjecutado aquí · registrado como «Modelo de respaldo»
  3. Respaldo 2gpt-5.4El siguiente en la lista, no ha hecho falta

En cada ejecución

Tus claves. Tu política.

Infinized enruta cada ejecución y anota la ruta: el proveedor, el modelo, los tokens, el coste estimado y el motivo. La clave, el contrato y la factura se quedan con tu proveedor, e Infinized no añade nada al precio de un token.

Ejecución #4812 · elección de modeloEjemplo
Pregunta sencilla, modelo eficienteEficientemistral-small-latest
Coste
$0.0004
Latencia
1,2 s
Entrada
1,204
Salida
186

Cómo funciona

Lo que decide la política.

  • Por qué este modelo, en cada ejecución

    Cada ejecución registra su proveedor, modelo, tokens, coste estimado y el motivo por el que se ejecutó ahí: la configuración del agente de IA, un turno económico, el nivel de un paso del flow, un redireccionamiento o tu política.

  • Una política de enrutamiento por espacio de trabajo

    Permite los proveedores y modelos que pueden usar tus agentes de IA, y fija un coste esperado por ejecución que aleja el trabajo de los modelos que lo superan.

  • Respaldo cuando falla un proveedor

    Asigna a un agente de IA hasta tres modelos de respaldo. Tras una caída del proveedor, primero se reintenta la llamada y después la ejecución pasa al siguiente modelo. Una clave que ya no funciona o una cuota agotada tienen el mismo efecto. Si un proveedor está desconectado, el agente de IA pasa a otro del mismo nivel. Cada intento se registra como una ejecución propia.

  • Turnos ligeros en un modelo ligero

    Un turno de chat corto se ejecuta en el modelo eficiente del proveedor. El modo sombra registra lo que habría costado cada ejecución en el modelo más ligero, y la ruta ligera se activa en cuanto tus evals superan la comprobación de enrutamiento.

  • Un nivel por paso del flow

    Un paso del flow puede pedir un modelo de gama alta, equilibrado o eficiente del propio proveedor del agente de IA, para que un paso rutinario no pague por el modelo más pesado.

  • Llamadas a modelos dentro de tu región

    Si lo activas, la política solo llama a proveedores dentro de tu residencia de datos, como Mistral o el endpoint de OpenAI en la UE para un espacio de trabajo europeo.

Proveedores

Los modelos que permites.

El catálogo contiene 30 modelos de 3 proveedores, cada uno con su nivel, y tu propio endpoint compatible con OpenAI puede sumarse a ellos.

  • Mistral AI

    Modelos de pesos abiertos para chat, código y embeddings.
    • mistral-large-latestGama alta
    • mistral-medium-latestEquilibrado
    • mistral-small-latest
    • magistral-medium-latestRazonamiento
    • magistral-small-latestRazonamiento
    • ministral-8b-latest
    • ministral-3b-latest
    • codestral-latestProgramación
  • OpenAI

    Modelos GPT, además de voz y embeddings.
    • gpt-5.6-solGama alta
    • gpt-5.6-terraEquilibrado
    • gpt-5.6-luna
    • gpt-6-astraGama alta
    • gpt-6.1-solEquilibrado
    • gpt-6-luna
    • gpt-5.4Equilibrado
    • gpt-5.4-mini
    • o3Razonamiento
    • o4-miniRazonamiento
    • gpt-4.1Equilibrado
    • gpt-4.1-mini
    • gpt-4oGama alta
    • gpt-4o-mini
  • Anthropic

    Modelos Claude para seguir instrucciones y usar herramientas.
    • claude-opus-5Gama alta
    • claude-fable-5Gama alta
    • claude-sonnet-5Equilibrado
    • claude-haiku-4-5
    • claude-opus-5-5Gama alta
    • claude-fable-5-1Gama alta
    • claude-sonnet-5-5Equilibrado
    • claude-haiku-5-5

Compatible con OpenAI. Tus propios modelos, en tu propio endpoint.

Hasta dónde llega

  • El enrutamiento decide qué modelo responde. La clave, el contrato y la factura siguen con tu proveedor, e Infinized no añade ningún margen a los tokens.

Preguntas

Lo primero que pregunta la gente.

¿Podemos ver por qué una ejecución usó un modelo concreto?

Sí. Cada ejecución registra el modelo que usó y uno de nueve motivos de ruta, desde la configuración del propio agente de IA hasta un redireccionamiento o tu política. El informe de ejecuciones de la API también lo incluye.

¿Qué pasa cuando un proveedor sufre una caída?

Primero se reintenta la llamada. Si el proveedor sigue caído, la ejecución pasa al siguiente modelo de respaldo del agente de IA, y cada intento queda registrado con su motivo. Una clave que deja de funcionar se aparta y se avisa a los propietarios y administradores.

¿Podemos mantener las llamadas a modelos dentro de la UE?

Sí, con una política de enrutamiento que activas tú. Con ella activada, no se llama a proveedores fuera de la residencia de datos de tu espacio de trabajo. Mistral y el endpoint de OpenAI en la UE cuentan como europeos.

Míralo en acción en tu organización.

Empezamos escuchando tu pregunta. Después te enseñamos una demo que encaja con tu organización.