Modèles et routage
Chaque choix de modèle, avec sa raison.
Votre politique décide quels modèles vos agents IA peuvent utiliser. Chaque exécution enregistre le modèle utilisé et la raison de ce choix.
mistral-small-latestQuestion légère, modèle économeÉconome
Un tour de chat court : il s'est donc exécuté sur le modèle économe du fournisseur.
En une phrase
Le routage des modèles décide quel modèle répond à une requête. Dans Infinized, il suit le réglage propre à l'agent IA et la politique de routage de votre espace de travail, et chaque exécution enregistre le chemin emprunté et sa raison.
Une politique de routage par espace de travail décide quels fournisseurs et modèles vos agents IA peuvent utiliser. Chaque exécution enregistre le modèle utilisé et la raison de ce choix.
Secours
Quand un fournisseur est défaillant, l'exécution se poursuit.
Attribuez à un agent IA jusqu'à trois modèles de secours. Après une panne, la plateforme réessaie d'abord, puis l'exécution passe au modèle suivant de la liste. Chaque tentative est enregistrée comme une exécution à part entière, avec sa raison.
- Modèle définiclaude-sonnet-5Panne du fournisseur · nouvelle tentative d'abord
- Secours 1mistral-medium-latestExécuté ici · enregistré comme « Modèle de secours »
- Secours 2gpt-5.4Suivant dans la liste, pas nécessaire
À chaque exécution
Vos clés. Votre politique.
Infinized route chaque exécution et consigne le chemin suivi : le fournisseur, le modèle, les tokens, le coût estimé et la raison. La clé, le contrat et la facture restent chez votre fournisseur, et Infinized n'ajoute rien au prix d'un token.
- Coût
- $0.0004
- Latence
- 1,2 s
- Entrée
- 1,204
- Sortie
- 186
Fonctionnement
Ce que décide la politique.
Pourquoi ce modèle, à chaque exécution
Chaque exécution enregistre son fournisseur, son modèle, ses tokens, son coût estimé et la raison de ce choix : le réglage de l'agent IA, un tour en mode économique, le niveau d'une étape de flow, une redirection ou votre politique.
Une politique de routage par espace de travail
Autorisez les fournisseurs et modèles que vos agents IA peuvent utiliser, et fixez un coût attendu par exécution qui détourne le travail des modèles situés au-dessus.
Bascule en cas de panne d'un fournisseur
Attribuez jusqu'à trois modèles de secours à un agent IA. Après une panne du fournisseur, l'appel est d'abord retenté, puis l'exécution passe au modèle suivant. Une clé invalide ou un quota épuisé produit le même effet. Un fournisseur déconnecté envoie l'agent IA vers un autre fournisseur du même niveau. Chaque tentative est une exécution enregistrée à part entière.
Tours légers, modèle léger
Un tour de chat court s'exécute sur le modèle économe du fournisseur. Le mode fantôme enregistre ce que chaque exécution aurait coûté sur le modèle plus léger, et le basculement vers ce modèle s'active une fois que vos évaluations ont passé le contrôle de routage.
Un niveau par étape de flow
Une étape de flow peut demander un modèle phare, équilibré ou économe chez le fournisseur de l'agent IA, pour qu'une étape de routine ne paie pas le modèle le plus lourd.
Des appels de modèle qui restent dans votre région
Activez cette option et la politique n'appelle que les fournisseurs situés dans votre zone de résidence des données, comme Mistral ou l'endpoint européen d'OpenAI pour un espace de travail européen.
Fournisseurs
Les modèles que vous autorisez.
Le catalogue compte 30 modèles de 3 fournisseurs, chacun avec son niveau, et votre propre endpoint compatible OpenAI peut s'y ajouter.
Mistral AI
Modèles open-weight pour le chat, le code et les embeddings.- mistral-large-latestPhare
- mistral-medium-latestÉquilibré
- mistral-small-latest
- magistral-medium-latestRaisonnement
- magistral-small-latestRaisonnement
- ministral-8b-latest
- ministral-3b-latest
- codestral-latestCode
OpenAI
Modèles GPT, plus la voix et les embeddings.- gpt-5.6-solPhare
- gpt-5.6-terraÉquilibré
- gpt-5.6-luna
- gpt-6-astraPhare
- gpt-6.1-solÉquilibré
- gpt-6-luna
- gpt-5.4Équilibré
- gpt-5.4-mini
- o3Raisonnement
- o4-miniRaisonnement
- gpt-4.1Équilibré
- gpt-4.1-mini
- gpt-4oPhare
- gpt-4o-mini
Anthropic
Modèles Claude pour le suivi des instructions et l'utilisation d'outils.- claude-opus-5Phare
- claude-fable-5Phare
- claude-sonnet-5Équilibré
- claude-haiku-4-5
- claude-opus-5-5Phare
- claude-fable-5-1Phare
- claude-sonnet-5-5Équilibré
- claude-haiku-5-5
Compatible OpenAI. Vos propres modèles, sur votre propre endpoint.
Les limites
- Le routage décide quel modèle répond. La clé, le contrat et la facture restent chez votre fournisseur, et Infinized n'applique aucune marge sur les tokens.
Questions
Ce que l'on demande en premier.
Lire la suite dans Ressources
Quel modèle d'IA pour chaque agent IA ?Pouvons-nous voir pourquoi une exécution a utilisé un modèle donné ?
Oui. Chaque exécution enregistre le modèle utilisé et l'une des neuf raisons de routage, du réglage propre à l'agent IA à une redirection ou votre politique. Le rapport des exécutions disponible via l'API l'inclut aussi.
Que se passe-t-il quand un fournisseur subit une panne ?
L'appel est d'abord retenté. Si le fournisseur reste indisponible, l'exécution passe au modèle de secours suivant de l'agent IA, et chaque tentative est enregistrée avec sa raison. Une clé qui cesse de fonctionner est mise de côté, et les propriétaires et administrateurs sont prévenus.
Pouvons-nous garder les appels de modèle dans l'UE ?
Oui, avec une politique de routage à activer. Une fois activée, les fournisseurs situés hors de la zone de résidence des données de votre espace de travail ne sont pas appelés. Mistral et l'endpoint européen d'OpenAI comptent comme européens.
Voyez comment cela fonctionne dans votre organisation.
Nous commençons par écouter votre question. Ensuite, nous vous montrons une démo adaptée à votre organisation.