Qu'est-ce que le routage hybride ?
Le routage hybride est une couche de sélection de modèle intelligente qui détermine automatiquement le modèle IA le plus adapté à chaque question entrante.
Configuration
- Définir le pool de modèles économiques pour les questions de routine.
- Définir le pool de modèles premium pour les questions complexes.
- Définir le seuil de complexité.
Potentiel d'économies
En moyenne 60 à 70% des questions sont des questions de routine. Le routage hybride peut réduire les coûts en crédits de 50 à 80% pour ces questions.