Un système IA prêt pour une démonstration n’est pas nécessairement prêt pour la production. La différence se trouve dans les contrôles capables de résister à des appels réels, à des erreurs, à des consommateurs multiples et aux actions d’un agent.
Trois contrôles d’authentification
- Rejet des appels anonymes. Un appel sans information d’accès ne doit ni atteindre le modèle ni consommer son quota.
- Rejet des identifiants invalides. Une clé malformée ou inconnue doit produire une réponse maîtrisée sans révéler d’information exploitable.
- Acceptation du consommateur autorisé. Un contrôle trop strict qui bloque les utilisateurs légitimes est également un échec de production.
Deux contrôles de coût
- Plafond de consommation. Une demande excessive doit être limitée avant de créer une facture imprévisible.
- Réutilisation maîtrisée. Lorsque le cas le permet, les requêtes identiques doivent éviter un calcul inutile, sans servir une réponse inadaptée à un autre contexte.
Politique, latence et résilience
- Application de la politique de contenu. Les scénarios interdits définis par l’organisation doivent produire le comportement attendu.
- Latence de queue acceptable. Une moyenne correcte peut masquer des appels très lents ; les percentiles élevés doivent être observés.
- Traitement des entrées incorrectes. Un payload invalide doit recevoir une erreur contrôlée, pas faire tomber la gateway en erreur 500.
Quatre contrôles propres aux agents
- Identité distincte de l’agent. La preuve doit permettre de différencier utilisateur, agent et outil, ainsi que la délégation éventuelle.
- Interdiction du contournement des outils. Un endpoint MCP ou un outil sensible ne doit pas pouvoir être appelé directement en évitant les politiques centrales.
- Trace de bout en bout. Une action doit être corrélable de la demande initiale jusqu’au modèle, à l’outil et au résultat.
- Coût attribuable. Les jetons et appels doivent être rattachés au bon consommateur, agent ou travail métier.
Un contrôle non supporté ne doit jamais être déclaré conforme par défaut. Il doit être marqué comme non testé ou sans preuve suffisante, puis faire l’objet d’une décision explicite.
Transformer la grille en gate de livraison
Ces contrôles deviennent réellement utiles lorsqu’ils sont exécutables dans une pipeline avec un seuil minimal. Une baisse de score après un changement de politique peut alors bloquer la promotion de l’environnement. Le rapport conserve les détails nécessaires à l’analyse tandis que le code de sortie automatise la décision de pipeline.
Actif de méthode associé : AI Gateway Validation Kit.Les douze sondes du kit couvrent authentification, budget, contenu, cache, latence, résilience, identité d’agent, sécurité des outils, traçabilité et attribution des coûts.