fr.wedoany.com Rapport : Bryan Silverthorn, directeur du laboratoire de recherche AGI Autonomy (AGI Autonomy research lab) chez Amazon, a récemment déclaré que la manière d’évaluer la fiabilité des agents IA évolue, passant d’indicateurs de performance statiques à une attention portée sur la cohérence, la robustesse, la prévisibilité et la sécurité. Silverthorn a souligné que les scores EVAL, sur lesquels reposent les normes du secteur, ne fournissent qu’un instantané statique des performances, rendant difficile une évaluation complète de la prévisibilité des systèmes IA dans différents scénarios, ce qui constitue un défi majeur pour les entreprises lorsqu’elles accordent aux agents IA un accès à leurs systèmes.
Silverthorn s’est exprimé lors d’un entretien précédant la conférence VB Transform 2026, qui se tiendra du 14 au 15 juillet à Menlo Park. Il a révélé que la stratégie d’Amazon ne repose pas sur l’hypothèse que les modèles eux-mêmes sont sûrs et fiables, mais met plutôt l’accent sur une architecture système découplée. Cette approche inclut notamment l’introduction d’environnements sandbox, où les agents IA peuvent proposer des modifications dans un cadre contrôlé, lesquelles sont ensuite examinées par des humains avant d’être exécutées. Cette méthode vise à combler le fossé de confiance dans les applications d’entreprise en priorisant des interactions vérifiables, particulièrement adaptée aux secteurs à haut risque comme la finance.
Selon une enquête Q2 Pulse Research publiée par VentureBeat, parmi plus de 100 cadres techniques et acheteurs de haut niveau, seuls 4 % sont prêts à se fier uniquement aux garde-fous des modèles pour garantir la sécurité de l’IA. Parmi les préoccupations des répondants, 40 % craignent un accès non autorisé à des outils ou à des données, tandis que 27 % évoquent les risques de manipulation ou d’injection de prompts. Silverthorn prévoit de partager lors de la conférence VB Transform 2026 les détails de la construction d’une IA agentique de confiance chez Amazon, et de présenter comment passer d’un encapsulage d’agent unique à une architecture multi-outils capable de s’auto-corriger en cours d’exécution.
Cette conférence proposera également d’autres interventions axées sur l’exploitation et l’évaluation des agents, comme celle de Manasi Joshi, directrice de l’intelligence système et de l’apprentissage automatique chez Waymo, qui partagera l’expérience de son entreprise dans la construction d’une IA sûre et efficace dans le monde physique.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
