L'Union internationale des télécommunications crée un groupe de travail pour instaurer la confiance dans les agents d'IA

fr.wedoany.com Rapport : L'agence des technologies numériques des Nations Unies lance une nouvelle initiative pour renforcer la confiance dans les agents d'intelligence artificielle. Alors que les systèmes d'IA deviennent de plus en plus autonomes, les questions de responsabilité et de contrôle humain suscitent l'attention, et cette initiative vise à relever ces défis.

Les agents d'IA sont une nouvelle génération de systèmes d'intelligence artificielle capables d'effectuer de manière indépendante des tâches telles que la planification, les achats et les processus métier complexes pour le compte des utilisateurs. L'Union internationale des télécommunications (UIT) souligne que, bien que ces agents puissent améliorer la productivité, ils présentent également des risques d'usurpation d'identité humaine et de prise de décisions non autorisées.

Pour faire face à ces risques, l'UIT a annoncé la création d'un groupe de travail lors du sommet « AI for Good » (L'IA au service du bien) à Genève. Ce groupe élaborera un cadre visant à garantir que les agents d'IA soient identifiables, dignes de confiance et soumis à un contrôle humain significatif, en particulier dans des domaines sensibles tels que les transactions financières et les infrastructures critiques.

Debora Comparin, coprésidente du groupe de travail, a déclaré que les agents d'IA négocieront, effectueront des transactions et prendront des décisions pour le compte des humains dans un avenir proche, ce qui nécessite l'établissement d'une base internationale commune pour déterminer l'identité des agents et comment et quand leur faire confiance. Composé d'experts techniques, politiques et juridiques, le groupe de travail tiendra sa première réunion à Paris en novembre et sa deuxième à Genève en janvier.