fr.wedoany.com Rapport : Des chercheurs de Microsoft ont découvert une vulnérabilité dans le processus d'automatisation GitHub de Claude Code, développé par Anthropic, qui pourrait entraîner une fuite d'informations confidentielles dans les workflows d'intégration continue/déploiement continu. Des attaquants pourraient voler des identifiants sensibles via une attaque par injection de prompt.

L'équipe de renseignement sur les menaces de Microsoft a lancé cette étude après avoir détecté des tentatives d'injection de prompt ciblant des workflows GitHub assistés par intelligence artificielle dans des dépôts de code publics. L'injection de prompt est une catégorie de vulnérabilité de sécurité en intelligence artificielle où les attaquants intègrent des instructions trompeuses dans le contenu traité par un grand modèle, manipulant ainsi le comportement du modèle pour ignorer les instructions prédéfinies. Les chercheurs donnent l'exemple d'attaquants qui cachent des instructions injectées dans des commentaires HTML, invisibles dans l'interface d'affichage de GitHub, mais que les modèles d'intelligence artificielle lisant le code source Markdown brut peuvent identifier. Ce dépôt utilisait alors l'automatisation GitHub pour traiter automatiquement les tickets.

Les attaquants peuvent déguiser des instructions malveillantes en demandes fonctionnelles normales. Sans avoir besoin d'obtenir les droits de modification du projet, il leur suffit de soumettre un ticket GitHub pour inciter un robot d'intelligence artificielle à effectuer des modifications à leur place. Microsoft confirme que des méthodes d'injection de prompt similaires peuvent également cibler le processus d'automatisation GitHub de Claude Code d'Anthropic. Anthropic avait déjà mis en place des protections de type sandbox pour certains outils, mais Microsoft a découvert que l'outil de lecture utilisé par Claude pour lire les fichiers n'était pas soumis aux mêmes restrictions de sécurité. Les chercheurs ont créé une charge utile d'attaque par injection de prompt pour effectuer des tests de validation. Lors des tests, le prompt malveillant a réussi à contourner deux niveaux de protection, incitant l'assistant d'intelligence artificielle à lire des fichiers système contenant des clés d'API et d'autres identifiants.

Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com