OpenAI, entreprise américaine, lance le mode « Blocage » de ChatGPT pour prévenir les fuites de données

fr.wedoany.com Rapport : L'entreprise américaine d'intelligence artificielle OpenAI a lancé une nouvelle fonctionnalité de sécurité appelée « Mode Blocage », visant à renforcer la protection des utilisateurs et des organisations qui traitent des informations sensibles à l'aide de grands modèles de langage.

Ce mode est conçu pour détecter et prévenir les tentatives de fuite de données sensibles vers des personnes non autorisées via des attaques par injection de prompts. OpenAI précise que le mode Blocage n'est pas destiné à tous les utilisateurs, mais aux personnes et organisations qui traitent des données sensibles et souhaitent une protection plus stricte contre les risques de fuite de données liés aux injections de prompts.

Les attaques par injection de prompts sont une nouvelle méthode employée par les pirates, où des instructions telles que des documents de code peuvent être cachées dans des pages web et téléchargées dans les grands modèles de langage. Lors du traitement de ces contenus, les attaquants peuvent manipuler le système d'IA pour obtenir des informations sensibles. OpenAI a choisi de lancer ce mode dans un contexte où cette tendance d'attaque est en hausse.

Une fois le mode Blocage activé, ChatGPT limitera plusieurs fonctionnalités des grands modèles de langage, notamment l'absence de capture d'images Internet ou de génération d'images, et le téléchargement de fichiers par les utilisateurs à des fins d'analyse sera également restreint. Cependant, les utilisateurs pourront toujours télécharger des fichiers, des images et des documents pour analyse. OpenAI précise que ce mode n'affectera pas la mémoire des conversations ni les paramètres de partage de conversations. Dans un environnement professionnel, les administrateurs disposeront de tous les droits de configuration et de modification.

De plus, ChatGPT a ajouté un outil appelé « Gestionnaire de sessions actives », permettant aux utilisateurs de consulter les appareils connectés, voire les navigateurs, et de se déconnecter à distance des comptes sur des appareils non souhaités.