fr.wedoany.com Rapport : OpenAI a annoncé le lancement d'un outil de détection précoce basé sur l'IA, permettant aux utilisateurs de vérifier si une image a été générée par ChatGPT, l'API OpenAI ou Codex, renforçant ainsi son engagement en faveur de la transparence et du marquage des contenus trompeurs.
Avec l'amélioration de la qualité des contenus générés par l'intelligence artificielle, les régulateurs exercent une pression croissante sur les entreprises d'IA concernant la transparence de l'utilisation de leurs technologies. La prolifération fréquente de contenus deepfake a sonné l'alarme, en particulier à l'approche des élections, où les publicités trompeuses générées artificiellement se multiplient. L'outil adopte une approche prudente en matière de vérification : si aucune métadonnée n'est détectée, le chatbot ne tire pas de conclusion définitive, car les signaux de provenance peuvent être supprimés dans certains cas. Actuellement, cet outil ne peut détecter que les images créées par ChatGPT, et est inefficace pour les autres outils d'IA. Il ne peut pas non plus déterminer si une image est exacte ou présentée dans le bon contexte. Dans les mois à venir, OpenAI prévoit de soutenir une collaboration intersectorielle afin de permettre une capacité de vérification multiplateforme.
Dans le même communiqué, OpenAI a indiqué qu'elle rendait les signaux de provenance plus facilement identifiables par d'autres outils, en ajoutant des filigranes numériques persistants et multiplateformes aux images via SynthID. SynthID est un filigrane numérique invisible à l'œil nu, déjà disponible dans Gemini de Google, mais uniquement capable d'identifier les images et vidéos créées par les propres outils de Google. En mai, lors de la conférence des développeurs I/O 2026, Google a annoncé que davantage d'entreprises adopteraient SynthID, notamment OpenAI, Kakao et Eleven Labs. Sam Altman, PDG d'OpenAI, a déclaré que cette collaboration visait à renforcer la vérification des images en multipliant les couches de signaux de provenance. Dans le communiqué, l'entreprise a souligné que la Coalition for Content Provenance and Authenticity (C2PA) aide les contenus à transporter des informations contextuelles détaillées, tandis que SynthID contribue à préserver les signaux en cas de perte de métadonnées. Les filigranes numériques sont plus résistants face à des transformations comme les captures d'écran, tandis que les métadonnées offrent des informations plus riches qu'un simple filigrane. Combinés, ils rendent les signaux de provenance plus robustes que n'importe quelle couche unique.
Les utilisateurs peuvent déjà identifier directement via le moteur de recherche Google et la fonction Circle to Search si une image a été générée par IA. Dans les semaines à venir, le navigateur Google Chrome intégrera également cette fonctionnalité. Microsoft envisage également de suivre l'exemple de Google en transférant la responsabilité de la vérification aux métadonnées des images. L'IA Grok de X dispose également d'un système de vérification capable de collecter des informations provenant d'autres sites pour attester de l'authenticité.
Depuis 2024, OpenAI renforce son engagement en faveur de la transparence, en commençant à ajouter des certificats de contenu aux images générées par DALL-E 3, ImageGen et Sora. Après avoir rejoint le comité directeur de la Coalition for Content Provenance and Authenticity (C2PA), le géant technologique a commencé à fournir des moyens plus fiables de lire, sauvegarder et transmettre des informations sur sa plateforme. Depuis 2025, OpenAI publie régulièrement les résultats de ses évaluations internes de sécurité pour ses modèles d'IA, afin d'accroître la transparence concernant les performances et les risques liés à ses technologies.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
