fr.wedoany.com Rapport : L’Office fédéral allemand de la sécurité des technologies de l’information (BSI, Bundesamt für Sicherheit in der Informationstechnik) et l’Institut Fraunhofer d’optique, de technologie des systèmes et d’évaluation d’images (Fraunhofer IOSB) ont développé conjointement une méthode de détection des deepfakes baptisée RealOrRender, visant à identifier les images falsifiées générées par l’IA et à rendre le processus de détection traçable. Actuellement, le réalisme des images et vidéos générées par l’IA ne cesse de s’améliorer : les grands modèles de langage sont capables de produire des membres anatomiquement corrects, des ombres portées réalistes, voire de simuler des battements de cœur, ce qui rend plus difficile la distinction entre une prise de vue réelle et un deepfake. Le durcissement prévu de la législation par l’Union européenne pourrait difficilement changer fondamentalement cette situation, ce qui fait des solutions techniques un axe de recherche prioritaire.
Le BSI souligne que les méthodes de détection automatisées ne fonctionnent de manière fiable que dans des conditions spécifiques. C’est pourquoi le BSI et le Fraunhofer IOSB ont collaboré pour développer la méthode RealOrRender. Celle-ci repose sur un processus en deux parties : d’abord, un générateur d’images par IA est utilisé pour reconstruire l’image d’entrée, puis un modèle d’IA effectue une classification et calcule de manière hybride l’erreur de reconstruction. Andreas Specker, chercheur principal au groupe de recherche sur les systèmes d’assistance et d’aide vidéo du Fraunhofer IOSB, explique que ce processus permet de déterminer si une image est un deepfake.
Le mécanisme spécifique de RealOrRender est le suivant : après réception de l’image, le système utilise un modèle de diffusion pré-entraîné pour effectuer un traitement inverse, générant une empreinte mathématique de l’image (carte de bruit) ainsi qu’un résultat de reconstruction, c’est-à-dire une falsification délibérée de l’image originale. Ensuite, le système analyse les erreurs dans l’image. La logique de cette méthode est la suivante : si l’image originale est un deepfake, son empreinte mathématique sera similaire au résultat de reconstruction de RealOrRender ; s’il s’agit d’une photo réelle, davantage d’erreurs de reconstruction seront générées, car les photos réelles contiennent plus d’imprécisions et de bruit naturel. Le système s’appuie sur un ensemble de données d’entraînement comprenant environ 120 000 images provenant de 18 générateurs d’images, calcule l’écart estimé et fournit une évaluation indiquant s’il s’agit d’un deepfake. Selon les chercheurs, la performance de détection se situe entre 85 % et 91 %.
RealOrRender intègre également un composant d’IA explicable (XAI, explainable AI), qui génère une carte de chaleur à la fin de l’analyse, marquant dans l’image originale les détails indiquant une falsification, notamment les traits du visage, les cheveux, les mains ainsi que les objets en arrière-plan. Cela aide les utilisateurs à comprendre les indices de deepfake détectés par le système et renforce la confiance dans le modèle et ses résultats. Selon les informations disponibles, RealOrRender a déjà été mis en service sous forme de démonstrateur au sein du BSI.
