Des chercheurs en sécurité ont mis au point le premier mécanisme de défense fonctionnel capable de résister efficacement aux attaques de type « cryptanalyse » visant les paramètres des modèles d’intelligence artificielle. Les systèmes d’IA constituant une propriété intellectuelle extrêmement précieuse, le vol de leurs paramètres représente une menace majeure pour le secteur. Ashley Kurian, doctorante à la North Carolina State University et première auteure de l’article correspondant, déclare : « Notre technologie permet de contrer efficacement ces attaques. »

Les attaques d’extraction de paramètres par cryptanalyse déterminent mathématiquement les paramètres d’un modèle d’IA, permettant à un tiers de recréer le système et constituant une menace grave pour les systèmes d’IA commerciaux, en particulier les modèles de réseaux de neurones. L’auteur correspondant, Aydin Aysu, souligne : « Les attaques cryptanalytiques deviennent de plus en plus fréquentes et efficaces ; nous avons un besoin urgent de mécanismes de défense pour empêcher le vol des paramètres des modèles. »

Le nouveau mécanisme de défense repose sur la compréhension par les chercheurs du principe fondamental des attaques, à savoir qu’elles exploitent principalement les différences entre les neurones. Ashley Kurian explique : « Nous entraînons les réseaux de neurones de sorte que les neurones d’une même couche soient similaires entre eux, créant une « barrière de similarité » qui complique l’attaque. » Lors des tests de validation de concept, les modèles d’IA intégrant ce mécanisme de défense ont vu leur précision varier de moins de 1 % tout en résistant efficacement à des attaques cryptanalytiques prolongées.

Par ailleurs, l’équipe a développé un cadre théorique permettant de quantifier la probabilité de succès d’une attaque cryptanalytique sans nécessiter de longs tests d’attaque, offrant ainsi une évaluation rapide de la résilience du modèle. Ashley Kurian ajoute : « Nous sommes convaincus que ce mécanisme sera utilisé pour protéger les systèmes d’intelligence artificielle et nous sommes prêts à collaborer avec des partenaires industriels pour sa mise en œuvre. » Aydin Aysu insiste sur le fait qu’un bras de fer permanent oppose la sécurité aux attaques des pirates et espère que davantage de ressources seront consacrées au développement de nouvelles mesures de sécurité.