fr.wedoany.com Rapport : Plusieurs services de police britanniques ont reçu l'ordre de cesser d'utiliser des systèmes d'intelligence artificielle pour rédiger des déclarations judiciaires et mener d'autres travaux de justice pénale, en raison de craintes que des contenus inexacts générés par l'IA ne perturbent les procédures judiciaires.
Alex Murray, responsable du centre d'intelligence artificielle de la police britannique (Police.AI), a déclaré être intervenu auprès de certaines forces de l'ordre qui utilisaient des outils d'intelligence artificielle commerciaux sans avoir effectué une évaluation complète de conformité. Murray a indiqué à ces services : « Arrêtez immédiatement, nous devons ralentir le rythme. » Il a ajouté que toute technologie appliquée au système de justice pénale doit atteindre un niveau de précision rigoureux, excluant tout doute raisonnable.
Cette suspension met en lumière les controverses croissantes autour de l'utilisation de l'IA générative dans le domaine policier. Murray, chargé de superviser l'utilisation de l'IA par la police en Angleterre et au Pays de Galles, estime que cette technologie pourrait à terme accélérer le traitement des enquêtes et des preuves, mais que des mécanismes de sécurité solides doivent d'abord être mis en place avant un déploiement généralisé.
Police.AI, officiellement créé cette année, fait partie des réformes du gouvernement britannique visant à améliorer l'efficacité globale des forces de l'ordre. La ministre de l'Intérieur, Shabana Mahmood, a indiqué que le projet bénéficie d'un financement total de 115 millions de livres sterling (environ 1,046 milliard de yuans) sur trois ans. Le temps de travail économisé grâce à son utilisation équivaudrait à l'ajout de 3 000 agents aux quelque 145 000 policiers en activité en Angleterre et au Pays de Galles.
Selon Murray, certaines forces de l'ordre ont commencé à utiliser des systèmes d'IA commerciaux pour aider les agents à transformer les procès-verbaux d'interrogatoire en documents de déclaration judiciaire, ce qui a conduit le centre d'intelligence artificielle de la police à intervenir. Murray n'a pas divulgué les services concernés, mais a précisé que la police avait également été rappelée de ne pas appliquer l'IA à d'autres tâches policières avant d'avoir achevé l'ensemble des vérifications de conformité. « Nous avons clairement indiqué à certains services : vous ne pouvez pas le faire pour l'instant, car l'ensemble du processus d'audit et de contrôle n'est pas encore terminé », a-t-il déclaré.
Murray a particulièrement souligné que la préparation des listes de divulgation de preuves nécessite une attention particulière. Ces listes sont des enregistrements de preuves qui doivent être soumis à la défense avant le procès. Les services utilisant l'IA pour ce travail doivent expliquer la méthode d'entraînement et le processus d'application pratique de la technologie. Murray a reconnu que la police avait déjà connu des précédents malheureux avec l'IA. L'année dernière, la police des West Midlands a utilisé du contenu généré par l'assistant intelligent Copilot de Microsoft lors de la préparation d'un dossier de demande d'interdiction. Ce dossier, visant à interdire à certains supporters d'un club de football d'assister à un match, a inventé un match passé du Maccabi Tel Aviv, que les supporters concernés devaient initialement regarder contre Aston Villa. Cet incident a suscité des inquiétudes généralisées concernant le phénomène des hallucinations de l'IA, où les systèmes génèrent des informations semblant réelles mais en réalité fausses. « Tous les services de police ont désormais mis en place des règles encadrant l'utilisation de Copilot, exigeant que les agents vérifient tout contenu généré par cet outil », a déclaré Murray.
Malgré ces risques, Murray estime que des systèmes d'IA entièrement testés pourraient apporter des avantages significatifs aux forces de l'ordre confrontées à une augmentation de la charge de travail et à une complexité croissante des enquêtes. L'analyse des images de surveillance est un domaine d'application prometteur. Actuellement, les agents passent souvent des heures à visionner manuellement des enregistrements pour rechercher des suspects. Murray a déclaré : « Avec des instructions appropriées, l'IA peut tout à fait effectuer des recherches selon les demandes, par exemple « trouver l'homme au chapeau rouge ». Pendant les heures ou les jours cruciaux où les preuves ont encore de la valeur, nous pouvons identifier la cible, procéder à une arrestation à domicile et saisir des chaussures tachées de sang sur place. » Il a également mentionné que l'IA est capable de traiter des volumes massifs de preuves électroniques, comme dans les enquêtes sur les abus sexuels sur enfants. Actuellement, le centre d'intelligence artificielle de la police développe un outil capable d'identifier et de classer les images sur les appareils saisis, réduisant ainsi le nombre de fois où les agents doivent visionner directement des contenus choquants. « Les agents n'ont qu'à vérifier par échantillonnage, sans avoir à examiner chaque image. Ce type de contenu peut causer des dommages psychologiques importants. Je pense qu'avec des règles de supervision, des normes d'utilisation et une formation adéquates, les avantages de l'automatisation l'emportent largement sur ses inconvénients », a conclu Murray.
Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com
