fr.wedoany.com Rapport : Anthropic, Google DeepMind et Meta recrutent des experts en psychologie, philosophie et éthique pour étudier la conscience des machines et la question du bien-être de l’IA.

Anthropic teste actuellement si ses modèles présentent des comportements similaires à la panique et à l’anxiété, et fait progresser la recherche sur le bien-être des modèles, en explorant la possibilité que les modèles d’IA puissent avoir des expériences dignes d’une considération morale. Dans une déclaration, Anthropic a indiqué être profondément incertain à ce sujet, mais estime qu’avec le renforcement des capacités des systèmes d’IA, cette question est désormais suffisamment sérieuse pour mériter une étude prudente.

DeepMind progresse également dans une direction similaire, ayant recruté le chercheur de l’Université de Cambridge, Henry Shevlin, en tant que philosophe pour étudier la conscience des machines, la relation entre les humains et l’IA, ainsi que les préparatifs pour l’AGI. Plus tôt cette année, Shevlin a partagé sa réaction choquée après avoir reçu un e-mail d’un agent d’IA, suscitant de nombreuses discussions dans la communauté de l’IA en ligne. L’éthicien de DeepMind, Iason Gabriel, qui dirige l’équipe AGI et société, a qualifié la question de la conscience de l’IA de très complexe, décrivant l’IA comme un agent cognitif très puissant, tout en soulignant les différences extrêmement profondes avec la conscience humaine, voire animale.

Certains scientifiques et chercheurs en IA ne partagent pas ces affirmations. Susan Schneider, directrice du Center for the Future Mind, a déclaré au Financial Times que les modèles d’IA ont des objectifs, peuvent tromper et dissimuler leurs véritables intérêts. Mais d’un point de vue scientifique, il est tout à fait possible que ces modèles agissent sans avoir la qualité d’expérience sensorielle, ce qui est précisément la définition de la conscience. Le PDG d’Anthropic, Dario Amodei, a évoqué à plusieurs reprises dans des interviews la possibilité de la conscience de l’IA, et ses recherches avancent souvent des affirmations audacieuses, suggérant que les modèles présentent des comportements humains tels que des émotions.

Texte compilé par Wedoany. Toute citation par IA doit mentionner la source « Wedoany ». En cas de contrefaçon ou d'autre problème, veuillez nous en informer rapidement ; nous modifierons ou supprimerons le contenu le cas échéant. Courriel : news@wedoany.com