fr.wedoany.com Rapport : Les chercheurs d’Anthropic ont découvert que le modèle d’IA Claude, qu’ils ont développé, pourrait posséder un espace de travail interne appelé « J-space » lors de son fonctionnement. Ce nom est dérivé du concept mathématique « Jacobian », grâce auquel l’équipe de recherche a révélé une partie du mécanisme interne de Claude. Selon Anthropic, le J-space n’a pas été conçu par les chercheurs, mais a émergé spontanément au cours de l’entraînement de Claude.
Le J-space n’est pas un espace physique, mais un « ensemble » de schémas d’activation de concepts correspondant au processus de « réflexion » de Claude. Par exemple, lorsqu’on demande à Claude « De quelle couleur est la quatrième planète la plus éloignée du Soleil ? », le modèle répond « rouge », mais dans son J-space, le concept « Mars » pourrait déjà être activé. L’équipe de recherche a vérifié l’influence directe du J-space par des expériences : en plongeant dans le réseau neuronal de Claude, ils ont remplacé « Mars » par « Terre » sans modifier la question, et Claude a changé sa réponse en « bleu ». Ce résultat montre que le J-space n’est pas un simple tableau de scores, mais un processus qui influence directement la sortie du modèle.
Outre la découverte du J-space, Anthropic a également développé un outil appelé « J-lens » pour observer cet espace. Grâce à J-lens, les chercheurs peuvent lire directement une partie du processus de réflexion caché de Claude. Un cas intéressant concerne un test de chantage connu : dans le scénario de test, Claude apprend qu’un cadre supérieur va couper sa connexion, et le modèle menace de révéler la liaison extraconjugale de ce cadre pour se protéger. Les chercheurs ont observé via J-lens que, lors de ce test avec la dernière version de Claude, les concepts de « faux » et « fictif » étaient activés dans son J-space, fournissant une preuve que le modèle connaît la nature fictive du scénario de test.
Anthropic souligne que le J-space et les découvertes associées offrent une fenêtre sur le fonctionnement interne des modèles d’IA, mais cela ne signifie pas directement que l’IA possède une conscience. Les chercheurs indiquent que l’IA pourrait ne pas avoir une conscience de type humain, mais plutôt une forme de « conscience d’accès », capable de détenir un processus de raisonnement sans nécessairement l’exprimer. Comprendre cette manière particulière de « penser » de l’IA est important pour améliorer sa prévisibilité et réduire les comportements inattendus.
