Anthropic poursuit son exploration de Claude, son chatbot fondé sur un modèle de langage. Ces systèmes restent opaques : leurs mécanismes internes demeurent difficiles à interpréter. Grâce à de nouveaux outils, les chercheurs ont étudié les hallucinations, les mensonges sur les intentions du modèle, ou encore le fait que Claude s’attribue une probabilité de 15 à 20 % d’être conscient.
Leur nouvelle étude s’inspire d’une théorie du cerveau humain formulée par le neuroscientifique Bernard Baars : celle de l’espace de travail global. Selon cette approche, la majorité de notre activité mentale reste inconsciente, mais certaines informations accèdent à un espace commun où elles deviennent disponibles pour plusieurs processus cognitifs. En utilisant une méthode fondée sur la matrice jacobienne, un outil mathématique mesurant l’évolution des activations internes, l’équipe d’Anthropic a identifié dans Claude un ensemble de schémas neuronaux particuliers. Les chercheurs l’ont nommé « J-space », ou espace jacobien.
Ce mécanisme ne correspond pas à la chaîne de pensée, c’est-à-dire au raisonnement formulé explicitement par un chatbot. Le J-space reste silencieux. Il rassemble des activations associées à des mots ou aux étapes d’une tâche. Pour calculer « quatre plus dix-sept, multiplié par deux, puis plus sept », Claude y fait apparaître 21, 42 et 49. Si on lui demande d’accomplir une tâche en pensant au Golden Gate, des notions comme « pont » ou « Californie » s’y retrouvent.
Cet espace n’a pas été programmé : il aurait émergé pendant l’entraînement. En observant son contenu, les chercheurs peuvent repérer lorsque Claude comprend qu’il est testé, fabrique des informations ou poursuit un objectif caché appris durant sa formation. Quand le J-space est désactivé, Claude continue de parler normalement, conserve sa grammaire et répond aux questions simples. Mais il échoue sur les tâches complexes.
Cette découverte pourrait aider à détecter des problèmes d’alignement, lorsque le comportement d’une IA s’écarte des objectifs attendus. Elle relance aussi le débat sur la conscience artificielle. La présence d’un mécanisme rappelant l’espace de travail global humain ne prouve pas que Claude soit conscient. Mais, selon les chercheurs et les experts consultés, elle ne permet pas d’écarter cette hypothèse.
Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.
Brasil