DÉCRYPTAGE – Le modèle de langage a, au cours de ses entraînements, construit de lui-même un espace de travail interne, lui permettant de recentrer et organiser des idées complexes.
Pendant que vous lisez ces lignes, ou faites n’importe quelle autre activité, des circuits de votre cerveau s’animent, sans même que vous ne vous en rendiez compte. Ils vous permettent de respirer, de reconnaître les mots, de bouger sans même réfléchir. Mais d’autres activités cérébrales vous sont accessibles : une image, un son, un plan dans votre tête pour aller faire vos courses. Certains philosophes et neuroscientifiques parlent de «conscience d’accès», car il est possible de la décrire, la contrôler, ou l’utiliser pour un raisonnement. Dans un nouvel article, publié sur son site, lundi, le géant de l’intelligence artificielle Anthropic dit avoir identifié chez ses modèles de langage comme Claude un «mécanisme similaire». «Nous constatons que Claude a développé un petit ensemble de patterns neuronaux internes qui, par rapport à tous ses autres traitements internes, jouent un rôle particulier», dévoile la start-up, qui a nommé cette zone secrète le «J-Space», en rapport avec le…
