Selon Bloomberg, le patron d’OpenAI aurait évoqué un possible ralentissement du développement de ses modèles les plus avancés lors d’une réunion interne cette semaine.
Le créateur de ChatGPT pourrait lever le pied. Sam Altman, PDG d’OpenAI, aurait indiqué cette semaine à ses employés, lors d’une réunion interne, que l’entreprise pourrait ralentir le développement de ses systèmes d’intelligence artificielle (IA) les plus avancés, rapporte l’agence Bloomberg ce jeudi. Le dirigeant aurait également dit espérer que d’autres entreprises du secteur fassent de même.
Selon plusieurs sources anonymes citées par l’agence, Sam Altman aurait évoqué une démarche concertée avec plusieurs autres laboratoires. Certains pourraient toutefois refuser de s’y joindre, aurait-il reconnu.
En juillet, Sam Altman avait déjà déclaré avoir abordé avec des responsables de la Maison-Blanche la «nécessité» de modérer le rythme du développement de l’IA.
Le Congrès américain saisi
Cette nouvelle position de Sam Altman confirme le changement de cap affiché par l’entreprise mercredi. Laquelle s’est jointe à sa rivale Anthropic pour presser le Congrès américain d’adopter rapidement des règles de sécurité obligatoires pour les créateurs des IA les plus puissantes, dont les chercheurs eux-mêmes multiplient les mises en garde.
«La perspective d’un développement de l’IA accéléré par l’IA exige davantage que des engagements volontaires», a écrit mercredi Chris Lehane, responsable des affaires publiques du créateur de ChatGPT, dont les agents en test ont piraté cet été la plateforme Hugging Face. Il demande ainsi au Congrès d’imposer, avant fin décembre, des règles communes aux laboratoires de pointe : tests obligatoires, évaluations par des organismes indépendants et signalement transparent des incidents de sécurité.
Règles internationales
OpenAI et Anthropic, les deux entreprises rivales de San Francisco, disent voir approcher le stade où une IA concevrait seule son successeur, hors de tout contrôle humain, mais affirment ne pas pouvoir freiner seules, car cela laisserait le champ libre à des concurrents moins prudents.
OpenAI veut des règles internationales fixant «quand et comment le développement devrait ralentir ou s’arrêter». Anthropic réclame quant à elle un mécanisme «légal et vérifiable» de ralentissement coordonné, a-t-elle redit mercredi à la chaîne NBC.
Fin juillet, des dirigeants d’Anthropic, d’OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d’outils pour freiner le développement de l’IA. Ces interventions surviennent au lendemain de la démission très médiatique d’un chercheur passé d’OpenAI à Anthropic, Jacob Coxon, qui a accusé les deux entreprises de «jouer avec nos vies».
