Face aux capacités croissantes des agents d’IA et aux risques de cyberattaques, deux élus américains proposent d’imposer aux laboratoires un mécanisme d’arrêt d’urgence. Pour l’heure, rien ne semble pouvoir arrêter la course à l’armement des start-up du secteur.
Qui peut les stopper ? La course au modèle d’intelligence artificielle le plus performant continue de faire rage aux États-Unis, à l’approche de la future introduction en Bourse des deux start-up américaines les plus en vogue du secteur, Anthropic et OpenAI. Ce jeudi, cette dernière a présenté Astra, la dernière version du modèle de langage ChatGPT. Réservé dans un premier temps à « un nombre limité d’organisations » avant d’être rendu disponible « dans les prochains jours » aux abonnés payants, il est présenté par la firme comme son « modèle le plus intelligent et le plus avancé » à ce jour.
Mais la sortie de ce logiciel soulève de nombreuses questions sur son usage malveillant, à des fins de cyberattaques. Capables d’exécuter un grand nombre de tâches en parallèle et de faire de multiples détours pour accomplir les missions qu’on leur assigne, les modèles mis sur le marché ces derniers mois préoccupent la communauté de la cybersécurité et au-delà. Cet été, des incidents…
