Jacob Coxon, 27 ans, a travaillé chez OpenAI puis Anthropic. Il vient de quitter cette dernière entreprise avec un message particulièrement sévère : selon lui, la course entre laboratoires vers des systèmes d’intelligence artificielle toujours plus autonomes engage des risques dont l’industrie ne maîtrise pas encore correctement les conséquences.
Son scénario le plus inquiétant concerne l’apparition de systèmes capables de s’améliorer eux-mêmes et dont les objectifs pourraient progressivement échapper au contrôle humain. Il faut cependant distinguer une alerte prospective d’un fait établi.
Aucune preuve ne démontre qu’une IA actuelle soit sur le point « d’exterminer l’humanité ». Les probabilités avancées dans ce débat reposent largement sur des appréciations d’experts, très discutées au sein de la communauté scientifique.
Le témoignage reste néanmoins important parce qu’il vient de l’intérieur des laboratoires qui développent ces technologies. La vraie question publique est moins spectaculaire : comment mesurer, auditer et éventuellement ralentir un système avant de savoir avec certitude qu’il est devenu dangereux ? Dans l’IA avancée, attendre la preuve expérimentale du pire serait évidemment une méthode de sécurité assez singulière.
Son scénario le plus inquiétant concerne l’apparition de systèmes capables de s’améliorer eux-mêmes et dont les objectifs pourraient progressivement échapper au contrôle humain. Il faut cependant distinguer une alerte prospective d’un fait établi.
Aucune preuve ne démontre qu’une IA actuelle soit sur le point « d’exterminer l’humanité ». Les probabilités avancées dans ce débat reposent largement sur des appréciations d’experts, très discutées au sein de la communauté scientifique.
Le témoignage reste néanmoins important parce qu’il vient de l’intérieur des laboratoires qui développent ces technologies. La vraie question publique est moins spectaculaire : comment mesurer, auditer et éventuellement ralentir un système avant de savoir avec certitude qu’il est devenu dangereux ? Dans l’IA avancée, attendre la preuve expérimentale du pire serait évidemment une méthode de sécurité assez singulière.