La société d’IA Anthropic estime que les futurs systèmes d’intelligence artificielle pourraient devenir capables de concevoir eux-mêmes leurs successeurs, réduisant progressivement le contrôle humain.

Face à ce risque, l’entreprise plaide pour une coordination internationale permettant de ralentir, voire suspendre temporairement, le développement des IA les plus avancées. Anthropic met en avant la nécessité de renforcer les recherches sur la sécurité et l’alignement des modèles avant de poursuivre la course à la puissance.

Cette position suscite toutefois des critiques, certains acteurs du secteur accusant l’entreprise d’exagérer les dangers de l’IA. Le débat entre innovation rapide et encadrement des risques continue ainsi de diviser l’industrie technologique.