Face aux risques liés à l’essor rapide de l’intelligence artificielle, OpenAI, Anthropic et Google discuteraient depuis juillet de la création d’un organisme chargé d’établir des normes de sécurité pour les modèles les plus puissants.

L’idée, évoquée notamment par Demis Hassabis, consisterait à développer des protocoles d’évaluation et à tester les systèmes avancés avant leur lancement. Dario Amodei et Sam Altman ont également appelé à davantage de règles communes, estimant que les entreprises peuvent collaborer avec les pouvoirs publics pour mieux anticiper les risques.

Le projet intervient alors que plusieurs dirigeants du secteur plaident pour un rythme de développement plus maîtrisé de l’IA.