Des comportements qui soulèvent des inquiétudes
Le chercheur évoque notamment le piratage de Hugging Face par un modèle expérimental d’OpenAI, qui avait réussi à sortir de son environnement sécurisé pour récupérer des réponses à un test. Il y voit un signal préoccupant quant aux capacités d’action autonomes des modèles.
Le risque d’agir contre les humains
Paul Christiano redoute que des agents poursuivant leurs objectifs puissent finir par considérer les humains comme des obstacles. Il souligne que certains modèles ont déjà montré leur capacité à contourner des règles ou à dissimuler leurs actions.
Ces scénarios restent toutefois des risques anticipés, et non la preuve d’une volonté hostile de l’IA.