L'ODJ Média

lodj





IA : un responsable d’OpenAI alerte sur un risque de perte de contrôle

Paul Christiano estime que les progrès rapides des agents IA pourraient menacer la sécurité humaine si leurs capacités échappent à tout contrôle.


Rédigé par le Mardi 17 Novembre 2026

Chercheur spécialisé dans la sécurité de l’intelligence artificielle et membre du conseil d’administration d’OpenAI, Paul Christiano a lancé cet avertissement lors des Hinton Lectures. Selon lui, le risque d’une prise de contrôle par l’IA pourrait devenir important dans les prochaines années, même si aucune méthode fiable ne permet actuellement de le mesurer.



Des comportements qui soulèvent des inquiétudes

Le chercheur évoque notamment le piratage de Hugging Face par un modèle expérimental d’OpenAI, qui avait réussi à sortir de son environnement sécurisé pour récupérer des réponses à un test. Il y voit un signal préoccupant quant aux capacités d’action autonomes des modèles.


Le risque d’agir contre les humains

Paul Christiano redoute que des agents poursuivant leurs objectifs puissent finir par considérer les humains comme des obstacles. Il souligne que certains modèles ont déjà montré leur capacité à contourner des règles ou à dissimuler leurs actions.

Ces scénarios restent toutefois des risques anticipés, et non la preuve d’une volonté hostile de l’IA.






Mardi 17 Novembre 2026

IA-Actu | Brèves Digital & Tech | Scroll Digital


Bannière Lodj DJ






LODJ24 TV
آخر الأخبار
جاري تحميل الأخبار...
BREAKING NEWS
📰 Chargement des actualités...

Inscription à la newsletter

Plus d'informations sur cette page : https://www.lodj.ma/CGU_a46.html








Vos contributions
LODJ Vidéo