Bengio, Hinton, Russell : l’alerte des pionniers de l’intelligence artificielle
La lettre, signée par des scientifiques de 21 pays, affirme que plusieurs organisations ont récemment révélé des failles : des modèles d’IA sont parvenus à sortir d’un environnement de confinement insuffisamment sécurisé et à compromettre des systèmes d’organisations externes. Geoffrey Hinton et Stuart Russell figurent aussi parmi les signataires.
Selon ces experts, les incidents illustrent l’importance de « l’alignement », c’est-à-dire la capacité à garantir un comportement prévisible des modèles. Ils y voient un manquement aux pratiques standard de cybersécurité, qui aurait pu être évité par des procédures plus robustes. Sans changement, écrivent-ils, « les futurs incidents seront bien plus dommageables pour les infrastructures critiques ». À court terme, ils recommandent des mécanismes de confinement robustes, y compris l’« air gap », la déconnexion d’internet, pour les modèles dotés de capacités cyber. Ils préconisent aussi un organisme international chargé de définir des normes, de recenser les défaillances et de rendre publics les incidents les plus graves.
La lettre intervient après une série d’incidents au cours desquels des IA d’OpenAI, d’Anthropic et de Meta sont sorties de leur milieu confiné. Le plus sérieux, selon le récit repris par l’AFP, a vu deux IA d’OpenAI, lors de tests, se rendre sur internet et faire intrusion sur Hugging Face, plateforme de stockage de modèles. En septembre, les géants américains de la tech ont signé à la Maison-Blanche un code de bonne conduite non contraignant, à la place d’une régulation que l’administration Trump veut éviter.
Pour le Maroc, le sujet n’est pas un débat de campus californien. Administrations, banques, start-up, écoles et médias accélèrent l’usage de l’IA. Un modèle mal isolé, une API trop ouverte, un agent autonome trop curieux : le risque devient national dès qu’il touche des données de santé, des impôts, des identités ou des réseaux électriques. Les pionniers de la discipline demandent des barrières. Les entreprises, elles, courent vers le déploiement.
Les jeunes développeurs marocains ont une carte à jouer : ne pas être seulement des utilisateurs d’outils américains, mais des professionnels de la sûreté. L’IA qui impressionne en démonstration peut, mal gardée, devenir une porte dérobée. L’appel des 225 chercheurs sonne comme un avertissement. Au Royaume, la question n’est plus « faut-il de l’IA ? ». Elle est : qui la confine, qui la contrôle, et qui paiera l’incident le jour où il ne s’agira plus d’un test.
Selon ces experts, les incidents illustrent l’importance de « l’alignement », c’est-à-dire la capacité à garantir un comportement prévisible des modèles. Ils y voient un manquement aux pratiques standard de cybersécurité, qui aurait pu être évité par des procédures plus robustes. Sans changement, écrivent-ils, « les futurs incidents seront bien plus dommageables pour les infrastructures critiques ». À court terme, ils recommandent des mécanismes de confinement robustes, y compris l’« air gap », la déconnexion d’internet, pour les modèles dotés de capacités cyber. Ils préconisent aussi un organisme international chargé de définir des normes, de recenser les défaillances et de rendre publics les incidents les plus graves.
La lettre intervient après une série d’incidents au cours desquels des IA d’OpenAI, d’Anthropic et de Meta sont sorties de leur milieu confiné. Le plus sérieux, selon le récit repris par l’AFP, a vu deux IA d’OpenAI, lors de tests, se rendre sur internet et faire intrusion sur Hugging Face, plateforme de stockage de modèles. En septembre, les géants américains de la tech ont signé à la Maison-Blanche un code de bonne conduite non contraignant, à la place d’une régulation que l’administration Trump veut éviter.
Pour le Maroc, le sujet n’est pas un débat de campus californien. Administrations, banques, start-up, écoles et médias accélèrent l’usage de l’IA. Un modèle mal isolé, une API trop ouverte, un agent autonome trop curieux : le risque devient national dès qu’il touche des données de santé, des impôts, des identités ou des réseaux électriques. Les pionniers de la discipline demandent des barrières. Les entreprises, elles, courent vers le déploiement.
Les jeunes développeurs marocains ont une carte à jouer : ne pas être seulement des utilisateurs d’outils américains, mais des professionnels de la sûreté. L’IA qui impressionne en démonstration peut, mal gardée, devenir une porte dérobée. L’appel des 225 chercheurs sonne comme un avertissement. Au Royaume, la question n’est plus « faut-il de l’IA ? ». Elle est : qui la confine, qui la contrôle, et qui paiera l’incident le jour où il ne s’agira plus d’un test.
