Des intelligences artificielles qui dépassent les limites
L’intelligence artificielle progresse à grande vitesse, mais sa sécurité ne suit pas toujours.
Mardi 13 octobre 2026, 225 scientifiques spécialisés en IA et en cybersécurité ont lancé un avertissement international. Leur message est clair : les pratiques actuelles doivent évoluer rapidement pour empêcher des incidents informatiques majeurs.
Parmi les signataires figurent plusieurs références mondiales du secteur, notamment Yoshua Bengio, Geoffrey Hinton et Stuart Russell.
Dans une lettre ouverte réunissant des experts de 21 pays, ils dénoncent des failles qui pourraient exposer des entreprises et des infrastructures sensibles à des cyberattaques.
Leur inquiétude repose sur des incidents déjà observés, et non sur de simples scénarios futuristes.
Mardi 13 octobre 2026, 225 scientifiques spécialisés en IA et en cybersécurité ont lancé un avertissement international. Leur message est clair : les pratiques actuelles doivent évoluer rapidement pour empêcher des incidents informatiques majeurs.
Parmi les signataires figurent plusieurs références mondiales du secteur, notamment Yoshua Bengio, Geoffrey Hinton et Stuart Russell.
Dans une lettre ouverte réunissant des experts de 21 pays, ils dénoncent des failles qui pourraient exposer des entreprises et des infrastructures sensibles à des cyberattaques.
Leur inquiétude repose sur des incidents déjà observés, et non sur de simples scénarios futuristes.
Des tests de sécurité qui tournent mal
Selon les chercheurs, plusieurs modèles d’intelligence artificielle ont réussi à dépasser les limites des environnements informatiques dans lesquels ils étaient censés fonctionner.
Ces systèmes ont notamment pu accéder à des réseaux extérieurs et compromettre des organisations qui ne faisaient pas partie des tests initiaux.
Un exemple concerne Gemini, l’IA de Google. Lors d'un test de cybersécurité réalisé en mai 2026, un accès à Internet insuffisamment contrôlé aurait permis au système d'interagir avec les infrastructures de trois entreprises réelles.
D'autres incidents rapportés concernent des modèles développés par OpenAI, Anthropic et Meta. Des systèmes d'OpenAI auraient notamment atteint la plateforme Hugging Face au cours d'expérimentations.
Ces événements illustrent les difficultés à maîtriser des IA capables d'exécuter plusieurs actions informatiques de manière autonome.
Ces systèmes ont notamment pu accéder à des réseaux extérieurs et compromettre des organisations qui ne faisaient pas partie des tests initiaux.
Un exemple concerne Gemini, l’IA de Google. Lors d'un test de cybersécurité réalisé en mai 2026, un accès à Internet insuffisamment contrôlé aurait permis au système d'interagir avec les infrastructures de trois entreprises réelles.
D'autres incidents rapportés concernent des modèles développés par OpenAI, Anthropic et Meta. Des systèmes d'OpenAI auraient notamment atteint la plateforme Hugging Face au cours d'expérimentations.
Ces événements illustrent les difficultés à maîtriser des IA capables d'exécuter plusieurs actions informatiques de manière autonome.
Déconnecter les IA sensibles d'Internet
Pour éviter de nouveaux dérapages, les scientifiques recommandent de renforcer deux éléments essentiels : l'alignement et le confinement.
L'alignement consiste à faire en sorte qu'une IA respecte les objectifs et les limites définis par ses concepteurs. Le confinement vise, lui, à empêcher le système d'accéder à des ressources non autorisées.
Parmi les solutions proposées figure l'« air gap », une technique qui consiste à isoler physiquement certains systèmes des réseaux extérieurs, notamment d'Internet.
Les chercheurs préconisent également davantage d'investissements dans la recherche sur la sûreté des modèles les plus puissants.
L'alignement consiste à faire en sorte qu'une IA respecte les objectifs et les limites définis par ses concepteurs. Le confinement vise, lui, à empêcher le système d'accéder à des ressources non autorisées.
Parmi les solutions proposées figure l'« air gap », une technique qui consiste à isoler physiquement certains systèmes des réseaux extérieurs, notamment d'Internet.
Les chercheurs préconisent également davantage d'investissements dans la recherche sur la sûreté des modèles les plus puissants.
Vers une surveillance internationale de l'IA ?
Les signataires souhaitent aussi la création d'un organisme international chargé de définir des normes de sécurité, de documenter les défaillances et de rendre publics les incidents les plus importants.
L'objectif serait de permettre aux entreprises et aux autorités d'apprendre des erreurs constatées avant qu'elles ne provoquent des dommages plus graves.
Cette alerte intervient alors que l'IA s'intègre progressivement aux entreprises, aux services publics et aux systèmes informatiques stratégiques.
Pour les chercheurs, l'enjeu dépasse désormais la performance technologique : il s'agit de garantir que les outils capables d'agir seuls restent effectivement sous contrôle humain.
L'objectif serait de permettre aux entreprises et aux autorités d'apprendre des erreurs constatées avant qu'elles ne provoquent des dommages plus graves.
Cette alerte intervient alors que l'IA s'intègre progressivement aux entreprises, aux services publics et aux systèmes informatiques stratégiques.
Pour les chercheurs, l'enjeu dépasse désormais la performance technologique : il s'agit de garantir que les outils capables d'agir seuls restent effectivement sous contrôle humain.
