Nous avons appris à nous méfier des emails suspects.
Des pièces jointes.
Des mots de passe trop simples.
Des logiciels malveillants.
Il va peut-être falloir ajouter un nouvel acteur à la liste : l’agent IA.
L'Agence espagnole de protection des données, l'AEPD, a rendu publique le 15 septembre une notification concernant une violation de données personnelles dont certaines étapes auraient été effectuées de manière autonome par un agent utilisant un grand modèle de langage.
Reuters précise que l'affaire est toujours en cours d'examen. Il ne faut donc pas présenter le scénario comme définitivement établi.
Cette précaution posée, le cas est suffisamment inhabituel pour mériter qu’on s’y arrête.
Des pièces jointes.
Des mots de passe trop simples.
Des logiciels malveillants.
Il va peut-être falloir ajouter un nouvel acteur à la liste : l’agent IA.
L'Agence espagnole de protection des données, l'AEPD, a rendu publique le 15 septembre une notification concernant une violation de données personnelles dont certaines étapes auraient été effectuées de manière autonome par un agent utilisant un grand modèle de langage.
Reuters précise que l'affaire est toujours en cours d'examen. Il ne faut donc pas présenter le scénario comme définitivement établi.
Cette précaution posée, le cas est suffisamment inhabituel pour mériter qu’on s’y arrête.
Ce n'est pas le modèle qui aurait été piraté
Premier point essentiel.
Selon les informations communiquées à l'autorité espagnole, rien n'indique que le grand modèle utilisé ou l'infrastructure de son fournisseur aient été compromis.
Le modèle n'aurait pas non plus été conçu spécialement pour commettre une attaque.
C'est précisément ce qui rend l'affaire intéressante.
Le problème ne serait pas une « IA malveillante » née pour pirater.
Ce serait un outil général auquel un utilisateur aurait confié une mission malveillante.
La différence est fondamentale.
Selon les informations communiquées à l'autorité espagnole, rien n'indique que le grand modèle utilisé ou l'infrastructure de son fournisseur aient été compromis.
Le modèle n'aurait pas non plus été conçu spécialement pour commettre une attaque.
C'est précisément ce qui rend l'affaire intéressante.
Le problème ne serait pas une « IA malveillante » née pour pirater.
Ce serait un outil général auquel un utilisateur aurait confié une mission malveillante.
La différence est fondamentale.
Du copilote au pilote
Les hackers utilisent déjà l’intelligence artificielle.
Pour écrire du code. Analyser des systèmes. Traduire des messages. Créer des emails de phishing. Rechercher de la documentation. Dans ces cas, l’IA reste essentiellement un assistant.
L’humain réfléchit.
L’IA l’aide.
Un agent fonctionne différemment.
On peut lui donner un objectif et le laisser déterminer une partie des étapes nécessaires pour l’atteindre.
Selon la notification examinée par l'AEPD, l'agent aurait identifié des vulnérabilités, obtenu un accès au système, recherché de manière autonome une faille applicative puis modifié certaines données personnelles et consulté des informations de facturation.
Si ces éléments sont confirmés, nous ne sommes plus exactement dans le même monde.
Le hacker peut désormais industrialiser sa patience
Une grande partie du piratage informatique consiste à chercher.
- Tester.
- Échouer.
- Modifier.
- Recommencer.
- Un humain fatigue.
- Une machine beaucoup moins.
Imaginez un agent capable d'examiner automatiquement plusieurs interfaces, de tester différentes hypothèses, d'interpréter les réponses du système et d'adapter son comportement.
Le danger ne vient pas nécessairement d'une nouvelle technique de piratage révolutionnaire.
L'AEPD insiste justement sur ce point : l'intelligence artificielle ne crée pas forcément de nouvelles catégories de menaces, mais elle peut augmenter leur vitesse, leur échelle et leur capacité d'adaptation.
Autrement dit, elle industrialise des attaques qui existaient déjà.
- Tester.
- Échouer.
- Modifier.
- Recommencer.
- Un humain fatigue.
- Une machine beaucoup moins.
Imaginez un agent capable d'examiner automatiquement plusieurs interfaces, de tester différentes hypothèses, d'interpréter les réponses du système et d'adapter son comportement.
Le danger ne vient pas nécessairement d'une nouvelle technique de piratage révolutionnaire.
L'AEPD insiste justement sur ce point : l'intelligence artificielle ne crée pas forcément de nouvelles catégories de menaces, mais elle peut augmenter leur vitesse, leur échelle et leur capacité d'adaptation.
Autrement dit, elle industrialise des attaques qui existaient déjà.
La cybersécurité change alors de vitesse
Voilà probablement le point le plus important pour les entreprises marocaines.
Aujourd'hui, une équipe de sécurité peut détecter une activité anormale puis disposer d'un certain temps pour analyser ce qui se passe.
Demain, un agent offensif pourrait enchaîner plusieurs opérations en quelques minutes.
La fenêtre de réaction se réduit.
Les défenseurs devront donc eux-mêmes automatiser davantage leur surveillance.
IA offensive contre IA défensive ?
Nous n'en sommes pas encore complètement là.
Mais la direction devient visible.
Aujourd'hui, une équipe de sécurité peut détecter une activité anormale puis disposer d'un certain temps pour analyser ce qui se passe.
Demain, un agent offensif pourrait enchaîner plusieurs opérations en quelques minutes.
La fenêtre de réaction se réduit.
Les défenseurs devront donc eux-mêmes automatiser davantage leur surveillance.
IA offensive contre IA défensive ?
Nous n'en sommes pas encore complètement là.
Mais la direction devient visible.
Banques, hôpitaux, administrations : Le Maroc est directement concerné
Plus un pays numérise ses services, plus la surface à protéger augmente.
Applications bancaires. Dossiers médicaux. Plateformes administratives. Systèmes industriels. Services cloud. Bases clients. Infrastructures télécoms. Le Maroc accélère sa transformation numérique.
Mais chaque nouveau service connecté devient également une porte potentielle.
L'arrivée d'agents capables d'automatiser certaines phases d'une attaque rend encore plus urgente une politique de cybersécurité construite autour du principe suivant : détecter aussi vite que l'attaquant peut agir.
Ne pas fabriquer un terminator numérique
Il faut cependant éviter l'autre excès.
Une notification isolée ne prouve pas que des armées d'agents autonomes piratent déjà Internet sans intervention humaine.
L'AEPD examine toujours le dossier.
Le rôle exact de l'humain devra être précisé.
Le degré réel d'autonomie aussi.
Une notification isolée ne prouve pas que des armées d'agents autonomes piratent déjà Internet sans intervention humaine.
L'AEPD examine toujours le dossier.
Le rôle exact de l'humain devra être précisé.
Le degré réel d'autonomie aussi.
C'est justement pourquoi ce cas est intéressant : il permet d'observer la frontière en train de bouger sans prétendre qu'elle a déjà disparu.
Le cybercriminel change de métier
Jusqu'ici, le hacker devait souvent connaître lui-même une grande partie des techniques qu'il utilisait.
Avec les agents, son rôle pourrait progressivement évoluer.
Définir l'objectif. Fournir certains accès. Superviser. Corriger lorsque nécessaire. Et laisser la machine exécuter davantage. Avec les agents, son rôle pourrait progressivement évoluer.
Cela ne supprimera pas le cybercriminel.
Cela pourrait lui donner une équipe virtuelle.
L'Espagne examine aujourd'hui un seul incident.
Mais derrière ce dossier se dessine une question beaucoup plus large : que se passe-t-il lorsque le pirate ne doit plus savoir accomplir chaque étape de l'attaque, mais seulement expliquer à une IA ce qu'il veut obtenir ?
Cela pourrait lui donner une équipe virtuelle.
L'Espagne examine aujourd'hui un seul incident.
Mais derrière ce dossier se dessine une question beaucoup plus large : que se passe-t-il lorsque le pirate ne doit plus savoir accomplir chaque étape de l'attaque, mais seulement expliquer à une IA ce qu'il veut obtenir ?