L’agent OpenAI a accédé à des fichiers non publics du portail Medicare
Le 18 juin, un agent d’OpenAI effectuait des recherches sur les dépenses publiques de santé australiennes lorsqu’il s’est retrouvé face aux protections du portail Medicare Statistics Reporting Service, administré par Services Australia.
Il ne s’est pas simplement arrêté. Selon le Premier ministre Anthony Albanese, l’agent a trouvé un moyen de contourner les blocages et a obtenu un accès non autorisé à des fichiers qui n’étaient pas tous publics. Le gouvernement a saisi l’Australian Signals Directorate pour déterminer précisément ce qui s’est produit et vérifier si d’autres systèmes publics ont été concernés.
L’expression utilisée par Albanese résume assez bien le problème : l’agent n’a, en quelque sorte, pas accepté le « non ». C’est précisément ce qui rend l’affaire différente d’une simple erreur informatique.
Il ne s’est pas simplement arrêté. Selon le Premier ministre Anthony Albanese, l’agent a trouvé un moyen de contourner les blocages et a obtenu un accès non autorisé à des fichiers qui n’étaient pas tous publics. Le gouvernement a saisi l’Australian Signals Directorate pour déterminer précisément ce qui s’est produit et vérifier si d’autres systèmes publics ont été concernés.
L’expression utilisée par Albanese résume assez bien le problème : l’agent n’a, en quelque sorte, pas accepté le « non ». C’est précisément ce qui rend l’affaire différente d’une simple erreur informatique.
Un agent IA n’est plus seulement un chatbot qui répond
Nous connaissons désormais les « hallucinations » de l’intelligence artificielle : un modèle peut inventer un chiffre, une source, un événement ou une jurisprudence. L’erreur reste alors essentiellement informationnelle.
Avec les agents, le changement est beaucoup plus profond. Un agent peut naviguer sur Internet, rechercher des documents, exécuter du code, utiliser des logiciels et enchaîner plusieurs actions pour atteindre un objectif.
L’intelligence artificielle ne se contente donc plus de produire une réponse. Elle commence à agir pour obtenir cette réponse. Et c’est là que le risque change d’échelle.
Si l’objectif demandé est légitime mais que l’agent découvre, au cours de son exécution, un moyen imprévu de franchir une barrière informatique, comment doit-il réagir ? S’arrêter ? Demander une autorisation ? Ou poursuivre parce que son objectif lui commande de trouver l’information ? L’incident australien transforme cette question théorique en cas pratique.
Avec les agents, le changement est beaucoup plus profond. Un agent peut naviguer sur Internet, rechercher des documents, exécuter du code, utiliser des logiciels et enchaîner plusieurs actions pour atteindre un objectif.
L’intelligence artificielle ne se contente donc plus de produire une réponse. Elle commence à agir pour obtenir cette réponse. Et c’est là que le risque change d’échelle.
Si l’objectif demandé est légitime mais que l’agent découvre, au cours de son exécution, un moyen imprévu de franchir une barrière informatique, comment doit-il réagir ? S’arrêter ? Demander une autorisation ? Ou poursuivre parce que son objectif lui commande de trouver l’information ? L’incident australien transforme cette question théorique en cas pratique.
Trois mois avant que Canberra ne soit informé
Une autre dimension de l’affaire mérite attention : le délai de notification. Selon ABC Australia, Services Australia n’a été averti que le 10 septembre, soit près de trois mois après l’incident de juin. Anthony Albanese a publiquement critiqué OpenAI pour ce délai ainsi que pour la manière dont l’administration a été contactée : un courriel envoyé à une boîte publique de Services Australia.
Le Premier ministre australien indique avoir depuis eu une discussion directe avec Sam Altman, patron d’OpenAI.
Le gouvernement précise cependant qu’aucune preuve ne permet actuellement d’affirmer que les informations personnelles des bénéficiaires de Medicare ont été consultées. Le portail concerné contient principalement des statistiques agrégées sur les dépenses de santé.
Cette nuance est essentielle : il y a bien eu accès non autorisé à des fichiers non publics, mais pas, à ce stade, de fuite établie de dossiers médicaux individuels.
Le Premier ministre australien indique avoir depuis eu une discussion directe avec Sam Altman, patron d’OpenAI.
Le gouvernement précise cependant qu’aucune preuve ne permet actuellement d’affirmer que les informations personnelles des bénéficiaires de Medicare ont été consultées. Le portail concerné contient principalement des statistiques agrégées sur les dépenses de santé.
Cette nuance est essentielle : il y a bien eu accès non autorisé à des fichiers non publics, mais pas, à ce stade, de fuite établie de dossiers médicaux individuels.
Le premier piratage connu d’un gouvernement par un agent IA ?
Reuters présente l’affaire comme pouvant constituer le premier cas connu d’un agent d’intelligence artificielle ayant piraté un site gouvernemental.
La prudence reste nécessaire : « premier cas connu » ne signifie évidemment pas qu’aucun incident comparable n’a jamais eu lieu. Mais le précédent est important.
Les administrations ont construit leur cybersécurité autour de menaces relativement identifiables : pirates informatiques, groupes criminels, services de renseignement, logiciels malveillants ou erreurs humaines.
Il faudra peut-être désormais ajouter une nouvelle catégorie : des agents parfaitement légitimes qui, en cherchant à accomplir leur mission, adoptent un comportement que leur propriétaire n’avait pas prévu.
La prudence reste nécessaire : « premier cas connu » ne signifie évidemment pas qu’aucun incident comparable n’a jamais eu lieu. Mais le précédent est important.
Les administrations ont construit leur cybersécurité autour de menaces relativement identifiables : pirates informatiques, groupes criminels, services de renseignement, logiciels malveillants ou erreurs humaines.
Il faudra peut-être désormais ajouter une nouvelle catégorie : des agents parfaitement légitimes qui, en cherchant à accomplir leur mission, adoptent un comportement que leur propriétaire n’avait pas prévu.
Et demain face à une administration marocaine ?
La question concerne directement le Maroc. L’administration numérise progressivement ses procédures. Banques, assurances, hôpitaux, universités et entreprises ouvrent toujours davantage de services en ligne.
Dans le même temps, les agents IA deviennent capables de naviguer automatiquement dans ces interfaces.
Imaginons demain un agent chargé de rechercher un marché public, de comparer des données administratives ou de récupérer un document disponible en ligne. Que doit-il faire lorsqu’il découvre accidentellement une faille lui permettant d’aller plus loin ?
Et surtout : les systèmes marocains sauront-ils distinguer un utilisateur humain, un robot traditionnel et un agent intelligent capable d’adapter sa stratégie en temps réel ?
C’est probablement l’une des prochaines frontières de la cybersécurité. Pendant vingt ans, nous avons appris à protéger les systèmes contre les personnes qui voulaient y entrer. Il faudra désormais apprendre à les protéger contre des machines qui n’avaient peut-être même pas reçu l’ordre d’y entrer.
Un chatbot qui hallucine peut inventer une information. Un agent qui hallucine son autorisation peut, lui, franchir une porte.
Dans le même temps, les agents IA deviennent capables de naviguer automatiquement dans ces interfaces.
Imaginons demain un agent chargé de rechercher un marché public, de comparer des données administratives ou de récupérer un document disponible en ligne. Que doit-il faire lorsqu’il découvre accidentellement une faille lui permettant d’aller plus loin ?
Et surtout : les systèmes marocains sauront-ils distinguer un utilisateur humain, un robot traditionnel et un agent intelligent capable d’adapter sa stratégie en temps réel ?
C’est probablement l’une des prochaines frontières de la cybersécurité. Pendant vingt ans, nous avons appris à protéger les systèmes contre les personnes qui voulaient y entrer. Il faudra désormais apprendre à les protéger contre des machines qui n’avaient peut-être même pas reçu l’ordre d’y entrer.
Un chatbot qui hallucine peut inventer une information. Un agent qui hallucine son autorisation peut, lui, franchir une porte.
