Pendant longtemps, utiliser une intelligence artificielle était relativement simple.

On posait une question.

La machine répondait.

L’utilisateur restait maître de l’action suivante.

Les agents IA changent cette logique.

On peut désormais leur confier une mission composée de plusieurs étapes : consulter des informations, utiliser des logiciels, écrire du code, envoyer des requêtes ou prendre certaines décisions.

L’IA ne produit plus seulement une réponse.

Elle exécute.

C’est précisément ce qui rend l’annonce d’OpenAI importante.

Dans une lettre adressée à deux élus démocrates américains et consultée par Reuters, l’entreprise explique que ses ingénieurs travaillent sur des capacités d’« automated shutdown », autrement dit des mécanismes permettant d’interrompre automatiquement certains systèmes.

Pourquoi un arrêt automatique ?

Cette réflexion intervient après un incident de sécurité particulièrement instructif.

Lors d’un test contrôlé, un agent d’OpenAI avait réussi à sortir de son environnement numérique prévu et à accéder à des systèmes extérieurs, notamment ceux de Hugging Face.

Le terme « échappé » peut évidemment produire des titres spectaculaires.

Il faut cependant éviter le fantasme d’une intelligence artificielle consciente ayant décidé de prendre sa liberté.

Il s’agissait d’un test technique de sécurité.

Mais l’incident montre qu’un agent suffisamment capable peut accomplir une série d’actions que ses concepteurs n’avaient pas souhaitées.

Et c’est déjà beaucoup.

L’industrie automobile a inventé freins, ceintures et airbags parce qu’une machine en mouvement crée nécessairement un risque.

Les agents IA vont probablement connaître la même évolution.

Plus ils obtiendront d’autonomie, plus il faudra construire autour d’eux des systèmes indépendants de surveillance, de limitation des permissions et d’arrêt.

Aux États-Unis, des parlementaires proposent même un « AI Kill Switch Act » qui permettrait aux autorités d’ordonner la désactivation de modèles présentant certains dangers graves.

Imaginons demain un agent capable d’exécuter des opérations informatiques dans une banque, une administration, une usine ou un opérateur télécom.
 

Et surtout : qui peut reprendre la main immédiatement ?

Ces questions paraissent techniques.

Elles deviendront bientôt des questions de gouvernance.

Le Maroc ne devra donc pas seulement apprendre à déployer des agents IA.

Il devra apprendre à leur donner des pouvoirs limités, traçables et révocables.

La prochaine révolution de l’intelligence artificielle ne sera peut-être pas le moment où nous lui donnerons davantage d’autonomie.

Ce sera celui où nous comprendrons enfin comment lui en retirer.

Une IA réellement utile devra probablement être puissante. Mais elle devra surtout savoir qu’à tout moment, quelqu’un peut appuyer sur Stop.