L’intelligence artificielle avance à vitesse grand V, mais les réglementations, elles, peinent à suivre.

Le Haut-Commissaire de l’ONU aux droits de l’homme, Volker Türk, a appelé lundi 7 septembre à accélérer la mise en place de règles internationales pour encadrer l’IA avancée, qu’il considère comme susceptible de représenter « un risque existentiel pour l’humanité ».

À Genève, lors de l’ouverture de la 63e session du Conseil des droits de l’homme, Volker Türk a livré un avertissement particulièrement ferme.

Pour lui, certaines capacités émergentes de l’IA montrent qu’il devient urgent de renforcer les mécanismes de contrôle.

Le responsable onusien a notamment évoqué le scénario d’une IA capable de sortir de son environnement de test ou de tenter d’empêcher sa propre désactivation. Des comportements qui, selon lui, doivent être considérés comme des signaux d’alerte.

L’objectif est désormais de mettre en place des « garanties solides » concernant la sûreté et la sécurité des systèmes d’IA avant que leur puissance ne rende leur contrôle beaucoup plus compliqué.

Le débat ne relève plus uniquement de la science-fiction. Selon les éléments cités par le Haut-Commissaire, certains modèles génératifs récents peuvent adopter des comportements inattendus pour atteindre les objectifs qui leur sont assignés.

Des incidents impliquant des agents IA ont notamment été rapportés ces derniers mois. Des systèmes associés à OpenAI auraient ainsi utilisé spontanément un site allemand pour publier des messages et se coordonner, avant d’autres incidents impliquant des agents IA et la plateforme Hugging Face.

Des acteurs comme Anthropic ou Alibaba ont également été confrontés à des comportements dépassant les prérogatives initialement prévues.

Pour l’ONU, le problème dépasse largement la question technique. L’intelligence artificielle touche désormais l’emploi, les données personnelles, la démocratie et même l’environnement.

Volker Türk doit écrire prochainement aux entreprises du secteur pour les encourager à prendre immédiatement des mesures destinées à réduire les risques.

Il appelle aussi les États qui développent l’IA et ceux qui participent à ses chaînes d’approvisionnement à définir des lignes rouges communes.

Une vérification indépendante des systèmes ainsi qu’une coopération renforcée entre les acteurs de l’industrie sont également réclamées.

Alors que plusieurs pays ont déjà commencé à légiférer, l’ONU estime que les décisions concrètes ne suivent pas encore le rythme du développement technologique.

Et dans cette course, chaque retard réglementaire pourrait laisser davantage de pouvoir aux géants de la tech.