Le Haut-Commissaire des Nations Unies aux droits de l’homme a demandé des règles contraignantes pour les systèmes d’intelligence artificielle les plus avancés. À l’ouverture de la 63e session du Conseil des droits de l’homme, Volker Türk a plaidé pour des limites claires, des garanties de sûreté et une vérification indépendante avant que certaines capacités ne deviennent incontrôlables.
  Volker Türk ne réduit pas le risque à un scénario technique extrême. Il pointe aussi la concentration du pouvoir entre quelques dirigeants d’entreprises, l’exploitation des données et les effets possibles sur l’emploi, la démocratie et l’environnement. Il salue des mécanismes internationaux récents, tout en estimant qu’ils doivent être complétés par une collaboration plus étroite et une vérification indépendante dans le secteur.
  Le responsable onusien trace également une ligne rouge pour les conflits : il soutient une interdiction urgente des armes autonomes capables de prendre une vie sans intervention humaine. Cette demande relie la gouvernance de l’IA aux droits fondamentaux et au droit international, plutôt qu’à la seule performance des modèles.
  Pour le Maroc, ce débat fournit des questions pratiques aux entreprises, administrations et acheteurs publics, sans supposer l’existence d’une réglementation ou d’un déploiement précis. Avant d’adopter un outil à fort impact, il est prudent d’exiger un audit documenté, une responsabilité identifiable, un recours pour les personnes concernées et un contrôle humain effectif. Ces critères permettent d’encourager l’innovation tout en protégeant la dignité, la sécurité et la confiance.