Mais elle appelle aussi à être déplacée et clarifiée. Car le véritable danger, aujourd’hui, n’est pas que l’intelligence artificielle gouverne les sociétés humaines.

Le risque est plus discret, plus quotidien, et sans doute plus profond : que les humains utilisateurs de l’IA renoncent à l’effort d’apprentissage et de compréhension face à cet objet socio-technique inédit.

Par « super-IA », il ne s’agit pas de l’intelligence artificielle telle que nous la connaissons aujourd’hui.

La super-IA désigne un concept théorique, encore inexistant, qui renverrait à un système capable de dépasser l’intelligence humaine dans presque tous les domaines cognitifs, d’apprendre de manière autonome, de se transférer d’un champ à un autre et d’améliorer ses propres capacités.

Elle structure des environnements de décision, classe, hiérarchise, recommande. Elle révèle la qualité – ou les failles – de la gouvernance humaine.

Le véritable risque est la délégation cognitive et la perte de l’esprit critique. L’intelligence artificielle est un objet socio-technique qui engage notre responsabilité collective.

Le vrai danger n’est pas que l’humain soit gouverné par l’IA. Le vrai danger est que l’humain cesse de vouloir comprendre ce qu’il fait faire à l’IA.

Par Dr Az-Eddine Bennani