Une telle affirmation spectaculaire doit pourtant être examinée avec beaucoup plus de rigueur.
Présenter la singularité comme un seuil désormais atteint n’est pas une confirmation scientifique. C’est une déclaration personnelle, formulée par le dirigeant de l’une des entreprises les plus directement intéressées par la diffusion d’un récit de rupture technologique.
La singularité demeure un concept théorique et controversé. Elle désigne généralement un moment hypothétique où les systèmes techniques dépasseraient les capacités humaines, deviendraient capables de s’améliorer eux-mêmes et progresseraient ensuite à un rythme échappant à la compréhension ou au contrôle humain.
Aucun critère scientifique consensuel ne permet cependant d’établir que ce seuil aurait été franchi. Mais le problème principal est peut-être ailleurs. Comparer « l’intelligence humaine » à celle d’un objet technique constitue une faute de catégorie.
Un logiciel, aussi performant soit-il, n’est pas un être humain. Il ne possède ni corps, ni expérience vécue, ni histoire personnelle, ni conscience de sa finitude, ni responsabilité morale. Il traite des données, calcule des probabilités et produit des résultats à partir de modèles mathématiques et statistiques.
Il peut accomplir certaines tâches plus rapidement et parfois plus efficacement qu’un individu. Cela ne signifie pas qu’il aurait dépassé l’être humain dans ce qui fait la complexité de son intelligence.
Une calculatrice dépasse depuis longtemps l’humain dans certaines opérations arithmétiques. Un moteur de recherche peut parcourir davantage de documents qu’un chercheur. Un ordinateur peut battre les meilleurs joueurs d’échecs. Personne n’en déduit pour autant que ces objets ont dépassé l’humanité.
La singularité demeure un concept théorique et controversé. Elle désigne généralement un moment hypothétique où les systèmes techniques dépasseraient les capacités humaines, deviendraient capables de s’améliorer eux-mêmes et progresseraient ensuite à un rythme échappant à la compréhension ou au contrôle humain.
Aucun critère scientifique consensuel ne permet cependant d’établir que ce seuil aurait été franchi. Mais le problème principal est peut-être ailleurs. Comparer « l’intelligence humaine » à celle d’un objet technique constitue une faute de catégorie.
Un logiciel, aussi performant soit-il, n’est pas un être humain. Il ne possède ni corps, ni expérience vécue, ni histoire personnelle, ni conscience de sa finitude, ni responsabilité morale. Il traite des données, calcule des probabilités et produit des résultats à partir de modèles mathématiques et statistiques.
Il peut accomplir certaines tâches plus rapidement et parfois plus efficacement qu’un individu. Cela ne signifie pas qu’il aurait dépassé l’être humain dans ce qui fait la complexité de son intelligence.
Une calculatrice dépasse depuis longtemps l’humain dans certaines opérations arithmétiques. Un moteur de recherche peut parcourir davantage de documents qu’un chercheur. Un ordinateur peut battre les meilleurs joueurs d’échecs. Personne n’en déduit pour autant que ces objets ont dépassé l’humanité.
La performance dans une tâche ne doit pas être confondue avec l’intelligence dans sa totalité.
L’intelligence humaine ne se réduit pas à la vitesse de calcul, à la mémorisation ou à la résolution de problèmes formalisés. Elle est aussi sociale, affective, culturelle, pratique, politique, morale et existentielle. Elle se construit dans une relation au monde, aux autres, au langage, au travail, à l’expérience et à la mémoire.
En déclarant que « l’IA a dépassé l’intelligence humaine », on agrège artificiellement des réalités qui ne sont ni homogènes ni directement comparables.
Cette déclaration pose également une question que j’ai déjà formulée dans une précédente tribune : lorsque Sam Altman parle de « l’humain », de quel humain parle-t-il ? Parle-t-il de l’Africain, de l’Européen, de l’Asiatique, de l’Américain ou de l’Océanien ? Parle-t-il de l’habitant d’une grande métropole numérisée ou de celui d’une région rurale faiblement connectée ?
Du chercheur, de l’enseignant, de l’artisan, de l’ouvrier, de l’artiste, du médecin, du paysan ou du Maâlam ?
En déclarant que « l’IA a dépassé l’intelligence humaine », on agrège artificiellement des réalités qui ne sont ni homogènes ni directement comparables.
Cette déclaration pose également une question que j’ai déjà formulée dans une précédente tribune : lorsque Sam Altman parle de « l’humain », de quel humain parle-t-il ? Parle-t-il de l’Africain, de l’Européen, de l’Asiatique, de l’Américain ou de l’Océanien ? Parle-t-il de l’habitant d’une grande métropole numérisée ou de celui d’une région rurale faiblement connectée ?
Du chercheur, de l’enseignant, de l’artisan, de l’ouvrier, de l’artiste, du médecin, du paysan ou du Maâlam ?
L’humanité n’est pas une moyenne statistique.
Elle est composée de milliards de personnes portant des langues, des connaissances, des cultures, des histoires, des valeurs et des manières de raisonner différentes. Réduire cette pluralité à une entité abstraite appelée « l’humain » revient à effacer les différences qui constituent précisément l’expérience humaine.
La question n’est donc pas seulement de savoir si l’intelligence artificielle peut dépasser certaines capacités humaines.
Elle est de savoir à quelle représentation de l’humain ses concepteurs la comparent. Cette interrogation conduit directement à la question de l’alignement. Le mot est aujourd’hui abondamment utilisé dans le domaine de l’intelligence artificielle.
Il désigne généralement la recherche de systèmes dont les objectifs, les réponses et les comportements seraient conformes aux intentions, aux préférences ou aux valeurs humaines.
Mais parler ainsi d’alignement sans définir les environnements concernés me paraît insuffisant.
La question n’est donc pas seulement de savoir si l’intelligence artificielle peut dépasser certaines capacités humaines.
Elle est de savoir à quelle représentation de l’humain ses concepteurs la comparent. Cette interrogation conduit directement à la question de l’alignement. Le mot est aujourd’hui abondamment utilisé dans le domaine de l’intelligence artificielle.
Il désigne généralement la recherche de systèmes dont les objectifs, les réponses et les comportements seraient conformes aux intentions, aux préférences ou aux valeurs humaines.
Mais parler ainsi d’alignement sans définir les environnements concernés me paraît insuffisant.
Le concept d’alignement stratégique est développé depuis plusieurs décennies dans le domaine des systèmes d’information.
Je l’ai moi-même mobilisé et approfondi depuis le début des années 2000, notamment après l’éclatement de la bulle Internet, lorsque les organisations ont dû cesser de considérer les technologies numériques comme des finalités autonomes.
L’alignement stratégique ne consiste pas simplement à adapter une technologie à une stratégie. Il suppose de prendre en compte simultanément l’environnement extérieur et l’environnement intérieur de l’organisation.
L’environnement extérieur comprend notamment les évolutions économiques, concurrentielles, technologiques, réglementaires, politiques, sociales et culturelles. Il inclut les clients, les partenaires, les concurrents, les institutions, les innovations, mais également les crises et les transformations de la société.
L’environnement intérieur comprend la stratégie, la gouvernance, les compétences, les ressources, les structures, les processus, les connaissances, la culture de l’organisation et son système d’information.
L’alignement est alors un processus dynamique de cohérence, d’adaptation et de transformation entre ces différentes dimensions. Il ne s’agit jamais d’un état définitif. Une organisation n’est pas alignée une fois pour toutes. Elle doit continuellement réexaminer ses choix au regard des changements internes et externes.
Transposer sérieusement ce concept à l’intelligence artificielle impose donc de commencer par identifier ses environnements.
Quel est l’environnement extérieur auquel un système d’IA devrait être aligné ? Est-ce l’humanité dans son ensemble ? Les valeurs d’un pays ? Les normes d’une région du monde ? Le droit applicable ? Les intérêts économiques d’une entreprise ? Les attentes de ses utilisateurs ? Les besoins d’une administration ? Les traditions et les connaissances d’une communauté ?
Ces dimensions peuvent être complémentaires, mais elles peuvent également entrer en contradiction.
Une IA entraînée et gouvernée aux États-Unis ne s’inscrit pas automatiquement dans les mêmes environnements juridique, culturel, linguistique ou politique qu’une IA utilisée au Maroc, en France, en Chine, en Inde ou dans un autre pays africain.
L’alignement stratégique ne consiste pas simplement à adapter une technologie à une stratégie. Il suppose de prendre en compte simultanément l’environnement extérieur et l’environnement intérieur de l’organisation.
L’environnement extérieur comprend notamment les évolutions économiques, concurrentielles, technologiques, réglementaires, politiques, sociales et culturelles. Il inclut les clients, les partenaires, les concurrents, les institutions, les innovations, mais également les crises et les transformations de la société.
L’environnement intérieur comprend la stratégie, la gouvernance, les compétences, les ressources, les structures, les processus, les connaissances, la culture de l’organisation et son système d’information.
L’alignement est alors un processus dynamique de cohérence, d’adaptation et de transformation entre ces différentes dimensions. Il ne s’agit jamais d’un état définitif. Une organisation n’est pas alignée une fois pour toutes. Elle doit continuellement réexaminer ses choix au regard des changements internes et externes.
Transposer sérieusement ce concept à l’intelligence artificielle impose donc de commencer par identifier ses environnements.
Quel est l’environnement extérieur auquel un système d’IA devrait être aligné ? Est-ce l’humanité dans son ensemble ? Les valeurs d’un pays ? Les normes d’une région du monde ? Le droit applicable ? Les intérêts économiques d’une entreprise ? Les attentes de ses utilisateurs ? Les besoins d’une administration ? Les traditions et les connaissances d’une communauté ?
Ces dimensions peuvent être complémentaires, mais elles peuvent également entrer en contradiction.
Une IA entraînée et gouvernée aux États-Unis ne s’inscrit pas automatiquement dans les mêmes environnements juridique, culturel, linguistique ou politique qu’une IA utilisée au Maroc, en France, en Chine, en Inde ou dans un autre pays africain.
Il faut également définir son environnement intérieur.
Celui-ci comprend les données utilisées, leur provenance, l’architecture du système, les modèles mathématiques et statistiques mobilisés, les objectifs attribués au logiciel, les instructions données, les dispositifs de sécurité, les procédures d’évaluation et les intérêts de l’organisation qui le développe. Il comprend aussi les personnes qui conçoivent, financent, entraînent, corrigent et déploient le système.
Une IA n’existe jamais indépendamment de cet environnement intérieur. Ses comportements découlent de choix humains, économiques, techniques et organisationnels.
Même lorsqu’un système acquiert une certaine autonomie opérationnelle, il reste inscrit dans une infrastructure, une gouvernance et un modèle économique. Parler de l’alignement de l’IA sur « les valeurs humaines » sans définir ces deux environnements produit donc davantage une formule rassurante qu’un véritable cadre stratégique.
Quelles valeurs humaines ? Définies par qui ? À partir de quelles cultures ? Selon quelle procédure ? Avec quelle légitimité ? Et avec quels mécanismes de contrôle, d’audit et de recours ? La question est d’autant plus importante que les entreprises qui développent les principaux modèles d’IA sont également celles qui proposent leur propre définition de l’alignement.
Elles conçoivent le système, fixent ses règles, sélectionnent ses données, décident des comportements acceptables et communiquent ensuite sur sa conformité supposée aux intérêts de l’humanité. Il existe ici un risque évident de confusion entre l’intérêt général et les intérêts particuliers de quelques acteurs technologiques.
L’alignement ne peut donc pas être seulement technique. Il est stratégique, politique, économique, juridique, culturel et épistémologique. Il concerne non seulement la sécurité des réponses produites, mais aussi la représentation du monde inscrite dans les systèmes. Il faut notamment s’interroger sur l’alignement des connaissances.
Quels savoirs sont présents dans les données ? Quels savoirs sont absents ? Quelles langues sont privilégiées ? Quelles expériences humaines sont correctement documentées ?
Les connaissances tacites des artisans, des Snahia, des Maâlam, des agriculteurs ou des communautés locales sont-elles représentées avec la même profondeur que les contenus issus des universités, des grandes entreprises et des plateformes numériques occidentales ?
Une IA n’existe jamais indépendamment de cet environnement intérieur. Ses comportements découlent de choix humains, économiques, techniques et organisationnels.
Même lorsqu’un système acquiert une certaine autonomie opérationnelle, il reste inscrit dans une infrastructure, une gouvernance et un modèle économique. Parler de l’alignement de l’IA sur « les valeurs humaines » sans définir ces deux environnements produit donc davantage une formule rassurante qu’un véritable cadre stratégique.
Quelles valeurs humaines ? Définies par qui ? À partir de quelles cultures ? Selon quelle procédure ? Avec quelle légitimité ? Et avec quels mécanismes de contrôle, d’audit et de recours ? La question est d’autant plus importante que les entreprises qui développent les principaux modèles d’IA sont également celles qui proposent leur propre définition de l’alignement.
Elles conçoivent le système, fixent ses règles, sélectionnent ses données, décident des comportements acceptables et communiquent ensuite sur sa conformité supposée aux intérêts de l’humanité. Il existe ici un risque évident de confusion entre l’intérêt général et les intérêts particuliers de quelques acteurs technologiques.
L’alignement ne peut donc pas être seulement technique. Il est stratégique, politique, économique, juridique, culturel et épistémologique. Il concerne non seulement la sécurité des réponses produites, mais aussi la représentation du monde inscrite dans les systèmes. Il faut notamment s’interroger sur l’alignement des connaissances.
Quels savoirs sont présents dans les données ? Quels savoirs sont absents ? Quelles langues sont privilégiées ? Quelles expériences humaines sont correctement documentées ?
Les connaissances tacites des artisans, des Snahia, des Maâlam, des agriculteurs ou des communautés locales sont-elles représentées avec la même profondeur que les contenus issus des universités, des grandes entreprises et des plateformes numériques occidentales ?
Une IA peut être considérée comme performante tout en étant profondément désalignée par rapport à l’environnement culturel et cognitif dans lequel elle est utilisée.
Le débat sur l’alignement rejoint ainsi directement celui de la souveraineté.
Un pays qui adopte des systèmes conçus, entraînés et gouvernés ailleurs adopte également une partie des représentations, des classifications, des limites et des priorités de leurs concepteurs. Il ne s’agit pas de rejeter les technologies étrangères.
Il s’agit de comprendre qu’une dépendance technologique peut également devenir une dépendance cognitive, culturelle et stratégique.
C’est pourquoi chaque société doit pouvoir participer à la définition des environnements auxquels les systèmes d’IA utilisés sur son territoire doivent être alignés.
Cela suppose des compétences, des infrastructures, des données de qualité, une gouvernance nationale et régionale, ainsi qu’une capacité d’audit indépendante. La déclaration de Sam Altman sur la singularité illustre finalement une vision déterministe de la technologie.
Elle laisse entendre qu’un seuil aurait été franchi, que le mouvement serait irréversible et que l’humanité devrait désormais s’adapter à une puissance devenue supérieure. Je conteste cette représentation.
Les technologies ne se développent pas en dehors des sociétés. Elles sont financées, orientées, réglementées, adoptées ou refusées par des institutions et des personnes. Leur évolution ne relève pas d’une loi naturelle. Elle résulte de décisions stratégiques, industrielles, politiques et financières.
La singularité ne peut pas être décrétée par le dirigeant d’une entreprise, aussi puissante soit-elle.
Et l’intelligence artificielle ne peut pas être proclamée supérieure à « l’humain » tant que celui-ci demeure une abstraction indéfinie dans le discours de ceux qui prétendent le comparer à leurs propres créations.
L’enjeu n’est pas de déterminer si la machine a gagné une compétition imaginaire contre l’humanité. L’enjeu est de savoir quels systèmes nous construisons, dans quels environnements nous les inscrivons, quelles connaissances ils mobilisent, quelles finalités ils poursuivent et qui devra répondre de leurs conséquences.
Avant de parler de singularité, il faut définir l’humain. Avant de parler d’alignement, il faut définir les environnements intérieur et extérieur.
Et avant de déclarer que l’intelligence artificielle a dépassé l’humanité, il faut rappeler qu’une performance technique, aussi remarquable soit-elle, ne transforme pas un objet en sujet.
Un pays qui adopte des systèmes conçus, entraînés et gouvernés ailleurs adopte également une partie des représentations, des classifications, des limites et des priorités de leurs concepteurs. Il ne s’agit pas de rejeter les technologies étrangères.
Il s’agit de comprendre qu’une dépendance technologique peut également devenir une dépendance cognitive, culturelle et stratégique.
C’est pourquoi chaque société doit pouvoir participer à la définition des environnements auxquels les systèmes d’IA utilisés sur son territoire doivent être alignés.
Cela suppose des compétences, des infrastructures, des données de qualité, une gouvernance nationale et régionale, ainsi qu’une capacité d’audit indépendante. La déclaration de Sam Altman sur la singularité illustre finalement une vision déterministe de la technologie.
Elle laisse entendre qu’un seuil aurait été franchi, que le mouvement serait irréversible et que l’humanité devrait désormais s’adapter à une puissance devenue supérieure. Je conteste cette représentation.
Les technologies ne se développent pas en dehors des sociétés. Elles sont financées, orientées, réglementées, adoptées ou refusées par des institutions et des personnes. Leur évolution ne relève pas d’une loi naturelle. Elle résulte de décisions stratégiques, industrielles, politiques et financières.
La singularité ne peut pas être décrétée par le dirigeant d’une entreprise, aussi puissante soit-elle.
Et l’intelligence artificielle ne peut pas être proclamée supérieure à « l’humain » tant que celui-ci demeure une abstraction indéfinie dans le discours de ceux qui prétendent le comparer à leurs propres créations.
L’enjeu n’est pas de déterminer si la machine a gagné une compétition imaginaire contre l’humanité. L’enjeu est de savoir quels systèmes nous construisons, dans quels environnements nous les inscrivons, quelles connaissances ils mobilisent, quelles finalités ils poursuivent et qui devra répondre de leurs conséquences.
Avant de parler de singularité, il faut définir l’humain. Avant de parler d’alignement, il faut définir les environnements intérieur et extérieur.
Et avant de déclarer que l’intelligence artificielle a dépassé l’humanité, il faut rappeler qu’une performance technique, aussi remarquable soit-elle, ne transforme pas un objet en sujet.