Wald Maâlam appelle cela du marketing de confiance.
Un marketing subtil, efficace, qui ne vend pas seulement une technologie, mais une promesse : celle d’un environnement maîtrisé, intelligent, presque rassurant. Tout est fait pour donner le sentiment que l’outil est sous contrôle, qu’il sert des objectifs légitimes, qu’il améliore les pratiques existantes.
Mais c’est précisément là que le doute doit s’installer.
Car derrière cette mise en scène, une confusion majeure apparaît. On attribue à ces systèmes des capacités humaines qu’ils ne possèdent pas. On parle d’intention, de stratégie, de compréhension. On évoque la manipulation comme si elle était consciente. On prête à la machine une forme de volonté. C’est une erreur.
Mais c’est précisément là que le doute doit s’installer.
Car derrière cette mise en scène, une confusion majeure apparaît. On attribue à ces systèmes des capacités humaines qu’ils ne possèdent pas. On parle d’intention, de stratégie, de compréhension. On évoque la manipulation comme si elle était consciente. On prête à la machine une forme de volonté. C’est une erreur.
Mythos ne pense pas. Mythos ne comprend pas. Mythos ne manipule pas.
Ce que fait Mythos est plus simple, et en même temps plus redoutable : il calcule.
Il produit des séquences de langage et des comportements simulés à partir de probabilités, de corrélations et de modèles appris sur des masses de données. Et ces données ne sont pas neutres. Elles sont, dans leur immense majorité, issues du monde occidental.
Plus encore, elles sont dominées par une seule langue et une seule culture. Selon des analyses internationales, l’anglais représente environ 38 % des ressources linguistiques utilisées pour entraîner les modèles d’intelligence artificielle.
Certaines estimations indiquent que jusqu’à 90 % des données utilisées par les systèmes d’intelligence artificielle générative proviennent de contenus en anglais, majoritairement nord-américains. L’intelligence artificielle parle au monde avec une voix largement occidentale.
Il produit des séquences de langage et des comportements simulés à partir de probabilités, de corrélations et de modèles appris sur des masses de données. Et ces données ne sont pas neutres. Elles sont, dans leur immense majorité, issues du monde occidental.
Plus encore, elles sont dominées par une seule langue et une seule culture. Selon des analyses internationales, l’anglais représente environ 38 % des ressources linguistiques utilisées pour entraîner les modèles d’intelligence artificielle.
Certaines estimations indiquent que jusqu’à 90 % des données utilisées par les systèmes d’intelligence artificielle générative proviennent de contenus en anglais, majoritairement nord-américains. L’intelligence artificielle parle au monde avec une voix largement occidentale.
Cette domination linguistique et culturelle structure les modèles.
Elle influence les réponses, les représentations et les raisonnements simulés. Les modèles héritent et amplifient les biais présents dans leurs données d’entraînement.
Une machine entraînée majoritairement sur des données occidentales ne peut produire qu’une vision du monde occidentalisée. Ce constat est essentiel pour comprendre les limites réelles de systèmes comme Mythos.
Car si Mythos donne l’illusion d’une intelligence universelle, il est en réalité le produit d’un contexte très particulier. Il ne pense pas comme un humain. Il reproduit des régularités statistiques issues d’un monde donné. Et ce monde n’est pas neutre. Il est situé. Il est culturellement marqué.
Il est historiquement construit. Wald Maâlam voit ici un double risque. Le premier est épistémologique. On confond simulation et compréhension.
On prend pour universel ce qui est en réalité localisé. Le second est stratégique. Des pays, des cultures, des langues entières se retrouvent sous-représentés, voire invisibilisés dans les systèmes d’intelligence artificielle.
Douter de l’intelligence de la machine, ce n’est pas la rejeter. C’est refuser de la sacraliser. C’est rappeler que l’intelligence artificielle est avant tout une construction humaine, fondée sur des données humaines.
Mythos ne manipule pas. Il reproduit des schémas. Mais ces schémas peuvent être utilisés par des acteurs humains. Et c’est là que réside le véritable danger. L’intelligence artificielle n’est pas universelle. Elle est située. Et tant que nous ne comprendrons pas d’où elle parle, nous risquons de croire qu’elle pense. Alors qu’elle ne fait que répéter.
Par Dr Az-Eddine Bennani.
Une machine entraînée majoritairement sur des données occidentales ne peut produire qu’une vision du monde occidentalisée. Ce constat est essentiel pour comprendre les limites réelles de systèmes comme Mythos.
Car si Mythos donne l’illusion d’une intelligence universelle, il est en réalité le produit d’un contexte très particulier. Il ne pense pas comme un humain. Il reproduit des régularités statistiques issues d’un monde donné. Et ce monde n’est pas neutre. Il est situé. Il est culturellement marqué.
Il est historiquement construit. Wald Maâlam voit ici un double risque. Le premier est épistémologique. On confond simulation et compréhension.
On prend pour universel ce qui est en réalité localisé. Le second est stratégique. Des pays, des cultures, des langues entières se retrouvent sous-représentés, voire invisibilisés dans les systèmes d’intelligence artificielle.
Douter de l’intelligence de la machine, ce n’est pas la rejeter. C’est refuser de la sacraliser. C’est rappeler que l’intelligence artificielle est avant tout une construction humaine, fondée sur des données humaines.
Mythos ne manipule pas. Il reproduit des schémas. Mais ces schémas peuvent être utilisés par des acteurs humains. Et c’est là que réside le véritable danger. L’intelligence artificielle n’est pas universelle. Elle est située. Et tant que nous ne comprendrons pas d’où elle parle, nous risquons de croire qu’elle pense. Alors qu’elle ne fait que répéter.
Par Dr Az-Eddine Bennani.