L'accueil
J’avoue ne pas comprendre.
Qui est ce tiers de confiance dont tout le monde parle comme s’il existait déjà ? Une administration ? Une entreprise privée ? Une banque ? Un opérateur de télécommunications ? Le futur portefeuille européen d’identité numérique ? Une nouvelle autorité publique ? Personne ne le dit réellement.
On explique simplement que ce tiers vérifiera l’âge de l’utilisateur sans communiquer son identité complète au réseau social. L’idée paraît séduisante. Mais une architecture élégante sur le papier n’est pas nécessairement une architecture applicable dans la réalité.
Qui financera cette infrastructure ? Qui sera responsable en cas d’erreur ? Comment vérifiera-t-on l’âge d’un adolescent qui ne dispose pas encore d’une identité numérique ? Comment imposera-t-on ce mécanisme à des plateformes établies hors de France ?
Que se passera-t-il lorsqu’un mineur utilisera le téléphone, la tablette ou le compte d’un parent ? Comment empêchera-t-on le recours à un faux profil ou à une fausse date de naissance ?
Ne sommes-nous pas en train de construire une infrastructure numérique complexe pour répondre à un problème qui relève d’abord de la conception même des réseaux sociaux ?
Depuis des années, les plateformes conçoivent leurs logiciels pour capter notre attention. Et notre réponse consiste à demander aux citoyens de prouver leur âge.
On explique simplement que ce tiers vérifiera l’âge de l’utilisateur sans communiquer son identité complète au réseau social. L’idée paraît séduisante. Mais une architecture élégante sur le papier n’est pas nécessairement une architecture applicable dans la réalité.
Qui financera cette infrastructure ? Qui sera responsable en cas d’erreur ? Comment vérifiera-t-on l’âge d’un adolescent qui ne dispose pas encore d’une identité numérique ? Comment imposera-t-on ce mécanisme à des plateformes établies hors de France ?
Que se passera-t-il lorsqu’un mineur utilisera le téléphone, la tablette ou le compte d’un parent ? Comment empêchera-t-on le recours à un faux profil ou à une fausse date de naissance ?
Ne sommes-nous pas en train de construire une infrastructure numérique complexe pour répondre à un problème qui relève d’abord de la conception même des réseaux sociaux ?
Depuis des années, les plateformes conçoivent leurs logiciels pour capter notre attention. Et notre réponse consiste à demander aux citoyens de prouver leur âge.
Au lieu de gouverner les plateformes, nous gouvernons les utilisateurs.
Au lieu d’interroger la conception des logiciels, nous contrôlons l’identité des personnes.
Pourquoi les réseaux sociaux n’auraient-ils pas l’obligation de démontrer que leurs logiciels de recommandation sont compatibles avec le développement cognitif et psychologique des mineurs ?
Pourquoi ne devraient-ils pas prouver que leurs systèmes ne favorisent ni la dépendance, ni le harcèlement, ni la manipulation émotionnelle ?
Dans l’industrie automobile, les véhicules sont homologués avant leur mise en circulation.
Dans l’aéronautique, les avions sont certifiés avant de transporter des passagers. Dans le domaine médical, les médicaments sont évalués avant d’être prescrits. Pourquoi les logiciels qui influencent quotidiennement le comportement de millions de jeunes échapperaient-ils à une exigence comparable ?
La question n’est donc pas seulement de savoir à quel âge un enfant peut accéder à un réseau social. La question est aussi de savoir ce que ce réseau social est autorisé à faire une fois que l’enfant y accède.
Demain, les jeunes dialogueront avec des agents conversationnels, des avatars, des compagnons numériques et des logiciels utilisant les mathématiques et les statistiques pour produire des réponses personnalisées. Faudra-t-il inventer un nouveau tiers de confiance pour chaque technologie ?
Ou faudra-t-il enfin se poser la seule question qui compte réellement : Qui certifie les logiciels avant qu’ils ne façonnent le comportement de nos enfants ?
Depuis plus d’un demi-siècle, j’observe la manière dont les technologies naissent, évoluent, sont réglementées puis contournées. Je n’ai jamais vu une technologie disparaître simplement parce qu’elle avait été interdite. En revanche, j’en ai vu évoluer lorsque les règles imposées à ceux qui la conçoivent et la commercialisent changeaient réellement.
Pourquoi les réseaux sociaux n’auraient-ils pas l’obligation de démontrer que leurs logiciels de recommandation sont compatibles avec le développement cognitif et psychologique des mineurs ?
Pourquoi ne devraient-ils pas prouver que leurs systèmes ne favorisent ni la dépendance, ni le harcèlement, ni la manipulation émotionnelle ?
Dans l’industrie automobile, les véhicules sont homologués avant leur mise en circulation.
Dans l’aéronautique, les avions sont certifiés avant de transporter des passagers. Dans le domaine médical, les médicaments sont évalués avant d’être prescrits. Pourquoi les logiciels qui influencent quotidiennement le comportement de millions de jeunes échapperaient-ils à une exigence comparable ?
La question n’est donc pas seulement de savoir à quel âge un enfant peut accéder à un réseau social. La question est aussi de savoir ce que ce réseau social est autorisé à faire une fois que l’enfant y accède.
Demain, les jeunes dialogueront avec des agents conversationnels, des avatars, des compagnons numériques et des logiciels utilisant les mathématiques et les statistiques pour produire des réponses personnalisées. Faudra-t-il inventer un nouveau tiers de confiance pour chaque technologie ?
Ou faudra-t-il enfin se poser la seule question qui compte réellement : Qui certifie les logiciels avant qu’ils ne façonnent le comportement de nos enfants ?
Depuis plus d’un demi-siècle, j’observe la manière dont les technologies naissent, évoluent, sont réglementées puis contournées. Je n’ai jamais vu une technologie disparaître simplement parce qu’elle avait été interdite. En revanche, j’en ai vu évoluer lorsque les règles imposées à ceux qui la conçoivent et la commercialisent changeaient réellement.
Cette loi donne le sentiment de vouloir contrôler les enfants.
Elle devrait peut-être commencer par responsabiliser davantage les plateformes.
Quant au fameux tiers de confiance, je continue à me poser une question très simple : si personne n’est aujourd’hui capable d’expliquer clairement qui il est, comment il fonctionnera, qui le financera et qui le gouvernera, ne sommes-nous pas en train de bâtir une loi sur un acteur encore largement abstrait ?
Wald Maâlam a appris à se méfier des solutions dont l’architecture est plus floue que le problème qu’elles prétendent résoudre.
La confiance n’est pas un tiers. La confiance est une gouvernance.
Quant au fameux tiers de confiance, je continue à me poser une question très simple : si personne n’est aujourd’hui capable d’expliquer clairement qui il est, comment il fonctionnera, qui le financera et qui le gouvernera, ne sommes-nous pas en train de bâtir une loi sur un acteur encore largement abstrait ?
Wald Maâlam a appris à se méfier des solutions dont l’architecture est plus floue que le problème qu’elles prétendent résoudre.
La confiance n’est pas un tiers. La confiance est une gouvernance.
Accueil
Envoyer à un ami
Version imprimable
Augmenter la taille du texte
Diminuer la taille du texte
Partager
IA au Maroc : des acquis à consolider, des bénéfices à concrétiser
