L’intelligence artificielle vient de changer de ministère.
Pendant longtemps, elle relevait principalement de l’industrie, du numérique, de la recherche ou de l’économie.
En Chine, elle entre désormais clairement dans le vocabulaire de la sécurité nationale.
Le ministère chinois de la Sécurité d’État a publié un avertissement public inhabituel sur les risques que l’IA ferait peser sur la stabilité politique, la sécurité des données et l’environnement informationnel du pays.
Le message est révélateur.
Pékin ne dit pas que l’IA doit être abandonnée.
Bien au contraire.
La Chine veut rester l’une des principales puissances mondiales de l’IA.
Mais elle veut développer cette puissance tout en contrôlant ses vulnérabilités.
Pendant longtemps, elle relevait principalement de l’industrie, du numérique, de la recherche ou de l’économie.
En Chine, elle entre désormais clairement dans le vocabulaire de la sécurité nationale.
Le ministère chinois de la Sécurité d’État a publié un avertissement public inhabituel sur les risques que l’IA ferait peser sur la stabilité politique, la sécurité des données et l’environnement informationnel du pays.
Le message est révélateur.
Pékin ne dit pas que l’IA doit être abandonnée.
Bien au contraire.
La Chine veut rester l’une des principales puissances mondiales de l’IA.
Mais elle veut développer cette puissance tout en contrôlant ses vulnérabilités.
Deepfakes : le problème n'est plus seulement de savoir si une image est fausse
Parmi les risques mis en avant figurent les contenus synthétiques et les deepfakes.
Jusqu’à présent, le débat public les présentait surtout comme un problème de désinformation.
La lecture chinoise va plus loin.
Un contenu généré artificiellement peut devenir un instrument de ce que Pékin décrit comme une forme de « guerre cognitive ».
- Créer une fausse vidéo.
- Faire croire qu’un responsable politique a prononcé une phrase.
- Automatiser des milliers de comptes.
- Créer artificiellement l’impression qu’une opinion est majoritaire.
L’IA réduit considérablement le coût de ces opérations.
Hier, manipuler massivement une conversation publique exigeait beaucoup de personnes.
Demain, une petite équipe équipée de bons modèles pourra en simuler des milliers.
Jusqu’à présent, le débat public les présentait surtout comme un problème de désinformation.
La lecture chinoise va plus loin.
Un contenu généré artificiellement peut devenir un instrument de ce que Pékin décrit comme une forme de « guerre cognitive ».
- Créer une fausse vidéo.
- Faire croire qu’un responsable politique a prononcé une phrase.
- Automatiser des milliers de comptes.
- Créer artificiellement l’impression qu’une opinion est majoritaire.
L’IA réduit considérablement le coût de ces opérations.
Hier, manipuler massivement une conversation publique exigeait beaucoup de personnes.
Demain, une petite équipe équipée de bons modèles pourra en simuler des milliers.
Les armées de trolls deviennent automatiques
Les réseaux sociaux ont déjà connu les fermes de trolls.
L’IA peut les industrialiser.
Un agent automatisé peut générer des messages différents.
Répondre aux internautes.
Modifier son vocabulaire.
Créer des images.
Adapter son discours à différents publics.
Et fonctionner en permanence.
Le problème n’est donc plus uniquement celui du faux contenu.
C’est celui du faux comportement humain à grande échelle.
À partir de quel moment un débat public cesse-t-il d’être réellement public lorsqu’une partie des participants n’existe pas ?
Cette question va rapidement concerner toutes les démocraties.
L’IA peut les industrialiser.
Un agent automatisé peut générer des messages différents.
Répondre aux internautes.
Modifier son vocabulaire.
Créer des images.
Adapter son discours à différents publics.
Et fonctionner en permanence.
Le problème n’est donc plus uniquement celui du faux contenu.
C’est celui du faux comportement humain à grande échelle.
À partir de quel moment un débat public cesse-t-il d’être réellement public lorsqu’une partie des participants n’existe pas ?
Cette question va rapidement concerner toutes les démocraties.
Le risque des outils étrangers
Le deuxième axe du message chinois touche à la donnée.
Pékin s’inquiète de l’utilisation de solutions d’IA étrangères susceptibles d’entraîner des fuites d’informations sensibles.
Le problème est universel.
Un fonctionnaire peut copier un document dans un chatbot.
Un ingénieur peut transmettre involontairement du code.
Un salarié peut demander à une IA de résumer un contrat confidentiel.
Un chercheur peut partager des résultats non publiés.
Chaque requête devient potentiellement une sortie de données hors du périmètre de l’organisation.
C’est pourquoi les grandes administrations et entreprises commencent à définir des règles très strictes sur les outils d’IA autorisés.
Pékin s’inquiète de l’utilisation de solutions d’IA étrangères susceptibles d’entraîner des fuites d’informations sensibles.
Le problème est universel.
Un fonctionnaire peut copier un document dans un chatbot.
Un ingénieur peut transmettre involontairement du code.
Un salarié peut demander à une IA de résumer un contrat confidentiel.
Un chercheur peut partager des résultats non publiés.
Chaque requête devient potentiellement une sortie de données hors du périmètre de l’organisation.
C’est pourquoi les grandes administrations et entreprises commencent à définir des règles très strictes sur les outils d’IA autorisés.
OpenAi craint la puissance. Pékin craint aussi la dépendance
Le contraste avec le débat américain est intéressant.
OpenAI et Anthropic parlent de plus en plus du risque lié à la puissance croissante des modèles.
Ils demandent des évaluations indépendantes, des règles de sécurité communes et parfois un ralentissement de certaines capacités.
La Chine ne formule pas exactement le problème de la même façon.
Elle insiste sur le contrôle.
Qui possède le modèle ? Où sont les données ? Qui contrôle l’information ? Un outil étranger peut-il devenir une dépendance stratégique ? OpenAI et Anthropic parlent de plus en plus du risque lié à la puissance croissante des modèles.
Ils demandent des évaluations indépendantes, des règles de sécurité communes et parfois un ralentissement de certaines capacités.
La Chine ne formule pas exactement le problème de la même façon.
Elle insiste sur le contrôle.
Les deux approches partent de préoccupations différentes.
Mais elles convergent vers la même conclusion.
L’IA devient trop importante pour rester une simple question commerciale.
Mais elles convergent vers la même conclusion.
L’IA devient trop importante pour rester une simple question commerciale.
Une leçon directe pour le Maroc
Le Maroc utilise déjà des modèles étrangers dans les entreprises, les médias, l’éducation et les administrations.
Cette adoption va accélérer.
La question ne consiste donc pas à choisir entre utiliser l’IA ou la refuser.
Elle consiste à définir où et comment l’utiliser.
Un chatbot grand public peut être parfaitement acceptable pour reformuler un texte non sensible.
Il ne l’est pas nécessairement pour traiter un document de défense, une base de données médicale ou des informations fiscales.
Cela suppose de classer les usages.
Ouverts.
Sensibles.
Critiques.
Et d’associer à chaque catégorie des règles différentes.
Cette adoption va accélérer.
La question ne consiste donc pas à choisir entre utiliser l’IA ou la refuser.
Elle consiste à définir où et comment l’utiliser.
Un chatbot grand public peut être parfaitement acceptable pour reformuler un texte non sensible.
Il ne l’est pas nécessairement pour traiter un document de défense, une base de données médicale ou des informations fiscales.
Cela suppose de classer les usages.
Ouverts.
Sensibles.
Critiques.
Et d’associer à chaque catégorie des règles différentes.
La souveraineté IA n'exige pas de tout fabriquer
Un pays n’a pas besoin de construire son propre équivalent d’OpenAI pour protéger sa souveraineté.
Il peut utiliser des technologies étrangères.
Mais il doit savoir : où les données vont; qui peut y accéder; dans quelle juridiction elles sont stockées; comment les modèles sont audités; et quels services peuvent continuer à fonctionner si un fournisseur devient indisponible.
La souveraineté numérique n’est donc pas l’autarcie.
C’est la capacité à choisir sans devenir prisonnier.
Il peut utiliser des technologies étrangères.
Mais il doit savoir : où les données vont; qui peut y accéder; dans quelle juridiction elles sont stockées; comment les modèles sont audités; et quels services peuvent continuer à fonctionner si un fournisseur devient indisponible.
La souveraineté numérique n’est donc pas l’autarcie.
C’est la capacité à choisir sans devenir prisonnier.
L'IA entre dans le domaine régalien
Ce qui se passe aujourd’hui à Pékin est probablement annonciateur d’un mouvement beaucoup plus large.
Les ministères de l’Économie ont d’abord vu l’IA comme une opportunité.
Les ministères du Travail y ont vu un risque pour l’emploi.
Les régulateurs y ont vu un problème juridique.
Et maintenant les services de sécurité commencent à y voir un enjeu national.
La technologie change donc de statut.
Elle n’est plus seulement un outil de productivité.
Elle devient une infrastructure de pouvoir.
Et lorsque les États commencent à parler d’une technologie dans le langage de la sécurité nationale, une chose devient certaine : la course à l’IA n’est plus seulement une course entre entreprises. Elle devient une course entre souverainetés.
Les ministères de l’Économie ont d’abord vu l’IA comme une opportunité.
Les ministères du Travail y ont vu un risque pour l’emploi.
Les régulateurs y ont vu un problème juridique.
Et maintenant les services de sécurité commencent à y voir un enjeu national.
La technologie change donc de statut.
Elle n’est plus seulement un outil de productivité.
Elle devient une infrastructure de pouvoir.
Et lorsque les États commencent à parler d’une technologie dans le langage de la sécurité nationale, une chose devient certaine : la course à l’IA n’est plus seulement une course entre entreprises. Elle devient une course entre souverainetés.