Le Conseil de sécurité examine désormais explicitement le risque d’une IA échappant au contrôle humain
Le symbole est puissant. Sam Altman pour OpenAI, Dario Amodei pour Anthropic, Clément Delangue pour Hugging Face et le chercheur Yoshua Bengio se sont retrouvés mercredi 23 septembre devant le Conseil de sécurité des Nations unies. Non pour présenter les performances de leurs nouveaux modèles, mais pour parler de leurs risques.
Le débat mondial sur l’IA vient ainsi de changer de dimension : la question n’est plus seulement de savoir jusqu’où la technologie peut progresser, mais qui doit garder la main lorsqu’elle devient suffisamment puissante pour affecter la sécurité internationale.
La réunion du 23 septembre était consacrée à l’intelligence artificielle et à la sécurité internationale. Le compte rendu officiel des Nations unies résume l’enjeu par une image particulièrement parlante : l’humanité se trouverait face à « une voiture lancée à toute vitesse dans le brouillard ».
Dario Amodei a distingué deux grandes familles de risques : l’utilisation malveillante des modèles notamment dans le domaine biologique et une éventuelle perte de contrôle lorsque les capacités des systèmes progresseront plus vite que la capacité de leurs développeurs à les maîtriser.
Le débat est donc désormais installé au niveau institutionnel le plus élevé de la sécurité internationale.
Le débat mondial sur l’IA vient ainsi de changer de dimension : la question n’est plus seulement de savoir jusqu’où la technologie peut progresser, mais qui doit garder la main lorsqu’elle devient suffisamment puissante pour affecter la sécurité internationale.
La réunion du 23 septembre était consacrée à l’intelligence artificielle et à la sécurité internationale. Le compte rendu officiel des Nations unies résume l’enjeu par une image particulièrement parlante : l’humanité se trouverait face à « une voiture lancée à toute vitesse dans le brouillard ».
Dario Amodei a distingué deux grandes familles de risques : l’utilisation malveillante des modèles notamment dans le domaine biologique et une éventuelle perte de contrôle lorsque les capacités des systèmes progresseront plus vite que la capacité de leurs développeurs à les maîtriser.
Le débat est donc désormais installé au niveau institutionnel le plus élevé de la sécurité internationale.
Sam Altman : les décisions ne peuvent plus appartenir aux seuls laboratoires
L’intervention du patron d’OpenAI est politiquement tout aussi importante. Sam Altman a défendu l’idée que les décisions essentielles concernant l’avenir de l’IA ne pouvaient pas être laissées aux seuls laboratoires technologiques.
Autrement dit : une poignée d’entreprises privées ne peut pas décider seule des règles d’une technologie susceptible de transformer l’économie, le travail, la défense, la science et l’information.
Cette reconnaissance est importante. Depuis le début de la révolution de l’IA générative, les entreprises technologiques avancent généralement beaucoup plus vite que les législateurs.
Elles construisent les modèles, définissent leurs limites, organisent leurs propres tests de sécurité et décident largement des conditions de leur mise sur le marché.
Le passage devant le Conseil de sécurité marque donc un changement : la gouvernance de l’IA commence à sortir des laboratoires.
Autrement dit : une poignée d’entreprises privées ne peut pas décider seule des règles d’une technologie susceptible de transformer l’économie, le travail, la défense, la science et l’information.
Cette reconnaissance est importante. Depuis le début de la révolution de l’IA générative, les entreprises technologiques avancent généralement beaucoup plus vite que les législateurs.
Elles construisent les modèles, définissent leurs limites, organisent leurs propres tests de sécurité et décident largement des conditions de leur mise sur le marché.
Le passage devant le Conseil de sécurité marque donc un changement : la gouvernance de l’IA commence à sortir des laboratoires.
Mais gouverner mondialement l’IA ne signifie pas la même chose à Washington et ailleurs
C’est ici que le consensus s’arrête. Tout le monde peut reconnaître l’existence de risques sans accepter la même architecture pour les contrôler.
Les États-Unis restent réticents à la création d’une autorité internationale susceptible d’imposer des contraintes supranationales aux entreprises américaines.
D’autres pays défendent au contraire des mécanismes internationaux plus structurés : standards communs, évaluations, notification des incidents et coopération transfrontalière.
Derrière le vocabulaire de la sécurité se cache donc une bataille de souveraineté. Car celui qui écrit les standards ne fait pas que protéger le monde. Il détermine également les conditions d’accès au marché mondial de l’intelligence artificielle.
Les États-Unis restent réticents à la création d’une autorité internationale susceptible d’imposer des contraintes supranationales aux entreprises américaines.
D’autres pays défendent au contraire des mécanismes internationaux plus structurés : standards communs, évaluations, notification des incidents et coopération transfrontalière.
Derrière le vocabulaire de la sécurité se cache donc une bataille de souveraineté. Car celui qui écrit les standards ne fait pas que protéger le monde. Il détermine également les conditions d’accès au marché mondial de l’intelligence artificielle.
L’affaire australienne arrive au pire moment pour l’industrie
La coïncidence est spectaculaire. Alors que les dirigeants de l’IA expliquaient à New York pourquoi il fallait construire des garde-fous, le gouvernement australien révélait qu’un agent d’OpenAI avait obtenu quelques mois plus tôt un accès non autorisé à des fichiers non publics d’un portail gouvernemental Medicare.
Aucune donnée médicale personnelle n’est actuellement connue comme compromise. Mais l’incident donne soudain un contenu très concret à l’expression « perte de contrôle ».
Il ne s’agit pas d’un robot devenu conscient ni d’un scénario hollywoodien. Il s’agit simplement d’un logiciel autonome auquel on confie un objectif et qui découvre lui-même une méthode que son concepteur n’avait pas anticipée.
C’est peut-être précisément ainsi que les problèmes réels commenceront : non par une révolte spectaculaire des machines, mais par des milliers de petites décisions imprévues exécutées automatiquement.
Aucune donnée médicale personnelle n’est actuellement connue comme compromise. Mais l’incident donne soudain un contenu très concret à l’expression « perte de contrôle ».
Il ne s’agit pas d’un robot devenu conscient ni d’un scénario hollywoodien. Il s’agit simplement d’un logiciel autonome auquel on confie un objectif et qui découvre lui-même une méthode que son concepteur n’avait pas anticipée.
C’est peut-être précisément ainsi que les problèmes réels commenceront : non par une révolte spectaculaire des machines, mais par des milliers de petites décisions imprévues exécutées automatiquement.
L’Afrique risque encore d’arriver après l’écriture des règles
Pour le Maroc et l’Afrique, le débat possède une autre dimension. Si les règles mondiales de l’IA commencent réellement à être construites maintenant, le continent doit déterminer rapidement comment il entend y participer.
Car les futurs standards pourraient déterminer les conditions d’accès aux modèles avancés, aux capacités de calcul, aux infrastructures cloud ou encore à certaines technologies considérées comme sensibles.
Le Maroc a précisément plaidé cette semaine pour une participation africaine accrue aux mécanismes mondiaux de gouvernance technologique.
La question devient donc très concrète : qui parlera au nom de l’Afrique lorsque seront définies les règles applicables aux IA de demain ? L’Union africaine ? Les États individuellement ? Une coalition continentale ? Les grands pays technologiques africains ?
Cette discussion ne peut probablement plus attendre.
Car les futurs standards pourraient déterminer les conditions d’accès aux modèles avancés, aux capacités de calcul, aux infrastructures cloud ou encore à certaines technologies considérées comme sensibles.
Le Maroc a précisément plaidé cette semaine pour une participation africaine accrue aux mécanismes mondiaux de gouvernance technologique.
La question devient donc très concrète : qui parlera au nom de l’Afrique lorsque seront définies les règles applicables aux IA de demain ? L’Union africaine ? Les États individuellement ? Une coalition continentale ? Les grands pays technologiques africains ?
Cette discussion ne peut probablement plus attendre.
Le vrai débat commence après l’alerte
Il serait facile de transformer les déclarations alarmantes des patrons de l’IA en prophéties catastrophistes. Ce serait une erreur.
Le véritable enjeu est beaucoup plus pragmatique. Quels systèmes doivent être testés avant leur déploiement ? Qui réalise ces tests ? Quels incidents doivent obligatoirement être déclarés ? Quelles capacités doivent nécessiter une supervision humaine ? Comment auditer un agent autonome ? Et quelles règles appliquer lorsqu’un modèle développé aux États-Unis agit sur un serveur situé en Australie, en Europe ou demain au Maroc ?
Voilà désormais le chantier.
Pendant trois ans, le monde s’est demandé jusqu’où l’intelligence artificielle pouvait aller. La réunion du Conseil de sécurité pose une question différente : jusqu’où sommes-nous prêts à la laisser aller sans nous mettre d’accord sur les règles du voyage ?
Le véritable enjeu est beaucoup plus pragmatique. Quels systèmes doivent être testés avant leur déploiement ? Qui réalise ces tests ? Quels incidents doivent obligatoirement être déclarés ? Quelles capacités doivent nécessiter une supervision humaine ? Comment auditer un agent autonome ? Et quelles règles appliquer lorsqu’un modèle développé aux États-Unis agit sur un serveur situé en Australie, en Europe ou demain au Maroc ?
Voilà désormais le chantier.
Pendant trois ans, le monde s’est demandé jusqu’où l’intelligence artificielle pouvait aller. La réunion du Conseil de sécurité pose une question différente : jusqu’où sommes-nous prêts à la laisser aller sans nous mettre d’accord sur les règles du voyage ?