Imaginez quatre voitures lancées à pleine vitesse.
Chacun des conducteurs estime que la route devient dangereuse.
Mais aucun ne veut freiner seul.
Car celui qui ralentit risque de voir les trois autres prendre définitivement l’avantage.
Voilà, grossièrement, le problème auquel sont confrontés OpenAI, Anthropic, Google DeepMind, xAI et les autres laboratoires engagés dans la course à l’intelligence artificielle de pointe.
Dario Amodei, patron d’Anthropic, vient de proposer de « rythmer la frontière », autrement dit ralentir la progression des capacités les plus avancées afin de laisser davantage de temps aux mécanismes de sécurité.
Sam Altman a publiquement approuvé une partie importante de cette démarche.
OpenAI s’est notamment déclaré prêt à adopter la proposition d’évaluateurs indépendants bénéficiant d’un accès suffisamment profond aux systèmes pour examiner réellement les risques.
Même Elon Musk a publiquement exprimé son accord sur le principe général.
Voilà qui mérite attention.
Chacun des conducteurs estime que la route devient dangereuse.
Mais aucun ne veut freiner seul.
Car celui qui ralentit risque de voir les trois autres prendre définitivement l’avantage.
Voilà, grossièrement, le problème auquel sont confrontés OpenAI, Anthropic, Google DeepMind, xAI et les autres laboratoires engagés dans la course à l’intelligence artificielle de pointe.
Dario Amodei, patron d’Anthropic, vient de proposer de « rythmer la frontière », autrement dit ralentir la progression des capacités les plus avancées afin de laisser davantage de temps aux mécanismes de sécurité.
Sam Altman a publiquement approuvé une partie importante de cette démarche.
OpenAI s’est notamment déclaré prêt à adopter la proposition d’évaluateurs indépendants bénéficiant d’un accès suffisamment profond aux systèmes pour examiner réellement les risques.
Même Elon Musk a publiquement exprimé son accord sur le principe général.
Voilà qui mérite attention.
Le problème du premier qui freine
Pourquoi les entreprises ne ralentissent-elles pas simplement si leurs dirigeants estiment le risque sérieux ?
Parce que l’intelligence artificielle est également devenue une compétition économique et stratégique.
Des centaines de milliards de dollars sont engagés dans les data centers, les puces, l’électricité et les modèles.
Les États-Unis regardent la Chine.
OpenAI regarde Anthropic.
Anthropic regarde OpenAI et Google.
Meta, xAI et les laboratoires chinois observent tout le monde.
Une entreprise qui déciderait seule de suspendre pendant six mois le développement de ses modèles pourrait offrir six mois d’avance à ses concurrents.
C’est le paradoxe.
Tout le monde peut considérer collectivement qu’il faudrait ralentir.
Et chacun peut individuellement avoir intérêt à continuer d’accélérer.
Parce que l’intelligence artificielle est également devenue une compétition économique et stratégique.
Des centaines de milliards de dollars sont engagés dans les data centers, les puces, l’électricité et les modèles.
Les États-Unis regardent la Chine.
OpenAI regarde Anthropic.
Anthropic regarde OpenAI et Google.
Meta, xAI et les laboratoires chinois observent tout le monde.
Une entreprise qui déciderait seule de suspendre pendant six mois le développement de ses modèles pourrait offrir six mois d’avance à ses concurrents.
C’est le paradoxe.
Tout le monde peut considérer collectivement qu’il faudrait ralentir.
Et chacun peut individuellement avoir intérêt à continuer d’accélérer.
Des inspecteurs dans la salle des machines
La proposition d’Amodei cherche notamment à sortir l’évaluation de sécurité du huis clos des entreprises.
Il souhaite que des évaluateurs indépendants disposent d’un accès suffisamment proche de celui des salariés pour tester les modèles, vérifier certaines pratiques de sécurité et détecter les incidents.
L’idée est importante.
Aujourd’hui, une grande partie des informations concernant les capacités réelles des modèles les plus avancés provient des entreprises qui les développent.
Plus les systèmes deviennent puissants, plus cette situation ressemble à demander à une industrie de certifier elle-même la sécurité de ses produits.
Des évaluateurs externes pourraient apporter une couche de contrôle supplémentaire.
Mais encore faut-il définir qui les choisit, qui les finance, ce qu’ils peuvent publier et comment protéger simultanément secrets industriels et sécurité.
Il souhaite que des évaluateurs indépendants disposent d’un accès suffisamment proche de celui des salariés pour tester les modèles, vérifier certaines pratiques de sécurité et détecter les incidents.
L’idée est importante.
Aujourd’hui, une grande partie des informations concernant les capacités réelles des modèles les plus avancés provient des entreprises qui les développent.
Plus les systèmes deviennent puissants, plus cette situation ressemble à demander à une industrie de certifier elle-même la sécurité de ses produits.
Des évaluateurs externes pourraient apporter une couche de contrôle supplémentaire.
Mais encore faut-il définir qui les choisit, qui les finance, ce qu’ils peuvent publier et comment protéger simultanément secrets industriels et sécurité.
Et si ralentir ensemble était juridiquement compliqué ?
Une difficulté inattendue apparaît : le droit de la concurrence.
Des entreprises concurrentes qui se réunissent pour coordonner leur production ou leur rythme d’innovation peuvent théoriquement soulever des questions antitrust.
OpenAI aurait ainsi cherché à obtenir des clarifications sur les conditions juridiques permettant une coordination sectorielle destinée à ralentir certains développements de pointe.
Le paradoxe devient presque parfait.
La sécurité pourrait demander aux entreprises de se coordonner.
Le droit de la concurrence leur demande généralement de ne pas trop se coordonner.
Il faudra donc inventer un cadre permettant de distinguer un accord de sécurité légitime d’une entente destinée à verrouiller le marché.
Des entreprises concurrentes qui se réunissent pour coordonner leur production ou leur rythme d’innovation peuvent théoriquement soulever des questions antitrust.
OpenAI aurait ainsi cherché à obtenir des clarifications sur les conditions juridiques permettant une coordination sectorielle destinée à ralentir certains développements de pointe.
Le paradoxe devient presque parfait.
La sécurité pourrait demander aux entreprises de se coordonner.
Le droit de la concurrence leur demande généralement de ne pas trop se coordonner.
Il faudra donc inventer un cadre permettant de distinguer un accord de sécurité légitime d’une entente destinée à verrouiller le marché.
Le risque de fabriquer un club fermé
Car une coordination entre les grands laboratoires pourrait également produire un effet pervers.
OpenAI, Anthropic, Google ou xAI disposent déjà de moyens financiers et techniques considérables.
Si les nouvelles normes de sécurité deviennent extrêmement coûteuses, elles pourraient empêcher de nouveaux concurrents d’entrer sur le marché.
La sécurité deviendrait alors involontairement une barrière à l’entrée.
C’est pourquoi la gouvernance du ralentissement est aussi importante que le ralentissement lui-même.
OpenAI, Anthropic, Google ou xAI disposent déjà de moyens financiers et techniques considérables.
Si les nouvelles normes de sécurité deviennent extrêmement coûteuses, elles pourraient empêcher de nouveaux concurrents d’entrer sur le marché.
La sécurité deviendrait alors involontairement une barrière à l’entrée.
C’est pourquoi la gouvernance du ralentissement est aussi importante que le ralentissement lui-même.
Une leçon pour le Maroc
Le Maroc n’a pas besoin d’attendre de disposer d’un laboratoire capable d’entraîner le modèle le plus puissant du monde pour réfléchir à ces questions.
Le Royaume va utiliser ces technologies dans ses administrations, ses banques, ses hôpitaux, ses entreprises, ses médias et ses infrastructures.
Il doit donc construire une capacité nationale d’évaluation.
Pas nécessairement pour contrôler comment OpenAI entraîne son prochain modèle.
Mais pour savoir ce que les modèles utilisés au Maroc peuvent faire, quelles données ils manipulent et quels risques ils introduisent.
La souveraineté IA ne consiste pas uniquement à posséder des serveurs.
Elle consiste également à posséder la compétence permettant de dire si une technologie est suffisamment sûre pour être déployée.
Le Royaume va utiliser ces technologies dans ses administrations, ses banques, ses hôpitaux, ses entreprises, ses médias et ses infrastructures.
Il doit donc construire une capacité nationale d’évaluation.
Pas nécessairement pour contrôler comment OpenAI entraîne son prochain modèle.
Mais pour savoir ce que les modèles utilisés au Maroc peuvent faire, quelles données ils manipulent et quels risques ils introduisent.
La souveraineté IA ne consiste pas uniquement à posséder des serveurs.
Elle consiste également à posséder la compétence permettant de dire si une technologie est suffisamment sûre pour être déployée.
La course continue
Personne n’a annoncé l’arrêt de la recherche en intelligence artificielle.
Et le mot « ralentissement » doit être interprété avec prudence.
Les entreprises continueront d’investir, de développer des produits et d’améliorer leurs modèles.
Ce qui change est ailleurs.
Pour la première fois, plusieurs dirigeants majeurs commencent à reconnaître publiquement que la vitesse elle-même peut devenir un problème.
Après avoir passé plusieurs années à demander : « Jusqu’où peut-on aller ? »
l’industrie commence à poser une deuxième question : « À quelle vitesse avons-nous réellement intérêt à y aller ? »
Et cette question pourrait devenir beaucoup plus difficile que la première.
Et le mot « ralentissement » doit être interprété avec prudence.
Les entreprises continueront d’investir, de développer des produits et d’améliorer leurs modèles.
Ce qui change est ailleurs.
Pour la première fois, plusieurs dirigeants majeurs commencent à reconnaître publiquement que la vitesse elle-même peut devenir un problème.
Après avoir passé plusieurs années à demander : « Jusqu’où peut-on aller ? »
l’industrie commence à poser une deuxième question : « À quelle vitesse avons-nous réellement intérêt à y aller ? »
Et cette question pourrait devenir beaucoup plus difficile que la première.