Anthropic appelle à ralentir la course aux modèles les plus puissants, OpenAI a déjà suspendu certains entraînements et plusieurs dirigeants réclament de nouveaux garde-fous. Donald Trump défend une autre priorité : préserver l’avance américaine et éviter une réglementation susceptible de freiner l’innovation. Le débat sur la sécurité de l’IA devient ainsi une question de puissance géopolitique.

Il y a quelque chose d’inhabituel dans le débat qui traverse aujourd’hui la Silicon Valley : certains de ceux qui disposent de l’accélérateur demandent désormais que l’on réfléchisse au frein.

Dario Amodei, patron d’Anthropic, a appelé les principaux laboratoires d’intelligence artificielle à ralentir volontairement la progression des modèles les plus avancés. Son objectif n’est pas de stopper l’IA mais de laisser davantage de temps aux dispositifs de sécurité, aux évaluations indépendantes et à la coopération internationale. Sam Altman et Elon Musk ont apporté leur soutien à cette logique de décélération.

Le changement le plus significatif vient peut-être d’OpenAI.

Le 18 août, l’entreprise expliquait avoir temporairement ralenti certains travaux après l’apparition de signaux jugés préoccupants dans ses modèles. Une phase d’entraînement par renforcement a été suspendue pendant deux semaines et un entraînement de grande ampleur maintenu en attente afin de renforcer les dispositifs de surveillance et de sécurité. OpenAI estime par ailleurs que son modèle Astra atteint désormais un niveau « critique » dans le domaine cyber, selon sa propre grille d’évaluation.

Il serait pourtant trompeur d’en conclure que l’industrie de l’IA s’est convertie au ralentissement.

OpenAI, Anthropic et leurs concurrents continuent de construire des centres de données, d’acheter des capacités de calcul et de développer des modèles toujours plus puissants. OpenAI a encore annoncé cette année des partenariats destinés à accroître fortement ses infrastructures.

La ligne défendue par plusieurs dirigeants ressemble donc moins à un moratoire qu’à une nouvelle doctrine : avancer, mais accepter de lever temporairement le pied lorsque les capacités des modèles progressent plus vite que les systèmes chargés de les contrôler.

Donald Trump ne partage pas cette approche lorsqu’elle suppose une intervention contraignante de Washington.

Le président américain a rejeté ces derniers jours les appels à imposer davantage de garde-fous et réaffirmé sa volonté de maintenir les États-Unis en tête de la compétition mondiale. Cette position ne constitue pas une rupture improvisée : depuis son retour à la Maison-Blanche, son administration présente explicitement la domination américaine dans l’IA comme un objectif économique et de sécurité nationale.

En juin, une directive présidentielle a ainsi demandé aux administrations concernées d’accélérer l’adoption des modèles les plus avancés dans la défense et le renseignement. Une autre décision a favorisé les mécanismes volontaires de sécurité tout en écartant la création d’un régime obligatoire général de licence préalable pour développer ou publier un modèle.

Le désaccord est donc plus subtil qu’un affrontement entre partisans et adversaires de la sécurité.

Les dirigeants d’Anthropic et d’OpenAI redoutent notamment que les capacités cyber, l’autonomie croissante des agents ou de futurs mécanismes d’auto-amélioration progressent plus rapidement que les moyens de contrôle. Washington regarde le même problème à travers une autre menace : qu’un ralentissement américain offre un avantage technologique à la Chine.

Deux conceptions de la sécurité se retrouvent face à face.

Pour les uns, la priorité consiste à éviter qu’un système devienne trop puissant avant d’être suffisamment maîtrisé. Pour l’administration Trump, la sécurité nationale suppose aussi que les États-Unis restent technologiquement devant leurs concurrents.

La difficulté est que personne ne possède aujourd’hui de compteur universel indiquant à quel moment il faudrait lever le pied.

À partir de quel niveau de capacité cyber faut-il suspendre un entraînement ? Qui contrôle les évaluateurs ? Comment empêcher un concurrent qui n’accepte pas les mêmes règles de continuer à accélérer ?

C’est probablement là que commence le vrai débat. Le problème n’est plus seulement de savoir jusqu’où l’intelligence artificielle peut progresser. Il est désormais de déterminer qui possède la légitimité — entreprises, gouvernements ou organisme international — pour décider qu’elle progresse trop vite.