Le danger n’est peut-être plus qu’une intelligence artificielle explique comment fabriquer une arme. Il commence lorsque l’IA devient un collègue scientifique ou un ingénieur supplémentaire dans des équipes qui possèdent déjà le laboratoire, les matériaux, les missiles ou les drones.
C’est probablement la principale leçon du nouveau rapport de sécurité publié par Anthropic. L’entreprise américaine, créatrice de Claude et l’un des principaux concurrents d’OpenAI, affirme avoir identifié puis interrompu, entre décembre 2025 et août 2026, plusieurs opérations dans lesquelles ses modèles ont été utilisés pour des activités sensibles : cyberattaques, surveillance, influence politique, escroquerie, développement d’armes conventionnelles et recherches biologiques à double usage.
Il faut immédiatement poser une limite : Anthropic ne dit pas que Claude a fabriqué une arme biologique. Et les cas décrits ne permettent pas davantage d’affirmer qu’une intelligence artificielle aurait transformé des utilisateurs inexpérimentés en spécialistes capables de produire un agent pathogène.
Ce que révèle le rapport est plus subtil.
Et peut-être plus préoccupant.
Des recherches biologiques qui franchissent une zone grise
Anthropic considère le détournement de modèles d’IA à des fins biologiques comme l’un des risques les plus graves liés aux modèles de frontière.
Pendant longtemps, l’entreprise estimait que ses modèles restaient trop limités pour apporter une aide réellement déterminante à un scientifique expérimenté souhaitant mener une recherche biologique dangereuse. Elle estime aujourd’hui ne plus pouvoir apporter la même garantie concernant les générations les plus récentes de modèles.
Son rapport décrit notamment cinq cas de recherches biologiques sensibles.
L’un concerne un projet relatif au **virus chikungunya**. Selon Anthropic, des chercheurs ont eu recours à Claude dans le cadre d'un programme comportant des travaux de type « gain de fonction », c'est-à-dire susceptibles d'étudier ou de modifier certaines caractéristiques biologiques d'un virus.
Dans le cas rapporté, les travaux portaient notamment sur des propriétés susceptibles d'affecter la transmission ou l'échappement immunitaire.
L'accès aurait été obtenu depuis une région où les services d'Anthropic étaient normalement restreints, grâce à un intermédiaire permettant de contourner ces limitations. L'entreprise a finalement bloqué les comptes concernés.
Un deuxième dossier concerne des recherches sur la grippe aviaire et son adaptation aux mammifères.
Là encore, prudence indispensable : Anthropic ne conclut pas qu'un chercheur voulait créer une arme biologique. Certaines recherches sur l'évolution des virus constituent précisément une composante normale de la prévention des épidémies et du développement de vaccins.
C'est toute la difficulté du « dual use », le double usage.
Une expérience permettant de mieux comprendre pourquoi un virus devient dangereux peut contribuer à protéger des populations. La même connaissance peut théoriquement être détournée.
Le véritable problème : reconnaître l'intention
Les systèmes de sécurité des IA sont généralement conçus pour bloquer certaines catégories de demandes manifestement dangereuses. Mais que se passe-t-il lorsqu'un utilisateur ne demande jamais directement : « comment fabriquer une arme biologique ? »
Il peut solliciter séparément une analyse génétique, une interprétation d'expérience, un morceau de code, une bibliographie scientifique, une simulation ou la rédaction d'un protocole.
Chaque demande, examinée isolément, peut paraître légitime.
Le risque apparaît lorsque ces dizaines ou centaines d'interactions sont réassemblées.
Anthropic souligne justement que certains acteurs apprennent à contourner les protections en divisant leurs projets en tâches successives ou en utilisant plusieurs modèles. La sécurité d'un chatbot ne peut donc plus uniquement reposer sur la détection d'une question interdite.
Elle doit tenter de comprendre le projet global auquel participe l'IA. C'est un changement de paradigme.
Des missiles, des drones et des systèmes militaires
Dans le domaine des armes conventionnelles, les observations d'Anthropic sont plus concrètes.
L'entreprise affirme avoir découvert plusieurs opérations dans lesquelles Claude était utilisé comme outil d'ingénierie, d'analyse ou de développement.
En Russie, des utilisateurs auraient notamment travaillé sur des technologies permettant de coordonner des essaims de drones autonomes.
En Chine, Claude aurait été sollicité pour concevoir ou documenter des systèmes liés à la lutte anti-torpilles et pour effectuer des recherches sur des armes à énergie dirigée.
Le dossier le plus spectaculaire vient cependant du Yémen.
Des utilisateurs localisés dans une région contrôlée par les Houthis auraient utilisé Claude pour travailler sur des technologies de guidage de roquettes et de missiles.
Selon Anthropic, le groupe avait développé un environnement de simulation hors ligne permettant de tester certains composants de son système.
Un essai réel aurait ensuite été mené. Il semble cependant avoir échoué.
Après le test, les utilisateurs seraient revenus interroger Claude afin de comprendre les causes possibles de cet échec. Anthropic affirme avoir bloqué les comptes concernés.
L'Associated Press, qui a examiné le dossier, souligne toutefois qu'il n'existe aucune preuve permettant d'affirmer que Claude ait permis aux utilisateurs de produire une arme opérationnelle.
Cette nuance est capitale. Car entre « utiliser une IA dans un programme militaire » et « l'IA a construit un missile », il existe un gouffre.
L'IA devient un membre de l'équipe
Mais c'est justement ici que le sujet devient intéressant.
Le risque n'est peut-être pas celui que l'imaginaire collectif avait anticipé.
Pendant plusieurs années, la peur liée aux grands modèles de langage pouvait se résumer par une scène : un individu demande à un chatbot comment fabriquer une bombe et la machine lui fournit une recette.
Ce scénario reste surveillé. Mais les modèles actuels ouvrent une autre possibilité.
Ils peuvent écrire du code, analyser des données, comparer des publications scientifiques, corriger un raisonnement, interpréter un résultat expérimental, générer de la documentation technique, aider à construire des simulations ou proposer différentes solutions à un problème d'ingénierie.
Autrement dit, l'IA n'est plus seulement une encyclopédie. Elle devient progressivement un collaborateur.
Dans le cyberespace, Anthropic parle déjà d'un passage de l'IA « assistant » vers l'IA « orchestrateur ». Les attaquants peuvent utiliser les modèles pour accélérer plusieurs étapes d'une opération, élargir la surface d'attaque et travailler avec moins de ressources humaines.
Dans le domaine militaire ou biologique, la même logique pourrait progressivement s'imposer.
Un ingénieur disposant déjà d'une solide formation n'a pas besoin que Claude lui apprenne les bases de son métier. Il peut en revanche utiliser l'IA comme un ingénieur junior disponible vingt-quatre heures sur vingt-quatre.
Un chercheur expérimenté n'a pas besoin d'un chatbot pour apprendre ce qu'est un virus. Mais il peut lui demander de parcourir une littérature considérable, de rédiger du code, d'analyser des données ou d'identifier rapidement des pistes intéressantes.
Le gain ne réside donc pas nécessairement dans une connaissance radicalement nouvelle. Il se trouve dans la vitesse, l'échelle et la disponibilité permanente de l'expertise.
L'« uplift », la variable qui inquiète Anthropic
Anthropic utilise un terme intéressant : uplift.Il désigne le supplément de capacité qu'une IA apporte à son utilisateur.
L'entreprise cherche ainsi à savoir si Claude a simplement fait gagner quelques minutes à quelqu'un qui aurait accompli exactement la même tâche sans lui, ou s'il lui a permis d'obtenir un résultat plus rapidement, à plus grande échelle ou avec un niveau de sophistication supérieur.
Cette distinction sera probablement centrale dans le débat sur la sécurité des IA. Car une intelligence artificielle n'a pas besoin d'inventer elle-même une arme révolutionnaire pour transformer un rapport de forces.
Faire gagner des semaines de travail à une équipe de chercheurs ou permettre à un groupe disposant de peu d'ingénieurs d'expérimenter davantage peut déjà constituer un avantage important.
Mais attention à ne pas fabriquer une peur artificielle
Il faut aussi résister à la tentation inverse : présenter chaque progrès de l'intelligence artificielle comme l'annonce d'une catastrophe biologique imminente.
Créer ou modifier un agent pathogène réellement dangereux demeure une opération extrêmement complexe.
Il faut des laboratoires, des équipements spécifiques, des matériaux biologiques, des compétences expérimentales et surtout énormément de connaissances tacites que l'on n'apprend pas simplement en discutant avec un chatbot.
Des chercheurs rappellent également que notre connaissance du comportement des virus reste elle-même limitée. Une modification qui semble dangereuse dans une simulation ou dans un modèle informatique peut très bien échouer lorsqu'elle rencontre la réalité biologique.
L'intelligence artificielle ne supprime donc pas toutes les barrières matérielles. Mais elle pourrait en abaisser certaines. Et c'est précisément ce que cherchent désormais à mesurer les entreprises comme Anthropic.
Qui surveille celui qui surveille ?
Le rapport pose enfin une autre question, moins spectaculaire mais tout aussi importante.
Anthropic est simultanément le constructeur du modèle, l'opérateur du service, celui qui détecte les comportements suspects, celui qui enquête sur les incidents et celui qui évalue l'ampleur du risque.
L'entreprise affirme avoir bloqué les comptes concernés, renforcé certaines protections et partagé des informations avec des autorités ou des partenaires lorsque cela était approprié.
Cette transparence mérite d'être soulignée. Mais elle ne remplace pas une expertise indépendante.
Reuters et l'Associated Press ont pu recouper et contextualiser plusieurs éléments du rapport, mais une partie importante des informations techniques, des attributions géographiques et surtout de l'évaluation du rôle exact joué par Claude repose nécessairement sur les données internes d'Anthropic.
À mesure que les modèles deviennent plus puissants, cette question devrait devenir politique : peut-on laisser aux seuls fabricants d'IA la responsabilité de décider quels scientifiques, quelles entreprises ou quelles institutions peuvent accéder aux capacités les plus avancées ?
Anthropic laisse déjà entendre que certaines fonctionnalités biologiques très sensibles pourraient nécessiter demain des niveaux renforcés de vérification ou d'autorisation.
La nouvelle frontière du risque
Les cas décrits dans le rapport Anthropic ne prouvent donc pas que l'intelligence artificielle sache fabriquer seule une arme biologique. Ils montrent quelque chose de probablement plus réaliste.
Claude est déjà suffisamment utile pour que des scientifiques travaillant sur des recherches biologiques sensibles, des spécialistes de la cybersécurité et des ingénieurs impliqués dans des programmes militaires cherchent à l'intégrer dans leur travail.
C'est là que la nature du risque change.
Hier, on se demandait principalement ce qu'une IA accepterait de dire.
Demain, il faudra surtout surveiller ce qu'elle est capable d'aider quelqu'un à faire.
Et la différence est considérable. L'IA ne fabrique peut-être pas encore la bombe. Mais elle commence à pouvoir s'asseoir à la table de l'équipe qui la conçoit.
C’est probablement la principale leçon du nouveau rapport de sécurité publié par Anthropic. L’entreprise américaine, créatrice de Claude et l’un des principaux concurrents d’OpenAI, affirme avoir identifié puis interrompu, entre décembre 2025 et août 2026, plusieurs opérations dans lesquelles ses modèles ont été utilisés pour des activités sensibles : cyberattaques, surveillance, influence politique, escroquerie, développement d’armes conventionnelles et recherches biologiques à double usage.
Il faut immédiatement poser une limite : Anthropic ne dit pas que Claude a fabriqué une arme biologique. Et les cas décrits ne permettent pas davantage d’affirmer qu’une intelligence artificielle aurait transformé des utilisateurs inexpérimentés en spécialistes capables de produire un agent pathogène.
Ce que révèle le rapport est plus subtil.
Et peut-être plus préoccupant.
Des recherches biologiques qui franchissent une zone grise
Anthropic considère le détournement de modèles d’IA à des fins biologiques comme l’un des risques les plus graves liés aux modèles de frontière.
Pendant longtemps, l’entreprise estimait que ses modèles restaient trop limités pour apporter une aide réellement déterminante à un scientifique expérimenté souhaitant mener une recherche biologique dangereuse. Elle estime aujourd’hui ne plus pouvoir apporter la même garantie concernant les générations les plus récentes de modèles.
Son rapport décrit notamment cinq cas de recherches biologiques sensibles.
L’un concerne un projet relatif au **virus chikungunya**. Selon Anthropic, des chercheurs ont eu recours à Claude dans le cadre d'un programme comportant des travaux de type « gain de fonction », c'est-à-dire susceptibles d'étudier ou de modifier certaines caractéristiques biologiques d'un virus.
Dans le cas rapporté, les travaux portaient notamment sur des propriétés susceptibles d'affecter la transmission ou l'échappement immunitaire.
L'accès aurait été obtenu depuis une région où les services d'Anthropic étaient normalement restreints, grâce à un intermédiaire permettant de contourner ces limitations. L'entreprise a finalement bloqué les comptes concernés.
Un deuxième dossier concerne des recherches sur la grippe aviaire et son adaptation aux mammifères.
Là encore, prudence indispensable : Anthropic ne conclut pas qu'un chercheur voulait créer une arme biologique. Certaines recherches sur l'évolution des virus constituent précisément une composante normale de la prévention des épidémies et du développement de vaccins.
C'est toute la difficulté du « dual use », le double usage.
Une expérience permettant de mieux comprendre pourquoi un virus devient dangereux peut contribuer à protéger des populations. La même connaissance peut théoriquement être détournée.
Le véritable problème : reconnaître l'intention
Les systèmes de sécurité des IA sont généralement conçus pour bloquer certaines catégories de demandes manifestement dangereuses. Mais que se passe-t-il lorsqu'un utilisateur ne demande jamais directement : « comment fabriquer une arme biologique ? »
Il peut solliciter séparément une analyse génétique, une interprétation d'expérience, un morceau de code, une bibliographie scientifique, une simulation ou la rédaction d'un protocole.
Chaque demande, examinée isolément, peut paraître légitime.
Le risque apparaît lorsque ces dizaines ou centaines d'interactions sont réassemblées.
Anthropic souligne justement que certains acteurs apprennent à contourner les protections en divisant leurs projets en tâches successives ou en utilisant plusieurs modèles. La sécurité d'un chatbot ne peut donc plus uniquement reposer sur la détection d'une question interdite.
Elle doit tenter de comprendre le projet global auquel participe l'IA. C'est un changement de paradigme.
Des missiles, des drones et des systèmes militaires
Dans le domaine des armes conventionnelles, les observations d'Anthropic sont plus concrètes.
L'entreprise affirme avoir découvert plusieurs opérations dans lesquelles Claude était utilisé comme outil d'ingénierie, d'analyse ou de développement.
En Russie, des utilisateurs auraient notamment travaillé sur des technologies permettant de coordonner des essaims de drones autonomes.
En Chine, Claude aurait été sollicité pour concevoir ou documenter des systèmes liés à la lutte anti-torpilles et pour effectuer des recherches sur des armes à énergie dirigée.
Le dossier le plus spectaculaire vient cependant du Yémen.
Des utilisateurs localisés dans une région contrôlée par les Houthis auraient utilisé Claude pour travailler sur des technologies de guidage de roquettes et de missiles.
Selon Anthropic, le groupe avait développé un environnement de simulation hors ligne permettant de tester certains composants de son système.
Un essai réel aurait ensuite été mené. Il semble cependant avoir échoué.
Après le test, les utilisateurs seraient revenus interroger Claude afin de comprendre les causes possibles de cet échec. Anthropic affirme avoir bloqué les comptes concernés.
L'Associated Press, qui a examiné le dossier, souligne toutefois qu'il n'existe aucune preuve permettant d'affirmer que Claude ait permis aux utilisateurs de produire une arme opérationnelle.
Cette nuance est capitale. Car entre « utiliser une IA dans un programme militaire » et « l'IA a construit un missile », il existe un gouffre.
L'IA devient un membre de l'équipe
Mais c'est justement ici que le sujet devient intéressant.
Le risque n'est peut-être pas celui que l'imaginaire collectif avait anticipé.
Pendant plusieurs années, la peur liée aux grands modèles de langage pouvait se résumer par une scène : un individu demande à un chatbot comment fabriquer une bombe et la machine lui fournit une recette.
Ce scénario reste surveillé. Mais les modèles actuels ouvrent une autre possibilité.
Ils peuvent écrire du code, analyser des données, comparer des publications scientifiques, corriger un raisonnement, interpréter un résultat expérimental, générer de la documentation technique, aider à construire des simulations ou proposer différentes solutions à un problème d'ingénierie.
Autrement dit, l'IA n'est plus seulement une encyclopédie. Elle devient progressivement un collaborateur.
Dans le cyberespace, Anthropic parle déjà d'un passage de l'IA « assistant » vers l'IA « orchestrateur ». Les attaquants peuvent utiliser les modèles pour accélérer plusieurs étapes d'une opération, élargir la surface d'attaque et travailler avec moins de ressources humaines.
Dans le domaine militaire ou biologique, la même logique pourrait progressivement s'imposer.
Un ingénieur disposant déjà d'une solide formation n'a pas besoin que Claude lui apprenne les bases de son métier. Il peut en revanche utiliser l'IA comme un ingénieur junior disponible vingt-quatre heures sur vingt-quatre.
Un chercheur expérimenté n'a pas besoin d'un chatbot pour apprendre ce qu'est un virus. Mais il peut lui demander de parcourir une littérature considérable, de rédiger du code, d'analyser des données ou d'identifier rapidement des pistes intéressantes.
Le gain ne réside donc pas nécessairement dans une connaissance radicalement nouvelle. Il se trouve dans la vitesse, l'échelle et la disponibilité permanente de l'expertise.
L'« uplift », la variable qui inquiète Anthropic
Anthropic utilise un terme intéressant : uplift.Il désigne le supplément de capacité qu'une IA apporte à son utilisateur.
L'entreprise cherche ainsi à savoir si Claude a simplement fait gagner quelques minutes à quelqu'un qui aurait accompli exactement la même tâche sans lui, ou s'il lui a permis d'obtenir un résultat plus rapidement, à plus grande échelle ou avec un niveau de sophistication supérieur.
Cette distinction sera probablement centrale dans le débat sur la sécurité des IA. Car une intelligence artificielle n'a pas besoin d'inventer elle-même une arme révolutionnaire pour transformer un rapport de forces.
Faire gagner des semaines de travail à une équipe de chercheurs ou permettre à un groupe disposant de peu d'ingénieurs d'expérimenter davantage peut déjà constituer un avantage important.
Mais attention à ne pas fabriquer une peur artificielle
Il faut aussi résister à la tentation inverse : présenter chaque progrès de l'intelligence artificielle comme l'annonce d'une catastrophe biologique imminente.
Créer ou modifier un agent pathogène réellement dangereux demeure une opération extrêmement complexe.
Il faut des laboratoires, des équipements spécifiques, des matériaux biologiques, des compétences expérimentales et surtout énormément de connaissances tacites que l'on n'apprend pas simplement en discutant avec un chatbot.
Des chercheurs rappellent également que notre connaissance du comportement des virus reste elle-même limitée. Une modification qui semble dangereuse dans une simulation ou dans un modèle informatique peut très bien échouer lorsqu'elle rencontre la réalité biologique.
L'intelligence artificielle ne supprime donc pas toutes les barrières matérielles. Mais elle pourrait en abaisser certaines. Et c'est précisément ce que cherchent désormais à mesurer les entreprises comme Anthropic.
Qui surveille celui qui surveille ?
Le rapport pose enfin une autre question, moins spectaculaire mais tout aussi importante.
Anthropic est simultanément le constructeur du modèle, l'opérateur du service, celui qui détecte les comportements suspects, celui qui enquête sur les incidents et celui qui évalue l'ampleur du risque.
L'entreprise affirme avoir bloqué les comptes concernés, renforcé certaines protections et partagé des informations avec des autorités ou des partenaires lorsque cela était approprié.
Cette transparence mérite d'être soulignée. Mais elle ne remplace pas une expertise indépendante.
Reuters et l'Associated Press ont pu recouper et contextualiser plusieurs éléments du rapport, mais une partie importante des informations techniques, des attributions géographiques et surtout de l'évaluation du rôle exact joué par Claude repose nécessairement sur les données internes d'Anthropic.
À mesure que les modèles deviennent plus puissants, cette question devrait devenir politique : peut-on laisser aux seuls fabricants d'IA la responsabilité de décider quels scientifiques, quelles entreprises ou quelles institutions peuvent accéder aux capacités les plus avancées ?
Anthropic laisse déjà entendre que certaines fonctionnalités biologiques très sensibles pourraient nécessiter demain des niveaux renforcés de vérification ou d'autorisation.
La nouvelle frontière du risque
Les cas décrits dans le rapport Anthropic ne prouvent donc pas que l'intelligence artificielle sache fabriquer seule une arme biologique. Ils montrent quelque chose de probablement plus réaliste.
Claude est déjà suffisamment utile pour que des scientifiques travaillant sur des recherches biologiques sensibles, des spécialistes de la cybersécurité et des ingénieurs impliqués dans des programmes militaires cherchent à l'intégrer dans leur travail.
C'est là que la nature du risque change.
Hier, on se demandait principalement ce qu'une IA accepterait de dire.
Demain, il faudra surtout surveiller ce qu'elle est capable d'aider quelqu'un à faire.
Et la différence est considérable. L'IA ne fabrique peut-être pas encore la bombe. Mais elle commence à pouvoir s'asseoir à la table de l'équipe qui la conçoit.