Anthropic annonce avoir interrompu l'utilisation abusive…
Le rapport sur les menaces couvre la période de décembre 2025 à août 2026 et se situe au milieu d'une division politique aux États-Unis concernant le ralentissement de l'IA par rapport à la nécessité de « gagner » avec elle.
Anthropic a déclaré qu'un nouveau rapport sur la menace a identifié et perturbé des tentatives d'utilisation de ses modèles Claude pour des "activités malveillantes" pouvant soutenir le développement d'armes biologiques, y compris cinq études de cas adjacentes aux armes biologiques.
Cette divulgation intervient alors que les dirigeants américains divergent publiquement entre les appels à suspendre ou interdire la "superintelligence" et une poussée concurrente pour accélérer le développement de l'IA pour un avantage stratégique.
Points clés
- Anthropic a déclaré avoir identifié et perturbé des tentatives d'utilisation de Claude pour des "activités malveillantes" pouvant soutenir le développement d'armes biologiques, documentant cinq études de cas adjacentes aux armes biologiques.
- La société a fixé la fenêtre de perturbation pour l'utilisation malveillante de Claude Haiku, Sonnet et Opus de décembre 2025 à août 2026.
- Le même rapport a décrit six cas d'utilisation de Claude pour construire des logiciels pour des armes conventionnelles, y compris des munitions et leurs systèmes de ciblage et de contrôle.
- Anthropic a également lié l'utilisation abusive à l'espionnage cybernétique et aux opérations d'influence, y compris des activités liées à une campagne basée en Russie et à une institution de propagande iranienne.
Anthropic affirme avoir perturbé l'utilisation abusive de Claude adjacente aux armes biologiques à travers cinq études de cas.
Anthropic a déclaré que son dernier rapport sur la menace avait identifié et perturbé des tentatives d'utilisation de ses modèles d'IA Claude pour des "activités malveillantes" pouvant soutenir le développement d'armes biologiques. La société a indiqué que le rapport mettait en lumière "cinq études de cas d'acteurs utilisant nos modèles de manière à pouvoir soutenir le développement d'armes biologiques."
Mécaniquement, un rapport sur la menace est une divulgation périodique de la manière dont une entreprise détecte, enquête et bloque les activités abusives impliquant ses produits.
Dans ce cas, Anthropic a encadré l'utilisation biologique abusive comme "un des risques les plus sérieux des modèles d'IA de pointe", utilisant "de pointe" pour signifier un système hautement capable proche de l'état de l'art qui peut créer de nouveaux risques d'utilisation abusive.
Anthropic a déclaré avoir perturbé l'"utilisation malveillante" de Claude Haiku, Sonnet et Opus entre décembre 2025 et août 2026. Il a également déclaré qu'aucun des cas d'utilisation abusive n'impliquait Claude Fable ou les puissants modèles de la classe Mythos, sauf un cas de distillation, une technique où un modèle plus petit est entraîné pour imiter les sorties d'un modèle plus grand et peut transférer des capacités à moindre coût.
La tension centrale du rapport est l'utilisation duale. Anthropic a déclaré : « Les mêmes informations qui peuvent être utilisées pour développer une arme biologique pourraient également être utilisées pour développer, par exemple, un vaccin ou un remède contre une maladie », et a averti qu'en l'absence de mesures de protection, de telles capacités « pourraient avoir des conséquences catastrophiques ».
Ce que le rapport allègue d'autre : cyberespionnage, propagande, escroqueries, surveillance et logiciels d'armement.
Le rapport d'Anthropic a élargi le cadre de l'utilisation abusive au-delà de la biosécurité dans un ensemble mixte de catégories de sécurité nationale et criminelles. Il a déclaré que Claude avait été utilisé par des acteurs liés à une campagne de cyberespionnage basée en Russie et par une institution de propagande iranienne, plaçant les opérations d'influence aux côtés des activités d'intrusion.
Les opérations d'influence sont des efforts coordonnés pour façonner l'opinion publique ou les résultats politiques, souvent par le biais de propagande et de messages ciblés.
Anthropic a déclaré que les cas qu'il avait détectés au cours des huit derniers mois allaient des fausses applications de rencontres et des escroqueries WiFi d'hôtel à la surveillance conçue pour identifier les dissidents, et il a décrit des abus suspects par des « groupes soutenus par l'État, des criminels, des vendeurs de logiciels espions, des institutions de propagande d'État et des individus motivés politiquement ».
Du côté cyber, Anthropic a déclaré qu'un groupe de hackers dont le travail est cohérent avec le groupe Midnight Blizzard basé en Russie aurait utilisé l'IA pour construire un système qui détectait automatiquement lorsque des logiciels malveillants étaient signalés par des défenses de sécurité et réécrivait le code jusqu'à ce qu'il échappe à la détection.
Midnight Blizzard est un nom de cluster lié à la Russie utilisé par des chercheurs en sécurité pour décrire un ensemble spécifique d'activités de cyberespionnage, et la formulation du rapport signale une attribution qui est suggestive plutôt que définitive.
Le rapport a également nommé le groupe de hackers ShinyHunters et a fait référence à des laboratoires basés en Chine parmi ceux impliqués dans l'activité d'utilisation abusive décrite dans le rapport.
Anthropic a également accusé des entreprises chinoises d'IA d'essayer de reproduire les capacités de Claude, bien que les détails extraits ne précisent pas quels laboratoires ou quelles méthodes de reproduction ont été utilisées au-delà de la mention de la distillation.
Anthropic a également déclaré que le rapport notait six cas où Claude avait été utilisé « pour développer des logiciels pour des armes conventionnelles, y compris des armes à feu, des missiles, des drones armés, des bombes et d'autres munitions, ainsi que les systèmes de ciblage et de contrôle qui les font fonctionner.
» Cela compte car cela déplace la conversation politique de la « sécurité de l'IA » abstraite vers l'habilitation concrète des flux de travail d'armement, ce qui tend à attirer l'attention du gouvernement même lorsque les attributions sous-jacentes sont probabilistes.
L'écran partagé de Washington : la poussée de pause et d'interdiction de Sanders contre le cadre « gagner l'IA » de Trump.
Le rapport est arrivé dans un environnement politique américain qui est maintenant explicitement à double sens. Le sénateur Bernie Sanders a exigé une pause dans le développement de l'IA avancée et a introduit une législation pour interdire l'IA superintelligente, déclarant lors de l'émission Newsnight de la BBC : « Quand les scientifiques vous disent qu'il y a une chance, une chance que cela puisse avoir un impact cataclysmique sur l'humanité, vous devez être un idiot pour ne pas dire, ralentissez. »
Le président Donald Trump a rejeté ce cadre et a soutenu que le risque stratégique va dans l'autre sens. « Si nous ne gagnons pas l'IA, nous allons nous retrouver dans une très mauvaise position », a-t-il déclaré jeudi.
La division est importante pour les marchés car elle maintient le fil d'actualités bruyant sans produire un seul cas de base clair pour les règles.
Les traders qui examinent le sentiment de risque adjacent à l'IA ont tendance à être secoués par des récits alternés, l'un traitant la capacité des modèles de pointe comme une responsabilité en matière de sécurité nationale qui devrait être contrainte, et l'autre considérant la contrainte comme un auto-démérite compétitif.
Le débat est également renforcé par les leaders en matière de sécurité au sein des laboratoires. Le scientifique en chef d'OpenAI, Jakub Pachocki, a écrit le 06 septembre 2026 que l'industrie devrait mettre en œuvre des "ralentissements volontaires" jusqu'à ce que des mesures de protection soient mises en place, ajoutant : "Je suis préoccupé par le fait que personne n'est préparé aux conséquences d'une montée rapide continue de l'intelligence machine."
Signaux à surveiller : mesures de protection, resserrement d'accès, et si le discours sur le "ralentissement" se transforme en règles.
Le premier signal est de savoir si la divulgation d'Anthropic se traduit par des contrôles d'accès plus stricts plutôt que par une simple meilleure détection. La société a déclaré avoir intégré ses conclusions dans ses processus "pour mieux prévenir, détecter et perturber ces activités à l'avenir", et a indiqué avoir partagé des informations avec les autorités et les partenaires de l'industrie lorsque cela était approprié.
Cela indique des opérations itératives, de la surveillance, du blocage et du partage d'informations, et non une solution ponctuelle.
Le deuxième signal est de savoir si la législation proposée par Sanders pour interdire la superintelligence IA passe au-delà de l'introduction dans l'action du comité, des co-sponsors ou des audiences. Dans un environnement à écran partagé, les jalons du processus comptent plus que la rhétorique car ils sont la seule chose qui impose un calendrier.
Le troisième signal est de savoir si d'autres grands laboratoires élargissent leurs propres divulgations liées aux armes biologiques ou resserrent les mesures de protection de manière visible pour les utilisateurs.
Google a déclaré mardi qu'une personne avait tenté d'utiliser Gemini pour obtenir un "guide technique complet et étape par étape pour synthétiser des agents biologiques armés", et des divulgations parallèles peuvent créer un battement de politique même si chaque cas individuel est présenté comme un "tentative" d'utilisation abusive.
Un quatrième signal, plus technique, est de savoir si le transfert de capacité via distillation devient un axe plus important. Anthropic a déclaré qu'aucun des cas d'utilisation abusive n'impliquait Claude Fable ou des modèles de classe Mythos, sauf un cas de distillation, ce qui rappelle que restreindre le modèle supérieur ne restreint pas nécessairement la capacité en aval si des modèles plus petits peuvent être formés pour l'imiter.
Mon analyse : le commerce à court terme est la volatilité narrative, pas un seul interrupteur réglementaire.
La partie qui décide de cette histoire n'est pas de savoir si un rapport choque Washington au point d'imposer une interdiction. C'est de savoir si des divulgations répétées et opérationnellement spécifiques d'utilisation abusive poussent les laboratoires vers un accès et une surveillance plus stricts par défaut, car c'est le chemin de la moindre résistance lorsque les législateurs sont divisés entre "ralentir" et "gagner l'IA".
Le seuil qui compte est procédural, pas rhétorique : si les "ralentissements volontaires" et les propositions de pause et d'interdiction commencent à se transformer en audiences, règles d'accès et attentes de reporting applicables, le fil d'actualité sur la politique de l'IA cesse d'être un catalyseur de sentiment et commence à être une contrainte sur la manière dont les modèles de pointe sont expédiés et qui peut les utiliser.
C'est à ce moment que le risque passe des gros titres à la surface des produits et, par extension, à une appétence au risque plus large.
