Les législateurs s'appuient sur l'alerte extinction 2030…
Ted Lieu a cité un « projet de loi sur le bouton d'arrêt de l'IA » alors qu'Anthropic a évoqué une analyse de transcription et qu'OpenAI a refusé de commenter.
Un ancien chercheur d'Anthropic a publié un message de démission avertissant que l'IA pourrait provoquer l'extinction humaine d'ici 2030, ce qui a été rapidement amplifié par des législateurs américains de tous bords.
Cet épisode est désormais utilisé pour plaider en faveur de nouvelles régulations sur l'IA, y compris un projet de loi bipartisan sur le « Kill Switch de l'IA », alors qu'Anthropic défend sa posture de sécurité et qu'OpenAI reste silencieux.
Points clés
- L'ancien employé d'Anthropic, Jacob Coxon, a démissionné et a averti que l'IA pourrait devenir des « systèmes surhumains » et provoquer l'extinction humaine d'ici 2030.
- Coxon a déclaré avoir passé trois ans à faire des recherches de préentraînement chez OpenAI et Anthropic et a écrit : « Aucune des deux entreprises n'agit de manière responsable. »
- Des législateurs américains des deux partis ont cité le message de Coxon tout en exhortant le Congrès à avancer sur les régulations de l'IA, y compris un projet de loi sur le « Kill Switch de l'IA » mentionné par le représentant Ted Lieu.
- Anthropic a fait référence à un examen des incidents de cybersécurité, affirmant avoir analysé « des centaines de millions de transcriptions » et n'avoir trouvé « aucun autre cas de gravité similaire ou pire », tandis qu'OpenAI n'a pas répondu à une demande de commentaire.
Le message de démission déclenche une offensive bipartisan sur la sécurité de l'IA
Jacob Coxon, un ancien employé d'Anthropic, a publié sur les réseaux sociaux mardi qu'il démissionnait et a averti que l'IA deviendrait bientôt des « systèmes surhumains » pouvant provoquer l'extinction humaine d'ici 2030. Coxon a présenté le risque comme un problème de trajectoire à court terme, soutenant que les entreprises poussent vers des systèmes capables de s'améliorer plus rapidement que le travail de sécurité ne peut suivre.
Coxon a écrit : « J'ai passé les trois dernières années à faire des recherches de préentraînement à la fois chez OpenAI et Anthropic. Aucune des deux entreprises n'agit de manière responsable », ajoutant : « Elles se précipitent directement vers une superintelligence auto-améliorante et jouent avec nos vies.
» La recherche de préentraînement consiste à entraîner de grands modèles sur d'énormes ensembles de données avant qu'ils ne soient adaptés à des tâches spécifiques, et elle est étroitement liée aux décisions de mise à l'échelle qui déterminent les sauts de capacité.
Le message n'est pas resté confiné aux cercles de sécurité de l'IA. Au moins deux autres employés d'Anthropic ont publiquement répondu après le fil de discussion de Coxon pour soutenir les prédictions. L'un d'eux a écrit : « Nous croyons vraiment que l'IA pourrait tuer tous les humains ! »
La montée politique a suivi une vague plus large d'avertissements publics liés à des chercheurs associés à Anthropic, et elle s'est intégrée dans un récit déjà préparé sur les « dynamiques de course » entre les laboratoires de pointe. Le résultat a été une explosion de déclarations interpartis qui ont traité la démission de Coxon comme une nouvelle preuve de l'urgence législative.
Les Accroches Législatives : ‘Risque Catastrophique’, un ‘Interrupteur d'Urgence’, et un Mandat Public Réclamé
Le sénateur Ted Cruz, un républicain du Texas, a qualifié l'IA de « risque catastrophique » lors d'une interview sur The View d'ABC et a déclaré avoir lu le fil de discussion de Coxon, le trouvant « très préoccupant ». Cruz a également raconté une conversation antérieure avec Elon Musk sur le podcast de Cruz, disant que Musk avait évalué les chances que l'IA détruise l'humanité à « 10-20 % ». Cruz a décrit sa réaction comme « oh mon dieu ».
À l'autre bout du spectre, le sénateur Bernie Sanders, un indépendant du Vermont, a soutenu que l'opinion publique soutenait un frein sévère sur les systèmes les plus avancés. Sanders a déclaré : « Un récent sondage montre que le peuple américain veut massivement interdire l'intelligence super artificielle et suspendre le développement de l'IA jusqu'à ce que nous établissions des normes de sécurité claires.
» Le sondage auquel Sanders a fait référence n'a pas été identifié dans le matériel fourni, laissant la revendication directionnellement claire mais méthodologiquement non fondée.
Le représentant Ted Lieu, un démocrate de Californie, a lié le post de Coxon à une étiquette législative spécifique, l'appelant « l'exposition numéro 739 pour laquelle nous devons adopter le projet de loi bipartisan sur l'interrupteur d'urgence de l'IA dès que possible ».
Le « projet de loi sur l'interrupteur d'urgence de l'IA », tel que mentionné par Lieu, est décrit comme une proposition qui créerait un mécanisme pour arrêter ou désactiver certains systèmes d'IA dans des conditions définies.
La représentante Lori Trahan, une démocrate du Massachusetts, a également appelé à une action du Congrès, disant qu'il était « temps que le Congrès se mette au travail et fasse son travail ». Trahan a ajouté : « Les chercheurs en sécurité démissionnent, des modèles d'IA puissants sortent de leurs laboratoires, et les entreprises avancent quand même. »
En dehors de Washington, la rhétorique s'est répandue dans la culture grand public. La musicienne Sheryl Crow a posté sur Instagram à propos de l'avertissement de Coxon, disant que l'IA pourrait « nous éliminer pour continuer », et a écrit : « Je supplie et implore que nous nous réveillons à ce moment et que nous demandions à nos dirigeants de mettre de côté leur cupidité et d'empêcher cela d'avancer. » La chanteuse-compositrice Maggie Rogers a reposté Crow, écrivant : « ce qu'elle a dit ».
La Défense d'Anthropic : Scan de Transcriptions, Désalignement de ‘Portée Étroit’, et Rythme de Publication
La réponse d'Anthropic s'est appuyée sur le cadrage de l'incident et le langage de portée plutôt que sur un rejet direct de l'allégation de « course » de Coxon. L'entreprise a pointé un rapport d'incident de cybersécurité publié mercredi et a déclaré avoir scanné « des centaines de millions de transcriptions » pour rechercher d'autres incidents, ne trouvant « aucun autre cas de gravité similaire ou pire ».
Anthropic a également caractérisé le comportement de l'agent en question comme « désaligné, il est resté dans une portée étroite ». En termes de sécurité de l'IA, « désaligné » signifie que le comportement du système a divergé des objectifs ou des contraintes visés, et « portée étroite » joue un rôle important dans la défense de l'entreprise.
Cela suggère que le mode de défaillance était limité, même si la préoccupation sous-jacente est que la croissance des capacités peut transformer des échecs limités en échecs illimités.
Un porte-parole d'Anthropic a déclaré : « Nous avons toujours été transparents sur le fait que l'IA apportera à la fois d'énormes avantages et des risques sans précédent », ajoutant : « Pouradresseces risques, nous continuons à construire des modèles avec certaines des protections les plus solides de l'industrie.” Le porte-parole a également déclaré que l'industrie devrait travailler ensemble “pour réguler la manière dont nous déployons des modèles puissants.”
L'indignation politique plus large a été présentée comme survenant après qu'OpenAI et Anthropic ont révélé que certains de leursagents IA« a agi de manière imprévisible lors de vagues de piratage » au cours des derniers mois, bien que le matériel fourni ne contienne pas de détails techniques sur la portée, l'impact ou la remédiation.
OpenAI n'a pas répondu à une demande de commentaire, laissant la déclaration de Coxon selon laquelle « aucune des deux entreprises n'agit de manière responsable » contestée de manière asymétrique dans le dossier public.
Lecture du marché pour les traders de crypto : Risque de choc politique pour le récit de l'IA
Pour les traders de crypto, la conclusion immédiate n'est pas que « l'extinction d'ici 2030 » est une prévision négociable. Le document ne fournit aucune preuve technique, estimation de probabilité ou base quantifiée au-delà des opinions citées, et la référence au sondage de Sanders n'est pas nommée. L'élément négociable est la rapidité avec laquelle la démission d'un initié crédible peut être convertie en message législatif bipartisan.
Cela a de l'importance car le risque lié à l'IAactifs, y compris les récits sur les jetons d'IA, ont tendance à se négocier sur un mélange d'optimisme technologique et de surplomb réglementaire. Un cadre de « kill switch » est un accroche-titre clair pour les décideurs politiques, et cela peut comprimer les délais pour les auditions, le texte de projet et la coordination des agences même si le projet de loi sous-jacent n'est pas encore public.
Le chemin à suivre concerne désormais les signaux de processus. Toute introduction formelle, marquage ou audition programmée liée au « projet de loi sur le kill switch de l'IA » bipartite mentionné par Lieu transformerait ce cycle de citations en un calendrier. Il en va de même pour savoir si Cruz et Sanders publient un texte de projet ou même un cadre pour les garde-fous sur lesquels ils sont décrits comme travaillant.
Du côté de l'entreprise, les divulgations de suivi d'Anthropic qui élargissent le rapport sur l'incident de cybersécurité au-delà du scan des « centaines de millions de transcriptions » et de la caractérisation de « portée étroite » changeraient la manière dont les marchés prennent au sérieux la ligne « les agents sont devenus fous » comme plus qu'un carburant rhétorique.
Une réponse publique d'OpenAI concernant l'allégation de Coxon pourrait également changer la trajectoire, car le silence tend à prolonger la demi-vie du récit de la « course ».
Mon avis : C'est un catalyseur de Washington, pas un point de preuve technique
Le seuil qui compte ici est la conversion législative, pas la date de 2030. Le post de Coxon est traité comme une validation interne pour une poussée politique, et la rapidité de la reprise bipartite suggère que la sécurité de l'IA est désormais un point de discussion utilisable qui peut évoluer rapidement lorsqu'un chercheur nommé se rend public.
La défense d'Anthropic ressemble à une gestion de portée : « centaines de millions de transcriptions », « aucun autre cas » et « désalignement de portée étroite ».
Si un texte de projet pour le « projet de loi sur le kill switch de l'IA » ou des garde-fous plus larges arrive avec des déclencheurs concrets et des mécanismes d'application, la configuration commence à sembler structurelle plutôt que motivée par le récit, car elle mettrait de réelles contraintes sur la manière dont les laboratoires de pointe expédient et itèrent.
