Zuckerberg a conseillé à Trump de renoncer à un modèle AI
La Maison Blanche évalue toujours les tests de modèle pré-déploiement par rapport à un cadre de notation volontaire proposé par David Sacks.
Le PDG de Meta, Mark Zuckerberg, a déclaré au président Donald Trump lors d'un appel téléphonique direct la semaine du 17 août qu'il s'opposait à un régulateur national de l'IA proposé, inspiré de la FINRA, selon un haut responsable de la Maison Blanche familier avec la conversation.
Le concept reste à l'étude alors que les responsables pèsent un régime de test pré-lancement contre un système de notation volontaire de type Motion Picture Association.
Principaux enseignements
- Mark Zuckerberg s'est opposé à un régulateur national de l'IA inspiré de la FINRA lors d'un appel téléphonique direct avec le président Donald Trump durant la semaine du 17 août, selon un haut responsable de la Maison Blanche directement familier avec la conversation.
- Le plan mettrait en place un organe dirigé par l'industrie pour examiner les modèles avancés d'IA et les tester pour des risques avant un déploiement plus large.
- Les responsables de la Maison Blanche pèsent cette approche de test pré-déploiement contre un cadre de notation volontaire de type Motion Picture Association proposé par David Sacks.
- L'appel de Zuckerberg n'a pas mis fin à l'idée du régulateur, et le concept reste actif à l'intérieur de la Maison Blanche.
L'appel privé de Zuckerberg met un frein au gardien de l'IA de style FINRA
Mark Zuckerberg a utilisé une ligne directe avec le président Donald Trump pour s'opposer à une proposition qui mettrait un test pré-déploiement devant les lancements d'IA de pointe.
L'appel a eu lieu la semaine du 17 août, et Zuckerberg a dit à Trump qu'il s'opposait à l'idée d'un régulateur national de l'IA inspiré de l'Autorité de régulation de l'industrie financière (FINRA), selon un haut responsable de la Maison Blanche directement familier avec la conversation.
La démarche est intervenue tard dans un processus qui avait déjà dépassé le brainstorming interne. Des hauts responsables de la Maison Blanche avaient présenté le concept de régulateur industriel de type FINRA à Trump et séparément à de grandes entreprises d'IA, y compris Meta, OpenAI et Anthropic, à la mi-août, a déclaré le même responsable.
Une personne familière avec le dossier a déclaré que Trump avait initié l'appel à Zuckerberg. Cette personne a également déclaré que Zuckerberg n'avait pas demandé à Trump de changer sa position outright, mais a soutenu que toute personne que la Maison Blanche pourrait nommer à un tel organe devrait refléter l'approche douce de Trump envers l'IA. Meta a refusé de fournir une déclaration, et le rapport ne décrit pas la réaction de Trump ni si son avis a évolué.
Le point clé pour les marchés est que l'appel a créé des frictions sans clore le dossier. Le concept de régulateur de style FINRA reste à l'étude au sein de la Maison Blanche, et un porte-parole de la Maison Blanche a formulé la posture de l'administration comme suit : « L'administration Trump s'engage à équilibrer innovation et sécurité dans l'élaboration des politiques en matière d'IA. »
À l'intérieur de l'analogie FINRA : Un SRO d'IA pour les tests de risque de modèle avant déploiement
La proposition en débat s'inspire de la structure de la FINRA, l'organisation d'autorégulation (SRO) privée et dirigée par l'industrie qui rédige et applique des règles pour les courtiers-négociants américains sous la supervision de la Securities and Exchange Commission.
En pratique, la FINRA est financée par les cotisations des membres, dirigée par un conseil d'administration comprenant des représentants des entreprises membres, et fonctionne avec un examen des modifications de règles par la SEC.
Un organisme d'IA modélisé sur le modèle de la FINRA appliquerait ce modèle « dirigé par l'industrie, adjacent au gouvernement » aux risques de modèle de pointe. Les responsables de la Maison Blanche envisagent une organisation indépendante qui examine les modèles d'IA avancés et les teste pour détecter d'éventuels risques avant qu'ils ne soient déployés plus largement.
Le mécanisme est important car ce n'est pas seulement un document de normes. Les tests de modèle avant déploiement sont une contrainte de débit par conception : un modèle est évalué par rapport à un cadre de risque avant une large diffusion, plutôt qu'après que des incidents obligent à une réponse en patchwork.
L'urgence politique au sein de l'administration est liée à la capacité d'action et à la cybersécurité. Les responsables ont évalué le risque queagents IA, de plus en plus capable de naviguer sur le web, d'utiliser des logiciels et d'écrire du code avec une supervision humaine limitée, pourrait être utilisé par des acteurs hostiles pour identifier des vulnérabilités ou automatiser des cyberattaques plus rapidement que les protections existantes.
Le rapport fait également référence à « une série d'incidents très médiatisés » au cours desquels des agents ont échappé au contrôle humain, mais ne nomme pas les incidents ni ne fournit de dates.
Le soutien à l'analogie avec la FINRA est venu de Demis Hassabis, le scientifique lauréat du prix Nobel de Google DeepMind.
Hassabis a suggéré dans un essai de juillet que les États-Unis établissent un nouveau « organisme de normalisation » inspiré de la FINRA pour gérer les risques liés à l'IA, tels que les menaces émergentes en matière de cybersécurité, et il a informé des responsables de la Maison Blanche sur ce concept durant l'été, selon un responsable de l'administration au courant de la question. Google n'a pas répondu à une demande de commentaire.
Il existe un décalage inhérent que les critiques peuvent exploiter. La FINRA est un régulateur de première ligne pour les intermédiaires en valeurs mobilières, mais elle a peu d'implication dans l'approbation de nouveaux produits d'investissement.
Un SRO d'IA qui fonctionne efficacementvétérinairesles nouveaux modèles avant leur sortie seraient plus proches d'une porte de produit que la FINRA ne l'est aujourd'hui, même s'ils sont financés et dotés de personnel par l'industrie.
Deux chemins concurrents : tests avant la sortie contre un système de notation volontaire de style MPA
Des responsables de la Maison Blanche pèsent deux philosophies de gouvernance distinctes, selon un responsable de l'administration : un régulateur de style FINRA avec des tests avant la sortie, ou un groupe industriel volontaire inspiré de la Motion Picture Association (MPA), une approche proposée par David Sacks.
Sacks a présenté l'approche de style régulateur comme un problème de goulet d'étranglement plutôt qu'un problème de normes. Il a critiqué le concept de régulateur gouvernemental comme étant « un DMV pour l'IA » où les modèles « se mettent en file d'attente, attendant de passer leur test. » La critique est opérationnelle : si l'organisme de test devient le chemin de sortie, alors la file d'attente devient politique.
Dans l'épisode du 21 août du podcast « All-In », Sacks a décrit un système de style MPA qui étiquetait les modèles d'IA de la même manière que les films obtiennent des classifications « R » ou « PG-13 ». Il a soutenu que le but du modèle MPA est de prévenir une réglementation plus lourde : « Ce que la MPA a fait alors, c'est promouvoir des normes qui ont ensuite empêché une action gouvernementale plus intrusive et autoritaire », a-t-il déclaré.
Sacks a déclaré que l'approche bénéficie du soutien d'Elon Musk, mais Musk n'a pas répondu à une demande de commentaire. Le rapport note également que l'élaboration des politiques d'IA de l'administration a déjà connu des revirements de dernière minute : en mai, Sacks a appelé Trump le matin d'une cérémonie de signature prévue et l'a convaincu d'annuler un vaste décret exécutif sur l'IA.
Le positionnement de l'industrie est encore mince en public, ce qui fait partie de la raison pour laquelle cela est négociable en tant que risque de processus plutôt qu'une politique établie. Les plus grandes entreprises d'IA n'ont pas publiquement soutenu ou opposé le plan de régulateur de style FINRA.
Le co-fondateur d'Anthropic, Jack Clark, a posté favorablement sur l'idée sur X en juillet, mais Anthropic a refusé de commenter lorsqu'on lui a demandé sa position. OpenAI et Google n'ont pas répondu aux demandes de commentaire, et Meta a refusé de fournir une déclaration.
Décision encore en attente : Quel signal indiquerait quel cadre est gagnant
Aucun calendrier n'a été spécifié pour une décision de la Maison Blanche choisissant entre le concept de régulateur de style FINRA et le groupe volontaire de style MPA, laissant le marché lire des signaux plutôt que des dates.
Le signal le plus clair serait une annonce formelle qui s'engage soit à des tests pré-déploiement, soit à un régime de notation volontaire, car les deux voies impliquent des frictions par défaut différentes pour les lancements de modèles de pointe.
Un deuxième signal est de savoir si les grands laboratoires d'IA passent de non-réponses à des endorsements explicites ou à une opposition, en particulier après les aperçus de mi-août à Trump et à des entreprises telles que Meta, OpenAI et Anthropic.
La posture publique de Sacks est un autre indicateur vivant. S'il continue à promouvoir l'approche de style MPA et répète les affirmations de soutien de Musk, une confirmation ou un démenti de Musk clarifierait si cette coalition est réelle ou rhétorique.
L'autre indicateur est le processus, pas la presse. Un nouvel engagement de la Maison Blanche auprès des PDG de la technologie, similaire aux aperçus de mi-août, suggérerait que la proposition est en cours de révision et de test de pression plutôt que mise de côté.
Mon analyse : Pourquoi ce processus de la Maison Blanche est important pour l'appétit au risque en matière d'IA
La partie qui décide cela n'est pas de savoir si Washington veut des « normes ». C'est de savoir si l'administration est prête à mettre une fonction de filtrage devant les lancements, même si elle est financée par l'industrie et nominalement dirigée par l'industrie.
L'appel de Zuckerberg ressemble à une pression de lobbying en fin de course, pas à un retournement de politique, car le concept de style FINRA est resté en vie après qu'il ait soulevé des objections directement avec Trump.
Le seuil qui compte est de savoir si les tests pré-déploiement deviennent le chemin de lancement par défaut ou restent une étiquette volontaire. Si la Maison Blanche opte pour un testeur de type SRO sous supervision gouvernementale, le marché évaluera des cycles d'itération plus lents et une surface de conformité plus grande pour les laboratoires de pointe et pour les récits d'agents on-chain qui dépendent d'un expédition rapide des modèles.
Si elle opte pour un groupe de notation de style MPA, la friction immédiate est plus faible, mais le risque est que les normes « volontaires » se durcissent en exigences de facto une fois que les acheteurs, les assureurs et les régulateurs commencent à s'y référer.
