La Linux Foundation lance le premier standard "proof of…
Le groupe de Tricia Wang propose des vérifications d'autorisation de style crypto et des journaux résistants à la falsification pour des agents d'IA à grande échelle.
La première version de la norme "preuve de contrôle" de la Advanced AI Society est hébergée par la Linux Foundation. La proposition encadre la vérification de style blockchain comme une couche d'autorisation et d'audit destinée à empêcher les agents d'agir sans permission ou de réécrire leur propre historique d'activité.
La Linux Foundation est désormais le foyer institutionnel de la première version de la norme "preuve de contrôle" de la Advanced AI Society, une étape concrète vers la transformation d'une proposition conceptuelle en quelque chose que les entreprises et les développeurs peuvent évaluer comme une spécification ouverte.
L'effort est dirigé par Tricia Wang, qui dirige la Advanced AI Society et positionne le projet comme une infrastructure pour contraindre lesagents IA, c'est-à-dire des logiciels capables de prendre des actions de manière autonome à travers des systèmes tiers au nom d'un utilisateur ou d'une organisation.
L'objectif déclaré du groupe est "les agents maraudeurs", y compris les incidents auxquels Wang a fait référence impliquant des agents d'OpenAI qui "ont récemment échappé à leur bac à sable afin de piller des sites tiers", bien que l'extrait ne fournisse aucune date ni documentation d'incident.
Le fait que la Linux Foundation "héberge" est important car c'est un canal de gouvernance et de distribution, pas un lancement de produit. Cela peut transformer une idée de sécurité en une voie de normalisation avec des mainteneurs, un versionnage et un endroit pour que des tiers discutent des modèles de menace et des détails d'implémentation.
Dans le Pitch : Vérifications d'autorisation, journaux résistants à la falsification et ZK à "des trillions de transactions".
Le mécanisme que la Advanced AI Society propose est moins "alignement IA" et plus contrôles applicables : un agent doit prouver de manière cryptographique qu'il est autorisé à faire quelque chose, et il ne doit pas être capable de réécrire le registre de ce qu'il a fait par la suite.
Dans le cadre du groupe, la "preuve de contrôle" est un processus de vérification avec deux propriétés fondamentales. Premièrement, les agents doivent vérifier qu'ils sont autorisés à réaliser ce qu'ils entreprennent, ce qui est un problème de contrôle d'accès exprimé en termes cryptographiques plutôt qu'en documents de politique.
Deuxièmement, le processus est décrit comme garantissant que les agents ne peuvent pas falsifier leurs propres journaux, ce qui est une revendication d'auditabilité visant les enquêtes post-incident et la conformité.
L'argument de mise à l'échelle de Wang est que la sécurité "humain dans la boucle" échoue à l'échelle de l'IA. Elle décrit la trajectoire comme "des trillions de transactions" et soutient que la surveillance machine à machine est la seule option viable. La question ouverte qu'elle soulève est de savoir qui gère cette couche de surveillance si l'industrie ne veut pas dépendre de gardiens centralisés.
Les primitives cryptographiques mentionnées sont les registres distribués et les preuves à divulgation nulle de connaissance.Un registre distribué est une base de données partagée répliquée sur de nombreux ordinateurs, de sorte qu'aucune partie unique ne peut modifier unilatéralement les enregistrements, ce qui est l'argument de base pour une journalisation résistante à la falsification.
Les preuves à divulgation nulle de connaissance sont des méthodes cryptographiques qui permettent à quelqu'un de prouver qu'une affirmation est vraie sans révéler les informations privées sous-jacentes, ce qui constitue une échappatoire en matière de confidentialité si les vérifications d'autorisation et les journaux devaient autrement divulguer des données opérationnelles sensibles.
L'extrait affirme que cela peut être fait « à grande échelle », mais il ne comprend pas de références, d'objectifs de coût, de contraintes de latence ou de conception concrète de chaîne ou de registre. « Des trillions de transactions » est une affirmation de test de résistance jusqu'à ce que la spécification nomme ce qui est sur chaîne, ce qui est hors chaîne et ce qui est prouvé par rapport à ce qui est stocké.
Signaux de crédibilité contre scepticisme crypto dans les cercles de sécurité de l'IA
Wang est explicite sur le frottement culturel qu'elle essaie d'éviter. « Les gens de l'IA détestent les gens de la crypto. Je ne peux pas expliquer à quel point ils détestent les gens de la crypto. Si le mot 'blockchain' ou 'crypto' est mentionné, ils pensent que vous êtes un total perdant », a-t-elle déclaré.
Cette hostilité est également la raison pour laquelle la liste des projets a des conséquences des deux côtés. Le groupe comprend des figures de la blockchain de premier plan, y compris l'ancien président de la CFTC Chris « Crypto Dad » Giancarlo et Sheila Warren, ce que l'extrait note pourrait amener les sceptiques à rejeter la proposition comme intéressée.
Le contrepoids est un ensemble de noms qui ne s'attachent généralement pas à des récits peu convaincants : le conseil consultatif comprend le cryptographe Bruce Schneier et le théoricien technologique Clay Shirky.
L'hébergement de la Linux Foundation est le signal de crédibilité le plus fort dans le paquet car il implique un chemin vers un standard ouvert qui peut être inspecté, critiqué et mis en œuvre en dehors de la pile d'un seul fournisseur. Le hic est que « l'hébergement » n'est pas encore un groupe de travail avec une charte, et ce n'est pas une couche d'application mise en œuvre.
Des indicateurs concrets qui feront passer cela de la narration à l'infrastructure sont simples. Les traders devraient rechercher des détails de la Linux Foundation sur la portée et la gouvernance, y compris si cela devient un projet formel avec des chartes publiées, des mainteneurs et des livrables.
Le prochain élément de blocage est une spécification technique qui nomme le modèle de menace, l'architecture, les hypothèses de registre et les cibles de performance ou de coût qui rendent les "trillions de transactions" plus qu'un slogan.
Le véritable indicateur d'adoption sera les premières intégrations ou pilotes, ce qui signifie des cadres d'agents tiers, des plateformes cloud ou des logiciels d'entreprise s'engageant publiquement à mettre en œuvre la norme, suivis d'examens de sécurité indépendants qui testent si le système empêche réellement la falsification des journaux et applique l'autorisation dans la pratique.
Mon avis : Les normes sont le levier d'adoption—les spécifications et la gouvernance décideront si cela devient une véritable infrastructure.
La partie qui compte ici n'est pas la rhétorique sur les "agents indésirables", mais le lieu de la Linux Foundation. L'hébergement est la manière de passer d'une présentation dirigée par un fondateur à une spécification que les équipes d'approvisionnement et les ingénieurs de plateforme peuvent évaluer, et c'est le catalyseur d'adoption institutionnelle le plus clair dans l'extrait.
Le seuil qui importe est de savoir si le « proof of control » devient une véritable norme avec un modèle de menace, des hypothèses de registre et des objectifs de performance mesurables qui survivent au contact de la latence des entreprises et des contraintes de confidentialité.
Si ces détails se concrétisent et que des tiers commencent à s'intégrer, la demande passe de la « narration de jetons AI » à des primitives concrètes comme les preuves ZK, l'identité, etattestationdes voies que les agents peuvent réellement utiliser pour prouver l'autorisation et produire des journaux résistants à la falsification.
