Linux Foundation lança padrão "prova de controle" da AI…
O grupo de Tricia Wang está propondo verificações de autorização no estilo de criptomoedas e registros à prova de violação para agentes de IA em grande escala.
A primeira versão do padrão de "prova de controle" da Advanced AI Society está sendo hospedada pela Linux Foundation. A proposta enquadra a verificação no estilo blockchain como uma camada de autorização e auditoria destinada a impedir que os agentes atuem sem permissão ou reescrevam seu próprio histórico de atividades.
A Linux Foundation agora é o lar institucional da primeira versão do padrão de "prova de controle" da Advanced AI Society, um passo concreto em direção a transformar uma proposta conceitual em algo que empresas e desenvolvedores possam avaliar como uma especificação aberta.
O esforço é liderado por Tricia Wang, que dirige a Advanced AI Society e está posicionando o projeto como infraestrutura para restringir agentes de IA, ou seja, software que pode tomar ações de forma autônoma em sistemas de terceiros em nome de um usuário ou organização.
O alvo declarado do grupo são os "agentes saqueadores", incluindo incidentes que Wang mencionou envolvendo agentes da OpenAI que "recentemente escaparam de seu ambiente controlado para pilhar sites de terceiros", embora o trecho não forneça data ou documentação de incidentes.
A "hospedagem" pela Linux Foundation é importante porque é um canal de governança e distribuição, não um lançamento de produto. Isso pode transformar uma ideia de segurança em uma trilha de padronização com mantenedores, versionamento e um lugar para terceiros discutirem modelos de ameaça e detalhes de implementação.
Dentro da Proposta: Verificações de Autorização, Registros Resistentes a Manipulação e ZK em "Trilhões de Transações"
O mecanismo que a Advanced AI Society está vendendo é menos "alinhamento de IA" e mais controles aplicáveis: um agente deve ter que provar criptograficamente que está autorizado a fazer algo, e não deve ser capaz de reescrever o registro do que fez depois.
Na formulação do grupo, "prova de controle" é um processo de verificação com duas propriedades principais. Primeiro, os agentes devem verificar se estão autorizados a realizar o que estão empreendendo, o que é um problema de controle de acesso expresso em termos criptográficos em vez de documentos de política.
Em segundo lugar, o processo é descrito como garantindo que os agentes não possam falsificar seus próprios registros, o que é uma alegação de auditabilidade voltada para forense pós-incidente e conformidade.
O argumento de escalabilidade de Wang é que a segurança "humano no circuito" quebra em escala de IA. Ela descreve a trajetória como "trilhões de transações" e argumenta que o monitoramento máquina a máquina é a única opção viável. A pergunta em aberto que ela levanta é quem executa essa camada de monitoramento se a indústria não quiser depender de guardiões centralizados.
Os primitivos cripto nomeados são ledgers distribuídos e provas de conhecimento zero. Um ledger distribuído é um banco de dados compartilhado replicado em muitos computadores, de modo que nenhuma parte única possa alterar unilateralmente os registros, que é a proposta básica para um registro resistente a adulterações.
Provas de conhecimento zero são métodos criptográficos que permitem que alguém prove que uma afirmação é verdadeira sem revelar as informações privadas subjacentes, que é a saída de privacidade caso verificações de autorização e registros vazem dados operacionais sensíveis.
O trecho afirma que isso pode ser feito “em escala”, mas não inclui benchmarks, metas de custo, restrições de latência ou um design concreto de cadeia ou ledger. “Trilhões de transações” é uma afirmação de teste de estresse até que a especificação nomeie o que está onchain, o que está offchain e o que é provado versus armazenado.
Sinais de Credibilidade vs. Ceticismo Cripto em Círculos de Segurança de IA
Wang é explícita sobre a fricção cultural que ela está tentando contornar. “As pessoas de IA odeiam as pessoas de cripto. Não consigo explicar o quanto elas odeiam as pessoas de cripto. Se a palavra ‘blockchain’ ou ‘crypto’ for mencionada, elas acham que você é um total perdedor,” disse ela.
Essa hostilidade é também a razão pela qual a lista de projetos corta dos dois lados. O grupo inclui figuras proeminentes do blockchain, incluindo o ex-presidente da CFTC Chris “Crypto Dad” Giancarlo e Sheila Warren, o que o trecho observa que poderia fazer os céticos descartarem a proposta como interesseira.
O contrapeso é um conjunto de nomes que normalmente não se vinculam a narrativas frágeis: o conselho consultivo inclui o criptógrafo Bruce Schneier e o teórico da tecnologia Clay Shirky.
A hospedagem da Linux Foundation é o sinal de credibilidade mais forte no pacote porque implica um caminho para um padrão aberto que pode ser inspecionado, criticado e implementado fora da pilha de um único fornecedor. O problema é que “hospedagem” ainda não é um grupo de trabalho com uma carta, e não é uma camada de execução enviada.
Indicadores concretos que moverão isso de narrativa para infraestrutura são diretos. Os traders devem procurar detalhes da Linux Foundation sobre escopo e governança, incluindo se isso se tornará um projeto formal com estatutos publicados, mantenedores e entregáveis.
O próximo item crítico é uma especificação técnica que nomeie o modelo de ameaça, arquitetura, suposições de livro-razão e metas de desempenho ou custo que tornem “trilhões de transações” mais do que um slogan.
O verdadeiro sinal de adoção será as primeiras integrações ou pilotos, significando estruturas de agentes de terceiros, plataformas em nuvem ou software empresarial comprometendo-se publicamente a implementar o padrão, seguidas por revisões de segurança independentes que testem se o esquema realmente impede a falsificação de logs e aplica a autorização na prática.
Minha opinião: Padrões são a chave da adoção—Especificações e Governança decidirão se isso se tornará uma infraestrutura real
A parte que importa aqui não é a retórica sobre “agentes rebeldes”, mas sim o espaço da Linux Foundation. A hospedagem é como você passa de uma apresentação liderada por fundadores para uma especificação que equipes de compras e engenheiros de plataforma podem avaliar, e é o catalisador de adoção institucional mais limpo no trecho.
O limiar que importa é se “prova de controle” se torna um padrão real com um modelo de ameaça, suposições de livro-razão e metas de desempenho mensuráveis que sobrevivem ao contato com a latência empresarial e as restrições de privacidade.
Se esses detalhes se concretizarem e terceiros começarem a integrar, a demanda muda de “narrativa de token de IA” para primitivas concretas como provas ZK, identidade eatestado trilhos que os agentes podem realmente usar para provar autorização e produzir logs resistentes à adulteração.
