Chefe de tecnologia da UE afirma que AI Act controla IA…
Henna Virkkunen disse que a Comissão está avaliando as respostas de segurança e proteção de mais de 30 empresas de IA contatadas no final de agosto.
A chefe de tecnologia da UE, Henna Virkkunen, disse que a Europa está "bem equipada" para lidar com os riscos de segurança e proteção de modelos de IA altamente capazes, argumentando que as regras do bloco podem lidar com os medos de agentes de IA "desonestos" agindo além do controle humano.
Seus comentários surgem enquanto a Comissão Europeia revisa as informações de segurança e proteção que solicitou no final de agosto a mais de 30 empresas de IA.
Henna Virkkunen, a chefe de tecnologia da União Europeia, está se apoiando fortemente na Lei de Inteligência Artificial da União Europeia como um quadro pronto para a segurança de modelos de ponta, posicionando-a como capaz de lidar com os cenários de "agentes desonestos" que agora impulsionam o debate internacional.
"Vemos que a segurança e proteção de modelos muito capazes é um tópico muito quente internacionalmente e nós, na Europa, estamos bem equipados para isso", disse Virkkunen em uma entrevista à Reuters na sexta-feira.
Seu argumento é procedural, não filosófico. Virkkunen apontou para o design baseado em risco da Lei de IA da UE, onde as obrigações aumentam com o nível de risco, e enfatizou que a lei é destinada a cobrir todo o ciclo de vida dos modelos de IA, em vez de apenas seu lançamento inicial. "Temos nossa Lei de IA em vigor e a Lei de IA cobre todo o ciclo de vida desses modelos", disse ela.
Virkkunen também rebateu uma crítica familiar de círculos da indústria e da política de que as regras da Europa já estão atrasadas. Ela descartou as alegações de que as regras de IA do bloco estão desatualizadas, observando que a Lei de IA foi adotada há dois anos.
A postura da Comissão aqui é importante para a automação adjacente ao cripto porque "agentes desonestos" não é mais apenas uma frase de segurança de laboratório.
Está sendo cada vez mais usada como uma abreviação para sistemas autônomos que podem tomar ações, encadear ferramentas e persistir de maneiras que excedem ou evitam o controle humano, que é exatamente o tipo de capacidade que começa a se cruzar com pagamentos, operações de custódia e fluxos de trabalho de negociação impulsionados por IA, uma vez que os agentes são autorizados a tocar em trilhos do mundo real.
Bruxelas está revisando as respostas de segurança de mais de 30 empresas de IA.
Os comentários de Virkkunen estão surgindo no meio de um ciclo ativo de coleta de informações. A Comissão Europeia solicitou informações no final de agosto a mais de 30 empresas de IA não identificadas, pedindo detalhes sobre suas medidas de segurança e proteção. Virkkunen disse que agora está avaliando as respostas.
A Comissão não identificou quais empresas receberam a solicitação e não divulgou o que as respostas continham ou se há planos para quaisquer etapas de acompanhamento. Isso deixa o mercado com um sinal relevante para a aplicação, mas ainda não com os detalhes que permitiriam aos traders avaliar quais empresas ou famílias de modelos provavelmente enfrentarão mais atritos sob os requisitos de maior risco da Lei de IA.
Virkkunen enquadrou a abordagem da Comissão como técnica e iterativa, com os reguladores fornecendo orientações às empresas sobre como avaliar seus modelos. Ela disse que essa orientação está levando em conta recomendações de 60 especialistas em IA, um detalhe que parece uma tentativa de antecipar a crítica de que um quadro legislativo não pode acompanhar as capacidades de modelos em rápida evolução.
O contexto político é um crescente foco global em "rogue"Agentes de IA," com o debate intensificado por referências a incidentes na OpenAI e na Anthropic. Os incidentes específicos não foram detalhados, o que dificulta a correlação da revisão atual da Comissão a um conjunto definido de modos de falha ou modelos de ameaça.
Um marcador concreto de como a conversa sobre segurança está sendo moldada veio do CEO da Anthropic, Dario Amodei, que anteriormente alertou que a velocidade do desenvolvimento da IA pode “ultrapassar nossa capacidade de entender e controlar esses sistemas.” A mesma discussão apontou para a autoaperfeiçoamento recursivo, onde a IA ajuda a construir sistemas de IA mais capazes, como um motor de aceleração que pode superar a supervisão.
Os próximos sinais são procedimentais. Os traders devem observar se a Comissão divulga quais “mais de 30” empresas foram contatadas, ou publica quaisquer descobertas agregadas que efetivamente estabeleçam um padrão de práticas de segurança em todo o setor.
Um segundo indicativo será qualquer orientação de acompanhamento sobre a avaliação de modelos que aperte as expectativas sob a cobertura do ciclo de vida da Lei de IA e os requisitos baseados em risco. O terceiro é definicional: esclarecimento público sobre quais cenários de risco de “agentes de IA fora de controle” os reguladores estão priorizando, dada a atual falta de detalhes sobre as referências da OpenAI e da Anthropic.
Minha leitura: A Europa está sinalizando uma postura de aplicação antes de nomear nomes.
Os comentários estão sendo interpretados como uma forma de tranquilização, mas o detalhe mais relevante para o mercado é que a Comissão já está coletando divulgações de segurança e proteção de mais de 30 empresas de IA, que é o tipo de informação que você reúne quando deseja comparar práticas em um setor e decidir onde a orientação termina e a supervisão começa.
O limiar que importa é se esta revisão produz resultados publicáveis, seja na forma de destinatários nomeados, descobertas agregadas ou diretrizes de avaliação de modelos que se tornam uma linha de base de conformidade de fato sob a Lei de IA.
Se isso acontecer, "agentes rebeldes" deixa de ser uma categoria de risco retórica e começa a funcionar como um padrão operacional em torno do qual as empresas de IA, e quaisquer usuários subsequentes que integrem agentes em fluxos de trabalho financeiros, terão que se estruturar.
