Jefa de tecnología de la UE asegura que la ley de IA es…
Henna Virkkunen dijo que la Comisión está evaluando las respuestas de seguridad y protección de más de 30 empresas de IA contactadas a finales de agosto.
La jefa de tecnología de la UE, Henna Virkkunen, dijo que Europa está "bien equipada" para abordar los riesgos de seguridad y protección de los modelos de IA altamente capaces, argumentando que las reglas del bloque pueden lidiar con los temores de agentes de IA "deshonestos" que actúan más allá del control humano.
Sus comentarios llegan mientras la Comisión Europea revisa la información de seguridad y protección que solicitó a finales de agosto a más de 30 empresas de IA.
Henna Virkkunen, la jefa de tecnología de la Unión Europea, está apoyándose fuertemente en la Ley de Inteligencia Artificial de la Unión Europea como un marco listo para la seguridad de modelos de frontera, posicionándola como capaz de manejar los escenarios de "agentes deshonestos" que ahora impulsan el debate internacional.
"Vemos que la seguridad y protección de modelos muy capaces es un tema muy candente internacionalmente y nosotros en Europa estamos bien equipados para eso", dijo Virkkunen en una entrevista con Reuters el viernes.
Su argumento es procedural, no filosófico. Virkkunen señaló el diseño basado en riesgos de la Ley de IA de la UE, donde las obligaciones se escalan con el nivel de riesgo, y enfatizó que la ley está destinada a cubrir todo el ciclo de vida de los modelos de IA en lugar de solo su lanzamiento inicial. "Tenemos nuestra Ley de IA en vigor y la Ley de IA cubre todo el ciclo de vida de estos modelos", dijo.
Virkkunen también rechazó una crítica familiar de círculos de la industria y de políticas que dice que las reglas de Europa ya están desactualizadas. Desestimó las afirmaciones de que las reglas de IA del bloque están obsoletas, señalando que la Ley de IA fue adoptada hace dos años.
La postura de la Comisión aquí es importante para la automatización adyacente a las criptomonedas porque "agentes deshonestos" ya no es solo una frase de seguridad de laboratorio.
Se utiliza cada vez más como un término abreviado para sistemas autónomos que pueden tomar acciones, encadenar herramientas y persistir de maneras que superan o evaden el control humano, que es exactamente el tipo de capacidad que comienza a intersectar con pagos, operaciones de custodia y flujos de trabajo de trading impulsados por IA una vez que se permite a los agentes tocar rieles del mundo real.
Bruselas está revisando las respuestas de seguridad de más de 30 empresas de IA
Los comentarios de Virkkunen llegan en medio de un ciclo activo de recopilación de información. La Comisión Europea solicitó información a finales de agosto a más de 30 empresas de IA no identificadas, pidiendo detalles sobre sus medidas de seguridad y protección. Virkkunen dijo que ahora está evaluando las respuestas.
La Comisión no ha identificado qué empresas recibieron la solicitud, y no ha revelado qué contenían las respuestas o si se planean pasos de seguimiento. Eso deja al mercado con una señal relevante para la aplicación, pero aún no con los detalles que permitirían a los traders evaluar qué empresas o familias de modelos probablemente enfrentarán más fricción bajo los requisitos de mayor riesgo de la Ley de IA.
Virkkunen enmarcó el enfoque de la Comisión como técnico e iterativo, con los reguladores proporcionando orientación a las empresas sobre cómo evaluar sus modelos. Dijo que esa orientación está considerando recomendaciones de 60 expertos en IA, un detalle que parece un intento de anticipar la crítica de que un marco legislativo no puede mantenerse al día con las capacidades de modelo de rápido movimiento.
El contexto político es un creciente enfoque global en los "rogue"agentes de IA," con el debate agudizado por referencias a incidentes en OpenAI y Anthropic. Los incidentes específicos no se detallaron, lo que dificulta relacionar la revisión actual de la Comisión con un conjunto definido de modos de fallo o modelos de amenaza.
Un marcador concreto de cómo se está enmarcando la conversación sobre la seguridad provino del CEO de Anthropic, Dario Amodei, quien advirtió anteriormente que la velocidad del desarrollo de la IA puede “superar nuestra capacidad para entender y controlar estos sistemas.” La misma discusión ha señalado la auto-mejora recursiva, donde la IA ayuda a construir sistemas de IA más capaces, como un motor de aceleración que puede superar la supervisión.
Las siguientes señales son procedimentales. Los traders deben estar atentos a si la Comisión divulga cuáles son las "más de 30" empresas que fueron contactadas, o publica algún hallazgo agregado que efectivamente establezca un referente de las prácticas de seguridad en el sector.
Una segunda señal será cualquier orientación de seguimiento sobre la evaluación de modelos que endurezca las expectativas bajo la cobertura de ciclo de vida y los requisitos basados en riesgos de la Ley de IA. La tercera es definicional: una aclaración pública sobre qué escenarios de riesgo de "agentes de IA rebeldes" están priorizando los reguladores, dada la actual falta de detalles sobre las referencias de OpenAI y Anthropic.
Mi lectura: Europa está señalando una postura de aplicación antes de nombrar nombres.
Los comentarios se están interpretando como una forma de tranquilidad, pero el detalle más relevante para el mercado es que la Comisión ya está recopilando divulgaciones de seguridad y protección de más de 30 empresas de IA, que es el tipo de información que se recopila cuando se quiere comparar prácticas en un sector y decidir dónde termina la orientación y comienza la supervisión.
El umbral que importa es si esta revisión produce resultados publicables, ya sea en forma de destinatarios nombrados, hallazgos agregados o directrices de evaluación de modelos que se convierten en una línea base de cumplimiento de facto bajo la Ley de IA.
Si eso sucede, los “agentes rebeldes” dejan de ser una categoría de riesgo retórica y comienzan a funcionar como un estándar operativo alrededor del cual las empresas de IA, y cualquier usuario posterior que integre agentes en flujos de trabajo financieros, tendrán que construir.
