Le responsable tech de l'UE assure que l'AI Act gère les…
Henna Virkkunen a déclaré que la Commission évalue les réponses en matière de sécurité et de sûreté de plus de 30 entreprises d'IA contactées à la fin du mois d'août.
La responsable technologique de l'UE, Henna Virkkunen, a déclaré que l'Europe est « bien équipée » pour faire face aux risques de sécurité liés aux modèles d'IA très performants, affirmant que les règles du bloc peuvent traiter les craintes des agents d'IA « renégats » agissant au-delà du contrôle humain.
Ses commentaires interviennent alors que la Commission européenne examine les informations de sécurité et de sûreté qu'elle a demandées fin août à plus de 30 entreprises d'IA.
Henna Virkkunen, la responsable technologique de l'Union européenne, s'appuie fortement sur la loi sur l'intelligence artificielle de l'Union européenne comme un cadre prêt à l'emploi pour la sécurité des modèles de pointe, la positionnant comme capable de gérer les scénarios d'« agents renégats » qui alimentent actuellement le débat international.
« Nous voyons que la sécurité et la sûreté de modèles très performants sont un sujet très brûlant à l'international et nous en Europe sommes bien équipés pour cela », a déclaré Virkkunen dans une interview avec Reuters vendredi.
Son argument est procédural, pas philosophique. Virkkunen a souligné la conception basée sur le risque de la loi sur l'IA de l'UE, où les obligations évoluent avec le niveau de risque, et a insisté sur le fait que la loi est censée couvrir l'ensemble du cycle de vie des modèles d'IA plutôt que seulement leur lancement initial.
« Nous avons notre loi sur l'IA en place et la loi sur l'IA couvre l'ensemble du cycle de vie de ces modèles », a-t-elle déclaré.
Virkkunen a également rejeté une critique familière provenant des cercles industriels et politiques selon laquelle les règles de l'Europe sont déjà dépassées. Elle a écarté les affirmations selon lesquelles les règles de l'IA du bloc sont obsolètes, notant que la loi sur l'IA a été adoptée il y a deux ans.
La posture de la Commission ici est importante pour l'automatisation adjacente à la crypto, car « agents renégats » n'est plus seulement une phrase de sécurité en laboratoire.
Elle est de plus en plus utilisée comme abréviation pour les systèmes autonomes capables de prendre des mesures, de chaîner des outils et de persister de manière à dépasser ou à échapper au contrôle humain, ce qui est exactement le type de capacité qui commence à s'intersecter avec les paiements, les opérations de garde et les flux de travail de trading alimentés par l'IA une fois que les agents sont autorisés à toucher des rails du monde réel.
Bruxelles examine les réponses de sécurité de plus de 30 entreprises d'IA
Les commentaires de Virkkunen interviennent au milieu d'un cycle actif de collecte d'informations. La Commission européenne a demandé des informations fin août à plus de 30 entreprises d'IA non identifiées, demandant des détails sur leurs mesures de sécurité et de sûreté. Virkkunen a déclaré qu'elle évalue maintenant les réponses.
La Commission n'a pas identifié quelles entreprises ont reçu la demande, et elle n'a pas divulgué ce que contenaient les réponses ni si des étapes de suivi sont prévues.
Cela laisse le marché avec un signal pertinent pour l'application, mais pas encore les détails qui permettraient aux traders d'évaluer quelles entreprises ou familles de modèles sont susceptibles de faire face à le plus de friction sous les exigences de risque plus élevé de la loi sur l'IA.
Virkkunen a présenté l'approche de la Commission comme technique et itérative, les régulateurs fournissant des orientations aux entreprises sur la manière d'évaluer leurs modèles. Elle a déclaré que ces orientations prennent en compte les recommandations de 60 experts en IA, un détail qui ressemble à une tentative de prévenir la critique selon laquelle un cadre législatif ne peut pas suivre le rythme des capacités des modèles en évolution rapide.
Le contexte politique est une attention mondiale croissante sur les "rogues".agents IA," avec le débat intensifié par des références à des incidents chez OpenAI et Anthropic. Les incidents spécifiques n'ont pas été détaillés, ce qui rend difficile l'établissement d'un lien entre l'examen actuel de la Commission et un ensemble défini de modes de défaillance ou de modèles de menace.
Un indicateur concret de la manière dont la conversation sur la sécurité est cadrée est venu du PDG d'Anthropic, Dario Amodei, qui a précédemment averti que la vitesse de développement de l'IA pourrait « dépasser notre capacité à comprendre et à contrôler ces systèmes ».
La même discussion a souligné l'amélioration auto-récursive, où l'IA aide à construire des systèmes d'IA plus performants, comme un moteur d'accélération qui peut dépasser la supervision.
Les prochains signaux sont procéduraux. Les traders devraient surveiller si la Commission divulgue quelles "plus de 30" entreprises ont été contactées, ou publie des conclusions agrégées qui établissent effectivement des références sur les pratiques de sécurité dans le secteur.
Un deuxième indice sera toute orientation de suivi sur l'évaluation des modèles qui resserre les attentes en vertu de la couverture du cycle de vie et des exigences basées sur les risques de la loi sur l'IA. Le troisième est définitionnel : clarification publique des scénarios de risque liés aux "agents IA renégats" que les régulateurs priorisent, compte tenu du manque actuel de détails sur les références à OpenAI et Anthropic.
Mon analyse : L'Europe signale une posture d'application avant de nommer des noms.
Les commentaires sont interprétés comme une source de réassurance, mais le détail le plus pertinent pour le marché est que la Commission collecte déjà des déclarations de sécurité et de sûreté auprès de plus de 30 entreprises d'IA, ce qui est le type d'informations que l'on recueille lorsqu'on souhaite comparer les pratiques au sein d'un secteur et décider où s'arrête l'orientation et où commence la supervision.
Le seuil qui importe est de savoir si cette révision produit des résultats publiables, que ce soit sous la forme de destinataires nommés, de résultats agrégés ou de directives d'évaluation de modèles qui deviennent une référence de conformité de facto en vertu de la loi sur l'IA.
Si cela se produit, les "agents renégats" cessent d'être une catégorie de risque rhétorique et commencent à fonctionner comme une norme opérationnelle autour de laquelle les entreprises d'IA, ainsi que tous les utilisateurs en aval intégrant des agents dans des flux de travail financiers, devront s'organiser.
