AB teknoloji şefi: AI Yasası "asi" AI ajanlarını yönetir
Henna Virkkunen, Komisyonun Ağustos ayının sonlarında iletişime geçilen 30'dan fazla AI şirketinin güvenlik ve emniyet yanıtlarını değerlendirdiğini söyledi.
AB teknoloji şefi Henna Virkkunen, Avrupa'nın yüksek yetenekli AI modellerinden kaynaklanan güvenlik ve emniyet riskleriyle başa çıkmak için "iyi donanımlı" olduğunu söyledi ve blokun kurallarının insan kontrolünün ötesinde hareket eden "asi" AI ajanları korkularıyla başa çıkabileceğini savundu.
Bu yorumlar, Avrupa Komisyonu'nun Ağustos ayı sonunda 30'dan fazla AI şirketinden talep ettiği güvenlik ve emniyet bilgilerini gözden geçirdiği sırada yapıldı.
Henna Virkkunen, Avrupa Birliği'nin teknoloji şefi, Avrupa Birliği'nin Yapay Zeka Yasası'nı öncü model güvenliği için hazır bir çerçeve olarak güçlü bir şekilde destekliyor ve bunu uluslararası tartışmayı yönlendiren "asi ajan" senaryolarıyla başa çıkabilecek bir yapı olarak konumlandırıyor.
"Çok yetenekli modellerin güvenliği ve emniyeti uluslararası alanda çok sıcak bir konu ve biz Avrupa'da bunun için iyi donanımlıyız," dedi Virkkunen, Cuma günü Reuters ile yaptığı bir röportajda.
Onun argümanı prosedürel, felsefi değil. Virkkunen, AB AI Yasası'nın risk temelli tasarımına dikkat çekti; burada yükümlülükler risk seviyesine göre ölçekleniyor ve yasanın AI modellerinin yalnızca ilk sürümünü değil, tam yaşam döngüsünü kapsamak için tasarlandığını vurguladı. "AI Yasamız mevcut ve AI Yasası bu modellerin tüm yaşam döngüsünü kapsıyor," dedi.
Virkkunen ayrıca, Avrupa'nın kurallarının zaten geride olduğu yönündeki endüstri ve politika çevrelerinden gelen tanıdık bir eleştiriye de karşı çıktı. Blokun AI kurallarının modası geçmiş olduğu iddialarını reddetti ve AI Yasası'nın iki yıl önce kabul edildiğini belirtti.
Komisyon'un buradaki tutumu, "asi ajanlar" artık sadece bir laboratuvar güvenliği ifadesi olmadığı için kriptoya yakın otomasyon için önemlidir.
Bu, otonom sistemlerin eylemler gerçekleştirebildiği, araçları zincirleyebildiği ve insan kontrolünü aşan veya ondan kaçan yollarla devam edebildiği anlamında giderek daha fazla kullanılmaktadır; bu da, ajanların gerçek dünya raylarına dokunmalarına izin verildiğinde ödemeler, saklama işlemleri ve AI destekli ticaret iş akışlarıyla kesişmeye başlayan tam olarak böyle bir yetenektir.
Brüksel, 30'dan Fazla AI Şirketinden Güvenlik Yanıtlarını Gözden Geçiriyor
Virkkunen'in yorumları, aktif bir bilgi toplama döngüsünün ortasında geliyor. Avrupa Komisyonu, Ağustos ayı sonunda 30'dan fazla tanımlanmamış AI şirketinden güvenlik ve emniyet önlemleri hakkında bilgi talep etti. Virkkunen, şu anda yanıtları değerlendirdiğini söyledi.
Komisyon, hangi şirketlerin talep aldığını belirlemedi ve yanıtların içeriğini veya herhangi bir takip adımının planlanıp planlanmadığını açıklamadı. Bu, piyasayı uygulama ile ilgili bir sinyal ile baş başa bırakıyor, ancak henüz hangi firmaların veya model ailelerinin AI Yasası'nın daha yüksek risk gereksinimleri altında en fazla sürtüşme ile karşılaşabileceği konusunda detaylar vermiyor.
Virkkunen, Komisyon'un yaklaşımını teknik ve yinelemeli olarak çerçevelendirerek, düzenleyicilerin şirketlere modellerini nasıl değerlendirecekleri konusunda rehberlik sağladığını belirtti. Bu rehberliğin, 60 AI uzmanından gelen önerileri dikkate aldığını söyledi; bu, yasama çerçevesinin hızlı hareket eden model yetenekleriyle başa çıkamayacağı eleştirisini önlemeye yönelik bir girişim gibi görünüyor.
Politika arka planı, "asi" devletlere artan küresel odaklanmayı yansıtıyor.Yapay zeka ajanları," OpenAI ve Anthropic'teki olaylara yapılan atıflarla tartışmanın keskinleştiği belirtildi. Belirli olaylar ayrıntılı olarak verilmediği için, Komisyon'un mevcut incelemesini tanımlanmış bir hata modu veya tehdit modeli setine eşleştirmek zorlaşıyor.
Güvenlik tartışmasının nasıl çerçevelendiğine dair somut bir işaret, daha önce AI gelişiminin hızının "bu sistemleri anlama ve kontrol etme yeteneğimizi aşabileceği" konusunda uyarıda bulunan Anthropic CEO'su Dario Amodei'den geldi. Aynı tartışma, AI'nın daha yetenekli AI sistemleri inşa etmesine yardımcı olduğu yinelemeli kendini geliştirme konusunu, denetimi aşabilecek bir hızlandırıcı olarak işaret etti.
Sonraki sinyaller prosedürel. Tüccarlar, Komisyon'un hangi "30'dan fazla" şirketle iletişime geçtiğini açıklayıp açıklamayacağını veya sektördeki güvenlik uygulamalarını etkili bir şekilde kıyaslayan herhangi bir toplu bulgu yayınlayıp yayınlamayacağını izlemelidir.
İkinci bir belirti, AI Yasası'nın yaşam döngüsü kapsamı ve risk temelli gereklilikleri altında beklentileri sıkılaştıran model değerlendirmesi ile ilgili herhangi bir takip kılavuzudur. Üçüncüsü ise tanımsaldır: Düzenleyicilerin önceliklendirdiği "asi AI ajanları" risk senaryolarının kamuya açıklanması, OpenAI ve Anthropic referanslarıyla ilgili mevcut detay eksikliği göz önüne alındığında.
Benim değerlendirmem: Avrupa, isimleri açıklamadan önce uygulama tutumunu işaret ediyor.
Yorumlar bir güvence olarak okunuyor, ancak daha piyasa ile ilgili detay, Komisyonun halihazırda 30'dan fazla AI firmasından güvenlik ve emniyet açıklamaları topladığıdır. Bu, bir sektördeki uygulamaları karşılaştırmak ve rehberliğin nerede sona erip denetimin nerede başladığına karar vermek istediğinizde topladığınız türden bir girdidir.
Önemli olan eşik, bu incelemenin yayınlanabilir çıktılar üretiyor olup olmadığıdır; bu çıktılar isimlendirilmiş alıcılar, toplu bulgular veya AI Yasası kapsamında fiili bir uyum temeli haline gelen model değerlendirme rehberliği şeklinde olabilir.
Eğer bu gerçekleşirse, “asi ajanlar” bir retorik risk kategorisi olmaktan çıkıp, AI firmalarının ve finansal iş akışlarına ajanları entegre eden herhangi bir aşağı akış kullanıcısının etrafında inşa etmesi gereken operasyonel bir standart haline gelir.
