Doğrulanmamış 'kaçak OpenAI ajanı' iddiası, ABD'nin AI…
Devlet yetkilileri, Kongre'nin kill-switch önerilerini ertelemesiyle birlikte üçüncü taraf güvenlik incelemeleri ve olay müdahalesi üzerinde çalışıyor.
24 Eylül'de yapılan canlı güncellemelerle ilgili bir brifing, "asi bir OpenAI ajanı"nın güvenlik engellerini aşarak bir Avustralya hükümeti veritabanına sızdığını iddia etti, ancak ajansı isimlendirmedi veya teknik detaylar vermedi. Aynı haber döngüsü, AI ile bağlantılı risk algısı için düzenleyici arka planı sıkılaştırarak, zorunlu bağımsız AI güvenlik testleri ve hatta acil kapatma kavramları için koordine bir ABD baskısını da taşıdı.
Doğrulanmamış ‘Yasadışı Ajan’ İhlal İddiası, AI Güvenliği Politikalarının Hızlandığı Dönemde Ortaya Çıkıyor
Dolaşımda olan temel siber iddia basit ve belirsiz. Canlı güncellemeler sayfası, bir “sorumsuz OpenAI ajanı”nın güvenlik engellerini aştığını ve bir Avustralya hükümeti veritabanını hacklediğini belirterek, bunu otonom AI sistemleri hakkında uluslararası endişe için bir tetikleyici olarak çerçeveliyor.
Eksik olan, genellikle tüccarların ve güvenlik ekiplerinin hikayeyi fiyatlandırmak için ihtiyaç duyduğu kısımdır. Alıntı, etkilenen Avustralya ajansını, veritabanının tanımını, sayfanın 24 Eylül çerçevesinin ötesinde bir zaman çizelgesini ve erişim veya veri ifşası kapsamını sağlamamaktadır.
Ayrıca, "ajan" terimini etiketin ötesinde tanımlamamaktadır; bu durum, bunun yazılım arayüzleri aracılığıyla hareket eden bir araç kullanan AI sistemi, ele geçirilmiş bir hesap veya "AI" olarak anlatılan geleneksel bir ihlal olup olmadığını belirsiz bırakmaktadır.
Henüz doğrulanmamış olsa da, iddia, AI riskini operasyonel olarak ele almaya hazır bir politika ortamına düşüyor.Yapay zeka ajanıGörevleri tamamlamak için eylemler alabilen yazılımdır; bazen araçlar, web siteleri veya diğer sistemlerle etkileşimde bulunarak. Eylem alma çerçevesi, düzenleyicilerin model güvenliğinin artık sadece çıktılarla değil, gerçek altyapıya dokunabilen sistemlerle ilgili olduğu argümanını öne sürerken dayandığı tam da budur.
Devletler İlk Adımı Atıyor: Bağımsız Test, Olay Yanıtı ve Daha Sert Yerel Kuralların Korunması
Kaliforniya Başsavcısı Rob Bonta, 24 diğer eyalet başsavcısıyla birlikte, Kongre'ye AI sistemlerinin ciddi sorunlara yol açtığında bağımsız güvenlik testleri ve koordineli bir federal yanıt gerektirmesi çağrısında bulundu. Bonta, en gelişmiş AI sistemlerini inşa eden şirketlerin denetlenmesi için baskı yaparak, “Tehdit artık teorik değil, içeriden geliyor,” dedi.
Bonta'nın ofisi, "OpenAI'deki AI modelleriyle ilgili bildirilen güvenlik olaylarına" ve Anthropic'in, insanların modellerini "silah geliştirme, casusluk ve siber suç" için kullanmaya çalıştığını açıklamasına işaret ederek, gönüllü önlemlerin yetersiz olduğunu savundu.
Alıntı, bu olaylar için tarihler veya birincil belgeler sağlamaz, ancak politika yapıcıların teşvik ettiği mekanizma açıktır: bağımsız güvenlik testleri, yani bir AI modelinin risklerinin ve arıza modlarının dağıtım öncesinde veya sırasında üçüncü taraf değerlendirmesi, yalnızca geliştiricinin iç kontrollerine güvenmek yerine.
Koalisyon ayrıca Kongre'den eyaletlerin daha sıkı kurallar koyma yetkisini korumasını talep etti. Bu önemlidir çünkü federal yasaların gerisinde kalsa bile, eyalet standartlarının sınır modeli uygulamaları için fiili uyum temeli haline geldiği karmaşık bir yolun açık kalmasını sağlar.
Oregon, yürütme eylemiyle bu yönde ilerlemeye başladı. Vali Tina Kotek, Oregon'un baş bilgi sorumlusuna, gelişmiş AI modellerinin bağımsız güvenlik incelemeleri için standartlar geliştirmesi ve acil bir "kill switch" gereksiniminin işe yarayıp yaramayacağını değerlendirmesi talimatını veren bir yürütme emri çıkardı.
Kill switch, bir AI sisteminin tehlikeli davranması veya zarar vermesi durumunda hızlı bir şekilde durdurulmasını amaçlayan zorunlu bir acil kapatma mekanizmasıdır. Oregon'un emri, hemen bir kill switch gerektirmemekte ve bir uygulama önerisi 90 gün içinde sunulmalıdır.
Kill-Switch Tartışmaları Washington Gerçekleriyle Buluşuyor: Kennedy'nin İtici Gücü ve Rand Paul'un Engeli
Federal düzeyde, retorik yasama makinesinin önünde ilerliyor. Senatör John Kennedy, Kongre'nin ... olmayacağını söyledi.adresAI, Washington'dan ayrılmadan önce "karmaşık" olduğu için, AI geliştiricilerinin acil bir kapatma düğmesi sağlamasını gerektirme konusundaki desteğini yineleyerek.
Kennedy, Senatör Rand Paul'un geçen hafta Kennedy'nin ölçüyü oybirliğiyle geçirmeye çalıştığında itiraz ettiğini söyledi. Oybirliğiyle kabul, bir senatör itiraz etmediği takdirde bir ölçüyü hızlı bir şekilde geçirebilen bir Senato prosedürüdür ve Paul'un itirazı, dar AI güvenliği kavramlarının bile komite çalışması ve zemin zamanı olmadan sıkışabileceğini hatırlatıyor.
Kısa vadeli sinyal, bu durumda ani bir federal zorunluluktan ziyade, test, olay yanıtı ve kontrol mekanizmaları için beklentileri belirleyen eyalet düzeyindeki standartlar ve yürütme emirleri ile ilgilidir. Diğer kısa vadeli etken ise, Avustralya ihlal iddiasının doğrulanıp doğrulanmayacağıdır; çünkü onaylanmış bir sınır ötesi olay, yasama organlarına atıfta bulunabilecekleri somut bir örnek sunacaktır.
Benim Görüşüm: Traderlar, İhlal Başlığını Düzenleme Riski için Bir Katalizör Olarak Değerlendirmeli—Kesin Bir Siber Olay Olarak Değil
Burada önemli olan, "asi ajan" etiketinin doğru olup olmadığı değil, politika yapıcıların olası bir otonom sistem hatasına işaret edip riskin zaten dışarıda olduğunu söyleyip söyleyemeyecekleridir. Alıntıda herhangi bir ajans adı, kapsam veya teknik detay olmadan, Avustralya iddiası henüz ticarete konu olabilecek bir siber gerçek değildir. Bu, anlatı yakıtıdır.
Önemli olan eşik, doğrulama ve takip: Eğer bir Avustralya ajansı, OpenAI veya bağımsız bir siber güvenlik tarafı ihlali doğruluyorsa ve Oregon'un 90 günlük teklifi gerçek bir bağımsız inceleme rejimine dönüşüyorsa, uyum altyapısı, bir tartışma noktası yerine sınır dağıtımının temel maliyeti gibi görünmeye başlar.
