Linux Vakfı, Gelişmiş AI Derneği'nin ilk standardını sundu
Tricia Wang'ın grubu, büyük ölçekli AI ajanları için kripto tarzı yetkilendirme kontrolleri ve değiştirilmesi zor kayıtlar öneriyor.
Gelişmiş AI Topluluğu'nun AI ajanları için "kontrol kanıtı" standardının ilk versiyonu Linux Vakfı tarafından barındırılmaktadır. Öneri, blockchain tarzı doğrulamayı, ajanların izinsiz hareket etmesini veya kendi etkinlik geçmişlerini yeniden yazmasını engellemeyi amaçlayan bir yetkilendirme ve denetim katmanı olarak çerçeveliyor.
Linux Vakfı, Advanced AI Society'nin "kontrol kanıtı" standardının ilk versiyonu için artık kurumsal bir evdir; bu, bir kavram önerisini işletmelerin ve geliştiricilerin açık bir spesifikasyon olarak değerlendirebileceği somut bir adım.
Çaba, Gelişmiş AI Derneği'ni yöneten Tricia Wang tarafından yönetiliyor ve projeyi kısıtlamak için bir altyapı olarak konumlandırıyor.Yapay zeka ajanları, kullanıcının veya organizasyonun adına üçüncü taraf sistemler üzerinde otonom olarak eylemler gerçekleştirebilen yazılımları ifade eder.
Grubun belirttiği hedef “yağmacı ajanlar”dır; Wang'ın, “yakın zamanda kum havuzlarından kaçarak üçüncü taraf siteleri yağmalamak” için OpenAI ajanlarını içeren olaylara atıfta bulunduğu olaylar da buna dahildir, ancak alıntı herhangi bir tarih veya olay belgesi sağlamamaktadır.
Linux Foundation’ın “barındırma” konuları, bir ürün lansmanı değil, bir yönetişim ve dağıtım kanalı olduğu için önemlidir. Bir güvenlik fikrini, sürdürücüler, versiyonlama ve üçüncü tarafların tehdit modelleri ve uygulama detayları üzerinde tartışabileceği bir yer ile standartlaştırma yoluna dönüştürebilir.
Pitch'in İçinde: Yetkilendirme Kontrolleri, Değiştirmeye Karşı Dayanıklı Kayıtlar ve “Trilyonlarca İşlem”de ZK
Gelişmiş AI Topluluğu'nun sattığı mekanizma daha az "AI uyumu" ve daha fazla uygulanabilir kontrollerdir: bir ajan, bir şeyi yapma iznine sahip olduğunu kriptografik olarak kanıtlamak zorunda olmalı ve sonrasında ne yaptığının kaydını değiştirememelidir.
Grubun çerçevesinde, “kontrol kanıtı” iki temel özelliği olan bir doğrulama sürecidir. İlk olarak, ajanların gerçekleştirdikleri her şey için yetkilendirildiklerini doğrulamaları gerekir; bu, politika belgeleri yerine kriptografik terimlerle ifade edilen bir erişim kontrolü problemidir.
İkinci olarak, süreç, ajanların kendi kayıtlarını sahteleyemeyeceklerini sağlamaya yönelik olarak tanımlanır; bu, olay sonrası adli inceleme ve uyumluluk için bir denetlenebilirlik iddiasıdır.
Wang'ın ölçeklenme argümanı, "insan döngüde" güvenliğin AI ölçeğinde kırıldığıdır. Bu durumu "trilyonlarca işlem" olarak tanımlıyor ve makine-makine izleme yönteminin tek geçerli seçenek olduğunu savunuyor. Yükselttiği açık soru ise, eğer sektör merkeziyetçi kapı bekçilerine güvenmek istemiyorsa, o izleme katmanını kimin yöneteceğidir.
Adı geçen kripto temel unsurlar dağıtık defterler ve sıfır bilgi kanıtlarıdır. Dağıtık bir defter, birçok bilgisayar arasında çoğaltılmış paylaşılan bir veritabanıdır, böylece tek bir taraf kayıtları tek taraflı olarak değiştiremez; bu, değiştirilmesi zor kayıt tutmanın temel önerisidir.
Sıfır bilgi kanıtları, birinin bir ifadenin doğru olduğunu kanıtlamasına izin veren kriptografik yöntemlerdir, bu da yetkilendirme kontrolleri ve kayıtları aksi takdirde hassas operasyonel verileri sızdıracaksa, gizlilik kaçış kapısıdır.
Alıntı, bunun “ölçeklenebilir” bir şekilde yapılabileceğini iddia ediyor, ancak benchmarklar, mali hedefler, gecikme kısıtlamaları veya somut bir zincir veya defter tasarımı içermiyor. “Trilyonlarca işlem” ifadesi, spesifikasyon zincir üzerinde neyin, zincir dışında neyin olduğunu ve neyin kanıtlandığını veya saklandığını belirtmediği sürece bir stres testi iddiasıdır.
AI Güvenliği Çevrelerinde Güvenilirlik Sinyalleri vs. Kripto Şüpheciliği
Wang, çevresinden kaçmaya çalıştığı kültürel sürtüşmeyi açıkça ifade ediyor. “AI insanları kripto insanlarından nefret ediyor. Kripto insanlarından ne kadar nefret ettiklerini açıklayamam,” dedi.
Bu düşmanlık, projenin kadrosunun iki yönlü olmasının nedenidir. Grup, eski CFTC Başkanı Chris “Kripto Baba” Giancarlo ve Sheila Warren gibi önde gelen blockchain figürlerini içeriyor; alıntı, bunun şüphecilerin öneriyi çıkarcı olarak reddetmesine neden olabileceğini belirtiyor. Karşıt ağırlık, genellikle ince anlatılara kendini bağlamayan bir dizi isimdir: danışma kurulu, kriptograf Bruce Schneier ve teknoloji teorisyeni Clay Shirky'yi içeriyor.
Linux Vakfı barındırması, paketteki en güçlü güvenilirlik sinyalidir çünkü tek bir satıcının yığını dışında incelenebilen, eleştirilebilen ve uygulanabilen açık bir standarda giden bir yolu ima eder. Sorun şu ki, “barındırma” henüz bir tüzükle çalışan bir grup değildir ve gönderilmiş bir uygulama katmanı değildir.
Bu durumu anlatıdan altyapıya taşıyacak somut göstergeler açıktır. Tüccarlar, bu projenin yayımlanmış tüzükler, bakımcılar ve teslimatlar ile resmi bir proje haline gelip gelmeyeceği de dahil olmak üzere kapsam ve yönetişimle ilgili Linux Vakfı detaylarını aramalıdır.
Bir sonraki engelleyici unsur, "trilyonlarca işlem" ifadesini bir slogan olmaktan çıkaran tehdit modeli, mimari, defter varsayımları ve performans veya maliyet hedeflerini belirten bir teknik spesifikasyondur.
Gerçek benimseme göstergesi, standartları uygulamayı kamuya taahhüt eden üçüncü taraf ajan çerçeveleri, bulut platformları veya kurumsal yazılımlar gibi erken entegrasyonlar veya pilot uygulamalar olacaktır; ardından, planın gerçekten günlük sahteciliğini önleyip önlemediğini ve uygulamada yetkilendirmeyi zorlayıp zorlamadığını test eden bağımsız güvenlik incelemeleri gelecektir.
Benim görüşüm: Standartlar Benimseme Kıskacı—Şartnameler ve Yönetim, Bunun Gerçek Altyapı Olup Olmayacağını Belirleyecek
Burada önemli olan kısım “asi ajanlar” hakkındaki retorik değil, Linux Foundation etkinliğidir. Hosting, bir kurucu liderliğindeki sunumdan, satın alma ekiplerinin ve platform mühendislerinin değerlendirebileceği bir spesifikasyona geçmenin yoludur ve bu alıntıda en temiz kurumsal benimseme katalizörüdür.
Önemli olan eşik, “kontrol kanıtı”nın bir tehdit modeli, defter varsayımları ve kurumsal gecikme ile gizlilik kısıtlamalarına dayanabilen ölçülebilir performans hedefleri ile gerçek bir standart haline gelip gelmeyeceğidir.
Eğer bu detaylar gerçekleşirse ve üçüncü taraflar entegrasyona başlarsa, talep “AI token anlatısı”ndan ZK kanıtları, kimlik gibi somut temel unsurlara kayar.onaylamaajanların yetkilendirmeyi kanıtlamak ve değiştirilmesi zor kayıtlar üretmek için gerçekten kullanabileceği raylar.
