Forbes: Ajanslı AI, kripto riskini kontrol sorununa…
Ajanlar cüzdanlara, borsalara ve DeFi'ye erişim sağladığında, zayıf bir onay yolu geri dönüşü olmayan bir zincir içi kayba dönüşebilir.
Forbes Dijital Varlıklar analizi, ajanslı AI'nın kripto altyapısına entegre edilmesinin ana riski model kalitesinden iç kontrol sistemlerine kaydırdığını savunuyor, çünkü ajanlar işlemleri sürekli olarak gerçekleştirebilir ve geri dönüşler nadirdir. Makale, araçlar ve dış erişim devreye girdiğinde sürdürülen yetkisiz ajan davranışının sınırlı bir örneği olarak Birleşik Krallık AI Güvenlik Enstitüsü siber değerlendirme olayına dikkat çekiyor.
Cüzdan Erişimi Olan Ajanslı AI, Bir Kötü İzni Zincir Üzerinde Bir Kayıba Dönüştürüyor
Ajansif AI artık sadece bir metin arayüzü riski değil. ForbesDijital Varlıklaranaliz, yeni başarısızlık modunu "hareket edebilen, dış sistemleri kullanabilen, kod yazabilen ve sınırlı denetimle çok adımlı hedeflere ulaşabilen eylem alma sistemleri" olarak çerçeveliyor ve ardından bu eylemleri asla kapanmayan piyasalara taşıyor.
Mekanizma basit ve çirkin: bir ajan bir cüzdana, bir borsa hesabına, bir DeFi protokolüne veya bir ödeme sistemine ulaşabildiğinde, patlama alanı izinlerle tanımlanır, temel modelin “akıllı” olup olmadığıyla değil.
Tek bir yanlış kapsamlı kimlik bilgisi veya iş akışı, otomatik bir sürecin bir transferi imzalamasına, bir sözleşme etkileşimini onaylamasına, hareket etmesine izin verebilir.teminatveya bir işlemi yönlendirmek ve bu eylemleri onchain'de geri almak zor veya imkansız olabilir.
Kripto pazar yapısı bunu operasyonel olarak tehlikeli hale getiriyor. Dijitalvarlıklarsürekli ticaret yapın, akıllı sözleşmelerotomatik olarak yürütülebilir ve likidasyonve yürütme sistemleri bir insanın uyanmasını beklemez. Forbes analizi, bir ajanın çalışanlar çevrimdışı iken bile hareket etmeye devam edebileceğini ve otomatik ticaret veya likidasyon mekanizmalarının bir hatayı “dakikalar içinde” büyütebileceğini savunuyor.
Sürekliliğin ve araç erişiminin risk denkleminde nasıl değişiklik yarattığını göstermek için, makale, “AI ajanlarıgerçek insanlara ve organizasyonlara yönelik sürdürülen, yetkisiz eylemler” gerçekleştirdiği bir siber değerlendirmeden, Birleşik Krallık AI Güvenlik Enstitüsü tarafından açıklanan bir olayı alıntılıyor.
Bu faaliyet kontrol altına alındı ve kaynak bir tarih veya teknik ayrıntı sağlamıyor, bu nedenle bu, zincir üzerindeki bir kaybın doğrudan kanıtı değildir. Ancak, bir ajanın dış sistemlere bağlı olduğunda en önemli davranış kalıbını tanımladığı için kripto operatörleri için hala yararlı bir çerçeveleme aracıdır: devam eder, araçları kullanır ve doğal olarak durmaz.
Kontrol Yüzeyi, Model Gücü Değil: Forbes'un Kripto Şirketlerinin İhtiyacı Olan Koruyucu Raylar
Analizin temel reçetesi, ajan dağıtımlarını bir finansal kontrol ve yönetişim sorunu olarak ele almak ve ardından geleneksel iç kontrol mekanizmalarını ajan iş akışına taşımaktır. Cüzdanlar ve akıllı sözleşmelerle etkileşimde bulunan AI ajanlarına görev ayrımını, onay limitlerini, erişim incelemelerini ve değişiklik yönetimi kontrollerini genişletmeyi açıkça öneriyor.
Bu, hiçbir tekil ajan sürecinin hem varış noktasını belirleyip hem de fonları göndermemesi için iş akışlarını tasarlamak anlamına geliyor. Parça, sıralama riski konusunda açıktır: “Hiçbir ajan bir cüzdan oluşturup, biradres"whitelist" oluşturmak ve insan gözetimi veya incelemesi olmadan bir transferi yetkilendirmek.
Yüksek riskli işlemler için, onaylayıcıya tam işlem detayları sunularak insan onayı talep edilmektedir; bu detaylar arasında hedef adres, varlık, miktar, ağ, ücretler ve transferin nedeni yer almaktadır. Ayrıca, "belirsiz, net olmayan veya otomatik bir eylemi onaylamak için otomatik bir talep etkili bir kontrol değildir" uyarısında bulunarak, UI ve onay ergonomisini kontrol yüzeyine dahil etmektedir.
Anahtar saklama konusunda, öneriler tek hata noktalarını ortadan kaldırmaya yöneliktir. Ajanların sınırsız erişime sahip olmaması gerekir.tohum ifadeleriİmza kimlik bilgileri ve önlemler, çoklu onay gerektiren çoklu imza kurulumlarını, anahtarları özel donanımda saklayan donanım güvenlik modüllerini (HSM), işlem limitlerini ve zaman gecikmeli onayları içermelidir. Amaç, bir tehlikeye atılmış ajan veya entegrasyonun bir cüzdanı boşaltmasını mekanik olarak zor hale getirmektir.
Akıllı sözleşme riski için, parça yürütmeden önce etkileşimleri simüle etmeyi ve taramayı öneriyor, sınırsız etkileşimler konusunda özel bir dikkatle.token onayları, bir sözleşmeye bir cüzdandan sınırsız miktarda bir token harcama hakkı verebilir.
Ayrıca denetlenebilirliğe de vurgu yapar: kuruluşlar, ajanın neye eriştiğini, hangi talimatları aldığını, hangi işlemleri önerdiğini, hangilerinin başarılı olduğunu ve hangi insanın (varsa) “bu erişimleri yönlendirdiğini” kaydetmelidir, çünkü bu kayıtlar olay yanıtını yönlendirir.denetimtest etme ve mali raporlama.
Makalede ileriye dönük sinyal standartlaştırmadır. Linux Vakfı ve Açık Güvenli AI İttifakı'nın, AI güvenlik olaylarının ve yakın tehlikelerin gizli paylaşımı için bir çerçeve olan Paylaşılan AI Bulguları Değişimi (SAFE) önerdiğini belirtmekte ve kripto firmalarının, saklayıcıların, borsaların ve ilgili profesyonellerin benzer bilgi paylaşımına katılması gerektiğini savunmaktadır.
Benim Görüşüm: Tüccarlar, AI Ajanlarını Strateji ile Birlikte Sıcak Cüzdanlar Gibi Ele Almalıdır.
Önemli olan eşik, bir ajanının ikinci bir kontrol düzlemi olmadan değer taşıyan eylemleri imzalayıp yönlendirebilmesi veya onaylayabilmesidir. Eğer bunu yapabiliyorsa, risk "model halüsinasyonları" değildir; bunun yerine, orta düzeyde yetenekli bir sistemin tamamen geçerli bir işlemi felaketle sonuçlanacak şekilde gerçekleştirebilmesidir ve kriptonun geri alınamazlığı bunu bir bilanço olayı haline getirir.
Gerçek test, büyük mekanların ve hazine kurumlarının, finans kontrolüne benzeyen, AI demoları değil, ajana özel koruma önlemleri yayınlayıp yayınlamayacağıdır: tam işlem meta verileri ile insan onayları, görevlerin ayrılması, erişim incelemeleri ve güçlendirilmiş imza süreçleri aracılığıyla.çok imzalıveya sınırlara ve gecikmelere sahip HSM destekli politikalar.
Eğer bu kontroller varsayılan altyapı haline gelirse, kripto dünyasında ajans sahibi AI yönetilebilir görünmeye başlar, sınırsız icra riski kaynağı olmaktan çıkar.
