فوربس: AI خودمختار، ریسک کریپتو را به مشکل کنترل تبدیل…
زمانی که عوامل بتوانند به کیفپولها، صرافیها و DeFi دسترسی پیدا کنند، یک مسیر تأیید ضعیف میتواند به یک ضرر غیرقابل برگشت در زنجیره تبدیل شود.
تحلیل داراییهای دیجیتال فوربز استدلال میکند که اتصال هوش مصنوعی عاملیتدار به زیرساختهای کریپتو، ریسک اصلی را از کیفیت مدل به کنترلهای داخلی منتقل میکند، زیرا عوامل میتوانند به طور مداوم تراکنشها را اجرا کنند و برگشتها نادر هستند. این مقاله به یک حادثه ارزیابی سایبری موسسه امنیت هوش مصنوعی بریتانیا به عنوان یک نمونه محدود از رفتار غیرمجاز مداوم عوامل اشاره میکند زمانی که ابزارها و دسترسیهای خارجی در بازی هستند.
هوش مصنوعی عاملی با دسترسی به کیف پول، یک مجوز بد را به یک ضرر زنجیرهای تبدیل میکند
هوش مصنوعی عاملی دیگر فقط یک ریسک در رابط متنی نیست. فوربسداراییهای دیجیتالتحلیل، حالت جدید شکست را به عنوان سیستمهای اقدامگیری که میتوانند "اقدام کنند، از سیستمهای خارجی استفاده کنند، کد بنویسند و اهداف چندمرحلهای را با نظارت محدود دنبال کنند" چارچوببندی میکند و سپس آن اقدامات را به بازارهایی که هرگز بسته نمیشوند، منتقل میکند.
مکانیسم ساده و زشت است: به محض اینکه یک عامل بتواند به یک کیف پول، یک حساب صرافی، یک پروتکل DeFi یا یک سیستم پرداخت دسترسی پیدا کند، شعاع انفجار توسط مجوزها تعریف میشود، نه اینکه آیا مدل پایه "هوشمند" است یا خیر.
یک اعتبار یا جریان کاری نادرست میتواند به یک فرآیند خودکار اجازه دهد تا یک انتقال را امضا کند، یک تعامل قرارداد را تأیید کند، جابجا کند.وثیقهیا یک معامله را هدایت کنید و این اقدامات میتوانند دشوار یا غیرممکن باشد که در زنجیره بازگردانده شوند.
ساختار بازار کریپتو این را از نظر عملی خطرناک میکند. دیجیتالداراییهابه طور مداوم معامله کنید، قراردادهای هوشمندمیتوانند به طور خودکار اجرا شوند، و تصفیهو سیستمهای اجرایی منتظر نمیمانند تا یک انسان بیدار شود. تحلیل فوربس استدلال میکند که یک عامل میتواند در حالی که کارکنان آفلاین هستند، به فعالیت ادامه دهد و اینکه مکانیزمهای معاملاتی یا تصفیه خودکار میتوانند یک خطا را "در عرض چند دقیقه" تشدید کنند.
برای نشان دادن اینکه چگونه پایداری و دسترسی به ابزارها معادله ریسک را تغییر میدهد، این مقاله به یک حادثه افشا شده توسط موسسه امنیت هوش مصنوعی بریتانیا اشاره میکند که در آن "عوامل هوش مصنوعیاقدامات غیرمجاز و مداوم را به سمت افراد و سازمانهای واقعی انجام دادند." این فعالیت محدود شد و منبع تاریخ یا جزئیات فنی ارائه نمیدهد، بنابراین این شواهد مستقیمی از یک خسارت زنجیرهای نیست.
با این حال، این یک ابزار مفید برای اپراتورهای رمزنگاری است زیرا الگوی رفتاری را توصیف میکند که پس از اتصال یک عامل به سیستمهای خارجی بیشترین اهمیت را دارد: ادامه میدهد، از ابزارها استفاده میکند و به طور طبیعی متوقف نمیشود.
سطح کنترل، نه قدرت مدل: نردههایی که فوربس میگوید شرکتهای رمزنگاری به آن نیاز دارند
نسخه اصلی تحلیل این است که استقرار عوامل را مانند یک مشکل کنترل مالی و حاکمیتی در نظر بگیرد، سپس کنترلهای داخلی سنتی را به جریان کار عامل منتقل کند. این به طور صریح توصیه میکند که تفکیک وظایف، محدودیتهای تأیید، بررسیهای دسترسی و کنترلهای مدیریت تغییر را به عوامل هوش مصنوعی که با کیف پولها و قراردادهای هوشمند تعامل دارند، گسترش دهد.
این به معنای طراحی جریانهای کاری است به گونهای که هیچ فرآیند عاملی نتواند همزمان مقصد را تعیین کرده و وجوه را منتقل کند. این بخش به وضوح در مورد ریسک توالی میگوید: "هیچ عاملی نباید قادر باشد یک کیف پول ایجاد کند، تغییراتی در آن ایجاد کند."آدرسلیست سفید، و مجوز انتقال بدون هیچ فرصتی برای نظارت یا بررسی انسانی."
برای معاملات با ریسک بالا، درخواست تأیید انسانی با ارائه جزئیات کامل معامله به تأییدکننده، شامل آدرس مقصد، دارایی، مقدار، شبکه، هزینهها و دلیل انتقال میشود. همچنین هشدار میدهد که "یک درخواست مبهم، نامشخص یا خودکار برای تأیید یک عمل خودکار کنترل مؤثری نیست"، که ارگونومی رابط کاربری و تأیید را به سطح کنترل میآورد.
در مورد نگهداری کلید، توصیهها درباره حذف نقاط شکست تک هستند. نمایندگان نباید به دسترسی نامحدود داشته باشند بهعبارات دانهیا اعتبارنامههای امضا، و تدابیر کاهش باید شامل تنظیمات چندامضایی (نیاز به تأییدهای متعدد)، ماژولهای امنیتی سختافزاری (HSM) که کلیدها را در سختافزار اختصاصی نگه میدارند، محدودیتهای تراکنش و تأییدهای زماندار باشد. هدف این است که بهطور مکانیکی سخت شود که یک عامل یا ادغام آسیبدیده بتواند یک کیف پول را خالی کند.
برای ریسک قراردادهای هوشمند، این مقاله پیشنهاد میکند که قبل از اجرا، تعاملات را شبیهسازی و بررسی کنید و با احتیاط ویژهای در مورد محدودیتهای نامحدود عمل کنید.تأیید توکنهاکه میتواند به یک قرارداد حق خرج کردن مقدار نامحدودی از یک توکن از یک کیف پول را اعطا کند.
همچنین بر قابلیت حسابرسی تأکید میکند: سازمانها باید سوابقی از آنچه که عامل به آن دسترسی پیدا کرده، چه دستورالعملهایی دریافت کرده، چه معاملاتی پیشنهاد داده، چه معاملاتی موفق بوده و چه انسانی (در صورت وجود) "این دسترسیها را هدایت کرده" نگهداری کنند، زیرا این سوابق پاسخ به حوادث را هدایت میکنند،حسابرسیآزمایش و گزارشدهی مالی.
سیگنال آیندهنگر در این متن استانداردسازی است. این متن اشاره میکند که بنیاد لینوکس و اتحاد امنیتی هوش مصنوعی باز، تبادل یافتههای هوش مصنوعی مشترک (SAFE) را پیشنهاد کردهاند، چارچوبی برای به اشتراکگذاری محرمانه حوادث امنیتی هوش مصنوعی و نزدیک به خطاها، و استدلال میکند که شرکتهای رمزارز، نگهدارندگان، صرافیها و حرفهایهای مرتبط باید در به اشتراکگذاری اطلاعات مشابه شرکت کنند.
خوانش من: معاملهگران باید به عاملهای هوش مصنوعی مانند کیف پولهای داغ با یک استراتژی متصل نگاه کنند.
آستانهای که اهمیت دارد این است که آیا یک عامل میتواند بدون یک پل کنترل دوم، اقداماتی که ارزش را جابجا میکنند، امضا، مسیریابی یا تأیید کند یا خیر. اگر بتواند، ریسک نه "توهمات مدل" است، بلکه این است که یک سیستم با قابلیت متوسط میتواند یک تراکنش کاملاً معتبر را که به طرز فاجعهآمیزی نادرست است، اجرا کند و غیرقابل برگشت بودن کریپتو آن را به یک رویداد ترازنامهای تبدیل میکند.
آزمایش واقعی این است که آیا مکانهای بزرگ و خزانهداریها شروع به انتشار راهنماهای خاص نماینده میکنند که شبیه کنترلهای مالی باشد، نه دموهای هوش مصنوعی: تأییدهای انسانی با تمام متادادههای تراکنش، تفکیک وظایف، بررسیهای دسترسی و امضای سختشده از طریقچند امضایییا سیاستهای پشتیبانی شده توسط HSM با محدودیتها و تأخیرها.
اگر این کنترلها به زیرساخت پیشفرض تبدیل شوند، هوش مصنوعی عاملی در کریپتو به نظر میرسد که قابل مدیریت است و نه یک منبع جدید از ریسک اجرای نامحدود.
