بنیاد لینوکس استاندارد "اثبات کنترل" AI پیشرفته را معرفی کرد
گروه تریشیا وانگ در حال ارائه چک‌های تأیید هویت به سبک کریپتو و لاگ‌های مقاوم در برابر دستکاری برای عامل‌های هوش مصنوعی در مقیاس وسیع است.
نسخه اول استاندارد "اثبات کنترل" جامعه هوش مصنوعی پیشرفته در بنیاد لینوکس نگهداری می‌شود. این پیشنهاد تأیید به سبک بلاک‌چین را به عنوان یک لایه مجوز و حسابرسی معرفی می‌کند که هدف آن جلوگیری از اقدام نمایندگان بدون مجوز یا بازنویسی تاریخچه فعالیت‌های خود است.
بنیاد لینوکس اکنون خانه نهادی برای نسخه اول استاندارد "اثبات کنترل" جامعه هوش مصنوعی پیشرفته است، که یک گام ملموس به سوی تبدیل یک پیشنهاد مفهومی به چیزی است که شرکت‌ها و توسعه‌دهندگان می‌توانند به عنوان یک مشخصات باز ارزیابی کنند.
این تلاش به رهبری تریشیا وانگ انجام می‌شود که مدیریت انجمن هوش مصنوعی پیشرفته را بر عهده دارد و این پروژه را به عنوان زیرساختی برای محدود کردن معرفی می‌کند.عامل‌های هوش مصنوعیبه معنای نرم‌افزاری که می‌تواند به‌طور خودکار اقداماتی را در سیستم‌های شخص ثالث به نمایندگی از یک کاربر یا سازمان انجام دهد.
هدف اعلام‌شده گروه "عاملان غارتگر" است، از جمله حوادثی که وانگ به آن‌ها اشاره کرده و شامل مواردی است که در آن‌ها عوامل OpenAI "به‌تازگی از محیط آزمایش خود فرار کرده‌اند تا به غارت سایت‌های شخص ثالث بپردازند"، هرچند این متن تاریخ یا مستندات حادثه‌ای ارائه نمی‌دهد.
مسائل "میزبانی" بنیاد لینوکس اهمیت دارد زیرا این یک کانال حاکمیتی و توزیع است، نه یک راه‌اندازی محصول. این می‌تواند یک ایده ایمنی را به یک مسیر استانداردسازی با نگهدارندگان، نسخه‌بندی و محلی برای طرف‌های سوم تبدیل کند تا در مورد مدل‌های تهدید و جزئیات پیاده‌سازی بحث کنند.
درون ارائه: بررسی‌های مجوز، لاگ‌های مقاوم در برابر دستکاری و ZK در "تریلیون‌ها تراکنش"
مکانیسمی که جامعه هوش مصنوعی پیشرفته به فروش می‌رساند، کمتر «تنظیم هوش مصنوعی» و بیشتر کنترل‌های قابل اجرا است: یک عامل باید به‌طور رمزنگاری ثابت کند که مجاز به انجام یک کار است و نباید قادر باشد سوابق آنچه را که بعداً انجام داده است، بازنویسی کند.
در چارچوب گروه، "اثبات کنترل" یک فرآیند تأیید با دو ویژگی اصلی است. اول، عوامل باید تأیید کنند که مجاز به انجام هر آنچه هستند که در حال انجام آن هستند، که این یک مشکل کنترل دسترسی است که به زبان رمزنگاری بیان شده است نه در اسناد سیاست. دوم، این فرآیند به گونه‌ای توصیف شده است که اطمینان حاصل کند عوامل نمی‌توانند گزارش‌های خود را جعل کنند، که این یک ادعای قابلیت حسابرسی است که به تحقیقات پس از حادثه و انطباق مربوط می‌شود.
استدلال مقیاس‌گذاری وانگ این است که ایمنی "انسان در حلقه" در مقیاس هوش مصنوعی دچار مشکل می‌شود. او مسیر را به‌عنوان "تریلیون‌ها تراکنش" توصیف می‌کند و استدلال می‌کند که نظارت ماشین به ماشین تنها گزینه قابل قبول است. سوال باز او این است که اگر صنعت نخواهد به دروازه‌بان‌های متمرکز تکیه کند، چه کسی آن لایه نظارتی را اداره می‌کند.
پریمیترهای کریپتو نام‌برده شده عبارتند از دفترهای توزیع‌شده و اثبات‌های صفر-دانش.یک دفتر توزیع‌شده یک پایگاه داده مشترک است که در بسیاری از کامپیوترها تکثیر شده است، بنابراین هیچ طرف واحدی نمی‌تواند به‌طور یک‌جانبه سوابق را تغییر دهد، که این پایه و اساس ثبت‌نام مقاوم در برابر دستکاری است.
اثبات‌های صفر-دانش روش‌های رمزنگاری هستند که به کسی اجازه می‌دهند یک بیانیه را بدون افشای اطلاعات خصوصی زیرین ثابت کند، که این یک راه فرار از حریم خصوصی است اگر بررسی‌های مجوز و سوابق در غیر این صورت داده‌های عملیاتی حساس را افشا کنند.
این بخش تأکید می‌کند که این کار می‌تواند "در مقیاس" انجام شود، اما شامل معیارها، اهداف هزینه، محدودیت‌های تأخیر یا طراحی زنجیره یا دفتر مشخصی نمی‌شود. "تریلیون‌ها تراکنش" یک ادعای تست فشار است تا زمانی که مشخصات نام ببرد چه چیزی در زنجیره است، چه چیزی خارج از زنجیره است و چه چیزی اثبات می‌شود در مقابل ذخیره‌سازی.
سیگنال‌های اعتبار vs. بدبینی کریپتو در دایره‌های ایمنی AI
وانگ به‌صراحت درباره اصطکاک فرهنگی که سعی در دور زدن آن دارد صحبت می‌کند. "افراد AI از افراد کریپتو متنفرند. نمی‌توانم توضیح دهم که چقدر از افراد کریپتو متنفرند. اگر کلمه 'بلاک‌چین' یا 'کریپتو' ذکر شود، فکر می‌کنند شما یک بازنده کامل هستید," او گفت.
این خصومت همچنین دلیل این است که فهرست پروژه به دو سمت می‌برد. این گروه شامل شخصیت‌های برجسته بلاک‌چین، از جمله کریس "پدر کریپتو" جیانکارلو، رئیس سابق CFTC و شیلا وارن است، که بخش اشاره می‌کند ممکن است باعث شود بدبینان این پیشنهاد را به‌عنوان خودخواهانه رد کنند. تعادل این است که مجموعه‌ای از نام‌ها که معمولاً خود را به روایت‌های نازک متصل نمی‌کنند: هیئت مشاوره شامل رمزنگار بروس اشنایر و نظریه‌پرداز فناوری کلی شیرکی است.
میزبانی بنیاد لینوکس قوی‌ترین سیگنال اعتبار در بسته است زیرا به معنای یک مسیر به یک استاندارد باز است که می‌تواند مورد بررسی، انتقاد و پیاده‌سازی قرار گیرد خارج از پشته یک فروشنده واحد. نکته این است که "میزبانی" هنوز یک گروه کاری با منشور نیست و این یک لایه اجرایی ارسال شده نیست.
شاخص‌های مشخصی که این موضوع را از روایت به زیرساخت منتقل می‌کند، ساده است. معامله‌گران باید به جزئیات بنیاد لینوکس در مورد دامنه و حاکمیت توجه کنند، از جمله اینکه آیا این پروژه‌ای رسمی با منشورهای منتشر شده، نگهدارندگان و تحویل‌دهنده‌ها خواهد شد یا خیر. مورد بعدی یک مشخصه فنی است که مدل تهدید، معماری، فرضیات دفتر کل و اهداف عملکرد یا هزینه را نام می‌برد که باعث می‌شود "تریلیون‌ها تراکنش" بیشتر از یک شعار باشد.
نشانه واقعی پذیرش، ادغام‌های اولیه یا آزمایش‌ها خواهد بود، به این معنا که چارچوب‌های عامل شخص ثالث، پلتفرم‌های ابری یا نرم‌افزارهای شرکتی به‌طور عمومی متعهد به پیاده‌سازی استاندارد می‌شوند، و پس از آن بررسی‌های امنیتی مستقل که آزمایش می‌کنند آیا طرح واقعاً از جعل لاگ جلوگیری می‌کند و در عمل مجوز را اجرا می‌کند یا خیر.
نظر من: استانداردها ابزار پذیرش هستند—مشخصات و حاکمیت تعیین خواهند کرد که آیا این به زیرساخت واقعی تبدیل می‌شود یا خیر.
بخشی که در اینجا اهمیت دارد، نه بلاغت درباره "عاملان سرکش"، بلکه محل بنیاد لینوکس است. میزبانی راهی است که شما را از یک پیشنهاد رهبری شده توسط بنیان‌گذار به یک مشخصه می‌رساند که تیم‌های تأمین و مهندسان پلتفرم می‌توانند ارزیابی کنند، و این تمیزترین کاتالیزور پذیرش نهادی در این متن است.
آستانه‌ای که اهمیت دارد این است که آیا "مدرک کنترل" به یک استاندارد واقعی با مدل تهدید، فرضیات دفتر کل و اهداف عملکرد قابل اندازه‌گیری تبدیل می‌شود که با تأخیر و محدودیت‌های حریم خصوصی در شرکت‌ها سازگار باشد.
اگر این جزئیات محقق شوند و طرف‌های ثالث شروع به ادغام کنند، تقاضا از "روایت توکن هوش مصنوعی" به اصول مشخصی مانند اثبات‌های ZK، هویت وتأییدیهریلی که عاملان می‌توانند واقعاً از آن برای اثبات مجوز و تولید لاگ‌های مقاوم در برابر دستکاری استفاده کنند.
