ترامپ توافقنامه امنیت هوش مصنوعی با غولهای فناوری امضا کرد
"تعهد مشترک در مورد مسئولیتهای مرزی" خواستار کنترلها، حسابرسیهای خارجی و نظارت هیئت مدیره است، در حالی که راهی برای تنظیمات آینده باقی میگذارد.
رئیسجمهور دونالد ترامپ و مدیران ارشد فناوری توافقنامهای داوطلبانه در کاخ سفید امضا کردند که مسئولیتهای ایمنی AI پیشرفته را بر عهده شرکتهای سازنده مدلها میگذارد. این توافقنامه حسابرسیها و نظارت هیئت مدیره را رسمی میکند و بهطور صریح راهی برای قوانین الزامآور آینده باز میگذارد.
پیمان ایمنی هوش مصنوعی کاخ سفید مسئولیتهای «مرزی» را بر عهده توسعهدهندگان میگذارد
کاخ سفید در تاریخ ۳۰ سپتامبر ۲۰۲۶ یک توافقنامه داوطلبانه در زمینه ایمنی هوش مصنوعی پیشرفته امضا کرد که توسعهدهندگان را به عنوان خط اول دفاع در برابر ریسک مدل قرار میدهد. این توافقنامه تحت عنوان "تعهد مشترک در زمینه مسئولیتهای پیشرفته" نامگذاری شده و ایمنی را به عنوان یک مشکل حکمرانی و فرآیند در داخل آزمایشگاهها چارچوببندی میکند، نه یک دستور فوری برای کند کردن توسعه.
برای معاملهگران، جزئیات مرتبط با بازار ساختار است. این یک قانون نرم است که انتظارات را در میان سازندگان مدلهای بزرگ و یک تأمینکننده کلیدی محاسبات در یک اتاق استاندارد میکند. این ترکیب تمایل دارد که به یک الگو تبدیل شود و الگوها چیزی هستند که بعداً توسط نهادهای نظارتی به قوانین تبدیل میشوند.
موضع عمومی ترامپ به سمت خودتنظیمی متمایل بود. او در کاخ سفید گفت: "فکر میکنم شاهد خودکنترلی فوقالعادهای هستم. و آنها درک میکنند که باید خود را کنترل کنند."
لیست امضاکنندگان مهم است زیرا چارچوب "ایمنی هوش مصنوعی مرزی" را در سراسر زنجیره تقویت میکند: سوندار پیچای (گوگل)، داریو آمودئی (آنتروپیک)، مارک زاکربرگ (متا)، گرگ براکمن (اوپنای آی)، جنسن هوانگ (انیدیا) و ایلان ماسک (xAI). این جلسه همچنین به ایمنی هوش مصنوعی، رشد صنعت و توسعه مرکز داده پرداخته و این توافق را به روایت ساخت و ساز که زیر تقاضای محاسبات هوش مصنوعی قرار دارد، پیوند میزند.
آنچه توافق نیاز دارد: کنترلها، حسابرسیهای خارجی و نظارت هیئت مدیره
تعهدات اصلی این توافق بر اولویت حاکمیت تأکید دارد. این توافق خواستار کنترلهای داخلی و نظارت مستقل خارجی است.حسابرسیهاو نظارت در سطح هیئت مدیره "برای اطمینان از اینکه مدلهای آن به طور غیرمترقبه به سیستمهای فنی نفوذ یا دسترسی پیدا نکنند." این عبارت دو کار را به طور همزمان انجام میدهد: یک، حالت شکست را که مدیریت میخواهد از آن جلوگیری کند تعریف میکند و دو، واژگان انطباقی را تعیین میکند که میتوان بعداً آن را اندازهگیری کرد.
«هوش مصنوعی مرزی» در اینجا بالاترین سطح قابلیت است، مدلهایی که به اندازه کافی عمومی هستند تا بسیاری از جریانهای کاری را لمس کنند و بنابراین خطرات ایمنی و امنیتی گستردهتری ایجاد کنند. این توافق به آن سیستمها مربوط میشود، نه اتوماسیون محدود سازمانی.
سه رکن از نظر مفهوم ساده هستند:
کنترلهای داخلی، نوارهای محافظ و فرآیندهای خود شرکت هستند که به منظور حفظ رفتار مدلها به صورت مورد نظر طراحی شدهاند.
حسابرسیهای مستقل خارجی، بررسیهای شخص ثالث هستند که به منظور آزمایش اینکه آیا کنترلها و ادعاهای ایمنی در خارج از آزمایشگاه معتبر هستند یا نه، انجام میشوند.
نظارت در سطح هیئت مدیره مسئولیت را به سمت مدیران سوق میدهد، جایی که مسئولیت، وضعیت افشا و اختیارات بودجه همگرایی پیدا میکنند.
نکته این است که چه چیزی مشخص نشده است. این توافق داوطلبانه است و متن ارائه شده شامل مکانیزمهای اجرایی، زمانبندیهای انطباق، جریمهها یا استانداردهای حسابرسی که «حسابرسیهای مستقل خارجی» را به صورت عملی الزامآور کند، نمیباشد. همچنین نام حسابرسان را مشخص نمیکند، اینکه آیا نتایج عمومی خواهند بود یا نه، یا اینکه اختلافات در مورد یافتهها چگونه مدیریت خواهند شد.
یک سیگنال دیگر از همان جلسه: ترامپ یک همکاری مشترک ایالات متحده و چین برای توسعه هوش مصنوعی را رد کرد. این موضوع چارچوب رقابتی را حفظ میکند حتی در حالی که دولت خودکنترلی را ترویج میکند، که مهم است زیرا روایتهای «نژادی» تمایل دارند احتمال توقفهای سخت در توسعه در کوتاهمدت را کاهش دهند.
از تعهدات داوطلبانه تا قوانین ممکن: گزینههای نظارتی که معاملهگران باید قیمتگذاری کنند.
این توافق به وضوح بیان میکند که ممکن است در طول زمان منطقی باشد که تعهدات را به قانون یا مقررات تبدیل کند. آن جمله واحد، مسیر سیاست است. رژیمهای داوطلبانه زمانی سریعتر الزامآور میشوند که یک چارچوب از قبل وجود داشته باشد و یک حادثه فوریت سیاسی ایجاد کند.
کاتالیزورهای بعدی رویهای هستند، نه بلاغی. هر اقدام بعدی کاخ سفید یا آژانس که زبان حسابرسی، الزامات کنترل یا نظارت هیئت را به قوانین پیشنویس ارتقا دهد، این را از سیگنالدهی به داستان هزینههای انطباق تبدیل میکند.
حلقه دیگر خاص بودن حسابرسی است. اگر اداره یا امضا کنندگان فاش کنند که چه کسی "حسابرسیهای مستقل خارجی" را انجام میدهد، چه استانداردهایی استفاده میشود و آیا نتایج منتشر میشوند، توافق شروع به محدود کردن رفتار در عمل میکند. اگر آن جزئیات خصوصی یا نامشخص باقی بمانند، بیشتر شبیه پوشش شهرت عمل میکند.
گستره مشارکت یک نشانه دیگر است. اگر آزمایشگاههای بزرگ AI یا بازیگران زیرساختی بیشتری فراتر از گوگل، آنتروپیک، متا، اوپنایآی، انویدیا و xAI به این توافق بپیوندند، توافق شروع به به نظر رسیدن به عنوان یک خطمشی صنعتی به جای یک فرصت عکاسی میکند.
یک حادثه ایمنی خطر تسریعکننده است. این توافق بهطور صریح بر جلوگیری از هک کردن یا دسترسی مدلها به سیستمها به روشهای غیرمترقبه متمرکز است. یک شکست با پروفایل بالا در این دسته احتمالاً بند "ممکن است منطقی باشد" را به جلو میبرد و به قانونگذاری واقعی تبدیل میکند.
نظر من: یک چارچوب AI نرمقانونی که میتواند به سرعت در صورت وقوع یک حادثه ایمنی سخت شود.
آستانهای که اهمیت دارد این است که آیا "حسابرسیهای مستقل خارجی" به یک استاندارد واقعی با حسابرسان نامبرده، روشهای تعریفشده و نوعی افشا تبدیل میشود یا خیر. بدون آن، توافق عمدتاً یک وسیله هماهنگی است که به امضا کنندگان اجازه میدهد بلوغ حکمرانی را ادعا کنند در حالی که سرعت توسعه را حفظ میکند.
اگر یک حادثه مدل مرزی در همان مسیری که توافق نام میبرد، یعنی دسترسی غیرمجاز یا رفتار هک، رخ دهد، این ساختار شروع به به نظر رسیدن ساختاری به جای داستانمحور میکند زیرا اداره قبلاً توجیهی برای تبدیل تعهدات به مقررات نوشته است.
