زاکربرگ به ترامپ پیشنهاد حذف مدل AI مشابه FINRA داد
کاخ سفید هنوز در حال بررسی آزمایش مدل پیشاستقرار در برابر چارچوب ارزیابی داوطلبانهای است که دیوید ساکس پیشنهاد داده است.
مدیرعامل متا، مارک زاکربرگ، در یک تماس تلفنی مستقیم با رئیسجمهور دونالد ترامپ در هفته ۱۷ اوت به او گفت که با پیشنهاد یک نهاد ملی تنظیمگر هوش مصنوعی که بر اساس FINRA مدلسازی شده مخالف است، به گفته یک مقام ارشد کاخ سفید که با این مکالمه آشنا بود. این مفهوم همچنان در حال بررسی است در حالی که مقامات یک رژیم آزمایش پیشانتشار را در برابر یک سیستم رتبهبندی داوطلبانه به سبک انجمن فیلم بررسی میکنند.
نکات کلیدی
- مارک زاکربرگ در یک تماس تلفنی مستقیم با رئیسجمهور دونالد ترامپ در هفته ۱۷ اوت با پیشنهاد یک نهاد ملی تنظیمگر هوش مصنوعی مدلسازی شده بر اساس FINRA مخالف بود، به گفته یک مقام ارشد کاخ سفید که بهطور مستقیم با این مکالمه آشنا بود.
- این طرح یک نهاد تحت رهبری صنعت را برای بررسی مدلهای پیشرفته هوش مصنوعی و آزمایش آنها برای خطرات قبل از استقرار گستردهتر ایجاد میکند.
- مقامات کاخ سفید در حال بررسی این رویکرد آزمایش پیشاستقرار در برابر یک چارچوب رتبهبندی داوطلبانه به سبک انجمن فیلم هستند که توسط دیوید ساکس پیشنهاد شده است.
- تماس زاکربرگ ایده تنظیمگر را پایان نداد و این مفهوم همچنان در داخل کاخ سفید زنده است.
تماس خصوصی زاکربرگ مانع از پیشرفت ایده دروازهبان هوش مصنوعی به سبک FINRA شد.
مارک زاکربرگ از یک خط مستقیم به رئیسجمهور دونالد ترامپ استفاده کرد تا در برابر پیشنهادی که یک دروازه آزمایش پیشاستقرار را در مقابل انتشارهای پیشرفته هوش مصنوعی قرار میدهد، مقاومت کند. این تماس در هفته ۱۷ اوت انجام شد و زاکربرگ به ترامپ گفت که با ایده یک نهاد ملی تنظیمگر هوش مصنوعی مدلسازی شده بر اساس FINRA مخالف است، به گفته یک مقام ارشد کاخ سفید که بهطور مستقیم با این مکالمه آشنا بود.
این تماس در مرحلهای انجام شد که فرآیند قبلاً از طوفان فکری داخلی فراتر رفته بود. مقامات ارشد کاخ سفید مفهوم تنظیمگر صنعتی به سبک FINRA را به ترامپ و بهطور جداگانه به شرکتهای بزرگ هوش مصنوعی از جمله متا، OpenAI و Anthropic در اواسط اوت پیشنمایش کرده بودند، به گفته همان مقام.
یک نفر آشنا با این موضوع گفت که ترامپ تماس را با زاکربرگ آغاز کرد. آن شخص همچنین گفت که زاکربرگ از ترامپ نخواست که موضع خود را بهطور کامل تغییر دهد، اما استدلال کرد که هر کسی که کاخ سفید ممکن است به چنین نهادی منصوب کند باید رویکرد ملایم ترامپ به هوش مصنوعی را منعکس کند. متا از ارائه بیانیه خودداری کرد و گزارشها واکنش ترامپ یا اینکه آیا نظر او تغییر کرده است را توصیف نمیکند.
نکته کلیدی برای بازارها این است که این تماس اصطکاکی ایجاد کرد بدون اینکه پرونده بسته شود. مفهوم تنظیمکننده به سبک FINRA هنوز در داخل کاخ سفید در حال بررسی است و یک سخنگوی کاخ سفید موضع دولت را به این صورت بیان کرد: "دولت ترامپ متعهد به تعادل بین نوآوری و امنیت در سیاستگذاری هوش مصنوعی است."
درون تشبیه FINRA: یک SRO هوش مصنوعی برای آزمایش ریسک مدل پیشاستقرار
پیشنهاد مورد بحث ساختار خود را از FINRA، سازمان خودتنظیمی خصوصی و تحت رهبری صنعت که قوانین را برای کارگزاران و معاملهگران ایالات متحده تحت نظارت کمیسیون بورس و اوراق بهادار مینویسد و اجرا میکند، قرض میگیرد. در عمل، FINRA از طریق هزینههای اعضا تأمین مالی میشود، تحت رهبری هیئتی که شامل نمایندگان از شرکتهای عضو است و با بررسی تغییرات قوانین توسط SEC عمل میکند.
یک نهاد هوش مصنوعی مدلسازی شده بر اساس FINRA، الگوی "رهبری صنعت، نزدیک به دولت" را به ریسک مدلهای مرزی اعمال خواهد کرد. مقامات کاخ سفید یک سازمان مستقل را تصور میکنند که مدلهای پیشرفته هوش مصنوعی را بررسی کرده و آنها را برای ریسکهای بالقوه قبل از اینکه به طور گستردهتری به کار گرفته شوند، آزمایش میکند.
مکانیسم اهمیت دارد زیرا این فقط یک سند استاندارد نیست. آزمایش مدل پیش از استقرار به طور عمدی یک محدودیت در توان عملیاتی است: یک مدل قبل از انتشار گسترده در برابر یک چارچوب ریسک ارزیابی میشود، نه اینکه پس از وقوع حوادث، یک پاسخ وصلهای ارائه شود.
فوریت سیاست درون اداره به قابلیتهای عاملی و امنیت سایبری مرتبط است. مقامات در حال ارزیابی ریسک هستند کهعاملهای هوش مصنوعی، به طور فزایندهای قادر به مرور وب، کار با نرمافزار و نوشتن کد با نظارت محدود انسانی، میتواند توسط بازیگران خصمانه برای شناسایی آسیبپذیریها یا خودکارسازی حملات سایبری سریعتر از تدابیر حفاظتی موجود استفاده شود.
گزارش همچنین به "رشتهای از حوادث با پروفایل بالا" اشاره میکند که در آنها عوامل از کنترل انسانی فرار کردهاند، اما به نام حوادث یا ارائه تاریخها اشارهای نمیکند.
حمایت از تشبیه FINRA از سوی دمیس هاسابیس، دانشمند برنده جایزه نوبل از گوگل دیپ مایند، ارائه شده است. هاسابیس در یک مقاله در ماه ژوئیه پیشنهاد کرد که ایالات متحده یک "نهاد استاندارد" جدید مشابه FINRA برای مدیریت خطرات هوش مصنوعی مانند تهدیدات نوظهور سایبری ایجاد کند و او در تابستان درباره این مفهوم با مقامات کاخ سفید صحبت کرده است، طبق گفته یک مقام دولتی که با این موضوع آشنا است. گوگل به درخواست برای اظهار نظر پاسخ نداد.
یک عدم تطابق داخلی وجود دارد که منتقدان میتوانند از آن بهرهبرداری کنند. FINRA یک نهاد نظارتی در خط مقدم برای واسطههای اوراق بهادار است، اما در تأیید محصولات سرمایهگذاری جدید نقش کمی دارد. یک SRO هوش مصنوعی که به طور مؤثردامپزشکانمدلهای جدید قبل از انتشار به محصول نزدیکتر خواهند بود تا آنچه امروز FINRA است، حتی اگر توسط صنعت تأمین مالی و پرسنل شود.
دو مسیر رقیب: آزمایش پیش از انتشار در مقابل سیستم ارزیابی داوطلبانه به سبک MPA
مقامات کاخ سفید دو فلسفه حکمرانی متمایز را بررسی میکنند، به گفته یک مقام دولتی: یک نهاد نظارتی به سبک FINRA با آزمایش پیش از انتشار، یا یک گروه صنعتی داوطلبانه مدلسازی شده بر اساس انجمن فیلم (MPA)، رویکردی که دیوید ساکس پیشنهاد داده است.
ساکس رویکرد نهاد نظارتی را به عنوان یک مشکل گلوگاه به جای یک مشکل استاندارد مطرح کرده است. او مفهوم نهاد نظارتی دولتی را به عنوان "یک DMV برای هوش مصنوعی" مورد انتقاد قرار داد که در آن مدلها "در صف قرار میگیرند و منتظر میمانند تا آزمایش خود را انجام دهند." این انتقاد عملی است: اگر نهاد آزمایش به مسیر انتشار تبدیل شود، آنگاه صف به سیاست تبدیل میشود.
در قسمت 21 اوت پادکست "All-In"، ساکس یک سیستم به سبک MPA را ترسیم کرد که مدلهای هوش مصنوعی را به شیوهای مشابه با فیلمها که درجهبندی "R" یا "PG-13" میگیرند، برچسبگذاری میکند. او استدلال کرد که هدف مدل MPA پیشگیری از مقررات سنگینتر است: "آنچه MPA انجام داد، ترویج استانداردهایی بود که سپس مانع از اقدامهای دولتی سنگین و مداخلهگر شد،" او گفت.
ساکس گفت که این رویکرد از سوی ایلان ماسک حمایت دارد، اما ماسک به درخواست برای اظهار نظر پاسخ نداد. گزارش همچنین اشاره میکند که سیاستگذاری هوش مصنوعی دولت شاهد تغییرات لحظه آخری بوده است: در ماه مه، ساکس صبح روز مراسم امضای برنامهریزی شده با ترامپ تماس گرفت و او را متقاعد کرد که دستور اجرایی گستردهای در زمینه هوش مصنوعی را لغو کند.
موضعگیری صنعت هنوز در عموم ضعیف است، که بخشی از دلیل این است که این موضوع به عنوان ریسک فرآیند قابل معامله است نه سیاست تثبیت شده. بزرگترین شرکتهای هوش مصنوعی به طور عمومی از طرح نهاد نظارتی به سبک FINRA حمایت یا مخالفت نکردهاند. جک کلارک، یکی از بنیانگذاران آنتروپیک، در جولای به طور مثبت درباره این ایده در X پست گذاشت، اما آنتروپیک در پاسخ به سوال درباره موضع خود از اظهار نظر خودداری کرد. OpenAI و گوگل به درخواستهای اظهار نظر پاسخ ندادند و متا از ارائه بیانیه خودداری کرد.
تصمیم هنوز در حال انتظار: چه چیزی نشان میدهد که کدام چارچوب در حال پیروزی است
هیچ زمانبندی برای تصمیم کاخ سفید در انتخاب بین مفهوم نهاد نظارتی به سبک FINRA و گروه داوطلبانه به سبک MPA مشخص نشده است، و این موضوع بازار را به خواندن سیگنالها به جای تاریخها واگذار کرده است.
تمیزترین نشانه یک اعلامیه رسمی خواهد بود که به آزمایش پیشاستقرار یا یک رژیم ارزیابی داوطلبانه متعهد میشود، زیرا این دو مسیر به معنای اصطکاکهای پیشفرض متفاوتی برای انتشار مدلهای مرزی است. سیگنال دوم این است که آیا آزمایشگاههای بزرگ هوش مصنوعی از عدم پاسخ به تأیید یا مخالفت صریح حرکت میکنند، به ویژه پس از پیشنمایشهای اواسط اوت به ترامپ و شرکتهایی از جمله متا، OpenAI و Anthropic.
موضع عمومی ساکس یک شاخص زنده دیگر است. اگر او به ترویج رویکرد سبک MPA ادامه دهد و ادعاهای حمایت ماسک را تکرار کند، تأیید یا انکار از سوی ماسک روشن خواهد کرد که آیا آن ائتلاف واقعی است یا بلاغی.
نشانه دیگر فرایند است، نه مطبوعات. تماسهای بیشتر کاخ سفید با مدیران عامل فناوری، مشابه پیشنمایشهای اواسط اوت، نشان میدهد که پیشنهاد در حال بازنگری و آزمایش فشار است نه اینکه کنار گذاشته شده باشد.
خوانش من: چرا این فرایند کاخ سفید برای اشتهای ریسک هوش مصنوعی مهم است
بخشی که این را تعیین میکند این نیست که آیا واشنگتن به "استانداردها" نیاز دارد یا نه. بلکه این است که آیا دولت حاضر است یک تابع گیتینگ در مقابل انتشارها قرار دهد، حتی اگر این تابع با تأمین مالی صنعت و به طور ظاهری تحت مدیریت صنعت باشد. تماس زاکربرگ مانند فشار لابیگری در مراحل پایانی به نظر میرسد، نه یک تغییر سیاست، زیرا مفهوم سبک FINRA پس از اینکه او به طور مستقیم با ترامپ اعتراض کرد، زنده ماند.
آستانهای که مهم است این است که آیا آزمایش پیشاستقرار به مسیر پیشفرض انتشار تبدیل میشود یا به عنوان یک برچسب داوطلبانه باقی میماند. اگر کاخ سفید به یک آزمایشگر شبیه SRO تحت نظارت دولت برسد، بازار چرخههای تکرار کندتر و سطح بیشتری از انطباق برای آزمایشگاههای مرزی و روایتهای عامل زنجیرهای که به ارسال سریع مدلها وابستهاند، قیمتگذاری خواهد کرد.
اگر به یک گروه ارزیابی سبک MPA برسد، اصطکاک فوری کمتر است، اما ریسک این است که استانداردهای "داوطلبانه" به الزامات de facto تبدیل شوند زمانی که تأمینکنندگان، بیمهگران و تنظیمکنندگان شروع به ارجاع به آنها کنند.
