OpenAI از کنگره میخواهد درباره توقف AI مرزی نظر دهد
یک لایحه دو حزبی برای ایجاد پناهگاه ایمن اجازه هماهنگی ایمنی بین آزمایشگاهها را میدهد، اما در کمیته قضایی مجلس متوقف شده است.
OpenAI بهطور خصوصی از اعضای کنگره پرسیده است که آیا هماهنگی برای کاهش سرعت توسعه AI مرزی در سطح صنعت میتواند تحت قانون ضد انحصار ایالات متحده قانونی باشد یا خیر. این تماس در حالی انجام میشود که قانونگذاران در حال بررسی لایحهای برای ایجاد پناهگاه امن هستند که بهطور صریح همکاریهای ایمنی و امنیتی خاص AI را از خطرات ضد انحصار محافظت میکند.
نکات کلیدی
- OpenAI در هفتههای اخیر از اعضای کنگره پرسیده است که آیا سازماندهی یک کاهش سرعت در سطح صنعت در توسعه AI مرزی تحت قانون ضد انحصار ایالات متحده قانونی خواهد بود یا خیر.
- هماهنگی ایمنی بین آزمایشگاهها بهطور داخلی بهعنوان یک خطر ضد انحصار در نظر گرفته میشود و هر تلاشی برای وارد کردن شرکتهای بزرگ فناوری به یک تلاش مشترک برای کاهش سرعت را پیچیده میکند.
- دانشمند ارشد OpenAI، یاکوب پاچوکی، بهطور عمومی برای "هماهنگی برای کاهش سرعت توسعههای آینده" استدلال کرد و گفت که انتظار دارد "کاهشهای داوطلبانه به یک امر معمول تبدیل شود تا زمانی که بارهای ایمنی مشترک برقرار شوند."
- یک لایحه دو حزبی و دو مجلسی پناهگاه امن در ماه ژوئیه بهطور صریح به آزمایشگاههای AI اجازه میدهد تا بدون خطر ضد انحصار بر روی کارهای امنیتی و ایمنی هماهنگ شوند، اما نسخه مجلس پس از ارجاع به کمیته قضایی پیش نرفته است.
بررسی خاموش ضد انحصار OpenAI: آیا آزمایشگاهها میتوانند کاهش سرعت AI مرزی را هماهنگ کنند؟
OpenAI در هفتههای اخیر از اعضای کنگره درخواست راهنمایی کرده است که آیا کاهش سرعت هماهنگ شده در صنعت در توسعه AI مرزی قانونی خواهد بود یا خیر، طبق گفته افرادی نزدیک به این شرکت. این سوال محدود است، اما پیامد آن گسترده است: اگر مرز قانونی نامشخص باشد، هر طرح جدی "پیسینگ" بین آزمایشگاهها در خطر است که قبل از اینکه به یک پیشنهاد عمومی تبدیل شود، در بررسی مشاوره بمیرد.
افراد نزدیک به OpenAI هماهنگیهای اساسی در زمینه ایمنی بین آزمایشگاههای AI را بهعنوان یک مشکل احتمالی ضد انحصار توصیف کردند و بهعنوان یک مانع عملی برای وارد کردن شرکتهای بزرگ فناوری به هر تلاش کاهش سرعت. این موضوع برای بازارها اهمیت دارد زیرا "AI مرزی" در اینجا یک شعار نیست. این مدلهای پیشرفتهترین نزدیک به حالت هنری هستند و ریتم انتشار آنها به ورودی کلان به احساسات فناوری تبدیل شده است که اغلب به اشتهای ریسک کریپتو نفوذ میکند.
OpenAI به درخواست برای اظهار نظر قبل از انتشار پاسخ نداد و دامنه تماسهای خود و راهنمایی خاصی که خواسته بود را فاش نکرد.
چرا "کاهش داوطلبانه" با ریسک محدودیت تولید طبق قانون شرمن مواجه میشود
تنش قانونی مکانیکی است. قوانین ضد انحصار ایالات متحده برخی از اشکال هماهنگی که رقابت را کاهش میدهند، ممنوع میکند و محدودیتهای هماهنگ در تولید یک علامت هشدار کلاسیک است. یک "کاهش داوطلبانه" میتواند در یک پست وبلاگ به عنوان کار ایمنی و در یک شکایت به عنوان سقف تولید به نظر برسد، بسته به اینکه آزمایشگاهها واقعاً چه توافقی برای انجام دارند.
نیکلاس فلستد، معاون مدیر در کمیسیون رقابت و مصرفکننده استرالیا و یک همکار سابق در سیاستهای هوش مصنوعی در مرکز حقوق و ریسک هوش مصنوعی، در مقالهای در مارس استدلال کرد که یک توقف هماهنگ در توسعه هوش مصنوعی ممکن است به معنای محدود کردن تولید توسط شرکتها باشد و میتواند نقض قانون ضد انحصار شرمن باشد.
شرط کلیدی او این بود که قانونی بودن "کاملاً به جزئیات دقیق هر توافق بستگی دارد"، که این بخش باعث میشود این موضوع از یک بحث انتزاعی به یک مورد مهم برای مدیران تبدیل شود.
فلستد همچنین یک محدودیت از مرتبه دوم را که معاملهگران معمولاً آن را دست کم میگیرند، برجسته کرد: خود عدم قطعیت. "اما حتی اگر بیشتر همکاریهای ایمنی در نهایت از بررسیهای ضد انحصار جان سالم به در ببرند، عدم قطعیت قانونی میتواند به عنوان یک بازدارنده قوی عمل کند."
حتی یک ساختار هماهنگی قابل دفاع نیز میتواند بسیار پرهزینه باشد اگر خطرات ناشی از آن سالها ریسک دعوی قضایی یا تصمیمگیری یک نهاد نظارتی مبنی بر اینکه توافق واقعاً یک بازار است، باشد.تخصیصطرح با برندینگ ایمنی.
به همین دلیل است که تلاشهای OpenAI کمتر شبیه یک تمرین فلسفی و بیشتر شبیه پیشتصویب به نظر میرسد. اگر هدف این است که چندین آزمایشگاه و احتمالاً شرکتهای بزرگ فناوری در یک جهت بر روی سرعت حرکت کنند، طراحی توافق به محصول تبدیل میشود.
تلاش برای پناهگاه امن: چه تغییراتی در همکاری در مورد تهدیدات خصمانه و قانون خطرات امنیتی ایجاد خواهد شد
کنگره یک مسیر قانونی زنده، هرچند متوقف، برای کاهش ریسک طراحی توافق دارد. در ماه ژوئیه، یک گروه دوحزبی و دوکامره از قانونگذاران "قانون همکاری در تهدیدات خصمانه و ریسکهای امنیتی" را معرفی کردند که بهطور صریح به آزمایشگاههای هوش مصنوعی اجازه میدهد تا در زمینه کارهای امنیتی و ایمنی هماهنگی کنند بدون اینکه ریسک نقض قوانین ضد انحصار را به همراه داشته باشد.
نسخه مجلس به کمیته قضائی ارجاع داده شده و هنوز مورد بررسی قرار نگرفته است. این وضعیت رویهای تمام نکتهای است که برای انتظارات کوتاهمدت مطرح میشود: بدون حرکت، بازار با ابهام مواجه است به جای مجوز، و ابهام معمولاً هماهنگی را به کانالهای غیررسمی سوق میدهد که تأیید آنها دشوارتر و رد آنها آسانتر است.
کالیب ناپ، مدیر امور دولتی در شبکه سیاستهای هوش مصنوعی غیرانتفاعی که این لایحه را تأیید کرده است، گفت که این لایحه کانالهای قانونی برای همکاری آزمایشگاههای هوش مصنوعی ایجاد خواهد کرد تا بهآدرسحوادث ایمنی و امنیتی بپردازند. ناپ همچنین گفت که کنگره دارای "اشتیاق فزایندهای برای انجام کاری" در زمینه ایمنی هوش مصنوعی است، در حالی که هشدار داد که ممکن است تصویب هر چیزی به قانون تا بعد از انتخابات میاندورهای آینده به تأخیر بیفتد.
سیاست و قانون اکنون با پیامرسانی خود صنعت در هم تنیده شده است. جاکوب پاچوکی، دانشمند ارشد OpenAI، آخر هفته گذشته نوشت که بهترین مسیر پیش رو شامل "هماهنگی برای کند کردن توسعههای آینده" است و او انتظار دارد که "کاهشهای داوطلبانه به یک امر رایج تبدیل شود تا زمانی که میلههای ایمنی مشترک برقرار شود."
در عین حال، جان شولمن، یکی از بنیانگذاران OpenAI که اکنون دانشمند ارشد در آزمایشگاه رقیب هوش مصنوعی Thinking Machines است، در اوایل این هفته در X استدلال کرد که ضد انحصار به عنوان پوششی استفاده میشود: "اولین قدم این است که رهبران صنعت OpenAI و Anthropic از درگیری دست بردارند و روی یک پیشنهاد هماهنگی کار کنند"، او نوشت و افزود: "آنها به ضد انحصار اشاره خواهند کرد، اما این جعلی است—ضد انحصار برخی توافقات را ممنوع میکند، اما نه از توسعه مشترک یک پیشنهاد."
سیگنالهایی که معاملهگران میتوانند نظارت کنند: حرکت کنگره، پیامرسانی آزمایشگاه و هر پیشنهاد رسمی هماهنگی
پاکترین سیگنال، سیگنال رویهای است، نه بلاغی. هر اقدام کمیته قضایی مجلس نمایندگان در مورد "همکاری در تهدیدات خصمانه و خطرات امنیتی" احتمال اینکه هماهنگی زمانبندی در یک منطقه خاکستری باقی بماند را کاهش میدهد، چه آن اقدام یک جلسه، اصلاح یا ارجاع مجدد باشد.
سیگنال دوم این است که آیا آزمایشگاههای مرزی از فراخوانهای عمومی برای هماهنگی به یک پیشنهاد زمانبندی مشخص با دامنه، مدت و اجرای تعریفشده حرکت میکنند. چارچوب پاچوکی "کاهشهای داوطلبانه" را عادی میکند، اما قرارگیری در معرض ضد انحصار به جزئیاتی که فلتستد تأکید کرد، بستگی دارد، نه به نیت.
سوم، راهنماییهای غیررسمی حتی در غیاب قانونگذاری میتواند مهم باشد. بیانیههای عمومی از قانونگذاران یا تنظیمکنندگان که ترسیم میکنند چگونه ضد انحصار به هماهنگی ایمنی هوش مصنوعی رسیدگی خواهد کرد، میتواند تحمل ریسک شرکتی را تغییر دهد، حتی اگر آنها به اجرای آینده الزام نداشته باشند.
در نهایت، خود اختلاف یک نشانه است. اگر رهبران صنعت بیشتری به طور عمومی نقد شولمن را که ضد انحصار بهانهای است، تکرار یا رد کنند، احتمال اینکه مرحله بعدی یک پیشنهاد عمومی و ساختاری باشد به جای گفتگوهای دو جانبه آرام افزایش مییابد.
خوانش من: عدم قطعیت سیاست به بخشی از "چرخه انتشار" هوش مصنوعی مرزی تبدیل میشود.
آستانهای که اهمیت دارد این است که آیا سرعتسنجی به یک ساختار هماهنگی مستند و تأیید شده توسط مشاوران تبدیل میشود یا اینکه یک استدلال اخلاقی است. ارتباط OpenAI با کنگره نشان میدهد که این شرکت عدم قطعیت ضد انحصار را به عنوان یک عامل محدودکننده برای هر گونه کندی بین آزمایشگاهها در نظر گرفته است و چارچوببندی فِلستد توضیح میدهد که چرا: یک توقف هماهنگ به راحتی میتواند به عنوان یک محدودیت خروجی دوباره فرموله شود اگر توافق حتی کمی نامنظم باشد.
اگر لایحه پناهگاه ایمن مجلس در جا بماند، این تنظیم بیشتر شبیه یک کاتالیزور احساسی به نظر میرسد تا یک تغییر بنیادی، زیرا صنعت همچنان در مورد "کندیهای داوطلبانه" صحبت خواهد کرد بدون اینکه راهی قانونی و پایدار برای انجام آنها به صورت مشترک وجود داشته باشد.
این موضوع تنها زمانی در عمل اهمیت پیدا میکند که یا کنگره یک پناهگاه ایمن ایجاد کند یا یک آزمایشگاه بزرگ یک پیشنهاد سرعتسنجی منتشر کند که جزئیات آن از آزمایش محدودیت خروجی قانون شرمن جان سالم به در ببرد.
