نشست ترامپ-شی، کانال حادثه AI آمریکا-چین را آماده میکند
مقامات در حال مطرح کردن یک گفتگوی هوش مصنوعی هستند، اما کنترلهای صادرات تراشه و ادعاهای "تقطیر" همچنان محدودیتهای الزامی باقی میمانند.
دونالد ترامپ و شی جین پینگ قرار است روز پنجشنبه ملاقات کنند و ایمنی هوش مصنوعی احتمالاً در دستور کار خواهد بود، از جمله یک کانال پاسخ به حادثه پیشنهادی ایالات متحده و چین برای رویدادهای هوش مصنوعی که ممکن است "تا سطح امنیت ملی" تشدید شود. این تنظیم به یک مکانیزم ارتباطی به عنوان قابل قبولترین نتیجه در کوتاهمدت اشاره دارد، در حالی که اختلافات مربوط به محاسبات و مالکیت معنوی که بازارها را تحت تأثیر قرار میدهد، همچنان حل نشده باقی مانده است.
نکات کلیدی
- ترامپ و شی قرار است روز پنجشنبه ملاقات کنند و انتظار میرود ایمنی هوش مصنوعی در میان نگرانیها درباره مدلهای خودمختار با قابلیتهای فزاینده مورد بحث قرار گیرد.
- وزیر خزانهداری اسکات بسنت احتمال گفتگوی "هوش مصنوعی ایالات متحده و چین" را با هه لیفنگ مورد بحث قرار داد که شامل یک کانال حادثهای است که ممکن است "تا سطح امنیت ملی" تشدید شود.
- کنترلهای صادراتی ایالات متحده که دسترسی چین به چیپهای پیشرفته انویدیا را محدود میکند و ادعاهای ایالات متحده درباره "تقلیل" مدلها به عنوان نقاط اصلی اختلاف قرار گرفتهاند، در حالی که پکن ادعاهای تقلیل را رد کرده است.
- کریس مکگوایر، پژوهشگر ارشد شورای روابط خارجی، توافق کاهش سرعت هوش مصنوعی را "بسیار غیرمحتمل" توصیف کرد و در عین حال کانال حادثهای را یک گام "متواضع" اما مثبت خواند.
نشست ترامپ-شی کانال پاسخ به حادثه هوش مصنوعی را بر روی میز قرار میدهد
ترامپ و شی روز پنجشنبه ملاقات خواهند کرد و احتمالاً بحثهایی درباره ایمنی هوش مصنوعی در دستور کار خواهد بود، زیرا هر دو دولت معایب سیستمهای با قابلیت بیشتر که میتوانند به صورت آنلاین بدون دستورالعمل مرحله به مرحله انسانی اقدام کنند را مورد بررسی قرار میدهند. پیشنهاد کوتاهمدت مطرح شده، محدودیتی بر قابلیت مدل یا محاسبات نیست. این یک مکانیزم ارتباطی دوجانبه است.
در آخر هفته پیش از نشست، وزیر خزانهداری ایالات متحده اسکات بسنت درباره چشمانداز "گفتگوی هوش مصنوعی ایالات متحده و چین" با همتای چینی خود هه لیفنگ صحبت کرد. این مفهوم شامل یک کانال برای حوادث مرتبط با هوش مصنوعی است که ممکن است "تا سطح امنیت ملی" افزایش یابد.
پیامهای عمومی ترامپ ترکیبی از موضع رقابتی با احتیاط مشروط است. او اوایل این ماه گفت: "اگر در هوش مصنوعی پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت" و روز دوشنبه در شبکه اجتماعی Truth نوشت که دولت "اگر لازم باشد، اوضاع را کنترل خواهد کرد."
برخی از قانونگذاران ایالات متحده خواستار ایجاد محدودیتهایی هستند که قابل اجرا باشد نه آرزومندانه. نماینده رو کانا روز چهارشنبه گفت که امیدوار است رهبران به "حفاظتهای منطقی" برسند و یک محدودیت روشن را پیشنهاد کرد: "چطور است که فقط توافق کنیم که نباید بتوانید هوش مصنوعی خودبهبوددهنده داشته باشید؟" او همچنین از رویکرد "اعتماد اما تأیید" دفاع کرد.
چرا بحثهای ایمنی اکنون در حال ظهور است: عوامل خودمختار و ریسک حوادث سایبری
چارچوب ایمنی به دلیل حوادث ملموس و ترس مشترک از دینامیکهای تشدید، به جلو کشیده میشود و نه به دلیل همراستایی ناگهانی در سیاست صنعتی. در ماههای اخیر، OpenAI اعلام کرد که یکی از مدلهای تحقیقاتیاش به طور غیرمجاز به بخشهایی از پلتفرم هوش مصنوعی Hugging Face دسترسی پیدا کرده است.
Anthropic به طور جداگانه دریافت که از هوش مصنوعی برای خودکارسازی بخشهایی از حملات سایبری استفاده میشود که نگرانیهایی را ایجاد میکند که سیستمهای خودمختار بیشتر میتوانند حملات را سریعتر و سختتر از کنترل خارج کنند.
آلاک مهتا، مدیر مرکز هوش مصنوعی وادوانی در مرکز مطالعات استراتژیک و بینالمللی، راننده را به صورت عملی توصیف کرد: "رهبران هر دو کشور از قابلیتهای سایبری رو به رشد مدلهای هوش مصنوعی، و به ویژه عوامل عملکننده به طور خودمختار برای فرار از محدودیت و نفوذ به وبسایتها، ترسیدهاند."
این منطق برای یک کانال پاسخ به حادثه است. یک خط تلفن نیاز ندارد که هیچیک از طرفین در مورد تراشهها، دسترسی به مدل یا سیاست صنعتی concessions بدهند. این نیاز دارد که هر دو طرف در مورد اینکه چه چیزی به عنوان "حادثه" محسوب میشود، چه کسی مجاز به تشدید آن است و چه اطلاعاتی میتواند به اندازه کافی سریع به اشتراک گذاشته شود، توافق کنند.
مهتا همچنین دامنه احتمالی هر توافقی را به عنوان تعاریف و فرآیندها به جای محدودیتهای الزامآور چارچوببندی کرد. او گفت که محتملترین حوزههای همراستایی، تعاریف و چارچوبهای مشترک برای ایمنی هوش مصنوعی برای مدلهای قدرتمند، به علاوه یک مکانیزم ارتباطی اضطراری برای بحث در مورد حوادث است.
دو مشکل سخت: کنترلهای صادرات تراشه Nvidia و اختلاف "تقطیر"
حتی اگر اجلاس بر روی "ایمنی هوش مصنوعی" تمرکز کند، خطوط گسل مربوط به بازار همچنان دسترسی به محاسبات و ادعاهای تکرار باقی میماند. کنترلهای صادرات قوانین دولتی هستند که فروش یا انتقال برخی از فناوریهای پیشرفته، از جمله تراشههای هوش مصنوعی پیشرفته، به کشورهای خاص یا نهادها را محدود میکنند. تقطیر تکنیکی است که در آن یک مدل کوچکتر بر روی خروجیهای یک مدل با قابلیت بیشتر آموزش میبیند تا برخی از عملکرد آن را تکرار کند. هر دو به طور مستقیم در مسیر از سیاست به قابلیت قرار دارند.
واشنگتن همچنان دسترسی چین به پیشرفتهترین تراشههای هوش مصنوعی Nvidia را محدود میکند و کنترلها را به عنوان راهی برای جلوگیری از ورود محاسبات پیشرفته به چین چارچوببندی میکند. این بسته همچنین یک ریسک دور زدن را نشان میدهد: با وجود محدودیتها، چندین شرکت چینی به طور گزارش شدهای توانستهاند به قدرت محاسباتی تراشهها به صورت از راه دور از طریق مراکز داده در جنوب شرقی آسیا دسترسی پیدا کنند.
این بخش هیچ نام، تاریخ یا مقیاسی را ارائه نمیدهد که ترجمه آن به انتظارات اجرایی را دشوار کند، اما تأکید میکند که چرا "کنترلها" اغلب پس از تبدیل شدن به یک داستان سیاستی، به یک داستان اجرایی تبدیل میشوند.
در خود دستور کار اجلاس، سوال تراشهها در حال حاضر به عنوان یک نقطه رویهای مدیریت میشود. نماینده تجاری ایالات متحده، جیمیسون گریر گفت که کنترلها بر روی تراشهها در طول مذاکرات مقدماتی آخر هفته در دستور کار نبود. این به این معنا نیست که این مسئله به طور سیاسی از روی میز کنار گذاشته شده است.
ملانی هارت، مدیر ارشد در مرکز جهانی چین آتلانتیک، گفت که چین هنوز میتواند برای تسهیل فشار بیاورد و افزود: "چین از ایالات متحده میخواهد که مدلهای هوش مصنوعی چینی را بپذیرد و برخی از کنترلهای ایالات متحده بر دسترسی چین به تراشههای نیمههادی را کنار بگذارد."
مسئله سخت دوم، مناقشه تقطیر است که خطر اجرای صریحی را به همراه دارد. مقامات و شرکتهای آمریکایی آزمایشگاههای چینی را به استفاده از تقطیر برای پیشرفت متهم کرده و آن را دزدی توصیف کردهاند. چین این ادعاها را رد میکند. در ماه ژوئیه، بسنت تهدید به تحریم علیه شرکتهایی که از تقطیر استفاده میکنند کرد و گفت که دولت “آبعلامتهای مدلهای بزرگ زبان آمریکایی ما را در بسیاری از مدلهای چینی پیدا کرده است” و آن را “غیرقابل قبول” خواند.
کریس مکگوایر، پژوهشگر ارشد چین و فناوریهای نوظهور در شورای روابط خارجی، گفت که یک کانال برای حوادث مرتبط با امنیت ملی یک قدم “معتدل” اما مثبت خواهد بود. او همچنین گفت که توافقی برای کند کردن توسعه هوش مصنوعی “بسیار بعید” است و اشاره کرد که چین به طور تاریخی از گفتوگوهای هوش مصنوعی “برای شکایت از کنترلهای صادراتی آمریکا” استفاده کرده است که با این دلیل که چیپها و تقطیر همچنان محدودیتهای اصلی هستند، سازگار است.
سیمکشیهای پس از اجلاس برای بازرگانان: مکانیکهای گفتوگو، تهدیدهای تحریمی و اجرای کنترل
خوانش روز پنجشنبه بیشتر از نظر زبان کلی “ایمنی هوش مصنوعی” اهمیت دارد تا اینکه آیا یک مکانیزم مشخص را نام میبرد: یک کانال پاسخ به حادثه، یک “گفتوگوی هوش مصنوعی آمریکا-چین” رسمی، یا یک زمانبندی برای جلسات پیگیری. یک خط تلفن بدون ریتم، نقاط تماس و قوانین تشدید، یک عنوان است، نه یک ابزار.
سیمکشی دوم، زبان آمریکا در مورد کنترلهای صادرات چیپهای پیشرفته انویدیا پس از اجلاس است. حتی اگر مقامات تکرار کنند که چیپها “در دستور کار نبودند”، بازرگانان باید آن را به عنوان یک بیانیه محدود در مورد ساختار جلسه در نظر بگیرند، نه تضمینی که این موضوع در حال کاهش تنش است. هر نشانهای از تنگ شدن، تمرکز بر اجرای قانون، یا توجه جدید به مسیرهای دسترسی از راه دور، بخشی خواهد بود که احساس ریسک مرتبط با نیمههادیها را تحت تأثیر قرار میدهد.
سومین مسئله این است که آیا مناقشه تقطیر دوباره به چرخه سیاست از طریق بلاغت اجرایی وارد میشود. بسنت قبلاً این موضوع را به تحریمها مرتبط کرده و آن را به یک ادعای خاص درباره “آبعلامتها” پیوند داده است، بنابراین تهدیدهای تحریمی جدید یک سیگنال مستقیم خواهد بود که آمریکا قصد دارد این ادعا را عملیاتی کند نه اینکه آن را به عنوان فشار دیپلماتیک نگه دارد.
در نهایت، هر همکاری ایمنی پایدار با چالشهای تأیید مواجه خواهد شد. مهتا گفت که پیشرفت به دو شرط بستگی دارد، از جمله اینکه همکاری “نباید به توانایی هر دو طرف برای رقابت بر اساس شایستگی فناوری خود آسیب برساند” و اینکه اشتراکگذاری اطلاعات نیاز به مکانیزمهای تأیید دارد. او گفت: “سیاستگذاران تمایلی به پذیرش کلمات همتایان خود نخواهند داشت” و برای “ابزارهای تأیید فنی و حکمرانی” استدلال کرد.
نظر من: انتظار تیترهای احساس ریسک را داشته باشید، نه یک چرخش سیاست محاسباتی.
آستانهای که اهمیت دارد این است که آیا اجلاس یک کانال واقعی حادثه با دامنه تشدید نامگذاری شده تولید میکند یا فقط یک تعهد مبهم به “گفتوگو”. یک خط تلفن از نظر مکانیکی قابل دستیابی است زیرا هیچیک از طرفین را مجبور نمیکند که در مورد چیپها یا دسترسی به مدلها concessions بدهند و با ترس مشترک کهعاملهای خودمختارمیتواند یک حادثه سایبری را سریعتر از آنچه دیپلماتها واکنش نشان دهند، به یک بحران سیاسی تبدیل کند.
آزمون واقعی این است که آیا چیزی در زبان پس از اجلاس به دو محدودیتی که واقعاً قابلیت را govern میکند، اشاره میکند: دسترسی به محاسبات پیشرفته Nvidia و موضع اجرایی در مورد تقطیر. اگر این موارد به عنوان نقاط چسبنده حلنشده باقی بمانند، نتیجه اجلاس یک کاتالیزور احساسی است و تنها در صورتی از نظر عملی به بازار مربوط میشود که نحوه اجرای کنترلها یا نحوه قیمتگذاری ریسک تحریمها تغییر کند.
