هشدار نیویورک تایمز: اقدام فوری علیه «خودنظارتی» AI
مقالهی ۲۰۲۶-۰۹-۲۰ استدلال میکند که اجازه دادن به هوش مصنوعی برای "پاسداری از مرز خود" خطرناک است زیرا سیستمها به سمت خودبهبود یافتن پیش میروند.
نیویورک تایمز در تاریخ ۲۰ سپتامبر مقالهای نظری منتشر کرد که در آن استدلال شده است که اقدامات فوری در زمینه نظارت بر هوش مصنوعی ضروری است و نسبت به اجازه دادن به سیستمهای هوش مصنوعی برای نظارت بر مرزهای توسعه خود هشدار داده است. این بخش، خودتنظیمی را به عنوان یک تضاد ساختاری قاببندی میکند و از تشبیه جسی جیمز برای بیان این نکته استفاده میکند.
نظر نیویورک تایمز خواستار اقدام فوری در مورد 'خودنظارتی' هوش مصنوعی است
نیویورک تایمز در تاریخ ۲۰ سپتامبر ۲۰۲۶ مقالهای نظری با عنوان 'همین حالا باید کاری درباره هوش مصنوعی انجام دهیم' منتشر کرد. قاببندی مرکزی این قطعه، که بر اساس بخش موجود در بسته است، این است که جهان باید به سرعت در زمینه حکمرانی هوش مصنوعی حرکت کند و به مدلی که در آن سیستمهای هوش مصنوعی نظارت بر توسعه بیشتر خود را بر عهده دارند، تن ندهد.
مکانیسمی که در حال استدلال علیه آن است، 'خودنظارتی هوش مصنوعی' است، به این معنی که سیستمهای هوش مصنوعی قابلیتهای مرزی خود را در حین پیشرفت نظارت، کنترل یا حکمرانی میکنند. خط اقتباس شده، ادعای تضاد منافع را به وضوح بیان میکند: 'اجازه دادن به هوش مصنوعی برای گشتزنی در مرز خود مانند این است که از جسی جیمز بخواهید در غرب وحشی گشتزنی کند.'
این تشبیه واقعاً کار میکند. این یک نقد فنی از معماریهای مدل یا ابزارهای ایمنی نیست. این یک نقد حکمرانی است که خودتنظیمی را به عنوان ذاتاً مختل شده در نظر میگیرد زمانی که سیستم تحت نظارت، خود مجری نیز باشد.
آنچه از بخش تأیید شده است—و آنچه بسته نمیتواند تأیید کند
آنچه از بسته تأیید شده است، محدود و باید به همین شکل مورد توجه قرار گیرد. منبع به وضوح به عنوان یک قطعه نظری برچسبگذاری شده است، نه یک تصمیم نظارتی، اقدام اجرایی، تغییر سیاست شرکتی یا افشای آزمایشگاه. بسته همچنین شامل زمان انتشار (۲۰۲۶-۰۹-۲۰T۰۵:۰۰:۰۶Z)، عنوان، URL و تنها تشبیه نقل شده است.
این بخش از دو ادعای مشخص حمایت میکند: نویسنده خواستار اقدام فوری در زمینه هوش مصنوعی است و نویسنده ایده 'نظارت هوش مصنوعی بر مرز خود' را رد میکند. فراتر از آن، بسته متن کامل را ارائه نمیدهد، بنابراین از هیچ خوانش دقیقی از اینکه 'اقدام' در عمل به چه معناست، چه کسی باید آن را انجام دهد یا چه زمانی پیشنهاد شده است، حمایت نمیکند.
URL شامل اصطلاحاتی مانند 'ai-ban-self-improvement-recursive-models' است، اما بسته شامل زبانی نیست که تأیید کند نویسنده به وضوح خواستار ممنوعیت بهبود خودکار تکراری یا هر محدودیت خاصی است. بدون مقاله کامل، هر تلاشی برای تطبیق این قطعه با یک ابزار سیاست خاص، نهاد نامگذاری شده یا مسیر اجرایی، نتیجهگیری به جای گزارش خواهد بود.
سیگنال پیشرو برای پیگیری، خود نظر نیست، بلکه این است که آیا قاببندی آن توسط بازیگرانی که میتوانند روایت را به محدودیت تبدیل کنند، تکرار میشود یا خیر.
سه مسیر کوتاهمدت میتواند داستان را از تفسیر به سیگنال سیاست تغییر دهد: (۱) سیاستگذاران یا ناظران نامگذاری شده که در روزهای پس از ۲۰۲۶-۰۹-۲۰، قاببندی تضاد منافع 'خودنظارتی' را تکرار میکنند، (۲) آزمایشگاههای بزرگ هوش مصنوعی که بیانیههای پیگیری درباره حکمرانی سیستمهای مرزی یا خودبهبوددهنده صادر میکنند که به طور مستقیمآدرسانتقاد «خودکنترلی» و (3) انتشار گزیدههای اضافی یا بررسی کامل متنی که مشخص کند آیا نویسنده محدودیتها و زمانبندیهای خاصی را پیشنهاد میکند یا خیر.
چرا این برای معاملهگران کریپتو مهم است
آستانهای که در اینجا مهم است این است که آیا موضع «اکنون حرکت کن» از یک صفحه نظر به یک مورد در دستور کار منتقل میشود یا خیر. در حال حاضر، این ورودی داستانی است، نه یک رویداد الزامآور، و بسته هیچ داده بازار، ذکر توکن یا پیوستهای سیاست خاص کریپتو که توجیه کند که باید آن را به عنوان یک کاتالیزور مستقیم در نظر گرفت، ندارد.
با این حال، چارچوببندی برای کریپتو مرتبط است زیرا تجارت AI اغلب از طریق ادعاهای حکمرانی عبور میکند. اگر گفتمان اصلی حول این ایده سخت شود که AI مرزی نمیتواند بهطور معتبر خود را اداره کند، آن بدبینی تمایل دارد به روایتهای خودتنظیمی مجاور سرریز شود، از جمله اینکه چگونهعاملهای AIدر زنجیره معامله میکنند، چگونه شبکههای DeAI رفتار «خودمختار» را بازاریابی میکنند و چگونه کسبوکارهای دسترسی به محاسبات یا مدلها ایمنی و کنترلها را تبلیغ میکنند.
من این را به عنوان یک کاتالیزور احساسات در نظر میگیرم تا زمانی که توسط یک نهاد نظارتی، یک قانونگذار یا یک آزمایشگاه بزرگ به گونهای طنینانداز شود که به یک محدودیت ملموس اشاره کند. اگر آن طنین به وجود آید، تأثیر عملی آن تشبیه نیست، بلکه سطح انطباقی است که برای محصولات مرتبط با AI و ریلهای زنجیرهای که استفاده میکنند، ایجاد میکند.
