آنتروپیک: اختلال در سوءاستفاده از کلود برای سلاحهای…
گزارش تهدید از دسامبر ۲۰۲۵ تا آگوست ۲۰۲۶ را پوشش میدهد و در میانه یک شکاف سیاسی در ایالات متحده در مورد کند کردن AI در مقابل "پیروزی" بر آن قرار دارد.
آنتروپیک گفت که یک گزارش جدید اطلاعات تهدید، تلاشها برای استفاده از مدلهای کلاود خود را برای "فعالیتهای مخرب" که میتواند از توسعه سلاحهای بیولوژیکی حمایت کند، شناسایی و مختل کرده است، از جمله پنج مطالعه موردی مرتبط با سلاحهای بیولوژیکی. این افشاگری در حالی صورت میگیرد که رهبران آمریکایی بهطور عمومی در مورد درخواستها برای توقف یا ممنوعیت "سوپرهوش" و یک تلاش رقیب برای تسریع توسعه هوش مصنوعی بهمنظور کسب مزیت استراتژیک، اختلاف نظر دارند.
نکات کلیدی
- آنتروپیک گفت که تلاشها برای استفاده از کلاود برای "فعالیتهای مخرب" که میتواند از توسعه سلاحهای بیولوژیکی حمایت کند، شناسایی و مختل شده است و پنج مطالعه موردی مرتبط با سلاحهای بیولوژیکی را مستند کرده است.
- این شرکت زمان مختل شدن استفاده مخرب از کلاود هایکو، سونات و اوپس را از دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ تعیین کرد.
- همین گزارش شش مورد از استفاده کلاود برای ساخت نرمافزار سلاحهای متعارف، از جمله مهمات و سیستمهای هدفگیری و کنترل آنها را توصیف کرد.
- آنتروپیک همچنین سوءاستفاده را به جاسوسی سایبری و عملیات نفوذ مرتبط دانست، از جمله فعالیتهای مرتبط با یک کمپین مستقر در روسیه و یک نهاد تبلیغاتی ایرانی.
آنتروپیک میگوید که سوءاستفاده مرتبط با سلاحهای بیولوژیکی کلاود را در پنج مطالعه موردی مختل کرده است.
آنتروپیک گفت که آخرین گزارش اطلاعات تهدید آن تلاشها برای استفاده از مدلهای هوش مصنوعی کلاود خود را برای "فعالیتهای مخرب" که میتواند از توسعه سلاحهای بیولوژیکی حمایت کند، شناسایی و مختل کرده است. این شرکت گفت که گزارش به "پنج مطالعه موردی از بازیگران که از مدلهای ما به شیوههایی استفاده کردهاند که میتواند از توسعه سلاحهای بیولوژیکی حمایت کند" اشاره کرده است.
از نظر مکانیکی، یک گزارش اطلاعات تهدید یک افشای دورهای از نحوه شناسایی، تحقیق و مسدود کردن فعالیتهای سوءاستفادهآمیز مرتبط با محصولات یک شرکت است. در این مورد، آنتروپیک سوءاستفاده بیولوژیکی را بهعنوان "یکی از جدیترین خطرات مدلهای هوش مصنوعی مرزی" توصیف کرد و از "مرزی" بهعنوان یک سیستم با قابلیتهای بالا نزدیک به بالاترین سطح فناوری که میتواند خطرات جدید سوءاستفاده ایجاد کند، استفاده کرد.
آنتروپیک گفت که "استفاده مخرب" از کلاود هایکو، سونات و اوپس را بین دسامبر ۲۰۲۵ و اوت ۲۰۲۶ مختل کرده است. همچنین گفت که هیچیک از موارد سوءاستفاده شامل کلاود فیبل یا مدلهای قدرتمند کلاس میتوس نبوده است، به جز یک مورد تقطیر، یک تکنیک که در آن یک مدل کوچکتر برای تقلید از خروجیهای یک مدل بزرگتر آموزش داده میشود و میتواند قابلیتها را با هزینه کمتر منتقل کند.
تنش اصلی گزارش، استفاده دوگانه است. آنتروپیک گفت: "همان اطلاعاتی که میتواند برای توسعه یک سلاح بیولوژیکی استفاده شود، میتواند برای توسعه، به عنوان مثال، یک واکسن یا درمان یک بیماری نیز استفاده شود" و هشدار داد که بدون تدابیر ایمنی، چنین قابلیتهایی "میتوانند عواقب فاجعهبار داشته باشند."
دیگر ادعاهای گزارش: جاسوسی سایبری، تبلیغات، کلاهبرداری، نظارت و نرمافزارهای تسلیحاتی
گزارش آنتروپیک دامنه سوءاستفاده را فراتر از امنیت زیستی به مجموعهای مختلط از دستههای امنیت ملی و جنایی گسترش داد. این گزارش گفت که کلود توسط بازیگرانی مرتبط با یک کمپین جاسوسی سایبری مستقر در روسیه و یک نهاد تبلیغاتی ایرانی استفاده شده است و عملیاتهای نفوذ را در کنار فعالیتهای نفوذی قرار داد.
عملیاتهای نفوذ تلاشهای هماهنگشدهای هستند برای شکلدهی به افکار عمومی یا نتایج سیاسی، اغلب از طریق تبلیغات و پیامرسانی هدفمند.
آنتروپیک گفت که مواردی که در هشت ماه گذشته شناسایی کرده است از برنامههای دوستیابی جعلی و کلاهبرداریهای WiFi هتل تا نظارتهایی که برای شناسایی مخالفان ساخته شدهاند، متغیر بودند و سوءاستفادههای مشکوک را توسط "گروههای دولتی، جنایتکاران، فروشندگان نرمافزارهای جاسوسی، نهادهای تبلیغاتی دولتی و افراد با انگیزه سیاسی" توصیف کرد.
در حوزه سایبری، آنتروپیک گفت که یک گروه هکری که کارش با Midnight Blizzard مستقر در روسیه سازگار است، به طور ادعایی از AI برای ساخت سیستمی استفاده کرده است که به طور خودکار زمانی که بدافزار توسط دفاعهای امنیتی شناسایی میشود، آن را شناسایی کرده و کد را بازنویسی میکند تا از شناسایی فرار کند.
Midnight Blizzard نام یک خوشه مرتبط با روسیه است که توسط محققان امنیتی برای توصیف مجموعه خاصی از فعالیتهای جاسوسی سایبری استفاده میشود و عبارتهای گزارش نشاندهنده انتسابی است که بیشتر پیشنهادی است تا قطعی.
گزارش همچنین گروه هکری ShinyHunters را نام برد و به آزمایشگاههای مستقر در چین اشاره کرد که در فعالیتهای سوءاستفاده توصیفشده در گزارش دخیل بودند. آنتروپیک همچنین شرکتهای AI چینی را به تلاش برای تکرار قابلیتهای کلود متهم کرد، هرچند جزئیات استخراجشده مشخص نکرد که کدام آزمایشگاهها یا چه روشهای تکراری فراتر از ذکر تقطیر استفاده شدهاند.
آنتروپیک همچنین گفت که گزارش به شش مورد اشاره کرده است که در آن کلود "برای توسعه نرمافزار برای سلاحهای متعارف، از جمله سلاحهای گرم، موشکها، پهپادهای مسلح، بمبها و دیگر مهمات، و همچنین سیستمهای هدفگیری و کنترل که آنها را اداره میکنند، استفاده شده است."
این موضوع اهمیت دارد زیرا گفتوگوی سیاست را از "ایمنی AI" انتزاعی به توانمندسازی واقعی جریانهای کاری تسلیحاتی منتقل میکند، که معمولاً توجه دولت را جلب میکند حتی زمانی که انتسابهای زیرین احتمالی هستند.
صفحه دوگانه واشنگتن: تلاش سناتور سندرز برای توقف و ممنوعیت در برابر چارچوب "پیروزی AI" ترامپ
گزارش به محیط سیاستگذاری ایالات متحدهای وارد شد که اکنون به وضوح دو سویه است. سناتور برنی سندرز خواستار توقف در توسعه AI پیشرفته شد و قانونی برای ممنوعیت سوپرهوش AI معرفی کرد و در برنامه Newsnight بیبیسی گفت: "وقتی دانشمندان به شما میگویند که احتمال دارد، احتمالی که میتواند تأثیر فاجعهبار بر بشریت داشته باشد، باید احمق باشید اگر نگویید، آن را کند کنید."
رئیسجمهور دونالد ترامپ آن چارچوب را رد کرد و استدلال کرد که ریسک استراتژیک در جهت دیگری قرار دارد. او روز پنجشنبه گفت: "اگر در AI پیروز نشویم، در موقعیت بسیار بدی قرار خواهیم گرفت."
این تقسیم برای بازارها مهم است زیرا باعث میشود تیترها پر سر و صدا باشند بدون اینکه یک مورد پایهای واضح برای قوانین تولید کنند. معاملهگران که به احساسات ریسک مرتبط با هوش مصنوعی نگاه میکنند، معمولاً توسط روایتهای متناوب دچار نوسان میشوند، یکی که قابلیت مدلهای مرزی را به عنوان یک مسئولیت امنیت ملی میبیند که باید محدود شود و دیگری که محدودیت را به عنوان یک خودزنی رقابتی تلقی میکند.
این بحث همچنین توسط رهبران ایمنی درون آزمایشگاهها تقویت میشود. رئیس دانشمندان OpenAI، یاکوب پاچوکی، در تاریخ ۲۰۲۶-۰۹-۰۶ نوشت که صنعت باید "کاهشهای داوطلبانه" را تا زمانی که تدابیر ایمنی تعیین شوند، اجرا کند و افزود: "من نگرانم که هیچکس برای عواقب افزایش سریع هوش ماشین آماده نیست."
سیگنالهایی برای نظارت: تدابیر ایمنی، تنگ شدن دسترسی و اینکه آیا صحبت از "کاهش" به قوانین تبدیل میشود یا نه
اولین سیگنال این است که آیا افشای Anthropic به کنترلهای دسترسی تنگتر تبدیل میشود یا فقط به بهبود شناسایی. این شرکت گفت که یافتههای خود را در فرآیندهایش گنجانده است "تا بهتر از این فعالیتها در آینده جلوگیری، شناسایی و مختل کند" و گفت که اطلاعات را با مقامات و شرکای صنعتی در صورت لزوم به اشتراک گذاشته است. این به عملیات تکراری، نظارت، مسدودسازی و اشتراکگذاری اطلاعات اشاره دارد، نه یک اصلاح یکباره.
دومین سیگنال این است که آیا قانونگذاری پیشنهادی سندرز برای ممنوعیت هوش مصنوعی فوقهوشمند فراتر از معرفی به اقدام کمیته، همکاران یا جلسات شنوایی میرود. در یک محیط تقسیم صفحه، مراحل فرآیند بیشتر از بلاغت اهمیت دارند زیرا تنها چیزی هستند که زمانبندی را تحمیل میکنند.
سومین سیگنال این است که آیا آزمایشگاههای بزرگ دیگر افشاگریهای مرتبط با سلاحهای بیولوژیکی خود را گسترش میدهند یا تدابیر ایمنی را به گونهای تنگتر میکنند که برای کاربران قابل مشاهده باشد.
گوگل روز سهشنبه گفت که کسی تلاش کرده است از Gemini برای بهدست آوردن "راهنمای فنی کامل و مرحله به مرحله برای سنتز عوامل بیولوژیکی مسلح" استفاده کند و افشاگریهای موازی میتوانند حتی اگر هر مورد فردی به عنوان "تلاش شده" سوءاستفاده تلقی شود، یک ضرباهنگ سیاسی ایجاد کنند.
یک سیگنال چهارم و فنیتر این است که آیا انتقال قابلیت از طریق تقطیر به یک تمرکز بزرگتر تبدیل میشود. Anthropic گفت که هیچیک از موارد سوءاستفاده شامل مدلهای Claude Fable یا Mythos-class به جز یک مورد تقطیر نبوده است، که یادآوری میکند که محدود کردن مدل برتر لزوماً قابلیتهای پاییندستی را محدود نمیکند اگر مدلهای کوچکتر بتوانند برای تقلید از آن آموزش ببینند.
تعبیر من: تجارت کوتاهمدت نوسان روایت است، نه یک کلید تنظیم مقررات واحد.
بخشی که این داستان را تعیین میکند این نیست که آیا یک گزارش واشنگتن را به ممنوعیت میشکافد. بلکه این است که آیا افشاگریهای مکرر و خاص عملی از سوءاستفاده، آزمایشگاهها را به سمت دسترسی و نظارت تنگتر بهطور پیشفرض سوق میدهد، زیرا این مسیر کمترین مقاومت است زمانی که قانونگذاران بین "کاهش آن" و "برنده شدن در هوش مصنوعی" تقسیم شدهاند.
آستانهای که اهمیت دارد، رویهای است، نه بلاغتی: اگر "کاهشهای داوطلبانه" و پیشنهادات توقف و ممنوعیت شروع به تبدیل شدن به جلسات شنوایی، قوانین دسترسی و انتظارات گزارشدهی قابل اجرا کنند، نوار سیاست هوش مصنوعی دیگر به عنوان یک کاتالیزور احساسات عمل نمیکند و شروع به محدود کردن نحوه ارسال مدلهای مرزی و اینکه چه کسی میتواند از آنها استفاده کند، میکند. این زمانی است که ریسک از تیترها به سطح محصول منتقل میشود و به تبع آن، اشتهای ریسک گستردهتری را به همراه دارد.
