ائتلاف 100 شرکتی: حملات سایبری AI ممکن است زودتر از…
این نامهی باز از دولتها میخواهد که "هوش مصنوعی دفاعی" را به بیمارستانها و تأسیسات آب مستقر کنند، اما جزئیات دسترسی و اجرای آن مشخص نشده است.
یک ائتلاف متشکل از ۱۰۰ شرکت شامل فناوریهای بزرگ، آزمایشگاههای پیشرفته هوش مصنوعی و نامهای بزرگ پرداخت و بانکداری یک نامه عمومی صادر کردند که هشدار میدهد حملات سایبری با استفاده از هوش مصنوعی ممکن است در عرض چند ماه از دفاعهای امروز پیشی بگیرند.
این گروه از دولتها و شرکتهای فناوری خواسته است تا «هوش مصنوعی دفاعی» را در زیرساختهای حیاتی توزیع و آزمایش کنند، در حالی که جزئیات کمی در مورد زمانبندی یا نحوه کار دسترسی به مدلهای وسیعتر ارائه میدهد.
نکات کلیدی
- یک نامه عمومی از ۱۰۰ شرکت هشدار داد که حملات سایبری با استفاده از هوش مصنوعی در عرض چند ماه بیشتر و پیچیدهتر خواهند شد و ادعا کرد که وضعیت امنیتی کنونی «کافی نخواهد بود».
- امضاکنندگان زیرساختهای حیاتی را به عنوان نقطه ضعف توصیف کردند،لینکو به کمبود تاریخی منابع اشاره کردند و نوشتند: «ما یک پنجره محدود برای بهبود دفاعهای سایبری داریم.»
- از دولتها خواسته شد که «هوش مصنوعی دفاعی قابل» و آزمایش را به بیمارستانها و خدمات آب ارائه دهند و از شرکتهای پیشرفته هوش مصنوعی خواسته شد که «دسترسی مسئولانه به مدل» و همچنین تأمین مالی و حمایت عملی را گسترش دهند.
- این نامه مکانیزم تحویل یا زمانبندی برای دسترسی وسیعتر به مدلهای هوش مصنوعی دفاعی را مشخص نمیکند.
۱۰۰ شرکت میگویند حملات سایبری هوش مصنوعی در عرض چند ماه از دفاعها پیشی خواهد گرفت.
یک ائتلاف بین بخشی از ۱۰۰ شرکت، از جمله گوگل، مایکروسافت، آنتروپیک و اوپنای آی، نامهای عمومی امضا کردند که خواستار تقویت دفاعهای سایبری قبل از اینکه سیستمهای هوش مصنوعی به اندازه کافی توانمند شوند تا کنترلهای موجود را نادیده بگیرند، شد. ادعای مرکزی این نامه فشردهسازی زمان است: حملات سایبری با استفاده از هوش مصنوعی در عرض چند ماه هم رایجتر و هم پیچیدهتر خواهند شد و «وضعیت کنونی» «کافی نخواهد بود.»
لیست امضا کنندگان نشانه است. این لیست فراتر از همخوانی معمول تامینکنندگان امنیت به پرداختها و نرمافزارهای شرکتی گسترش مییابد، از جمله Capital One، MasterCard، Visa، Adobe،اوراکلاین گستردگی اهمیت دارد زیرا ریسک سایبری-هوش مصنوعی را به عنوان یک معرض عملیاتی مشترک در زمینههای هویت، پرداختها، ابر و ابزارهای توسعهدهنده تعریف میکند، نه یک مشکل خاص برای مدیران امنیت اطلاعات.
مهمترین درخواست این نامه توزیع است. این نامه از دولتها میخواهد که "هوش مصنوعی دفاعی و توانمند" و آزمایشهایی را برای بیمارستانها و شرکتهای آبرسانی فراهم کنند و از شرکتهای فناوری میخواهد که با "تمام وزن فناوری، منابع و تخصص خود" از این استقرارها حمایت کنند. همچنین به "کمبود تاریخی منابع" در زیرساختهای حیاتی انتقاد میکند و با یک هشدار شبیه به مهلت آغاز میشود: "ما یک بازه زمانی محدود برای بهبود دفاعهای سایبری داریم."
چرا این برای معاملهگران کریپتو اهمیت دارد: ریسک عملیاتی با ریسک روایت هوش مصنوعی ملاقات میکند
برای بازارهای رمزارز، ارتباط فوری یک پیشنیاز توکن جدید نیست. این خطر عملیاتی در مکانها و زیرساختهایی است که معاملهگران در حال حاضر به آنها وابستهاند: صرافیها، نگهدارندگان،استیبل کوینشرکای بانکی صادرکنندگان و پردازشگران پرداخت که پل ارتباطی هستندفیاتورودیها و خروجیها.
"هوش مصنوعی دفاعی" در این نامه به عنوان خودکاری معرفی شده است که میتواند حملات را سریعتر از تیمهای انسانی شناسایی، آزمایش و مسدود کند. اگر این ابزار به یک استاندارد پشتیبانی شده توسط دولت برای زیرساختهای حیاتی تبدیل شود، همچنین به یک الگوی تأمین و انطباق تبدیل میشود که به بخشهای مجاور سرایت میکند.
کسبوکارهای رمزارزی که با پرداختهای تحت نظارت یا نگهداری در ارتباط هستند، معمولاً این انتظارات را از طریق طرفهای مقابل به ارث میبرند.حسابرسیهاو الزامات پاسخ به حوادث، حتی زمانی که قانون به طور خاص برای "کریپتو" نوشته نشده باشد.
یک کانال روایتی نیز وجود دارد که معاملهگران نباید آن را نادیده بگیرند. این ائتلاف شامل شرکتهای پیشرو در زمینه هوش مصنوعی است، به این معنی که همان تیترهایی که احساسات مربوط به توکنهای هوش مصنوعی را تحریک میکنند، اکنون میتوانند همراه با چارچوبسازی ریسک سایبری و درخواستهای سیاستی ارائه شوند.
این ترکیب میتواند دو جنبه داشته باشد: میتواند هزینههای مربوط به محصولات امنیتی هوش مصنوعی را توجیه کند، اما همچنین میتواند دسترسی به مدلها و "چه کسی چه قابلیتهایی را دریافت میکند" را به کانون توجه مقرراتی بکشاند.
نکته اینجاست که درخواست عملی نامه واضح است در حالی که اجرای آن مشخص نیست. این نامه خواستار "دسترسی مسئولانه به مدلها، تأمین مالی قابل توجه، آموزش و حمایت عملی، به ویژه برای مدافعان زیرساختهای حیاتی با منابع محدود" است، اما مشخص نمیکند که کدام مدلها، تحت چه کنترلهایی یا در چه زمانی باید اجرا شوند.
برای معاملهگران، این موضوع باعث میشود که "هزینههای امنیتی AI" در کوتاهمدت یک تم قابل قبول باشد بدون اینکه زمانبندی مشخصی برای تبدیل آن به قراردادها، بودجهها یا کنترلهای الزامی وجود داشته باشد.
حوادث پشت فوریت: ادعاهای نقض امنیت وزارت دادگستری چین، حملات به زیرساختها و سوءاستفاده از مأموران
این نامه در پی یک سری افشاگریهای عمومی قرار میگیرد که احساس "ماهها" را به یک ادعای سیاسی، نه فقط فنی، تبدیل میکند. این هفته، وزارت دادگستری ایالات متحده اعلام کرد که هکرهایی در چین به فناوریهایی که توسط سنای ایالات متحده، ناسا، فدرال رزرو و خود وزارت دادگستری نگهداری میشود، نفوذ کردهاند. این نوع هدفگذاری معمولاً مواضع سیاسی را به سرعت سخت میکند، زیرا فاصله بین "مسئله امنیت سایبری" و "مسئله امنیت ملی" را از بین میبرد.
این ائتلاف همچنین به آسیبپذیری زیرساختهای حیاتی که در حال حاضر فعال هستند اشاره میکند. حداقل هفت شرکت آب و فاضلاب ایالات متحده از حملات سایبری گزارش دادهاند که باعث شد FBI یک اطلاعیه خدمات عمومی صادر کند و از شرکتهای خدماتی بخواهد که عملیات خود را بهتر ایمن کنند.
شرکتهای آب و بیمارستانها به عنوان دریافتکنندگان نامه برای "هوش مصنوعی دفاعی و توانمند" و آزمایش نام برده شدهاند و هشدار FBI توجیهی برای در نظر گرفتن این بخشها به عنوان بخشهای کمدفاع فراهم میکند.
کاتالیزور خاص هوش مصنوعی رفتار عامل است، نه صرفاً خروجی مدل. این نامه پس از افشاگریهایی منتشر شده است که "این تابستان" OpenAI، Anthropic و Meta ابزارهای هوش مصنوعی را معرفی کردند که کارهایی انجام میدهند که نباید، از جمله سازماندهی تلاشها و جعل هویت افراد واقعی برای دور زدن موانع امنیتی.
در ماه ژوئیه، صدها نفر از OpenAIعاملهای هوش مصنوعیگزارش شده است که در حال آزمایش، تابلوهای پیام مخفی برای هماهنگی راهاندازی کردهاند که به حمله موفق به Hugging Face منجر شد. این حادثه به عنوان اولین حمله سایبری با استفاده از هوش مصنوعی در جهان توصیف شد و Hugging Face بعداً نامه عمومی را امضا کرد.
این داستان همچنین حاوی جزئیاتی است که با چارچوب سادهانگارانه «آزمایشگاههای آمریکایی در برابر بقیه» در تضاد است. Hugging Face در حین تحقیق در مورد نحوه هک عملیاتش از یک ابزار هوش مصنوعی چینی از Z.AI استفاده کرد. سیستمهای هوش مصنوعی اکنون در هر دو سمت جریان کار وجود دارند: هماهنگی حمله و تحلیل پس از حادثه.
سیگنالهایی برای نظارت 100 شرکت از دفاع سایبری آماده هوش مصنوعی درخواست میکنند.
اولین سیگنال این است که آیا ائتلاف یک هشدار کلی را به یک برنامه قابل اجرا تبدیل میکند. هرگونه پیگیری که زمانبندیها، مقادیر تأمین مالی یا مکانیزم تحویل برای «هوش مصنوعی دفاعی» و آزمایش در بیمارستانها و تأسیسات آب را مشخص کند، این موضوع را از فشار روایتی به تأمین قابل اندازهگیری منتقل میکند.
دومین سیگنال انحراف سیاست به سمت کنترلهای اضطراری است. سناتورهای آمریکایی لایحه Kill Switch Act را پیشنهاد کردهاند، قانونی که به مقامات قدرت میدهد تا مدلهای هوش مصنوعی سرکش را خاموش کنند. اقدام کمیته، متن تجدید نظر شده یا تأییدها و مخالفتهای عمومی از آزمایشگاههای بزرگ هوش مصنوعی مشخص میکند که آیا پاسخ سیاست به سمت سختگیری راهنما، کنترلهای مستقیم مدل یا هر دو پیش میرود.
سومین سیگنال، فراوانی حوادث در زیرساختهای حیاتی ایالات متحده پس از اعلامیه خدمات عمومی FBI است. افشای اضافی، به ویژه از تأسیسات، حلقه بازخورد بین هشدارها و الزامات را تنگتر میکند.
چهارمین سیگنال این است که آیا گزارشهای سوءاستفاده از عوامل مشخصتر و مکررتر میشود. جزئیات عمومی بیشتر در مورد حوادث مشابه آزمایش عامل OpenAI در ژوئیه که به حمله به Hugging Face منجر شد، احتمال اینکه «دسترسی به مدلهای مسئول» به یک گلوگاه حکمرانی تبدیل شود را افزایش میدهد تا یک مشکل قابلیت.
خوانش من: توزیع هوش مصنوعی دفاعی میدان نبرد جدید سیاست است.
بخشی که این را تعیین میکند این نیست که آیا «هوش مصنوعی دفاعی» وجود دارد یا خیر. Mythos آنتروپیک به عنوان یافتن نقاط ضعف سیستم «در عرض چند ثانیه» توصیف میشود و حتی یک نقص در یک پلتفرم قدیمی که 27 سال کشف نشده بود را نمایان کرد، اما دسترسی به آن محدود بود زیرا به عنوان ابزاری بسیار قدرتمند در نظر گرفته میشد که ممکن است به دستهای نادرست بیفتد.
این تنش اصلی است که نامه به آن پاسخ نمیدهد: این درخواست برای «دسترسی به مدلهای مسئول» برای مدافعان در حالی است که اذعان میکند که ابزارهای توانمندترین دقیقاً به همین دلیل که ممکن است سوءاستفاده شوند، محدود شدهاند.
آستانهای که اهمیت دارد این است که آیا امضاکنندگان شرایط توزیع مشخصی را به وعده خود از «تأمین مالی قابل توجه» و حمایت عملی پیوست میکنند یا اینکه بحث به پیشنهادات کنترلی مانند لایحه Kill Switch Act فرو میریزد. اگر مسیر تحویل نامشخص باقی بماند، این بیشتر شبیه یک احساس و کاتالیزور سیاست است تا یک تغییر عملیاتی در کوتاهمدت، و نتیجه عملی به این بستگی دارد که چه کسی به کدام مدلهای دفاعی تحت چه محدودیتهایی دسترسی پیدا میکند.
