نظامیهای آمریکا نزدیک بود به کشتی چینی حمله کنند
نزدیکبهواقعیت بهار ۲۰۲۶ نشان میدهد که چگونه اشتباهات چتباتها میتوانند از تحلیل به عملیات منتقل شوند قبل از اینکه تأیید به موقع برسد.
گزارش اطلاعات نظامی ایالات متحده که در بهار ۲۰۲۶ منتشر شد، به اشتباه ادعا کرد که یک کشتی چینی در خاورمیانه حامل اجزای برنامه تسلیحات هستهای است و این موضوع منجر به آمادهسازی برای متوقف کردن کشتی شد. مقامات تنها پس از تعیین اینکه گزارش با کمک AI تولید شده و چتبات بار را به اشتباه شناسایی کرده است، عملیات را متوقف کردند.
گزارش اطلاعاتی با کمک AI یک کشتی چینی را به عنوان مرتبط با هستهای شناسایی کرد — و ایالات متحده تقریباً به سمت سوار شدن بر آن حرکت کرد
این حادثه با یک گزارش اطلاعاتی به ظاهر استاندارد آغاز شد که در بهار ۲۰۲۶، در میانه جنگ با ایران، به سرعت در داخل ارتش ایالات متحده حرکت کرد. این گزارش ادعا میکرد که یک کشتی چینی که در خاورمیانه فعالیت میکند، اجزای مرتبط با برنامه تسلیحات هستهای را حمل میکند.
این ادعا به عنوان قابل اقدام تلقی شد. نیروهای ایالات متحده برای متوقف کردن کشتی آماده شدند، طبق چهار منبع آشنا با این حادثه. دو منبع گفتند که پرسنل نظامی مسلح ایالات متحده در حال آماده شدن برای سوار شدن بر کشتی بودند و دو منبع دیگر گفتند که هواپیماهای نظامی پیش از توقف عملیات در هوا بودند.
این توقف در اواخر فرآیند کار رخ داد، نه در مرحله اولیه نگارش. مقامات تنها “چند لحظه قبل از عملیات برنامهریزی شده” متوجه شدند که گزارش با کمک AI تولید شده و چتبات استفاده شده توسط یک تحلیلگر فرماندهی عملیات ویژه، بار کشتی را به اشتباه شناسایی کرده است. بار خاصی که چتبات به اشتباه شناسایی کرده بود، مشخص نشد.
از نظر مکانیکی، این شکست یک پاسخ بد در یک پنجره چت نبود. تحلیلگر از یک چتبات درباره گزارش اطلاعاتی در مورد بارنامه کشتی که از فرماندهی عملیات ویژه ایالات متحده در اقیانوس آرام، مستقر در هاوایی، originated شده بود، سوال کرد. این ربات اطلاعات منبع باز را با اطلاعات سیگنالهای محرمانه (SIGINT) ترکیب کرد، به این معنی که ارتباطات یا سیگنالهای الکترونیکی که توسط دولت ضبط شدهاند، و نتیجه نادرستی درباره بار تولید کرد.
سپس تحلیلگر دوباره از AI استفاده کرد تا این یافتهها را به یک فرمت استاندارد گزارش اطلاعاتی که مقامات نظامی به آن اعتماد دارند، بستهبندی کند و آن را در سراسر نیرو منتشر کرد. یک منبع این گزارش را به عنوان “کاملاً نادرست” توصیف کرد و گفت که این گزارش “تقریباً جنگی را آغاز کرد”، که روشی صریح برای نامگذاری ریسک تشدید در صورت اقدام ایالات متحده علیه یک کشتی چینی است.
دو عدم قطعیت برای نحوه تأثیر این موضوع در خارج از پنتاگون مهم است. اول، مشخص نبود که آیا چتبات یک مدل تجاری موجود است یا یک محصول دولتی ایالات متحده.
دوم، یک مقام سابق ارشد ایالات متحده که با این سیستمها آشنا بود، گفت: “ابزارهای داخلی عمدتاً فقط نسخههایی از چیزهای تجاری هستند که رژ لب زدهاند”، که به یک مشکل منبع اشاره میکند: اگر ابزارها به طور مؤثر از نظر تجاری در زیر یک پوشش دولتی باشند، احتمال اینکه تأثیرات شهرتی و نظارتی به طور مرتب در کانالهای طبقهبندی شده باقی بمانند، کمتر است.
فاصلههای تأیید با سرعت زمان جنگ ملاقات میکنند: چه چیزی را باید معاملهگران در آینده زیر نظر داشته باشند
زمینه سیاستی یک تلاش برای افزایش استفاده از AI سریعتر از همگرایی استانداردهای تأیید است. در ژانویه ۲۰۲۶، وزیر دفاع پیتر هگست به استراتژی “شتابدهی هوش مصنوعی” وزارت دفاع اشاره کرد و آن را به عنوان یک بازی سرعت و رقابت معرفی کرد. هگست گفت: “ما آزمایش را آزاد خواهیم کرد، موانع بوروکراتیک را از بین خواهیم برد، سرمایهگذاریهای خود را متمرکز خواهیم کرد و رویکرد اجرایی لازم برای اطمینان از اینکه در هوش مصنوعی نظامی پیشرو هستیم را نشان خواهیم داد.”
هدف توزیع استراتژی صریح است. یادداشتی که این موضوع را اعلام کرد، توصیف کرد که "دموکراتیزه کردن آزمایش و تحول هوش مصنوعی در سراسر وزارتخانه با قرار دادن مدلهای پیشرو هوش مصنوعی آمریکا به طور مستقیم در دست سه میلیون پرسنل غیرنظامی و نظامی ما، در تمام سطوح طبقهبندی." این مقیاس، سطح تماس است.
اگر ابزارها به طور گسترده در سطوح طبقهبندی در دسترس باشند، حالت شکست تنها خطای مدل نیست، بلکه خطای مدل به علاوه اعتماد به جریان کار به علاوه سرعت عملیاتی است.
چندین مقام تلاش برای پذیرش هوش مصنوعی را به عنوان یک تلاش غیرمتمرکز توصیف کردند، با ابزارها و استانداردهای ایمنی مختلف در میان نظامی و جامعه اطلاعاتی و عدم وجود یک استاندارد تأیید واحد برای اطلاعات تولید شده توسط هوش مصنوعی.تمرکززداییبرای اتوماسیون بخش پشتی، قابل تحمل است. اما زمانی که خروجی به عنوان هوش مرتبط با هدفگذاری در نظر گرفته میشود و سیستم تحت فشار زمانی جنگی قرار دارد، شکننده میشود.
سیگنالهای بعدی سیاست و منبع هستند، نه معیارهای مدل. هر پاسخ پنتاگون که بررسیهای انسانی با ضمانت را الزامی کند،حسابرسیمسیرهایی که پرامپتها و منابع را حفظ میکنند، یا محدودیتهایی در مورد اینکه کدام ابزارها میتوانند به کدام دادهها دسترسی پیدا کنند، پس از این افشاگری یک تنگنای ملموس خواهد بود.
وضوح در مورد اینکه آیا چتبات تجاری بوده یا توسط دولت ساخته شده، در جایی که مسئولیت و مقررات قرار میگیرد، اهمیت دارد، بهویژه اگر جریان کار شامل ترکیب ورودیهای متنباز با داراییهای بهدستآمده از SIGINT طبقهبندیشده باشد.
جزئیات دقیقتر همچنین ارزیابی ریسک را تغییر خواهد داد. شناسایی پیدرپی کشتی، مسیر یا بار اشتباه شناساییشده به تفکیک مشکل کیفیت دادهها از مشکل رفتار مدل و مشکل جریان کار تحلیلگر کمک خواهد کرد. و از آنجا که نزدیک به تصادف شامل یک کشتی چینی در تئاتر خاورمیانه بود، دمای کلی روابط ایالات متحده و چین در آن منطقه، تسریعکننده کلانی است که میتواند یک شکست در ابزار را به یک تیتر ریسکزدایی تبدیل کند.
خوانش من: این یک داستان حکمرانی هوش مصنوعی است که به عنوان یک نزدیک به خطای ژئوپلیتیک پنهان شده است
آستانهای که اهمیت دارد این است که آیا محصولات هوش مصنوعی کمکی مانند آثار نرمافزاری با منشأ، لاگها و ورودیهای قابل بازتولید مورد بررسی قرار میگیرند یا مانند نثر تحلیلگر با امضای "به من اعتماد کن". این حادثه از تحلیل به آمادهسازی عملیاتی عبور کرد قبل از اینکه سیستم خود را متوقف کند، که دقیقاً نحوه تبدیل ریسک توهم به ریسک تشدید است.
اگر استراتژی وزارت واقعاً مدلهای هوش مصنوعی پیشرو جهانی را در اختیار سه میلیون نفر در تمام سطوح طبقهبندی قرار دهد بدون یک استاندارد تأیید یکپارچه، نرخ پایه نزدیک به خطاها افزایش مییابد حتی اگر هر ابزار فردی بهبود یابد. این در شرایط عملی اهمیت دارد زمانی که قابلیت حسابرسی و محدودیتهای ابزار الزامی میشود، زیرا این نقطهای است که ماشین دیگر سریع نمیماند و قابل مدیریت میشود.
