گوگل تصاویر ماهوارهای یککلیک AI را به حالت قبل برگرداند
این ویژگی حدود یک روز دوام آورد و نگرانیهای جدیدی را ایجاد کرد که تصاویر جغرافیایی سنتزی میتوانند در بازارهای سریع از تأیید پیشی بگیرند.
گوگل یک ویژگی جدید وب Google Earth را که به کاربران اجازه میداد تصاویر "ماهوارهای" تولید شده توسط هوش مصنوعی را از متن با یک کلیک ایجاد کنند، حذف کرد و این کار را حدود یک روز پس از رونمایی از آن انجام داد. این بازگشت پس از انتشار اسکرینشاتهای مشترکی انجام شد که گوگل گفت به نظر میرسد سیاستهای آن را نقض کردهاند، در حالی که محققان متنباز هشدار دادند که این ابزار میتواند اطلاعات نادرست در بحران را تسریع کند.
نکات کلیدی
- گوگل یک ویژگی وب Google Earth را که امکان تولید تصاویر "ماهوارهای" با یک کلیک توسط هوش مصنوعی را فراهم میکرد، حدود یک روز پس از رونمایی از آن حذف کرد و به اسکرینشاتهای مشترک که نقض سیاستها را نشان میدادند و نیاز به حفاظهای قویتر اشاره کرد.
- این شرکت گفت که حرفهایهای جغرافیایی از این ابزار برای کارهای مشروع استفاده میکردند، اما همان جریان کار نیز تصاویری تولید کرد که به نظر میرسید سیاستهای گوگل را نقض کردهاند.
- محقق متنباز هنک ون اس گفت که درخواستهای حساس بدون رد پذیرفته شدند، از جمله سناریوهای درگیری و بحران.
- خبرنگاران صحنههای مصنوعی از جزیره خارک (ایران) در حال سوختن و سیلاب در اطراف مجموعه کنگره ایالات متحده تولید کردند و گفتند که هیچیک از این رویدادها رخ نداده است.
گوگل تصاویر "ماهوارهای" تولید شده توسط هوش مصنوعی با یک کلیک را از Earth پس از یک روز حذف کرد.
گوگل یک ویژگی جدید وب Google Earth را که به کاربران اجازه میداد تصاویر "ماهوارهای" تولید شده توسط هوش مصنوعی را از یک متن تولید کنند، حذف کرد و این کار را تقریباً یک روز پس از رونمایی از آن انجام داد. این شرکت گفت که در حال حذف این ابزار است در حالی که "حفاظهای قویتری" را پیادهسازی میکند، پس از مشاهده اسکرینشاتهای تصاویری که به نظر میرسید سیاستهای آن را نقض کردهاند.
از نظر مکانیکی، این ویژگی یک جریان کار چند مرحلهای را به یک دکمه بومی در داخل یک محصول مرجع تبدیل کرد. دستورالعملهای اولیه گوگل یک حلقه ساده را توصیف میکرد: "فقط به یک مکان در Google Earth در وب زوم کنید (sic)، روی 'ایجاد تصویر' ضربه بزنید و هر آنچه را که میخواهید ببینید تایپ کنید"، مدیر محصول برایان هوروویتز نوشت.
گوگل این بازگشت را به عنوان یک پاسخ ایمنی توصیف کرد، نه رد استفاده از آن. "ما دیدهایم که حرفهایهای جغرافیایی از این ویژگی برای طیف وسیعی از اهداف مفید استفاده میکنند"، این شرکت در بیانیهای که در X منتشر شد، گفت. "با این حال، ما همچنین دیدهایم که مردم اسکرینشاتهای تصاویری که به نظر میرسد سیاستهای ما را نقض میکنند، به اشتراک میگذارند. بنابراین ما این ویژگی را در Google Earth بازمیگردانیم در حالی که روی پیادهسازی حفاظهای قویتر کار میکنیم."
این شرکت همچنین گفت که "اطلاعات نادرست را جدی میگیرد" و به کنترلهای برچسبگذاری اشاره کرد. گوگل گفت که تمام تصاویر تولید شده با علامت آبعلامت SynthID علامتگذاری شدهاند و در سایر ابزارهای گوگل مانند Gemini به عنوان تولید شده توسط AI علامتگذاری خواهند شد. همچنین گفت که از ایجاد تصاویر در موضوعات مضر جلوگیری میکند و بهطور مداوم حفاظتها را بهروزرسانی میکند.
چرا تصاویر مصنوعی "از فضا" برای بازارهای سریع اهمیت دارند
تصاویر ماهوارهای در یک مکان عجیب در زنجیره اطلاعات قرار دارند: اغلب به عنوان یک ابزار تأیید در نظر گرفته میشوند، نه فقط یک قطعه دیگر از محتوا. محققان منبع باز (OSINT) از آن برای تأیید اینکه آیا یک ویدیو به درستی جغرافیایی شده، آیا یک تأسیسات آسیب دیده یا آیا یک آتشسوزی یا سیل ادعا شده نشانهای قابل مشاهده دارد، استفاده میکنند.
گوگل ارث همیشه تازهترین منبع نیست، اما پوشش جهانی آن آن را به یک لایه مرجع پیشفرض تبدیل میکند زمانی که یک ادعای فوری به وقوع میپیوندد.
گنجاندن تولید یککلیک در همان رابط کاربری مدل تهدید را تغییر میدهد. یک دیپفیک معمولاً به عنوان یک مشکل رسانههای اجتماعی مطرح میشود، اما تصاویر مصنوعی "از فضا" به طور خاص برای انواع روایتهای ژئوپلیتیکی و بلایای طبیعی که بازارها قبل از روشن شدن شواهد قیمتگذاری میکنند، طراحی شدهاند.
یک تصویر به نظر معقول از یک پایانه نفتی در حال سوختن، یک پایگاه نظامی آسیبدیده یا یک منطقه پایتختی که زیر آب رفته میتواند احساس ریسک و قیمتگذاری بخشها را به سرعت تغییر دهد، حتی اگر اصلاح ساعتها بعد بیفتد.
این فاصله سرعت نکته است. جیک گودین، محقق ارشد بلینکات گفت که تصاویر ماهوارهای به طور تاریخی یک "شرط امن" برای تأیید بودهاند زیرا جعل آنها دشوار است، با منابعی که معمولاً توسط شرکتها یا نهادها کنترل میشوند و دوربینی که صدها مایل بالای زمین قرار دارد و تقلید آن دشوار است. او استدلال کرد که تولید یککلیک، انگیزه جعل را اختراع نمیکند. بلکه اصطکاکی را که حجم خروجی را پایین نگه میداشت، حذف میکند.
هشدار گودین کمتر درباره یک تصویر قانعکننده و بیشتر درباره توان خروجی است. او گفت: "این فقط فرآیند را ساده میکند، که فکر میکنم باعث میشود بیشتر گسترش یابد." در بازارهای سریع، گسترش مکانیزمی است که اهمیت دارد زیرا شانس اینکه یک جعل به عنوان اولین "مدرک" که معاملهگران میبینند، افزایش میدهد.
آنچه محققان میتوانند تولید کنند
آزمایشهای عمومی اولیه که منتشر شد، ظریف نبود. محقق منبع باز هنک ون اس گفت که او سعی کرد درخواستهایی را که مستقیماً به سناریوهای حساس و واقعی مربوط میشوند، امتحان کند و هیچ امتناعی دریافت نکرد: "من از پناهندگان در مرز مکزیک، یک نیروگاه هستهای در ایران، یک تصادف در آمستردام، یک بیمارستان با یک حفره بمب در غزه امتحان کردم. هیچ چیزی رد نشد،" او گفت.
این مهم است زیرا نشان میدهد که فیلتر کردن موضوع در عمل نفوذپذیر بوده است، حداقل در نسخهای که ارسال شد. اگر یک ابزار بتواند صحنههای مرتبط با بحران را به درخواست تولید کند، احتمالاً در طول بحرانهای زنده استفاده خواهد شد، نه فقط در موارد سوء استفاده فرضی.
روزنامهنگاران همچنین قادر به تولید صحنههای مصنوعی بودند که اگر واقعی بودند، به عنوان اخبار فوری عمده خوانده میشدند. NPR تصاویر AI تولید کرد که چندین آتشسوزی در و اطراف جزیره خارک، ایران را نشان میداد، که آن را به عنوان خانه یک پایانه نفتی استراتژیک در خلیج فارس توصیف کرد. همچنین تصویری تولید کرد که سیلاب قابل توجهی در اطراف مجموعه کنگره ایالات متحده را نشان میداد. NPR گفت که هر دو رویداد نشان داده شده هرگز اتفاق نیفتادهاند.
واکنش جامعه forensic بصری و متن باز صریح بود و به اندازه نتیجه، بر روی فرآیند تمرکز داشت. اوان هیل، یک محقق forensic بصری در واشنگتن پست، پرسید که آیا این ویژگی به طور داخلی از طریق تیم قرمز تست شده است یا خیر و نوشت: "بسیار کنجکاوم که آیا یا چگونه این ایده به طور داخلی تحت تیم قرمز قرار گرفته است، زیرا فرصتهای سو استفاده و اطلاعات نادرست به معنای واقعی کلمه بیپایان است."
همچنین سابقهای برای جعلهای "از فضا" وجود دارد، حتی قبل از روند یککلیک گوگل. گودین اشاره کرد که در اوایل جنگ ایالات متحده و اسرائیل با ایران، تصاویر جعلی از یک پایگاه آسیبدیده ایالات متحده در بحرین منتشر شد که به نظر میرسید از تصاویر گوگل ارث و هوش مصنوعی گوگل برای تولید آسیب جعلی استفاده شده است. بعداً تصاویر واقعی ماهوارهای نشان دادند که پایگاه آسیب دیده است، اما نه به روشی که در جعلی نشان داده شده بود.
سیگنالهایی برای نظارت قبل از هر راهاندازی مجدد
اولین سیگنال این است که آیا گوگل ویژگی "ایجاد تصویر" را در گوگل ارث دوباره فعال میکند یا خیر و چه تغییراتی در روند کار ایجاد میکند. "نردههای محافظ قویتر" میتواند به معنای موضوعات مسدود شده، اصطکاک اضافی، محدودیتهای دسترسی یا بررسی انسانی باشد و این انتخابها تعیین میکنند که آیا این یک ابزار خلاقانه خاص است یا یک سطح اطلاعات نادرست مقیاسپذیر.
وضوح در مورد دامنه راهاندازی نیز مهم است. گوگل مشخص نکرده است که آیا این ویژگی به طور گسترده در دسترس بوده یا یک آزمایش محدود بوده است و جزئیات نداده است که کدام دستههای سیاستی توسط اسکرینشاتهای به اشتراک گذاشته شده که به آن اشاره کرده، فعال شدهاند. بدون آن، سخت است که بگوییم آیا بازگشت به عقب ناشی از یک مورد خاص باریک بوده یا یک کانال سوءاستفاده کاملاً باز.
ادعای برچسبگذاری گوگل در مسیرهای توزیع واقعی که مهم هستند آزمایش خواهد شد: اسکرینشاتها، برشها، بازنشرها و بارگذاری مجددها. سوال عملی این است که آیا SynthID و برچسبگذاری هوش مصنوعی پس از آن تحولات قابل شناسایی باقی میمانند و آیا ابزارهای گوگل به طور قابل اعتماد محتوای تولید شده توسط هوش مصنوعی را زمانی که دوباره به اکوسیستم از طریق جمینی یا سطوح دیگر وارد میشود، علامتگذاری میکنند.
در نهایت، انتظار داشته باشید که تحقیقات OSINT و forensic بصری بیشتر به صورت عمومی مورد بررسی قرار گیرد. اگر درخواستهای حساس به طور مداوم رد شوند، این نشانهای از واقعی بودن سختگیری است. اگر هنوز هم پذیرفته شوند، "نردههای محافظ" بیشتر شبیه پیامرسانی خواهند بود تا کنترل.
نظرات من: خطر واقعی این است که یک ابزار تأیید به یک کارخانه محتوا تبدیل شود.
بخشی که باید برای معاملهگران مهم باشد این نیست که هوش مصنوعی میتواند تصاویر جعلی تولید کند. بلکه این است که گوگل به طور موقت یک تولیدکننده یککلیک را در یک محصول قرار داد که بسیاری از مردم آن را به عنوان یک لایه مرجع در نظر میگیرند و سپس آن را در حدود یک روز به دلیل به اشتراکگذاری نقضکننده سیاستها برداشت. آن سرعت مانند یک تماس ریسک عملیاتی به نظر میرسد، نه یک بحث نظری اخلاقی.
آستانهای که مهم است این است که آیا یک راهاندازی مجدد به طور معناداری اصطکاک و بلوکهای موضوعی قابل اجرا را بازمیگرداند، به ویژه برای درخواستهای مربوط به درگیری و زیرساخت، در حالی که برچسبگذاری را از طریق اسکرینشاتها و برشها حفظ میکند. اگر آن کنترلها در دنیای واقعی برقرار بمانند، این یک آزمایش محصول محدود باقی میماند.
اگر اینطور نباشد، گوگل ارث دیگر به عنوان یک ابزار تأیید تحت فشار عمل نمیکند و به یک کارخانه محتوا برای انواع خاصی از بازارهای "مدرک" تبدیل میشود که ابتدا قیمتگذاری نادرست میکنند.
