Google, AI "uydu görüntüleri"ni geri çekti

Google, kullanıcıların metin istemlerinden tek tıklamayla AI “uydu tarzı” görüntüler oluşturmasına olanak tanıyan yeni bir Google Earth web özelliğini, tanıtımından yaklaşık bir gün sonra kaldırdı. Geri çekme, Google'ın politikalarını ihlal ettiği görülen paylaşılan ekran görüntülerinin dolaşımının ardından gerçekleşti; açık kaynak araştırmacıları, bu aracın kriz yanlış bilgilendirmesini hızlandırabileceği konusunda uyardı.

Ana Noktalar

• Google, politika ihlali nedeniyle paylaşılan ekran görüntülerini ve daha güçlü koruma önlemleri gereksinimini gerekçe göstererek, tanıtımından yaklaşık bir gün sonra tek tıklamayla AI tarafından üretilen “uydu” görüntülerini sağlayan bir Google Earth web özelliğini kaldırdı.
• Şirket, coğrafi alan profesyonellerinin aracı meşru işler için kullandığını söyledi, ancak aynı iş akışı, Google'ın politikalarını ihlal ettiği görünen görüntüler de üretti.
• Açık kaynak araştırmacısı Henk van Ess, çatışma ve kriz senaryoları da dahil olmak üzere hassas istemlerin reddedilmeden kabul edildiğini söyledi.
• Gazeteciler, Kharg Adası'nın (İran) yanması ve ABD Capitol kompleksi etrafında sel görüntüleri üretti ve bu olayların hiçbirinin gerçekleşmediğini belirtti.

Google, Bir Günlük Kullanımdan Sonra Dünya'dan Tek Tıklamayla AI “Uydu Görüntülerini” Çekti

Google, kullanıcıların metin isteminden AI “uydu görüntüleri” oluşturmasına olanak tanıyan yeni bir Google Earth web özelliğini, tanıtımından yaklaşık bir gün sonra geri çekti. Şirket, bu aracı, politikalarını ihlal ettiği görünen üretilen görüntülerin paylaşıldığını gördükten sonra “daha güçlü koruma önlemleri” uygularken geri çektiğini söyledi.

Mekanik olarak, özellik, çok adımlı bir üretim iş akışını bir referans ürün içindeki yerel bir düğmeye dönüştürdü. Google'ın ilk talimatları basit bir döngüyü tanımlıyordu: “Google Earth'te bir yere yakınlaştırın, 'görüntü oluştur' butonuna tıklayın ve görmek istediğiniz her şeyi yazın,” diye yazdı ürün yöneticisi Bryan Horowitz.

Google, geri çekmeyi bir güvenlik yanıtı olarak çerçeveledi, kullanım durumunu reddetme olarak değil. “Bu özelliği çeşitli yararlı amaçlar için kullanan coğrafi alan profesyonellerinin olduğunu gördük,” dedi şirket, X'te yayınladığı bir açıklamada. “Ancak, politikalarımızı ihlal ettiği görünen üretilen görüntülerin paylaşıldığını da gördük. Bu nedenle, daha güçlü koruma önlemleri uygularken Google Earth'teki bu özelliği geri çekiyoruz.”

Şirket ayrıca "yanlış bilgilendirmeyi ciddiye aldığını" belirtti ve etiketleme kontrollerine işaret etti. Google, üretilen tüm görüntülerin SynthID filigranı ile işaretlendiğini ve Gemini gibi diğer Google araçlarında AI tarafından üretilmiş olarak işaretleneceğini söyledi. Ayrıca, zararlı konularda görüntü oluşturmayı engellediğini ve korumaları sürekli güncellediğini belirtti.

Hızlı Pazarlar İçin Sentetik "Uzaydan" Görsellerin Önemi

Uydu görüntüleri bilgi yığınında garip bir yerde duruyor: genellikle başka bir içerik parçası olarak değil, bir doğrulama aracı olarak ele alınıyor. Açık kaynak araştırmacıları (OSINT), bir videonun doğru bir şekilde coğrafi olarak yerleştirilip yerleştirilmediğini, bir tesisin hasar görüp görmediğini veya iddia edilen bir yangın veya selin görünür bir izinin olup olmadığını doğrulamak için bunu kullanıyor.

Google Earth her zaman en güncel veri kaynağı değildir, ancak küresel kapsamı, acil bir iddia ortaya çıktığında varsayılan bir referans katmanı haline getiriyor.

Aynı arayüz içinde tek tıklama ile üretim yapmak tehdit modelini değiştiriyor. Deepfake genellikle bir sosyal medya sorunu olarak çerçeveleniyor, ancak sentetik "uzaydan" görseller, piyasanın kanıtlar netleşmeden önce fiyatlandırdığı jeopolitik ve felaket anlatıları için özel olarak tasarlanmış durumda.

Bir petrol terminalinin yandığı, bir askeri üssün vurulduğu veya bir başkent bölgesinin su baskınına uğradığına dair makul görünümlü bir görüntü, risk hissiyatını ve sektör fiyatlamasını hızla değiştirebilir, düzeltme saatler sonra gelse bile.

O hız farkı, önemli olan. Bellingcat kıdemli araştırmacısı Jake Godin, uydu görüntülerinin tarihsel olarak doğrulama için "güvenli bir bahis" olduğunu çünkü taklit etmenin zor olduğunu, kaynakların genellikle şirketler veya kurumlar tarafından kontrol edildiğini ve yerin yüzeyinden yüzlerce mil yükseklikteki bir kameranın taklit edilmesinin zor olduğunu söyledi. Tek tıklama ile üretim, onun savunduğu gibi, sahte üretme teşvikini icat etmiyor. Çıktı hacmini düşük tutan sürtünmeyi ortadan kaldırıyor.

Godin'in uyarısı, tek bir ikna edici görüntüden ziyade verimlilikle ilgili. "Bu sadece süreci kolaylaştırıyor, bu da daha fazla yayılmasını sağlayacak," dedi. Hızlı piyasalarda, yayılma, sahte bir şeyin ticaret yapanların gördüğü ilk "kanıt" olma olasılığını artırdığı için önemli olan mekanizmadır.

Araştırmacıların Üretebileceği Şeyler

Dolaşan erken kamu testleri ince değildi. Açık kaynak araştırmacısı Henk van Ess, doğrudan hassas, gerçek dünya senaryolarına karşılık gelen istemler denediğini ve hiçbir red cevabı almadığını söyledi: "Meksika sınırındaki mültecileri, İran'daki bir nükleer santrali, Amsterdam'daki bir kazayı, Gazze'deki bir bomba krateri olan bir hastaneyi denedim. Hiçbir şey reddedilmedi," dedi.

Bu önemlidir çünkü bu, konu filtrelemenin pratikte geçirgen olduğunu, en azından gönderilen versiyonda, öne sürüyor. Bir aracın talep üzerine krizle ilgili sahneler üretecekse, muhtemel kötüye kullanım durumlarında değil, canlı krizler sırasında kullanılma olasılığı yüksektir.

Gazeteciler ayrıca gerçek olsalardı büyük bir son dakika haberi olarak okunacak sentetik sahneler üretebildiler. NPR, stratejik bir petrol terminaline ev sahipliği yaptığı belirtilen İran'ın Kharg Adası'nda ve çevresinde birden fazla yangını tasvir eden AI görüntüleri üretti. Ayrıca, ABD Capitol kompleksi etrafında önemli bir su baskınını gösteren bir görüntü de üretti. NPR, her iki olayın da gerçekleşmediğini söyledi.

Açık kaynak ve görsel adli bilimler topluluğunun tepkisi sertti ve süreç kadar sonuca da odaklandı. The Washington Post'ta bir görsel adli bilimler araştırmacısı olan Evan Hill, bu özelliğin içsel olarak kırmızı takım tarafından stres testine tabi tutulup tutulmadığını sorguladı ve "Bu fikrin içsel olarak kırmızı takım tarafından nasıl veya eğer test edildiği konusunda çok meraklıyım çünkü kötüye kullanım ve dezenformasyon fırsatları kelimenin tam anlamıyla sınırsız." yazdı.

Google'ın tek tıklamalı iş akışından önce bile "uzaydan" sahte görüntüler için bir emsal de vardır. Godin, ABD-İsrail savaşının İran ile başladığı dönemde, Google Earth görüntülerini ve Google AI'yi kullanarak sahte hasar üreten bir ABD üssünün Bahreyn'deki hasar görmüş görüntülerinin dolaştığını belirtti. Daha sonra gerçek uydu görüntüleri üssün hasar gördüğünü gösterdi, ancak sahte görüntülerde gösterildiği şekilde değil.

Yeniden başlatmadan önce izlenmesi gereken sinyaller

İlk sinyal, Google'ın Google Earth'teki "görüntü oluştur" özelliğini yeniden etkinleştirip etkinleştirmediği ve iş akışında neyi değiştirdiğidir. "Daha güçlü koruma önlemleri" engellenmiş konular, ek sürtünme, erişim sınırlamaları veya insan incelemesi anlamına gelebilir ve bu seçimler, bunun niş bir yaratıcı araç mı yoksa ölçeklenebilir bir dezenformasyon yüzeyi mi olduğunu belirler.

Dağıtım kapsamı hakkında netlik de önemlidir. Google, özelliğin geniş bir şekilde mevcut olup olmadığını veya sınırlı bir test olup olmadığını belirtmemiştir ve alıntıladığı paylaşılan ekran görüntülerinin hangi politika kategorilerini tetiklediğini detaylandırmamıştır. Bunu bilmeden, geri çekmenin dar bir kenar durumu mu yoksa geniş bir kötüye kullanım kanalı mı tarafından mı yönlendirildiğini söylemek zordur.

Google'ın etiketleme iddiaları, önemli gerçek dağıtım yollarında test edilecektir: ekran görüntüleri, kesimler, yeniden paylaşımlar ve yeniden yüklemeler. Pratik soru, SynthID ve AI etiketlemenin bu dönüşümlerden sonra tespit edilebilir kalıp kalmadığı ve Google araçlarının içeriği Gemini veya diğer yüzeyler aracılığıyla ekosisteme yeniden girdiğinde güvenilir bir şekilde AI tarafından üretilmiş olarak işaretleyip işaretlemediğidir.

Son olarak, OSINT ve görsel adli bilimler araştırmacılarından daha fazla kamu araştırması bekleyin. Hassas istemler sürekli olarak reddedilmeye başlarsa, bu gerçek bir sıkılaşmanın kanıtıdır. Hala geçiyorlarsa, "koruma önlemleri" kontrol yerine mesajlaşma gibi görünecektir.

Benim Görüşüm: Gerçek Risk, Bir Doğrulama Aracının İçerik Fabrikasına Dönüşmesidir

Tüccarlarla ilgili olan kısım, AI'nın görüntüleri sahteleyebilmesi değil. Google'ın birçok insanın referans katmanı olarak gördüğü bir ürünün içine kısa bir süreliğine tek tıklamalı bir üretici koyması ve ardından politika ihlali gösteren paylaşımlar hemen ortaya çıktığı için yaklaşık bir gün içinde bunu geri çekmesidir. Bu hız, teorik bir etik tartışması değil, operasyonel bir risk çağrısı gibi okunuyor.

Önemli olan eşik, yeniden başlatmanın özellikle çatışma ve altyapı istemleri için sürtünmeyi ve uygulanabilir konu bloklarını anlamlı bir şekilde geri getirip getirmediğidir; ekran görüntüleri ve kesimler aracılığıyla etiketlemeyi sağlam tutarken. Bu kontroller doğada geçerli kalırsa, bu, kontrol altında bir ürün deneyi olarak kalır.

Eğer kalmazsa, Google Earth stres altında bir doğrulama aracı olmayı bırakır ve tam olarak "kanıt" pazarlarının ilk olarak yanlış fiyatlandırdığı içerik fabrikası olarak işlev görmeye başlar.

Kaynaklar

• NPR