Google khôi phục AI "hình ảnh vệ tinh" trên Trái Đất

Google đã gỡ bỏ một tính năng mới trên web Google Earth cho phép người dùng tạo ra hình ảnh AI "kiểu vệ tinh" từ các gợi ý văn bản chỉ với một cú nhấp chuột, chỉ khoảng một ngày sau khi công bố. Việc gỡ bỏ này diễn ra sau khi có các ảnh chụp màn hình được chia sẻ mà Google cho rằng vi phạm chính sách của mình, trong khi các nhà điều tra mã nguồn mở cảnh báo rằng công cụ này có thể thúc đẩy thông tin sai lệch trong khủng hoảng.

Điểm chính

Google đã gỡ bỏ một tính năng trên web Google Earth cho phép tạo ra hình ảnh "vệ tinh" do AI tạo ra chỉ với một cú nhấp chuột khoảng một ngày sau khi công bố, với lý do là các ảnh chụp màn hình được chia sẻ vi phạm chính sách và cần có các biện pháp bảo vệ mạnh mẽ hơn.
Công ty cho biết các chuyên gia địa không gian đang sử dụng công cụ này cho công việc hợp pháp, nhưng quy trình làm việc tương tự cũng tạo ra hình ảnh có vẻ vi phạm chính sách của Google.
Nhà nghiên cứu mã nguồn mở Henk van Ess cho biết các gợi ý nhạy cảm đã được chấp nhận mà không bị từ chối, bao gồm các kịch bản xung đột và khủng hoảng.
Các nhà báo đã tạo ra các cảnh tổng hợp của đảo Kharg (Iran) đang cháy và lũ lụt xung quanh khu phức hợp Quốc hội Hoa Kỳ, và cho biết không có sự kiện nào xảy ra.

Google Gỡ Bỏ Hình Ảnh AI "Vệ Tinh" Một Cú Nhấp Chuột Từ Trái Đất Sau Một Ngày Hoạt Động

Google đã gỡ bỏ một tính năng mới trên web Google Earth cho phép người dùng tạo ra "hình ảnh vệ tinh" do AI tạo ra từ một gợi ý văn bản, gỡ bỏ nó khoảng một ngày sau khi công bố. Công ty cho biết họ đang gỡ bỏ công cụ này trong khi thực hiện "các biện pháp bảo vệ mạnh mẽ hơn", sau khi thấy các ảnh chụp màn hình của hình ảnh được tạo ra bị chia sẻ mà có vẻ vi phạm chính sách của mình.

Về mặt cơ học, tính năng này đã hợp nhất một quy trình sản xuất nhiều bước thành một nút gốc bên trong một sản phẩm tham khảo. Hướng dẫn ban đầu của Google mô tả một vòng lặp đơn giản: "Chỉ cần phóng to đến một địa điểm trong Google Earth trên web (sic), nhấn 'tạo hình ảnh', và gõ bất cứ điều gì bạn muốn thấy," quản lý sản phẩm Bryan Horowitz viết.

Google đã định hình việc gỡ bỏ này như một phản ứng an toàn, không phải là sự từ chối của trường hợp sử dụng. "Chúng tôi đã thấy các chuyên gia địa không gian sử dụng tính năng này cho nhiều mục đích hữu ích," công ty cho biết trong một tuyên bố được đăng trên X. "Tuy nhiên, chúng tôi cũng đã thấy mọi người chia sẻ các ảnh chụp màn hình của hình ảnh được tạo ra có vẻ vi phạm chính sách của chúng tôi.

Vì vậy, chúng tôi đang gỡ bỏ tính năng này trong Google Earth trong khi chúng tôi làm việc để thực hiện các biện pháp bảo vệ mạnh mẽ hơn."

Công ty cũng cho biết họ "đối xử nghiêm túc với thông tin sai lệch," và chỉ ra các biện pháp kiểm soát nhãn mác. Google cho biết tất cả hình ảnh được tạo ra đều được đánh dấu bằng dấu hiệu SynthID của họ và sẽ được gắn cờ là hình ảnh do AI tạo ra trong các công cụ Google khác như Gemini. Họ cũng cho biết họ ngăn chặn việc tạo hình ảnh về các chủ đề có hại và liên tục cập nhật các biện pháp bảo vệ.

Tại sao hình ảnh tổng hợp "Từ không gian" lại quan trọng cho các thị trường nhanh chóng

Hình ảnh vệ tinh nằm ở một vị trí kỳ lạ trong chuỗi thông tin: nó thường được coi là một yếu tố xác minh, không chỉ là một phần nội dung khác. Các nhà điều tra mã nguồn mở (OSINT) sử dụng nó để xác nhận xem một video có được định vị địa lý chính xác hay không, liệu một cơ sở có bị hư hại hay không, hoặc liệu một vụ cháy hoặc lũ lụt được tuyên bố có dấu vết nào nhìn thấy được hay không.

Google Earth không phải lúc nào cũng là nguồn tin mới nhất, nhưng độ phủ toàn cầu của nó khiến nó trở thành lớp tham chiếu mặc định khi một tuyên bố gây sốc xuất hiện.

Việc nhúng tạo hình ảnh chỉ bằng một cú nhấp chuột vào cùng một giao diện đó thay đổi mô hình mối đe dọa. Một deepfake thường được coi là một vấn đề mạng xã hội, nhưng hình ảnh tổng hợp "từ không gian" được thiết kế đặc biệt cho những loại câu chuyện địa chính trị và thảm họa mà các thị trường định giá trước khi bằng chứng được làm rõ.

Một hình ảnh trông có vẻ hợp lý về một cảng dầu đang cháy, một căn cứ quân sự bị tấn công, hoặc một quận thủ đô bị ngập nước có thể nhanh chóng thay đổi tâm lý rủi ro và giá cả của các ngành, ngay cả khi sự điều chỉnh đến sau vài giờ.

Khoảng cách tốc độ đó là điểm mấu chốt. Nhà nghiên cứu cấp cao của Bellingcat, Jake Godin, cho biết hình ảnh vệ tinh từ trước đến nay đã là một "cược an toàn" cho việc xác minh vì nó khó giả mạo, với các nguồn thường được kiểm soát bởi các công ty hoặc tổ chức và một chiếc camera hàng trăm dặm trên mặt đất mà rất khó để bắt chước. Việc tạo hình ảnh chỉ bằng một cú nhấp chuột, ông lập luận, không tạo ra động lực để giả mạo. Nó loại bỏ sự ma sát đã giữ cho khối lượng sản xuất thấp.

Cảnh báo của Godin ít liên quan đến một hình ảnh thuyết phục đơn lẻ và nhiều hơn về thông lượng. "Nó chỉ đơn giản là tinh giản quy trình, điều mà tôi nghĩ sẽ khiến nó phát triển mạnh hơn," ông nói. Trong các thị trường nhanh chóng, sự phát triển mạnh mẽ là cơ chế quan trọng vì nó làm tăng khả năng một hình ảnh giả mạo trở thành "bằng chứng" đầu tiên mà các nhà giao dịch thấy.

Những gì các nhà nghiên cứu có thể tạo ra

Các thử nghiệm công khai ban đầu đã được lưu hành không hề tinh tế. Nhà nghiên cứu mã nguồn mở Henk van Ess cho biết ông đã thử các yêu cầu mà trực tiếp liên quan đến các tình huống nhạy cảm, thực tế và không nhận được từ chối nào: "Tôi đã thử các tình huống về người tị nạn tại biên giới Mexico, một nhà máy hạt nhân ở Iran, một vụ tai nạn ở Amsterdam, một bệnh viện với một hố bom ở Gaza. Không có gì bị từ chối," ông nói.

Điều đó quan trọng vì nó gợi ý rằng việc lọc chủ đề thực tế đã bị rò rỉ, ít nhất là trong phiên bản đã được phát hành. Nếu một công cụ sẽ tạo ra các cảnh gần gũi với khủng hoảng theo yêu cầu, nó có khả năng sẽ được sử dụng trong các cuộc khủng hoảng trực tiếp, không chỉ trong các trường hợp lạm dụng giả thuyết.

Các nhà báo cũng có thể tạo ra các cảnh tổng hợp sẽ được coi là tin tức nóng hổi nếu chúng là thật. NPR đã tạo ra các hình ảnh AI mô tả nhiều đám cháy trên và gần đảo Kharg, Iran, mà họ mô tả là nơi có một cảng dầu chiến lược ở Vịnh Ba Tư. Họ cũng đã tạo ra một hình ảnh cho thấy sự ngập lụt nghiêm trọng xung quanh khu phức hợp Quốc hội Hoa Kỳ. NPR cho biết cả hai sự kiện được mô tả đều chưa xảy ra.

Phản ứng của cộng đồng điều tra hình ảnh mã nguồn mở và hình sự trực quan rất thẳng thắn, và nó tập trung vào quy trình cũng như kết quả. Evan Hill, một nhà điều tra hình sự trực quan tại The Washington Post, đã đặt câu hỏi liệu tính năng này có được kiểm tra áp lực nội bộ thông qua nhóm đỏ hay không, viết: “Rất tò mò về cách hoặc nếu ý tưởng này đã được nhóm đỏ kiểm tra nội bộ vì cơ hội lạm dụng và thông tin sai lệch là thực sự vô hạn.”

Cũng có tiền lệ cho những hình ảnh giả “từ không gian”, ngay cả trước quy trình một cú nhấp chuột của Google. Godin lưu ý rằng vào đầu cuộc chiến Mỹ-Israel với Iran, những hình ảnh giả về một căn cứ của Mỹ ở Bahrain bị hư hại đã lan truyền, dường như sử dụng hình ảnh từ Google Earth và Google AI để tạo ra thiệt hại giả. Sau đó, những hình ảnh vệ tinh thực tế cho thấy căn cứ bị hư hại, nhưng không theo cách mà hình ảnh giả đã thể hiện.

Các tín hiệu cần theo dõi trước bất kỳ lần ra mắt nào

Tín hiệu đầu tiên là liệu Google có kích hoạt lại tính năng “tạo hình ảnh” trong Google Earth hay không, và nó thay đổi gì trong quy trình làm việc. “Các rào cản mạnh mẽ hơn” có thể có nghĩa là các chủ đề bị chặn, thêm ma sát, giới hạn truy cập hoặc đánh giá của con người, và những lựa chọn đó xác định liệu đây có phải là một công cụ sáng tạo ngách hay một bề mặt thông tin sai lệch có thể mở rộng.

Sự rõ ràng về phạm vi ra mắt cũng quan trọng. Google chưa xác định liệu tính năng này có sẵn rộng rãi hay chỉ là một thử nghiệm hạn chế, và họ chưa chi tiết hóa các danh mục chính sách nào đã bị kích hoạt bởi các ảnh chụp màn hình mà họ đã trích dẫn. Nếu không có điều đó, rất khó để xác định liệu việc thu hồi có được thúc đẩy bởi một trường hợp hẹp hay một kênh lạm dụng rộng mở.

Các tuyên bố về nhãn của Google sẽ được kiểm tra trong các con đường phân phối thực tế quan trọng: ảnh chụp màn hình, cắt xén, đăng lại và tải lên lại. Câu hỏi thực tế là liệu SynthID và nhãn AI có vẫn có thể phát hiện được sau những biến đổi đó hay không, và liệu các công cụ của Google có đáng tin cậy trong việc đánh dấu nội dung là do AI tạo ra khi nó tái gia nhập hệ sinh thái thông qua Gemini hoặc các bề mặt khác.

Cuối cùng, hãy mong đợi nhiều cuộc điều tra công khai hơn từ các nhà nghiên cứu OSINT và hình sự trực quan. Nếu các yêu cầu nhạy cảm bắt đầu bị từ chối một cách nhất quán, đó là bằng chứng về sự thắt chặt thực sự. Nếu chúng vẫn được chấp nhận, “các rào cản” sẽ giống như thông điệp hơn là kiểm soát.

Quan điểm của tôi: Rủi ro thực sự là một công cụ xác minh trở thành một nhà máy nội dung

Phần mà các nhà giao dịch nên chú ý không phải là AI có thể giả mạo hình ảnh. Mà là Google đã tạm thời đưa một trình tạo một cú nhấp chuột vào trong một sản phẩm mà nhiều người coi là lớp tham chiếu, sau đó đã rút lại trong khoảng một ngày vì việc chia sẻ vi phạm chính sách đã xuất hiện ngay lập tức. Tốc độ đó giống như một cuộc gọi rủi ro hoạt động, không phải một cuộc tranh luận đạo đức lý thuyết.

Ngưỡng quan trọng là liệu một lần ra mắt có phục hồi có ý nghĩa ma sát và các khối chủ đề có thể thực thi, đặc biệt là cho các yêu cầu về xung đột và cơ sở hạ tầng, trong khi giữ nguyên nhãn thông qua ảnh chụp màn hình và cắt xén. Nếu những kiểm soát đó giữ vững trong thực tế, đây vẫn là một thí nghiệm sản phẩm có kiểm soát.

Nếu không, Google Earth sẽ không còn là một công cụ xác minh dưới áp lực và bắt đầu hoạt động như một nhà máy nội dung cho những loại “bằng chứng” mà thị trường định giá sai đầu tiên.

Google ngừng tính năng AI "hình ảnh vệ tinh" sau vi phạm…