Google ने नीति उल्लंघन के बाद AI "सैटेलाइट इमेज" वापस लिए

गूगल ने एक नई गूगल अर्थ वेब सुविधा हटा दी है जो उपयोगकर्ताओं को एक क्लिक में टेक्स्ट प्रॉम्प्ट से एआई "सैटेलाइट-शैली" छवियां उत्पन्न करने की अनुमति देती थी, इसे पेश करने के लगभग एक दिन बाद हटा दिया गया। यह रोलबैक उन साझा स्क्रीनशॉट्स के प्रसार के बाद हुआ है जो गूगल के अनुसार उसकी नीतियों का उल्लंघन करते प्रतीत होते थे, क्योंकि ओपन-सोर्स शोधकर्ताओं ने चेतावनी दी थी कि यह उपकरण संकट की गलत सूचना को बढ़ा सकता है।

मुख्य निष्कर्ष

• गूगल ने एक गूगल अर्थ वेब सुविधा हटा दी जो एक क्लिक में एआई-जनित "सैटेलाइट" छवियां उत्पन्न करने की अनुमति देती थी, इसे पेश करने के लगभग एक दिन बाद साझा स्क्रीनशॉट्स के उल्लंघन के कारण और मजबूत सुरक्षा उपायों की आवश्यकता का हवाला देते हुए।
• कंपनी ने कहा कि भू-स्थानिक पेशेवर इस उपकरण का वैध कार्य के लिए उपयोग कर रहे थे, लेकिन उसी कार्यप्रवाह ने भी ऐसी छवियां उत्पन्न कीं जो गूगल की नीतियों का उल्लंघन करती प्रतीत होती थीं।
• ओपन-सोर्स शोधकर्ता हेंक वान एस ने कहा कि संवेदनशील प्रॉम्प्ट्स को बिना किसी अस्वीकृति के स्वीकार किया गया, जिसमें संघर्ष और संकट परिदृश्य शामिल थे।
• पत्रकारों ने खार्ग द्वीप (ईरान) की आग और अमेरिका के कैपिटल परिसर के चारों ओर बाढ़ के सिंथेटिक दृश्य उत्पन्न किए, और कहा कि इनमें से कोई भी घटना नहीं हुई।

गूगल ने एक दिन के संचालन के बाद पृथ्वी से एक-क्लिक एआई "सैटेलाइट इमेज" को हटा दिया

गूगल ने एक नई गूगल अर्थ वेब सुविधा को वापस लिया जो उपयोगकर्ताओं को टेक्स्ट प्रॉम्प्ट से एआई "सैटेलाइट इमेज" उत्पन्न करने की अनुमति देती थी, इसे पेश करने के लगभग एक दिन बाद हटा दिया। कंपनी ने कहा कि वह "मजबूत सुरक्षा उपायों" को लागू करते समय इस उपकरण को हटा रही है, क्योंकि उसने साझा किए गए उत्पन्न चित्रों के स्क्रीनशॉट देखे जो उसकी नीतियों का उल्लंघन करते प्रतीत होते थे।

यांत्रिक रूप से, इस सुविधा ने एक बहु-चरण निर्माण कार्यप्रवाह को एक संदर्भ उत्पाद के भीतर एक मूल बटन में संकुचित कर दिया। गूगल के प्रारंभिक निर्देशों ने एक सरल लूप का वर्णन किया: "बस गूगल अर्थ पर वेब (sic) में किसी स्थान पर ज़ूम इन करें, 'छवि बनाएँ' पर टैप करें, और जो कुछ भी आप देखना चाहते हैं, टाइप करें," उत्पाद प्रबंधक ब्रायन होरोविट्ज़ ने लिखा।

गूगल ने रोलबैक को एक सुरक्षा प्रतिक्रिया के रूप में प्रस्तुत किया, न कि उपयोग के मामले के अस्वीकृति के रूप में। "हमने देखा है कि भू-स्थानिक पेशेवर इस सुविधा का उपयोग विभिन्न उपयोगी उद्देश्यों के लिए कर रहे हैं," कंपनी ने X पर पोस्ट किए गए एक बयान में कहा। "हालांकि हमने यह भी देखा है कि लोग उत्पन्न चित्रों के स्क्रीनशॉट साझा कर रहे हैं जो हमारी नीतियों का उल्लंघन करते प्रतीत होते हैं। इसलिए हम गूगल अर्थ में इस सुविधा को वापस ले रहे हैं जबकि हम मजबूत सुरक्षा उपायों को लागू करने पर काम कर रहे हैं।

कंपनी ने यह भी कहा कि यह "गलत जानकारी को गंभीरता से लेती है," और लेबलिंग नियंत्रणों की ओर इशारा किया। गूगल ने कहा कि सभी उत्पन्न छवियों पर इसका SynthID वॉटरमार्क होता है और अन्य गूगल टूल्स जैसे कि जेमिनी में इसे AI-निर्मित के रूप में चिह्नित किया जाएगा। उसने यह भी कहा कि यह हानिकारक विषयों पर छवि निर्माण को रोकता है और निरंतर सुरक्षा उपायों को अपडेट करता है।

तेज बाजारों के लिए सिंथेटिक "स्पेस से" दृश्य क्यों महत्वपूर्ण हैं

सैटेलाइट इमेजरी सूचना ढांचे में एक अजीब स्थान पर बैठती है: इसे अक्सर एक सत्यापन प्राइमिटिव के रूप में माना जाता है, न कि केवल एक और सामग्री के टुकड़े के रूप में। ओपन-सोर्स जांचकर्ता (OSINT) इसका उपयोग यह पुष्टि करने के लिए करते हैं कि क्या एक वीडियो सही ढंग से भू-स्थानित है, क्या कोई सुविधा क्षतिग्रस्त है, या क्या एक दावा किया गया आग या बाढ़ का कोई दृश्य पदचिह्न है। गूगल अर्थ हमेशा सबसे ताजा फीड नहीं होता, लेकिन इसका वैश्विक कवरेज इसे एक डिफ़ॉल्ट संदर्भ परत बनाता है जब कोई ब्रेकिंग दावा सामने आता है।

उसी इंटरफ़ेस के भीतर एक-क्लिक निर्माण को एम्बेड करना खतरे के मॉडल को बदल देता है। एक डीपफेक को आमतौर पर एक सोशल-मीडिया समस्या के रूप में फ्रेम किया जाता है, लेकिन सिंथेटिक "स्पेस से" दृश्य उन प्रकार की भू-राजनीतिक और आपदा कथाओं के लिए तैयार किए गए हैं जिन्हें बाजार सबूत साफ होने से पहले मूल्यांकन करते हैं। एक तेल टर्मिनल जलते हुए, एक सैन्य बेस पर हमले, या एक राजधानी जिले में बाढ़ का एक संभावित दिखने वाला चित्र जोखिम की भावना और क्षेत्र की कीमतों को तेजी से बदल सकता है, भले ही सुधार घंटों बाद आए।

वह गति का अंतर ही महत्वपूर्ण है। बेलिंगकैट के वरिष्ठ शोधकर्ता जेक गोडिन ने कहा कि सैटेलाइट इमेजरी ऐतिहासिक रूप से सत्यापन के लिए एक "सुरक्षित दांव" रही है क्योंकि इसे फर्जी बनाना मुश्किल है, स्रोत आमतौर पर कंपनियों या संस्थानों द्वारा नियंत्रित होते हैं और एक कैमरा जो पृथ्वी से सैकड़ों मील ऊपर है जिसे अनुकरण करना कठिन रहा है। एक-क्लिक निर्माण, उन्होंने तर्क किया, फर्जी बनाने के लिए प्रोत्साहन का आविष्कार नहीं करता। यह उस घर्षण को हटा देता है जो उत्पादन मात्रा को कम रखता था।

गोडिन की चेतावनी एक एकल विश्वसनीय छवि के बारे में कम और थ्रूपुट के बारे में अधिक है। "यह बस प्रक्रिया को सरल बना रहा है, जो मुझे लगता है कि इसे और अधिक फैलाने वाला बना देगा," उन्होंने कहा। तेज बाजारों में, प्रसार वह तंत्र है जो मायने रखता है क्योंकि यह इस बात की संभावना बढ़ाता है कि एक फर्जी पहले "सबूत" के रूप में दिखाई दे।

शोधकर्ताओं द्वारा उत्पन्न किया जा सकता है

जो प्रारंभिक सार्वजनिक परीक्षण प्रसारित हुआ वह सूक्ष्म नहीं था। ओपन-सोर्स शोधकर्ता हेंक वैन एस ने कहा कि उन्होंने संवेदनशील, वास्तविक-world परिदृश्यों के लिए सीधे मैप करने वाले प्रॉम्प्ट्स का प्रयास किया और कोई अस्वीकृति नहीं मिली: "मैंने मेक्सिकन सीमा पर शरणार्थियों, ईरान में एक परमाणु संयंत्र, एम्स्टर्डम में एक दुर्घटना, गाजा में एक बम क्रेटर के साथ एक अस्पताल का प्रयास किया। कुछ भी अस्वीकृत नहीं किया गया," उन्होंने कहा।

यह महत्वपूर्ण है क्योंकि यह सुझाव देता है कि विषय फ़िल्टरिंग व्यवहार में छिद्रपूर्ण थी, कम से कम उस संस्करण में जो भेजा गया था। यदि एक उपकरण मांग पर संकट-संबंधित दृश्य उत्पन्न करेगा, तो यह संभवतः लाइव संकटों के दौरान उपयोग किया जाएगा, न कि केवल काल्पनिक दुरुपयोग मामलों में।

पत्रकारों ने भी सिंथेटिक दृश्य उत्पन्न करने में सक्षम थे जो यदि वे वास्तविक होते तो प्रमुख ब्रेकिंग न्यूज़ के रूप में पढ़े जाते। एनपीआर ने खार्ग द्वीप, ईरान पर और उसके आसपास कई आगों को दर्शाते हुए AI छवियाँ उत्पन्न कीं, जिसे उसने फारसी खाड़ी में एक रणनीतिक तेल टर्मिनल का घर बताया। उसने यह भी एक छवि उत्पन्न की जो अमेरिका के कैपिटल कॉम्प्लेक्स के चारों ओर महत्वपूर्ण बाढ़ को दर्शाती है। एनपीआर ने कहा कि दोनों दर्शाए गए घटनाएँ नहीं हुई थीं।

ओपन-सोर्स और विजुअल फॉरेंसिक्स समुदाय की प्रतिक्रिया स्पष्ट थी, और इसने परिणाम के साथ-साथ प्रक्रिया पर भी ध्यान केंद्रित किया। द वाशिंगटन पोस्ट के विजुअल फॉरेंसिक्स जांचकर्ता एवान हिल ने सवाल उठाया कि क्या इस फीचर का आंतरिक रूप से रेड टीमिंग के माध्यम से तनाव परीक्षण किया गया था, लिखते हैं: “यह जानकर बहुत जिज्ञासा होती है कि इस विचार को आंतरिक रूप से रेड टीम किया गया या नहीं क्योंकि दुरुपयोग और गलत सूचना के अवसर वास्तव में असीमित हैं।”

गूगल के एक-क्लिक वर्कफ़्लो से पहले भी "स्पेस से" फेक के लिए एक मिसाल है। गोडिन ने उल्लेख किया कि अमेरिका-इजराइल युद्ध के दौरान ईरान के साथ, बहरीन में एक क्षतिग्रस्त अमेरिकी बेस की नकली छवियाँ प्रसारित हुईं जो गूगल अर्थ की छवियों और गूगल एआई का उपयोग करके नकली क्षति उत्पन्न करती थीं। बाद में असली उपग्रह छवियों ने दिखाया कि बेस क्षतिग्रस्त था, लेकिन जिस तरीके से दिखाया गया था, उस तरीके से नहीं।

किसी भी पुनः लॉन्च से पहले मॉनिटर करने के लिए संकेत

पहला संकेत यह है कि क्या गूगल गूगल अर्थ में "छवि बनाने" की सुविधा को फिर से सक्षम करता है, और यह वर्कफ़्लो में क्या बदलाव लाता है। "मजबूत गार्डरेल" का मतलब हो सकता है कि विषयों को ब्लॉक किया गया है, अतिरिक्त घर्षण, पहुंच सीमाएँ, या मानव समीक्षा, और ये विकल्प यह निर्धारित करते हैं कि यह एक विशेष रचनात्मक उपकरण है या एक स्केलेबल गलत सूचना सतह।

रोलआउट के दायरे पर स्पष्टता भी महत्वपूर्ण है। गूगल ने यह स्पष्ट नहीं किया है कि यह फीचर व्यापक रूप से उपलब्ध था या एक सीमित परीक्षण था, और इसने यह भी नहीं बताया कि साझा किए गए स्क्रीनशॉट्स द्वारा कौन से नीति श्रेणियाँ सक्रिय हुईं। इसके बिना, यह बताना मुश्किल है कि क्या रोलबैक एक संकीर्ण एज केस द्वारा प्रेरित था या एक व्यापक दुरुपयोग चैनल द्वारा।

गूगल के लेबलिंग दावे असली वितरण पथों में परीक्षण किए जाएंगे जो महत्वपूर्ण हैं: स्क्रीनशॉट, फसलें, पुनः पोस्ट, और पुनः अपलोड। व्यावहारिक सवाल यह है कि क्या SynthID और एआई लेबलिंग उन परिवर्तनों के बाद भी पहचानने योग्य रहते हैं, और क्या गूगल के उपकरण सामग्री को AI-जनित के रूप में विश्वसनीय रूप से चिह्नित करते हैं जब यह जेमिनी या अन्य सतहों के माध्यम से पारिस्थितिकी तंत्र में फिर से प्रवेश करता है।

अंत में, OSINT और विजुअल फॉरेंसिक्स शोधकर्ताओं से अधिक सार्वजनिक जांच की अपेक्षा करें। यदि संवेदनशील प्रॉम्प्ट लगातार अस्वीकार किए जाने लगते हैं, तो यह वास्तविक कसने का सबूत है। यदि वे अभी भी पास होते हैं, तो "गार्डरेल" नियंत्रण से अधिक संदेश की तरह पढ़े जाएंगे।

मेरी राय: असली जोखिम एक सत्यापन उपकरण का सामग्री कारखाना बनना है

जो हिस्सा व्यापारियों के साथ गूंजना चाहिए वह यह नहीं है कि एआई छवियों को नकली बना सकता है। यह है कि गूगल ने संक्षेप में एक उत्पाद के अंदर एक एक-क्लिक जनरेटर रखा जिसे कई लोग संदर्भ स्तर के रूप में मानते हैं, फिर लगभग एक दिन के भीतर इसे खींच लिया क्योंकि नीति-उल्लंघन साझा तुरंत दिखाई दिया। यह गति एक परिचालन जोखिम कॉल की तरह पढ़ती है, न कि एक सैद्धांतिक नैतिकता बहस।

जो सीमा महत्वपूर्ण है वह यह है कि क्या एक पुनः लॉन्च अर्थपूर्ण रूप से घर्षण और लागू विषय ब्लॉकों को बहाल करता है, विशेष रूप से संघर्ष और बुनियादी ढांचे के प्रॉम्प्ट के लिए, जबकि स्क्रीनशॉट और फसल के माध्यम से लेबलिंग को बरकरार रखते हुए। यदि ये नियंत्रण जंगली में बने रहते हैं, तो यह एक नियंत्रित उत्पाद प्रयोग बना रहता है। यदि वे नहीं रहते, तो गूगल अर्थ तनाव के तहत एक सत्यापन उपकरण बनना बंद कर देता है और पहले प्रकार के "प्रमाण" बाजारों के लिए सामग्री कारखाने के रूप में कार्य करना शुरू कर देता है।

स्रोत

• एनपीआर