Nano Banana से बनाया नकली पैन-आधार कार्ड, टेकी ने दिखाया AI का खतरनाक सच

बेंगलुरु के एक टेकी ने गूगल के जेमिनी AI टूल द्वारा असली जैसे नकली आधार और पैन कार्ड बनाने को लेकर चेतावनी दी है। यह टूल सटीकता से पहचान पत्र बना सकता है, जिससे धोखाधड़ी का खतरा बढ़ गया है।

बेंगलुरु न्यूज: बेंगलुरु के एक टेकी ने गूगल के जेमिनी नैनो बनाना AI टूल का इस्तेमाल करके नकली आधार और पैन कार्ड बनाने को लेकर चेतावनी दी है। हरवीन सिंह चड्ढा नाम के एक एक्स यूजर ने आधार कार्ड और पैन कार्ड की जेमिनी से बनी तस्वीरें शेयर की हैं, जो नैनो बनाना की सटीकता पर चिंता पैदा कर रही हैं। हरवीन ने अपने एक्स पोस्ट में साबित किया है कि नैनो बनाना बहुत सटीकता के साथ नकली पहचान पत्र बना सकता है। हरवीन सिंह चड्ढा ने 'ट्विटरप्रीत सिंह' नाम के एक काल्पनिक व्यक्ति के नाम पर असली जैसे दिखने वाले पैन और आधार कार्ड बनाने के लिए नैनो बनाना का इस्तेमाल किया।

नैनो बनाना प्रो की सटीकता का खतरा

समस्या यह है कि गूगल का जेमिनी नैनो बनाना प्रो आसानी से नकली आधार कार्ड, पैन कार्ड और पासपोर्ट फोटो बना देता है। चूँकि ये बिल्कुल असली जैसे दिखते हैं, नैनो बनाना से बनी तस्वीरों को एक नज़र में पहचानना मुश्किल है। चिंता यह है कि इससे धोखेबाजों को नकली पहचान पत्र बनाकर लोगों को ठगने का मौका मिल सकता है। टेक्नोलॉजी एक्सपर्ट्स भी गूगल के नैनो बनाना प्रो को लेकर चिंता जता रहे हैं।

बेंगलुरु के टेकी हरवीन सिंह चड्ढा ने अपने एक्स पोस्ट में नैनो बनाना प्रो के खतरों पर जोर दिया है। हरवीन सिंह चड्ढा बताते हैं कि वैसे तो नैनो बनाना ठीक है, लेकिन सबसे बड़ी समस्या यह है कि यह असली जैसे दिखने वाले नकली पहचान पत्र बनाता है। हरवीन का कहना है कि इमेज जेनरेशन टूल के वेरिफिकेशन सिस्टम अक्सर फेल हो जाते हैं। हरवीन सिंह चड्ढा ने एक काल्पनिक व्यक्ति का नकली पैन कार्ड और आधार कार्ड बनाकर इसे साबित भी किया। उनके द्वारा शेयर की गई दोनों तस्वीरों में कार्ड एक नज़र में असली लगते हैं।

जेमिनी तस्वीरों में वॉटरमार्क

जेमिनी का उपयोग करके बनाई गई सभी तस्वीरों में एक वॉटरमार्क होता है। गूगल यह सुविधा इसलिए देता है ताकि यह पहचाना जा सके कि तस्वीर AI से बनी है या नहीं। हालांकि, फोटोशॉप का उपयोग करके वॉटरमार्क को बाद में हटाया जा सकता है। यह वॉटरमार्क AI से बनी तस्वीर के निचले दाएं कोने में होता है। लेकिन खतरा यह भी है कि इसे फोटोशॉप वगैरह का इस्तेमाल करके गायब किया जा सकता है।

गूगल AI से बनी तस्वीरों, टेक्स्ट, ऑडियो और वीडियो की पहचान करने के लिए सिंथआईडी (SynthID) का उपयोग करता है। सिंथआईडी एक अदृश्य डिजिटल वॉटरमार्क है, जिसे गूगल डीपमाइंड ने विकसित किया है, जो जेमिनी AI से बने सभी कंटेंट में अपने आप जुड़ जाता है। हालांकि, सिंथआईडी की भी अपनी कमियां हैं। यह केवल जेमिनी का उपयोग करके बनाई गई तस्वीरों की प्रामाणिकता को ही पहचान सकता है। यह चैटजीपीटी जैसे अन्य इमेज जेनरेशन टूल से बनी तस्वीरों की जांच नहीं कर सकता।

नकली बनाने के लिए चैटजीपीटी भी

वैसे, इस तरह की चिंताएं सिर्फ जेमिनी नैनो बनाना प्रो को लेकर ही नहीं हैं। चैटजीपीटी, जिसने सबसे पहले प्रॉम्प्ट का उपयोग करके नकली इमेज बनाने की सुविधा शुरू की थी, उसे भी समस्याओं का सामना करना पड़ा। अब, नैनो बनाना टूल के आने से यह समस्या और भी गंभीर हो गई है। क्योंकि नैनो बनाना और नया नैनो बनाना प्रो टूल चैटजीपीटी की तुलना में बेहतर और ज़्यादा असली दिखने वाली तस्वीरें बनाते हैं।

"डर नहीं, जागरूकता पैदा करना है"

वहीं, इस पोस्ट के पीछे का मकसद बताते हुए टेकी हरवीन सिंह चड्ढा ने कहा कि उनका लक्ष्य जागरूकता पैदा करना है। “बहुत से लोग डर रहे हैं, लेकिन पोस्ट का मकसद डर पैदा करना नहीं, बल्कि जागरूकता फैलाना था। मैं दिखाना चाहता था कि आज के AI मॉडल क्या कर सकते हैं, क्योंकि वे अविश्वसनीय रूप से तेजी से और पुराने तरीकों की तुलना में बहुत कम गलतियों के साथ काम करते हैं। जिस गति से ये मॉडल बेहतर हो रहे हैं, उसी गति से हमारे पारंपरिक वेरिफिकेशन सिस्टम को भी बेहतर बनाने की जरूरत है,” हरवीन सिंह चड्ढा ने आगे कहा।