ChatGPT को बताया एक्स-गर्लफ्रेंड को मारने का प्लान, OpenAI ने FBI को फोन घुमाया और...

फ्लोरिडा के 25 वर्षीय युवक ने ChatGPT को एक्स-गर्लफ्रेंड से रेप और हत्या की योजना बताई। OpenAI ने खतरे को भांपकर FBI को सूचित किया, जिससे उसकी गिरफ्तारी हुई। उसे 8 साल की प्रोबेशन की सजा सुनाई गई।

अपनी एक्स-गर्लफ्रेंड से रेप और फिर उसकी हत्या करने की प्लानिंग के बारे में चैटजीपीटी को बताने वाले एक युवक को महंगा पड़ गया। चैटबॉट के साथ उसकी बातचीत में असली दुनिया में हिंसा का खतरा महसूस होने पर, OpenAI ने फेडरल अधिकारियों को इसकी सूचना दे दी। कोर्ट के दस्तावेज़ों से यह खुलासा हुआ है। मामला फ्लोरिडा के 25 साल के डैरेन शॉ का है। आरोप है कि शॉ ने चैटजीपीटी को अपनी एक्स-गर्लफ्रेंड से रेप और हत्या की पूरी योजना विस्तार से बताई थी। जैसे ही OpenAI ने इन बातों को पकड़ा, उन्होंने तुरंत इसकी जानकारी FBI को दे दी।

ब्रेकअप के बाद चैटजीपीटी का इस्तेमाल शुरू किया

जांच अधिकारियों का कहना है कि छह महीने का रिश्ता टूटने के बाद शॉ ने मार्च में चैटजीपीटी का इस्तेमाल करना शुरू किया था। शुरुआत में वह ब्रेकअप, अपनी एक्स-गर्लफ्रेंड की पसंद, वो कहां-कहां जाती थी, अपनी जलन और रिश्ते को फिर से शुरू करने की इच्छा जैसी बातें करता था। लेकिन बाद में बातचीत का मिजाज बदल गया। जांच अधिकारियों ने पाया कि शॉ रेप, हत्या और सुसाइड जैसी योजनाओं पर चर्चा करने लगा था।

‘इस महीने के आखिर तक मार डालूंगा’

कोर्ट के रिकॉर्ड्स के मुताबिक, शॉ पर आरोप है कि उसने एक मैसेज भेजा था जिसमें लिखा था कि वह इस महीने के आखिर तक अपनी एक्स-गर्लफ्रेंड को मार डालेगा। एक मैसेज में उसने यह भी लिखा कि 'अगर वो मेरी नहीं हो सकती, तो किसी और की भी नहीं होनी चाहिए।' जांच अधिकारियों का कहना है कि शॉ ने चैटजीपीटी को यह भी बताया कि वह एक जिम के पास फूलों के साथ अपनी एक्स-गर्लफ्रेंड का इंतज़ार करेगा और अगर उसने मना किया तो वह उसे जान से मारने की धमकी देगा।

बंदूक के दम पर हमले की भी थी योजना

आरोप है कि शॉ ने चैटबॉट से यह भी बात की कि वह अपनी एक्स-गर्लफ्रेंड को बंदूक की नोक पर घर ले जाएगा, उसका यौन उत्पीड़न करेगा और उसे बंदी बना लेगा। कोर्ट के दस्तावेज़ों में कहा गया है कि शॉ ने यह भी बताया कि उसके पास AR-15 स्टाइल की राइफल, एक ग्लॉक हैंडगन और एक 12-गेज शॉटगन समेत कई बंदूकें हैं। रिपोर्ट के मुताबिक, उसने यह भी दावा किया कि उसने अपनी एक्स-गर्लफ्रेंड को बंदूकें, बांधने का सामान और लेटेक्स ग्लव्स की तस्वीरें भेजी थीं।

OpenAI ने FBI को किया अलर्ट

रिपोर्ट्स के मुताबिक, चैट में भेजे गए मैसेज की जांच के बाद जब OpenAI को लगा कि असल दुनिया में हिंसा हो सकती है, तो उन्होंने फेडरल अधिकारियों को अलर्ट कर दिया। इसके बाद जांच अधिकारियों को शॉ की करीब दो महीने की चैट हिस्ट्री मिली। मई में शॉ को गिरफ्तार कर लिया गया। उस पर गंभीर रूप से पीछा करने, लिखित में जान से मारने की धमकी देने और मोबाइल फोन का गैर-कानूनी इस्तेमाल करने जैसे आरोप लगाए गए।

आठ साल की प्रोबेशन की सज़ा

13 अगस्त को शॉ ने तीनों आरोपों में अपना गुनाह कबूल कर लिया। बताया जा रहा है कि उसने यह कबूलनामा एक समझौते के तहत किया ताकि उसे जेल की सज़ा और एक गंभीर अपराधी का टैग न मिले। इसके बाद, सर्किट जज स्कॉट सुस्कोवर ने शॉ को आठ साल की प्रोबेशन की सज़ा सुनाई। पहले दो साल उसे टखने में एक मॉनिटरिंग डिवाइस पहनना होगा। साथ ही, उसे हिंसक व्यवहार को रोकने वाले एक कार्यक्रम को पूरा करना होगा और मानसिक स्वास्थ्य जांच से गुज़रना होगा। उस पर ड्रग्स और शराब के इस्तेमाल, बंदूकें रखने और अपनी एक्स-गर्लफ्रेंड से संपर्क करने पर भी पाबंदी है।

आपराधिक जांच में AI की भूमिका

यह घटना इस चिंता को फिर से बढ़ाती है कि लोग संवेदनशील और कभी-कभी खतरनाक विषयों पर चर्चा करने के लिए AI चैटबॉट्स का इस्तेमाल कर रहे हैं। हाल ही में कई आपराधिक जांचों में AI टूल्स का इस्तेमाल सामने आया है। अमेरिका में फ्लोरिडा स्टेट यूनिवर्सिटी में हुई गोलीबारी की जांच में भी चैटजीपीटी के इस्तेमाल पर सवाल उठे थे। अधिकारियों ने बताया था कि आरोपी ने हमले से जुड़ी बातें जानने के लिए चैटबॉट का इस्तेमाल किया था।

बेंगलुरु में भी ऐसी ही एक घटना सामने आई थी। पुलिस ने बताया था कि तीन हत्याओं के मामले में एक आरोपी हत्याओं की योजना बनाते समय महीनों तक गूगल जेमिनी का इस्तेमाल कर रहा था। जांच अधिकारी अब जांच के हिस्से के रूप में AI चैट हिस्ट्री तक पहुंचने की कोशिश कर रहे हैं। पहले AI कंपनियों की खतरनाक बातचीत को संभालने के तरीके पर आलोचना होती थी, लेकिन शॉ के मामले में मैसेज को पहचानकर अधिकारियों को सूचित करने से यह चर्चा भी तेज़ हो गई है कि कंपनियां अब सुरक्षा को लेकर ज़्यादा एक्टिव हो रही हैं।