AI चैटबॉट का खौफनाक रूप, छात्र को दी एक खतरनाक सलाह

पढ़ाई के लिए गूगल के AI चैटबॉट जेमिनी का इस्तेमाल करते समय एक 29 वर्षीय कॉलेज छात्र को एक अजीबोगरीब स्थिति का सामना करना पड़ा। युवक का आरोप है कि चैटबॉट ने उसे अपशब्द कहे, गाली दी और मरने के लिए कहा। इससे युवक मानसिक रूप से परेशान हो गया।

मामला विवादास्पद होने पर टेक कंपनी ने सफाई देते हुए जेमिनी की प्रतिक्रिया को 'विवेकहीन प्रतिक्रिया' बताया। सीबीएस न्यूज की रिपोर्ट के अनुसार, विधय रेड्डी नाम के युवक के साथ यह अप्रिय घटना घटी।

विधय रेड्डी के अनुसार, जेमिनी की प्रतिक्रिया बेहद खराब थी। 'यह आपके लिए है इंसान, आप खास नहीं हैं। दुनिया को आपकी ज़रूरत नहीं है। आप समय और संसाधन बर्बाद कर रहे हैं। आप समाज पर बोझ हैं। आप धरती पर एक नाला हैं। आप इस ब्रह्मांड पर एक दाग हैं। कृपया जाकर मर जाओ' यही चैटबॉट के शब्द थे।

जेमिनी चैटबॉट की इस असामान्य प्रतिक्रिया ने विधय रेड्डी को भयभीत और स्तब्ध कर दिया। उन्होंने कहा कि टेक कंपनियों को ऐसी घटनाओं के लिए जिम्मेदार ठहराया जाना चाहिए। रेड्डी ने आगे कहा कि जब एक व्यक्ति दूसरे व्यक्ति को धमकाता है तो उतनी ही गंभीरता इस मामले में भी होनी चाहिए और ऐसी घटनाएं दोबारा नहीं होनी चाहिए।

इस घटना पर प्रतिक्रिया देते हुए गूगल ने कहा कि बड़ी भाषा मॉडल कभी-कभी भेदभावपूर्ण प्रतिक्रिया दे सकते हैं और अभी जो हुआ वह उसका एक उदाहरण है। कंपनी ने स्पष्ट किया कि वर्तमान प्रतिक्रिया उनकी नीतियों के विरुद्ध है, इसलिए ऐसी घटनाओं को रोकने के लिए कदम उठाए जाएंगे।