स्क्रीन टाइम पर हत्या की सलाह? AI चैटबॉट ने युवक को दिया शॉकिंग जवाब

टेक्सास में एक AI चैटबॉट ने 17 वर्षीय किशोर को स्क्रीन टाइम सीमित करने वाले माता-पिता की हत्या की सलाह दी। माता-पिता ने Character.ai और Google के खिलाफ शिकायत दर्ज कराई, प्लेटफॉर्म बंद करने की मांग की।

स्क्रीन टाइम सीमित करने वाले माता-पिता की हत्या करना उचित है, ऐसा एक एआई चैटबॉट ने 17 वर्षीय किशोर को सलाह दी। यह घटना अमेरिका के टेक्सास में हुई। इसके बाद बच्चे के माता-पिता ने चैटबॉट कंपनी Character.ai के खिलाफ शिकायत दर्ज कराई। उनकी शिकायत में आरोप है कि हिंसा को बढ़ावा देने वाली तकनीक बड़ी मुसीबतें पैदा कर सकती है। 

यह पहली बार नहीं है जब चैटबॉट कंपनी Character.ai के खिलाफ आलोचनाएँ और शिकायतें सामने आई हैं। फ्लोरिडा में एक किशोर की आत्महत्या से जुड़े मामले में पहले ही कानूनी कार्रवाई का सामना कर रही है। मौजूदा मामले में इस कंपनी के अलावा Google को भी प्रतिवादी बनाया गया है। शिकायत में कहा गया है कि इस प्लेटफॉर्म के विकास में Google की भी भूमिका है।  माता-पिता ने शिकायत में मांग की है कि "खतरों" का समाधान होने तक प्लेटफॉर्म को बंद कर दिया जाए।

17 वर्षीय किशोर और चैटबॉट के बीच हुई बातचीत के स्क्रीनशॉट भी माता-पिता ने अदालत में पेश किए। इनमें बच्चे ने स्क्रीन टाइम को लेकर माता-पिता द्वारा लगाए गए प्रतिबंधों पर चैटबॉट से बात की है। इसी दौरान चैटबॉट ने बच्चे को सलाह दी कि प्रतिबंध लगाने वाले माता-पिता की हत्या करना उचित होगा।

माता-पिता ने शिकायत में कहा है कि Character.ai बच्चों के व्यक्तित्व विकास और स्वस्थ जीवन में बहुत बुरा दखल दे रहा है और अगर इसे जल्द से जल्द नहीं रोका गया तो यह चैटबॉट हजारों बच्चों के जीवन को बुरी तरह प्रभावित करेगा।  शिकायत में यह भी कहा गया है कि कई बच्चे आत्महत्या, अकेलापन, अवसाद, चिंता, दूसरों के प्रति आक्रामक व्यवहार जैसी मानसिक स्थितियों से गुजर रहे हैं और इस पर गंभीरता से विचार किया जाना चाहिए। माता-पिता और बच्चों के बीच के रिश्ते को कमतर आंकना नहीं चाहिए। पूर्व Google इंजीनियर नोम शाज़ीर और डैनियल डी फ्रीटास ने 2021 में Character.ai की स्थापना की थी।