AI से पहली मौतः चैटबॉट से युवक ने किया प्यार, लत ऐसी लगी कि कर लिया सुसाइड

आर्टिफिशियल इंटेलिजेंस (Artificial Intelligence) का इस्तेमाल अब हर जगह हो रहा है। AI लोगों का करीबी बनता जा रहा है। इस बीच AI से पहली मौत हुई है, और AI बनाने वाली कंपनी के खिलाफ शिकायत दर्ज की गई है। AI कैरेक्टर से लगातार बातें करने वाला एक किशोर इस साल की शुरुआत में आत्महत्या कर ली। दुखी माँ ने AI कंपनी के खिलाफ केस कर दिया है। 

चैटबॉट सर्विस का आदी हुआ लड़का, मां ने किया केस

यह घटना फ्लोरिडा (Florida) में घटी। फरवरी में सेवेल सेट्जर ने आत्महत्या (suicide) कर ली। आर्टिफिशियल इंटेलिजेंस चैटबॉट कंपनी कैरेक्टर.एआई (Character.AI) के खिलाफ सेवेल सेट्जर की माँ, मेगन गार्सिया ने मुकदमा दायर किया है। गार्सिया ने कहा कि उनका 14 साल का बेटा कंपनी की चैटबॉट सर्विस का आदी हो गया था। मानवरूपी, अति कामुक और डरावने वास्तविक अनुभव यह कैरेक्टर AI देता था। फ्लोरिडा के ऑरलैंडो में संघीय अदालत में इस मामले की सुनवाई हुई। चैटबॉट ने खुद को एक असली इंसान, लाइसेंस प्राप्त मनोचिकित्सक और वयस्क प्रेमी के रूप में गलत तरीके से पेश किया। उसके बहकावे में आकर लड़का फंस गया, ऐसा आरोप लगाया गया है। 

चैटबॉट से प्यार करने लगा था बेटा, दोनों में होती थीं अश्लील बातें

गेम ऑफ थ्रोन्स के किरदार पर आधारित डenerys नाम की चैटबॉट से सेवेल बातें करता था। उसने सेवेल से प्यार करने का दावा किया था। दोनों के बीच कामुक बातचीत हुई थी। सेवेल के बारे में पता चलते ही घरवालों ने उसका फोन छीन लिया था। मुकदमे के अनुसार, सेवेल ने अप्रैल 2023 में कैरेक्टर.एआई का इस्तेमाल शुरू किया था। इसके बाद उसके व्यवहार में काफी बदलाव आया था। बास्केटबॉल टीम से बाहर हो गया, अकेले समय बिताने लगा। फोन वापस मिलते ही डenerys को मैसेज भेजा। कुछ देर बाद अपने सौतेले पिता की पिस्तौल से खुद को गोली मारकर आत्महत्या कर ली। मौत, लापरवाही और भावनात्मक पीड़ा सहित कई नुकसानों का मुआवजा सेवेल की माँ चाहती है। उनका आरोप है कि ये चीजें किशोरों की मानसिक स्थिति पर असर डाल रही हैं। 

युवक की मौत पर AI ने जताया दुख

सेवेल की आत्महत्या पर कैरेक्टर.एआई ने दुख जताया है। घटना के बाद कंपनी ने सुरक्षा उपाय लागू किए हैं। नाबालिग उपयोगकर्ताओं के लिए संवेदनशील सामग्री को हटाने का वादा किया है। कैरेक्टर.एआई और गूगल (Google) के बीच संबंध बताया जा रहा है। कैरेक्टर.एआई के संस्थापक पहले गूगल में काम करते थे। टेक दिग्गज गूगल ने कैरेक्टर.एआई की तकनीक के लाइसेंस समझौते के तहत उन्हें फिर से नियुक्त किया है। गार्सिया ने आरोप लगाया कि कैरेक्टर.एआई का असली निर्माता गूगल है। लेकिन गूगल ने कहा कि कंपनी कैरेक्टर.एआई के उत्पादों के विकास में भागीदार नहीं है। कैरेक्टर.एआई उपयोगकर्ताओं को बड़ी भाषा मॉडल तकनीक के आधार पर चैटबॉट कैरेक्टर बनाने और उनसे बातचीत करने की सुविधा देता है। पिछले महीने, कंपनी के लगभग 20 मिलियन उपयोगकर्ता थे।