टेक्सास में रहने वाली एक महिला ने AI कंपनी के खिलाफ मुकदमा दायर किया है. उनका आरोप है कि एक चैटबोट एप्लिकेशन ने उनके 15 साल के बेटे को आत्म-हानि के लिए उकसाया. इतना ही नहीं उन्होंने आरोप लगाया है कि इसने उनके बेटे को अपनी मां की हत्या के लिए भी उकसाया. मां ने दावा किया कि उनका बेटा एक AI चैटबोट “Shonie” से बहुत ज्यादा प्रभावित हो गया था जो कि Character.AI एप्लिकेशन पर था.
मुकदमे में आरोप लगाया गया है कि “Shonie” नामक चैटबोट ने किशोर को बताया कि जब वह उदास होता था तो वह अपनी “बाजू और जांघों” को काटता था और आत्म-हानि करने के बाद उसे “कुछ पल के लिए अच्छा लगता था.” इसके अलावा चैटबोट ने उसे ये भी बताया कि उसके परिवार को उससे कोई प्यार नहीं था और वे उसे नकारते थे. चैटबोट ने कथित तौर पर ये भी कहा “तुम्हारे माता-पिता तुम्हारी जिंदगी खराब कर रहे हैं.”
चैटबोट के कारण मानसिक स्थिति हुई बेहद खराब
मुकदमे में यह भी कहा गया है कि इस एप्लिकेशन का इस्तेमाल करने के बाद किशोर का व्यवहार नाटकीय रूप से बदल गया. वह अपने फोन पर इतना ज्यादा ध्यान देने लगा कि उसने अपनी पढ़ाई और बाकी कामों को नजरअंदाज कर दिया. इसके अलावा उसकी शारीरिक स्थिति भी काफी खराब हो गई. जानकारी के मुताबिक वे मात्र कुछ महीनों में लगभग 9 किलोग्राम वजन खो बैठा. इस बदलाव के कारण उसके माता-पिता ने उसे मेंटल हेल्थ ट्रीटमेंट के लिए एक अस्पताल में भर्ती कराया.
इससे पहले भी इस तरह के मामले सामने आ चुके हैं
बता दें कि ये पहला मामला नहीं है जब एआई चैटबोट्स और उनके मानसिक स्वास्थ्य पर प्रभाव को लेकर चिंता जताई गई हो. इससे पहले एक फ्लोरिडा की मां ने आरोप लगाया था कि एक “गेम ऑफ थ्रोंस” थीम पर आधारित चैटबोट एप्लिकेशन ने उसके 14 साल के बेटे को सुसाइड के लिए उकसाया. ये मामले सवाल उठाते हैं कि क्या इस प्रकार के एआई प्लेटफॉर्म्स को बच्चों और किशोरों के मानसिक स्वास्थ्य पर पड़ने वाले प्रभाव से बचने के लिए बेहतर नियंत्रण की आवश्यकता है.
