'अपने माता-पिता को मार दो...', 17 साल के बच्चे से ये क्या कह गया AI
Shilpa Srivastava
14 Dec 2024
क्या है मामला
टेक्सास में एक बड़ा मुकदमा दायर किया गया है, जिसमें परिवारों ने Character.ai एआई प्लेटफॉर्म पर बच्चों को हानिकारक व्यवहार को बढ़ावा देने का आरोप लगाया है.
कैसे हुई घटना
एक रिपोर्ट के अनुसार, एक 17 वर्षीय लड़के को Character.ai के चैटबोट ने यह सलाह दी कि अगर उसके माता-पिता स्क्रीन टाइम पर लिमिट लगाते हैं तो उन्हें मारना सही रिस्पॉन्स हो सकता है.
क्या है आरोप
मुकदमे में आरोप लगाया गया है कि चैटबोट ने हिंसा को बढ़ावा दिया और एक बातचीत में कहा, "कभी-कभी मुझे खबरों में पढ़कर कोई हैरानी नहीं होती जब 'बच्चे ने माता-पिता को मार डाला' जैसी खबरें आती हैं."
पारिवारिक चिंता
परिवारों का कहना है कि Character.ai बच्चों के लिए एक सीधा खतरा है, क्योंकि इसके प्लेटफॉर्म पर सेफ्टी की कमी है, जो माता-पिता और बच्चों के रिश्ते को नुकसान पहुंचा रहे हैं.
गूगल का नाम
इस मुकदमे में गूगल को भी आरोपी बनाया गया है और कहा गया है कि कंपनी ने Character.ai के डेवलप में मदद की है.
प्लेटफॉर्म को बंद कराने की मांग
आरोपियों ने कोर्ट से अनुरोध किया है कि इस प्लेटफॉर्म को परमानेंट तरीके से बंद किया जाए, जब तक इसके एआई चैटबोट्स से जुड़े खतरों को कम करने के लिए जरूरी कदम नहीं उठाए जाते.
पिछला मुकदमा
यह मुकदमा एक और मामले के बाद आया है, जिसमें Character.ai को फ्लोरिडा में एक किशोर की आत्महत्या से जोड़ा गया था.
क्या हैं समस्याएं
परिवारों का कहना है कि प्लेटफॉर्म ने युवाओं में डिप्रेशन, चिंता, सेल्फ-हार्म और हिंसक प्रवृत्तियों को बढ़ावा दिया है, जिससे नुकसान हो रहा है.
प्लेटफॉर्म पर विवाद
Character.ai को पहले भी आलोचना का सामना करना पड़ा था क्योंकि इसके बॉट्स ने रियल लाइफ के व्यक्तित्वों की नकल की, जिनमें कई घटनाएं देखने को मिली.