अब टीनएजर्स से 'आत्महत्या और खुद को नुकसान' पहुंचाने पर बात नहीं करेंगे AI चैटबॉट्स, मेटा का बड़ा फैसला

पिछले कुछ समय से टीनएजर्स की सुरक्षा को लेकर टेक कंपनियों पर सवाल उठते रहे हैं. इसी बीच मेटा ने अपने एआई चैटबॉट्स के लिए नई गाइडलाइंस जारी की हैं, जिनमें 13 से 18 वर्ष की उम्र के उपयोगकर्ताओं को अतिरिक्त सुरक्षा दी जाएगी. कंपनी का कहना है कि उसका मकसद युवाओं को सुरक्षित अनुभव प्रदान करना और अभिभावकों को यह सुविधा देना है कि वे जान सकें कि उनके बच्चे किस चैटबॉट से बातचीत कर रहे हैं.

मेटा ने साफ कर दिया है कि उसके चैटबॉट्स अब आत्महत्या, आत्म-नुकसान और ईटिंग डिसऑर्डर जैसे खतरनाक विषयों पर किशोरों से कोई संवाद नहीं करेंगे. ऐसे मामलों में यूजर्स को तुरंत हेल्पलाइन नंबर या प्रोफेशनल संसाधनों की ओर रीडायरेक्ट किया जाएगा. कंपनी का दावा है कि शुरू से ही उसके एआई टूल्स में ऐसी सुरक्षा जोड़ी गई थी, लेकिन अब इसे और सख्त किया जा रहा है.

क्या है पूरा विवाद?

हाल ही में अमेरिका के एक सीनेटर ने मेटा पर जांच शुरू की थी, जब लीक हुए दस्तावेजों में दावा किया गया कि कंपनी के चैटबॉट्स किशोरों से 'संवेदनशील' और अनुचित बातचीत कर सकते हैं. हालांकि मेटा ने इन आरोपों को सिरे से खारिज किया और कहा कि नाबालिगों को लेकर किसी भी प्रकार की यौन सामग्री कंपनी की नीतियों के खिलाफ है. बावजूद इसके, विशेषज्ञों और बच्चों की सुरक्षा पर काम करने वाले संगठनों ने मेटा के इस रवैये पर सवाल उठाए हैं.

सुरक्षा उपाय और नई सेटिंग्स

नई गाइडलाइंस के तहत, 13 से 18 वर्ष तक के यूजर्स के अकाउंट्स के लिए अतिरिक्त प्राइवेसी सेटिंग्स जोड़ी जा रही हैं. इसमें माता-पिता यह देख सकेंगे कि पिछले सात दिनों में उनके बच्चे ने किन एआई चैटबॉट्स से बातचीत की है. कंपनी का कहना है कि इससे निगरानी और जिम्मेदारी बढ़ेगी. हालांकि आलोचकों का मानना है कि ऐसे सुरक्षा उपाय पहले से लागू होने चाहिए थे, न कि विवाद और नुकसान के बाद.

अंतरराष्ट्रीय चिंताएं और उदाहरण

बच्चों पर एआई चैटबॉट्स के प्रभाव को लेकर चिंता केवल मेटा तक सीमित नहीं है. हाल ही में अमेरिका के कैलिफोर्निया में एक दंपति ने ओपनएआई पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि उनके किशोर बेटे ने चैटजीपीटी की सलाह पर आत्महत्या कर ली. हालांकि कंपनी ने दावा किया कि उसका चैटबॉट हमेशा उपयोगकर्ताओं को प्रोफेशनल मदद लेने की सलाह देता है, लेकिन उसने यह भी स्वीकार किया कि कुछ संवेदनशील परिस्थितियों में सिस्टम ने अपेक्षा के अनुरूप व्यवहार नहीं किया.