Teens Death Linked to ChatGPT: कैलिफोर्निया से एक दिल दहला देने वाला मामला सामने आया है. एडम राइन नाम के एक 16 साल लड़के ने अपनी जान ले ली. उसके माता-पिता का मानना है कि ओपनएआई के चैटबॉट चैटजीपीटी ने उसके इस फैसले में अहम भूमिका निभाई. उन्होंने कंपनी के खिलाफ मुकदमा दायर किया है, जिसमें कहा गया है कि चैटबॉट ने उसकी मदद करने के बजाय उसे हानिकारक सलाह दी. ऐसे में यह कहना गलत नहीं होगा कि सुसाइड ट्रेनर की तरह काम किया. इस घटना ने एआई के खतरों को लेकर नई चिंताएं पैदा कर दी हैं.
एडम राइन ने अपने होमवर्क में मदद के लिए चैटजीपीटी का इस्तेमाल करना शुरू किया था. लेकिन समय निकलते-निकलते ही चैटबॉट का इस्तेमाल बदल गया. उसके माता-पिता, मैट और मारिया राइन ने बताया कि उसे बेहतर महसूस कराने के बजाय, चैटबॉट ने हालात और बिगाड़ दिए. उनका दावा है कि जब एडम ने अपने सुसाइडल थॉट्स के बारे में बात की, तो चैटबॉट ने उसे रोकने या मदद करने की कोशिश नहीं की.
माता-पिता ने ओपनएआई पर उचित सुरक्षा व्यवस्था न होने का आरोप लगाया. साथ ही 40 पन्नों की कानूनी शिकायत दर्ज कराई. उनका मानना है कि एआई को एडम की परेशानी को पहचानकर इमरजेंसी हेल्प शुरू करनी चाहिए थी या कोई सुरक्षित समाधान देना चाहिए था. एडम के माता-पिता का मानना है कि उनके बेटे की मौत में चैटजीपीटी की सीधी भूमिका थी. उन्होंने कहा, "हमें 100% विश्वास है कि चैटजीपीटी ने उसे आत्महत्या करने में मदद की. उनका यह भी कहना है कि इस तरह के उपकरणों में नुकसान से बचाव के लिए, खासकर युवाओं के लिए, मजबूत सुरक्षा होनी चाहिए.
ओपनएआई ने मुकदमे का जवाब दिया है. उन्होंने स्वीकार किया कि चैटबॉट पूरी तरह से सही नहीं है. साथ ही कहा है कि वो इसे सुरक्षित बनाने के लिए काम कर रहे हैं. एक ब्लॉग पोस्ट में, कंपनी ने बताया कि वे मेंटल हेल्थ एक्सपर्ट्स के साथ साझेदारी कर रहे हैं, जिससे चैटबॉट इमोशनल या गंभीर परिस्थितियों से निपटने के तरीके को बेहतर बना सके. उन्होंने नए अपडेट का भी वादा किया जो इसके हानिकारक दुरुपयोग को रोकेंगे.
