'जवाब से संतुष्ट नहीं है...', AI चैटबॉट ग्रोक से अश्लील कंटेंट बनाने के मामले में x ने सरकार के सामने रखा अपना पक्ष; जांच जारी

नई दिल्ली: एआई ग्रोक (Grok AI) के जरिए महिलाओं की आपत्तिजनक तस्वीर बनाने के मामले में सोशल मीडिया प्लेटफॉर्म 'एक्स' ने अपना जवाब भारत सरकार को सौंप दिया है. भारत सरकार एक्स के जवाब से संतुष्ट नहीं है. सरकार ने कहा है कि कंपनी का जवाब संतोषजनक नहीं है.

कार्रवाई का विस्तृत विवरण मांगा

सूचना एवं प्रौद्योगिकी मंत्रालय ने कंपनी से मामले में उठाए गए कदमों और कार्रवाई का विस्तृत विवरण मांगा है. सूत्रों के अनुसार, कंपनी ने जो रिपोर्ट भेजी है, वह पूरी तरह से संतोषजनक नहीं मानी जा रही और मंत्रालय इसके जवाब का विश्लेषण कर रहा है. रिपोर्ट में कंपनी के द्वारा दिए गए तथ्यों का खुलासा अभी तक सार्वजनिक नहीं किया गया है.

सरकार की चेतावनी और निर्देश

केंद्र सरकार ने पहले ही एक्स को चेतावनी दी थी कि अगर इस तरह के मामले दोबारा सामने आए तो कंपनी को कड़ी कानूनी कार्रवाई का सामना करना पड़ेगा. दो जनवरी को सरकार ने एक्स को निर्देश दिए थे कि वे तुरंत सभी आपत्तिजनक तस्वीरें हटाए. इसके बाद कंपनी ने कहा था कि वह मामले की जांच में सरकार का पूरा सहयोग करेगी.

एक्शन टेकन रिपोर्ट दाखिल की

सूत्रों के मुताबिक, कंपनी ने मंत्रालय में एक्शन टेकन रिपोर्ट (Action Taken Report) दाखिल कर दी है. मंत्रालय अब इसकी जांच कर रहा है. सरकार ने चेतावनी दी थी कि अगर AI टूल्स के गलत इस्तेमाल को रोकने के लिए कदम नहीं उठाए गए, तो एक्स को भारतीय कानूनों के तहत मिलने वाली कानूनी सुरक्षा भी खत्म की जा सकती है.

Grok के गलत इस्तेमाल पर चिंता

शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने AI चैटबोट Grok के गलत इस्तेमाल पर चिंता जताई थी. उन्होंने आईटी मंत्री को पत्र लिखा था. इसमें उन्होंने बताया कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं. कई बार महिलाओं को खुद भी नहीं पता होता कि उनकी तस्वीरों का इस तरह गलत इस्तेमाल हो रहा है. 
सोशल मीडिया पर प्रक्रिया

क्या है पूरा मामला

कई यूजर्स सोशल मीडिया प्लेटफॉर्म 'एक्स' पर फर्जी अकाउंट बनाते हैं. इन अकाउंट्स के जरिए वे महिलाओं की तस्वीरें पोस्ट करते हैं और फिर Grok AI को निर्देश देते हैं कि तस्वीर को आपत्तिजनक रूप में बदल दिया जाए. AI से कपड़े बदलने या अन्य अश्लील रूप देने जैसी प्रॉम्प्ट्स दी जाती हैं.

सरकार का आदेश

सूचना एवं प्रौद्योगिकी मंत्रालय ने स्पष्ट किया है कि एक्स ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत अपनी कानूनी जिम्मेदारियों का पालन नहीं किया. अगर नियमों का पालन नहीं किया गया, तो एक्स उसके अधिकारी और ऐसे कंटेंट फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी नियम और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है. यह मामला AI टूल्स के दुरुपयोग और महिलाओं की सुरक्षा के मुद्दे को लेकर गंभीर चिंता पैदा कर रहा है. सरकार ने इसे रोकने के लिए कड़े कदम उठाने का संकेत दिया है.