नई दिल्ली: एआई ग्रोक (Grok AI) के जरिए महिलाओं की आपत्तिजनक तस्वीर बनाने के मामले में सोशल मीडिया प्लेटफॉर्म 'एक्स' ने अपना जवाब भारत सरकार को सौंप दिया है. भारत सरकार एक्स के जवाब से संतुष्ट नहीं है. सरकार ने कहा है कि कंपनी का जवाब संतोषजनक नहीं है.
सूचना एवं प्रौद्योगिकी मंत्रालय ने कंपनी से मामले में उठाए गए कदमों और कार्रवाई का विस्तृत विवरण मांगा है. सूत्रों के अनुसार, कंपनी ने जो रिपोर्ट भेजी है, वह पूरी तरह से संतोषजनक नहीं मानी जा रही और मंत्रालय इसके जवाब का विश्लेषण कर रहा है. रिपोर्ट में कंपनी के द्वारा दिए गए तथ्यों का खुलासा अभी तक सार्वजनिक नहीं किया गया है.
केंद्र सरकार ने पहले ही एक्स को चेतावनी दी थी कि अगर इस तरह के मामले दोबारा सामने आए तो कंपनी को कड़ी कानूनी कार्रवाई का सामना करना पड़ेगा. दो जनवरी को सरकार ने एक्स को निर्देश दिए थे कि वे तुरंत सभी आपत्तिजनक तस्वीरें हटाए. इसके बाद कंपनी ने कहा था कि वह मामले की जांच में सरकार का पूरा सहयोग करेगी.
सूत्रों के मुताबिक, कंपनी ने मंत्रालय में एक्शन टेकन रिपोर्ट (Action Taken Report) दाखिल कर दी है. मंत्रालय अब इसकी जांच कर रहा है. सरकार ने चेतावनी दी थी कि अगर AI टूल्स के गलत इस्तेमाल को रोकने के लिए कदम नहीं उठाए गए, तो एक्स को भारतीय कानूनों के तहत मिलने वाली कानूनी सुरक्षा भी खत्म की जा सकती है.
शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने AI चैटबोट Grok के गलत इस्तेमाल पर चिंता जताई थी. उन्होंने आईटी मंत्री को पत्र लिखा था. इसमें उन्होंने बताया कि कुछ लोग AI की मदद से महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं. कई बार महिलाओं को खुद भी नहीं पता होता कि उनकी तस्वीरों का इस तरह गलत इस्तेमाल हो रहा है.
सोशल मीडिया पर प्रक्रिया
कई यूजर्स सोशल मीडिया प्लेटफॉर्म 'एक्स' पर फर्जी अकाउंट बनाते हैं. इन अकाउंट्स के जरिए वे महिलाओं की तस्वीरें पोस्ट करते हैं और फिर Grok AI को निर्देश देते हैं कि तस्वीर को आपत्तिजनक रूप में बदल दिया जाए. AI से कपड़े बदलने या अन्य अश्लील रूप देने जैसी प्रॉम्प्ट्स दी जाती हैं.
सूचना एवं प्रौद्योगिकी मंत्रालय ने स्पष्ट किया है कि एक्स ने सूचना प्रौद्योगिकी अधिनियम, 2000 और आईटी नियम 2021 के तहत अपनी कानूनी जिम्मेदारियों का पालन नहीं किया. अगर नियमों का पालन नहीं किया गया, तो एक्स उसके अधिकारी और ऐसे कंटेंट फैलाने वाले यूजर्स के खिलाफ आईटी एक्ट, आईटी नियम और अन्य लागू कानूनों के तहत सख्त कार्रवाई की जा सकती है. यह मामला AI टूल्स के दुरुपयोग और महिलाओं की सुरक्षा के मुद्दे को लेकर गंभीर चिंता पैदा कर रहा है. सरकार ने इसे रोकने के लिए कड़े कदम उठाने का संकेत दिया है.
