इंडोनेशिया और मलेशिया में बैन हुआ Grok, डीपफेक इमेज को लेकर फैसला
एआई चैटबॉट ग्रोक को इंडोनेशिया और मलेशिया में अस्थायी रूप से बैन कर दिया गया है. ग्रोक का इस्तेमाल लोग गलत तरह से करने लगे थे, जिस वजह से इसे बैन किया गया है.
नई दिल्ली: xAI के आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक को इंडोनेशिया और मलेशिया में अस्थायी रूप से बैन कर दिया गया है. इस टूल को कई देशों से कड़ी आलोचना मिली है, जिसके बाद यह कार्रवाई की गई. यह परेशानी तब शुरू हुई, जब ग्रोक उन फोटोज को एडिट करते हुए पाया गया, जिन्हें यूजर्स पब्लिकली पोस्ट करते हैं. हालांकि, यह फीचर क्रिएटिव और मजेदार चीजों के लिए था, लेकिन कुछ लोगों ने इसका गलत इस्तेमाल करना शुरू कर दिया.
कई यूजर्स ने ग्रोक का इस्तेमाल दूसरे लोगों की अनुमति के बिना उनकी फोटोज का गलत इस्तेमाल करने के लिए शुरू किया. कुछ लोग अपनी फोटोज एक्स पर पोस्ट करते थे और लोगों ने उन फोटोज को गलत तरह से बनाने के लिए इस्तेमाल किया. इस दुरुपयोग के कारण, यूरोपीय संघ, भारत, इंडोनेशिया और मलेशिया जैसे अलग-अलग देशों की सरकारों और रेगुलेटर्स ने X और xAI से इस AI टूल के सिक्योरिटी कंट्रोल्स के बारे में सवाल करना शुरू कर दिया.
समस्या के बाद कंपनियों ने उठाए कदम:
जब समस्या बढ़ने लगी तो कंपनियों ने बाद में इस इमेज-एडिटिंग फीचर को सीमित कर दिया जिससे केवल वेरिफाइड यूजर्स ही इसका इस्तेमाल कर सकें. हालांकि, अधिकारियों को लगा कि यह कदम काफी नहीं है. इस समस्या का मुख्य उद्देश्य AI को असली और हानिकारक फेक फोटोज बनाने की अनुमति देना है. यह समस्या अभी भी ठीक से हल नहीं हो पाई है. ऐसे में यूजर सिक्योरिटी को लेकर अभी भी चिंताएं बनी हुई हैं.
मलेशिया में ब्लॉक किया एक्स:
मलेशिया में, मलेशियाई संचार और मल्टीमीडिया आयोग (MCMC) ने घोषणा करते हुए बताया कि वहां पर ग्रोक को अस्थायी रूप से ब्लॉक कर दिया जाएगा. एक्स पर एक पोस्ट में रेगुलेटर ने कहा कि यह फैसला इसलिए लिया गया क्योंकि X और xAI बार-बार चेतावनी के बाद भी मजबूत सुरक्षा उपाय लागू करने में विफल रहे. बयान में बताया गया कि ग्रोक का कई बार पोर्नोग्राफिक, अत्यधिक आपत्तिजनक कंटेंट बनाने के लिए दुरुपयोग किया गया था, जिसमें सहमति के बिना बनाई गई फेक फोटोज भी शामिल थीं.
इंडोनेशिया में ब्लॉक किया एक्स:
इंडोनेशिया ने भी इसी तरह की कार्रवाई की. देश की संचार और डिजिटल मामलों की मंत्री, मेउट्या हाफिद ने घोषणा की कि ग्रोक तक पहुंच को अस्थायी रूप से निलंबित कर दिया गया है. सरकार ने कहा कि यह कदम महिलाओं, बच्चों और आम जनता को AI तकनीक का इस्तेमाल करके बनाए गए नकली पोर्नोग्राफिक कंटेंट के खतरों से बचाने के लिए उठाया गया है. इंडोनेशियाई मंत्री ने बिना सहमति के सेक्शुअल डीपफेक इमेज बनाने की कड़ी आलोचना की, इसे मानवाधिकारों, व्यक्तिगत गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन बताया.