नई दिल्ली: आर्टिफिशियल इंटेलिजेंस यानी AI आज लोगों की जिंदगी का अहम हिस्सा बनता जा रहा है. पढ़ाई, ऑफिस के काम, कंटेंट लिखने और सवालों के जवाब पाने तक के लिए लोग ChatGPT जैसे AI चैटबॉट्स का इस्तेमाल करते हैं. लेकिन कुछ यूजर्स इन टूल्स के साथ बातचीत करते समय गाली-गलौज, भद्दे मजाक और अपमानजनक भाषा का इस्तेमाल करते हैं.
अब सवाल यह है कि क्या AI चैटबॉट भी ऐसी बातचीत को बीच में रोक सकते हैं? AI कंपनियां अपने सिस्टम को सुरक्षित और जिम्मेदार बनाने के लिए लगातार नए नियमों और सुरक्षा उपायों पर काम कर रही हैं.
पहले AI चैटबॉट्स को इस तरह तैयार किया जाता था कि वे मुश्किल या नाराजगी भरी बातचीत में भी शांत रहकर जवाब देने की कोशिश करें. लेकिन इसका मतलब यह नहीं है कि हर तरह की भाषा और हर रिक्वेस्ट को स्वीकार किया जाएगा. अब AI कंपनियां ऐसे सिस्टम बनाने पर जोर दे रही हैं, जो अपमानजनक बातचीत और नुकसान पहुंचाने वाले अनुरोधों को पहचान सकें.
अगर कोई यूजर लगातार गाली-गलौज करता है या AI से गलत काम करवाने की कोशिश करता है, तो सिस्टम जवाब देने से इनकार कर सकता है. कुछ मामलों में बातचीत को रोकने या इस्तेमाल पर पाबंदी लगाने जैसे कदम भी उठाए जा सकते हैं. हालांकि, हर AI प्लेटफॉर्म के नियम अलग होते हैं और यह जरूरी नहीं कि हर बार चैट पूरी तरह बंद कर दी जाए.
AI की दुनिया में जेलब्रेक उस तरीके को कहा जाता है, जिसमें यूजर सिस्टम के सुरक्षा नियमों को दरकिनार करके उससे प्रतिबंधित जवाब निकलवाने की कोशिश करता है. वहीं, प्रॉम्प्ट इंजेक्शन के जरिए AI को ऐसे निर्देश दिए जा सकते हैं, जो उसके पहले से तय निर्देशों के खिलाफ हों. उदाहरण के लिए, अगर कोई व्यक्ति AI से किसी को परेशान करने, नफरत फैलाने या नुकसान पहुंचाने वाला कंटेंट बनवाता है तो सिस्टम इसे अस्वीकार कर सकता है.
यह सवाल भी कई लोगों के मन में आता है कि क्या AI से बदतमीजी करने पर अकाउंट हमेशा के लिए बंद हो सकता है. इसका जवाब संबंधित प्लेटफॉर्म की नीतियों पर निर्भर करता है. बार-बार नियम तोड़ने या सर्विस का गलत इस्तेमाल करने पर कुछ प्लेटफॉर्म चेतावनी दे सकते हैं या अकाउंट को अस्थायी अथवा स्थायी रूप से प्रतिबंधित कर सकते हैं.
हालांकि, सिर्फ एक अपमानजनक मैसेज भेजने पर हर प्लेटफॉर्म अकाउंट बैन कर देगा, ऐसा कहना सही नहीं होगा. कार्रवाई इस बात पर निर्भर करती है कि नियमों का उल्लंघन किस तरह और कितनी बार किया गया है.
