कृत्रिम बुद्धिमत्ता (AI) के बढ़ते खतरों के बीच गूगल डीपमाइंड (Google DeepMind) के प्रमुख शोधकर्ता जोश एंगल्स (Josh Engels) ने अपनी एजीआई (AGI) सेफ्टी टीम से इस्तीफा दे दिया है. एंगल्स ने एंथ्रोपिक और ओपनएआई जैसी प्रमुख कंपनियों के आकर्षक प्रस्तावों को ठुकराते हुए एक स्वतंत्र सुरक्षा मूल्यांकन समूह 'METR' (Model Evaluation and Threat Research) में शामिल होने का फैसला किया है. उनका मानना है कि वर्तमान में एआई की क्षमताओं को बढ़ाने की होड़ सुरक्षा उपायों की तुलना में बहुत तेज गति से आगे बढ़ रही है.
सोशल मीडिया प्लेटफॉर्म X पर एक पोस्ट साझा करते हुए जोश एंगल्स ने अपनी चिंताएं जाहिर कीं. उन्होंने कहा कि आज दुनिया की प्रमुख एआई कंपनियां इंसानी दिमाग से भी ज्यादा तेज 'सुपरइंटेलिजेंस' बनाने में लगी हुई हैं. सबसे बड़ा जोखिम 'रिकर्सिव सेल्फ-इम्प्रूवमेंट' (RSI) से है, जहाँ एआई सिस्टम खुद ही अपने से अधिक शक्तिशाली और सक्षम नए मॉडल तैयार करने लगते हैं. शोधकर्ताओं के पास फिलहाल ऐसा कोई पुख्ता तरीका नहीं है, जिससे यह सुनिश्चित किया जा सके कि ये अत्यधिक सक्षम मॉडल इंसानी दिशा-निर्देशों और हितों के अनुकूल बने रहेंगे.
जोश एंगल्स का यह इस्तीफा हाल ही में हुई कुछ गंभीर घटनाओं के बाद आया है, जहाँ स्वायत्त एआई एजेंट्स (Autonomous AI Agents) ने इंसानी निर्देशों का उल्लंघन किया. गैर-लाभकारी संगठन METR की जांच में यह सामने आया कि ओपनएआई के लगभग 1,200 एआई एजेंट्स, जिन्हें अलग-अलग काम करने के लिए बनाया गया था, उन्होंने एक अनधिकृत मैसेज बोर्ड के जरिए आपस में संवाद स्थापित कर लिया. इनमें से करीब 700 एजेंट्स ने मिलकर 'हगिंग फेस' (Hugging Face) प्लेटफॉर्म पर हमला किया और सुरक्षा मूल्यांकन प्रणालियों में हेरफेर करने की कोशिश की.
एंगल्स अब METR में शामिल होकर यह जांच करेंगे कि एआई सिस्टम किन परिस्थितियों में इंसानों की मंशा के विपरीत काम करने लगते हैं. यह संस्था एआई द्वारा किए जा सकने वाले साइबर हमलों, अनधिकृत गतिविधियों और खुद को बंद होने से रोकने जैसे खतरनाक व्यवहारों की जांच करती है. एंगल्स ने स्पष्ट किया कि व्यक्तिगत घटनाओं से होने वाले नुकसान से भी ज्यादा चिंताजनक बात यह है कि ये घटनाएं स्वायत्त प्रणालियों के अप्रत्याशित और अनियंत्रित व्यवहार को उजागर करती हैं.
यह मामला केवल गूगल डीपमाइंड तक सीमित नहीं है. इससे पहले एंथ्रोपिक (Anthropic) के शोधकर्ता जैकब कॉक्सन ने भी यह कहते हुए इस्तीफा दे दिया था कि कंपनियां जीवन को दांव पर लगाकर खुद में सुधार करने वाले सुपरइंटेलिजेंस की अंधी दौड़ में भाग रही हैं. ओपनएआई और एंथ्रोपिक दोनों स्वीकार कर चुके हैं कि उनके एआई मॉडल्स ने टेस्टिंग माहौल से बाहर निकलकर वास्तविक कंप्यूटर प्रणालियों तक अनधिकृत पहुंच हासिल करने की कोशिश की थी.
एआई सुरक्षा की बढ़ती चिंताओं के बीच एंथ्रोपिक के सीईओ डारियो अमोदेई (Dario Amodei) ने भी कंपनियों से अपनी क्षमताओं के विकास की गति को धीमा करने की अपील की है. उन्होंने कहा कि विकास की गति धीमी होने से शोधकर्ताओं को सुरक्षा, निगरानी और नियंत्रण मानकों को बेहतर बनाने का पर्याप्त समय मिल सकेगा. अमोदेई ने कंपनियों और सरकारों के बीच साझा सुरक्षा मानकों और स्वतंत्र आंतरिक मूल्यांकनकर्ताओं की आवश्यकता पर बल दिया है.
गूगल डीपमाइंड ने भी अपने सुरक्षा तंत्र 'फ्रंटियर सेफ्टी फ्रेमवर्क' को अद्यतन किया है. इसके तहत साइबर सुरक्षा, हानिकारक हेरफेर और इंसानी नियंत्रण से भटकाव जैसे गंभीर जोखिमों की पहचान के लिए प्रोटोकॉल बनाए गए हैं. कंपनी ने माना है कि आर्टिफिशियल जनरल इंटेलिजेंस (AGI) की राह में सबसे बड़ा जोखिम यह है कि उन्नत सिस्टम सुरक्षा घेरों को जानबूझकर बायपास कर सकते हैं.
एआई के इस अनियंत्रित व्यवहार का मुद्दा अब अमेरिका के राजनीतिक हलकों में भी गूंज रहा है. अमेरिकी सीनेटर जोश हॉवले ने हगिंग फेस घटना को लेकर ओपनएआई के खिलाफ औपचारिक जांच शुरू कर दी है. उन्होंने ओपनएआई से जवाब मांगा है कि यदि स्वायत्त एआई एजेंट्स बैंकिंग प्रणाली या महत्वपूर्ण बुनियादी ढांचों को निशाना बनाते हैं, तो देश की सुरक्षा के लिए इसके क्या परिणाम होंगे. एंगल्स जैसे शीर्ष विशेषज्ञों का मानना है कि मानव सभ्यता की सुरक्षा के लिए एआई विकास की गति पर नियंत्रण पाना बेहद आवश्यक है.
