क्या आर्टिफिशियल इंटेलिजेंस आने वाले कुछ वर्षों में इंसानों के लिए गंभीर खतरा बन सकता है? Anthropic के शोधकर्ता जैकब कॉक्सन के इस्तीफे के बाद यह सवाल फिर चर्चा में है. कॉक्सन का आरोप है कि बड़ी AI कंपनियां खुद में सुधार करने वाली सुपरइंटेलिजेंस की ओर तेजी से बढ़ रही हैं, जबकि सुरक्षा उपाय अभी पीछे हैं.
जैकब कॉक्सन ने 9 सितंबर को Anthropic से इस्तीफा देते हुए कहा कि OpenAI और Anthropic बेहद शक्तिशाली AI बनाने की दौड़ में आगे बढ़ रहे हैं. उनका दावा है कि इस प्रक्रिया में मानव सुरक्षा से जुड़े जोखिमों को पर्याप्त महत्व नहीं दिया जा रहा. हालांकि, कॉक्सन ने यह नहीं कहा कि 2030 तक मानव सभ्यता का अंत निश्चित है.
उन्होंने केवल यह चिंता सामने रखी कि AI क्षेत्र में काम करने वाले कुछ विशेषज्ञ ऐसी संभावना को गंभीर मानते हैं. Anthropic के एलाइनमेंट साइंस प्रमुख इवान ह्यूबिंगर ने भी अगले दशक में AI के कारण मानव विलुप्ति की 10 प्रतिशत से अधिक संभावना मानी है.
बहस का केंद्र मौजूदा AI मॉडल नहीं, बल्कि भविष्य की ऐसी तकनीक है जो खुद को और बेहतर बनाने वाली अगली पीढ़ी के सिस्टम तैयार करने में बड़ी भूमिका निभा सके. Anthropic के शोधकर्ता सैमुअल मार्क्स के मुताबिक आज की एलाइनमेंट तकनीकें AI के व्यवहार को प्रभावित कर सकती हैं, लेकिन सुपरइंटेलिजेंस को नियंत्रित करने के लिए उनकी क्षमता पर्याप्त साबित नहीं हुई है. उनका मानना है कि भविष्य में ज्यादा सक्षम AI का इस्तेमाल अगली AI प्रणालियों को सुरक्षित बनाने के लिए किया जा सकता है. यही स्थिति विशेषज्ञों के सामने एक बड़ा विरोधाभास खड़ा करती है.
AI एक व्यापक तकनीक है, जो इंसानों से जुड़े कई बौद्धिक काम कर सकती है. AGI यानी आर्टिफिशियल जनरल इंटेलिजेंस ऐसी संभावित प्रणाली को कहा जाता है, जो अधिकांश बौद्धिक या आर्थिक कार्यों में इंसानों के बराबर या उनसे बेहतर प्रदर्शन कर सके. वहीं सुपरइंटेलिजेंस उससे भी आगे की काल्पनिक अवस्था है.
अभी सार्वजनिक रूप से सत्यापित ऐसी कोई प्रणाली मौजूद नहीं है. इसी बीच AI कंपनियां कोडिंग, रिसर्च और साइबर सुरक्षा जैसे कामों में AI का इस्तेमाल बढ़ा रही हैं. Anthropic के मुताबिक Claude ने एक अवधि में कंपनी में मर्ज किए गए कोड का 80 प्रतिशत से अधिक हिस्सा तैयार किया था.
अंतरराष्ट्रीय AI सुरक्षा रिपोर्ट 2026 के अनुसार मौजूदा सिस्टम में योजना बनाने, कोडिंग और निगरानी से बचने जैसी कुछ क्षमताओं के शुरुआती संकेत जरूर दिखे हैं, लेकिन वे अभी मानव नियंत्रण खोने के स्तर तक नहीं पहुंचे हैं. विशेषज्ञों में यह भी सहमति नहीं है कि 2030 तक AI कितनी तेजी से विकसित होगा.
जेफ्री हिंटन ने अगले 30 वर्षों में AI से मानव विलुप्ति की 10 से 20 प्रतिशत संभावना जताई है, जबकि यान लेकुन मौजूदा भाषा मॉडल को मानव जैसी सामान्य बुद्धिमत्ता तक पहुंचने के लिए अपर्याप्त मानते हैं. इसलिए फिलहाल सवाल यह नहीं है कि AI निश्चित रूप से मानवता खत्म कर देगा, बल्कि यह है कि उसकी क्षमता बढ़ने से पहले सुरक्षा व्यवस्था कितनी मजबूत की जा सकेगी.
