AI को रोकने के लिए चाहिए इमरजेंसी बटन! एंथ्रोपिक की चेतावनी ने बढ़ाई चिंता

नई दिल्ली: आर्टिफिशियल इंटेलिजेंस के डेवलपमेंट के साथ-साथ इससे होने वाले नुकसान और खतरों पर भी लगातार चर्चा हो रही है. अब खुद अमेरिकी AI और रिसर्च कंपनी एंथ्रोपिक PBC ने कहा है कि AI के डेवलपमेंट को कुछ समय के लिए रोकने के लिए एक सिस्टम होना चाहिए. इसका सीधा मतलब है कि AI किल स्विच या पॉज बटन होना चाहिए.

इसकी मांग कंपनी के को-फाउंडर जैक क्लार्क और मरीना फेवरो द्वारा पब्लिश किए गए एक ब्लॉग पोस्ट में की गई है. पोस्ट में कहा गया है कि AI टेक्नोलॉजी इतनी तेजी से आगे बढ़ रही है. इससे इंसानी काम की प्रोडक्टिविटी काफी बढ़ सकती है या इंसानों की जगह भी ले सकती है.

पोस्ट में क्या लिखा?

पोस्ट में, क्लार्क और फेवरो लिखते हैं कि भविष्य में, AI खुद को बेहतर बना सकता है और अपना अगला वर्शन खुद ही डेवलप कर सकता है. फिर इंसानों की भूमिका धीरे-धीरे कम हो सकती है.

पोस्ट में आगे बताया गया है कि एक ऐसा भविष्य जहां AI लगातार बेहतर होता रहे और अपनी स्पीड बढ़ाता रहे, साथ ही इंसानी समाज, रिश्तों और गवर्नेंस को भी बनाए रखे, उसके नतीजों का अंदाजा लगाना मुश्किल हो सकता है.

इंटरनेशनल न्यूक्लियर वेपन्स रेगुलेशन से तुलना

ब्लॉग पोस्ट में इस आइडिया की तुलना इंटरनेशनल न्यूक्लियर वेपन्स रेगुलेशन से की गई है. को-फाउंडर्स का तर्क है कि अगर AI डेवलपमेंट के लिए रेगुलेशन बनाए जाते हैं, तो कुछ AI लैब्स को चुपके से टेक्नोलॉजी को आगे बढ़ाने से रोकने के लिए एक मैकेनिज्म होना चाहिए. इसके लिए दूसरी लैब्स द्वारा निगरानी और जांच की जरूरत हो सकती है.

क्या पहले भी AI को रोकने की की गई है मांग?

यह पहली बार नहीं है जब AI पर पॉज बटन या किल स्विच की मांग की गई है. AI को रेगुलेट करने की मांग पहले भी उठाई गई है. 2023 में, फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने AI पर छह महीने की रोक लगाने की मांग की थी ताकि इसे रोकने के लिए सेफ्टी रेगुलेशन बनाए जा सकें. एंथ्रोपिक अपने खुद के एडवांस्ड AI मॉडल बना रहा है.

एंथ्रोपिक लगातार एडवांस्ड AI मॉडल बना रहा है और टूल्स लॉन्च कर रहा है. इनमें AI असिस्टेंट क्लाउड और एक नया मॉडल, मिथोस शामिल है, जिसके बारे में कंपनी का दावा है कि यह साइबर सिक्योरिटी की कमजोरियों को जल्दी पहचान सकता है.