नौकरियों और साइबर हमलों के बाद अब AI के अस्तित्वगत खतरे पर बहस तेज, रिसर्चर मार्कस विलियम्स ने बिना प्रभावी रेगुलेशन के आने वाले वर्षों को बताया जोखिम भरा
आर्टिफिशियल इंटेलिजेंस यानी एआई को लेकर अब तक नौकरियों पर असर, फेक न्यूज और साइबर हमलों जैसे खतरों की चर्चा होती रही है। लेकिन अब एआई सुरक्षा से जुड़े रिसर्चर मार्कस विलियम्स के एक बयान ने इंसानों के अस्तित्व पर एआई के संभावित खतरे को लेकर बहस तेज कर दी है।
विलियम्स का कहना है कि अगर एआई कंपनियों के बीच जारी प्रतिस्पर्धा पर प्रभावी नियंत्रण नहीं हुआ और सरकारों ने जरूरी नियम लागू नहीं किए तो आने वाले कुछ साल इंसानों के लिए बेहद जोखिम भरे हो सकते हैं।
उन्होंने सोशल मीडिया पर कहा कि अगर एआई के विकास को नियंत्रित नहीं किया गया या बड़ी कंपनियां मिलकर इसकी रफ्तार को धीमा नहीं करती हैं तो मानव अस्तित्व के लिए बड़ा खतरा पैदा हो सकता है। जब उनसे इस खतरे को प्रतिशत में बताने के लिए पूछा गया तो उन्होंने अगले तीन साल में 70 प्रतिशत जोखिम का अनुमान लगाया।
70 प्रतिशत खतरे का मतलब दुनिया खत्म होना नहीं
70 प्रतिशत का यह आंकड़ा किसी वैज्ञानिक रूप से प्रमाणित भविष्यवाणी के तौर पर नहीं देखा जाना चाहिए। यह विलियम्स का अपना जोखिम आकलन है और इसके साथ कई शर्तें जुड़ी हुई हैं।
विलियम्स का यह दावा नहीं है कि तीन साल बाद निश्चित रूप से दुनिया खत्म हो जाएगी। उनका तर्क है कि अगर एआई का विकास मौजूदा रफ्तार से जारी रहा और सुरक्षा तथा रेगुलेशन के पर्याप्त उपाय नहीं किए गए तो गंभीर जोखिम बढ़ सकते हैं।
उन्होंने यह भी माना कि एआई के विकास की रफ्तार और उसके नियमन को प्रभावित करना अभी भी संभव है।
कौन हैं मार्कस विलियम्स?
मार्कस विलियम्स एआई सुरक्षा से जुड़ी रिसर्च और सेफ्टी ओवरसाइट के काम से जुड़े हैं। उनके काम में ऐसे एआई मॉडल के व्यवहार की निगरानी शामिल है, जो तय सीमाओं को पार करने, गलत तरीके से इनाम हासिल करने या अपने लक्ष्यों को पूरा करने के लिए अप्रत्याशित तरीके अपना सकते हैं।
एआई एजेंट्स के ऐसे व्यवहार पर भी रिसर्च की जा रही है, जिसमें मॉडल सुरक्षा संबंधी प्रतिबंधों को दरकिनार करने की कोशिश कर सकते हैं। यही वजह है कि एआई की बढ़ती क्षमताओं के साथ उसके नियंत्रण और सुरक्षा को लेकर विशेषज्ञों की चिंता भी बढ़ रही है।
AI आखिर इंसानों के लिए खतरा कैसे बन सकता है?
फिलहाल एआई इंसानों की तरह स्वतंत्र रूप से दुनिया को नियंत्रित नहीं करता। हालांकि, आधुनिक एआई मॉडल तेजी से अधिक सक्षम हो रहे हैं। ये कोड लिखने, इंटरनेट पर जानकारी खोजने, सॉफ्टवेयर इस्तेमाल करने और कई कामों को एजेंट की तरह खुद पूरा करने में सक्षम हो रहे हैं।
सुरक्षा विशेषज्ञों की चिंता इसी बढ़ती क्षमता को लेकर है। भविष्य में अगर बेहद सक्षम एआई सिस्टम को इंटरनेट, कंप्यूटर, वित्तीय संसाधनों या दूसरे महत्वपूर्ण सिस्टम तक व्यापक पहुंच मिलती है और उसके लक्ष्य इंसानी हितों से अलग हो जाते हैं तो उसे नियंत्रित करना मुश्किल हो सकता है।
क्या विशेषज्ञ 70 प्रतिशत खतरे से सहमत हैं?
ऐसा नहीं है कि एआई विशेषज्ञ इस 70 प्रतिशत अनुमान से सहमत हैं। एआई के संभावित अस्तित्वगत खतरे को लेकर शोधकर्ताओं और विशेषज्ञों के अनुमान काफी अलग-अलग हैं।
कुछ शोधकर्ताओं ने अगले दशक में इस तरह के जोखिम की संभावना 10 प्रतिशत से ज्यादा बताई है। एआई के संभावित अस्तित्वगत खतरे को लेकर जेफ्री हिंटन भी अपनी चिंता जाहिर कर चुके हैं।
इसलिए 70 प्रतिशत के आंकड़े को स्थापित वैज्ञानिक तथ्य के बजाय एक विशेषज्ञ के व्यक्तिगत जोखिम अनुमान के रूप में समझना जरूरी है। आज इंसानों के एआई की वजह से खत्म होने की कोई प्रमाणित संभावना उपलब्ध नहीं है। असली बहस इस बात पर है कि एआई जितना शक्तिशाली होता जाएगा, उसके साथ सुरक्षा, नियंत्रण और रेगुलेशन को उतनी ही तेजी से कैसे मजबूत किया जाए।
