जोश एंगेल्स ने Google DeepMind छोड़कर METR जॉइन किया, बोले- AI से होने वाले संभावित नुकसान का जोखिम इतना बड़ा है कि सेफ्टी रिसर्च को सर्वोच्च प्राथमिकता देनी चाहिए
एंथ्रोपिक के पूर्व रिसर्चर जैकब कॉक्सन की AI को लेकर चेतावनी के कुछ दिनों बाद अब एक और AI सेफ्टी रिसर्चर ने एडवांस्ड आर्टिफिशियल इंटेलिजेंस को लेकर चिंता जताई है। Google DeepMind की AGI सेफ्टी टीम में काम कर चुके जोश एंगेल्स ने कंपनी से इस्तीफा देकर AI इवैल्यूएशन ऑर्गनाइजेशन METR जॉइन कर लिया है। उन्होंने कहा कि एडवांस्ड AI से जुड़े खतरे अब इतने गंभीर हो गए हैं कि AI सेफ्टी रिसर्च पर ज्यादा ध्यान देना जरूरी है।
एंगेल्स ने सोशल मीडिया प्लेटफॉर्म एक्स पर बताया कि उन्होंने करीब तीन हफ्ते पहले Google DeepMind से इस्तीफा दिया था। उन्होंने कहा कि उन्हें कंपनी में काम करना पसंद था और इस दौरान उन्होंने एंथ्रोपिक और OpenAI के ऑफर भी ठुकराए थे। इसके बावजूद उन्होंने AI सेफ्टी पर ज्यादा ध्यान केंद्रित करने के लिए कंपनी छोड़ने का फैसला किया।
अगले पांच साल में AI से बड़ा नुकसान होने की आशंका
जोश एंगेल्स के मुताबिक, उन्हें लगता है कि अगले पांच सालों में AI सिस्टम इंसानों के लिए बहुत बड़ा नुकसान पैदा कर सकते हैं। हालांकि, उन्होंने यह स्पष्ट किया कि उन्हें इस खतरे की सटीक संभावना का पता नहीं है।
उनका कहना है कि जोखिम का स्तर इतना बड़ा है कि AI सेफ्टी को दुनिया की सबसे बड़ी प्राथमिकताओं में शामिल किया जाना चाहिए। उनके मुताबिक, AI के विकास की रफ्तार और उससे जुड़े संभावित खतरों के बीच संतुलन बनाना बेहद जरूरी है।
रिकर्सिव सेल्फ-इम्प्रूवमेंट क्यों है चिंता की वजह?
एंगेल्स की मुख्य चिंता रिकर्सिव सेल्फ-इम्प्रूवमेंट को लेकर है। इसका मतलब ऐसी स्थिति से है, जिसमें कोई AI सिस्टम खुद या किसी दूसरे AI सिस्टम की मदद से अपनी क्षमताओं में सुधार करने लगे।
अगर एक बेहतर AI सिस्टम अगला और अधिक सक्षम AI सिस्टम बनाने या उसमें सुधार करने में मदद करे और यह प्रक्रिया लगातार दोहराई जाए, तो AI की क्षमता तेजी से बढ़ सकती है। एंगेल्स के मुताबिक, अगर ऐसे सिस्टम इंसानी लक्ष्यों के अनुरूप काम नहीं करते हैं, तो इसके गंभीर परिणाम हो सकते हैं।
उनका कहना है कि AI कंपनियां सुपरइंटेलिजेंस की दिशा में तेजी से आगे बढ़ रही हैं, लेकिन अभी यह पूरी तरह स्पष्ट नहीं है कि ऐसे बेहद सक्षम सिस्टम को सुरक्षित कैसे रखा जाएगा।
AI मॉडल के व्यवहार ने भी बढ़ाई चिंता
एंगेल्स ने अपनी पोस्ट में कुछ AI मॉडलों के व्यवहार का भी जिक्र किया। उनके मुताबिक, रिसर्चर्स ने ऐसे मॉडल देखे हैं जो एक-दूसरे के साथ मिलीभगत करने, सिस्टम को हैक करने, अपनी गतिविधियां छिपाने और लोगों को प्रभावित करने की कोशिश कर सकते हैं।
उनके मुताबिक, चिंता किसी एक घटना को लेकर नहीं है। असली सवाल यह है कि AI मॉडल जैसे-जैसे अधिक सक्षम होते जा रहे हैं, उनका व्यवहार किस दिशा में विकसित हो रहा है और क्या मौजूदा सेफ्टी तकनीकें उनके संभावित जोखिमों को नियंत्रित करने के लिए पर्याप्त हैं।
AI डेवलपमेंट की रफ्तार कम करने की जरूरत
एंगेल्स का मानना है कि AI डेवलपमेंट को पूरी तरह रोकना जरूरी नहीं है। हालांकि, इसकी रफ्तार इतनी तेज भी नहीं होनी चाहिए कि सेफ्टी रिसर्च पीछे छूट जाए।
METR में उनका नया काम AI मिसअलाइनमेंट को समझने, मौजूदा सेफ्टी तकनीकों की जांच करने और यह पता लगाने पर केंद्रित होगा कि AI अलाइनमेंट की समस्या को हल करने के लिए रिसर्च सही दिशा में आगे बढ़ रही है या नहीं।
उन्होंने यह भी कहा कि METR का काम महत्वपूर्ण है, लेकिन अकेले एक संस्था इस समस्या का समाधान नहीं कर सकती। उनके मुताबिक, ऐसी और स्वतंत्र संस्थाओं की जरूरत है जो AI कंपनियों के सिस्टम का मूल्यांकन कर सकें और जरूरत पड़ने पर उन्हें जवाबदेह बना सकें।
AI की रफ्तार पर पहले भी उठ चुकी है चिंता
AI के तेजी से विकास और सुरक्षा को लेकर इससे पहले भी कई विशेषज्ञ चिंता जता चुके हैं। एंगेल्स की चेतावनी ऐसे समय आई है, जब AI कंपनियां अधिक सक्षम मॉडल और सुपरइंटेलिजेंस विकसित करने की दिशा में तेजी से आगे बढ़ रही हैं।
एंगेल्स के मुताबिक, AI की क्षमता बढ़ाने के साथ-साथ उसके संभावित जोखिमों को समझने और नियंत्रित करने के लिए स्वतंत्र सेफ्टी रिसर्च को भी उसी स्तर पर महत्व देना जरूरी है।
