'मानव अस्तित्व के लिए खतरा बन सकती है सुपरइंटेलिजेंस'; एंथ्रोपिक के रिसर्चर ने सुरक्षा चिंताओं के चलते दिया इस्तीफा

सैन फ्रांसिस्को। युवा रिसर्चर जैकब कॉक्सन अचानक से सुर्खियों में आ गया है। जानी मानी एआई कंपनी एंथ्रोपिक से इस्तीफा देते हुए कुछ ऐसे सवाल उठा दिए हैं जिस पर मंथन जरूरी है। कॉक्सन ने बुधवार को आर्टिफिशियल इंटेलिजेंस (एआई) की दुनिया में तेजी से आ रहे बदलाव को लेकर सवाल उठाते हुए चेतावनी दी कि एआई कंपनियां ऐसे सिस्टम विकसित करने की होड़ में हैं, जो आने वाले कुछ वर्षों में मानव जीवन के लिए गंभीर खतरा बन सकते हैं।

कॉक्सन के इस्तीफे की खबर सबसे पहले वॉल स्ट्रीट जर्नल ने दी। रिपोर्ट के मुताबिक, यह एंथ्रोपिक के किसी कर्मचारी के एआई सुरक्षा संबंधी आशंकाओं के चलते कंपनी छोड़ने के शुरुआती प्रमुख मामलों में से एक है।

सोशल मीडिया प्लेटफॉर्म एक्स थ्रेड में शोधकर्ता ने अपनी भावनाएं व्यक्त कीं। नए एआई मॉडल को भारी मात्रा में डेटा ट्रेन करने में माहिर कॉक्सन ने कहा, "मैंने एन्थ्रोपिक से इस्तीफा दे दिया। मैंने पिछले तीन साल ओपनएआई और एन्थ्रोपिक दोनों में प्री-ट्रेनिंग रिसर्च में बिताए हैं।"

उन्होंने दोनों कंपनियों के मौजूदा रवैये पर सवाल उठाते हुए कहा कि वे तेजी से ऐसे एआई सिस्टम की ओर बढ़ रही हैं जो खुद को बेहतर बनाने में सक्षम होंगे। लिखा, "कंपनियां सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस विकसित करने की दिशा में तेजी से आगे बढ़ रही हैं और इस प्रक्रिया में मानव जीवन को जोखिम में डाल रही हैं।"

कॉक्सन के मुताबिक, "इस तकनीक की क्षमता को कम करके नहीं आंका जाना चाहिए। आने वाले समय में एआई सिस्टम इंसानों से बेहतर प्रदर्शन करने लग सकते हैं, साइबर सिस्टम में सेंध लगाने, विभिन्न क्षेत्रों में रातोंरात बड़े बदलाव लाने और वास्तविक दुनिया में शक्ति तथा संसाधन हासिल करने में सक्षम हो सकते हैं। इन क्षेत्रों में एआई की प्रगति पहले ही दिखाई दे रही है और इसकी रफ्तार धीमी होती नजर नहीं आ रही।"

कॉक्सन की सबसे गंभीर चेतावनी एआई उद्योग के अंदर मौजूद आशंकाओं को लेकर थी। उन्होंने कहा कि एआई विकसित करने वाले कई शोधकर्ता और वरिष्ठ अधिकारी निजी तौर पर मानते हैं कि यह तकनीक इस दशक के अंत तक मानवता के अस्तित्व के लिए खतरा बन सकती है।

उन्होंने कहा, "यह कोई मार्केटिंग रणनीति नहीं है। सार्वजनिक मंचों पर कई अधिकारी भले ही एआई के भविष्य को लेकर संतुलित भाषा का इस्तेमाल करते हों, लेकिन निजी बातचीत में उनमें से कई लोग तकनीक के संभावित परिणामों को लेकर गंभीर चिंता व्यक्त करते हैं।"

कॉक्सन ने उस विरोधाभास पर भी सवाल उठाया कि यदि एआई के संभावित खतरे को लेकर इतनी चिंता है तो कंपनियां इसका विकास जारी क्यों रख रही हैं?

उन्होंने कहा कि ओपनएआई में कई लोग अभी तक इस तकनीक के “सभ्यतागत दांव” को पूरी तरह महसूस नहीं कर पाए हैं। वहीं एंथ्रोपिक में स्थिति अलग है। उनके अनुसार, "वहां जोखिम को बेहतर ढंग से समझा जाता है, लेकिन कंपनी इस दौड़ में इसलिए बनी हुई है क्योंकि उसे डर है कि अगर वह पीछे हट गई तो दूसरी कंपनियां बिना पर्याप्त सुरक्षा उपायों के आगे बढ़ जाएंगी।"

कॉक्सन ने एआई शोधकर्ताओं से भी आत्ममंथन करने की अपील की। उन्होंने सवाल उठाया, "क्या शोधकर्ताओं को ऐसे सुपरइंटेलिजेंट सिस्टम का प्रशिक्षण शुरू कर देना चाहिए, जिसके दिमाग या व्यवहार को वे अभी पूरी तरह समझते तक नहीं हैं?"

उन्होंने एआई लैब्स में काम कर रहे वैज्ञानिकों से कहा कि वे केवल यह सोचकर आगे न बढ़ें कि “यह तो होना ही है," बल्कि इस समय का इस्तेमाल विकास की शर्तों और सुरक्षा मानकों को बदलने के लिए करें।

उन्होंने यह भी बताया कि एआई उद्योग में कुछ लोग अब मौजूदा दौड़ को “क्रंचटाइम” और “एंडगेम” जैसे शब्दों से परिभाषित करने लगे हैं। ये शब्द इस बात का संकेत देते हैं कि उद्योग का एक वर्ग आत्म-सुधार करने वाले एआई मॉडल्स के विकास को निर्णायक दौर के रूप में देख रहा है।

रिपोर्ट के अनुसार, कॉक्सन उन 1,000 से अधिक एआई शोधकर्ताओं में भी शामिल रहे हैं, जिन्होंने हाल में वैश्विक सरकारों के बीच बेहतर समन्वय की अपील करने वाले एक बयान पर हस्ताक्षर किए।

इनपुट : आईएएनएस