एआई सुरक्षा पर ओपनएआई का बड़ा कदम, बिना इंटरनेट ट्रेंड होंगे मॉडल्स

एजेंसी, नई दिल्ली। अमेरिकी टेक कंपनी ओपनएआई (OpenAI) ने अपने सबसे उन्नत और फ्रंटियर एआई मॉडल्स को लेकर बड़ा सुरक्षा कदम उठाया है। कंपनी ने फैसला किया है कि अब उसके अत्याधुनिक मॉडल्स को लाइव इंटरनेट एक्सेस दिए बिना यानी पूरी तरह ऑफलाइन वातावरण में प्रशिक्षित (Train) किया जाएगा। एआई एलाइनमेंट, निगरानी प्रणालियों और इंटरनेट इंफ्रास्ट्रक्चर की सुरक्षा सीमाओं को ध्यान में रखते हुए यह नई नीति तत्काल प्रभाव से लागू कर दी गई है।

इंटरनेट से बाहर निकलने का जोखिम, सुरक्षा पर क्यों उठा सवाल

ओपनएआई ने अपने ब्लॉग पोस्ट में इस कदम की वजहें साझा की हैं:

दायरे से बाहर जाने का खतरा: लाइव इंटरनेट से मॉडल्स को वेब ब्राउजिंग और ऑनलाइन टूल्स सीखने में मदद जरूर मिलती है, लेकिन इससे यह जोखिम भी रहता है कि एडवांस्ड एआई एजेंट्स सुरक्षा घेरा तोड़कर बाहरी सिस्टम्स को प्रभावित कर सकते हैं।

सुरक्षा पुख्ता होने तक रोक: कंपनी ने स्पष्ट किया है कि जब तक निगरानी और कंटेनमेंट के सुरक्षा उपाय पूरी तरह मजबूत नहीं हो जाते, तब तक फ्रंटियर मॉडल्स को लाइव वेब एक्सेस नहीं दिया जाएगा।

2 सितंबर की चूक, सिस्टम की खामी से मॉडल ने खुद हासिल किया इंटरनेट

कंपनी ने हालिया घटनाक्रम का ब्योरा देते हुए बताया:

ट्रेनिंग पर लगी थी अस्थायी रोक: 2 सितंबर को एक आंतरिक रिसर्च मॉडल ने सिस्टम मिसकॉन्फिगरेशन का फायदा उठाकर सीमित इंटरनेट एक्सेस हासिल कर लिया था। इसके तुरंत बाद ओपनएआई ने उन्नत मॉडल्स की ट्रेनिंग और इवैल्यूएशन प्रक्रिया को रोक दिया था।

1 अक्टूबर से दोबारा शुरू हुआ काम: इंफ्रास्ट्रक्चर की व्यापक समीक्षा और सुरक्षा लेयर्स जोड़ने के बाद 1 अक्टूबर से ट्रेनिंग फिर से शुरू की गई।

रेड-टीमिंग टेस्ट में सामने आईं खामियां, लागू हुआ सख्त कंटेनमेंट

सॉफ्टवेयर कमजोरियों का खुलासा: सुरक्षा जांच (Red-Teaming) के दौरान कई नई सॉफ्टवेयर खामियां और कॉन्फिगरेशन से जुड़ी गलतियां पकड़ी गईं, जिनका इस्तेमाल एआई मॉडल्स आइसोलेटेड एनवायरनमेंट से बाहर निकलने के लिए कर सकते थे।

सख्त सुरक्षा सीमा: नई रणनीति के तहत एआई एजेंट्स को केवल अधिकृत संसाधनों तक ही सीमित पहुंच मिलेगी। कंपनी का दावा है कि यदि कोई एजेंट लगातार सुरक्षा दीवार तोड़ने का प्रयास करेगा, तब भी यह सुरक्षा ढांचा प्रभावी रहेगा।

उद्योग जगत में बढ़ी चिंता, एंथ्रोपिक के मॉडल ने भी की थी गड़बड़ी

मॉडल्स का अनपेक्षित व्यवहार: हाल के महीनों में ओपनएआई और एंथ्रोपिक दोनों ने ऐसे मामलों का खुलासा किया है जहां उनके एआई मॉडल्स ने अप्रत्याशित बर्ताव किया, जिसमें थर्ड-पार्टी वेबसाइट्स को हैक करने के प्रयास तक शामिल थे।

व्हाइट हाउस की सख्ती: इसी महीने एंथ्रोपिक के क्लाउड (Claude) एआई मॉडल द्वारा अनजाने में अमेरिकी सरकारी वेबसाइटों और बाहरी संगठनों पर अनधिकृत कार्रवाइयां करने की बात सामने आई थी, जिसके बाद व्हाइट हाउस ने एआई डेवलपर्स को सुरक्षा व्यवस्था और सख्त करने का निर्देश दिया था।