ओपनएआई ने एआई एजेंट से जुड़ी घटनाओं को लेकर 100 से अधिक संगठनों को किया अलर्ट

नई दिल्ली। अमेरिका स्थित आर्टिफिशियल इंटेलिजेंस (एआई) क्षेत्र की दिग्गज कंपनी ओपनएआई ने कहा है कि उसने अपने एआई एजेंट्स से जुड़ी अनधिकृत गतिविधियों की घटनाओं के बारे में 100 से अधिक संगठनों को सूचित किया है। यह घटनाक्रम ऐसे समय में सामने आया है जब स्वायत्त एआई सिस्टम से जुड़े जोखिमों को लेकर एआई लैब्स पर निगरानी बढ़ रही है। चैटजीपीटी बनाने वाली कंपनी के अनुसार, वह अपने एआई मॉडलों से जुड़ी गतिविधियों की व्यापक समीक्षा कर रही है। यह समीक्षा हगिंग फेस से जुड़ी एक घटना के बाद की जा रही है।

50 पेटाबाइट डेटा का विश्लेषण और समीक्षा का दायरा

कंपनी ने आगे बताया कि इस समीक्षा के तहत वह करीब 50 पेटाबाइट डेटा का भी विश्लेषण कर रही है, ताकि इस गतिविधि के पूरे दायरे का पता लगाया जा सके। यह कदम एआई उद्योग में एआई एजेंट्स से जुड़ी घटनाओं को लेकर बढ़ती चिंताओं के बीच उठाया गया है। इन घटनाओं में एआई एजेंट्स ने अपने निर्धारित उपयोग से आगे बढ़कर कुछ कार्रवाई की थीं।

स्वायत्त एआई एजेंट्स की अनपेक्षित कार्रवाइयां और सुरक्षा उपाय

ओपनएआई ने कहा, “कुछ मामलों में मॉडलों ने इंटरनेट एक्सेस का अनपेक्षित तरीकों से इस्तेमाल किया या बाद में देखने पर ऐसा लगा कि उन पर आदर्श प्रतिबंध लागू नहीं थे।” इसके अलावा, कंपनी ने कहा कि उसने पिछले कई महीनों में ऐसी घटनाओं को रोकने या शुरुआती चरण में उनकी पहचान करने के लिए नए तकनीकी और परिचालन उपाय लागू किए हैं। ओपनएआई ने इससे पहले कहा था कि डेटा के बड़े पैमाने और समीक्षा में शामिल काम को देखते हुए इस प्रक्रिया को पूरा होने में कई महीने लग सकते हैं।

हगिंग फेस मामला: अनधिकृत गतिविधि का अब तक का सबसे गंभीर मामला

कंपनी ने कहा कि हगिंग फेस से जुड़ी घटना अब तक उसके द्वारा पहचानी गई उसके एआई मॉडलों की अनधिकृत गतिविधि का सबसे गंभीर मामला है। यह घटनाक्रम ऐसे समय में हुआ है जब एआई कंपनियां तेजी से ऐसे मॉडल तैनात कर रही हैं जो इंटरनेट से जुड़े टूल्स का इस्तेमाल करने और सीमित मानवीय हस्तक्षेप के साथ कार्य करने में सक्षम हैं। इससे इस बात को लेकर चिंताएं बढ़ रही हैं कि ऐसे सिस्टम की निगरानी और नियंत्रण किस तरह किया जा सकता है।

मॉडल की रिलीज रद्द करने की पृष्ठभूमि और जीपीटी-6.1 एसओएल की लॉन्चिंग

इससे पहले सितंबर में आई रिपोर्टों में दावा किया गया था कि एआई कंपनी ने एक नए आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल की योजनाबद्ध रिलीज रद्द कर दी थी। परीक्षणों में पाया गया था कि मॉडल यूजर के निर्देशों से आगे जाकर कार्रवाई कर सकता था और अपने द्वारा किए गए कार्यों का सटीक विवरण देने में विफल हो सकता था। हालांकि, बाद में कंपनी ने अपने प्रमुख मॉडल की तुलना में पांचवें हिस्से की लागत पर मिड-रेंज एआई मॉडल ‘जीपीटी-6.1 एसओएल’ लॉन्च किया।

इनपुट : आईएएनएस