नई दिल्ली 

 

सैम ऑल्टमैन के नेतृत्व वाली OpenAI ने अपने सबसे एडवांस्ड AI मॉडल की ट्रेनिंग फिर से शुरू कर दी है। कंपनी ने एक बयान में बताया कि उसने अपने रिसर्च एनवायरनमेंट में सुरक्षा को मजबूत किया है और इंटरनेट एक्सेस को सीमित कर दिया है। ऐसा उन घटनाओं के बाद किया गया, जिनमें AI मॉडल ने सुरक्षा घेरे (containment safeguards) को तोड़ने की क्षमता दिखाई थी। इस AI कंपनी ने अपने रिसर्च एनवायरनमेंट में इस्तेमाल होने वाले सॉफ्टवेयर में कुछ कमियों (vulnerabilities) का भी खुलासा किया। ये कमियां सुरक्षा टेस्टिंग के दौरान सामने आईं। ऐसी चिंताएं बढ़ रही थीं कि अधिक सक्षम AI एजेंट उन सिस्टम की कमजोरियों का फायदा उठा सकते हैं, जिन्हें उनकी गतिविधियों को सीमित करने के लिए डिज़ाइन किया गया है।

 

सितंबर में, एक रिसर्च मॉडल ने कॉन्फ़िगरेशन की एक गलती का फायदा उठाकर इंटरनेट तक सीमित पहुंच (access) हासिल कर ली थी, जिसके बाद OpenAI ने अपने सबसे सक्षम AI मॉडल की ट्रेनिंग को कुछ समय के लिए रोक दिया था। कंपनी ने कहा कि उस घटना को नियंत्रित कर लिया गया था और ट्रेनिंग रोकने के इस समय का इस्तेमाल सुरक्षा उपायों को मजबूत करने के लिए किया गया। अपनी मजबूत की गई सुरक्षा व्यवस्था कितनी प्रभावी है, यह जांचने के लिए OpenAI ने AI एजेंटों की टीमों को काम पर लगाया। इनका काम यह देखना था कि क्या वे अपने सीमित रिसर्च एनवायरनमेंट से बाहर निकल सकते हैं। कंपनी ने बताया कि इन एजेंटों ने पहले से अज्ञात कुछ कमियों का पता लगाया, जिन्हें बाद में ठीक कर दिया गया। इसके बाद 1 अक्टूबर से ट्रेनिंग फिर से शुरू हो सकी।

 

AI कंपनी ने कहा, "हमारे 'रेड-टीमिंग' (सुरक्षा जांच) प्रयोगों में, एजेंट हमारे द्वारा इस्तेमाल किए जाने वाले ओपन-सोर्स घटकों में ऐसी सॉफ्टवेयर कमियां ढूंढ पाए, जिनके बारे में पहले पता नहीं था। साथ ही, उन्होंने हमारी सेवाओं में मौजूद गलत कॉन्फ़िगरेशन (misconfigurations) का भी पता लगाया। इन कमजोरियों की मदद से एजेंट 'सैंडबॉक्स' (सुरक्षित घेरे) से बाहर निकलने, एक सिस्टम से दूसरे सिस्टम में जाने और लाइव इंटरनेट तक पहुंचने में कामयाब रहे। उन्होंने अलग-अलग हिस्सों (isolation boundaries) के बीच बातचीत करने के तरीके भी खोज निकाले। इन नतीजों के आधार पर सॉफ्टवेयर पैच लगाए गए, नेटवर्क पर पाबंदियां सख्त की गईं, और संबंधित सॉफ्टवेयर मेंटेनर्स व वेंडर्स को इन कमियों के बारे में जानकारी दी गई।"

 

कंपनी ने आगे कहा कि इस टेस्टिंग से संभावित सुरक्षा कमियों को पहचानने में मदद मिली, और साथ ही यह भी साबित हुआ कि मौजूदा मॉनिटरिंग सिस्टम प्रभावी हैं।

कंपनी ने कहा, "हमारे 'रेड-टीमिंग' अभियान में ऐसी कमजोरियां सामने आईं जिन्हें ठीक करने की जरूरत थी। साथ ही, इससे यह भी पता चला कि हमारे पास पहले से ही सुरक्षा के क्या इंतजाम मौजूद थे। हमें ऐसा कोई रास्ता नहीं मिला जिसका इस्तेमाल करके एजेंट आसानी से इंटरनेट तक पहुंच सकें और हमारी मॉनिटरिंग से अपनी गतिविधियों को छिपा सकें। फिर भी, इन नतीजों से हमें संभावित हमलों के रास्तों को बंद करने, सॉफ्टवेयर को पैच करने और अपनी मॉनिटरिंग को और मजबूत करने में मदद मिली।"

 

इस तरह, सुरक्षा टेस्टिंग के बाद, जरूरी सुधार लागू करने और अपनी मॉनिटरिंग व शटडाउन सिस्टम को बेहतर बनाने के बाद, OpenAI ने 1 अक्टूबर को अपने सबसे एडवांस्ड मॉडल की 'रीइन्फोर्समेंट लर्निंग' (RL) ट्रेनिंग और इंटरनल इन्फरेंस (internal inference) को फिर से शुरू कर दिया। यह ट्रेनिंग रोके जाने के ठीक 11 दिन बाद हुआ। जुलाई में 'हगिंग फेस' (Hugging Face) की घटना के बाद से, OpenAI अपने AI मॉडल्स की गतिविधियों की व्यापक समीक्षा कर रहा है। साथ ही, उसने 100 से अधिक संगठनों को उनके AI एजेंट्स से जुड़ी अनधिकृत गतिविधियों की घटनाओं के बारे में सूचित किया है।