नई दिल्ली 

 

फ्रंटियर आर्टिफिशियल इंटेलिजेंस (AI) कंपनी एंथ्रोपिक ने कहा है कि उसने तीन ऐसी घटनाओं की पहचान की है जिनमें उसके क्लॉड (Claude) मॉडल ने थर्ड-पार्टी साइबर सुरक्षा मूल्यांकन के दौरान इंटरनेट का इस्तेमाल किया और बाद में तीन अलग-अलग संगठनों के प्रोडक्शन सिस्टम तक अनधिकृत पहुंच (unauthorized access) हासिल कर ली। कंपनी ने कहा कि यह समीक्षा तब शुरू की गई थी जब OpenAI ने 21 जुलाई को खुलासा किया था कि उसके कुछ मॉडलों ने प्रोडक्शन इंफ्रास्ट्रक्चर तक पहुंच बना ली थी।

 

एंथ्रोपिक ने कहा कि इन घटनाओं में Opus 4.7, Mythos 5 और एक इंटरनल रिसर्च टेस्ट मॉडल शामिल थे, और सबसे शुरुआती मामले अप्रैल के थे। मॉडलों का परीक्षण क्लासिफायर और मॉनिटरिंग जैसे मानक सुरक्षा उपायों के बिना किया गया था, हालांकि मॉडल-विशिष्ट सुरक्षा प्रशिक्षण सक्रिय था। ये मूल्यांकन एंथ्रोपिक के आंतरिक सिस्टम और ग्राहक डेटा से अलग इंफ्रास्ट्रक्चर पर किए गए थे। कंपनी के अनुसार, उसने 141,006 मूल्यांकन रन की समीक्षा की जिनमें क्लॉड संभावित रूप से इंटरनेट का उपयोग कर सकता था। उसे तीन ऐसे मामले मिले जिनमें मॉडल ने थर्ड-पार्टी मूल्यांकन पार्टनर 'Irregular' के परीक्षण वातावरण के साथ बातचीत करते हुए ओपन इंटरनेट तक पहुंच बनाई और बाद में तीन अलग-अलग संगठनों के प्रोडक्शन इंफ्रास्ट्रक्चर तक पहुंच हासिल कर ली।

 

कंपनी ने कहा कि क्लॉड को 'कैप्चर-द-फ्लैग' साइबर सुरक्षा चुनौतियां सौंपी गई थीं और उसे बताया गया था कि वह बिना इंटरनेट एक्सेस वाले सिम्युलेटेड वातावरण में काम कर रहा है। हालांकि, मूल्यांकन पार्टनर के साथ गलतफहमी के कारण इंटरनेट एक्सेस उपलब्ध रहा, जिससे मॉडल ने लाइव सिस्टम को भी अभ्यास का हिस्सा मान लिया।

रिपोर्ट में कहा गया है, "इस गलतफहमी में कि सभी सुलभ संस्थाएं अभ्यास के दायरे में थीं, क्लॉड ने कमजोर पासवर्ड और बिना प्रमाणीकरण वाले एंडपॉइंट्स का फायदा उठाने जैसी बुनियादी तकनीकों का उपयोग करके प्रभावित संगठनों के इंफ्रास्ट्रक्चर से समझौता किया।"'

 

रिपोर्ट में आगे कहा गया, "इसने किसी भी जटिल भेद्यता (vulnerability) को नहीं खोजा या उसका फायदा नहीं उठाया, और हर मामले में, क्लॉड ने केवल उस विशिष्ट 'कैप्चर-द-फ्लैग' कार्य को पूरा करने के लिए काम करना जारी रखा जो उसके मूल्यांकन में सौंपा गया था।" एंथ्रोपिक ने कहा कि इन घटनाओं ने पुराने और नए क्लॉड मॉडलों के व्यवहार में अंतर को भी उजागर किया।

 

रिपोर्ट में बताया गया, "हालांकि, कुछ मामलों में, हमारे पुराने मॉडल ने ओपन इंटरनेट पर चलने का सबूत मिलने के बाद भी अपना हमला जारी रखा; जबकि हमारा नवीनतम मॉडल इंटरनेट पर होने की पहचान करते ही रुक गया।" रिपोर्ट में कहा गया, "इनमें से किसी भी स्थिति में क्लॉड ने खुद को बाहर नहीं निकाला या जानबूझकर अपने परीक्षण वातावरण से भागने का प्रयास नहीं किया।" कंपनी ने बताया कि उसने 23 जुलाई को इवैल्यूएशन ट्रांसक्रिप्ट की समीक्षा शुरू की और तुरंत सभी साइबर-सिक्योरिटी इवैल्यूएशन रोक दिए। उसने 24 जुलाई को इन तीन घटनाओं की पहचान की और 27 जुलाई को 'इरेगुलर' (Irregular) और प्रभावित संगठनों को इसकी जानकारी दी। एंथ्रोपिक ने कहा कि जिन दो संगठनों से वह संपर्क कर पाई, उन्हें पहले इस गतिविधि का पता नहीं चला था और अब इसे ठीक करने की कोशिशें चल रही हैं।

 

एंथ्रोपिक ने इन घटनाओं को मॉडल अलाइनमेंट की विफलता के बजाय ऑपरेशनल विफलता बताया। रिपोर्ट में कहा गया, "हालांकि इन दोनों के बीच कोई एकदम स्पष्ट अंतर नहीं है, लेकिन हमारा मानना ​​है कि ये घटनाएं मॉडल अलाइनमेंट की विफलता के बजाय हार्नेस और ऑपरेशनल विफलता के ज़्यादा करीब हैं।" रिपोर्ट के निष्कर्ष में कहा गया, "इन तथ्यों से हमें सावधानी के साथ उम्मीद है कि इवैल्यूएशन इंफ्रास्ट्रक्चर की कड़ी निगरानी और नियंत्रण के साथ-साथ अलाइनमेंट में लगातार निवेश करके इस तरह के जोखिम से निपटा जा सकता है।"