नई दिल्ली 

 

कृत्रिम बुद्धिमत्ता अनुसंधान कंपनी एंथ्रोपिक ने अपने क्लाउड मॉडल पर होने वाले अवैध मॉडल डिस्टिलेशन हमलों को रोकने के लिए उन्नत सुरक्षा उपाय पेश किए हैं। कंपनी ने बताया है कि अनधिकृत संस्थाओं द्वारा एकत्रित डेटा में अनुमानित 90 से 99 प्रतिशत की कमी आई है। एंथ्रोपिक के एक ब्लॉग पोस्ट में विस्तृत जानकारी दी गई है। ये उपाय उन बढ़ती चिंताओं को दूर करते हैं जो अत्याधुनिक प्रणालियों से मालिकाना तर्क क्षमता को चुराकर प्रतिस्पर्धी मॉडलों को अनधिकृत रूप से प्रशिक्षित करने के उद्देश्य से चलाए जा रहे बड़े पैमाने के औद्योगिक अभियानों से संबंधित हैं।

 

एंथ्रोपिक ने अपने ब्लॉग पोस्ट में कहा, "डिस्टिलेशन हमले गुप्त, औद्योगिक स्तर के अभियान हैं जिनका उद्देश्य एक मॉडल की क्षमताओं को निकालकर मूल मॉडल के डेवलपर्स की अनुमति के बिना दूसरे मॉडल में दोहराना है।" कंपनी ने आगे कहा, "ये हमले अक्सर फर्जी खातों के नेटवर्क का उपयोग करके किए जाते हैं। ये हमले कंपनियों को विकास के समय और लागत के एक अंश में अत्याधुनिक क्षमताओं की नकल करने की अनुमति देते हैं।"

 

रिपोर्ट में इस बात पर प्रकाश डाला गया है कि इस तरह की प्रथाएं जैव सुरक्षा, साइबर सुरक्षा और राष्ट्रीय सुरक्षा के लिए गंभीर जोखिम पैदा करती हैं। चूंकि डिस्टिलेटेड वेरिएंट अक्सर उचित सुरक्षा उपायों के बिना प्रचलन में आ जाते हैं, इसलिए दुर्भावनापूर्ण तत्व इनका दुरुपयोग कर सकते हैं। ब्लॉग में चीनी प्रयोगशाला ज़ीपू का हवाला दिया गया है, जिसने अग्रणी अमेरिकी मॉडलों से साइबर क्षमताएं निकालकर जीएलएम-5.3 विकसित किया है। इस मॉडल को यूएस सेंटर फॉर एडवांस्ड इनोवेशन एंड स्टैंडर्ड्स फॉर सुपर इंटेलिजेंस ने अब तक का सबसे अधिक साइबर-सक्षम ओपन-वेट मॉडल बताया है, जो एंड-टू-एंड एक्सप्लॉइट्स बनाने में सक्षम है।

 

एक अन्य उदाहरण में, एंथ्रोपिक ने बताया कि मूनशॉट के किमी मॉडल को भेजे गए प्रश्न क्लाउड को भेजे जा रहे थे, जिनमें चीन की पीपुल्स लिबरेशन आर्मी से संबंधित एक पूछताछ भी शामिल थी, जिसमें क्लोज्ड-सर्किट टेलीविजन निगरानी का विश्लेषण मांगा गया था। इन प्रयासों का मुकाबला करने के लिए, एंथ्रोपिक अपनी तकनीकी सुरक्षा को मुख्य रूप से क्लाउड के आंतरिक तर्क प्रतिलेखों की सुरक्षा पर केंद्रित करता है, जिन्हें डिस्टिलर अंतिम पाठ आउटपुट से अधिक महत्व देते हैं। कंपनी ने बताया, "डिस्टिलर का लक्ष्य एक बड़े, अधिक सक्षम मॉडल (इस मामले में, क्लाउड) से लाखों प्रतिक्रियाएं उत्पन्न करना है, फिर उन प्रतिक्रियाओं का उपयोग करके एक छोटे मॉडल को अधिक सक्षम मॉडल के व्यवहार की नकल करना सिखाना है।"

 

एंथ्रोपिक ने आगे कहा, "इस उद्देश्य के लिए सबसे मूल्यवान डेटा क्लाउड की तर्क प्रक्रिया के लिखित दस्तावेज हैं—वह चिंतन प्रक्रिया जिसे क्लाउड प्रतिक्रिया देने से पहले लिखता है।" कंपनी का सुरक्षा सिस्टम तीन मुख्य मोर्चों पर काम करता है: अलग-अलग अकाउंट्स के बीच रीज़निंग डेटा की आवाजाही को कंट्रोल करना, डेटा निकालने की कोशिशों को रोकने के लिए एक खास दो-चरण वाले क्लासिफायर का इस्तेमाल करना, और बार-बार गलत इस्तेमाल करने वालों को अकाउंट बैन, इस्तेमाल की सीमा तय करके और ब्लॉक की गई क्वेरीज़ के लिए बिलिंग करके रोकना। इस क्लासिफायर का फॉल्स-पॉज़िटिव रेट 0.1% से भी कम है, जो बायोवेपन डिफेंस में इस्तेमाल होने वाले कड़े मानकों के बराबर है।

 

इन सुरक्षा उपायों को लागू करने में कमर्शियल और टेक्निकल समझौते करने पड़ते हैं; एंथ्रोपिक ने माना है कि उसने गलत इरादे वाले नेटवर्क से होने वाली भारी कमाई और ट्रिलियन टोकन के ट्रैफ़िक को ठुकरा दिया है। कंपनी ने इस बात पर ज़ोर दिया कि डेटा की अनधिकृत निकासी को रोकने के लिए मॉडल बनाने वालों और क्लाउड इन्फरेंस प्लेटफ़ॉर्म, दोनों के बीच पूरे इंडस्ट्री स्तर पर सहयोग की ज़रूरत है।