नई दिल्ली

 

क्रोमैटिक्स AI की एक रिपोर्ट के अनुसार, आर्टिफिशियल इंटेलिजेंस (AI) सिस्टम में मौजूद पश्चिमी सांस्कृतिक पूर्वाग्रह अरबों यूज़र्स के दुनिया को समझने और उससे बातचीत करने के तरीके को प्रभावित कर सकते हैं, क्योंकि AI टूल्स शिक्षा, प्रोफेशनल काउंसलिंग और कानूनी सलाह जैसे क्षेत्रों का हिस्सा बनते जा रहे हैं। रिपोर्ट में कहा गया है कि कई AI सिस्टम ऐसे डेटा पर ट्रेन किए जाते हैं जो दुनिया की आबादी के बड़े हिस्से की भाषाओं, दुनिया को देखने के नज़रिए और बातचीत के तरीकों का सही प्रतिनिधित्व नहीं करते हैं। नतीजतन, AI के जवाब न्यूट्रल लग सकते हैं, लेकिन फिर भी उनमें पश्चिम से जुड़ी सांस्कृतिक वैल्यूज़ झलक सकती हैं।

 

रिपोर्ट में कहा गया है, "रिसर्च से पता चलता है कि प्रमुख AI सिस्टम में व्यक्तिवाद और एंग्लो-सैक्सन मानदंडों को डिफ़ॉल्ट रूप से प्राथमिकता दी जाती है।" इसमें आगे कहा गया है कि ये अंतर्निहित वैल्यूज़ और भी महत्वपूर्ण हो सकती हैं क्योंकि AI का इस्तेमाल ऐसे कामों के लिए किया जा रहा है जो सीधे लोगों के फैसलों और समझ को प्रभावित करते हैं।

 

रिपोर्ट में कहा गया है, "और, जैसे-जैसे इनका इस्तेमाल कानूनी सलाह, प्रोफेशनल काउंसलिंग और शिक्षा जैसे कामों के लिए बढ़ता जा रहा है, इन अंतर्निहित वैल्यूज़ से कम प्रतिनिधित्व वाले यूज़र्स के अपने आस-पास की दुनिया को देखने के नज़रिए पर असर पड़ने का खतरा है, जो उनके अपने नज़रिए से बिल्कुल अलग हो सकता है।"

 

रिपोर्ट में तर्क दिया गया है कि AI सिस्टम का सिर्फ़ अनुवाद करना या उन्हें अलग-अलग क्षेत्रों के हिसाब से ढालना इस समस्या को हल करने के लिए काफ़ी नहीं हो सकता है।

इसमें कहा गया है कि लोकलाइज़ेशन आम तौर पर ऊपरी स्तर के बदलावों पर केंद्रित होता है, जैसे इंटरफ़ेस का अनुवाद करना, करेंसी सिंबल बदलना या क्षेत्रीय स्टाइल गाइड लागू करना, जबकि मूल AI मॉडल अपने शुरुआती ट्रेनिंग डेटा में मौजूद सांस्कृतिक मान्यताओं के आधार पर काम करना जारी रख सकता है।

 

रिपोर्ट के अनुसार, इससे भाषा के लोकलाइज़ेशन और वास्तविक सांस्कृतिक समझ के बीच अंतर पैदा होता है। इसमें कहा गया है कि टेक्नोलॉजी में ऐतिहासिक रूप से कम प्रतिनिधित्व वाले समुदायों के यूज़र्स यह देख सकते हैं कि कब कोई AI सिस्टम उनके संदर्भ, बातचीत के तरीके या वैल्यूज़ को गलत समझता है। रिपोर्ट में स्थानीय भाषाओं और सांस्कृतिक संदर्भों के आधार पर AI सिस्टम बनाने की कोशिशों के उदाहरण दिए गए हैं, जिनमें मिस्र का Horus, नाइजीरिया का N-ATLaS, इंडोनेशिया का Sahabat-AI, लैटिन अमेरिका का Latam-GPT, थाईलैंड का OpenThaiGPT और AI स्वीडन का स्वीडिश-भाषा मॉडल शामिल हैं।

 

इसमें मैक्सिको में Alexa+ पर अमेज़न के काम का भी उदाहरण दिया गया है, जो AI को स्थानीय संस्कृति के हिसाब से ढालने में शामिल जटिलता को दिखाता है। रिपोर्ट में कहा गया है कि कंपनी को भाषा और देश के हिसाब से सिस्टम को एडजस्ट करने के लिए रीइन्फोर्समेंट लर्निंग और कस्टम ट्रेनिंग डेटा का इस्तेमाल करना पड़ा, साथ ही यह भी सुनिश्चित करना पड़ा कि सुधारों का दूसरी भाषाओं पर बुरा असर न पड़े। क्रोमैटिक्स AI के फाउंडर लैरी एडम्स ने कहा, "खास कल्चर के लिए बने AI को ऐसी चीज़ों की ज़रूरत होती है जिन्हें मुख्यधारा के बाज़ार ने अभी तक बड़े पैमाने पर प्राथमिकता नहीं दी है। ट्रेनिंग डेटा उन समुदायों के साथ सच्ची साझेदारी में इकट्ठा किया जाना चाहिए जिनकी सेवा के लिए इसे बनाया गया है। मूल्यांकन के पैमाने सांस्कृतिक रूप से सही होने चाहिए, न कि सिर्फ़ भाषाई रूप से सटीक। समुदायों को खुद यह तय करने में मदद करनी चाहिए कि 'सही' क्या है।"

 

रिपोर्ट में कहा गया है कि इसलिए AI डेवलपमेंट का अगला चरण न केवल बड़े मॉडल्स पर निर्भर हो सकता है, बल्कि इस बात पर भी कि AI सिस्टम उन्हें इस्तेमाल करने वाले लोगों के सांस्कृतिक संदर्भों को कितनी अच्छी तरह समझते हैं।