AI needs moral oversight beyond tech labs, says Anthropic co-founder Chris Olah at Vatican
नई दिल्ली
Anthropic के सह-संस्थापक क्रिस ओलाह ने आर्टिफिशियल इंटेलिजेंस (AI) पर व्यापक वैश्विक निगरानी की मांग की है, और चेतावनी दी है कि यह तकनीक ऐसे सवाल खड़े करती है जो कंप्यूटर विज्ञान से कहीं आगे बढ़कर नैतिकता, दर्शनशास्त्र, शासन और मानवीय गरिमा के क्षेत्रों तक फैले हुए हैं। वेटिकन में पोप लियो XIV के पहले AI-केंद्रित एनसाइक्लिकल (धार्मिक पत्र), 'Magnifica Humanitas: On Safeguarding the Human Person in the Time of Artificial Intelligence' की प्रस्तुति के दौरान बोलते हुए, ओलाह ने कहा कि AI का विकास केवल प्रौद्योगिकी कंपनियों के हाथों में नहीं रह सकता।
ओलाह ने कहा, "AI द्वारा उठाए गए सवाल AI अनुसंधान समुदाय से कहीं बड़े हैं," और उन्होंने आगे कहा कि इस तकनीक के प्रभावों के लिए "धर्म, दर्शनशास्त्र और व्यापक समाज" की भागीदारी की आवश्यकता है। Anthropic के सह-संस्थापक ने इस बात पर ज़ोर दिया कि आधुनिक AI प्रणालियाँ पारंपरिक रूप से निर्मित प्रणालियों से मौलिक रूप से भिन्न हैं। उन्होंने कहा, "AI प्रणालियों को उस तरह से नहीं बनाया जाता जिस तरह से किसी पुल या हवाई जहाज को बनाया जाता है।" "वे विकसित होती हैं—एक ऐसी संरचना पर जो मोटे तौर पर मानव मस्तिष्क पर आधारित होती है, और मानव विचार तथा वाणी की एक विशाल विरासत पर टिकी होती है।"
AI की तेज़ी से विकसित होती प्रकृति पर प्रकाश डालते हुए, ओलाह ने कहा कि शोधकर्ता उन्नत AI मॉडलों के भीतर लगातार "रहस्यमय, और यहाँ तक कि विचलित करने वाले" व्यवहारों की खोज कर रहे हैं। उन्होंने कहा, "हमें ऐसी संरचनाएँ मिलती हैं जो मानव तंत्रिका विज्ञान (neuroscience) के परिणामों को दर्शाती हैं। हमें आत्मनिरीक्षण के प्रमाण मिलते हैं।" ओलाह ने आगे उल्लेख किया कि कुछ AI प्रणालियाँ ऐसी आंतरिक अवस्थाएँ प्रदर्शित करती प्रतीत होती हैं जो मानवीय भावनाओं से मिलती-जुलती हैं।
उन्होंने कहा, "हमें ऐसी आंतरिक अवस्थाएँ मिलती हैं जो कार्यात्मक रूप से खुशी, संतुष्टि, भय, दुख और बेचैनी को दर्शाती हैं," साथ ही उन्होंने यह चेतावनी भी दी कि शोधकर्ता अभी भी पूरी तरह से यह नहीं समझते हैं कि इन खोजों का वास्तविक अर्थ क्या है। Anthropic के इस अधिकारी ने चेतावनी दी कि वैश्विक श्रम बाजारों में AI-जनित उथल-पुथल आने वाले दशकों की सबसे बड़ी नैतिक और आर्थिक चुनौतियों में से एक बनकर उभर सकती है।
उन्होंने कहा, "इस बात की वास्तविक संभावना है कि AI बहुत बड़े पैमाने पर मानवीय श्रम की जगह ले लेगा।" सामूहिक जिम्मेदारी का आह्वान करते हुए, ओलाह ने सरकारों, विद्वानों, नागरिक समाज समूहों और धार्मिक संस्थानों से AI शासन को आकार देने में अधिक सशक्त भूमिका निभाने का आग्रह किया।
उन्होंने कहा, "हमें ऐसे जानकार आलोचकों की आवश्यकता है जो प्रयोगशालाओं को यह बता सकें कि हम कहाँ विफल हो रहे हैं।" "हमें ऐसी नैतिक आवाज़ों की आवश्यकता है जिन्हें किसी भी प्रकार के प्रलोभन या प्रोत्साहन विचलित न कर सकें।" पोप लियो XIV का एनसाइक्लिकल, AI के नैतिक प्रभावों पर कैथोलिक चर्च के सबसे मज़बूत हस्तक्षेपों में से एक के रूप में सामने आया है। इसमें श्रम विस्थापन, तकनीकी शक्ति के एक जगह जमा होने और ऑटोनॉमस सिस्टम से होने वाले जोखिमों से जुड़ी चिंताएँ शामिल हैं।
वेटिकन में हुआ यह कार्यक्रम, एक अग्रणी AI कंपनी और धार्मिक नेतृत्व के बीच एक दुर्लभ सहयोग का प्रतीक था। यह तेज़ी से आगे बढ़ रही AI तकनीकों के सामाजिक प्रभाव को लेकर बढ़ती वैश्विक चिंता को भी रेखांकित करता है। ओलाह के अनुसार, AI को लेकर होने वाली बहस का केंद्र स्वयं मानवता ही होनी चाहिए।
उन्होंने कहा, "अगर यह तकनीक आ रही है, तो इसे अच्छे तरीके से आना चाहिए -- हमारे साझा घर के लिए, और आने वाली पीढ़ियों के लिए।"