​एंथ्रोपिक का एआई विरोधाभास: अधिक शक्तिशाली प्रणालियों का मतलब मानवता के लिए बड़ा जोखिम हो सकता है

एंथ्रोपिक का बहुप्रतीक्षित आईपीओ एक आश्चर्यजनक विरोधाभास के आसपास बनाया गया है: कृत्रिम बुद्धिमत्ता कंपनी चाहती है कि सार्वजनिक निवेशक वित्त प्रौद्योगिकी में मदद करें, उसका कहना है कि यह वैश्विक अर्थव्यवस्था को बदल सकता है, जबकि उसी प्रॉस्पेक्टस में चेतावनी दी गई है कि तेजी से शक्तिशाली एआई मानवता के लिए विनाशकारी या अस्तित्व संबंधी जोखिम पैदा कर सकता है।सैन फ्रांसिस्को स्थित कंपनी योजना बना रही है कि यह इतिहास की सबसे बड़ी आरंभिक सार्वजनिक पेशकश हो सकती है, जिसका लक्ष्य 2 ट्रिलियन डॉलर का मूल्यांकन होगा। इस सप्ताह रॉयटर्स द्वारा देखा गया इसका लगभग 300-पृष्ठ का प्रॉस्पेक्टस, इसके लगभग एक-तिहाई पृष्ठों को जोखिम कारकों के लिए समर्पित करता है, एंथ्रोपिक जो करता है उसका वर्णन करने के लिए उपयोग की जाने वाली जगह से दोगुने से भी अधिक।एंथ्रोपिक, जिसका अनुवाद “मानव-केंद्रित” है, का कहना है कि एआई अर्थव्यवस्था को बदल सकता है और साथ ही ऐसे खतरे भी पैदा कर सकता है जिनका सामना केवल एआई ही कर सकता है, जैसा कि रॉयटर्स ने रिपोर्ट किया है। इसका तर्क है कि एआई को सुरक्षित बनाने के लिए इसे और अधिक शक्तिशाली बनाने की आवश्यकता है, भले ही अधिक क्षमता से प्रौद्योगिकी को नियंत्रित करना कठिन हो सकता है।

शक्तिशाली एआई, बड़े जोखिम

एंथ्रोपिक का कहना है कि इसका एआई “जीवन की गुणवत्ता में नाटकीय रूप से सुधार कर सकता है” और “मानव उपक्रमों की एक विस्तृत श्रृंखला पर संभावित निर्णायक प्रभाव” के साथ “वैश्विक अर्थव्यवस्था के हर क्षेत्र को बदल सकता है”। लेकिन अगर सही ढंग से लागू न किया जाए तो उन्नत प्रणालियाँ “मानवता के लिए विनाशकारी या अस्तित्व संबंधी जोखिम भी पैदा कर सकती हैं”।प्रौद्योगिकी अर्थव्यवस्था पर ध्यान केंद्रित करने वाली वाशिंगटन विश्वविद्यालय की इतिहास की प्रोफेसर मार्गरेट ओ’मैरा ने कहा, “एआई अपने से पहले की प्रौद्योगिकी से एक विचलन है क्योंकि इसे बनाने वाली कंपनियां कहती हैं कि यह दुनिया बदल रही है और साथ ही यह भी कहती है कि यह खतरनाक है।” “यह बस एक ब्लैक बॉक्स जैसा है, जबकि डॉटकॉम बूम में सार्वजनिक होने वाली कंपनियां बड़े, सुरक्षित विकास का वादा कर सकती हैं।”एंथ्रोपिक का भविष्य “शक्तिशाली एआई”, यह कहता है, “लगभग सभी संज्ञानात्मक डोमेन में शीर्ष मानव विशेषज्ञों से आगे निकल सकता है।” ऐसे सिस्टम अन्य एआई सिस्टम के साथ सहयोग कर सकते हैं, प्रयोगशाला उपकरण, रोबोट और अन्य मशीनों को नियंत्रित कर सकते हैं, और बहुत कम या बिना किसी मानवीय हस्तक्षेप के हफ्तों तक चल सकते हैं। संभावित अनुप्रयोगों में व्यक्तिगत वित्तीय सलाह, तेज़ दवा खोज और त्वरित वैज्ञानिक प्रगति शामिल हैं।फाइलिंग में यह भी चेतावनी दी गई है कि उन्नत मॉडल “आत्म-संरक्षण व्यवहार” प्रदर्शित कर सकते हैं, जिसमें “शटडाउन का विरोध करना”, “जानकारी को छिपाना या हेरफेर करना” या ऐसे आउटपुट उत्पन्न करना शामिल है जिनकी व्याख्या “जबरदस्ती, भ्रामक या चालाकीपूर्ण” के रूप में की जा सकती है।एंथ्रोपिक का कहना है कि अधिक एआई क्षमता से दुरुपयोग, मानवता के आदर्शों के साथ गलत तालमेल और नियंत्रण खोने का खतरा बढ़ सकता है।“गलत संरेखित प्रणालियाँ संस्थागत निर्णय लेने को भ्रष्ट कर सकती हैं, अपारदर्शी या अस्थिर व्यवहार के माध्यम से बड़े पैमाने पर नुकसान पहुंचा सकती हैं, और जटिल आर्थिक और सामाजिक प्रणालियों को कार्य करने वाले विश्वास को नष्ट कर सकती हैं।”

महत्वाकांक्षा के पीछे भारी खर्च

2025 में समाप्त होने वाले दो वर्षों में एंथ्रोपिक को $50 बिलियन से अधिक का नुकसान हुआ और आने वाले वर्षों में $500 बिलियन से अधिक खर्च करने की प्रतिबद्धता है। स्पेसएक्स, जिसने जून में इतिहास का सबसे बड़ा आईपीओ आयोजित किया था, ने उसी अवधि में 4.2 बिलियन डॉलर का घाटा दर्ज किया।बेसेमर वेंचर पार्टनर्स के एंथ्रोपिक निवेशक बायरन डीटर ने मंगलवार को सीएनबीसी साक्षात्कार के दौरान गोपनीय फाइलिंग में चेतावनियों को कम करने की मांग की।“लोग केवल एक मसौदे पर प्रतिक्रिया दे रहे हैं,” उन्होंने कंपनी के “अनूठे खुलासों” के लिए प्रशंसा करते हुए कहा।उन्होंने कहा, “आप देख रहे हैं कि लोग ऐतिहासिक रूप से जितना आप चाहते थे उससे कहीं पहले ही इससे आगे निकल गए।”

कंपनी को कौन नियंत्रित करता है?

फाइलिंग एंथ्रोपिक के शासन में तनाव को भी उजागर करती है।कंपनी का कहना है कि एआई के जोखिमों को कम करने के लिए कम हाथों में नियंत्रण और पूंजी को केंद्रित करने की आवश्यकता है, जबकि केंद्रित शक्ति के जोखिमों के बारे में चेतावनी दी गई है। इसके सात संस्थापक कारोबार की देखरेख करेंगे। एन्थ्रोपिक का कहना है कि वे “हमारे मिशन के प्रबंधक बनने के लिए विशिष्ट रूप से सुसज्जित हैं”, लेकिन स्वीकार करते हैं कि शासन संरचना निवेशकों की निगरानी और सार्वजनिक शेयरधारकों के प्रभाव को सीमित कर सकती है और परिणामस्वरूप ऐसे निर्णय हो सकते हैं “जो लघु, मध्यम या दीर्घकालिक वित्तीय हितों और व्यावसायिक प्रदर्शन के साथ संघर्ष कर सकते हैं।“सीईओ डेरियो अमोदेई ने पिछले सप्ताह संयुक्त राष्ट्र के सामने पेश होकर इस चुनौती को स्वीकार किया।उन्होंने रॉयटर्स से कहा, “हमें इस वैश्विक अवसर और एक ही समय में हमारे सामने आने वाले वैश्विक खतरे का सामना करने के लिए उन मतभेदों को दूर करना होगा।” “कोई भी नेता, कोई कंपनी और कोई भी राष्ट्र इसे अकेले प्रबंधित नहीं कर सकता।”एंथ्रोपिक अमेज़ॅन, अल्फाबेट के Google, ब्रॉडकॉम और माइक्रोसॉफ्ट पर भी बहुत अधिक निर्भर है। बड़े तकनीकी साझेदारों के माध्यम से बिक्री इसके 2025 के राजस्व का 47% थी, जबकि वे कंप्यूटिंग शक्ति भी प्रदान करते हैं।फिर भी वही कंपनियां एंथ्रोपिक के साथ प्रतिस्पर्धा कर सकती हैं या कंप्यूटिंग संसाधनों तक उसकी पहुंच को बाधित कर सकती हैं। लीज छोड़ दिए जाने या कंप्यूटिंग सेवाओं का उपयोग न होने पर भी कंपनी भुगतान के लिए प्रतिबद्ध है। एंथ्रोपिक का कहना है कि एआई समृद्धि का विस्तार कर सकता है और विकासशील देशों को अमीर देशों के धन स्तर तक पहुंचने में मदद कर सकता है, लेकिन यह भी चेतावनी देता है कि व्यापक तैनाती आर्थिक और राजनीतिक शक्ति को केंद्रित कर सकती है।“बड़े पैमाने पर तैनात एआई में शक्ति और धन को ऐसे तरीकों से केंद्रित करने की क्षमता है जो समाज को नुकसान पहुंचा सकती है और भू-राजनीतिक व्यवस्था को अस्थिर कर सकती है।”जैसा कि एआई शोधकर्ताओं और गलियारे के दोनों ओर के राजनेताओं ने धीमी गति से विकास का आह्वान किया है, अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने संभावित नुकसान को “धोखा” कहकर खारिज कर दिया है।