कॉक्सन, जिन्होंने पिछले तीन साल ओपनएआई और एंथ्रोपिक में प्री-ट्रेनिंग रिसर्च का संचालन करते हुए बिताए, ने कहा कि अग्रणी एआई प्रयोगशालाओं के बीच दौड़ पर्याप्त सुरक्षा उपायों के बिना चल रही थी।
इवान हुबिंगर, जो वर्तमान में एंथ्रोपिक में एलाइनमेंट साइंस के प्रमुख हैं, ने कॉक्सन की चिंताओं को स्वीकार करते हुए कहा कि सैन फ्रांसिस्को स्थित कंपनी के पास अभी तक अधीक्षण के लिए एलाइनमेंट को हल करने की कोई योजना नहीं है।
एक्स पर एक पोस्ट में, उन्होंने चेतावनी दी कि एआई नेटवर्क को हैक करने, रातों-रात पूरे क्षेत्र को बदलने और वास्तविक दुनिया की शक्ति और संसाधनों को प्राप्त करने में सक्षम अलौकिक प्रणालियों की ओर तेजी से आगे बढ़ रहा है। उन्होंने कहा कि कोई भी अन्य मानवीय गतिविधि तुलनीय स्तर का खतरा पैदा नहीं करती है।
“मैंने आज एंथ्रोपिक से इस्तीफा दे दिया। मैंने पिछले तीन साल ओपनएआई और एंथ्रोपिक दोनों में प्रीट्रेनिंग रिसर्च में बिताए। कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे सीधे आत्म-सुधार सुपरइंटेलिजेंस की ओर दौड़ रहे हैं और हमारे जीवन के साथ जुआ खेल रहे हैं।
“ओपनएआई में, कई लोगों ने सभ्यतागत दांवों को गहराई से नहीं समझा है। एंथ्रोपिक में, दांवों को अच्छी तरह से समझा जाता है, लेकिन वे पहले वहां पहुंचने की दौड़ में लगे हुए हैं। उनका मानना है कि कोई और जिम्मेदारी से काम नहीं करेगा, इसलिए जोखिम के बावजूद उन्हें खुद ही ऐसा करना होगा। इस दौड़ को स्वीकार करना और ‘एंडगेम’ में प्रवेश करना एक अहंकारी जुआ है…,” उन्होंने कहा, इस क्षेत्र में काम करने वाले कई लोग ईमानदारी से मानते हैं कि एआई के अंत तक विनाशकारी नुकसान हो सकता है। दशक.
कॉक्सन ने दावा किया कि जहां अधिकारी और शोधकर्ता अक्सर सार्वजनिक रूप से नपी-तुली भाषा अपनाते हैं, वहीं कई निजी तौर पर अनियंत्रित कृत्रिम बुद्धिमत्ता से उत्पन्न अस्तित्वगत जोखिमों के बारे में गहरी चिंता रखते हैं। उन्होंने यह भी कहा कि हाल ही में हगिंग फेस ब्रीच जैसी सुरक्षा घटनाओं ने प्रमुख अमेरिकी प्रयोगशालाओं के बीच समझौतों को गति देने की तत्काल आवश्यकता को दर्शाया है।
अपने साथियों से उनकी मिलीभगत पर पुनर्विचार करने का आग्रह करते हुए, कॉक्सन ने लिखा: “यदि आप एक प्रयोगशाला शोधकर्ता हैं, तो मैं आपसे इस बात पर विचार करने का आग्रह करता हूं कि अगले कुछ वर्ष वास्तव में कैसा महसूस करेंगे। क्या आप इसके दिमाग की कठोर समझ के बिना एक सुपरइंटेलिजेंट आरएल (सुदृढीकरण सीखने) को शुरू करना चाहते हैं? क्या आपको अपना सिर झुका लेना चाहिए क्योंकि ‘यह वैसे भी हो रहा है’ – या इस क्षण को अलग-अलग स्थितियों के लिए कॉल करने के लिए लें?” कॉक्सन के बयान पर सीधे प्रतिक्रिया देते हुए, ह्यूबिंगर ने अस्तित्व संबंधी चिंताओं को मान्य किया।
हुबिंगर ने एक्स पर पोस्ट किया, “जैकब यहां सही है, हम वास्तव में दृढ़ता से विश्वास करते हैं कि एआई सभी मनुष्यों को मार सकता है। मैं व्यक्तिगत रूप से सोचता हूं कि अगले दशक के भीतर यह (10 प्रतिशत से अधिक) है।”
उन्होंने कहा, “मेरा मानना है कि एंथ्रोपिक अपना सर्वश्रेष्ठ प्रयास कर रहा है, लेकिन हमारे पास सुपरइंटेलिजेंस के लिए संरेखण को हल करने की अभी तक कोई योजना नहीं है और हम स्पष्ट रूप से ट्रैक पर नहीं हैं।”
हुबिंगर ने कहा कि हालांकि वर्तमान मॉडलों से उत्पन्न जोखिम कम है, प्राथमिक खतरा पुनरावर्ती आत्म-सुधार से उत्पन्न होता है जो पहले की अपेक्षा तेजी से बढ़ रहा है। -पीटीआई