एंथ्रोपिक के एक शोधकर्ता ने अपना इस्तीफा दे दिया है, जिसमें उन्होंने चेतावनी दी है कि कृत्रिम बुद्धिमत्ता (एआई) प्रयोगशालाएँ ऐसे सिस्टम विकसित करने की दौड़ में हैं, जो कुछ ही वर्षों में मानव जीवन के लिए “खतरा” बन सकते हैं।
जैकब कॉक्सन के इस्तीफे की जानकारी सबसे पहले वॉल स्ट्रीट जर्नल ने दी, जिसने बताया कि यह “एंथ्रोपिक के एक कर्मचारी का एआई सुरक्षा चिंताओं के चलते इस्तीफा देने का पहला उदाहरण” है।
कॉक्सन, जो नए एआई मॉडलों को प्रशिक्षित करने में विशेषज्ञता रखते हैं और बड़े पैमाने पर डेटा का उपयोग करते हैं, ने सोशल मीडिया प्लेटफॉर्म एक्स पर एक थ्रेड में कहा: “मैंने आज एंथ्रोपिक से इस्तीफा दिया। मैंने पिछले तीन वर्षों में ओपनएआई और एंथ्रोपिक दोनों में पूर्व-प्रशिक्षण अनुसंधान किया।”
एआई की शक्ति पर चिंता
उन्होंने कहा, “कोई भी कंपनी जिम्मेदारी से कार्य नहीं कर रही है। वे सीधे आत्म-सुधार करने वाली सुपरइंटेलिजेंस की ओर दौड़ रहे हैं और हमारी ज़िंदगी के साथ जुए की तरह खेल रहे हैं।”
कॉक्सन ने बताया कि “इस तकनीक की शक्ति को कम मत समझिए। ये जल्द ही ऐसी सुपरह्यूमन सिस्टम बन जाएँगी जो किसी भी चीज़ को हैक कर सकती हैं, किसी भी क्षेत्र में रातोंरात क्रांति ला सकती हैं, और असली शक्ति और संसाधन प्राप्त कर सकती हैं।”
उन्होंने इस बात पर जोर दिया कि “हमने प्रत्येक क्षेत्र में प्रगति देखी है, और प्रगति धीमी नहीं हो रही है।”
शोधकर्ताओं का डर
कॉक्सन ने एआई शोधकर्ताओं और कार्यकारी अधिकारियों के बीच तकनीक के संभावित परिणामों को लेकर डर व्यक्त किया। उन्होंने कहा, “जो लोग एआई का निर्माण कर रहे हैं, वे ईमानदारी से मानते हैं कि यह दशक के अंत तक हमें मार सकता है। यह कोई मार्केटिंग प्रपंच नहीं है।”
उन्होंने कहा कि कई कार्यकारी और वरिष्ठ शोधकर्ता प्रैस में अपनी बातें कुछ इस तरह से पेश करते हैं कि यह समझ में आए, लेकिन वे व्यक्तिगत रूप से डर व्यक्त करते हैं।
कॉक्सन ने यह भी सवाल किया कि कंपनियाँ ऐसे चिंताओं के बावजूद एआई का विकास क्यों जारी रख रही हैं। उन्होंने कहा, “एक सामान्य प्रतिक्रिया होती है ‘अगर वे सच में इसे मानते हैं, तो वे इसे क्यों बना रहे हैं?’ ओपनएआई में, कई लोगों ने सांस्कृतिक दांव को गहराई से नहीं समझा है।”
विकास की गति पर पुनर्विचार की आवश्यकता
कॉक्सन ने एंथ्रोपिक में स्थिति को स्पष्ट करते हुए कहा कि वहाँ जोखिम को अच्छी तरह से समझा गया है, लेकिन वे पहले वहाँ पहुँचने की दौड़ में हैं। उन्होंने कहा कि “उन्हें विश्वास है कि कोई और जिम्मेदारी से कार्य नहीं करेगा, इसलिए उन्हें खुद करना होगा।”
उन्होंने एआई शोधकर्ताओं से विकास की गति और संबंधित जोखिमों पर पुनर्विचार करने का आग्रह करते हुए कहा, “यदि आप एक प्रयोगशाला के शोधकर्ता हैं, तो मैं आपको यह सोचने के लिए कहता हूँ कि अगले कुछ वर्ष वास्तव में कैसे होंगे।”
कॉक्सन ने कहा कि “क्या आप बिना इसके दिमाग को समझे सुपरइंटेलिजेंट आरएल रन शुरू करना चाहते हैं? क्या आपको अपने सिर को नीचा करके रखना चाहिए क्योंकि ‘यह तो हो रहा है’ – या इस पल का उपयोग करके भिन्न परिस्थितियों की मांग करनी चाहिए?”
जर्नल से बात करते हुए, कॉक्सन ने अपने इस्तीफे के पीछे के कारणों को भी साझा किया, यह कहते हुए कि वह मानवता को नष्ट कर सकने वाले आत्म-सुधार करने वाले एआई सिस्टमों के निर्माण की इस उद्योग की दौड़ में भाग नहीं लेना चाहते थे।
संवैधानिक समन्वय की आवश्यकता
उन्होंने यह भी कहा कि उनके कई उद्योग सहयोगी अब “क्रंचटाइम” और “एंडगेम” जैसे वाक्यांशों का उपयोग करते हैं, जो आत्म-सुधार करने वाले मॉडलों की दिशा को दर्शाते हैं।
रिपोर्ट में कहा गया कि वह उन 1,000 से अधिक एआई शोधकर्ताओं में से एक हैं जिन्होंने हाल ही में एक बयान पर हस्ताक्षर किए हैं, जिसमें वैश्विक सरकारों से आग्रह किया गया है कि यदि आत्म-सुधार करने में सक्षम मॉडलों को नियंत्रित करने के लिए एक ब्रेक की आवश्यकता है, तो एआई विकास को धीमा करने के लिए समन्वय किया जाए।
