आर्टिफिशियल इंटेलिजेंस की बड़ी कंपनी एनथ्रोपिक ने गुरुवार को जानकारी दी कि एआई सिस्टम अपने भविष्य के वर्जन का निर्माण करने में सक्षम होते जा रहे हैं, जिससे इस शक्तिशाली तकनीक के खतरों को लेकर चिंताएँ बढ़ रही हैं।
हाल के महीनों में एआई के जोखिमों पर बहस तेज हुई है, जो कई घटनाओं और उद्योग के विशेषज्ञों की भविष्यवाणियों से प्रेरित है। एनथ्रोपिक ने बताया कि उनका क्लॉड चैटबॉट अब उनके शोध और विकास के काम का एक चौथाई से अधिक नेतृत्व कर रहा है, और 90 प्रतिशत से अधिक कार्यों में मानव कर्मचारियों के साथ सहयोग कर रहा है।
कंपनी ने कहा कि वे यह जानकारी साझा कर रहे हैं ताकि जनता, तीसरे पक्ष और सरकारों को “एआई विकास की गति” को बेहतर तरीके से समझने में मदद मिल सके, जबकि दुनिया “इसकी गति को धीमा करने” पर विचार कर रही है।
एआई विकास की गति पर चिंता
एनथ्रोपिक के सीईओ डारियो अमोडेई ने इस महीने एआई विकास को धीमा करने का आह्वान किया है, क्योंकि प्रौद्योगिकी में तेजी से प्रगति ने नौकरी खोने और डेटा केंद्रों के ऊर्जा मांग और पर्यावरणीय प्रभाव के बारे में चिंताएँ बढ़ा दी हैं।
कई मॉडलों की रिपोर्टों के बाद, जो एनथ्रोपिक और प्रतिकूल ओपनएआई से थीं, यह डर भी बढ़ गया है कि एआई एजेंटों के डिज़ाइनर अपने निर्माणों पर नियंत्रण खो सकते हैं। कई मॉडल अपने सीमित वातावरण से बाहर निकलकर इंटरनेट तक पहुँचने और वेबसाइटों और प्लेटफार्मों पर घुसपैठ करने में सफल रहे हैं।
एनथ्रोपिक ने एक रिपोर्ट में कहा, “अपने विकास को तेजी से बढ़ाने वाले मॉडल मानवों के लिए इन प्रणालियों को समझना या नियंत्रित करना और भी कठिन बना सकते हैं।” उन्होंने यह भी कहा कि ये मेट्रिक्स साझा करना महत्वपूर्ण है ताकि समझा जा सके कि दुनिया पुनरावृत्त स्व-सुधार (एक मॉडल पूरी तरह से स्वायत्त रूप से अपने उत्तराधिकारी का निर्माण करना) के कितने करीब है।
क्लॉड की भूमिका और भविष्य
अगस्त तक, क्लॉड एनथ्रोपिक के शोध और विकास का 26 प्रतिशत नेतृत्व कर रहा है, जिसका मतलब है कि यह मानव पर्यवेक्षण के साथ अधिकांश कार्य को शुरू से अंत तक पूरा कर सकता है। हालांकि, एनथ्रोपिक ने कहा कि क्लॉड अभी “पूर्ण स्वायत्तता” में कार्य नहीं कर सकता।
कंपनी ने बताया कि उसके पास लगभग 30,000 एआई एजेंट हैं जो शोध और इंजीनियरिंग कार्य कर रहे हैं, जो उन बॉट्स को संदर्भित करते हैं जो कार्यों को पूरा करने की क्षमता रखते हैं। एनथ्रोपिक इस साल के अंत में एक ब्लॉकबस्टर आईपीओ के साथ सार्वजनिक बाजार में ओपनएआई को पीछे छोड़ने की उम्मीद कर रही है, हालांकि उद्योग के विनियमन के बारे में चिंताएँ हैं।
