एंथ्रोपिक के प्रमुख डारियो अमोडेई ने आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल्स के विकास की गति को धीमा करने और इसे सावधानीपूर्वक मॉनिटर करने की बात कही है। अमोडेई ने एक ऑनलाइन निबंध में लिखा कि एआई का विकास सवाल के घेरे में नहीं है, लेकिन इसके साथ जुड़े जोखिम गंभीर हैं और कंपनियों और सरकारों को इन्हें संबोधित करने के लिए समय दिया जाना चाहिए।
एआई विकास पर चिंताएं
एआई कंपनियों के कर्मचारी एआई के संभावित खतरों को लेकर वास्तव में चिंतित हैं। एंथ्रोपिक के एक पूर्व शोधकर्ता ने बीबीसी को बताया कि अगर हम विकास की वर्तमान गति को धीमा नहीं करते हैं, तो भविष्य में मानवता के लिए गंभीर खतरा हो सकता है। उन्होंने कहा कि इस तकनीक में शामिल लोग मानवता के भविष्य के बारे में चिंतित हैं।
अमोडेई के निबंध ‘वी मस्ट पेस द फ्रंटियर’ में उन्होंने एआई मॉडल्स के विकास के दौरान स्वतंत्र मॉनिटरिंग, उद्योग-व्यापी विनियमन और वैश्विक विनियमन के लिए तीन-बिंदु योजना का प्रस्ताव रखा। इस प्रस्ताव को प्रतिस्पर्धियों से भी समर्थन मिला है, जिन्होंने स्वतंत्र मॉनिटर की आवश्यकता को स्वीकार किया है।
अंतर्राष्ट्रीय सहयोग की आवश्यकता
अमोडेई ने कहा कि एआई का विकास एक संतुलित गति से होना चाहिए ताकि इसकी सुरक्षा सुनिश्चित की जा सके। उन्होंने यह भी कहा कि यह कंपनियों के लिए मॉडल्स के प्रशिक्षण को रोकने या तकनीकी प्रगति को रोकने का अर्थ नहीं है, बल्कि यह सुनिश्चित करना है कि कंपनियां अपने मॉडल्स को सुरक्षित और संरेखित करने के लिए पर्याप्त समय लें।
उन्होंने अमेरिकी सरकार से आग्रह किया कि अमेरिकी कंपनियों के एआई चिप्स को चीन को बेचने पर रोक लगाई जाए। हालांकि, उनके पूर्व कर्मचारी जैकब कॉक्सन ने कहा कि इस पहल को अमेरिका से आगे बढ़कर अंतर्राष्ट्रीय स्तर पर भी लागू करना होगा।
विभिन्न प्रतिक्रियाएँ
अमोडेई के इस पोस्ट पर विभिन्न प्रतिक्रियाएँ आई हैं। हगिंग फेस के सीईओ क्लेमेंट डेलांग ने एक नई परियोजना ‘ओपन अलाइनमेंट इनिशिएटिव’ शुरू करने की घोषणा की, जिसमें उन्होंने अमोडेई के प्रस्तावित समाधान का हिस्सा बनने की इच्छा जताई।
कुछ पर्यवेक्षकों ने सुझाव दिया कि अमोडेई का पोस्ट एआई तकनीक पर नियंत्रण को मजबूत करने के उद्देश्य से था। कुछ आलोचकों ने इसे एक मार्केटिंग चाल के रूप में देखा है।
