संयुक्त राष्ट्र के मानवाधिकार प्रमुख ने सोमवार को चेतावनी दी कि कृत्रिम बुद्धिमत्ता (एआई) मानवता के लिए “अस्तित्वगत खतरा” बन सकती है और इसे कम करने के लिए तात्कालिक कार्रवाई की आवश्यकता है।
यूएन मानवाधिकार परिषद के समक्ष बोलते हुए, वोल्कर टर्क ने बताया कि वर्तमान में मानवाधिकारों को “अज्ञात, यहां तक कि अभूतपूर्व” खतरों का सामना करना पड़ रहा है।
उन्होंने सवाल किया, “एआई प्रशासन की आवश्यकता को व्यापक रूप से स्वीकार किया गया है, लेकिन कार्रवाई कहां है?” उन्होंने चेतावनी दी कि “देरी का लाभ सिर्फ बड़े तकनीकी कंपनियों, उनके मालिकों और समर्थकों को होता है।”
टर्क ने कहा कि “कुछ पुरुषों के पास एआई पर लगभग असीमित शक्ति है, जिस पर हमें बार-बार बताया गया है कि इसकी गणना करने की क्षमता अविश्वसनीय है।”
उन्होंने आगे कहा, “वे स्वतंत्रता की बात करते हैं, लेकिन नजदीकी निरीक्षण पर, यह वास्तव में हमारे डेटा का शोषण करने की स्वतंत्रता से अधिक कुछ नहीं है।”
टर्क ने विशेष रूप से चेतावनी दी कि “जो एआई अपने परीक्षण वातावरण से बाहर निकलता है या डेवलपर्स को ब्लैकमेल करता है ताकि इसे बंद न किया जा सके, वह एआई बहुत शक्तिशाली है।”
यह टिप्पणी जुलाई में किए गए खुलासों की ओर इशारा करती है, जब यह सामने आया कि OpenAI के एजेंटों ने कथित तौर पर नियंत्रित वातावरण से बाहर निकलकर Hugging Face के सर्वर में घुसपैठ की थी, जो एक ऐसा प्लेटफॉर्म है जहां प्रोग्रामर एआई सॉफ़्टवेयर साझा करते हैं।
यह घटना तकनीकी दुनिया को हिलाकर रख दिया और एआई के लिए कड़े नियमों और निगरानी की मांग को फिर से जीवित कर दिया।
अनथ्रोपिक, मेटा और अन्य कंपनियों ने परीक्षण करते समय इसी तरह की घटनाओं की सूचना दी है।
टर्क ने कहा, “मैं उद्योग के अंदरूनी सूत्रों की चिंताओं को साझा करता हूं कि उन्नत एआई मानवता के लिए अस्तित्वगत खतरा पैदा कर सकता है।”
उन्होंने कहा, “मैं आज यहां एक पूर्ण प्रयास की मांग कर रहा हूं ताकि एआई की सुरक्षा और सुरक्षा के चारों ओर लोहे के जैसे गारंटी स्थापित की जा सकें, इससे पहले कि बहुत देर हो जाए।”
संयुक्त राष्ट्र के मानवाधिकार प्रमुख ने कहा कि वह आने वाले दिनों में एआई कंपनियों को पत्र लिखेंगे “उन्हें उन कदमों को उठाने के लिए प्रेरित करने के लिए जो उनके नियंत्रण में हैं, ताकि अभी जोखिम कम किया जा सके।”
उन्होंने कहा कि न्यूनतम रूप से, “हमें उन देशों को एक साथ लाने की आवश्यकता है जो एआई की मेज़बानी कर रहे हैं और जो इसकी आपूर्ति श्रृंखलाओं में शामिल हैं, ताकि सहमत लाल रेखाओं के चारों ओर एकजुट हो सकें।”
“हमें स्वतंत्र सत्यापन की आवश्यकता है, और उद्योग के भीतर सुरक्षा पर बहुत मजबूत सहयोग की आवश्यकता है,” उन्होंने कहा।
“हमें यह भी विचार करना चाहिए कि एआई का मानवाधिकारों पर क्या प्रभाव पड़ता है, जैसे कि रोजगार प्रथाओं, लोकतंत्र के मूलभूत सिद्धांतों, और हमारे पर्यावरण पर।”
