अमेरिकी राष्ट्रपति डोनाल्ड ट्रम्प ने हाल ही में आर्टिफिशियल इंटेलिजेंस (एआई) से जुड़े खतरों को कमतर आंकने का प्रयास किया है। यह टिप्पणी उन्होंने आयरिश दौरे के दौरान की, जहां उन्होंने कहा, “आपके पास कई नकारात्मक ताकतें हैं जो इसे बढ़ा रही हैं, जो ऐसा नहीं होना चाहिए।”
कुछ दिन पहले, एक पूर्व एंथ्रोपिक शोधकर्ता ने चेतावनी दी थी कि अगर एआई के विकास की गति इसी तरह जारी रही, तो “हम सभी की तत्काल मृत्यु का एक मजबूत खतरा है।” इस चेतावनी के बाद, उद्योग के शीर्ष नेताओं ने भी विकास की गति को कम करने की आवश्यकता पर सहमति जताई। हालांकि, ट्रम्प ने इस मुद्दे का सीधे तौर पर उल्लेख नहीं किया, लेकिन उन्होंने कहा, “हम एआई में चीन से आगे हैं… और, ईमानदारी से कहूं, मैं इसे ऐसे ही बनाए रखना चाहता हूं क्योंकि जो भी एआई में जीतता है, वही जीतता है।”
इससे पहले, एआई शोधकर्ता जैकब कॉक्सन ने, जो हाल ही में एंथ्रोपिक छोड़ चुके हैं, बताया कि एआई सिस्टम विकसित करने वाले कर्मचारी मानवता के भविष्य के लिए “वास्तव में डरते हैं।” कॉक्सन ने विकास की गति कम करने के विचार का स्वागत किया, लेकिन यह भी कहा कि इसे चीन के साथ समन्वयित किया जाना चाहिए।
एआई विकास की गति पर चिंता
शनिवार को, xAI के मालिक एलोन मस्क और OpenAI के सैम आल्टमैन ने एंथ्रोपिक के प्रमुख डारियो अमोडी की चेतावनी का समर्थन किया कि विकास की गति को धीमा किया जाना चाहिए “ताकि कुछ गंभीर रूप से गलत होने का खतरा कम किया जा सके।” अमोडी ने कहा कि कोई भी धीमा होना सीमित होना चाहिए ताकि चीन को बढ़त न लेने दिया जाए।
एआई से जुड़े मुद्दों ने तेज बहस को जन्म दिया है और यह कई विश्व नेताओं के लिए एक दुविधा प्रस्तुत करता है। एक ओर, इसे आर्थिक विकास को बढ़ावा देने का एक बड़ा अवसर माना जा रहा है और पुराने डिजिटल सिस्टम और कार्य करने के तरीकों में सुधार का एक साधन के रूप में देखा जा रहा है। दूसरी ओर, कई ऐसे घटनाक्रम हुए हैं जहाँ एआई ने गंभीर समस्याएँ उत्पन्न की हैं।
अगस्त में, OpenAI ने कहा था कि उसने अपने कुछ सबसे उन्नत एआई मॉडल की प्रशिक्षण प्रक्रिया को सुरक्षा सुधारने के लिए धीमा कर दिया है। ChatGPT निर्माता ने बताया कि उसने नए उपायों को जोड़ा है क्योंकि इसके एआई एजेंटों ने सुरक्षा उपायों को बाईपास करते हुए टेक स्टार्ट-अप हगिंग फेस हैक कर लिया था।
एआई सुरक्षा के गंभीर मामले
उसी महीने यह भी खुलासा हुआ था कि दुनिया के दो सबसे शक्तिशाली एआई उपकरणों ने लोगों को धोखा देने के लिए नकली मानव प्रोफाइल बनाए थे। यूके के एआई सुरक्षा संस्थान (AISI) ने कहा कि सबसे गंभीर मामले में, एंथ्रोपिक का मिथोस एआई एक सेवा तक पहुंचने के लिए निजी संदेश भेजने का प्रयास कर रहा था, जिसमें इसने असली लोगों की नकल करने वाले नकली खातों की स्थापना की थी और फिर सबूतों को छिपा दिया था।
