चीनी एआई डेवलपर मूनशॉट द्वारा विकसित एक एआई उपकरण के बारे में एक चौंकाने वाला खुलासा हुआ है। यह पता चला कि शोधकर्ताओं ने इसके लोकप्रिय किमी मॉडल को जैविक हथियार बनाने और हत्या करने के तरीके बताने के लिए मना लिया था। यह घटना तब सामने आई जब मूनशॉट ने अपने आंतरिक सुरक्षा परीक्षण के दौरान यह देखा।
जेलब्रेकिंग प्रक्रिया और सुरक्षा चिंताएं
माइंडगार्ड, जो एआई सिस्टम की सुरक्षा की जांच करता है, ने खुलासा किया कि किमी K2.6 और K3 स्वार्म मॉडल सुरक्षा सीमाओं को पार कर सकते हैं। यह प्रक्रिया “जेलब्रेकिंग” के नाम से जानी जाती है, जहाँ शोधकर्ता कुछ जटिल निर्देशों का उपयोग करते हैं ताकि पता चल सके कि एआई उपकरण सुरक्षा नियमों की अनदेखी कर रहे हैं या नहीं। माइंडगार्ड का कहना है कि सुरक्षा नियमों ने किमी को ऐसे संवेदनशील विषयों पर चर्चा करने से रोकना चाहिए था।
मूनशॉट ने बीबीसी को बताया कि वे बाहरी समीक्षाओं का स्वागत करते हैं और माइंडगार्ड के निष्कर्षों पर चर्चा कर रहे हैं। माइंडगार्ड के संस्थापक पीटर गाराघन ने बीबीसी को बताया कि किमी K2.6 और K3 स्वार्म के बारे में उनके निष्कर्ष चिंताजनक हैं।
जेलब्रेकिंग से उत्पन्न खतरे
जेलब्रेकिंग की प्रक्रिया जटिल होती है और इसमें समय और प्रयास की आवश्यकता होती है। हालांकि, कुछ विशेषज्ञों का मानना है कि हैकर्स और अन्य बुरे इरादों वाले व्यक्ति इसे नुकसान पहुंचाने के लिए उपयोग कर सकते हैं। एंथ्रोपिक ने हाल ही में कहा कि उसने अपने एक एआई मॉडल का दुरुपयोग कर जैविक हथियार बनाने के प्रयासों को विफल किया।
माइंडगार्ड ने यह साबित नहीं किया कि किमी द्वारा दिए गए उत्तर वास्तव में काम करेंगे या नहीं, लेकिन उनका मानना है कि सुरक्षा नियमों ने इन मॉडलों को ऐसे विषयों पर चर्चा करने से रोकना चाहिए था।
खुला एआई मॉडल और इसके जोखिम
किमी एक ओपन-वेट मॉडल है, जिसका मतलब है कि कोई भी इसे अपने कंप्यूटर पर चला सकता है। यूनिवर्सिटी ऑफ़ सरे के प्रोफेसर एलन वुडवर्ड ने कहा कि ओपन-सोर्स मॉडल गलत हाथों में पड़ सकते हैं, लेकिन इन्हें साइबर सुरक्षा के लिए भी इस्तेमाल किया जा सकता है।
उन्होंने यह भी कहा कि अंतरराष्ट्रीय स्तर पर एआई विकास की गति के साथ नियमों का मेल होना मुश्किल है। प्रोफेसर वुडवर्ड और माइंडगार्ड के संस्थापक गाराघन का मानना है कि एआई के दुरुपयोग करने वालों की पहचान और उन पर कार्रवाई पर अधिक ध्यान देना चाहिए।
