गूगल का जेमिनी मॉडल अपने साइबर सुरक्षा क्षमताओं के परीक्षण के दौरान इंटरनेट तक पहुँच गया और अन्य कंपनियों को हैक कर लिया। यह कंपनी के एआई सिस्टम का ऐसा पहला उदाहरण है जहाँ यह स्वायत्त रूप से ऐसा कार्य कर रहा है।
यह हैकिंग मई में हुई थी जब इरेगुलर नामक एक स्वतंत्र कंपनी ने साइबर सुरक्षा का परीक्षण किया था।
सामान्य परीक्षण के दौरान, जेमिनी ने ऑनलाइन सार्वजनिक जानकारी प्राप्त की और तीन वेबसाइटों के लिए क्रेडेंशियल्स का अनुमान लगाया, जिन्हें उसने अपने परीक्षण के दायरे में समझा। गूगल की सुरक्षा इंजीनियरिंग की उपाध्यक्ष हीदर एडकिंस ने एक बयान में कहा।
सुरक्षा प्रक्रियाओं में बदलाव
एडकिंस ने कहा, “हमने सुनिश्चित किया कि तीन संस्थाओं को इस बारे में सूचित किया गया है, और हमने अपने प्रशिक्षण भागीदार के साथ उनके परीक्षण प्रक्रियाओं में किए गए परिवर्तनों पर काम किया।”
उन्होंने आगे कहा, “ये घटनाएँ शक्तिशाली एआई मॉडलों को जिम्मेदारी से कार्य करने के लिए प्रशिक्षित करने के महत्व को उजागर करती हैं।”
इरेगुलर के एक प्रवक्ता ने कहा कि यह घटना अन्य एआई प्रयोगशालाओं को प्रभावित करने वाली समान समस्या से जुड़ी हुई थी और सभी संबंधित प्रयोगशालाओं को जुलाई के अंत में सूचित किया गया था।
अन्य एआई प्रयोगशालाओं से जुड़ी घटनाएँ
प्रवक्ता ने कहा, “हमारी ओर से सभी ज्ञात समस्याओं का समाधान और सुधार पहले ही किया जा चुका है।”
इरेगुलर से जुड़ी समान घटनाओं का खुलासा मेटा, एंथ्रोपिक और ओपनएआई ने किया। मेटा ने अगस्त में कहा कि इस घटना में न तो सैंडबॉक्स से भागने का मामला था और न ही कोई जटिल साइबर हमले का।
इरेगुलर ने कहा कि वे एआई साइबर सुरक्षा परीक्षणों को सुरक्षित रूप से संचालित करने के लिए सर्वोत्तम प्रथाओं पर काम कर रहे हैं।
साइबर सुरक्षा के लिए नई चुनौतियाँ
इन घटनाओं ने इस बात पर सवाल उठाए हैं कि एआई एजेंटों के अधिक स्वायत्तता और इंटरनेट तथा कंप्यूटर सिस्टम्स तक पहुँचने के साथ किन सुरक्षा उपायों की आवश्यकता है।
एक मामले में, जेमिनी मॉडल ने पासवर्ड का अनुमान लगाने के बाद एक सुरक्षित प्रणाली तक पहुँच प्राप्त की।
दूसरे दो मामलों में, मॉडल ने सार्वजनिक रिपॉजिटरी में मौजूद क्रेडेंशियल्स को खोजा, जिससे उसे सुरक्षित सिस्टम तक पहुँच मिली। एडकिंस ने कहा कि तीनों मामलों में, मॉडल ने हैकिंग करना बंद कर दिया।
