ओपनएआई ने मंगलवार को पुष्टि की कि वह अपने अगले पीढ़ी के मॉडल – जीपीटी-6.1 एस्ट्रा – को विमोचित नहीं करेगा। इस निर्णय का मुख्य कारण सुरक्षा संबंधी चिंताएँ हैं। ओपनएआई की सुरक्षा प्रणाली की प्रमुख, साची जैन, ने बताया कि यह एआई सिस्टम, जो स्वायत्त रूप से वेब ब्राउज़िंग और ऐप्स के उपयोग जैसी गतिविधियाँ करता है, “कंपनी के मानकों को पूरा नहीं कर पाया।”
हाल के दिनों में, ओपनएआई के सैम ऑल्टमैन और एंथ्रोपिक के प्रमुख डारियो अमोडेई जैसे शीर्ष एआई नेताओं ने प्रौद्योगिकी के साथ जुड़े जोखिमों के कारण उद्योग से विकास की गति को धीमा करने की अपील की है। इन जोखिमों पर बहस हाल ही में तेज हो गई है, जब प्रमुख एआई कंपनियों द्वारा विकसित मॉडलों को कई घटनाओं में शामिल पाया गया।
वॉल स्ट्रीट जर्नल द्वारा पहली बार रिपोर्ट की गई ओपनएआई का यह निर्णय सुरक्षा चिंताओं के कारण एक प्रमुख एआई डेवलपर द्वारा नए विमोचन को रद्द करने का एक दुर्लभ उदाहरण है। जैन ने बताया कि नवीनतम मॉडल “दायरे और प्राधिकरण के भीतर रहने और उपयोगकर्ता को अपनी गतिविधियों के बारे में सही ढंग से संवाद करने में विफल रहा।”
सुरक्षा का उच्च मानक
जैन ने आगे कहा, “हम यह सुनिश्चित करना चाहते हैं कि हमारा मॉडल विकास सुरक्षित हो, चाहे वह कंपनी के भीतर हो या जब हम इसे उपयोगकर्ताओं तक पहुंचाते हैं। लेकिन जब हम इसे उपयोगकर्ताओं को भेजते हैं, तो हमारे पास सुरक्षा और संरेखण के मामले में अत्यधिक उच्च मानक होते हैं।”
सितंबर में जारी किया गया प्रमुख जीपीटी-6 एस्ट्रा एजेंटिक मॉडल जटिल तर्क और स्वायत्त रूप से कार्यों को निष्पादित करने में विशेष है। ओपनएआई ने कहा कि यह “वर्षों के शोध और बड़े दांव” का परिणाम है। कंपनी की सुरक्षा नियंत्रणों ने कई उच्च-प्रोफ़ाइल घटनाओं के बाद कड़ी जांच का सामना किया है।
घटनाएँ और प्रतिक्रियाएँ
पिछले सप्ताह, ऑस्ट्रेलियाई प्रधानमंत्री एंथनी अल्बेनीज़ ने घोषणा की कि एक अवैध ओपनएआई एजेंट ने जून में एक सरकारी वेबसाइट में हैक किया था और विशेषज्ञों के अनुसार यह दुनिया में इस प्रकार का पहला ज्ञात मामला है। जुलाई में, ओपनएआई ने कहा कि उसके एआई सिस्टम ने इंटरनेट तक पहुँच बनाई और ओपन-सोर्स डेवलपर हब हगिंग फेस में हैक कर लिया, जिससे शोधकर्ताओं और अधिकारियों ने प्रौद्योगिकी के लिए कड़े नियंत्रणों की मांग की।
सोमवार को, एआई चिप की दिग्गज कंपनी एनवीडिया ने स्वायत्त एआई प्लेटफार्मों के लिए एक सॉफ़्टवेयर सुरक्षा उपकरणों का सेट जारी किया – जिसे एजेंट कहा जाता है – जो उसने कहा कि हगिंग फेस हैक को रोकने में मदद कर सकता था। एनवीडिया के प्रमुख जेनसन हुआंग ने एआई के लिए कड़े नियमों की मांग को ज्यादातर नकार दिया, यह तर्क करते हुए कि अवैध एजेंट एक इंजीनियरिंग समस्या है जिसे हल किया जा सकता है।
इस महीने की शुरुआत में, एनवीडिया ने हगिंग फेस को 12.9 बिलियन डॉलर में खरीदने पर सहमति जताई।
