ओपनएआई ने तीन शोधकर्ताओं को काम से निकाल दिया है, जिन पर आरोप है कि उन्होंने संवेदनशील जानकारी का गलत प्रबंधन किया। इसमें एक बाहरी संगठन के साथ काम भी शामिल था, जो आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल का विश्लेषण करता है।
एक प्रवक्ता ने बीबीसी को बताया, “हमारी जांच में पुष्टि हुई है कि इन व्यक्तियों ने कंपनी की स्थापित प्रक्रियाओं के बाहर संवेदनशील जानकारी का गलत प्रबंधन किया, जिससे हमारी नीतियों का उल्लंघन हुआ और हमारे काम के लिए आवश्यक विश्वास को तोड़ा गया।”
ओपनएआई ने निकाले गए कर्मचारियों के नाम का खुलासा नहीं किया है, लेकिन बताया गया है कि इनमें से कम से कम दो व्यक्ति कंपनी में सुरक्षा अनुसंधान से जुड़े थे। ये कार्रवाई उस समय हुई है जब एआई सुरक्षा और इस तकनीक के मानवता पर पड़ने वाले संभावित खतरों पर चर्चा तेज हो गई है।
सुरक्षा चिंताओं का बढ़ता ध्यान
प्रवक्ता ने कहा, “हमने तीन व्यक्तियों से नाता तोड़ लिया है क्योंकि उन्होंने संवेदनशील कंपनी जानकारी को एक्सेस करने और प्रबंधित करने की नीतियों का उल्लंघन किया।” बीबीसी के अनुसार, पूर्व कर्मचारियों को सुरक्षा चिंताओं को उठाने के लिए नहीं निकाला गया, बल्कि आरोप है कि उन्होंने संवेदनशील जानकारी को गलत तरीके से संभाला।
एआई सुरक्षा के मुद्दे को लेकर हाल के हफ्तों में कुछ शोधकर्ताओं और उद्योग के अधिकारियों ने इस तकनीक के चारों ओर अधिक सुरक्षा उपायों की मांग की है। ओपनएआई को भी कड़ी निगरानी का सामना करना पड़ा है, जब इसके मॉडल ने कुछ प्लेटफार्मों को हैक किया, जिसमें ऑस्ट्रेलियाई सरकारी वेबसाइटें शामिल थीं।
ओपनएआई की गतिविधियों की समीक्षा
एक पूर्व घटना में, ओपनएआई की प्रणाली ने इंटरनेट का उपयोग किया और ओपन-सोर्स डेवलपर प्लेटफार्म हगिंग फेस का उल्लंघन किया। इस घटना ने ओपनएआई को अपने एआई मॉडल की गतिविधियों की व्यापक समीक्षा करने के लिए प्रेरित किया। ये मॉडल ऐसे एजेंट कहलाते हैं, जिन्हें सरल निर्देशों के आधार पर स्वायत्त रूप से कार्य करने के लिए डिज़ाइन किया गया है।
इस सप्ताह ओपनएआई ने कहा कि उसने 100 से अधिक संगठनों को सूचित किया है जो इसके एआई सिस्टम से जुड़ी अनधिकृत गतिविधियों से प्रभावित हुए हैं। ओपनएआई ने स्पष्ट किया कि सूचित किया जाना “इसका मतलब नहीं है कि कोई निजी जानकारी एक्सेस की गई” या कि कोई प्रणाली प्रभावित हुई है।
एआई विकास की गति पर सवाल
सितंबर में, शोधकर्ता जैकब कॉक्सन, जिन्होंने एंथ्रोपिक से इस्तीफा दिया, ने एआई विकास की गति को धीमा करने की मांग की ताकि इसके संभावित खतरों का सही आकलन किया जा सके। एंथ्रोपिक के प्रमुख डारियो अमोडेई और ओपनएआई के मुख्य कार्यकारी सैम ऑल्टमैन ने भी एआई के संबंध में चिंताओं को दूर करने के लिए उपायों की मांग की है।
मंगलवार को, अमेरिका के राष्ट्रपति डोनाल्ड ट्रंप ने एआई पर चर्चा करने के लिए ओपनएआई, एंथ्रोपिक, एनवीडिया, स्पेसएक्स, मेटा और गूगल के नेताओं सहित उच्च तकनीकी अधिकारियों की बैठक की। व्हाइट हाउस में इस बैठक के बाद, ट्रंप ने एक दस्तावेज़ साझा किया जिसे उन्होंने “नैतिक रूप से बाध्यकारी” समझौता कहा, जो एआई के संभावित खतरों से “संरक्षण के एक रूप” के रूप में काम करेगा।
कुछ तकनीकी विशेषज्ञों ने इस संधि की आलोचना की है, यह कहते हुए कि यह एआई कंपनियों को अपनी खुद की निगरानी करने की अनुमति देती है। ट्रंप ने तकनीक के खतरों के बारे में चिंताओं को बार-बार कम करके आंका है, जबकि कुछ उद्योग के व्यक्तियों ने इस तकनीक की अधिक कड़ी निगरानी की मांग की है।
