एंथ्रोपिक के प्रमुख डारियो अमोडेई चाहते हैं कि शक्तिशाली आर्टिफिशियल इंटेलिजेंस का निर्माण करने वाली कंपनियां अपनी गति को धीमा करें। उनका मानना है कि फ्रंटियर क्षमताओं की प्रगति को इतना धीमा करना चाहिए कि सुरक्षा और सुरक्षा कार्य उनके साथ मेल खा सके। इसे वह “फ्रंटियर की गति” कहते हैं। अमोडेई का कहना है कि दो चीजें बदली हैं। एआई अब अगली पीढ़ी के एआई के निर्माण में मदद कर रहा है, जिससे पुनरावृत्त स्व-सुधार की संभावना बढ़ रही है। साथ ही, फ्रंटियर एजेंट परीक्षण के दौरान ऐसे काम करने लगे हैं जो उनके डेवलपर्स ने अपेक्षित या अधिकृत नहीं किए थे।
एंथ्रोपिक के अंदर से उठी चेतावनी
इसके बाद जैकब कॉक्सन का आगमन हुआ। एंथ्रोपिक के शोधकर्ता, जिन्होंने पहले ओपनएआई में काम किया था, ने अपनी इक्विटी वेस्ट होने से पहले इस्तीफा दे दिया और उद्योग पर “हमारे जीवन के साथ जुआ खेलने” का आरोप लगाया। उनका डर कि स्वायत्त प्रणालियाँ दशक के अंत से पहले मानवता को खतरा पहुँचा सकती हैं, कोई वैज्ञानिक पूर्वानुमान नहीं है। कॉक्सन की चेतावनी की खास बात यह है कि यह चेतावनी उन प्रयोगशालाओं के अंदर से आई है जो फ्रंटियर के सबसे करीब हैं।
बड़ी तकनीकी कंपनियों का विरोधाभास
बड़ी तकनीकी कंपनियों द्वारा चेतावनी देना एक असहज विडंबना है। एंथ्रोपिक इस अर्थव्यवस्था के बाहर खड़े होकर दूसरों को इसके बारे में चेतावनी नहीं दे रहा है। 2025 में, इसने अमेरिकी राष्ट्रीय सुरक्षा के लिए एआई क्षमताओं के विकास के लिए $200 मिलियन की सीमा के साथ दो साल के पेंटागन समझौते को स्वीकार कर लिया। एंथ्रोपिक ने कहा कि उसने बड़े पैमाने पर घरेलू निगरानी और पूरी तरह से स्वायत्त हथियारों के आसपास अपनी प्रतिबंधों को हटाने की मांगों को अस्वीकार कर दिया। विरोधाभास यह है कि कंपनियां जो चेतावनी दे रही हैं कि शक्तिशाली एआई को नियंत्रित करना मुश्किल हो सकता है, वे इसे सैन्य और खुफिया प्रणालियों में गहराई से ले जा रही हैं।
एआई नियामकों की आवश्यकता
यह विरोधाभास एंथ्रोपिक से परे है। एसोसिएटेड प्रेस की जांच में पाया गया कि इज़राइली सेना द्वारा गाज़ा और लेबनान में माइक्रोसॉफ्ट और ओपनएआई की वाणिज्यिक तकनीक का उपयोग किया जा रहा है, जिसमें लक्ष्यीकरण से जुड़े खुफिया सिस्टम शामिल हैं। माइक्रोसॉफ्ट ने बाद में कहा कि उसकी समीक्षा में कोई सबूत नहीं मिला कि उसकी तकनीक का उपयोग नागरिकों को नुकसान पहुँचाने के लिए किया गया था।
एंथ्रोपिक की अपनी खतरे की रिपोर्टिंग ने चिंता को अधिक ठोस बना दिया है। कंपनी का कहना है कि उसने साइबर ऑपरेशंस, निगरानी, पारंपरिक हथियार विकास और जैविक दुरुपयोग के लिए क्लॉड का उपयोग करने के प्रयासों को विफल कर दिया है।
सुरक्षा परीक्षण में सामने आई घटनाएँ
सुरक्षा परीक्षण के दौरान सामने आई घटनाएँ अधिक खुलासा करने वाली थीं। जुलाई में, ओपनएआई ने खुलासा किया कि साइबर मूल्यांकन में मॉडल ने आइसोलेशन नियंत्रण को दरकिनार कर दिया, इंटरनेट तक पहुंच बनाई और ओपनएआई के अपने शोध बुनियादी ढांचे और हगिंग फेस से संबंधित प्रणालियों को प्रभावित किया। एंथ्रोपिक ने शुरुआत में तीन मामलों का खुलासा किया जिसमें क्लॉड मॉडल ने मूल्यांकन के दौरान वास्तविक तृतीय-पक्ष प्रणालियों तक अनधिकृत पहुंच प्राप्त की और बाद में चौथे की पहचान की।
इसका मतलब यह नहीं है कि कोई एआई अचानक सचेत या दुर्भावनापूर्ण हो गया है। तत्काल समस्या पैमाना है। एक सक्षम हैकर, हथियार इंजीनियर या निगरानी संचालन को विशेषज्ञता, समय और लोगों की आवश्यकता होती है। एआई इन बाधाओं को कम कर सकता है, मशीन की गति से काम कर सकता है और एक ऑपरेटर को एक साथ कई विशेषज्ञ एजेंट चलाने की अनुमति दे सकता है।
स्वतंत्र मूल्यांकन की आवश्यकता
अमोडेई का उत्तर यह है कि स्वतंत्र मूल्यांकनकर्ताओं को फ्रंटियर प्रयोगशालाओं और उनकी सुरक्षा प्रक्रियाओं तक स्थायी, कर्मचारी जैसे पहुंच दी जाए। वह चाहते हैं कि कंपनियां सामान्य मानकों के आसपास समन्वय करें और अंततः किसी प्रकार के अंतरराष्ट्रीय समझौते तक पहुंचें।
हालांकि, सवाल यह है कि मूल्यांकनकर्ताओं का चयन कौन करेगा। कौन भुगतान करेगा? वे क्या प्रकाशित कर सकते हैं? और अगर कोई मूल्यांकनकर्ता कहता है कि कोई मॉडल असुरक्षित है और कंपनी इसे जारी करती है तो क्या होगा?
नियमों की आवश्यकता और चुनौतियाँ
नियमों की आवश्यकता है, लेकिन यह अपने खतरों के साथ आता है। एआई कंपनियों द्वारा बड़े पैमाने पर लिखे गए नियम सबसे बड़ी फर्मों को मजबूती दे सकते हैं। सरकारों द्वारा बहुत व्यापक रूप से लिखे गए नियम ‘एआई सुरक्षा’ को सेंसरशिप, निगरानी या वैध शोध और भाषण पर नियंत्रण के बहाने में बदल सकते हैं।
एक बेहतर दृष्टिकोण जोखिम-आधारित होगा। कम जोखिम वाले अनुप्रयोगों को कम हस्तक्षेप की आवश्यकता होती है, जबकि साइबर क्षमता, जैविक जोखिम, हथियार, महत्वपूर्ण बुनियादी ढांचे या स्वायत्त कार्रवाई जैसे क्षेत्रों में परिभाषित सीमा को पार करने वाली प्रणालियों को अधिक कठोर आवश्यकताओं का सामना करना पड़ता है।
स्वतंत्र परीक्षण से पहले फ्रंटियर मॉडल को अनिवार्य रूप से गुजरना चाहिए, गंभीर घटनाओं का खुलासा किया जाना चाहिए, और कंपनियों को पूर्वानुमानित हानियों के लिए उत्तरदायित्व बनाए रखना चाहिए।
मूल्यांकनकर्ताओं को संरक्षित वित्तपोषण की आवश्यकता है, और व्हिसलब्लोअर्स को कानूनी सुरक्षा की आवश्यकता है। नियामकों को पारदर्शी रूप से संचालित करना चाहिए और न्यायिक निगरानी के अधीन रहना चाहिए। सबसे महत्वपूर्ण बात यह है कि नियमों को खतरनाक क्षमताओं और आचरण को लक्षित करना चाहिए, न कि राजनीतिक दृष्टिकोण या वैध अभिव्यक्ति को।
अब मुश्किल सवाल यह नहीं है कि एआई को निगरानी की आवश्यकता है या नहीं। यहां तक कि सबसे शक्तिशाली प्रणालियों का निर्माण करने वाले कुछ लोग अब कहते हैं कि ऐसा करना आवश्यक है। चुनौती यह है कि नियमों को इतना मजबूत बनाना है कि इसका महत्व हो, बिना किसी निगम या सरकार को ऐसी शक्तियां दिए जो एक अलग तरह के खतरे का निर्माण करती हैं।
