एंथ्रोपिक ने हाल ही में अपनी खतरा खुफिया रिपोर्ट में खुलासा किया है कि उसके एआई मॉडल का “दुरुपयोग” करने की कोशिश की गई थी, जिससे जैविक हथियारों के विकास में सहायता मिल सकती थी। यह खोज एआई शोधकर्ताओं और उद्योग के अंदरूनी लोगों द्वारा तकनीक के संभावित खतरों के बारे में बढ़ते चेतावनियों की श्रृंखला में नवीनतम है।
खतरा खुफिया रिपोर्ट का मुख्य बिंदु
कंपनी ने अपनी नवीनतम खतरा खुफिया रिपोर्ट को सार्वजनिक किया है, जिसमें अन्य एआई कंपनियों की तरह ही विभिन्न मामलों की जानकारी दी गई है। गूगल ने भी मंगलवार को बताया कि उसके एआई टूल जेमिनी का उपयोग “जैविक हथियारों के लिए तकनीकी मार्गदर्शिका” प्राप्त करने के प्रयास में किया गया था।
एंथ्रोपिक की रिपोर्ट के अनुसार, उसके एआई मॉडल क्लॉड का उपयोग रूस-आधारित साइबर जासूसी अभियान और एक ईरानी प्रचार संस्थान से जुड़े लोगों द्वारा किया गया था। रिपोर्ट में आठ महीनों के दौरान चिंता के मामलों का उल्लेख किया गया है, जिसमें फर्जी डेटिंग ऐप्स और होटल वाईफाई घोटाले से लेकर असंतुष्टों की पहचान करने के लिए निगरानी तक शामिल हैं।
जैविक हथियारों का खतरा
एंथ्रोपिक ने ऐसे वैज्ञानिकों को भी रोका है जो उसके एआई का उपयोग जैविक हथियारों के विकास में सहायता के लिए कर सकते थे। रिपोर्ट में कहा गया है कि जैविक दुरुपयोग “फ्रंटियर एआई मॉडल का सबसे गंभीर खतरा” है।
एंथ्रोपिक के खतरा खुफिया प्रमुख जैकब क्लेन ने न्यूयॉर्क टाइम्स को बताया कि स्थिति “बेहद जटिल” है। उन्होंने कहा, “आप किसी को कॉमिक बुक की तरह यह कहते हुए नहीं देख रहे हैं कि मैं जैविक हथियार बनाना चाहता हूँ।”
एआई के बढ़ते खतरे और अंतर्राष्ट्रीय प्रतिक्रिया
कंपनी ने अपनी प्रक्रियाओं में अपने निष्कर्षों को शामिल किया है ताकि भविष्य में इन गतिविधियों को बेहतर तरीके से रोका जा सके। एंथ्रोपिक ने उपयुक्त स्थानों पर प्राधिकरणों और उद्योग सहयोगियों के साथ खुफिया जानकारी साझा की है।
एंथ्रोपिक के शीर्ष सुरक्षा शोधकर्ता ने चेतावनी दी है कि एआई इतनी तेजी से विकसित हो रहा है कि अगले दशक में इसके मानवता के लिए विनाशकारी प्रभाव होने की 10% से अधिक संभावना है। ओपनएआई के मुख्य वैज्ञानिक याकूब पाचोकी ने उद्योग को “स्वैच्छिक धीमी गति” अपनाने का आह्वान किया है जब तक कि सुरक्षा उपाय स्थापित नहीं हो जाते।
