एंथ्रोपिक सीईओ डेरियो अमोदेई ने अमेरिकी सीनेट के सामने गवाही दी कि एआई सिस्टम निकट भविष्य में जैव हथियार और अन्य खतरनाक हथियार बनाने का बड़ा जोखिम पैदा करते हैं।
पिछले साल नवंबर में ChatGPT की शुरुआत के बाद से जेनरेटिव AI परिदृश्य तेजी से विकसित हो रहा है। नियामकों और विशेषज्ञों की बढ़ती चिंताओं के बावजूद, कई नए चैटबॉट और टूल बढ़ी हुई क्षमताओं और सुविधाओं के साथ सामने आए हैं। हालाँकि, ये चैटबॉट वैश्विक सुरक्षा और स्थिरता के लिए नया ख़तरा भी पैदा कर सकते हैं।
एंथ्रोपिक के सीईओ डेरियो अमोदेई ने चेतावनी दी कि एआई सिस्टम अगले दो से तीन वर्षों में अपराधियों को जैविक हथियार और अन्य खतरनाक हथियार बनाने में सक्षम बना सकते हैं। ओपनएआई के पूर्व कर्मचारियों द्वारा स्थापित कंपनी एंथ्रोपिक हाल ही में अपने चैटजीपीटी प्रतिद्वंद्वी, क्लाउड की रिलीज के साथ सुर्खियों में आई है।
स्टार्टअप ने कथित तौर पर भविष्य के हथियारीकरण के लिए बड़े भाषा मॉडल की क्षमता का पता लगाने के लिए जैव सुरक्षा विशेषज्ञों से परामर्श किया है।
गुरुवार को एक सुनवाई में, अमोदेई ने अमेरिकी सीनेट प्रौद्योगिकी उपसमिति के समक्ष गवाही दी कि साइबर सुरक्षा, परमाणु प्रौद्योगिकी, रसायन विज्ञान और जीवविज्ञान जैसे क्षेत्रों में दुर्भावनापूर्ण उद्देश्यों के लिए एआई चैटबॉट्स के उपयोग से निपटने के लिए विनियमन की सख्त आवश्यकता है।
“हम जो भी करें, वह तेजी से होना चाहिए। और मुझे लगता है कि लोगों के दिमाग को बायोरिस्क पर केंद्रित करने के लिए, मैं वास्तव में 2025, 2026, शायद 2024 की कुछ संभावना को भी लक्ष्य बनाऊंगा। अगर हमारे पास ऐसी चीजें नहीं हैं जो एआई सिस्टम के साथ क्या किया जा सकता है, तो हम इसे रोक रहे हैं, हम जा रहे हैं वास्तव में बहुत बुरा समय बीतने वाला है,” उन्होंने मंगलवार को सुनवाई में गवाही दी।
यह पहली बार नहीं है कि किसी एआई कंपनी ने उस उत्पाद के खतरों को स्वीकार किया है जिसे वे स्वयं बना रहे हैं और विनियमन की मांग की है। उदाहरण के लिए, चैटजीपीटी के पीछे की कंपनी ओपनएआई के प्रमुख सैम अल्टमैन ने जून में दक्षिण कोरिया की यात्रा के दौरान जेनरेटर एआई पर अंतरराष्ट्रीय नियमों का आग्रह किया।
सीनेटरों के सामने अपनी गवाही में, अमोदेई ने कहा कि Google और पाठ्यपुस्तकों में नुकसान पैदा करने के लिए केवल आंशिक जानकारी होती है, जिसके लिए बहुत अधिक विशेषज्ञता की आवश्यकता होती है। लेकिन उनकी कंपनी और सहयोगियों ने पाया है कि मौजूदा एआई सिस्टम उनमें से कुछ कमियों को भरने में मदद कर सकते हैं।
“हमने और हमारे सहयोगियों ने जिस प्रश्न का अध्ययन किया वह यह है कि क्या वर्तमान एआई सिस्टम इन उत्पादन प्रक्रियाओं में कुछ अधिक कठिन चरणों को भरने में सक्षम हैं। हमने पाया कि आज के एआई सिस्टम इनमें से कुछ चरणों को पूरा कर सकते हैं – लेकिन अपूर्ण और अविश्वसनीय रूप से। वे जोखिम के पहले, शुरुआती लक्षण दिखा रहे हैं।”
उन्होंने चेतावनी दी कि यदि उचित दिशानिर्देश पेश नहीं किए गए, तो एआई सिस्टम उन गायब कमियों को पूरी तरह से भरने में सक्षम होंगे।
“हालाँकि, आज की प्रणालियों का सीधा-सीधा एक्सट्रपलेशन उन प्रणालियों के लिए है जिन्हें हम दो से तीन वर्षों में देखने की उम्मीद करते हैं, यह एक बड़ा जोखिम बताता है कि यदि उपयुक्त रेलिंग और शमन नहीं किए गए तो एआई सिस्टम सभी लापता टुकड़ों को भरने में सक्षम होंगे। इससे बड़े पैमाने पर जैविक हमले करने की तकनीकी क्षमता वाले अभिनेताओं की सीमा काफी बढ़ सकती है।”
इसके अलावा, ये ख़तरे ओपन-सोर्स बड़े भाषा मॉडल की बढ़ती शक्ति से बढ़ गए हैं। दुर्भावनापूर्ण उद्देश्यों के लिए उपयोग किए जा रहे एआई सिस्टम का एक उदाहरण फ्रॉडजीपीटी है, जो एक बॉट है जो क्रैकिंग टूल, फ़िशिंग ईमेल और अन्य अपराध बनाने की क्षमता के लिए डार्क वेब में चर्चा का विषय बन रहा है।