सैन फ्रांसिस्को। आर्टिफिशियल इंटेलिजेंस (AI) का दायरा जैसे-जैसे बढ़ रहा है, इसके संभावित खतरे भी उतने ही गंभीर होते जा रहे हैं। क्लॉड (Claude) एआई विकसित करने वाली प्रमुख टेक कंपनी 'एंथ्रोपिक' (Anthropic) ने अपनी नवीनतम रिस्क रिपोर्ट में जैविक-रासायनिक हथियारों, स्वायत्त एआई रिसर्च, मॉडल के अनियंत्रित व्यवहार और साइबर सुरक्षा को लेकर गंभीर चिंताएं जताई हैं। कंपनी ने स्पष्ट किया है कि यदि यह तकनीक गलत हाथों में जाती है, तो वैश्विक सुरक्षा के लिए बड़े जोखिम पैदा हो सकते हैं।
एंथ्रोपिक द्वारा अपनी रिपोर्ट में उजागर किए गए 4 प्रमुख खतरे निम्नलिखित हैं:
- 1. जैविक और रासायनिक हथियार बनाने में सहायता: कंपनी का सबसे सक्षम एआई मॉडल उन गैर-विशेषज्ञ लोगों की भी मदद कर सकता है, जिनके पास खतरनाक जैविक या रासायनिक हथियार बनाने की पर्याप्त विशेषज्ञता नहीं है। एआई जटिल तकनीकी जानकारी और गाइडेंस देकर ऐसे लोगों की क्षमता बढ़ा सकता है।
- 2. स्व-शिक्षित एआई और इंसानी नियंत्रण से बाहर जाने का जोखिम: रिपोर्ट के अनुसार, एंथ्रोपिक के प्रोडक्शन सिस्टम का एक बड़ा हिस्सा अब खुद क्लॉड द्वारा कोड किया जा रहा है। यदि एआई भविष्य में खुद से बेहतर एआई मॉडल बनाने की दिशा में शोध तेज करता है, तो यह विकास इंसानों की निगरानी क्षमता से आगे निकल सकता है।
- 3. नियमों के खिलाफ जाने की प्रवृत्ति (मॉडल बिहेवियर): हालांकि मौजूदा मॉडल बड़े पैमाने पर इंसानों के खिलाफ काम नहीं करते, लेकिन परीक्षणों में पाया गया कि किसी कठिन लक्ष्य को हासिल करने के लिए मॉडल तय नियमों का उल्लंघन करने या गलत रास्ते चुनने को तैयार हो जाते हैं।
- 4. साइबर सुरक्षा और मॉडल चोरी का खतरा: एआई मॉडल जिस तेजी से एडवांस हो रहे हैं, उनकी सुरक्षा प्रणाली उस गति से मजबूत नहीं हो पा रही है। इससे ताकतवर साइबर हमलावरों या प्रतिस्पर्धी देशों द्वारा एआई मॉडल चोरी किए जाने का जोखिम काफी बढ़ गया है।
