
विशेषज्ञों की एक नई रिपोर्ट ने चेतावनी दी है कि कैसे तकनीकी बड़ी कंपनियों के बीच बढ़ती प्रतिस्पर्धा कृत्रिम बुद्धिमत्ता (एआई) प्रणालियों के दुर्भावनापूर्ण उपयोग को बढ़ावा दे सकती है। रिपोर्ट के प्रमुख लेखक, योशू बेंगियो“आधुनिक एआई के गॉडफादर्स में से एक” के रूप में भी जाना जाता है, ने एआई तकनीक की तेजी से उन्नति से जुड़े जोखिमों पर प्रकाश डाला, विशेष रूप से डीपसेक जैसी कंपनियों के उद्भव के साथ, एक चीनी स्टार्टअप जिसने इस क्षेत्र में अमेरिकी प्रभुत्व को चुनौती दी है। के बारे में दीपसेकएआई विकास में सुरक्षा और नैतिक विचारों पर अधिक ध्यान देने की आवश्यकता पर जोर देते हुए तेजी से प्रगति। बेंगियो ने यह भी चेतावनी दी है कि अमेरिकी कंपनियों सहित प्रतियोगी, सुरक्षा से समझौता करके अपनी बढ़त हासिल करने को प्राथमिकता देना शुरू कर सकते हैं।
एआई जाति के बारे में ‘एआई के गॉडफादर’ ने क्या कहा
द गार्जियन के साथ एक साक्षात्कार में, बेंगियो ने कहा: “यह एक करीबी दौड़ का मतलब है, जो आमतौर पर देखने के दृष्टिकोण से अच्छी बात नहीं हैएआई सुरक्षा। यदि आप दो संस्थाओं के बीच एक प्रतियोगिता की कल्पना करते हैं और एक को लगता है कि वे आगे हैं, तो वे अधिक विवेकपूर्ण हो सकते हैं और फिर भी जानते हैं कि वे आगे रहेंगे। जबकि यदि आपके पास दो संस्थाओं के बीच एक प्रतियोगिता है और उन्हें लगता है कि दूसरा सिर्फ उसी स्तर पर है, तो उन्हें तेजी लाने की आवश्यकता है। तब शायद वे सुरक्षा पर उतना ध्यान न दें। ”
ट्यूरिंग अवार्ड विजेता योशुआ बेंगियो के नेतृत्व में और 96 विशेषज्ञों द्वारा संकलित की गई पहली पूर्ण अंतर्राष्ट्रीय एआई सुरक्षा रिपोर्ट की घोषणा की गई थी, जिसकी घोषणा बेलेचले पार्क में 2023 एआई सुरक्षा शिखर सम्मेलन में की गई थी।
यूके सरकार द्वारा कमीशन, रिपोर्ट में एआई द्वारा उत्पन्न बढ़ते जोखिमों पर प्रकाश डाला गया है, जिसमें साइबर सुरक्षा और बायोविपोन्स विकास में दुर्भावनापूर्ण उपयोग की क्षमता भी शामिल है।
यह चेतावनी देता है कि एआई अब जैविक खतरों को बनाने के लिए विस्तृत निर्देश उत्पन्न कर सकता है, विशेषज्ञ क्षमताओं को पार कर सकता है। हालांकि, नौसिखियों पर इसका प्रभाव अनिश्चित है।
जोखिमों को स्वीकार करते हुए, रिपोर्ट एआई के लाभों पर भी जोर देती है, विशेष रूप से चिकित्सा में। अगला ग्लोबल एआई शिखर सम्मेलन पेरिस में फरवरी के लिए निर्धारित है।