एआई सुरक्षा केवल ‘दुष्ट एआई’ को रोकने के बारे में नहीं है

बी रवींद्रन और कृष्णन नारायणन

एआई को हमारे समय की सबसे परिवर्तनकारी तकनीकों में से एक माना जाता है। फिर भी, जैसे-जैसे इसकी क्षमताएं तीव्र गति से आगे बढ़ती हैं, सवाल उठता है एआई सुरक्षा सर्वोपरि हो गया है. एआई सुरक्षा को अक्सर अस्तित्वगत जोखिमों के शमन के रूप में तैयार किया जाता है – एक काल्पनिक ‘को रोकना’दुष्ट ए.आई‘ ऊपर उठती मानवता से। हालाँकि, केवल ऐसे दूर के परिदृश्यों पर ध्यान केंद्रित करने से सुरक्षित और जिम्मेदार तैनाती के आसपास की गंभीर चिंताओं को नजरअंदाज करने का जोखिम है एआई सिस्टम आज। यहां एआई सुरक्षा के तीन महत्वपूर्ण आयाम हैं जिन पर तत्काल ध्यान देने की आवश्यकता है।
1. प्रबंध करना एआई संरेखण मुद्दे
एआई सुरक्षा यह सुनिश्चित करने से शुरू होती है कि तैनात एआई सिस्टम उनके इच्छित लक्ष्यों और सामाजिक मूल्यों के साथ संरेखित हों। गलत संरेखित प्रणालियाँ – जहाँ AI अनपेक्षित या हानिकारक तरीकों से कार्य करता है – उद्योगों में महत्वपूर्ण जोखिम पैदा करता है। उदाहरण के लिए, प्रशिक्षण डेटा या अपर्याप्त निरीक्षण तंत्र में खामियों के कारण एआई उपकरण पक्षपाती या अनुचित आउटपुट उत्पन्न करने के लिए प्रलेखित किए गए हैं। लेना स्वायत्त वाहन. हालाँकि ये प्रणालियाँ यातायात दुर्घटनाओं को कम करने का वादा करती हैं, लेकिन वास्तविक दुनिया के सूक्ष्म परिदृश्यों में उनकी निर्णय-प्रक्रिया विफल हो सकती है, जिसके कभी-कभी दुखद परिणाम भी हो सकते हैं। इसी तरह, एआई-आधारित भर्ती प्लेटफार्मों को भेदभाव (उदाहरण के लिए, महिलाओं के खिलाफ) को कायम रखने के लिए प्रतिक्रिया का सामना करना पड़ा है, क्योंकि उनके एल्गोरिदम उनके प्रशिक्षण डेटा में मौजूद ऐतिहासिक पूर्वाग्रहों को प्राथमिकता देते हैं।
जेनेरिक एआई टूल के आगमन के साथ, नेशनल इंस्टीट्यूट ऑफ स्टैंडर्ड्स एंड टेक्नोलॉजी, यूएस, मानव-एआई इंटरैक्शन में लक्ष्य गलत संरेखण के अलावा, मतिभ्रम, कॉपीराइट उल्लंघन और गलत सूचना सहित बारह प्रमुख जोखिमों पर प्रकाश डालता है। उदाहरण के लिए, भाषा मॉडल प्रशंसनीय लेकिन पूरी तरह से झूठे दावे उत्पन्न कर सकते हैं, जो संभावित रूप से नकली समाचारों के प्रसार को बढ़ा सकते हैं। जैसा कि वाधवानी स्कूल ऑफ डेटा साइंस एंड आर्टिफिशियल इंटेलिजेंस (डब्लूएसएआई) के शोधकर्ताओं ने जोर दिया है, एआई संरेखण प्राप्त करने के लिए बेहतर प्रशिक्षण डेटा, मजबूत मॉडल परीक्षण और उभरते सामाजिक संदर्भों के अनुकूल नियमित अपडेट की आवश्यकता होती है।
2. संपूर्ण एआई सिस्टम में सुरक्षा सुनिश्चित करना
यहां तक ​​कि अत्यधिक सक्षम AI मॉडल भी 100% सुरक्षा सुनिश्चित नहीं कर सकते। इसलिए सुरक्षा को प्रणालीगत स्तर पर देखना आवश्यक है। एक पारंपरिक ऑटोमोबाइल की सुरक्षा पर विचार करें – यह आंतरिक दहन इंजन की सुरक्षा से परे है और ब्रेक, एयरबैग और पूरे वाहन के संरचनात्मक डिजाइन को शामिल करता है। इसी तरह, एआई प्रणाली की सुरक्षा उसके मॉडल/एल्गोरिदम से परे फैली हुई है, और इसमें डेटा संग्रह, डेटा फ़िल्टरिंग, आउटपुट रेलिंग के कार्यान्वयन और तैनाती के बाद निरंतर निगरानी की प्रक्रियाएं शामिल होनी चाहिए।
उदाहरण के लिए, अनफ़िल्टर्ड या पक्षपाती डेटासेट पर प्रशिक्षित एक अनुशंसा इंजन समस्याग्रस्त परिणाम दे सकता है। जैसे कि कैसे एआई इंजन मुख्य रूप से महिला नर्सों और पुरुष डॉक्टरों को दिखाकर रूढ़िवादिता को गलत तरीके से मजबूत करते हैं। इसी तरह, हथियार निर्माण या आत्म-नुकसान के तरीकों जैसे विषयों पर चर्चा से बचने के लिए चैटजीपीटी, जेमिनी या क्लाउड जैसे चैटबॉट्स में आउटपुट फ़िल्टरिंग तंत्र का उपयोग किया जाता है। इन सुरक्षा उपायों के बिना, तकनीकी रूप से मजबूत मॉडल भी महत्वपूर्ण नुकसान पहुंचा सकता है।
सतत् निगरानी एक अन्य आवश्यक पहलू है। पारंपरिक सॉफ्टवेयर सिस्टम के विपरीत, एआई मॉडल समय के साथ सीखते हैं और विकसित होते हैं, जिससे व्यवहार में विचलन या अनपेक्षित परिणामों का पता लगाने के लिए निरंतर निरीक्षण की आवश्यकता होती है। के लिए केंद्र पर जिम्मेदार ए.आईहम न केवल मॉडलों को देख रहे हैं, बल्कि उन अनुप्रयोगों और सांस्कृतिक सेटिंग्स को भी देख रहे हैं जिनमें मॉडल संचालित होते हैं। हमने ऐसे ढांचे बनाए हैं जो भारतीय दंड संहिता और जेनएआई आधारित चैट सेवाओं के संदर्भ में निष्पक्षता के लिए कानूनी एआई मॉडल का मूल्यांकन करते हैं जो बहुत केंद्रित स्वास्थ्य देखभाल प्रश्नों का उत्तर देते हैं।
3. दीर्घकालिक एआई के सामाजिक निहितार्थ
शायद एआई सुरक्षा का सबसे अनदेखा पहलू इसके दीर्घकालिक सामाजिक निहितार्थ हैं। एआई सिस्टम अनजाने में सांस्कृतिक विरासत को नष्ट कर सकता है, आजीविका को विस्थापित कर सकता है और सामाजिक असमानताओं को गहरा कर सकता है। सावधानीपूर्वक विचार किए बिना, एआई की तैनाती विविध सांस्कृतिक प्रथाओं, मूल्यों और ज्ञान प्रणालियों को एकरूप बनाने का जोखिम उठाती है।
उदाहरण के लिए, कृषि-सलाहकार एआई उपकरण, जो आमतौर पर वेब-आधारित डेटासेट पर प्रशिक्षित होते हैं, पारंपरिक कृषि पद्धतियों को पहचानने या जैविक, घर-निर्मित उर्वरकों के उपयोग की अनुशंसा करने में विफल हो सकते हैं। जापान में, शोधकर्ताओं ने नोट किया है कि एआई उपकरण शायद ही कभी पारंपरिक दवाओं का सुझाव देते हैं, इसके बजाय पश्चिमी फार्माकोलॉजिकल मॉडल का पक्ष लेते हैं। क्या हेल्थकेयर एआई सिस्टम आयुर्वेदिक बुद्धिमत्ता से सीख सकता है? WSAI का AI4भारत केंद्र सांस्कृतिक कलाकृतियों को एकत्र करने और पारंपरिक ज्ञान प्रणालियों का दस्तावेजीकरण करके इस प्रवृत्ति का मुकाबला करने में सक्रिय रहा है। उनके काम का उद्देश्य यह सुनिश्चित करना है कि भारत में विकसित एआई उपकरण स्थानीय प्रथाओं का सम्मान करें और उन्हें शामिल करें।
एक अन्य दीर्घकालिक निहितार्थ सामाजिक संरचनाओं पर एआई का संभावित प्रभाव है। भारत में, ट्रक ड्राइवर कई ग्रामीण समुदायों में सबसे अधिक वेतन पाने वाले श्रमिकों में से हैं, और उनकी कमाई से पूरे गाँव का भरण-पोषण होता है। स्वायत्त ट्रकों को व्यापक रूप से अपनाने से यह सामाजिक ताना-बाना नष्ट हो सकता है, जिससे आर्थिक अव्यवस्था और सामाजिक गतिशीलता का नुकसान हो सकता है।
जिम्मेदार नवाचार
इन चुनौतियों से निपटने के लिए, एआई समुदाय को एआई सुरक्षा के लिए एक व्यापक ढांचा अपनाना होगा। इसमें वर्तमान जोखिमों को कम करने के लिए एआई संरेखण में सुधार करना, केवल मॉडलों पर ध्यान केंद्रित करने के बजाय संपूर्ण एआई सिस्टम की सुरक्षा सुनिश्चित करना और एआई प्रौद्योगिकियों के व्यापक सामाजिक प्रभावों को ध्यान में रखना शामिल है। यूके, यूएस, जापान और सिंगापुर की तरह भारत को भी एक एआई सुरक्षा संस्थान स्थापित करना चाहिए।