केवल प्रतिनिधित्व उद्देश्य के लिए छवि

एआई जनित घिबली-शैली कलाकृति तूफान से इंटरनेट सोशल मीडिया को ले लिया है, उपयोगकर्ताओं ने फिल्म के दृश्यों से लेकर व्यक्तिगत तस्वीरों में सब कुछ बदल दिया है जो हयाओ मियाज़ाकी की फिल्मों की प्रतिष्ठित एनीमेशन शैली की नकल करते हैं। Openai का नवीनतम चटपट अद्यतन इन आश्चर्यजनक चित्रों को बनाने के लिए पहले से कहीं अधिक आसान बना दिया है, एक वायरल प्रवृत्ति को बढ़ावा दिया है जिसने लाखों को ऑनलाइन मोहित कर दिया है। जबकि प्रवृत्ति मनोरंजक है, गोपनीयता विशेषज्ञ चिंताओं को बढ़ा रहे हैं। डेटा सुरक्षा पर केंद्रित एक मंच, प्रोटॉन ने उपयोगकर्ताओं को जुड़े जोखिमों के बारे में चेतावनी दी है एआई-जनित चित्र। एक्स पर एक पोस्ट में, प्रोटॉन ने कहा, “लगता है कि यह एक मजेदार प्रवृत्ति है? फिर से सोचें। जबकि कुछ के पास सोशल मीडिया पर सेल्फी साझा करने के लिए एक समस्या नहीं है,” घिबली-शैली “छवि बनाने की प्रवृत्ति ने कई लोगों को अपने और अपने परिवारों की ओपनई तस्वीरें खिलाते हुए देखा है”।
पोस्ट की एक श्रृंखला में, प्रोटॉन बताते हैं कि एआई मॉडल का उपयोग करके व्यक्तिगत फ़ोटो को कैसे और क्यों बदलना एक समस्या है। इसने कहा, “डेटा उल्लंघनों के जोखिमों से अलग, एक बार जब आप एआई के साथ व्यक्तिगत तस्वीरें साझा करते हैं, तो आप इस बात पर नियंत्रण खो देते हैं कि उनका उपयोग कैसे किया जाता है, क्योंकि उन तस्वीरों का उपयोग तब एआई को प्रशिक्षित करने के लिए किया जाता है। उदाहरण के लिए, उनका उपयोग उन सामग्री को उत्पन्न करने के लिए किया जा सकता है जो उत्पीड़न के रूप में बदनाम हो सकते हैं या उपयोग किया जा सकता है।”

‘फ़ोटो का उपयोग सहमति के बिना किया जा सकता है’

“कई एआई मॉडल, विशेष रूप से छवि पीढ़ी में उपयोग किए जाने वाले, बड़े प्रशिक्षण डेटासेट पर भरोसा करते हैं। कुछ मामलों में, आप की तस्वीरें, या आपकी समानता के साथ, आपकी सहमति के बिना उपयोग किया जा सकता है,” प्रोटॉन ने पोस्ट में हाइलाइट किया। “अंत में, आपके डेटा का उपयोग व्यक्तिगत विज्ञापनों के लिए किया जा सकता है और/या तीसरे पक्ष को बेचा जा सकता है”।
प्रोटॉन ने एक ब्लॉगपोस्ट भी साझा किया है जिसमें बताया गया है कि कैसे चैट और अन्य एआई मॉडल को प्रशिक्षित करने के लिए डेटा का उपयोग करते हैं। पोस्ट में लिखा है, “अधिकांश एआई मॉडल को प्रशिक्षित करने और सुधारने के लिए बड़े पैमाने पर डेटा की आवश्यकता होती है। जितना अधिक डेटा एआई में खिलाया जाता है, उतना ही बेहतर यह पैटर्न का पता लगा सकता है, अनुमान लगा सकता है कि आगे क्या आएगा, और कुछ पूरी तरह से नया बनाएगा,” पोस्ट पढ़ता है। “यह सभी प्रकार की समस्याओं की ओर जाता है। डेटा पर प्रशिक्षित एक एआई केवल यह सीखेगा कि उसने जो डेटासेट द्वारा देखी गई स्थितियों से निपटा है, उससे निपटने के लिए। यदि आपका डेटा प्रतिनिधि नहीं है, तो एआई अपने निर्णय लेने में उस पूर्वाग्रह को दोहराएगा,” यह कहा।