भारी विरोध के बाद बैकफुट पर Meta, Instagram की तस्वीरों से AI इमेज बनाने वाला विवादित फीचर लिया वापस

भारी विरोध के बाद बैकफुट पर Meta, Instagram की तस्वीरों से AI इमेज बनाने वाला विवादित फीचर लिया वापस


Facebook की पैरेंट कंपनी Meta ने घोषणा की है कि वह अपने एक विवादित आर्टिफिशियल इंटेलिजेंस (AI) फीचर को आधिकारिक तौर पर वापस ले रही है। ये फीचर यूजर्स ...और पढ़ें








Meta ने मानी अपनी गलती, बंद किया नया AI टूल।



टेक्नोलॉजी डेस्क, नई दिल्ली। Facebook की पैरेंट कंपनी Meta ने घोषणा की है कि वह आधिकारिक तौर पर एक कॉन्ट्रोवर्शियल आर्टिफिशियल इंटेलिजेंस (AI) फीचर को वापस ले रही है, जो यूजर्स को पब्लिक Instagram अकाउंट्स की फोटोज का इस्तेमाल करके कस्टम इमेजेस जनरेट करने की सुविधा देता था। सोशल मीडिया दिग्गज ने खुले तौर पर स्वीकार किया है कि इस टूल के डिजाइन और प्राइवेसी सेटिंग्स ने पब्लिक सेंटिमेंट को समझने में भारी भूल की। ये अनाउंसमेंट प्राइवेसी एडवोकेट्स और हॉलीवुड टैलेंट एजेंसियों की तरफ से दुनिया भर में हुए भारी विरोध के बाद आई है।


मेटा के एक प्रवक्ता ने 'Variety' को दिए बयान में कहा, 'इस हफ्ते की शुरुआत में हमने बताया था कि मेटा AI में इमेज बनाने का एक तरीका ये है कि लोग उन पब्लिक इंस्टाग्राम अकाउंट्स को @-मेंशन करें जिनका वे रेफरेंस देना चाहते हैं।'








कंपनी के प्रवक्ता ने आगे कहा,'हमारा इरादा एक यूजफुल क्रिएटिव टूल ऑफर करना था और लोगों को ये कंट्रोल देना था कि क्या उनके पब्लिक कंटेंट को इस तरह से रेफरेंस किया जा सकता है। हमें फीडबैक मिला है कि ये फीचर अपने मकसद में नाकाम रहा, इसलिए अब ये उपलब्ध नहीं है।'

क्या है ये Instagram फीचर और क्यों हो रहा है इसका विरोध?

इस हफ़्ते तब समस्या शुरू हुई जब मेटा ने अपना पहला स्टैंडअलोन AI इमेज-जेनरेशन मॉडल, Muse Image लॉन्च किया। सोशल एक्सपीरिएंस को बेहतर बनाने के लिए बनाए गए इस टूल की मदद से, मेटा AI चैटबॉट का इस्तेमाल करने वाला कोई भी व्यक्ति किसी भी पब्लिक इंस्टाग्राम अकाउंट को आसानी से '@-मेंशन' या टैग कर सकता था।


इसके बाद AI उस पब्लिक प्रोफाइल से तस्वीरों को तुरंत स्क्रैप कर लेता था ताकि उस व्यक्ति की पूरी तरह से नई, डिजिटली बदली हुई तस्वीरें या डीपफेक बनाए जा सकें।



हालांकि, इस फीचर की एग्रेसिव 'ऑप्ट-आउट' पॉलिसी की वजह से तुरंत नाराजगी फैल गई। इजाजत मांगने के बजाय, मेटा ने 18 साल से ज्यादा उम्र के सभी पब्लिक अकाउंट होल्डर्स को डिफॉल्ट रूप से इस फीचर में शामिल कर लिया। इसका मतलब ये था कि आम यूजर्स, इन्फ्लुएंसर्स और सेलिब्रिटीज की जानकारी या मंजूरी के बिना, अनजान लोग उनके चेहरे का इस्तेमाल कर सकते थे, जब तक कि वे खुद सेटिंग्स में जाकर इस फीचर को बंद न कर दें।


हॉलीवुड की मशहूर टैलेंट एजेंसी 'क्रिएटिव आर्टिस्ट्स एजेंसी' (CAA) - जो टॉम हैंक्स और मेरिल स्ट्रीप जैसे बड़े स्टार्स को रिप्रेजेंट करती है, ने इस टूल का विरोध करने के लिए तुरंत मेटा से कॉन्टैक्ट किया।

CAA ने कहा, 'किसी भी थर्ड पार्टी (जिसमें AI मॉडल भी शामिल हैं) को किसी व्यक्ति के नाम, तस्वीर, शक्ल-सूरत, वॉयस या क्रिएटिव वर्क का इस्तेमाल तब तक नहीं करना चाहिए, जब तक कि इसके लिए साफ और लिखित मंजूरी न ली गई हो। असली इनोवेशन क्रिएटर्स को प्राथमिकता देता है: उनके अधिकारों का सम्मान करता है, उनकी आजीविका की सुरक्षा करता है और उन्हें असल कंट्रोल देता है, न कि ये कंट्रोल प्लेटफॉर्म्स को सौंप देता है।'


मेटा ने पहले बताया था कि वैसे ये टूल शुरू में सिर्फ इंस्टाग्राम तक ही सीमित था, लेकिन कंपनी वॉट्सएप, फेसबुक और मैसेंजर पर कई अल्टरनेटिव जेनरेटिव AI फीचर लाने की योजना बना रही है।
मेटा का AI डिटेक्शन टूल और उसके चैलेंजेस

मेटा का नया AI डिटेक्शन टूल, जो कंटेंट सील नाम के एक इनविजिबल वॉटरमार्किंग सिस्टम पर काम करता है, अपने ही Muse Image से बनी पिक्चर्स को पहचानने में फेल हो गया- वो भी पूरे 55% केसेज में, जब उन इमेजेस को वन-थर्ड से लेकर हाफ तक क्रॉप किया गया। ये खुलासा एक रीसेंट रॉयटर्स एनालिसिस में हुआ है। हालांकि मेटा का दावा है कि ये टूल कॉमन एडिट्स के बाद भी इमेजेस को पहचान सकता है, पर कंपनी ने खुद ये माना है कि ज्यादा क्रॉपिंग करने से वeटरमार्क का सिग्नल खत्म हो सकता है।


टूल की ये लिमिटेशन्स ऑनलाइन डीपफेक्स को पहचानने की बढ़ती चिंताओं को और गहरा कर देती हैं। इस दिक्कत को देखते हुए, एक्सपर्ट्स और मेटा के अपने ओवरसाइट बोर्ड ने कंपनी पर जोर दिया है कि वो और ज्यादा स्ट्रॉन्ग डिटेक्शन सिस्टम्स में इन्वेस्ट करे।

Newer Post Older Post