मेटा के ओवरसाइट बोर्ड ने गुरुवार को कहा कि कंपनी के नियम वास्तविक लोगों के यौन रूप से स्पष्ट एआई-जनरेटेड चित्रण पर रोक लगाने में “पर्याप्त रूप से स्पष्ट नहीं” थे और इस तरह की छवियों को अपने प्लेटफार्मों पर प्रसारित होने से रोकने के लिए बदलाव का आह्वान किया।

बोर्ड, जो सोशल मीडिया की दिग्गज कंपनी द्वारा वित्तपोषित है, लेकिन स्वतंत्र रूप से काम करता है, ने कृत्रिम बुद्धिमत्ता का उपयोग करके बनाए गए और मेटा के फेसबुक और इंस्टाग्राम पर पोस्ट किए गए प्रसिद्ध महिलाओं के दो अश्लील नकली चित्रों की समीक्षा के बाद अपना फैसला सुनाया।

मेटा ने कहा कि वह बोर्ड की सिफारिशों की समीक्षा करेगा तथा अपनाए गए किसी भी परिवर्तन पर अद्यतन जानकारी देगा।

अपनी रिपोर्ट में बोर्ड ने गोपनीयता संबंधी चिंताओं का हवाला देते हुए दोनों महिलाओं की पहचान केवल भारत और संयुक्त राज्य अमेरिका की सार्वजनिक महिला हस्तियों के रूप में की है।

(दिन भर की शीर्ष प्रौद्योगिकी खबरों के लिए, हमारे तकनीकी न्यूज़लेटर टुडेज़ कैश की सदस्यता लें)

बोर्ड ने पाया कि दोनों तस्वीरें मेटा के “अपमानजनक यौनकृत फोटोशॉप” पर प्रतिबन्ध लगाने वाले नियम का उल्लंघन करती हैं, जिसे कंपनी बदमाशी और उत्पीड़न का एक रूप मानती है, और कहा कि मेटा को इन्हें तुरंत हटा देना चाहिए था।

भारतीय महिला से जुड़े मामले में, मेटा ने 48 घंटे के भीतर छवि के बारे में उपयोगकर्ता की रिपोर्ट की समीक्षा करने में विफल रहा, जिसके कारण टिकट स्वतः ही बंद हो गया तथा उस पर कोई कार्रवाई नहीं की गई।

उपयोगकर्ता ने अपील की, लेकिन कंपनी ने फिर से कार्रवाई करने से इनकार कर दिया, तथा बोर्ड द्वारा मामला उठाए जाने के बाद ही अपना फैसला बदला।

अमेरिकी सेलिब्रिटी के मामले में, मेटा के सिस्टम ने स्वचालित रूप से छवि को हटा दिया।

बोर्ड ने कहा, “इस सामग्री पर प्रतिबंध वैध हैं।” “नुकसान की गंभीरता को देखते हुए, प्रभावित लोगों की सुरक्षा के लिए सामग्री को हटाना ही एकमात्र प्रभावी तरीका है।”

बोर्ड ने मेटा को अपने नियम को अद्यतन कर इसके दायरे को स्पष्ट करने की सिफारिश की, उदाहरण के लिए, “फोटोशॉप” शब्द का प्रयोग “बहुत संकीर्ण” है तथा निषेध में जनरेटिव एआई सहित संपादन तकनीकों की एक विस्तृत श्रृंखला को शामिल किया जाना चाहिए।

बोर्ड ने मेटा की इस बात के लिए भी आलोचना की कि उसने भारतीय महिला की छवि को उस डाटाबेस में शामिल करने से मना कर दिया, जो अमेरिकी महिला के मामले की तरह स्वचालित रूप से छवि को हटाने में सक्षम है।

रिपोर्ट के अनुसार, मेटा ने बोर्ड को बताया कि डेटाबेस में छवियों को कब जोड़ना है, यह तय करने के लिए वह मीडिया कवरेज पर निर्भर करता है, जिसे बोर्ड ने “चिंताजनक” बताया।

बोर्ड ने कहा, “डीपफेक अंतरंग चित्रों के कई पीड़ित सार्वजनिक नजरों में नहीं होते हैं और उन्हें या तो अपनी गैर-सहमतिपूर्ण तस्वीरों के प्रसार को स्वीकार करने या हर घटना की खोज करने और रिपोर्ट करने के लिए मजबूर होना पड़ता है।”