सरकारी सूत्रों के अनुसार, मौजूदा समीक्षा का मुख्य सवाल यह है कि ऑनलाइन मंच भारतीय कानून में मध्यस्थों के लिए निर्धारित जिम्मेदारियों का पालन कर रहे हैं या नहीं। सरकार यह भी देख रही है कि यदि किसी मंच की तकनीकी प्रणाली यह तय करती है कि किसी यूजर को कौन-सी सामग्री दिखाई जाएगी, तो उस स्थिति में उसकी भूमिका केवल एक निष्क्रिय मध्यस्थ तक सीमित मानी जा सकती है या नहीं। इसी आधार पर संबंधित कंपनियों की जिम्मेदारी तय करने को लेकर कानूनी पहलुओं की जांच की जा रही है।
सरकार की नजर केवल मेटा तक सीमित नहीं रहने वाली है। आने वाले समय में अन्य प्रमुख ऑनलाइन मंचों को भी बातचीत के लिए बुलाया जा सकता है। इनके माध्यम से यह समझने की कोशिश होगी कि उनकी अनुशंसा प्रणाली किस तरह काम करती है और यूजर्स तक सामग्री पहुंचाने में उनकी तकनीकी भूमिका कितनी सक्रिय है। सरकार यह भी देख रही है कि भुगतान वाली सामग्री को बढ़ावा देने और यूजर के लिए सामग्री चुनने वाली प्रणालियों की भूमिका भारतीय कानून के मौजूदा प्रावधानों के तहत किस तरह निर्धारित होती है।
डीपफेक को लेकर सरकार की चिंता इसलिए भी बढ़ी है क्योंकि एआई तकनीक के इस्तेमाल से वास्तविक व्यक्ति के चेहरे, आवाज और वीडियो को बदलकर ऐसी सामग्री तैयार की जा सकती है, जो देखने में वास्तविक लगती है। ऐसी सामग्री का इस्तेमाल गलत सूचना फैलाने, किसी व्यक्ति की छवि खराब करने और लोगों को भ्रमित करने के लिए किया जा सकता है। बिना स्पष्ट लेबल वाली एआई-जनित सामग्री भी डिजिटल प्लेटफॉर्म पर यूजर्स के लिए भ्रम की स्थिति पैदा कर सकती है।
सरकार और मेटा के बीच इस मुद्दे पर लगातार कई दौर की बैठकें हुई हैं। दो दिनों तक कंपनी की टीम से विस्तृत पूछताछ के बाद तीसरे दिन तकनीकी स्तर पर चर्चा की गई। इसमें डीपफेक, बाल यौन शोषण सामग्री और बिना लेबल वाली एआई-जनित सामग्री से निपटने के लिए कंपनी की कार्ययोजना पर विशेष रूप से चर्चा हुई। सरकार की ओर से प्लेटफॉर्म की तकनीकी व्यवस्था और कंटेंट मॉडरेशन प्रक्रिया को लेकर भी सवाल उठाए गए।
यह पूरा मामला उस घटनाक्रम के बाद और महत्वपूर्ण हो गया, जब प्रधानमंत्री नरेंद्र मोदी की एक सोशल मीडिया पोस्ट पर मेटा के एआई आधारित कंटेंट फिल्टर की वजह से अस्थायी रोक लग गई थी। बाद में कंपनी ने इसे तकनीकी गलती बताया और पोस्ट बहाल करते हुए माफी मांगी थी। इसके बाद सरकार और कंपनी के बीच हुई बैठकों में प्लेटफॉर्म की कंटेंट मॉडरेशन व्यवस्था और तकनीकी प्रणालियों की भूमिका पर विशेष ध्यान दिया गया।
अब सरकार बैठकों से मिले जवाबों और मेटा की कार्ययोजना की समीक्षा कर रही है। इसके बाद कानूनी राय के आधार पर आगे की कार्रवाई तय की जा सकती है। यदि जांच में यह पाया जाता है कि प्लेटफॉर्म भारतीय कानून के तहत अपनी जिम्मेदारियों का पालन नहीं कर रहे हैं, तो उनकी जवाबदेही तय करने की दिशा में कदम उठाए जा सकते हैं। इससे भारत में डीपफेक, एआई सामग्री और सोशल मीडिया प्लेटफॉर्म की जिम्मेदारी को लेकर नियामकीय व्यवस्था और सख्त होने के संकेत मिल रहे हैं।