Tag: CSAM

मेटा और इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय के बीच इस मुद्दे पर कई दौर की बातचीत हो चुकी है। इन चर्चाओं के बाद सरकारी अधिकारियों ने स्पष्ट किया है कि फिलहाल कंपनी के पूरे एल्गोरिदम को बदलने का कोई निर्देश नहीं दिया गया है। सरकार का जोर इस बात पर है कि प्लेटफॉर्म की नीतियां और मॉडरेशन व्यवस्था भारत में लागू कानूनी प्रावधानों के अनुरूप हो तथा स्थानीय परिस्थितियों को पर्याप्त महत्व दिया जाए।

सरकार विशेष रूप से भारतीय भाषाओं और सांस्कृतिक संदर्भों को लेकर चिंतित है। अधिकारियों के अनुसार, विदेशों में बैठे मॉडरेशन दल कई बार भारत की अलग-अलग भाषाओं, सामाजिक संदर्भों और स्थानीय संवेदनशीलताओं को पूरी तरह नहीं समझ पाते। ऐसे में कंटेंट की सही पहचान और उचित कार्रवाई के लिए स्थानीय स्तर पर विशेषज्ञता और इनपुट बढ़ाने की आवश्यकता बताई गई है।

बच्चों के यौन शोषण से जुड़े कंटेंट यानी सीएसएएम को लेकर सरकार ने बेहद सख्त रुख अपनाया है। इस तरह के कंटेंट के मामले में किसी तरह की ढिलाई स्वीकार नहीं करने की बात कही गई है। सरकार चाहती है कि मेटा अपने प्लेटफॉर्म पर ऐसे कंटेंट की पहचान, रोकथाम और कार्रवाई के लिए अधिक प्रभावी व्यवस्था विकसित करे और संदिग्ध सामग्री के दोबारा सामने आने की संभावना को भी कम करे।

डीपफेक के मुद्दे पर भी सरकार और मेटा के बीच चर्चा हुई है। खासतौर पर मशहूर हस्तियों से जुड़े सिंथेटिक कंटेंट को लेकर सरकार ने मानवीय समीक्षा की जरूरत पर जोर दिया है। अधिकारियों का मानना है कि केवल स्वचालित तकनीक के आधार पर किसी सामग्री को हटाने से गलत निर्णय की संभावना बनी रह सकती है। इसलिए संवेदनशील मामलों में ह्यूमन इन द लूप व्यवस्था के जरिए अंतिम समीक्षा की जरूरत बताई गई है।

सरकार ने यह भी जानना चाहा है कि एक बार किसी हानिकारक या सिंथेटिक कंटेंट की पहचान होने के बाद उसे दोबारा यूजर्स तक पहुंचने और रिकमेंड होने से रोकने के लिए मेटा की व्यवस्था कितनी प्रभावी है। रिकमेंडेशन सिस्टम और वायरल कंटेंट को लेकर भी कंपनी से सवाल किए गए हैं।

बैठकों में यह मुद्दा भी सामने आया कि कई बार यूजर्स को उनकी सामान्य पसंद से अलग सामग्री क्यों दिखाई जाती है और क्या रिकमेंडेशन सिस्टम सिंथेटिक या हानिकारक कंटेंट को अनावश्यक रूप से आगे बढ़ा रहा है। सरकार का जोर इस बात पर है कि पहचाने जा चुके नुकसानदायक कंटेंट की पहुंच को एल्गोरिदम के जरिए दोबारा बढ़ावा नहीं मिलना चाहिए।

इसके साथ ही मेटा के इंटरमीडियरी स्टेटस और सूचना प्रौद्योगिकी अधिनियम की धारा 79 के तहत मिलने वाली सेफ हार्बर सुरक्षा से जुड़े अनुपालन की भी समीक्षा की जा रही है। सरकार यह देख रही है कि प्लेटफॉर्म की कंटेंट रिकमेंडेशन में भूमिका उसके कानूनी दायित्वों को किस तरह प्रभावित करती है।

फिलहाल सरकार और मेटा के बीच तकनीकी स्तर पर बातचीत जारी है और अगले दौर की बैठक होने की उम्मीद है। केंद्र का स्पष्ट संदेश यह है कि उद्देश्य मेटा के एल्गोरिदम को पूरी तरह बदलना नहीं, बल्कि यह सुनिश्चित करना है कि उसके प्लेटफॉर्म, कंटेंट नीति और मॉडरेशन व्यवस्था भारतीय कानूनों के साथ देश की भाषाई और सांस्कृतिक जरूरतों के अनुरूप काम करें।