-
CENTRES
Progammes & Centres
Location
अगर शुरुआती दौर की बात की जाए तो दुनिया भर में तेज़ी से बढ़ते डिजिटलीकरण, सूचना एवं संचार प्रौद्योगिकियों में हो रहे विकास और सोशल मीडिया के प्रचार-प्रसार को कहीं न कहीं एक बेहद महत्वपूर्ण व सकारात्मक बदलाव माना गया था.
Image Source: Getty
यह लेख रायसीना फाइल्स 2025 श्रृंखला का हिस्सा है.
ब्रिटेन की डिजिटल, संस्कृति, मीडिया एवं खेल कमेटी ने ग़लत जानकारी और ‘फेक न्यूज़’ को लेकर 2019 में अपनी अंतिम रिपोर्ट[1] जारी की थी. काफ़ी जांच-पड़ताल के बाद जारी की गई इस रिपोर्ट में फेसबुक और कैम्ब्रिज एनालिटिका की सांठगांठ पर फोकस किया गया था. रिपोर्ट में मुख्य रूप ने उन अस्पष्ट और संदिग्ध बिजनेस मॉडल्स से जुड़ी चिंताओं को सामने लाया गया, जिनमें लक्षित राजनीतिक विज्ञापनों, दुष्प्रचार और झूठी ख़बरों को फैलाने के अभियानों को एल्गोरिदम का उपयोग करके चलाया जाता है. ज़ाहिर है कि सोशल मीडिया के ज़रिए इस तरह से दुष्प्रचार में अक्सर बाहरी देश शामिल भी होते हैं. 18 महीने तक चली इस जांच-पड़ताल के बाद जारी इस रिपोर्ट में यह तथ्य भी सामने आया कि किस प्रकार से सोशल मीडिया प्टेलफॉर्म्स को नियंत्रित करने वाली कंपनियां किसी देश में अपनी सशक्त मौज़ूदगी और बाज़ार में पकड़ के बल पर न केवल वहां के स्थानीय क़ानूनों के ठेंगे पर रखती हैं, बल्कि उपयोगकर्ताओं की सुरक्षा और गोपनीयता को भी तवज्जो नहीं देती हैं. यानी सभी तरह के हथकंडों को अपना कर सिर्फ़ और सिर्फ़ अपना बिजनेस बढ़ाने पर ध्यान देती हैं. इतना ही नहीं, सोशल मीडिया कंपनियों की अपनी पहुंच बढ़ाने, उपयोगकर्ताओं को अपने साथ जोड़ने, अधिक से अधिक पैसा कमाने और एल्गोरिदिम का इस्तेमाल करने की यह रणनीति उन्हें दबे पांव दुष्प्रचार और फेक न्यूज़ फैलाने और किसी ख़ास वर्ग के लोगों को अपने इस अभियान से जोड़ने के गोरखधंधे की तरफ ले जाती है. इससे कहीं न कहीं ऑनलाइन सोशल मीडिया मंचों पर इको चैंबर और फिल्टर बबल बन जाते हैं, जो वैचारिक रूप से कमज़ोर व अस्थिर लोगों में कट्टरपंथी सोच को फैलाते हैं. इसके अलावा, सोशल मीडिया कंपनियों द्वारा अपने प्लेटफॉर्म्स पर भड़काऊ भाषण[A] और ख़तरनाक कंटेंट को बढ़ावा देना लोगों को हिंसा फैलाने और लड़ाई-झगड़े के लिए उकसाता है. ज़ाहिर है कि इससे आख़िरकार न केवल लोगों की जान-माल को ख़तरा पैदा होता है, बल्कि उस देश की सुरक्षा भी ख़तरे में पड़ जाती है.[2]
18 महीने तक चली इस जांच-पड़ताल के बाद जारी इस रिपोर्ट में यह तथ्य भी सामने आया कि किस प्रकार से सोशल मीडिया प्टेलफॉर्म्स को नियंत्रित करने वाली कंपनियां किसी देश में अपनी सशक्त मौज़ूदगी और बाज़ार में पकड़ के बल पर न केवल वहां के स्थानीय क़ानूनों के ठेंगे पर रखती हैं, बल्कि उपयोगकर्ताओं की सुरक्षा और गोपनीयता को भी तवज्जो नहीं देती हैं.
निसंदेह रूप से पहले किसी ने इसकी कल्पना भी नहीं की थी कि सोशल मीडिया मंचों का उपयोग इस प्रकार फर्ज़ी ख़बरें फैलाने और समाज में नफ़रत की भावना भड़काने के लिए किया जाएगा. अगर शुरुआती दौर की बात की जाए तो दुनिया भर में तेज़ी से बढ़ते डिजिटलीकरण, सूचना एवं संचार प्रौद्योगिकियों में हो रहे विकास और सोशल मीडिया के प्रचार-प्रसार को कहीं न कहीं एक बेहद महत्वपूर्ण व सकारात्मक बदलाव माना गया था. कहने का मतलब है कि सोशल मीडिया मंचों को एक ऐसी जगह के रूप में देखा गया था, जहां लोग आसानी से एक-दूसरे से जुड़ सकते हैं, विभिन्न मुद्दों पर बहस कर सकते हैं और अपनी राय व्यक्त कर सकते हैं. माना गया था कि इन ऑनलाइन प्लेटफॉर्म्स के आने से लोकतांत्रिक विचारों को मज़बूती मिलेगी. इसमें कोई शक नहीं है कि आज भी सोशल मीडिया सामाजिक मुद्दों पर बहस करने और उन्हें दुनिया के सामने लाने, साथ ही लोगों की राजनीतिक भागीदारी बढ़ाने का एक सशक्त माध्यम बना हुआ है.
हालांकि, इस सबके बावज़ूद आज के दौर में सोशल मीडिया मंचों के नियंत्रण, संचालन और प्रबंधन को लेकर एक प्रकार की दुविधा जैसी स्थिति बनी हुई है.
एक तरफ चीन जैसे देश हैं, जहां तानाशाही सरकार हैं और सोशल मीडिया माध्यमों पर सख़्त पाबंदियां हैं, अभिव्यक्ति की आज़ादी नहीं है.[3] वहीं, दूसरी तरफ लोकतांत्रिक देश हैं, जहां अपनी बात कहने की और अभिव्यक्ति की स्वतंत्रता है, साथ ही इसे मूलभूत मानवाधिकार माना जाता है. हालांकि, इन देशों में थोड़ी-बहुत पाबंदियां भी हैं. उदाहरण के तौर पर अमेरिका जैसे लोकतांत्रिक देश में भी अभिव्यक्ति की आज़ादी पर थोड़े-बहुत प्रतिबंध हैं.[4] अमेरिका शायद एक ऐसा देश है, जहां अभिव्यक्ति की स्वतंत्रता के लिए सशक्त क़ानूनी ढांचा है. इसके साथ ही, वहां मानवाधिकारों की सार्वभौमिक घोषणा और नागरिक एवं राजनीतिक अधिकारों पर अंतरराष्ट्रीय प्रतिबद्धता जैसे वैश्विक क़ानूनों को भी पूरी तवज्जो दी जाती है और इनके तहत भी वहां नागरिकों को अपने विचार साझा करने की स्वतंत्रता है.[5] हालांकि, अमेरिका में अभिव्यक्ति की आज़ादी पर जो थोड़े-बहुत प्रतिबंध हैं भी तो उनके पीछे आम तौर पर गैरक़ानूनी और हानिकारक गतिविधियों को रोकने की एवं हिंसा को बढ़ावा देने, संप्रभुता और राष्ट्रीय सुरक्षा के लिए ख़तरा पैदा करने वाले तत्वों पर लगाम लगाने और क़ानून-व्यवस्था में बाधाएं डालने वालों पर अंकुश लगाने की मंशा है.[6]
ज़ाहिर है कि वर्ष 2016 के चुनावों में अमेरिका में सोशल मीडिया प्लेटफॉर्म्स का जमकर इस्तेमाल हुआ था और उनमें इस तरह के बदलाव किए गए थे, ताकि विदेशी ताक़तें इनका उपयोग करके अपने मंसूबों को अंज़ाम दे सकें.[B],[7] हालांकि, इससे पहले भी अमेरिका में सोशल मीडिया माध्यमों का ग़लत इस्तेमाल किए जाने के कई मामले सामने आए थे. जैसे कि सोशल मीडिया के ज़रिए युद्धरत क्षेत्रों में ख़बरों और जानकारियों को तोड़मरोड़ कर फैलाया गया, संगठित समूहों द्वारा तमाम हथकंडों को अपनाकर सोशल मीडिया के ज़रिए लोगों की भावनाओं को भड़काया गया, बाल यौन शोषण से जुड़ी सामग्री का प्रसार किया गया, हाशिए पर पड़े वर्गों के लोगों का उत्पीड़न किया गया. इसके अलावा, कट्टरपंथ को बढ़ावा देने वाली और आतंकवादी गतिविधियों से संबंधित सामग्री का प्रचार-प्रसार किया गया और देश के अलग-अलग हिस्सों में हिंसा को भड़काया गया था.[8] इन्हीं सब वाकयों के मद्देनज़र पिछले कुछ वर्षों में लोगों और राष्ट्रों की सुरक्षा के लिहाज़ से एवं राष्ट्रीय सुरक्षा जोख़िमों को देखते हुए सोशल मीडिया पर तरह-तरह के प्रतिबंध लगाना सामान्य सी बात हो गई है.
देखा जाए तो सोशल मीडिया मंचों को एक सुरक्षित माध्यम बनाना और इससे पैदा होने वाले ख़तरों पर लगाम लगाना कोई आसान काम नहीं हैं. ज़ाहिर है कि सोशल मीडिया कंपनियों की जो टेक्नोलॉजी है और उनके बिजनेस के जो तौर-तरीक़े हैं, उनका मुख्य उद्देश्य अधिक से अधिक राजस्व कमाना है.[9] सोशल मीडिया कंपनियां कमाई के लिए ज़रूरी हर क्षेत्र को अपनी प्राथमिकता में रखती हैं. कहने का मतलब है कि इन सोशल मीडिया कंपनियों का फोकस अपने उपभोक्ताओं की संख्या को बढ़ाने पर भी है, जिन तक वे विज्ञापनदाता कंपनियों के उत्पादों को पहुंचाना चाहती हैं, साथ ही इनका ध्यान उस उन लोगों पर भी, जो अपने कंटेंट के माध्यम से यूजर्स तक पहुंच स्थापित करना चाहते हैं. इसके लिए विज्ञापनों को तैयार करने में ख़ासी मेहनत की जाती है. यानी विज्ञापनों को लक्षिय यूजर्स की हैसियत और उनसे जुड़ी हर छोटी से छोटी जानकारी के मुताबिक़ डिज़ाइन किया जाता है, ताकि वे इनकी तरफ आकर्षित हों और कंपनियों को इससे अधिक से अधिक लाभ हो सके.[10] इसके अलावा, उपयोगकर्ताओं को अपने साथ जोड़े रखने के लिए सोशल मीडिया कंपनियां मार्केटिंग के नए-नए तरीक़ों का उपयोग करती हैं. इसके लिए वे यूजर्स से जुड़ी जानकारियों और आंकड़ों का उपयोग तो करती ही हैं, साथ ही ऐप्स, प्लगइन्स जैसे दूसरे माध्यमों से इकट्ठी की गई यूजर्स की पसंद और नापसंद से जुड़ी जानकारियों का भी जमकर इस्तेमाल करती हैं.[11]
निसंदेह तौर पर सोशल मीडिया के क्षेत्र में सक्रिय बड़ी टेक्नोलॉजी कंपनियों को विनियमित करना या कहें कि नियम-क़ानून के ढांचे में बांधने में ठीक वैसी ही चुनौतियां सामने आती हैं, जैसी वैश्वीकरण और कई देशों में संचालित होने वाली बड़ी बहुराष्ट्रीय कंपनियों को नियंत्रित करने में आती हैं.[12] कहने का मतलब है कि सोशल मीडिया कंपनियों का जिस तरह से बाज़ार में दबदबा है और जिस प्रकार से उनका कारोबार पूरी दुनिया में फैला हुआ है, उसके मद्देनज़र उन्हें मानकों, दिशानिर्देशों और नियम-क़ानून के तहत लाना बेहद चुनौतीपूर्ण है. दुनिया के अलग-अलग देशों में फैलाव होने की वजह से इन कंपनियों पर देश विशेष के भिन्न-भिन्न क़ानून और नियम लागू होते हैं, यानी उनमें कोई एकरूपता नहीं होती है या कहें कि ये कंपनियां किसी एक ज्यूरिडिक्शन या अधिकार क्षेत्र के तहत नहीं आती हैं. ज़ाहिर है कि वैश्विक स्तर पर फैली इन कंपनियों की कार्यप्रणाली को नियंत्रित और विनियमित करना एक बहुत बड़ी चनौती है. ऐसा इसलिए भी है क्योंकि ये सोशल मीडिया कंपनियां जिस देश में होती हैं, वहीं के राजनीतिक और क़ानूनी परिस्थितियों के अधीन होती हैं और उन्हीं के मुताबिक़ संचालित होती हैं.[13]
मौज़ूदा वक़्त में लोगों की सामाजिक और राजनीतिक भागीदारी में ऑनलाइन प्लेटफॉर्म बहुत गहराई से जुड़ चुके हैं. आज यह भी कहना अतिशियोक्ति नहीं होगी कि सोशल मीडिया के ज़रिए हमारे जीवन के हर हिस्से को एल्गोरिदम का उपयोग करके प्रभावित किया जा रहा है. हमारी सोच, विचार सभी पर सोशल मीडिया हावी हो गया है. शुरुआत में जब सोशल मीडिया का चलन शुरू हुआ था, तब बताया गया था कि यह लोगों की बीच तालमेल स्थापित करने, पारस्परिक मुद्दों पर बहस करने और गंभीर विषयों पर विचार-विमर्श का अड्डा है, लेकिन जैसे-जैसे ऑनलाइन मंचों की मौजूदगी बढ़ती गई, तो हमारी रोज़मर्रा की ज़िंदगी में भी इसका दख़ल बढ़ता गया. यानी धीरे-धीरे इन ऑनलाइन प्लेटफॉर्म्स का दुरुपोग बढ़ता गया और यह लोगों को धमकाने, उत्पीड़न करने, दुष्प्रचार और फर्ज़ी ख़बरों को फैलाने, देश के सामाजिक तानेबाने को नुक़सान पहुंचाने, स्थापित व्यवस्थाओं को तहस-नहस करने और विदेशी हस्तक्षेप के एक शक्तिशाली माध्यम के रूप में बदलने लगा. इतना ही नहीं, सोशल मीडिया का इस्तेमाल देशों के भीतर हिंसा को भड़काने, लोगों को उकसाने, किसी देश की शांति को भंग करने, अराजकता फैलाने, ग्रे-ज़ोन युद्ध को बढ़ावा देने में भी खूब किया जाने लगा. ज़ाहिर है कि इन्हीं सब वजहों के चलते समय के साथ सोशल मीडिया पर अंकुश लगाने, यानी खुली अभिव्यक्ति की सीमाएं निर्धारित करने और इसे नियम-क़ानून के दायरे में लाने की ज़रूरत पड़ने लगी, ताकि इस माध्यम का दुरुपयोग रोका जा सके. सैद्धांतिक रूप से सोशल मीडिया मंचों पर लोगों की सामाजिक, नागरिक और राजनीतिक भागीदारी को सुनिश्चित करने के लिए उनकी सुरक्षा, निगरानी और संरक्षण को प्रमुखता दी गई है. लेकिन अक्सर जाने-अनजाने में ऑनलाइन प्लेटफॉर्म पर लोगों की लोकतांत्रिक भागीदारी पर पाबंदियां लगा दी जाती हैं और उनकी अभिव्यक्ति की स्वतंत्रता के अधिकार को छीन लिया जाता है.
सोशल मीडिया पर अभिव्यक्ति की आज़ादी को प्रभावित करने वाले सुरक्षा ख़तरों को आम तौर पर तीन वर्गों में बांटा जा सकता है. पहला, उपयोगकर्ताओं की व्यक्तिगत सुरक्षा को लेकर पैदा होने वाले ख़तरे, दूसरा देश की आंतरिक सुरक्षा और शांति व्यवस्था को बिगाड़ने वाले ख़तरे और तीसरा विदेशी ताक़तों की दख़लंदाज़ी का ख़तरा.
सोशल मीडिया पर अभिव्यक्ति की आज़ादी को प्रभावित करने वाले सुरक्षा ख़तरों को आम तौर पर तीन वर्गों में बांटा जा सकता है. पहला, उपयोगकर्ताओं की व्यक्तिगत सुरक्षा को लेकर पैदा होने वाले ख़तरे, दूसरा देश की आंतरिक सुरक्षा और शांति व्यवस्था को बिगाड़ने वाले ख़तरे और तीसरा विदेशी ताक़तों की दख़लंदाज़ी का ख़तरा. यूनाइटेड किंगडम (UK) में वर्ष 2020 में की गई रिसर्च के मुताबिक़ देश में सोशल मीडिया का उपयोग करने वाले 62 प्रतिशत वयस्कों और 12 से 15 वर्ष के 81 प्रतिशत बच्चों को पिछले 12 महीनों के दौरान ऑनलाइन प्लेटफॉर्म्स पर कम से कम एक बार किसी बुरे अनुभव से गुजरना पड़ा था.[14] सोशल मीडिया पर व्यक्तिगत सुरक्षा को लेकर जो ख़तरे हैं, उनमें लिंग या धर्म के आधार पर यूजर्स को धमकाना, यौन शोषण करना, उत्पीड़न करना एवं उनकी पहचान के आधार पर साइबर हमले करना और उनकी निजी जानकारियों को हासिल कर परेशान करने जैसे ख़तरे शामिल हैं. सोशल मीडिया पर लोगों को नुक़सान पहुंचाने वाली घटनाओं में यूजर्स को आत्महत्या के लिए उकसाना, हेट स्पीच यानी भड़काऊ भाषणों व कंटेंट को प्रसारित करना, एल्गोरिदम का इस्तेमाल कर अपने हिसाब से उन्हें प्रभावित करना, नग्न तस्वीरों या वीडियो के जरिए ब्लैकमेल करना, निजता का हनन करना, धोखाधड़ी और घोटालों को अंज़ाम देना, फेक न्यूज़ और दुष्प्रचार को बढ़ावा देना, फ़िशिंग और कैटफ़िशिंग करना, साइबरस्टॉकिंग यानी इंटरनेट या अन्य इलेक्ट्रॉनिक माध्यमों का इस्तेमाल करके किसी दूसरे व्यक्ति को बार-बार परेशान करने या डराने की कोशिश करना और उन्हें बदनाम करने वाले अभियान चलाना भी शामिल हैं.[15] ज़ाहिर है कि ऑनलाइन माध्यमों के ज़रिए ग़लत जानकारी प्रसारित करने और कट्टरपंथी सोच को बढ़ावा देने वाले अभियान चलाने से ऑफ़लाइन हिंसा यानी ज़मीनी स्तर पर हिंसा और विवाद भड़कने की संभावना बहुत ज़्यादा होती है और कहीं न कहीं ऐसी घटनाएं आगे चलकर एक बहुत बड़े तबके की सोच को बदलने का काम करती हैं.[16]
सोशल मीडिया के माध्यम से जो भी भड़काऊ और नुक़सानदेह कंटेंट का प्रसार किया जाता है और जो लोग इसके पीछे होते हैं, साथ ही जो लोग इस तरह की समग्री को देखते-सुनते हैं, उनके बारे में सटीक तौर पर कुछ भी पता लगाना बेहद मुश्किल होता है. इसकी वजह यह है कि इस तरह के कंटेंट को फैलाने में अस्पष्ट और संदिग्ध एल्गोरिदम तकनीक़ का उपयोग किया जाता है और इस काम को बिजनेस रणनीतियों की आड़ में किया जाता है, जो किसी भी तरीक़े से ज़्यादा से ज़्यादा पैसा कमाने पर आधारित होती हैं. ज़ाहिर है कि एल्गोरिदम को सोशल मीडिया उपयोगकर्ताओं के व्यवहार और उनके निजी आंकड़ों के आधार पर तैयार किया जाता है और फिर जो कंटेंट बनता है, उसमें यूजर्स की सोचने-समझने की क्षमता धरी की धरी रह जाती है.[17] सोशल मीडिया यूजर्स की पसंद और नापसंद के आधार पर उन्हें कंटेंट की सिफ़ारिश करने का तरीक़ा देखा जाए तो भ्रामक विज्ञापन अभियानों की तरह है, जिसमें गैर पेशेवर तरीक़ों को अपनाया जाता है. उपयोगर्ताओं को लक्षित करके उन्हें उनकी पसंद के कंटेंट की सिफ़ारिश करना देखा जाए तो यूजर्स को अपने साथ जोड़े रखने के लिए बेहद महत्वपूर्ण है, क्योंकि इससे उपयोगकर्ता सोशल मीडिया मंच से चिपके रहते हैं और इससे कहीं न कहीं कंपनियों को आर्थिक लाभ भी होता है. इन खूबियों ने ही सोशल मीडिया माध्यमों को इनका दुरुपयोग करने वालों के लिए एक बेहतरीन ज़रिया बना दिया है. ऑनलाइन माध्यमों को हथियार बनाकर आज जहां भड़काऊ वक्तव्यों को फैलाकर ऑफलाइन हिंसा को बढ़ावा दिया जा रहा है, वहीं व्यापक स्तर पर विदेशी ताक़तों द्वारा अभियान चलाकर किसी देश में ग़लत सूचनाओं और फर्ज़ी ख़बरों को प्रसारित करके वहां की सरकार को अस्थिर कर शांति को भंग किया जा रहा है.
सोशल मीडिया प्लेटफॉर्म्स पर भड़काऊ सामग्री के प्रसार में हुई बढ़ोतरी और विदेशी दख़ल के पीछे कहीं न कहीं यही एल्गोरिदम का दुर्भावनापूर्ण उपयोग ही है. लोगों की सोच-समझ को प्रभावित करने वाले कंटेंट को फैलाने, किसी विशेष विचार को बढ़ावा देने और उकसावे वाले कंटेंट को प्रसारित करके ही सोशल मीडिया व्यापक स्तर पर उपयोगकर्ताओं की सोच को बदलता है.[18] इस तरह के वाकयों पर लगाम लगाने में सबसे बड़ी चुनौती तो यही है कि इन ऑनलाइन प्लेटफॉर्म्स की कोई जवाबदेही तय नहीं हैं. इसके साथ ही इस तरह के भड़काऊ और दुष्प्रचार की भावना से प्रेरित कंटेंट को कहां बनाया गया और कहां से फैलाया गया है, इसका पता लगाना भी बेहद जटिल है. जब भी सोशल मीडिया कंटेंट को लेकर नीति बनाने और विनियामक उपायों पर चर्चा की जाती है, तो उसमें अक्सर इसके लिए कंपनियों को ही जवाबदेह व ज़िम्मेदार ठहराने और उनकी सीमाएं निर्धारित करने पर चर्चा की जाती है. हालांकि, अगर सोशल मीडिया मंचों और कंपनियों को ही ग़लत और भड़काऊ कंटेंट पर रोक लगाने की शक्तियां दी जाती हैं, तो इससे वे अपने स्तर पर सावधानी बरतने के लिए विवश होंगीं और इससे संबंधित विभागों और अधिकारियों के साथ भी कोई ग़लतफहमी या दुविधा जैसी स्थिति भी पैदा नहीं होगी.[19]
इन बातों से यह स्पष्ट हो जाता है कि सोशल मीडिया मंचों को नियम-क़ानून के दायरे में लाना कितना मुश्किल है. ज़ाहिर है कि इसमें क़ानूनी, राजनीतिक और आर्थिक पहलू भी बहुत अहम भूमिका निभाते हैं और इस कारण सोशल मीडिया कंपनियों व ऑनलाइन मंचों के उपयोगकर्ताओं और सरकारों के बीच तालमेल स्थापित करना जटिल हो जाता है, क्योंकि सभी के हितों को सुनिश्चित करना इसमें बड़ी रुकावट बनता है.[20] ऐसे में अगर कंपनियों को ही भड़काऊ सामग्री पर लगाम लगाने की ताक़त दे दी जाती है, तो इसका मतलब होगा सेंसरशिप के अधिकारों को एक निजी संस्था को सौंप देना. वहीं अगर सरकार अपनी तरफ के नियम-क़ानून थोपती है और कड़े दिशानिर्देश बनाती है, तो इसका मतलब होगा कि सोशल मीडिया पर सरकार का पूरा नियंत्रण होना. ऐसा होने पर कहीं न कहीं चीन जैसे हालात पैदा हो जाएंगे, जहां ऑनलाइन माध्यमों पर सरकार का पूरा नियंत्रण है.[21] ज़ाहिर है कि सोशल मीडिया के विनियमन से जुड़ी इन चिंताओं को दूर करने के लिए एक बहुआयामी व्यापक रणनीति अपनाने की ज़रूरत है. यानी ऐसी रणनीति जिसमें निजी कंपनियों और सरकारी विभागों के बीच कोई ग़लतफहमी न हो और पूरा सामंजस्य हो.
ऑनलाइन मंचों पर आपत्तिजनक कंटेंट और भड़काऊ स्पीच को चिन्हित करने के लिए दुनिया के अलग-अलग देशों के मापदंड भी भिन्न हैं. जैसे कि अमेरिका अभिव्यक्ति की आज़ादी को लेकर बेहद उदार है और इस मुद्दे पर उसने कुछ प्रतिबंध ज़रूर लगाए हैं, लेकिन फिर भी वहां बहुत कड़े नियम नहीं हैं. इसके ठीक उलट चीन का रवैया बहुत सख़्त है और वहां सोशल मीडिया पर पूर्ण सेंसरशिप लागू है, यानी वहां सरकार की मर्जी के बगैर कुछ भी प्रकाशित और प्रसारित नहीं किया जा सकता है. इसके अलावा, दुनिया के बाकी देशों में इन दोनों के बीच की स्थिति है, यानी वे न तो ज़्यादा उदार हैं और न ज़्यादा सख़्त हैं. हालांकि, इस सबसे अधिक महत्वपूर्ण सोशल मीडिया कंपनियों की अपनी कंटेंट नीतियां और सामुदायिक दिशा-निर्देश हैं, जो कुछ हद तक विभिन्न देशों में ऑनलाइन नियम-क़ानूनों के मुताबिक़ होते हैं और इन्हीं से निर्धारित होता है कि ऑनलाइन माध्यमों को किस तरह का बर्ताव करना चाहिए. ज़ाहिर है कि यही वो नियम हैं, जिन्हें सोशल मीडिया कंपनियों के संचालक लागू करना चाहते हैं.
ऐसा नहीं है कि सोशल मीडिया कंपनियां और ऑनलाइन मंच इस दिशा में कुछ भी नहीं करते हैं. इनके द्वारा भड़काऊ और उकसाने वाली सामग्री के प्रसार को रोकने के लिए नियम बनाए गए हैं और इनके पास किसी भी आपत्तिजनक कंटेंट को हटाने का अधिकार भी है. ज़ाहिर है कि ऐसा करके ऑनलाइन प्लेटफॉर्म्स पर बेहतर माहौल का निर्माण करने और लोगों के बीच सकारात्मक बातचीत और संबंधों को बढ़ावा देने की कोशिश की जाती है. हालांकि, एक सच्चाई यह भी है कि अक्सर इन कंपनियों के कंटेंट से जुड़े दिशा-निर्देश इतने कड़े होते हैं, जिनका उल्लंघन होने पर इनके संचालक एक हिसाब से अभिव्यक्ति की आज़ादी का गला घोंट देते हैं, यानी लोगों की आवाज को दबाने के लिए अपने सबसे सशक्त हथियार का इस्तेमाल करते हैं. इतना ही नहीं, कई बार तो बड़ी टेक्नोलॉजी कंपनियां अपने फ्लेटफॉर्म्स पर पोस्ट किए गए कंटेंट के ख़िलाफ़ मनमाने फैसले लेती हैं और इसमें यूजर्स और उनके कंटेंट को हटाने के साथ ही पोस्ट की गई सामग्री के प्रसार को रोकना तक शामिल होता है. ज़ाहिर है कि जिन देशों में अभिव्यक्ति की आज़ादी से जुड़े मज़बूत क़ानून हैं, यह उनका सरासर उल्लंघन होता है और इससे कई तरह की दिक़्क़तें पैदा हो सकती हैं.
उदाहरण के लिए वर्ष 2016 में फेसबुक ने वियतनाम युद्ध के दौर की ‘नेपलम गर्ल’ की तस्वीर वाली पोस्ट को सेंसर कर दिया था, यानी फेसबुक से हटा दिया था. इस तस्वीर के लिए फोटोग्राफर को पुलित्जर पुरस्कार मिला था. इस तस्वीर में नौ वर्षीय किम फुक को नेपलम हमले के दौरान सड़क पर रोते हुए नग्न अवस्था में बदहवास दौड़ते दिखाया गया था.
उदाहरण के लिए वर्ष 2016 में फेसबुक ने वियतनाम युद्ध के दौर की ‘नेपलम गर्ल’ की तस्वीर वाली पोस्ट को सेंसर कर दिया था, यानी फेसबुक से हटा दिया था. इस तस्वीर के लिए फोटोग्राफर को पुलित्जर पुरस्कार मिला था. इस तस्वीर में नौ वर्षीय किम फुक को नेपलम हमले के दौरान सड़क पर रोते हुए नग्न अवस्था में बदहवास दौड़ते दिखाया गया था. फेसबुक के इस क़दम की व्यापक स्तर पर आलोचना हुई थी. हालांकि, जब मामला काफ़ी बढ़ गया और फेसबुक की इस हरकत के ख़िलाफ़ लोगों का गुस्सा बहुत ज़्यादा भड़क गया, तो आखिर उसने उस तस्वीर वाली पोस्ट को बहाल कर दिया था. फेसबुक ने तर्क दिया था कि नग्न बच्चे की तस्वीर आम तौर पर उसके सामुदायिक मानकों का उल्लंघन करती है, लेकिन नेपलम गर्ल की तस्वीर के मामले में यह समझा गया कि “इस फोटो को सोशल मीडिया पर शेयर करने की अनुमति देना ज़्यादा ज़रूरी है और इसकी तुलना में नग्न तस्वीर पोस्ट करने के सामुदायिक मानकों की सुरक्षा इस मामले में उतनी आवश्यक नहीं है.”[22] इसके कुछ साल बाद वर्ष 2022 में ट्विटर काफ़ी विवादों में घिर गया था. उसके कई आंतरिक दस्तावेज़ों से खुलासा हुआ कि कंपनी ने 2020 के अमेरिकी चुनावों से पहले यूक्रेन में तत्कालीन अमेरिकी राष्ट्रपति जो बाइडेन के बेटे हंटर की व्यावसायिक गतिविधियों के बारे में ख़बरों और लेखों को दबाने-छिपाने का काम किया था. इस खुलासे में ट्विटर द्वारा अपनाए जाने वाले तमाम ऐसे तौर-तरीक़ों का भी पता चला, जिन्हें वो अपने प्लेटफॉर्म पर कंटेंट को रोकने, उन पर प्रतिबंध लगाने और ब्लैकलिस्ट करने के लिए इस्तेमाल करता था और जिनके जरिए किसी पोस्ट को सेंसर कर देता था.[23]
इसके अलावा, एल्गोरिदम का इस्तेमाल सोशल मीडिया कंपनियों द्वारा अपनी कंटेंट पॉलिसी को अच्छी तरह से लागू करने या कहें कि नियमों का पालन करने में भी किया जाता है, जिससे इनका प्रभाव और ज़्यादा बढ़ जाता है. फेसबुक, ट्विटर और यूट्यूब सभी कंटेंट को नियंत्रित करने के लिए एल्गोरिदम का इस्तेमाल करते हैं. एल्गोरिदम के ज़रिए यह तय किया जाता है कि कौन सी पोस्ट या कंटेंट प्रकाशित करने के लिहाज़ से उचित है, किस पोस्ट को फैलाना है और किस पोस्ट के प्रसार को सीमित करना है. यूट्यूब पर रोज़ाना औसतन 3.7 मिलियन नए वीडियो अपलोड किए जाते हैं,[24] लेकिन इन वीडियो का जांच-पड़ताल करने और उनके कंटेंट की निगरानी करने वाले एल्गोरिदम के बारे में ज़्यादा कुछ जानकारी नहीं हैं. यूट्यूब के मुताबिक़ उसने जो AI एप्लिकेशन या फिल्टर लगाए हुए हैं, वो 80 प्रतिशत आपत्तिजनक वीडियो की पहचान कर लेते हैं और ह्यूमन मॉडरेटर के पास भेजने से पहले ही साइट से हटा देते हैं.[25] हालांकि, अक्सर देखने में आता है कि यूट्यूब से वीडियो क्यों हटाए गए, इसके बारे में कंटेंट क्रिएटर्स को कुछ भी साफ-साफ पता नहीं चल पाता है और भ्रम की स्थिति बनी रहती है. इतना ही नहीं, जब यूट्यूब में वीडियो डिलीट करने के ख़िलाफ़ शिकायत दर्ज़ कराई जाती है, तो उसका क्या हुआ, कब जवाब आएगा, इसके लेकर भी कोई पारदर्शिता नहीं है. यानी एक तरह से यूट्यूब द्वारा पूरी मनमानी और एकतरफा कार्रवाई की जाती है, जिससे उपयोगकर्ताओं को हताशा के अलावा कुछ हाथ नहीं लगता है. इसके अलावा, जब यूट्यूब द्वारा दिशा-निर्देशों के उल्लंघन पर किसी वीडियो को हटाया जाता है, तो उस वीडियो को बनाने वाले के यूट्यूब चैनल के ख़िलाफ़ स्ट्राइक होती है, यानी चैनल को चेतावनी जारी की जाती है और चैनल पर अस्थाई रूप से नए वीडियो अपलोड करने पर पाबंदी लगा दी जाती है. अगर बार-बार चैनल के ख़िलाफ़ कॉपीराइट, कम्युनिटी दिशानिर्देशों के उल्लंघन पर चेतावनी जारी होती है, तो इससे चैनल पर स्थाई प्रतिबंध भी लग सकता है.[26]
कुल मिलाकर देखा जाए तो सोशल मीडिया मंचों पर पोस्ट की जाने वाली सामग्री की निगरानी करना और नियंत्रित करना बेहद जटिल हो गया है. निसंदेह तौर पर सोशल मीडिया पर किस प्रकार का कंटेंट जाएगा और किस प्रकार के कंटेंट पर लगाम लगाई जाएगी, इसके लिए इन्हें चलाने वाली कंपनियों के राजनीतिक और सांस्कृतिक पूर्वाग्रह तो ज़िम्मेदार होते ही हैं, साथ ही इन कंपनियों को जिस प्रकार के विज्ञापन मिल रहे हैं और उनकी क्या शर्तें हैं, उससे भी यह निर्धारित होता है. इस सबके अलावा, कंटेंट की निगरानी के लिए जिन कर्मचारियों को नियुक्त किया जाता है, अक्सर वे अकुशल होते हैं, उनका वेतन बहुत कम होता है और उन पर काम का दबाव बहुत अधिक होता है, इस वजह से वे कंटेंट को अच्छी तरह से नियंत्रित नहीं कर पाते हैं.[27] इसके अतिरिक्त, इस कार्य के लिए जो एआई तकनीक़ उपयोग की जाती है, वो भी बेहतर तरीक़े से तय नहीं कर पाती हैं कि कौन सा कंटेंट जाने योग्य है और कौन सा रोकने योग्य है. म्यांमार का ही मामला देखें, तो वहां वर्ष 2017 में रोहिंग्या मुसलमानों के ख़िलाफ़ नरसंहार हुआ था और इससे पहले दो सालों तक वहां सोशल मीडिया पर रोहिंग्या मुसलमानों के विरुद्ध जमकर नफ़रती और भड़काऊ पोस्ट किए गए थे. हैरानी की बात यह है कि उस दौरान फेसबुक ने कंटेंट की निगरानी के लिए बर्मी भाषा जानने-समझने वाले केवल दो कर्मचारियों को नियुक्त किया था.[28] इतना ही नहीं, जिस प्रकार से आपत्तिजनक कंटेंट का पता लगाने के लिए सोशल मीडिया प्लेटफॉर्म्स की एआई पर निर्भरता बढ़ती जा रही है, वो भी कतई ठीक नहीं है, क्योंकि अक्सर एआई टूल्स को स्थानीय भाषा के मुताबिक़ विकसित नहीं किया जाता है, इसलिए वो स्थानीय कंटेंट को अच्छे से समझ नहीं पाता है.
ज़ाहिर है कि भड़काऊ, आपत्तिजनक और हिंसात्मक ऑडियो, वीडियो एवं लेख आदि जैसी सामग्री का प्रसार ज़्यादातर सोशल मीडिया पर ही होता है, ऐसे में निसंदेह तौर पर इस प्रकार के कंटेंट का प्रसार रोकने की ज़िम्मेदारी सोशल मीडिया कंपनियों और ऑनलाइन मंचों द्वारा ही ली जानी चाहिए. दुनिया के हर हिस्से में लोगों का मानना है कि सोशल मीडिया कंपनियां इस दिशा में ज़्यादा कुछ नहीं कर रही हैं और अपनी ज़िम्मेदारी से पल्ला झाड़ रही हैं.
सोशल मीडिया मंचों पर आपत्तिजनक कंटेंट का प्रसार लगातार बढ़ रहा है और इसका सबसे बड़ा उदाहरण तो ट्विटर ही है. एलन मस्क द्वारा ट्विटर का अधिग्रहण करने के बाद से इस प्लेटफॉर्म पर भड़काऊ और नफ़रत फैलाने वाली सामग्री बढ़ी है. , जहां तक फेसबुक की बात है, तो कंटेंट पॉलिसी को लेकर इस सोशल मीडिया प्लेटफॉर्म का इतिहास संदिग्ध रहा है
सोशल मीडिया मंचों पर आपत्तिजनक कंटेंट का प्रसार लगातार बढ़ रहा है और इसका सबसे बड़ा उदाहरण तो ट्विटर ही है. एलन मस्क द्वारा ट्विटर का अधिग्रहण करने के बाद से इस प्लेटफॉर्म पर भड़काऊ और नफ़रत फैलाने वाली सामग्री बढ़ी है.[29],[30] जहां तक फेसबुक की बात है, तो कंटेंट पॉलिसी को लेकर इस सोशल मीडिया प्लेटफॉर्म का इतिहास संदिग्ध रहा है और इस पर अपने फायदे के लिए कंटेंट को लेकर भेदभाव करने और कई बार भड़काऊ सामग्री को नज़रंदाज़ करने के आरोप लगते रहे हैं. इसी तरह से ऑस्ट्रेलिया में भी बड़ी ऑनलाइन टेक कंपनियां व्यापक स्तर पर बाल यौन शोषण सामग्री (CSAM) के प्रसार के प्रति अपनी आंखें मूंदे रहती हैं. इतना ही नहीं, वहां इन सोशल मीडिया मंचों पर बाल यौन शोषण कंटेंट और CSAM वेबसाइट्स के हज़ारों-हज़ार लिंक खुलेआम मेसेज के रूप में साझा किए जाते हैं, लेकिन ये कंपनियां इसे रोकने के लिए कोई कार्रवाई नहीं करते हैं.[31]
अक्सर देखने में आता है कि जब भी सोशल मीडिया मंचों पर आपत्तिजनक पोस्ट और कंटेंट को बढ़ावा देने के आरोप लगाए जाते हैं, तो वे अपने बचाव में तर्क देने लगते हैं कि वे कंटेंट बनाने वालों और उपभोक्ताओं के बीच महज एक माध्यम हैं, वे न तो कंटेंट बनाते हैं और न ही उसका प्रकाशन और प्रसार करते हैं, ऐसे में उन्हें किसी भी भड़काऊ या हानिकारक पोस्ट के लिए ज़िम्मेदार नहीं ठहराया जा सकता है. देखा जाए तो यह एक हद तक सही भी हो सकता है. हालांकि, भारत समेत कई देशों में इन्फॉर्मेशन टेक्नोलॉजी से संबंधित जो क़ानून बनाए गए हैं, उनमें भी कहीं न कहीं सोशल मीडिया प्लेटफॉर्म को राहत देने का काम किया है. जैसे कि भारत के सूचना प्रौद्योगिकी (आईटी) अधिनियम में कहा गया है कि "कोई मध्यस्थ किसी तीसरे पक्ष की सूचना, डेटा या उसके द्वारा उपलब्ध कराई गई या होस्ट की गई कम्युनिकेशन लिंक या पोस्ट के लिए जवाबदेह नहीं होगा."[32] हालांकि, इसके साथ ही इस अधिनियम में एक चेतावनी भी दी गई है, जिसमें कहा गया है कि अगर सरकार द्वारा यह सूचित किए जाने के बाद कि पोस्ट किए गए कंटेंट का इस्तेमाल गैरक़ानूनी कार्यों को अंज़ाम देने के लिए किया जा रहा है, सोशल मीडिया कंपनी उस आपत्तिजनक सामग्री को "तत्काल प्रभाव से हटाने में नाक़ाम रहती है" तो फिर उसे बख्शा नहीं जाएगा और उस पर भी क़ानून के तहत कार्रवाई की जाएगी.[33]
ऐसे मामलों में सोशल मीडिया प्लेटफॉर्म्स को उत्तरदायी ठहराने के लिए भारत में आईटी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियमावली 2021 लाई गई है, जिसे सूचना प्रौद्योगिकी अधिनियम के अंतर्गत तैयार किया गया था. इस नियमावली के तहत सोशल मीडिया कंपनियों को सख़्त निर्देश भी दिए गए हैं, साथ ही उन्हें आपत्तिजनक सामग्री के बारे में भी साफ-साफ बता दिया गया है. इसके अनुसार, कुल ग्यारह तरह के कंटेंट को चिन्हित किया गया है, जिन्हें ऑनलाइन प्लेटफॉर्म किसी भी सूरत में प्रकाशित, प्रसारित, अपलोड और साझा नहीं कर सकते हैं. इसके मुताबिक़ ऐसा कंटेंट, जो अश्लील हो, पोर्नोग्राफिक हो, पीडियोफिलिक यानी बाल यौनाचार को बढ़ावा देने वाला हो और जो दूसरे की निजता का हनन करे वाला हो, उसे प्रसारित नहीं किया जा सकता है. इसके साथ ही कि ऐसी सामग्री जो राष्ट्रीय सुरक्षा को ख़तरा पैदा करने वाली हो या फिर एकदम झूठी, असत्य और भ्रामक हो, उसे भी फैलाया या पोस्ट नहीं किया जा सकता है.[34] इस आईटी नियमावली 2021 में यह भी स्पष्ट प्रावधान किया गया है कि जब सोशल मीडिया प्लेटफॉर्म्स को इस तरह की आपत्तिजनक सामग्री के लिए सचेत किया जाए, तो उन्हें उसे हर हाल में हटाना पड़ेगा. इसके साथ ही यह भी प्रावधान किया गया है कि सोशल मीडिया कंपनियों को इस तरह के इंतज़ाम करने चाहिए, जिसके तहत चिन्हित किए गए आपत्तिजनक कंटेंट की पोस्टिंग से पहले ही जांच कर ली जाए और उसने अपने आप साइट से हटा दिया जाए. कहने का मतलब है कि अब ऑनलाइन कंपनियां या मध्यस्थ यह कहकर अपनी ज़िम्मेदारी से पल्ला नहीं झाड़ सकते हैं कि उन्हें पता नहीं है कि किस तरह की सामग्री आपत्तिजनक श्रेणी में आती है, या फिर यह उनके अधिकार क्षेत्र में नहीं है और उनके हाथ बंधे हुए हैं या फिर ऐसी सामग्री उन्होंने खुद पोस्ट नहीं की है. इस नियम के बाद भारतीय अदालतों ने ऐसे मामलों में सोशल मीडिया कंपनियों के ख़िलाफ़ सख़्त रुख अपनाया है और झूठी व भ्रामक जानकारी को प्रसारित करने के लिए उनसे जवाब तलब किया है, साथ ही कड़ी कार्रवाई भी की है. कहने का मतलब है कि इन बड़ी सोशल मीडिया कंपनियों को भी अब पता चल चुका है कि ऐसे मामलों में लापरवाही का अंज़ाम क्या हो सकता है.[35]
दुनिया के दूसरे देश भी सोशल मीडिया मंचों पर शिकंजा कसने और नियमों के उल्लंघन को रोकने के तौर-तरीक़े तलाश रहे हैं, साथ ही ऑनलाइन सुरक्षा को भी प्रोत्साहित कर रहे हैं. ऑस्ट्रेलिया की बात करें, तो वो ऑनलाइन सेवा प्रदाताओं (OSP) को अधिक उत्तरदायी बनाने के लिए कई बदलाव कर रहा है, ताकि वे नैतिक ज़िम्मेदारी निभाते हुए अपनी गतिविधियां संचालित करें.[36] ऑस्ट्रेलिया में जून 2021 से ऑनलाइन सुरक्षा अधिनियम लागू किया गया है. इस क़ानून का मुख्य फोकस बड़ी ऑनलाइन टेक्नोलॉजी कंपनियों और दूसरे ऑनलाइन सेवा प्रदाताओं को अधिक जवाबदेह बनाने पर है. इसके तहत ‘बेसिक ऑनलाइन सुरक्षा अपेक्षाएं’ तय की गई हैं, जो कि ऑनलाइन सेवा प्रदाता कंपनियों को CSAM सामग्री पर रोक लगाने के साथ ही सोशल मीडिया प्लेटफॉर्म्स पर फर्ज़ी ख़बरों, ग़लत जानकारी आदि से होने वाले नुक़सानों का गंभीरता से समाधान तलाशने और कार्रवाई करने के लिए विवश करती हैं. इस क़ानून के तहत ऑस्ट्रेलिया में ऑनलाइन तकनीक़ी कंपनियों के लिए CSAM कंटेंट का पता लगाने और उसे बगैर समय गंवाए प्लेटफॉर्म से हटाने के लिए कोडिंग विकसित करने को अनिवार्य बनाया गया है. अगर ये कंपनियां ऐसा नहीं करती हैं, तो ऑनलाइन सुरक्षा पर नज़र रखने वाली ऑस्ट्रेलिया की नियामक संस्था ई-सेफ्टी (eSafety) उनके ख़िलाफ़ सख़्त क़दम उठा सकती है.[37] ई-सेफ्टी द्वारा ऑनलाइन माध्यमों पर CSAM से जुड़ी शिकायतों को प्रमुखता दी जाती है, इस वजह से उपयोगर्ताओं तक सेवाएं पहुंचाने वाले ऑस्ट्रेलियाई ऑनलाइन सेवा प्रदाता ख़ासे दबाव में हैं और ऑनलाइन सुरक्षा अधिनियम के प्रावधानों के मुताबिक़ अपने सुरक्षा इंतज़ामों को पुख्ता करने में जुटे हुए हैं.
ऑनलाइन सुरक्षा को लेकर भारत एवं ऑस्ट्रेलिया की ओर से जो क़ानूनी क़दम उठाए गए हैं, वो बेहतरीन हैं. दुनिया के तमाम दूसरे मुल्कों में भी इसी तरह की पहलें की जा रही हैं और क़ानूनों में बदलाव किया जा रहा है. इस सबके बावज़ूद यूजर्स के हितों की सुरक्षा के साथ-साथ सोशल मीडिया मंचों पर अभिव्यक्ति की आज़ादी को बनाए रखने के बीच संतुलन स्थापित करना बेहद मुश्किल काम है.
ऑनलाइन सुरक्षा को लेकर भारत एवं ऑस्ट्रेलिया की ओर से जो क़ानूनी क़दम उठाए गए हैं, वो बेहतरीन हैं. दुनिया के तमाम दूसरे मुल्कों में भी इसी तरह की पहलें की जा रही हैं और क़ानूनों में बदलाव किया जा रहा है. इस सबके बावज़ूद यूजर्स के हितों की सुरक्षा के साथ-साथ सोशल मीडिया मंचों पर अभिव्यक्ति की आज़ादी को बनाए रखने के बीच संतुलन स्थापित करना बेहद मुश्किल काम है. फ्रांस का एविया क़ानून इस दुविधा को सामने लाता है. फ्रांस के एक सांसद ने वर्ष 2019 में सोशल मीडिया पर भड़काऊ कंटेंट और आपत्तिजनक सामग्री के प्रसार को नियम-क़ानून के दायरे में लाने के लिए एक विधेयक पेश किया था, जिसे एविया लॉ कहा जाता है. इसके तहत सोशल मीडिया माध्यमों पर किसी आपत्तिजन कंटेंट की शिकायत मिलने या नोटिस जारी होने के 24 घंटे के भीतर उसे हटाने का प्रवाधान किया गया था.[38] फ्री स्पीच के पैरोकारों और अभिव्यक्ति की आज़ादी के समर्थकों ने इस विधेयक का पुरज़ोर विरोध किया. आख़िरकार फ्रांसीसी संवैधानिक न्यायालय ने इस विधेयक के प्रवाधानों पर कैंची चला दी और चौबीस घंटे के भीतर आपत्तिजनक कंटेंट को हटाने वाले इसके सबसे अहम प्रावधान को समाप्त कर दिया. इस प्रवाधान को "अभिव्यक्ति और राय की आज़ादी के अधिकार का उल्लंघन" कहा गया था.[39] आख़िरकार 2020 में जिस संशोधित एविया लॉ को लागू किया गया है, वो मूल क़ानून की तुलना में बेहद लचर था.
संयुक्त राष्ट्र महासचिव एंटोनियो गुटेरेस ने वर्ष 2023 में चेताया था कि "ऑनलाइन माध्यमों पर नफ़रती और फर्ज़ी पोस्ट का प्रसार हमारी दुनिया को अत्यधिक नुक़सान पहुंचा रहा है. सोशल मीडिया के ज़रिए ग़लत सूचना, भ्रामक ख़बरों और नफ़रत फैलाने वाले विचारों से भरी सामग्री का प्रचार-प्रसार न केवल पूर्वाग्रह और हिंसा को बढ़ावा दे रहा है, बल्कि समाज में विभाजन और टकराव को बढ़ा रहा है. इसके अलावा ऑनलाइन माध्यमों के ज़रिए आपत्तिजनक कंटेंट को फैलाकर अल्पसंख्यकों को बदनाम किया जा रहा है, साथ ही चुनावों को भी प्रभावित किया जा रहा है."[40] ज़ाहिर है कि इन्हीं सब वजहों से दुनिया में विचार साझा करने की आज़ादी एवं सुरक्षा के बीच बेहतर तालमेल स्थापित करने की ज़रूरत महसूस की जा रही है. निसंदेह रूप से तमाम देश इस दिशा में अपनी तरफ से कोशिशें कर रहे हैं और नीतिगत व क़ानूनी क़दमों के जरिए इस समस्या का समाधान तलाशने में जुटे हैं. इनमें कड़े नियम-क़ानून बनाने के अलावा सोशल मीडिया कंपनियों को उत्तरदायी ठहराते हुए उनके लिए सख़्त दिशानिर्देश बनाने और उनका पालन करने जैसे क़दम भी उठाए जा रहे हैं. ऐसे में निम्नलिखित सुझाव और पहलें इस दिशा में बेहद कारगर सिद्ध हो सकते हैं.
डॉ. अनुलेखा नंदी ऑब्ज़र्वर रिसर्च फाउंडेशन के सेंटर फॉर सिक्योरिटी, स्ट्रैटेजी एंड टेक्नोलॉजी में फेलो हैं.
अनिर्बान सरमा ऑब्ज़र्वर रिसर्च फाउंडेशन की डिजिटल सोसाइटीज़ पहल के निदेशक हैं.
Endnotes
[A] अमेरिकी पत्रकार सुसान बेनेश ने हेट स्पीच यानी नफ़रती भाषण से अलग ‘ख़तरनाक भाषण’ शब्द गढ़ा था, जो अभिव्यक्ति का एक ऐसा स्वरूप है, जिससे लोगों को भड़काया जाता है और जिससे लोग हिंसक गतिविधियों में शामिल होने के लिए आगे बढ़ते हैं और हिंसा का समर्थन करने या उसमें भाग लेने के लिए प्रेरित होते हैं. देखें: https://www.dangerousspeech.org/dangerous-speech
[B] यूनाइटेड स्टेट्स के नेशनल इंटेलिजेंस निदेशालय ऑफिस की ओर से जारी किए गए एक गोपनीय दस्तावेज़ के मुताबिक़ रूस ने सोशल मीडिया पर एक बहुआयामी अभियान चलाया था, जिसमें गुप्त ख़ुफ़िया अभियानों को रूस समर्थित राज्य और गैर-राज्य अभिनेताओं के प्रत्यक्ष प्रयासों के साथ जोड़ा गया. (देखें: https://www.dni.gov/files/documents/ICA_2017_01.pdf ). इसमें मतदान के बुनियादी ढांचे में सेंध लगाने और जनमत को प्रभावित करने, साथ ही सोशल मीडिया के ज़रिए हिंसा को बढ़ावा देने के प्रयास भी शामिल थे. (देखें: https://daviscenter.fas.harvard.edu/insights/why-do-we-talk-so-much-about-foreigninterference )
[1] UK House of Commons, Digital, Culture, Media and Sports Committee Report, Disinformation and ‘Fake News’: Final Report, 2019, https://committees.parliament.uk/committee/378/digital-culture-media-and-sport-committee/ news/103668/fake-news-report-published-17-19/
[2] Swathi Meenakshi Sadagopan, “Feedback Loops and Echo Chambers: How Algorithms Amplify Viewpoints,” The Conversation, February 4, 2019, https://theconversation.com/feedback-loops-and-echo-chambers-how-algorithms-amplifyviewpoints- 107935; Jonathan Stray, Ravi Iyer, and Helena Puig Larrauri, The Algorithmic Management of Polarization and Violence on Social Media, Knight First Amendment Institute at Columbia University, 2023, https://knightcolumbia.org/content/the-algorithmic-management-of-polarization-and-violence-onsocial- media; Allison J.B. Chaney, Brandon M. Stewart, and Barbara E. Engelhardt, “How Algorithmic Confounding in Recommendation Systems Increases Homogeneity and Decreases Utility” (paper presented at RecSys ’18: Proceedings of the 12th ACM Conference on Recommender System, 2018).
[3] David Bandurski, “Freedom of Speech,” Decoding China, https://decodingchina.eu/freedom-of-speech/
[4] Congressional Research Service, The First Amendment: Categories of Speech, United States, 2024, https://sgp.fas.org/crs/misc/IF11072.pdf
[5] OHCHR, “Freedom of Opinion and Expression - Factsheet,” Office of the High Commissioner for Human Rights, https://www.ohchr.org/sites/default/files/Documents/Issues/Expression/Factsheet_1.pdf
[6] Gehan Gunatilleke, “Justifying Limitations on the Freedom of Expression,” Human Rights Review 22 (2021), https://doi.org/10.1007/s12142-020-00608-8; Congressional Research Service, The First Amendment: Categories of Speech; “Article 19 in Constitution of India,” Indian Kanoon, https://indiankanoon.org/doc/1218090/
[7] “Why Do We Talk So Much about Foreign Interference,” Harvard University Davis Center for Russian and Eurasian Studies, April 17, 2021, https://daviscenter.fas.harvard.edu/insights/why-do-we-talk-so-much-about-foreign-interference
[8] Chaney, Stewart, and Engelhardt, “The Algorithmic Management of Polarization and Violence on Social Media”; Guri Nordtorp Mølmen and Jacob Aasland Ravndal, “Mechanisms of Online Radicalisation: How the Internet Affects the Radicalisation of Extreme-Right Lone Actor Terrorists,” Behavioral Sciences of Terrorism and Political Aggression 15, no. 4 (2021): 463–87, https://doi.org/10.1080/19434472.2021.1993302; Philip Baugut and Katharina Neumann, “Online Propaganda Use during Islamist Radicalization,” Information, Communication & Society 23, no. 11 (2019): 1570–92, https://doi.org/10.1080/1369118X.2019.1594333; Sana Ali, Hiba Abou Haykal, and Enaam Youssef Mohammed Youssef, “Child Sexual Abuse and the Internet—A Systematic Review,” Human Arenas 6 (2023): 404–421, https://doi.org/10.1007/s42087-021-00228-9
[9] Filippo Menczer and Thomas Hills, “The Attention Economy,” Scientific American, 2020, https://warwick.ac.uk/fac/sci/psych/people/thills/thills/2020menczerhills2020.pdf
[10] Fernando N van der Vlist and Anne Helmond, “How Partners Mediate Platform Power: Mapping Business and Data Partnerships in the Social Media Ecosystem,” Big Data and Society 8, no. 1 (2021), https://journals.sagepub.com/doi/10.1177/20539517211025061
[11] Anne Helmond, David B. Nieborg, and Fernando N. van der Vlist, “Facebook’s Evolution: Development of a Platform-as-Infrastructure,” Internet Histories 3, no. 2 (2019), https://www.tandfonline.com/doi/full/10.1080/24701475.2019.1593667#d1e238
[12] Gorwa, “The Platform Governance Triangle”
[13] Gorwa, “The Platform Governance Triangle”
[14] Douglas Broom, “How Can We Prevent Online Harm Without a Common Language for It? These 6 Definitions Will Help Make the Internet Safer,” World Economic Forum, September 1, 2023, https:// www.weforum.org/stories/2023/09/definitions-online-harm-internet-safer/; Ofcom, Internet Users’ Experience of Potential Online Harms: Summary of Survey Research, Information Commissioner’s Office, 2020, https://www.ofcom.org.uk/siteassets/resources/documents/research-and-data/online-research/ online-harms/2020/concerns-and-experiences-online-harms-2020-chart-pack.pdf?v=324902
[15] Broom, “How Can We Prevent Online Harm Without a Common Language for It?”
[16] Daniel Karell, “Online Extremism and Offline Harm,” Social Science Research Council, June 1, 2021, https://items.ssrc.org/extremism-online/online-extremism-and-offline-harm/
[17] Stephanie Kulke, “Social Media Algorithms Exploit How We Learn from Our Peers,” Northwestern Now, August 3, 2023, https://news.northwestern.edu/stories/2023/08/social-media-algorithms-exploit-how-humanslearn- from-their-peers/
[18] Tzu-Chieh Hung and Tzu-Wei Hung, “How China’s Cognitive Warfare Works: A Frontline Perspective of Taiwan’s Anti-Disinformation Wars,” Journal of Global Security Studies 7, no. 4 (2022), https://doi.org/10.1093/jogss/ogac016.
[19] Christoph Schmon and Haley Pederson, “Platform Liability Trends Around the Globe: From Safe Harbors to Increased Responsibility,” Electronic Frontier Foundation, May 19, 2022, https://www.eff.org/deeplinks/2022/05/platform-liability-trends-around-globe-safe-harborsincreased- responsibility
[20] Robert Gorwa, “What is Platform Governance?,” Information, Communication & Society 22, no. 6 (2019): 854–871, https://doi.org/10.1080/1369118X.2019.1573914.
[21] Schmon and Pederson, “Platform Liability Trends Around the Globe”
[22] Sam Levin, Julia Carrie Wong, and Luke Harding, “Facebook Backs Down from ‘Napalm Girl’ Censorship and Reinstates Photo,” The Guardian, September 9, 2016, https://www.theguardian.com/technology/2016/sep/09/facebook-reinstates-napalm-girl-photo
[23] Aimee Picchi, “Twitter Files: What They Are and Why They Matter,” CBS News, December 14, 2022, https://www.cbsnews.com/news/twitter-files-matt-taibbi-bari-weiss-michael-shellenberger-elonmusk/
[24] “YouTube Statistics 2023: How Many Videos Are Uploaded to YouTube Every Day?,” Wyzowl, 2023, https://www.wyzowl.com/youtube-stats/#:~=
[25] “The Role of AI in Content Moderation and Censorship,” Aicontentfy, November 6, 2023, https://aicontentfy.com/en/blog/role-of-ai-in-content-moderation-and-censorship#:~=
[26] “Content Moderation Case Study: YouTube Doubles Down on Questionable Graphic Content Enforcement Before Reversing Course,” TechDirt, February 16, 2022, https://www.techdirt.com/2022/02/16/content-moderation-case-study-youtube-doubles-downquestionable- graphic-content-enforcement-before-reversing-course-2020/
[27] Chris James and Mike Pappas, “The Importance of Mental Health for Content Moderators,” Family Online Safety Institute, May 9, 2023, https://www.fosi.org/good-digital-parenting/the-importance-of-mentalhealth- for-content-moderators
[28] Poppy McPherson, “Facebook Says it Was ‘Too Slow’ to Fight Hate Speech in Myanmar,” Reuters, August 16, 2018, https://www.reuters.com/article/world/facebook-says-it-was-too-slow-to-fight-hate-speech-inmyanmar- idUSKBN1L1066/
[29] Kara Manke, “Study Finds Persistent Spike in Hate Speech on X,” UC Berkeley News, February 13, 2025, https://news.berkeley.edu/2025/02/13/study-finds-persistent-spike-in-hate-speech-on-x/#:~:text=
[30] Mike Wendling, “Twitter and Hate Speech: What’s the Evidence?,” BBC News, April 13, 2023, https://www.bbc.com/news/world-us-canada-65246394
[31] eSafety Commissioner, “Basic Online Safety Expectations: Non-Periodic Notices Issued,” Australian Government, October 2023, https://www.esafety.gov.au/industry/basic-online-safety-expectations/responses-to-transparencynotices/ non-periodic-notices-issued-Februrary-2023-key-findings
[32] Information Technology Act 2000, Ministry of Electronics and IT, Government of India, https://www.meity.gov.in/content/information-technology-act-2000
[33] Information Technology Act 2000
[34] IT (Intermediary Guidelines and Digital Media Ethics Code) Rules, 2021, Ministry of Electronics and IT, Government of India, https://www.meity.gov.in/content/information-technology-intermediary-guidelines-and-digitalmedia- ethics-code-rules-2021
[35] Aaradhya Bachchan v Bollywood Time, CS (Comm.) No.23 of 2023, 2023 SCC OnLine Del 2268
[36] The Hon Michelle Rowland MP, Minister for Communications, “Online Safety Expectations to Boost Transparency and Accountability for Digital Platforms,” https://minister.infrastructure.gov.au/rowland/media-release/online-safety-expectations-boosttransparency- and-accountability-digital-platforms
[37] eSafety Commissioner, “Learn about the Online Safety Act,” Australian Government, https://www.esafety.gov.au/whats-on/online-safety-act#:~:text
[38] “France: Constitutional Court Strikes Down Key Provisions of Bill on Hate Speech,” Library of Congress, June 29, 2020, https://www.loc.gov/item/global-legal-monitor/2020-06-29/france-constitutional-court-strikesdown- key-provisions-of-bill-on-hate-speech/
[39] “France’s Watered Down Anti-Hate Speech Law Enters into Force,” Universal Rights Group, July 16, 2020, https://www.universal-rights.org/frances-watered-down-anti-hate-speech-law-enters-into-force/
[40] “The UN Secretary-General Remarks to Launch the Global Principles for Information Integrity,” United Nations Information Service, June 2023, https://www.un.org/en/UNIS-Nairobi/un-secretary-general-remarks-launch-global-principlesinformation- integrity#:~:text=
The views expressed above belong to the author(s). ORF research and analyses now available on Telegram! Click here to access our curated content — blogs, longforms and interviews.
Dr. Anulekha Nandi is a Fellow - Centre for Security, Strategy and Technology at ORF. Her primary area of research includes digital innovation management and ...
Read More +
Anirban Sarma is Director of the Digital Societies Initiative at the Observer Research Foundation. His research explores issues of technology policy, with a focus on ...
Read More +
PREV
