FACEBOOK या 'फेकबुक', सोशल मीडिया पर फैले हैं नफरत और हिंसा के खतरनाक एल्गोरिदम

'द फ़ेसबुक पेपर्स' से सामने आया कैसे फेसबुक के एल्गोरिदम से बढ़ रही है हेट स्पीच और फेक न्यूज।

फेसबुक का नाम भले ही बदला जा रहा है लेकिन उसकी नीयत पर दुनियाभर में सवाल उठाए जा रहे हैं। हाल ही में आधा दर्जन से ज्यादा प्रतिष्ठित अखबारों के एक कंसोर्टियम ने पूर्व फेसबुक कर्मचारी फ्रांसेस ह्यूगेन द्वारा लीक किए गए कंपनी के आंतरिक डॉक्युमेंट्स के आधार पर नई रिपोर्ट प्रकाशित की है, जिसे दि फेसबुक पेपर्स (The Facebook Papers) नाम दिया जा रहा है। ह्यूगेन ने अपने वकीलों के माध्यम से अमेरिकी सिक्योरिटी ऐंड एक्सचेंज कमीशन (SEC) में फेसबुक के खिलाफ कम से 8 शिकायतें की हैं।    

इन पेपर्स में फेसबुक का काला चेहरा दर्शाया गया है। फेसबुक पेपर्स नाम से जारी की गई रिपोर्ट में कहा गया है कि फेसबुक भारत में 'फेकबुक' बनता जा रहा है। व्हिसलब्लोअर फ्रांसेस ह्यूगेन ने हजारों दस्तावेजों को अमेरिका की सिक्योरिटीज एंड एक्सचेंज कमीशन और अखबारों के कंसोर्टियम को ये डॉक्युमेंट भेजकर फेसबुक पर गंभीर आरोप भी लगाए हैं। 

क्या हैं आरोप : 

1. फेसबुक बच्चों को जानबूझकर अपने ऐप की लत लगाने की कोशिशों में रहती है। ह्यूगेन ने कहा है कि फेसबुक बच्चों के मानसिक स्वास्थ्य, लोकतंत्र और समाज के लिए बड़ा खतरा है। यह प्लेटफार्म भेदभाव पैदा करता है। चुने गए जनप्रतिनिधियों को इस पर काबू करना चाहिए। 

2. फेसबुक कंपनी जानती है कि उसके इंस्टाग्राम जैसे एप सुरक्षित नहीं हैं, लेकिन इसके बावजूद कंपनी सुधार के लिए कोई कार्रवाई नहीं करती है। फेसबुक की ‘प्रॉफिट-ओवर-सेफ्टी’ (सुरक्षा पर लाभ को तरजीह देने) की रणनीति सबसे अधिक जिम्मेदार है।

3. रिसर्च में कंपनी ने पाया कि हेटफुल, विभाजनकारी और सांप्रदायिक कंटेंट में सबसे ज्यादा एंगेजमेंट होता है जिसके बाद फेसबुक के डेटा साइंटिस्ट्स ने इस तरह के कंटेंट को कम करने की कोशिश की, लेकिन मार्क जुकरबर्ग ने इनमें से कुछ बदलाव का विरोध किया, क्योंकि इन बदलावों से एंगेजमेंट कम हो सकता था।  

4. भारत में फर्जी अकाउंट्स से झूठी खबरों के जरिए चुनावों को प्रभावित किया जाता है। इसकी पूरी जानकारी फेसबुक को है, लेकिन उसने इतने संसाधन ही नहीं बनाए कि वह इस गड़बड़ी को रोक सके। 

5. हेटस्पीच और फेक न्यूज की सामग्री को रोकने के लिए कंपनी ने जितना बजट तय किया है, उसका 87% सिर्फ अमेरिका में खर्च होता है। भारत जैसे देश जहां फेसबुक के सबसे अधिक यूजर्स हैं, के लिए बेहद कम बजट रखा गया है।

6. म्यांमार और इथोपिया में गृहयुद्ध के दौरान झूठी सूचनाएं चलीं। फेसबुक नफरत फैलाने वाले पोस्ट पर रोक नहीं लगा पाई। चीन-ईरान मामले में भी ऐसा ही हुआ। सरकारों ने फेसबुक का पक्ष में इस्तेमाल किया। फेसबुक ने आतंक रोधी अपने सेल में सोची-समझी रणनीति के तहत स्टाफ को कम किया।

7. इसी तरह की घटनाएं दुनियाभर के अन्य देशों में देखी गईं, जैसे कि अमेरिका में कैपिटल हिल हिंसा। कथित तौर पर 'Stop the Steal' फेसबुक ग्रुप्स के साथ ये हिंसा शुरू हुई जिसकी वजह से ट्रंप के समर्थकों ने कैपिटल पर हमला किया। रिपोर्ट के अनुसार फेसबुक पोस्ट के जरिए म्यांमार में अल्पसंख्यक रोहिंग्याओं को टारगेट किया गया जिससे तनाव और हिंसा हुई।  

8. अमेरिकी प्रतिभूति और विनिमय आयोग (एसईसी) को अपनी शिकायत में ह्यूगेन ने कहा था कि हेटफुल स्पीच के उपयोगकर्ताओं, समूहों और पेजों के बारे में जागरूक होने के बावजूद, भड़काऊ और धर्म विशेष के विरुद्‍ध बयानों को बढ़ावा देने के बावजूद, फेसबुक कार्रवाई नहीं कर सका या इस सामग्री को चिन्हित नहीं कर सका क्योंकि उसके पास हिंदी और बंगाली भाषाओं के विशेषज्ञ नहीं थे। 

फेसबुक पेपर्स का इंडिया कनेक्शन : भारत 32.8 करोड़ से ज्यादा यूजर्स के साथ फेसबुक का सबसे बड़ा बाजार है। अमेरिकी अखबार वाशिंगटन पोस्ट ने 22 अक्टूबर को फेक न्यूज के प्रसार में फेसबुक की भूमिका पर एक रिपोर्ट प्रकाशित की जिसके मुताबिक, फेसबुक ने दो साल पहले भारत में रिकमंडेशन एल्गोरिदम की टेस्टिंग के लिए फरवरी 2019 में एक अकाउंट बनाया था। इस रिपोर्ट में केरल के एक फेसबुक अकाउंट पर किए गए परीक्षण के जरिये फेसबुक ने जाना कि कैसे उसका खुद का एल्गोरिदम हेट स्पीच और फेक न्यूज को बढ़ावा दे रहा था।

रिपोर्ट में बताया है कि सिर्फ तीन हफ्तों के अंदर फेसबुक के टेस्ट अकाउंट पर फेक न्यूज और एडिटेड तस्वीरों की बाढ़ आ गई। इसमें सिर कलम करने, पाकिस्तान के खिलाफ भारत की एयर स्ट्राइक और हिंसा जैसी ग्राफिक तस्वीरें शामिल थीं। इस अकाउंट को बनाने का मकसद यह देखना था कि कंपनी के तेजी से बढ़ते मार्केट में इसका एल्गोरिदम कैसे काम करता है और लोगों को कैसे प्रभावित करता है। इसमें देखा गया कि लोग क्या देख रहे हैं और किन पोस्ट पर सबसे अधिक एंगेजमेंट होता है।  

इन दस्तावेजों में बताया गया है कि फेसबुक भारत में अपने प्लेटफॉर्म पर भ्रामक सूचनाएं और हेट स्पीच के प्रसार की जांच करने में इसलिए विफल रहा क्योंकि उसके पास हिंदी और बंगाली में आपत्तिजनक सामग्री को चिह्नित करने या निगरानी करने के लिए सही उपकरण नहीं था, जैसे विवरण शामिल हैं। 

कैसे फेसबुक भारत में 'फेकबुक' बन रहा है : फेसबुक पेपर्स के एक दस्तावेज ‘एडवर्सेरियल हार्मफुल नेटवर्क्स : इंडिया केस स्टडी’ में लिखा है कि भारत में ऐसे कई समूह और पेज हैं, जिन पर भड़काऊ सामग्री परोसी जाती है। समुदाय विशेष के खिलाफ बयानबाजी, आपत्तिजनक प्रचार सामग्री में उस समुदाय की तुलना जानवरों से की जाती है। एक धर्म विशेष से जुड़ी सामग्री के बारे में भी दुष्प्रचार किया जाता है। यहां तक कि इस सामग्री में दूसरे धर्म के लोगों को प्रताड़ित करने और उनकी महिलाओं के साथ दुष्कर्म करने का सुझाव दिया गया है।

एक अन्य रिपोर्ट ‘इंडियन इलेक्शन केस स्टडी’ में बताया गया कि पश्चिम बंगाल से ताल्लुक रखने वाले 40% से अधिक अकाउंट फर्जी या अप्रामाणिक थे। इनमें से एक अकाउंट पर तो 3 करोड़ से ज्यादा लोग किसी न किसी रूप में जुड़े हुए थे। मार्च-2021 की एक अन्य रिपोर्ट में बताया कि फेसबुक को पता है कि कितने अकाउंट फर्जी हैं, लेकिन उन्हें हटाया नहीं गया। 

न्युयॉर्क टाइम्स की रिपोर्ट के अनुसार भारत में आधिकारिक रूप से मान्यता प्राप्त 22 भाषाओं में से, फेसबुक का AI सिर्फ 5 भाषाओं में ही काम कर पाता है और बची भाषाओं में काम करने के लिए फेसबुक ह्यूमन मॉडरेटर्स को नियुक्त करता है। इस समय फेसबुक पर हिंदी और बंगाली चौथी और सातवीं सबसे ज्यादा इस्तेमाल की जानी वाली भाषाएं हैं लेकिन बावजूद, फेसबुक के पास इन भाषाओं में भड़काऊ सामग्री या गलत सूचना का पता लगाने और उन्हें रोकने के लिए कोई प्रभावी प्रणाली नहीं है। 

वाशिंगटन पोस्ट की रिपोर्ट के बाद ब्लूमबर्ग और एनबीसी न्यूज, द एसोसिएटेड प्रेस, द अटलांटिक सहित सीएनबीसी, सीएनएन, पोलिटिको, द वर्ज और वायर्ड जैसे मीडिया संस्थानों ने भी इन दस्तावेजों पर कई रिपोर्ट प्रकाशित की जिनमें फेसबुक द्वारा सिलेक्टिव होने और कई देशों में चुनावों को फेसबुक एल्गोरिदम से प्रभावित करने की बात कही है। 

विवादों का बैकग्राउंड : फेसबुक को अगस्त 2020 में वॉल स्ट्रीट जर्नल की रिपोर्ट के बाद से ही भारत में जांच का सामना करना पड़ रहा है। इस रिपोर्ट में कहा गया था कि कंपनी की सीनियर एग्जीक्यूटिव अंखी दास ने सत्ता से जुड़े राजनैतिक दल के पेजों पर कंपनी के हेट-स्पीच नियम लागू करने का विरोध किया था। इसके बाद हुए विवाद में अंखी दास को इस्तीफा देना पड़ा था। दिल्ली दंगे के दौरान भी फेसबुक पर कुछ नेताओं के भड़काऊ पोस्ट पर कार्रवाई नहीं करने के आरोप लगे थे। वहीं भाजपा ने फेसबुक पर राष्ट्रवादी कंटेंट को सेंसर करने का आरोप लगाया था।

उल्लेखनीय है कि फेसबुक ने कई अकाउंट्स को ब्लैकलिस्ट किया था जिसमें हिंदुत्व समूह सनातन संस्था, प्रतिबंधित भारतीय कम्युनिस्ट पार्टी (माओवादी) और नेशनलिस्ट सोशलिस्ट काउंसिल ऑफ नागालैंड (इसाक-मुइवा) समेत अन्य शामिल हैं।  

आरोपों पर फेसबुक के CEO मार्क जकरबर्ग ने कहा है कि इन दावों में कोई सच्चाई नहीं है। उन्होंने कहा फेसबुक कभी फायदे को सुरक्षा के मुकाबले में तवज्जो नहीं देती है। फेसबुक कर्मचारियों को लिखे ब्लॉग में उन्होंने कहा है कि हम जानबूझकर ऐसे कंटेंट को आगे नहीं बढ़ाते जो लोगों को नुकसान पहुंचाएं।  

क्या भारत फेसबुक के खिलाफ एक्शन लेगा? 

फेसबुक के आंतरिक दस्तावेजों 'फेसबुक पेपर्स' में भारत से जुड़े हुए प्रमुख खुलासों पर इलेक्ट्रॉनिक्स एवं सूचना तकनीकी मंत्रालय एक रिपोर्ट तैयार कर रहा है।

मंत्रालय के अनुसार फेसबुक की व्हिसिलब्लोअर फ्रांसेस ह्यूगेन द्वारा आंतरिक दस्तावेजों के हवाले से किए गए खुलासे में फेसबुक के एल्गोरिदम द्वारा यूजरों को अनुशंसा करने में खामियों को सामने लाया गया है जिससे भारत में यूजरों को बड़ी संख्या में भ्रामक सूचनाएं और हेट स्पीच दिखाई देती हैं। 

इंडियन एक्सप्रेस की रिपोर्ट के अनुसार, मंत्रालय से जुड़े सूत्रों ने कहा कि अगर आवश्यकता पड़ी तो हम एल्गोरिदम के काम करने के तरीके के बारे में जानने के लिए उनके अधिकारियों को बुलाएंगे और फेक न्यूज एवं हेट स्पीच के खिलाफ की गई कार्रवाई की जानकारी मांगेंगे, फिलहाल हम ह्यूगन के खुलासों को देख रहे हैं।