jagmohan kholiya
दुनियाभर में ऑनलाइन प्लेटफॉर्म पर बच्चों के यौन शोषण से जुड़े कंटेंट पर सख्ती बढ़ रही है। हाल ही में ग्रोक एआई द्वारा महिलाओं की आपत्तिजनक तस्वीरें बनाने के बाद इसको लेकर चर्चा बढ़ गई है। वहीं, ऑस्ट्रेलिया में 16 साल से कम उम्र के बच्चों के लिए सोशल मीडिया पर बैन लगा दिया गया है। हालांकि, रिपोर्ट्स बनाती हैं कि इन सभी प्रयासों के बावजूद बड़ी टेक कंपनियां अब भी इस गंभीर समस्या से प्रभावी ढंग से निपटने में पीछे हैं। ऑस्ट्रेलियन सेंटर टू काउंटर चाइल्ड एक्सप्लॉइटेशन के मुताबिक, साल 2024-25 में करीब 83,000 ऑनलाइन चाइल्ड सेक्सुअल एब्यूज से जुड़ी रिपोर्ट दर्ज की गईं। यह आंकड़ा पिछले साल की तुलना में 41% ज्यादा है, और इनमें से अधिकतर मामले मुख्यधारा के डिजिटल प्लेटफॉर्म्स से जुड़े थे।
इसी बढ़ते खतरे को देखते हुए ऑस्ट्रेलिया की ई-सेफ्टी कमिश्नर जूली इनमैन ग्रांट ने गूगल, एपल, माइक्रोसॉफ्ट, मेटा समेत अन्य बड़ी टेक कंपनियों से हर छह महीने में ट्रांस्पिरेंसी रिपोर्ट जमा करने को कहा है। हाल ही में जारी हुई इस रिपोर्ट में कुछ सुधार जरूर दिखे हैं, लेकिन साथ ही कई गंभीर सुरक्षा खामियां भी सामने आई हैं।
गलत कंटेंट पर सख्ती बढ़ी, लेकिन प्रयास नाकाफी
रिपोर्ट के अनुसार, कुछ कंपनियों ने शोषण सामग्री, एआई से तैयार कंटेंट, लाइव-स्ट्रीमिंग एब्यूज, ऑनलाइन ग्रूमिंग और सेक्सुअल एक्सटॉर्शन की पहचान में प्रगति की है। मॉडरेशन का समय भी कुछ मामलों में कम हुआ है। उदाहरण के तौर पर, स्नैपचैट की पैरेंट कंपनी Snap ने अपने प्लेटफॉर्म पर बाल यौन शोषण से जुड़े कंटेंट पर कार्रवाई का समय 90 मिनट से घटाकर 11 मिनट कर दिया है। माइक्रोसॉफ्ट ने भी Outlook में ऐसे कंटेंट की पहचान का दायरा बढ़ाया है।
हालांकि, रिपोर्ट यह भी बताती है कि मेटा और गूगल अब भी Messenger और Google Meet जैसी वीडियो कॉलिंग सेवाओं पर लाइव-स्ट्रीमिंग के जरिए होने वाले शोषण की निगरानी नहीं कर रहे हैं, जबकि इनके अन्य प्लेटफॉर्म पर डिटेक्शन टूल्स मौजूद हैं। एपल और डिस्कॉर्ड पर भी सक्रिय डिटेक्शन सिस्टम की कमी है। एपल अब भी ज्यादातर मामलों में ऑटोमैटिक सुरक्षा तकनीक के बजाए यूजर रिपोर्ट पर ही निर्भर है।
लाइव वीडियो प्लेटफॉर्म्स पर सुरक्षा की कमी
रिपोर्ट में यह भी सामने आया है कि एपल, डिस्कॉर्ड, गूगल चैट, मीट और मैसेजेज, माइक्रोसॉफ्ट टीम्स और स्नैप जैसे प्लेटफॉर्म बच्चों से जुड़े सेक्सुअल एक्सटॉर्शन की पहचान के लिए उपलब्ध सॉफ्टवेयर का इस्तेमाल नहीं कर रहे हैं। सबसे बड़ी चिंता लाइव वीडियो और एन्क्रिप्टेड प्लेटफॉर्म्स को लेकर है, जहां शोषण की पहचान के लिए अब भी पर्याप्त टूल्स नहीं लगाए गए हैं।
इन रिपोर्ट्स के साथ ई-सेफ्टी ने एक नया डैशबोर्ड भी लॉन्च किया है, जो टेक कंपनियों की प्रगति को ट्रैक करेगा। इसमें यह दिखेगा कि कंपनियां किन तकनीकों का इस्तेमाल कर रही हैं, कितना कंटेंट यूजर्स की शिकायत के बाद हटाया गया और सुरक्षा से जुड़े कर्मचारियों की संख्या कितनी है।
लॉन्च से पहले प्लेटफॉर्म खुद को साबित करे सुरक्षित
ई-सेफ्टी कमिश्नर का मानना है कि केवल रिपोर्टिंग से काम नहीं चलेगा। जरूरत है ऐसे कानूनों की, जो कंपनियों को लॉन्च से पहले ही यह साबित करने के लिए मजबूर करें कि उनके प्लेटफॉर्म सुरक्षित हैं। प्रस्तावित ‘डिजिटल ड्यूटी ऑफ केयर’ कानून के तहत कंपनियों को जोखिम पहले पहचानने और मौजूद तकनीकों जैसे भाषा विश्लेषण सॉफ्टवेयर और चेतावनी मैसेज का इस्तेमाल करने की जिम्मेदारी दी जा सकती है।
रिपोर्ट में यह भी बताया गया है कि सिर्फ पहचान ही नहीं, बल्कि रोकथाम और जागरूकता भी जरूरी है। चेतावनी संदेश और रियल-टाइम डिटरेंस सिस्टम जैसे उपाय शोषण से जुड़े व्यवहार को काफी हद तक रोक सकते हैं। ऐसे संदेश न सिर्फ गलत गतिविधियों को ब्लॉक करते हैं, बल्कि लोगों को मदद लेने के लिए सही दिशा भी दिखा सकते हैं।
मुनाफे से बढ़कर सुरक्षा को देना होगा महत्व
ई-सेफ्टी कमिश्नर ने साफ कहा कि बच्चों की ऑनलाइन सुरक्षा कोई विकल्प नहीं, बल्कि अनिवार्यता होनी चाहिए। तकनीक पहले से मौजूद है, लेकिन कई कंपनियां मुनाफे और यूजर ग्रोथ के डर से इसका पूरा इस्तेमाल नहीं कर रहीं। मौजूदा रिपोर्ट्स यह दिखाती हैं कि समाधान मौजूद हैं, लेकिन कार्रवाई की रफ्तार बेहद धीमी है। अब जरूरत ऐसे सख्त कानूनों की है, जो ऑनलाइन सुरक्षा को सिर्फ एक फीचर नहीं, बल्कि हर प्लेटफॉर्म का मूल आधार बना सके।
Garima Mishra Joshi
विजय जोशी
