सोशल मीडिया दिग्गज मेटा ने शुक्रवार को एक बड़ा फैसला लेते हुए घोषणा की है कि वह अपने सभी एप्स (जैसे इंस्टाग्राम, फेसबुक और मैसेंजर) पर किशोरों (टीन्स) के लिए ‘एआई कैरेक्टर्स’ के इस्तेमाल को अस्थायी रूप से बंद कर रहा है। यह प्रतिबंध उन सभी यूजर्स पर लागू होगा जिनकी जन्मतिथि के अनुसार वे किशोर हैं या जिन्हें कंपनी की नई तकनीक ‘टीनेजर’ मानती है।

 

क्या है यह नया प्रतिबंध?

मेटा ने स्पष्ट किया है कि यह रोक अस्थायी है। कंपनी के अनुसार किशोर अब मेटा के ‘कस्टम-बिल्ट एआई कैरेक्टर्स’ (जो अलग-अलग व्यक्तित्व वाले चैटबॉट होते हैं) का उपयोग नहीं कर पाएंगे। हालांकि, वे अभी भी मानक ‘मेटा एआई असिस्टेंट’ का उपयोग कर सकेंगे, लेकिन इसमें उम्र के हिसाब से सुरक्षा के कड़े इंतजाम होंगे। यह नियम उन यूजर्स पर भी लागू होगा जो खुद को वयस्क बताते हैं लेकिन मेटा की ‘एज प्रिडिक्शन टेक्नोलॉजी’ को संदेह है कि वे असल में किशोर हैं।

 

माता-पिता को मिलेगा ज्यादा कंट्रोल

कंपनी ने बताया कि वह एक अपडेटेड अनुभव तैयार कर रही है, जिसके तहत माता-पिता को यह देखने की सुविधा मिलेगी कि उनके बच्चे एआई चैटबॉट्स के साथ क्या बातचीत कर रहे हैं। मेटा ने अपने ब्लॉग पोस्ट में कहा, “आने वाले हफ्तों से, किशोर हमारे एप्स पर एआई कैरेक्टर्स का उपयोग तब तक नहीं कर पाएंगे जब तक कि नया अपडेटेड अनुभव तैयार नहीं हो जाता। जब हम वापसी करेंगे तो माता-पिता के पास अपने बच्चों के एआई अनुभव पर निगरानी रखने के लिए बेहतर ‘पैरेंटल कंट्रोल’ होंगे।”

मुकदमे से पहले लिया गया फैसला

मेटा का यह कदम ऐसे समय में आया है जब कंपनी को टिकटॉक और यूट्यूब के साथ लॉस एंजिल्स में एक बड़े मुकदमे का सामना करना है। इन कंपनियों पर आरोप है कि उनके एप्स बच्चों को नुकसान पहुंचा रहे हैं। रिपोर्ट्स के मुताबिक, मेटा ने न्यू मैक्सिको के जज से अपील की है कि मुकदमे के दौरान सोशल मीडिया और युवाओं के मानसिक स्वास्थ्य से जुड़े कुछ रिसर्च और मार्क जुकरबर्ग के हार्वर्ड के दिनों के संदर्भों को बाहर रखा जाए।

अन्य कंपनियों ने भी उठाए कदम

सिर्फ मेटा ही नहीं, बल्कि उसके प्रतिद्वंद्वियों ने भी बच्चों की सुरक्षा के लिए कदम उठाए हैं। ओपनएआई (चैटजीपीटी) ने हाल ही में ओपनएआई ने भी बच्चों को संवेदनशील कंटेंट से बचाने के लिए ‘एज प्रिडिक्शन टेक्नोलॉजी’ लागू की है। कैरेक्टर.एआई नाम की कंपनी ने भी 18 साल से कम उम्र के यूजर्स के लिए अपने चैटबॉट पर प्रतिबंध लगा दिया है। फ्लोरिडा की एक मां के जरिए अपने 14 वर्षीय बेटे की आत्महत्या के लिए चैटबॉट को जिम्मेदार ठहराने और मुकदमा करने के बाद यह कदम उठाया गया था।