Deepfake and AI content case : आर्टिफिशियल इंटेलिजेंस (AI) टूल्स के दुरुपयोग को रोकने के लिए खासकर व्यक्तियों के सिंथेटिक चित्र वीडियो और ऑडियो प्रतिरूपण बनाने वाले डीपफेक (Deepfake) को नियंत्रित करने के लिए उच्चतम न्यायालय में जनहित याचिका (PIL) दायर की गई है। इसके बाद सरकार अब डीपफेक और AI से बनी फेक वीडियो-तस्वीरों पर लगाम लगाने की तैयारी में है। सरकार ने डीपफेक और AI से बनी फेक वीडियो-तस्वीर को नियंत्रित करने के लिए IT नियमों में संशोधन का ड्रॉफ्ट जारी किया है।
याचिका में कहा गया कि आवाज़ और छवियों की क्लोनिंग करने में सक्षम AI डिवाइस के अनियंत्रित उपयोग से व्यक्तियों को पहले ही भारी नुकसान हो चुका है और यह सार्वजनिक विश्वास सामाजिक सद्भाव और राष्ट्रीय सुरक्षा के लिए आसन्न खतरा है। इसके बाद सरकार अब डीपफेक और AI से बनी फेक वीडियो-तस्वीरों पर लगाम लगाने की तैयारी में है।
सरकार ने डीपफेक और AI से बनी फेक वीडियो-तस्वीर को नियंत्रित करने के लिए IT नियमों में संशोधन का ड्रॉफ्ट जारी किया है। नए नियमों के तहत नकली कंटेंट पर स्पष्ट लेबलिंग अनिवार्य होगी और बड़े सोशल मीडिया प्लेटफॉर्म्स को कड़ी जांच करनी होगी। यह कदम डिजिटल दुनिया में पारदर्शिता और सुरक्षा बढ़ाने के लिए है। ये बदलाव कृत्रिम रूप से बनाई गई जानकारी यानी सिंथेटिक कंटेंट को कानूनी रूप से जिम्मेदार ठहराने की दिशा में एक बड़ा कदम हैं।
कोई भी प्लेटफॉर्म अपने यूजर को यह सुविधा नहीं देगा कि वे इस लेबल को हटाएं या बदलें। अगर ये बड़े प्लेटफॉर्म इन नियमों का पालन नहीं करते, तो इसे कानून का उल्लंघन माना जाएगा। सरकार ने कहा है कि अगर कोई ऑनलाइन प्लेटफॉर्म ऐसे फर्जी या खतरनाक सिंथेटिक कंटेंट को हटाता है या उसकी पहुंच को ब्लॉक करता है, तो उसे कानूनी सुरक्षा दी जाएगी यानी उस पर कोई कानूनी कार्रवाई नहीं होगी।
इन नए नियमों का मकसद यह है कि इंटरनेट पर जो कुछ भी लोग देखते, सुनते या शेयर करते हैं, उसमें पारदर्शिता और विश्वास बना रहे। मंत्रालय ने इन ड्राफ्ट नियमों और उनके स्पष्टीकरण को अपनी वेबसाइट पर सार्वजनिक कर दिया है। साथ ही सरकार ने लोगों और विशेषज्ञों से 6 नवंबर तक सुझाव देने को कहा है।
Edited By : Chetan Gour
