सरकार ने AI जेनरेटेड डीपफेक कंटेंट को लेकर नियम को सख्त कर दिया है। सरकार ने AI से बनाए गए डीपफेक ऑडियो, वीडियो और टेक्स्ट को सोशल मीडिया पर शेयर करने के नियामकीय ढांचे को मजबूत करने का काम किया है। सोशल मीडिया प्लेटफॉर्म को अब पहले के मुकाबले जल्द कार्रवाई करनी होगी। इससे पहले भी सरकार ने 20 फरवरी को एआई जेनरेटेड कंटेंट के लिए नए नियम लागू किए थे, जिसमें कंटेंट की लेबलिंग को लेकर दिशा निर्देश जारी किए गए थे।
क्या हैं नए नियम?
- सरकार ने नए IT नियमों के तहत एआई द्वारा जेनरेट किए गए डीपफेक कंटेंट जैसे कि ऑडियो, वीडियो और टेक्स्ट पर स्पष्ट लेबलिंग और ट्रेसेबल मेटाडेटा अब अनिवार्य कर दिया है।
- सोशल मीडिया प्लेटफॉर्म पर शेयर किए गए गैरकानूनी डीपफेक कंटेंट को सरकार या कोर्ट के निर्देश पर 3 घंटे के अंदर हटाना होगा। पहले यह समयसीमा 36 घंटे की थी।
- इसके अलावा यूजर द्वारा की गई शिकायत के निपटारे की समयसीमा को भी कम किया गया है। एआई द्वारा जेनरेटेड संवेदनशील डीपफेक कंटेंट जैसे कि न्यूडिटी/प्रतिरूपण को अब 2 घंटे के अंदर हटाना होगा। पहले इसकी समयसीम 24 घंटे निर्धारित की गई थी।
- सोशल मीडिया प्लेटफॉर्म्स को एआई द्वारा बनाए गए डीपफेक एवं अन्य अवैध एआई कंटेंट की पहचान और उसकी रोकथाम के लिए ऑटोमेटेड तकनीकी उपाय अपनाने के निर्देश दिए गए हैं।
- जो प्लेटफॉर्म नियमों का पालन नहीं करेंगे उनकी IT एक्ट के तहत मिली ‘सेफ हार्बर’ सुरक्षा खत्म कर दी जाएगी। साथ ही, उनके खिलाफ कानूनी कार्रवाई भी की जा सकती है।
भारत ही नहीं पूरी दुनिया में AI-generated content के गलत इस्तेमाल को लेकर नियमों में सख्ती की जा रही है। कुछ दिन पहले यूरोप में भी एआई जेनरेटेड कंटेंट के मिसयूज को रोकने के लिए नियमों को सख्त किया गया है। यूरोपीय यूनियन ने भी खास तौर पर एआई डीपफेक कंटेंट के गलत इस्तेमाल को लेकर अपनी चिंता जताई हैं।
ऐसे कंटेंट की पहचान करना आम इंसान के लिए बेहद मुश्किल होता है। सोशल मीडिया प्लेटफॉर्म्स पर ऐसे कंटेंट की बाढ़ है, जिसमें किसी भी व्यक्ति की नकली फोटो, आवाज या वीडियो तैयार करके उसे असली जैसा दिखाया जाता है। यूरोपीय यूनियन ने भी सोशल मीडिया प्लेटफॉर्म्स को कहा है कि उन्हें ऐसा सिस्टम तैयार करना होगा, जिसमें एआई से बने कंटेंट की पहचान बतानी होगी। साथ ही, डेटा प्राइवेसी और सिक्योरिटी और चैटबॉट के इस्तेमाल को लेकर भी नियम बनाए गए हैं।
