हम जो देख और सुन रहे हैं, उस पर भरोसा नहीं कर सकते; Deepfake को लेकर टेंशन में दिल्ली HC

नई दिल्ली: डीपफेक कितना खतरनाक है, इसके कई उदाहरण हम देख चुके हैं. डीपफेक तकनीक से तो अब दिल्ली हाईकोर्ट भी टेंशन में आ गया है. दिल्ली हाईकोर्ट ने बुधवार को कहा कि डीपफेक तकनीक समाज में एक गंभीर खतरा बनने जा रही है और सरकार को इस बारे में सोचना शुरू कर देना चाहिए. इसके साथ ही अदालत ने कहा कि सिर्फ तकनीक ही आर्टिफिशियल इंटेलिजेंस (एआई) की काट हो सकती है. हाईकोर्ट देश में डीपफेक तकनीक के संभावित दुरुपयोग और इसके गैर-नियमन के खिलाफ दो याचिकाओं पर सुनवाई कर रहा था. सुनवाई के दौरान हाईकोर्ट ने कहा कि चुनावों से पहले, सरकार इस मुद्दे पर चिंतित थी और अब चीजें बदल गई हैं.

इस पर केंद्र की ओर से पेश अतिरिक्त सॉलिसिटर जनरल चेतन शर्मा ने कहा, ‘संभव है कि हमारी भाव-भंगिमा बदल गई होगी, लेकिन हम अब भी उतने ही चिंतित हैं जितने तब थे.’ केंद्र के वकील ने यह भी कहा कि अधिकारी मानते हैं कि यह ऐसी समस्या है, जिससे निपटने की जरूरत है. डीपफेक तकनीक के तहत किसी तस्वीर या वीडियो में किसी व्यक्ति की जगह अन्य व्यक्ति की तस्वीर लगा दी जाती है. इसके तहत मूल व्यक्ति के शब्दों और कार्यों को बदलकर दर्शकों को गुमराह किया जा सकता है और गलत सूचना फैलाई जा सकती है.

कार्यवाहक मुख्य न्यायाधीश मनमोहन और जस्टिस तुषार राव गेडेला ने कहा, ‘आपको (केंद्र सरकार को) इस पर काम शुरू करना होगा. आपको इस बारे में सोचना होगा. यह (डीपफेक) समाज में एक गंभीर खतरा बनने जा रहा है.’ जस्टिस मनमोहन ने कहा, ‘आप भी कुछ अध्ययन करें. यह ऐसा कुछ है कि आप जो देख रहे हैं और जो सुन रहे हैं, आप उस पर भरोसा नहीं कर सकते. यह कुछ ऐसा है जो चकित करता है. जो मैंने अपनी आंखों से देखा और जो मैंने अपने कानों से सुना, मुझे उस पर भरोसा नहीं करना है, यह बहुत ही चौंकाने वाला है.’

देश में डीपफेक तकनीक के गैर-नियमन के खिलाफ एक याचिका वरिष्ठ पत्रकार रजत शर्मा ने दायर की है. याचिका में उन्होंने ऐसी सामग्री के निर्माण में मदद देने वाले ऐप्लिकेशन और सॉफ्टवेयर तक सार्वजनिक पहुंच को रोकने का निर्देश दिए जाने का अनुरोध किया. डीपफेक और एआई के अनियंत्रित उपयोग के खिलाफ दूसरी याचिका वकील चैतन्य रोहिल्ला ने दायर की है. रजत शर्मा ने दलील दी, ‘हम एआई विरोधी तकनीक का इस्तेमाल करके ऐसी स्थिति को खत्म कर सकते हैं, अन्यथा बहुत नुकसान हो सकता है. इन मुद्दों से निपटने के लिए चार चीजों की जरूरत है – पता लगाना, रोकथाम, शिकायत निवारण तंत्र और जागरूकता बढ़ाना. कोई भी कानून या सलाह बहुत असरकारी नहीं होगी.’

इस पर पीठ ने जवाब दिया कि एआई के लिए केवल तकनीक ही उसकी काट होगी. पीठ ने कहा, ‘इस तकनीक से होने वाले नुकसान को समझें, क्योंकि आप सरकार हैं. एक संस्था के रूप में हमारी कुछ सीमाएं होंगी.’ डीपफेक संबंधी वेबसाइट की पहचान करने और उन्हें स्वतः ‘ब्लॉक’ करने को लेकर इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने अपने जवाब में कहा कि उसे इंटरनेट पर किसी भी ऑनलाइन सामग्री की स्वतः निगरानी करने का अधिकार नहीं है. उसने कहा कि इंटरनेट पर किसी भी सामग्री या वेबसाइट को स्थापित कानूनी प्रक्रिया के अनुसार ही ब्लॉक किया जा सकता है.

अदालत ने याचिकाकर्ताओं को अपने सुझावों को शामिल करते हुए एक अतिरिक्त हलफनामा दायर करने के लिए दो सप्ताह का समय दिया. मामले में अगली सुनवाई 24 अक्टूबर को होगी. इससे पहले, उच्च न्यायालय ने केंद्र सरकार से इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय के जरिये दोनों याचिकाओं पर अपना जवाब दाखिल करने को कहा था. इंडिया टीवी के अध्यक्ष और प्रधान संपादक रजत शर्मा ने जनहित याचिका (पीआईएल) में कहा है कि डीपफेक तकनीक का प्रसार समाज के विभिन्न पहलुओं के लिए गंभीर खतरा पैदा करता है. याचिका में कहा गया है कि यह सार्वजनिक विमर्श और लोकतांत्रिक प्रक्रिया की अखंडता को कमजोर करता है. याचिका में कहा गया है कि केंद्र ने नवंबर 2023 में डीपफेक और ऐसी सामग्री से निपटने के लिए विनियमन तैयार करने का इरादा जताया था, लेकिन अभी तक ऐसा कुछ भी नहीं हुआ है.

Tags: DELHI HIGH COURT, Delhi news