Question: With AI technology improvements, deepfakes are becoming common on the internet and can be challenging to detect. Describe the concerns associated with deepfakes. Highlight the global and Indian initiatives to tackle and regulate deepfakes.
(GS 3, 15 Marks, 250 Words)
प्रश्न: एआई प्रौद्योगिकी में सुधार के साथ, इंटरनेट पर डीपफेक आम होते जा रहे हैं और इनका पता लगाना चुनौतीपूर्ण हो सकता है। डीपफेक से संबंधित चिंताओं का वर्णन करें। डीपफेक से निपटने और उन्हें विनियमित करने के लिए वैश्विक और भारतीय पहलों पर प्रकाश डालें।
(जीएस 3, 15 अंक, 250 शब्द)
Approach:
-
Introduction: Define deepfakes by mentioning the underlying technology.
-
Body: Write about concerns associated with deepfakes and initiatives to regulate them.
-
Conclusion: Write way forward as how to combat misuse of deepfakes and ensure digital trust.
Introduction:
Deepfake (Deep Learning + Fake) is fake content in form of a media (videos, pictures, audios) created using powerful artificial intelligence (AI) tools. It uses deep learning technology (machine learning) along with Generative Adversarial Networks to generate more accurate fake content.
Concerns associated with deepfakes:
-
Spread of misinformation and manipulation: It has the potential to damage reputations, scam people, and create conflicts. It also threatens freedom of expression.
-
Threat to privacy: It includes identity theft and synthetic pornography. This directly violates dignity and privacy of the individual under Article 21 of the Constitution.
-
Political misuse: Creation and dissemination of morphed videos of elected representatives and public figures especially during the election season might influence the voting preferences of citizens.
-
Erode trust in institutions: Deepfakes can undermine trust in institutions especially journalistic institutions. These hyper-realistic media products threaten to blur the line between what is real and what is not.
-
Threat to national security: Deepfakes can be used by non-state actors to run a malicious campaign and stir anti-state sentiments among people.
-
Liar’s dividend: An undesirable truth can be dismissed as deepfake or fake news. The mere existence of deepfakes gives more credibility to denials.
Global initiative related to deepfakes:
There is currently no global regulatory framework to govern the use of deepfakes. However, some countries have taken steps towards the regularisation of AI and deepfake technology.
-
Bletchley Declaration: It is the first global pact on tackling frontier AI risks. Agreed by 28 countries including USA, UK, China, it lays out plans for greater transparency from AI developers regarding safety practices and more scientific collaboration on understanding AI’s risks.
-
European Union’s AI Law: EU has unveiled its comprehensive rulebook for governing the use of AI technologies. It aims to tackle the issue of deepfakes by making it mandatory to label when content has been artificially generated or altered.
-
USA: Introduced the Deepfake Task Force Act to assist the Department of Homeland Security (DHS) in its mission to counter deepfake technology.
Indian initiatives to regulate deepfakes
-
Information Technology Act 2000, criminalises the publication and transmission of intimate photos of any person without their consent and deal with the obligations of intermediaries.
-
Copyright Act 1957, provisions concerning with the doctrine of fair dealing and right to integrity can be applied to deepfakes.
-
Digital Personal Data Protection Act, 2023 could largely regulate deepfakes when implemented effectively.
-
Advisories of Ministry of Electronics and IT (MeitY) to social media platforms like Facebook, YouTube, Instagram etc. to take down misleading content generated through artificial intelligence i.e. deepfakes – within 24 hours.
-
Government of India is working on to bring its own AI regulation framework.
Conclusion:
Deepfakes pose increasingly serious concerns as AI advances. Efforts of both government and citizens will be required to counter the menace of deepfakes. Citizens should take the responsibility to be critical consumers of media on the Internet and must think & pause before sharing content on social media, and be part of the solution to this ‘infodemic’.
दृष्टिकोण:
-
प्रस्तावना: अंतर्निहित प्रौद्योगिकी का उल्लेख करके डीपफेक को परिभाषित करें।
-
मुख्य भाग: डीपफेक से जुड़ी चिंताओं और उन्हें विनियमित करने की पहल के बारे में बताएं।
-
निष्कर्ष: डीपफेक के दुरुपयोग से कैसे निपटें और डिजिटल विश्वास कैसे सुनिश्चित करें, इसको संबोधित करते हुए आगे का रास्ता बताएं।
प्रस्तावना:
डीपफेक (डीप लर्निंग + फेक) शक्तिशाली आर्टिफिशियल इंटेलिजेंस (एआई) टूल का उपयोग करके बनाए गए मीडिया (वीडियो, चित्र, ऑडियो) के रूप में नकली सामग्री है। यह अधिक सटीक नकली सामग्री बनाने के लिए जेनरेटिव एडवरसैरियल नेटवर्क के साथ डीप लर्निंग प्रौद्योगिकी (मशीन लर्निंग) का उपयोग करता है।
डीपफेक से सम्बंधित चिंताएँ:
-
गलत सूचनाओं का प्रसार और हेरफेर: इसमें प्रतिष्ठा को नुकसान पहुंचाने, लोगों को धोखा देने और संघर्ष पैदा करने की क्षमता है। यह अभिव्यक्ति की स्वतंत्रता को भी खतरे में डालता है।
-
निजता को खतरा: इसमें पहचान की चोरी और सिंथेटिक पोर्नोग्राफ़ी शामिल है। यह सीधे तौर पर संविधान के अनुच्छेद 21 के तहत व्यक्ति की गरिमा और निजता का उल्लंघन करता है।
-
राजनीतिक दुरुपयोग: विशेष रूप से चुनावी मौसम के दौरान निर्वाचित प्रतिनिधियों और सार्वजनिक हस्तियों के रूपांतरित वीडियो का निर्माण और प्रसार नागरिकों की मतदान प्राथमिकताओं को प्रभावित कर सकता है।
-
संस्थाओं में भरोसा कम करना: डीपफ़ेक संस्थाओं में भरोसा कम कर सकते हैं, खासकर पत्रकारिता संस्थानों में। ये अति-यथार्थवादी मीडिया उत्पाद, जो वास्तविक है और जो नहीं है, के बीच की रेखा को धुंधला करने की धमकी देते हैं।
-
राष्ट्रीय सुरक्षा को खतरा: डीपफ़ेक का उपयोग गैर-राज्य अभिकर्ताओं (नॉन स्टेट एक्टर्स) द्वारा दुर्भावनापूर्ण अभियान चलाने और लोगों के बीच राज्य-विरोधी भावनाओं को भड़काने के लिए किया जा सकता है।
-
झूठ का लाभ: एक अवांछनीय सत्य को डीपफ़ेक या फ़र्जी समाचार (फेक न्यूज) के रूप में खारिज किया जा सकता है। डीपफ़ेक का अस्तित्व ही खंडन को और अधिक विश्वसनीयता प्रदान करता है।
डीपफेक से संबंधित वैश्विक पहलें:
डीपफेक के उपयोग को नियंत्रित करने के लिए वर्तमान में कोई वैश्विक नियामक ढांचा नहीं है। हालांकि, कुछ देशों ने एआई और डीपफेक प्रौद्योगिकी को नियमित करने की दिशा में कदम उठाए हैं।
-
ब्लेचली घोषणा: यह फ्रंटियर एआई जोखिमों से निपटने पर पहला वैश्विक समझौता है। संयुक्त राज्य अमेरिका, ब्रिटेन, चीन सहित 28 देशों द्वारा सहमत, यह एआई डेवलपर्स से सुरक्षा प्रथाओं के संबंध में अधिक पारदर्शिता और एआई के जोखिमों को समझने पर अधिक वैज्ञानिक सहयोग की योजना बनाता है।
-
यूरोपीय संघ का एआई कानून: यूरोपीय संघ ने एआई प्रौद्योगिकियों के उपयोग को नियंत्रित करने के लिए अपनी व्यापक नियम पुस्तिका का अनावरण किया है। इसका उद्देश्य सामग्री को कृत्रिम रूप से उत्पन्न या परिवर्तित किए जाने पर लेबल लगाना अनिवार्य बनाकर डीपफेक के मुद्दे से निपटना है।
-
यूएसए: डीपफेक प्रौद्योगिकी का मुकाबला करने के अपने मिशन में होमलैंड सिक्योरिटी विभाग (डीएचएस) की सहायता के लिए डीपफेक टास्क फोर्स अधिनियम पेश किया गया।
डीपफेक के विनियमन हेतु भारतीय पहलें:
-
सूचना प्रौद्योगिकी अधिनियम 2000, किसी भी व्यक्ति की सहमति के बिना उसकी अंतरंग तस्वीरों के प्रकाशन और प्रसारण को अपराध मानता है और मध्यस्थों के दायित्वों से निपटता है।
-
कॉपीराइट अधिनियम 1957, निष्पक्ष व्यवहार के सिद्धांत और सत्यनिष्ठा के अधिकार से संबंधित प्रावधानों को डीपफेक पर लागू किया जा सकता है।
-
डिजिटल व्यक्तिगत डेटा संरक्षण अधिनियम, 2023 प्रभावी ढंग से लागू होने पर बड़े पैमाने पर डीपफेक को नियंत्रित कर सकता है।
-
इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने फेसबुक, यूट्यूब, इंस्टाग्राम आदि जैसे सोशल मीडिया प्लेटफॉर्म को आर्टिफिशियल इंटेलिजेंस यानी डीपफेक के माध्यम से उत्पन्न भ्रामक सामग्री को 24 घंटे के भीतर हटाने के लिए सलाह दी है।
-
भारत सरकार अपना स्वयं का आर्टिफिशियल इंटेलिजेंस (एआई) विनियमन फ्रेमवर्क लाने पर काम कर रही है।
निष्कर्ष:
आर्टिफिशियल इंटेलिजेंस (एआई) के विकास के साथ डीपफेक तेजी से गंभीर चिंता का विषय बन रहे हैं। डीपफेक के खतरे का मुकाबला करने के लिए सरकार और नागरिकों दोनों के प्रयासों की आवश्यकता होगी। नागरिकों को इंटरनेट पर मीडिया के महत्वपूर्ण उपभोक्ता होने की जिम्मेदारी लेनी चाहिए और सोशल मीडिया पर सामग्री साझा करने से पहले सोचना और रुकना चाहिए, और इस 'इन्फोडेमिक' के समाधान का हिस्सा बनना चाहिए।
Note:
1. Rename PDF file with your NAME and DATE, then upload it on the website to avoid any technical issues.
2. Kindly upload only a scanned PDF copy of your answer. Simple photographs of the answer will not be evaluated!
3. Write your NAME at the top of the answer sheet. Answer sheets without NAME will not be evaluated, in any case.
Submit your answer