Que. Define ChatGPT. Evaluate the opportunities and threats associated with Artificial Intelligence (AI) language models, including ChatGPT?
(GS3, 15 marks, 250 words)
प्रश्न: चैटजीपीटी को परिभाषित करें। चैटजीपीटी सहित आर्टिफिशियल इंटेलिजेंस (एआई) भाषा मॉडल से जुड़े अवसरों और खतरों का मूल्यांकन करें?
(जीएस3, 15 अंक, 250 शब्द)
Model Answer:
ChatGPT, OpenAI’s new chatbot, is a ‘conversational’ AI which answers queries just like a human would. It is a variant of GPT (Generative Pre-trained Transformer) which is a large-scale neural network-based language model developed by OpenAI.
Chat GPT & contours of conversational artificial intelligence (AI)
- ChatGPT is a chatbot powered by artificial intelligence that can be used to ask questions.
- This chatbot is designed in such a way that the responses to queries are both technical and jargon-free.
- It can generate human-like responses, allowing for natural conversation between the user and the virtual assistant.
Opportunities:
- Applications such as digital marketing, online content creation, answering customer service queries or as some users have found, even to help debug code.
- The bot can respond to a large range of questions while imitating human speaking styles.
- It is being seen as a replacement for the basic emails, party planning lists, CVs, and even college essays and homework.
- It can also be used to write code, as examples have shown.
- They also free up phone lines and are far less expensive over the long run than hiring people to perform support.
- Using AI and natural language processing, chatbots are becoming better at understanding what customers want and providing the help they need.
- Companies also like chatbots because they can collect data about customer queries, response times, satisfaction, and so on.
Threats:
- Governance: Companies such as OpenAI are self-governing the space through limited release strategies, and monitored use of models, however, self-governance leaves chances for manipulation
- Fear of Job losses: automation of tasks that were previously done by humans, such as writing news articles or composing music.
- Reduced need for human cognition: young children who will see AI as their friend to do their homework.
- Fear of Societal Bias being replicated by AI
- Issues surrounding intellectual property and copyright: The datasets behind generative AI models are generally scraped from the internet without seeking consent from living artists or work still under copyright
- Fear of Misinformation and Mistrust by manipulation of information, creating fake text, speech, images or video
- Fear of Concentration of Power in the hand of a few companies
- Risks for national security using automated troll bots, with advanced capabilities
Way forward:
- Need to make generative AI models more transparent.
- Use of diverse training data, as well as techniques like fairness constraints or adversarial training to mitigate bias.
- Designing a system wherein humans make the final decision and AI can be used as a support system
- Collaboration with civil society and policymakers: To mitigate the impact of Generative AI on -the disruption of labour markets, legitimacy of scraped data, licensing, copyright and potential for biased or otherwise harmful content, misinformation, and so on.
While generative AI is a game-changer in numerous areas and tasks, there is a strong need to govern the diffusion of these models, and their impact on society and the economy more carefully.
मॉडल उत्तर:
चैटजीपीटी, ओपनएआई का नया चैटबॉट, एक 'संवादात्मक' एआई है जो इंसानों की तरह ही सवालों के जवाब देता है। यह GPT (जेनरेटिव प्री-ट्रेंड ट्रांसफार्मर) का एक प्रकार है जो ओपनएआई द्वारा विकसित एक बड़े पैमाने पर तंत्रिका नेटवर्क-आधारित भाषा मॉडल है।
चैट जीपीटी और संवादात्मक कृत्रिम बुद्धिमत्ता (एआई) की रूपरेखा:
- चैटजीपीटी कृत्रिम बुद्धिमत्ता (आर्टिफ़िशियल इंटेलीजेंस) से संचालित एक चैटबॉट है, जिसका उपयोग प्रश्न पूछने के लिए किया जा सकता है।
- यह चैटबॉट इस तरह से डिज़ाइन किया गया है कि प्रश्नों के उत्तर तकनीकी और शब्दजाल-मुक्त दोनों हैं।
- यह मानव जैसी प्रतिक्रियाएं उत्पन्न कर सकता है, जिससे उपयोगकर्ता और वर्चुअल असिस्टेंट के बीच स्वाभाविक बातचीत हो सकती है।
अवसर:
- डिजिटल मार्केटिंग, ऑनलाइन सामग्री निर्माण, ग्राहक सेवा प्रश्नों का उत्तर देना या जैसा कि कुछ उपयोगकर्ताओं ने पाया है, यहां तक कि प्रोग्रामिंग कोड डिबगिंग में मदद करने के लिए भी अनुप्रयोग।
- मानव बोलने की शैली की नकल करते हुए बॉट कई प्रकार के प्रश्नों का उत्तर दे सकता है।
- इसे सामान्य ईमेल, पार्टी नियोजन सूची, सीवी (बायो डेटा) और यहां तक कि कॉलेज के निबंध और होमवर्क के प्रतिस्थापन के रूप में देखा जा रहा है।
- इसका उपयोग कम्यूटर संबंधी प्रोग्रामिंग कोड लिखने के लिए भी किया जा सकता है, जैसा कि उदाहरणों में दिखाया गया है।
- वे फोन लाइनें भी खाली कर देते हैं और लंबे समय तक सहायता प्रदान करने के लिए लोगों को नियुक्त करने की तुलना में काफी कम खर्चीले होते हैं।
- एआई (आर्टिफ़िशियल इंटेलीजेंस) और प्राकृतिक भाषा प्रसंस्करण का उपयोग करते हुए, चैटबॉट यह समझने में बेहतर हो रहे हैं कि ग्राहक क्या चाहते हैं और उन्हें आवश्यक सहायता प्रदान कर रहे हैं।
- कंपनियां चैटबॉट्स के अनुप्रयोग को इसलिए भी पसंद करती हैं, क्योंकि वे ग्राहकों के प्रश्नों, प्रतिक्रिया समय, संतुष्टि आदि के बारे में डेटा एकत्र कर सकते हैं।
खतरे:
- शासन: ओपनएआई जैसी कंपनियां सीमित रूप से जारी रणनीतियों के माध्यम से इस क्षेत्र को स्व-शासित (सेल्फ-गवर्निंग) कर रही हैं, और मॉडलों के उपयोग की निगरानी करती हैं, हालांकि, स्व-शासन हेरफेर की संभावना छोड़ देता है।
- नौकरी छूटने का डर: उन कार्यों का स्वचालन (ऑटोमेशन) हो जाना, जो पहले इंसानों द्वारा किया जाता था, जैसे समाचार लेख लिखना या संगीत रचना करना।
- मानवीय अनुभूति की कम आवश्यकता: छोटे बच्चे जो अपना होमवर्क करने के लिए एआई को अपने मित्र के रूप में देखेंगे।
- एआई द्वारा सामाजिक पूर्वाग्रह को दोहराए जाने का संभावना।
- बौद्धिक संपदा और कॉपीराइट से जुड़े मुद्दे: जेनरेटिव एआई मॉडल के पीछे के डेटासेट आमतौर पर जीवित कलाकारों या अभी भी कॉपीराइट के तहत काम करने वाले कलाकारों की सहमति के बिना इंटरनेट से हटा दिए जाते हैं।
- जानकारी में हेरफेर, नकली टेक्स्ट, भाषण, चित्र या वीडियो बनाकर गलत सूचना (फेक न्यूज) और अविश्वास की स्थिति उत्पन्न होने का संभावना।
- कुछ कंपनियों के हाथ में शक्ति के केंद्रीकरण का संभावना है।
- उन्नत क्षमताओं वाले स्वचालित ट्रोल बॉट का उपयोग करके राष्ट्रीय सुरक्षा के लिए जोखिम हो सकता है।
आगे का रास्ता:
- जेनरेटिव एआई मॉडल को और अधिक पारदर्शी बनाने की आवश्यकता है।
- पूर्वाग्रह को कम करने के लिए विविध प्रशिक्षण डेटा के साथ-साथ निष्पक्षता बाधा या प्रतिकूल प्रशिक्षण जैसी तकनीकों का उपयोग करना।
- एक ऐसी प्रणाली डिजाइन करना, जिसमें मनुष्य अंतिम निर्णय ले और एआई को एक समर्थन प्रणाली के रूप में उपयोग किया जा सके।
- नागरिक समाज और नीति निर्माताओं के साथ सहयोग: जनरेटिव एआई के प्रभाव को कम करने के लिए - श्रम बाजारों में व्यवधान, स्क्रैप किए गए डेटा की वैधता, लाइसेंसिंग, कॉपीराइट और पक्षपातपूर्ण या अन्यथा हानिकारक सामग्री, गलत सूचना, आदि की संभावना।
यद्यपि जेनरेटिव आर्टिफ़िशियल इंटेलीजेंस (एआई) कई क्षेत्रों और कार्यों में गेम-चेंजर है, लेकिन इन मॉडलों के प्रसार और समाज और अर्थव्यवस्था पर उनके प्रभाव को अधिक सावधानी से नियंत्रित करने की सख्त आवश्यकता है।
Note:
1. Rename PDF file with your NAME and DATE, then upload it on the website to avoid any technical issues.
2. Kindly upload only a scanned PDF copy of your answer. Simple photographs of the answer will not be evaluated!
3. Write your NAME at the top of the answer sheet. Answer sheets without NAME will not be evaluated, in any case.
Submit your answer