🎯 Advanced · पाठ 1

समस्या पहले परिभाषित करें

AI प्रणाली बनाने से पहले यह समझना ज़रूरी है कि असली समस्या क्या है — और क्या वह AI से हल होती भी है।

क्या AI आपकी समस्या का सही समाधान है?

2018 में Amazon ने एक AI भर्ती टूल को बंद कर दिया जिसे कंपनी ने वर्षों तक विकसित किया था। यह टूल रिज्यूमे स्क्रीन करने के लिए बनाया गया था। समस्या यह थी कि Amazon ने गलत सवाल पूछा: "हमारे पिछले सफल कर्मचारी कैसे थे?" — न कि "एक अच्छे उम्मीदवार की क्या विशेषताएँ होती हैं?" पिछले डेटा में पुरुषों का वर्चस्व था, इसलिए AI ने महिलाओं के रिज्यूमे को नियमित रूप से कम अंक दिए। जब यह खुलासा हुआ तो पूरा प्रोजेक्ट रद्द करना पड़ा — करोड़ों रुपये और वर्षों की मेहनत बर्बाद हो गई। मूल कारण: समस्या गलत तरीके से परिभाषित की गई थी।

समस्या परिभाषित करने का ढांचा

Amazon का मामला एक बुनियादी सत्य उजागर करता है — AI सिस्टम बनाने की सबसे बड़ी गलती तकनीकी नहीं, बल्कि वैचारिक होती है। जब आप गलत समस्या हल करते हैं, तो बेहतरीन AI भी नुकसानदायक परिणाम देता है।

किसी भी AI प्रोजेक्ट शुरू करने से पहले तीन सवाल ज़रूरी हैं: पहला — क्या यह वास्तव में AI समस्या है? कुछ समस्याएँ बेहतर प्रक्रिया, बेहतर डेटा, या बेहतर मानव निर्णय से हल होती हैं। दूसरा — सफलता को कैसे मापेंगे? यदि आप माप नहीं सकते, तो आप जान नहीं सकते कि AI काम कर रहा है। तीसरा — इस समस्या को हल करने से किसे फ़ायदा होगा और किसे नुकसान?

मुख्य सिद्धांत

AI एक उपकरण है, समाधान नहीं। पहले समस्या को इंसानी भाषा में स्पष्ट रूप से लिखें — फिर तय करें कि क्या AI उस समस्या के लिए उचित उपकरण है।

समस्या परिभाषा के चार स्तर

एक AI डिज़ाइनर को समस्या को चार स्तरों पर समझना होता है:

लक्षण स्तर: जो दिखता है — जैसे "भर्ती प्रक्रिया धीमी है।"
कारण स्तर: असली वजह — जैसे "रिज्यूमे स्क्रीनिंग में समय लगता है।"
मूल्य स्तर: हम वास्तव में क्या चाहते हैं — "योग्य और विविध उम्मीदवार।"
प्रतिबंध स्तर: क्या नहीं होना चाहिए — "कोई भेदभाव नहीं, कोई कानूनी जोखिम नहीं।"

Amazon ने लक्षण स्तर पर काम किया और मूल्य और प्रतिबंध स्तर को नज़रअंदाज़ किया। यही चूक करोड़ों की लागत बन गई।

भारतीय संदर्भ

भारत में कई सरकारी और निजी संस्थान AI-आधारित शिकायत निवारण प्रणालियाँ बना रहे हैं। यदि समस्या को "शिकायतों की संख्या कम करना" के रूप में परिभाषित किया जाए, तो AI शिकायतें दर्ज करने से ही रोक सकता है — जो असली लक्ष्य नहीं है।

📝 क्विज़ · पाठ 1

समस्या परिभाषित करें — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. Amazon के AI भर्ती टूल की मुख्य विफलता क्या थी?

✅ बिल्कुल सही! Amazon ने "पिछले कर्मचारी कैसे थे" पूछा, न कि "अच्छा उम्मीदवार क्या होता है" — यह परिभाषा की गलती थी।

❌ नहीं। मुख्य समस्या तकनीकी नहीं थी — यह वैचारिक थी। समस्या ही गलत परिभाषित की गई थी।

2. AI प्रोजेक्ट शुरू करने से पहले "प्रतिबंध स्तर" पर कौन सा सवाल पूछना चाहिए?

✅ सही! प्रतिबंध स्तर पर यही सोचते हैं कि क्या नहीं होना चाहिए — जैसे भेदभाव, कानूनी उल्लंघन, या नुकसान।

❌ ये महत्वपूर्ण सवाल हैं, लेकिन ये "प्रतिबंध स्तर" के नहीं हैं। प्रतिबंध स्तर पर हम पूछते हैं — क्या नहीं होना चाहिए।

3. यदि कोई सरकारी AI सिस्टम "शिकायतों की संख्या कम करना" को लक्ष्य मानता है, तो सबसे बड़ा खतरा क्या है?

✅ बिल्कुल! गलत मेट्रिक गलत व्यवहार को प्रोत्साहित करता है। असली लक्ष्य शिकायतें सुलझाना है, न छुपाना।

❌ नहीं। असली खतरा यह है कि AI गलत लक्ष्य को ऑप्टिमाइज़ करेगा और असली समस्याओं को छुपाएगा।

🧪 लैब · पाठ 1

समस्या परिभाषण अभ्यास

एक वास्तविक AI प्रोजेक्ट परिदृश्य लें और उसे चार स्तरों पर परिभाषित करें।

निर्देश

AI सलाहकार से बात करें जो आपको किसी भी AI प्रोजेक्ट की समस्या को सही तरीके से परिभाषित करने में मदद करेगा।

कोई भी AI प्रोजेक्ट आइडिया साझा करें — शिक्षा, स्वास्थ्य, कृषि, या कोई भी क्षेत्र।
AI आपसे चार स्तरों पर सवाल पूछेगा: लक्षण, कारण, मूल्य, और प्रतिबंध।
अपने जवाबों से समस्या को स्पष्ट रूप से परिभाषित करने का प्रयास करें।

सुझाव: "मैं किसानों के लिए एक AI सलाह प्रणाली बनाना चाहता हूँ" — या अपना खुद का आइडिया लिखें।

🤖 समस्या परिभाषण सलाहकार हिंदी में जवाब

🎯 Advanced · पाठ 2

प्रॉम्प्टिंग एक डिज़ाइन है

प्रॉम्प्ट लिखना सिर्फ टाइपिंग नहीं है — यह एक इंजीनियरिंग निर्णय है जो पूरे सिस्टम के व्यवहार को तय करता है।

एक विचार को AI के निर्देशों में कैसे बदलें?

2023 में Air Canada का AI चैटबॉट एक यात्री को गलत जानकारी देने पर अदालत में हार गया। चैटबॉट ने दावा किया कि बेरेवमेंट किराये (शोक यात्रा छूट) बाद में भी रिट्रोएक्टिव क्लेम की जा सकती है — जो कंपनी की असली नीति नहीं थी। Air Canada ने तर्क दिया कि चैटबॉट एक "अलग इकाई" है और उसकी गलतियों के लिए कंपनी ज़िम्मेदार नहीं। ब्रिटिश कोलंबिया अदालत ने यह तर्क खारिज किया और Air Canada को हर्जाना देना पड़ा। जाँच में पाया गया कि सिस्टम प्रॉम्प्ट में यह स्पष्ट नहीं था कि AI को अपनी सीमाएँ पहचानकर मानव एजेंट को रेफर कब करना है।

सिस्टम प्रॉम्प्ट: AI का संविधान

Air Canada का मामला दिखाता है कि एक खराब सिस्टम प्रॉम्प्ट कानूनी और वित्तीय जोखिम पैदा कर सकता है। जब आप कोई AI उत्पाद बनाते हैं, तो सिस्टम प्रॉम्प्ट उस उत्पाद का संविधान होता है — यह तय करता है AI क्या कर सकता है, क्या नहीं, और कब मदद माँगनी है।

एक अच्छे सिस्टम प्रॉम्प्ट में पाँच तत्व होते हैं: भूमिका (AI कौन है), दायरा (AI क्या कर सकता है), सीमाएँ (AI क्या नहीं कर सकता), एस्केलेशन (कब इंसान को बुलाना है), और टोन (AI कैसे बात करे।)

डिज़ाइन नियम

हर प्रॉम्प्ट एक वादा है। यदि आपका AI किसी को गलत जानकारी दे सकता है, तो प्रॉम्प्ट में स्पष्ट रूप से लिखें: "जब निश्चित न हो, तो कहो — मैं निश्चित नहीं हूँ, कृपया विशेषज्ञ से संपर्क करें।"

Few-Shot और Chain-of-Thought डिज़ाइन

प्रॉम्प्ट डिज़ाइन में दो शक्तिशाली तकनीकें हैं:

Few-Shot Prompting: AI को उदाहरण देना — "यहाँ तीन अच्छे जवाब हैं, अब इसी तरह जवाब दो।" यह AI के व्यवहार को अनुमानित बनाता है।
Chain-of-Thought: AI को "सोचने" के चरण दिखाना — "पहले समस्या समझो, फिर विकल्प सोचो, फिर जवाब दो।" यह जटिल कार्यों में सटीकता बढ़ाता है।
Constraint-First Design: पहले बताएँ क्या नहीं करना है — नकारात्मक उदाहरण सकारात्मक से अधिक प्रभावी होते हैं।

भारतीय संदर्भ

CoWIN पोर्टल के AI चैटबॉट को भारत में बहुभाषी प्रश्नों के लिए डिज़ाइन करते समय सिस्टम प्रॉम्प्ट में भाषा-विशिष्ट उदाहरण और क्षेत्रीय शब्दावली शामिल करना अनिवार्य था। यह Few-Shot डिज़ाइन का व्यावहारिक उदाहरण है।

📝 क्विज़ · पाठ 2

प्रॉम्प्टिंग डिज़ाइन — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. Air Canada के AI केस का मुख्य सबक क्या है?

✅ सही! अदालत ने माना कि कंपनी अपने AI के आउटपुट के लिए ज़िम्मेदार है। प्रॉम्प्ट में सीमाएँ स्पष्ट होनी चाहिए थीं।

❌ नहीं। अदालत ने Air Canada को ज़िम्मेदार ठहराया। AI की गलतियाँ उसके निर्माता और ऑपरेटर की गलतियाँ हैं।

2. "Chain-of-Thought Prompting" का मुख्य उद्देश्य क्या है?

✅ बिल्कुल! Chain-of-Thought AI को "पहले सोचो फिर बोलो" सिखाती है, जो जटिल समस्याओं में बहुत कारगर है।

❌ नहीं। Chain-of-Thought प्रॉम्प्टिंग का लक्ष्य गति नहीं बल्कि गुणवत्ता और सटीकता है।

3. "Constraint-First Design" में पहले क्या परिभाषित किया जाता है?

✅ सही! नकारात्मक उदाहरण AI को सीमाएँ समझाने में अधिक प्रभावी होते हैं। पहले बताएँ क्या वर्जित है।

❌ नहीं। "Constraint-First" का मतलब है पहले प्रतिबंध परिभाषित करना — क्या नहीं करना है।

🧪 लैब · पाठ 2

सिस्टम प्रॉम्प्ट डिज़ाइन वर्कशॉप

एक वास्तविक AI उत्पाद के लिए सिस्टम प्रॉम्प्ट बनाएँ और उसे परखें।

निर्देश

AI प्रॉम्प्ट डिज़ाइन विशेषज्ञ से बात करें। आप किसी भी उत्पाद के लिए सिस्टम प्रॉम्प्ट तैयार करेंगे।

कोई AI उत्पाद परिदृश्य बताएँ — जैसे बैंकिंग चैटबॉट, शिक्षा ट्यूटर, या स्वास्थ्य सलाहकार।
AI आपसे पाँच तत्व पूछेगा: भूमिका, दायरा, सीमाएँ, एस्केलेशन, टोन।
मिलकर एक मजबूत सिस्टम प्रॉम्प्ट का ड्राफ्ट तैयार करें।

सुझाव: "मुझे एक ग्रामीण किसानों के लिए कृषि सलाह AI चैटबॉट का सिस्टम प्रॉम्प्ट बनाना है।"

🤖 प्रॉम्प्ट डिज़ाइन विशेषज्ञ हिंदी में जवाब

🎯 Advanced · पाठ 3

AI आउटपुट का मूल्यांकन

AI जो कहता है उसे सच मानना एक खतरनाक गलती है — मूल्यांकन एक कौशल है जो सीखना ज़रूरी है।

आप कैसे जानेंगे कि AI का जवाब अच्छा है?

2023 में न्यूयॉर्क के वकील स्टीवन श्वार्ट्ज़ ने ChatGPT की मदद से एक केस ब्रीफ तैयार की जिसमें छह ऐसे न्यायिक निर्णय उद्धृत किए गए जो कभी अस्तित्व में नहीं थे — "hallucination" का शिकार हुए। उन्होंने AI आउटपुट की कोई भी स्वतंत्र जाँच नहीं की। जब अदालत ने इन मामलों के रिकॉर्ड माँगे तो धोखा उजागर हुआ। न्यायाधीश ने वकील पर $5,000 का जुर्माना लगाया और उन्हें सार्वजनिक फटकार मिली। यह मामला सिखाता है: AI आउटपुट को हमेशा स्वतंत्र रूप से सत्यापित करना अनिवार्य है।

मूल्यांकन का CRAVE ढांचा

AI आउटपुट का मूल्यांकन करने के लिए CRAVE ढांचा उपयोगी है — यह पाँच आयामों पर जाँच करता है:

C — Correctness (सटीकता): क्या तथ्य सत्यापन योग्य हैं? स्रोत कहाँ हैं?
R — Relevance (प्रासंगिकता): क्या AI ने असली सवाल का जवाब दिया?
A — Appropriateness (उचितता): क्या यह जवाब इस संदर्भ और दर्शक के लिए उचित है?
V — Verifiability (सत्यापनीयता): क्या इसे किसी स्वतंत्र स्रोत से जाँचा जा सकता है?
E — Edge Cases (सीमांत मामले): क्या यह जवाब असामान्य परिस्थितियों में भी काम करता है?

Hallucination क्या है?

AI Hallucination तब होती है जब AI आत्मविश्वास के साथ गलत या काल्पनिक जानकारी प्रस्तुत करता है। यह तकनीकी खामी नहीं बल्कि AI के काम करने के तरीके का स्वाभाविक परिणाम है — AI अगले सबसे संभावित शब्द का अनुमान लगाता है, सत्य नहीं खोजता।

मूल्यांकन प्रणाली बनाना

एक AI उत्पाद में मूल्यांकन दो स्तरों पर होना चाहिए: स्वचालित (Automated) और मानव (Human)। स्वचालित मूल्यांकन में रूलबेस्ड जाँचें शामिल हैं — जैसे क्या आउटपुट एक निश्चित लंबाई का है, क्या इसमें वर्जित शब्द हैं। मानव मूल्यांकन में विशेषज्ञ समीक्षक नियमित रूप से AI के आउटपुट की जाँच करते हैं।

Google और Meta दोनों ने अपने AI उत्पादों में "रेटर गाइडलाइन्स" प्रकाशित की हैं जो बताती हैं कि मानव मूल्यांकनकर्ता AI आउटपुट कैसे जाँचते हैं। यह पारदर्शिता मूल्यांकन की जवाबदेही सुनिश्चित करती है।

भारतीय संदर्भ

IRCTC के AI सिस्टम में यात्री सेवा के जवाब कभी-कभी गलत ट्रेन संख्या या गलत स्टेशन नाम दे देते हैं। इसीलिए IRCTC के चैटबॉट में हमेशा एक "विशेषज्ञ से बात करें" विकल्प होता है — यह एस्केलेशन का व्यावहारिक उदाहरण है।

📝 क्विज़ · पाठ 3

AI आउटपुट मूल्यांकन — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. वकील स्टीवन श्वार्ट्ज़ के मामले में मुख्य गलती क्या थी?

✅ बिल्कुल सही! AI के काल्पनिक केस उद्धरणों को सत्यापित न करना एक गंभीर पेशेवर लापरवाही थी।

❌ नहीं। उन्होंने AI उपयोग स्वीकार किया था। मुख्य गलती सत्यापन न करना था।

2. CRAVE ढांचे में "V" किसके लिए है?

✅ सही! Verifiability — सत्यापनीयता — यह जाँचना कि क्या AI का दावा किसी स्वतंत्र स्रोत से सिद्ध हो सकता है।

❌ नहीं। CRAVE में V = Verifiability (सत्यापनीयता) है — यह सबसे महत्वपूर्ण जाँच है।

3. AI Hallucination क्यों होती है?

✅ सही! यह AI के मूलभूत काम करने के तरीके का परिणाम है — यह पैटर्न पूरा करता है, तथ्य सत्यापित नहीं करता।

❌ नहीं। AI झूठ नहीं बोलता — यह अगले शब्द का अनुमान लगाता है। डेटा की उम्र भी hallucination का कारण नहीं है।

🧪 लैब · पाठ 3

CRAVE मूल्यांकन अभ्यास

किसी भी AI आउटपुट को CRAVE ढांचे से जाँचना सीखें।

निर्देश

AI मूल्यांकन विशेषज्ञ से बात करें। आप कोई भी AI-जनित टेक्स्ट लाएँ और उसे CRAVE ढांचे से जाँचेंगे।

कोई भी AI आउटपुट पेस्ट करें जिसे आप मूल्यांकन करना चाहते हैं।
AI आपसे CRAVE के पाँच आयामों पर सवाल पूछेगा।
मिलकर तय करें कि यह आउटपुट भरोसेमंद है या नहीं।

सुझाव: किसी AI टूल से एक तथ्यात्मक जवाब लें और उसे यहाँ पेस्ट करें — या मुझे बताएँ कि आप किस विषय में मूल्यांकन करना चाहते हैं।

🤖 CRAVE मूल्यांकन विशेषज्ञ हिंदी में जवाब

🎯 Advanced · पाठ 4

Human-AI वर्कफ़्लो डिज़ाइन

AI को मनुष्यों की जगह नहीं, बल्कि उनके साथ काम करने के लिए डिज़ाइन करना — यही स्थायी सफलता की कुंजी है।

प्रक्रिया में इंसान की ज़रूरत कब होती है?

2016 में Google का DeepMind AI, AlphaGo, विश्व चैंपियन ली सेडोल को हरा गया। लेकिन उसी वर्ष एक और महत्वपूर्ण घटना हुई: Radiologix की एक स्टडी में पाया गया कि AI+रेडियोलॉजिस्ट की जोड़ी अकेले AI या अकेले रेडियोलॉजिस्ट दोनों से बेहतर प्रदर्शन करती है — कैंसर डायग्नोसिस में। NASA ने भी यही पाया अपने मिशन कंट्रोल सिस्टम में — AI पैटर्न पहचान में श्रेष्ठ है, लेकिन अंतिम निर्णय में मानव संदर्भ अपरिहार्य है। यह "Centaur" मॉडल — आधा मानव, आधा AI — सबसे प्रभावी सिद्ध हुआ है।

Centaur मॉडल: साझेदारी का ढांचा

Centaur मॉडल का नाम शतरंज से आया है जहाँ मानव और AI मिलकर खेलते हैं। इसका सिद्धांत सरल है: AI वह करे जो वह बेहतर करता है, मनुष्य वह करे जो वह बेहतर करता है।

AI श्रेष्ठ है: पैटर्न पहचान, बड़े डेटासेट का विश्लेषण, 24/7 उपलब्धता, निरंतरता।
मानव श्रेष्ठ है: नैतिक निर्णय, संदर्भ बोध, सहानुभूति, असामान्य परिस्थितियाँ।
एस्केलेशन बिंदु: कब AI से मानव को काम सौंपा जाए — यह पहले से तय होना चाहिए।

डिज़ाइन नियम

हर AI वर्कफ़्लो में "ह्यूमन-इन-द-लूप" और "ह्यूमन-ओन-द-लूप" में अंतर स्पष्ट करें। पहले में मानव हर निर्णय में शामिल है, दूसरे में मानव केवल असामान्य मामलों की समीक्षा करता है।

Automation Bias का खतरा

Automation Bias एक मनोवैज्ञानिक घटना है जहाँ लोग स्वचालित सिस्टम के सुझावों पर बिना सोचे भरोसा करते हैं। 2018 में Ethiopian Airlines और Lion Air दुर्घटनाओं में Boeing 737 MAX के MCAS ऑटोपायलट सिस्टम ने पायलटों को override करने दिया — 346 लोगों की मौत हुई। पायलटों को AI सिस्टम की त्रुटि की पहचान करने और उसे override करने के लिए पर्याप्त प्रशिक्षण नहीं मिला था।

यह सिखाता है: AI वर्कफ़्लो डिज़ाइन में सिर्फ AI नहीं, बल्कि मानव उपयोगकर्ता का व्यवहार भी डिज़ाइन करना होता है।

📝 क्विज़ · पाठ 4

Human-AI वर्कफ़्लो — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. "Centaur मॉडल" में मानव और AI के बीच काम कैसे बँटता है?

✅ सही! Centaur मॉडल साझेदारी का है — दोनों की शक्तियों का संयोजन अकेले किसी से भी बेहतर है।

❌ नहीं। Centaur मॉडल प्रतिस्थापन का नहीं, सहयोग का मॉडल है।

2. Boeing 737 MAX दुर्घटनाओं से AI वर्कफ़्लो डिज़ाइन को क्या सबक मिला?

✅ बिल्कुल! AI वर्कफ़्लो डिज़ाइन में मानव प्रशिक्षण उतना ही महत्वपूर्ण है जितना AI का प्रशिक्षण।

❌ नहीं। समस्या AI का उपयोग नहीं था — बल्कि मानव को AI के साथ सही तरीके से काम करने के लिए तैयार न करना था।

3. "Automation Bias" क्या है?

✅ सही! Automation Bias एक खतरनाक मनोवैज्ञानिक प्रवृत्ति है जो AI वर्कफ़्लो में घातक परिणाम दे सकती है।

❌ नहीं। Automation Bias मानव व्यवहार की समस्या है — जब हम AI के जवाब को बिना सोचे सच मान लेते हैं।

🧪 लैब · पाठ 4

Centaur वर्कफ़्लो डिज़ाइनर

अपने क्षेत्र के लिए एक Human-AI वर्कफ़्लो डिज़ाइन करें।

निर्देश

AI वर्कफ़्लो विशेषज्ञ से बात करें। मिलकर एक Centaur मॉडल तैयार करें।

कोई भी कार्यक्षेत्र बताएँ — अस्पताल, विद्यालय, न्यायालय, बैंक, या खेत।
AI पूछेगा: कौन से कार्य AI करे, कौन से मानव, और एस्केलेशन बिंदु कहाँ हैं।
एक वर्कफ़्लो चार्ट का ड्राफ्ट तैयार करें।

सुझाव: "मैं एक सरकारी अस्पताल में AI-असिस्टेड डायग्नोसिस सिस्टम डिज़ाइन करना चाहता हूँ।"

🤖 Centaur वर्कफ़्लो विशेषज्ञ हिंदी में जवाब

🎯 Advanced · पाठ 5

टेस्टिंग और रेड-टीमिंग

AI सिस्टम को तोड़ने की कोशिश करना — यही उसे मज़बूत बनाने का सबसे विश्वसनीय तरीका है।

कैसे जाँचें कि आपका AI नुकसान नहीं करेगा?

2022 में Meta ने अपना "Galactica" AI लॉन्च किया जो वैज्ञानिक पेपर लिखने में मदद करता था। लॉन्च के केवल तीन दिन बाद उसे बंद करना पड़ा। शोधकर्ताओं ने पाया कि Galactica आत्मविश्वास से गलत वैज्ञानिक तथ्य और काल्पनिक संदर्भ लिखता था — जैसे "भालुओं पर चंद्रमा के प्रभाव पर शोध।" Meta ने रेड-टीमिंग अपर्याप्त रूप से की थी — उन्होंने केवल मानक परिदृश्य जाँचे थे, दुरुपयोग के परिदृश्य नहीं। यह विफलता सार्वजनिक विश्वास को गंभीर नुकसान पहुँचाने से पहले ही पकड़ ली गई — क्योंकि उपयोगकर्ताओं ने स्वयं रेड-टीमर का काम किया।

रेड-टीमिंग क्या है?

रेड-टीमिंग एक सैन्य और साइबर सुरक्षा अवधारणा है जिसे AI परीक्षण में अपनाया गया है। इसमें एक टीम जानबूझकर AI सिस्टम की कमज़ोरियाँ खोजने की कोशिश करती है — हमलावर की तरह सोचकर।

AI रेड-टीमिंग में तीन प्रकार के परीक्षण शामिल हैं: adversarial prompts (AI को गलत जवाब देने के लिए उकसाना), edge cases (असामान्य या चरम परिस्थितियाँ), और jailbreak attempts (सुरक्षा नियमों को तोड़ने की कोशिश)।

रेड-टीम बनाम ब्लू-टीम

रेड-टीम हमलावर है — कमज़ोरियाँ खोजती है। ब्लू-टीम रक्षक है — सुरक्षा उपाय बनाती है। सबसे मजबूत AI सिस्टम वे हैं जहाँ दोनों टीमें एक-दूसरे को चुनौती देती रहती हैं।

व्यवस्थित परीक्षण: STRIDE ढांचा

Microsoft का STRIDE ढांचा AI सुरक्षा परीक्षण के लिए उपयोगी है:

S — Spoofing: क्या AI को झूठी पहचान दिखाकर गुमराह किया जा सकता है?
T — Tampering: क्या इनपुट डेटा को बदलकर AI को गलत निर्णय दिलाया जा सकता है?
R — Repudiation: क्या AI के फैसलों की ऑडिट ट्रेल मौजूद है?
I — Information Disclosure: क्या AI गोपनीय जानकारी लीक कर सकता है?
D — Denial of Service: क्या AI को अत्यधिक लोड से बंद किया जा सकता है?
E — Elevation of Privilege: क्या AI सामान्य उपयोगकर्ता को अधिकार से बाहर पहुँचने दे सकता है?

📝 क्विज़ · पाठ 5

टेस्टिंग और रेड-टीमिंग — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. Meta के Galactica AI को तीन दिन में क्यों बंद करना पड़ा?

✅ सही! केवल मानक परिदृश्य जाँचना पर्याप्त नहीं था। दुरुपयोग और edge cases की जाँच ज़रूरी थी।

❌ नहीं। Galactica की विफलता तकनीकी नहीं बल्कि परीक्षण की कमी थी।

2. रेड-टीम का मुख्य उद्देश्य क्या है?

✅ बिल्कुल! रेड-टीम का काम है टूटने से पहले तोड़ना — ताकि असली दुनिया में नुकसान न हो।

❌ नहीं। रेड-टीम का काम सुरक्षा परीक्षण है — जानबूझकर कमज़ोरियाँ खोजना।

3. STRIDE ढांचे में "I — Information Disclosure" का क्या अर्थ है?

✅ सही! यह एक सुरक्षा जोखिम है — जाँचना कि क्या AI प्रशिक्षण डेटा या गोपनीय जानकारी लीक कर सकता है।

❌ नहीं। STRIDE में "I" का अर्थ है सूचना रिसाव का जोखिम — क्या AI गोपनीय डेटा उजागर कर सकता है।

🧪 लैब · पाठ 5

रेड-टीमिंग सिमुलेशन

एक काल्पनिक AI सिस्टम के लिए रेड-टीम परीक्षण योजना बनाएँ।

निर्देश

AI रेड-टीम विशेषज्ञ के साथ एक AI सिस्टम की कमज़ोरियाँ खोजने की अभ्यास करें।

कोई AI उत्पाद बताएँ जिसे आप टेस्ट करना चाहते हैं।
AI आपसे STRIDE के छह आयामों पर संभावित हमलों के बारे में सोचने में मदद करेगा।
एक परीक्षण योजना का ड्राफ्ट तैयार करें।

सुझाव: "मैं एक बैंकिंग फ्रॉड डिटेक्शन AI सिस्टम की रेड-टीमिंग करना चाहता हूँ।"

🤖 रेड-टीम विशेषज्ञ हिंदी में जवाब

🎯 Advanced · पाठ 6

ज़िम्मेदार तैनाती

AI को सार्वजनिक दुनिया में उतारना — यह तकनीकी निर्णय से कहीं अधिक एक नैतिक और सामाजिक निर्णय है।

AI को दुनिया में लॉन्च करने पर क्या गलत हो सकता है?

2019 में UK के NHS ने DeepMind की Streams ऐप को ज़िम्मेदार तैनाती की विफलता के रूप में दर्ज किया। NHS ने DeepMind को 1.6 मिलियन मरीजों का डेटा बिना उनकी सूचित सहमति के दिया — UK के डेटा संरक्षण कानून का उल्लंघन। Information Commissioner's Office ने NHS को दोषी ठहराया। तकनीकी रूप से Streams एक उत्कृष्ट एप्लिकेशन था जो किडनी रोगों की पहचान में मदद करता था। लेकिन तैनाती प्रक्रिया में सहमति, पारदर्शिता, और जवाबदेही का पूर्ण अभाव था। तकनीक सही थी — तैनाती गलत थी।

ज़िम्मेदार तैनाती के पाँच सिद्धांत

NHS-DeepMind मामला सिखाता है कि तकनीकी श्रेष्ठता तैनाती प्रक्रिया की गलतियों को माफ नहीं करती। ज़िम्मेदार तैनाती के पाँच सिद्धांत:

सूचित सहमति: प्रभावित लोगों को स्पष्ट रूप से बताएँ कि AI क्या करता है और उनका डेटा कैसे उपयोग होता है।
चरणबद्ध रोलआउट: पहले छोटे समूह पर तैनात करें, समस्याएँ पहचानें, फिर विस्तार करें।
ऑप्ट-आउट विकल्प: लोगों को AI का उपयोग न करने का अधिकार हो।
शिकायत निवारण: जब AI गलती करे तो लोगों के पास स्पष्ट शिकायत मार्ग हो।
पारदर्शी दस्तावेज़ीकरण: AI कैसे निर्णय लेता है, यह सार्वजनिक रूप से उपलब्ध हो।

भारतीय संदर्भ

भारत का Digital Personal Data Protection Act 2023 (DPDPA) AI तैनाती में डेटा सहमति के लिए कानूनी ढांचा प्रदान करता है। किसी भी AI उत्पाद को भारत में लॉन्च करने से पहले DPDPA अनुपालन अनिवार्य है।

Model Cards और System Cards

2018 में Google Research ने "Model Cards" की अवधारणा प्रस्तुत की — एक मानकीकृत दस्तावेज़ जो बताता है कि AI मॉडल क्या करता है, किस पर परीक्षण हुआ, कहाँ काम करता है, और कहाँ नहीं। Meta ने बाद में "System Cards" अपनाईं जो पूरे AI सिस्टम को कवर करती हैं।

ये दस्तावेज़ तैनाती के समय पारदर्शिता सुनिश्चित करते हैं और भविष्य की जवाबदेही के लिए रिकॉर्ड बनाते हैं। एक अच्छे AI उत्पाद की पहचान है कि उसका Model Card सार्वजनिक और स्पष्ट हो।

📝 क्विज़ · पाठ 6

ज़िम्मेदार तैनाती — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. NHS-DeepMind Streams मामले में मुख्य कानूनी उल्लंघन क्या था?

✅ सही! तकनीकी सफलता के बावजूद, डेटा सहमति का उल्लंघन ज़िम्मेदार तैनाती की गंभीर विफलता थी।

❌ नहीं। Streams तकनीकी रूप से अच्छा था। गलती तैनाती प्रक्रिया में थी — मरीजों की सहमति नहीं ली गई।

2. "Model Card" का मुख्य उद्देश्य क्या है?

✅ बिल्कुल! Model Card पारदर्शिता का उपकरण है — यह उपयोगकर्ताओं और नियामकों को AI की सीमाएँ और उपयोग नीति स्पष्ट करता है।

❌ नहीं। Model Card तकनीकी दस्तावेज़ है जो AI की क्षमताओं, सीमाओं, और परीक्षण परिणामों की पारदर्शी जानकारी देता है।

3. ज़िम्मेदार तैनाती में "चरणबद्ध रोलआउट" का क्या लाभ है?

✅ सही! पहले छोटे पैमाने पर तैनात करें, समस्याएँ पहचानें और ठीक करें — फिर विस्तार करें। यह सबसे सुरक्षित दृष्टिकोण है।

❌ नहीं। चरणबद्ध रोलआउट तेज़ी या लागत के लिए नहीं — बल्कि जोखिम कम करने के लिए है।

🧪 लैब · पाठ 6

तैनाती योजना निर्माण

किसी AI उत्पाद के लिए एक ज़िम्मेदार तैनाती योजना तैयार करें।

निर्देश

AI तैनाती विशेषज्ञ के साथ एक ज़िम्मेदार रोलआउट योजना बनाएँ।

कोई भी AI उत्पाद या सेवा बताएँ जिसे आप तैनात करना चाहते हैं।
AI आपसे पाँच सिद्धांतों पर योजना बनाने में मदद करेगा।
एक Model Card का ड्राफ्ट तैयार करें।

सुझाव: "मैं एक AI-आधारित परीक्षा मूल्यांकन प्रणाली को भारतीय विद्यालयों में लॉन्च करना चाहता हूँ।"

🤖 तैनाती योजना विशेषज्ञ हिंदी में जवाब

🎯 Advanced · पाठ 7

समानता के लिए निर्माण

AI सिस्टम हाशिये पर रहने वाले लोगों के लिए मौजूदा असमानताओं को बढ़ा सकता है — या घटा सकता है। यह डिज़ाइन का निर्णय है।

क्या आपका AI सबके लिए समान रूप से काम करता है?

2019 में UC Berkeley, Stanford, और MIT के शोधकर्ताओं ने एक अध्ययन प्रकाशित किया जिसने Optum के healthcare risk-scoring algorithm की जाँच की। यह एल्गोरिदम अमेरिका के अस्पतालों में उपयोग होता था और लगभग 200 मिलियन लोगों को प्रभावित करता था। शोध में पाया गया कि समान स्वास्थ्य आवश्यकता पर, श्वेत मरीजों की तुलना में काले मरीजों को काफी कम "high-risk" स्कोर मिलते थे, जिससे उन्हें उतनी देखभाल नहीं मिलती थी। कारण: एल्गोरिदम खर्च को स्वास्थ्य की ज़रूरत का प्रॉक्सी मानता था — लेकिन ऐतिहासिक रूप से काले मरीजों पर कम खर्च होता था, इसलिए एल्गोरिदम उन्हें "कम बीमार" मानता था।

समानता-केंद्रित डिज़ाइन का ढांचा

Optum का मामला दिखाता है कि भेदभाव अक्सर जानबूझकर नहीं होता — यह उन प्रणालियों में छुपा होता है जिन्हें हम "तटस्थ" मानते हैं। समानता-केंद्रित AI डिज़ाइन के लिए चार कदम:

प्रभाव मानचित्रण: पहले पहचानें कि आपका AI सबसे अधिक किसे प्रभावित करेगा — विशेषकर कमज़ोर वर्गों को।
प्रॉक्सी जाँच: क्या आपके चर कहीं से जाति, लिंग, जाति, या आर्थिक स्थिति के लिए प्रॉक्सी तो नहीं हैं?
विभेदक प्रदर्शन परीक्षण: विभिन्न समूहों पर अलग-अलग AI का परिणाम क्या है — क्या फर्क सार्थक है?
प्रभावित समुदाय की भागीदारी: जिन लोगों पर AI का असर पड़ेगा, उन्हें डिज़ाइन प्रक्रिया में शामिल करें।

भारतीय संदर्भ

भारत में ऋण स्वीकृति AI सिस्टम यदि पिन कोड को प्रमुख चर मानें, तो वे SC/ST बहुल क्षेत्रों के आवेदकों को अनजाने में कम अंक दे सकते हैं — भले ही वे व्यक्तिगत रूप से योग्य हों। प्रॉक्सी भेदभाव का यह भारतीय संदर्भ अत्यंत प्रासंगिक है।

Fairness Metrics: किसे मापें?

AI निष्पक्षता को मापने के कई तरीके हैं, लेकिन वे परस्पर विरोधाभासी हो सकते हैं। तीन प्रमुख मेट्रिक्स:

Demographic Parity: विभिन्न समूहों में सकारात्मक परिणामों की समान दर।
Equal Opportunity: वास्तव में योग्य लोगों में समान सफलता दर।
Calibration: विभिन्न समूहों में समान स्कोर का समान वास्तविक अर्थ।

गणितीय रूप से सिद्ध है कि ये तीनों एक साथ पूरी तरह संतुष्ट नहीं हो सकते — यह एक मूल्य-आधारित निर्णय है। इसीलिए AI निष्पक्षता केवल तकनीकी नहीं, नैतिक सवाल है।

📝 क्विज़ · पाठ 7

समानता के लिए निर्माण — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. Optum के healthcare algorithm में भेदभाव का मूल कारण क्या था?

✅ सही! "तटस्थ" चर भी ऐतिहासिक असमानताओं को एन्कोड कर सकते हैं। यह प्रॉक्सी भेदभाव का क्लासिक उदाहरण है।

❌ नहीं। एल्गोरिदम में नस्ल का स्पष्ट उपयोग नहीं था — लेकिन खर्च जैसे "तटस्थ" चर ने भी भेदभाव पैदा किया।

2. "Equal Opportunity" fairness metric का क्या अर्थ है?

✅ सही! Equal Opportunity का अर्थ है — यदि आप योग्य हैं, तो आपकी सफलता की संभावना आपकी पहचान पर नहीं निर्भर करनी चाहिए।

❌ नहीं। Equal Opportunity metrics योग्य उम्मीदवारों पर ध्यान केंद्रित करती है — समूह-आधारित समान परिणाम दर पर।

3. भारत में ऋण AI सिस्टम में "पिन कोड" का उपयोग क्यों समस्याग्रस्त हो सकता है?

✅ बिल्कुल सही! भारत में पिन कोड अक्सर जाति, धर्म, या आर्थिक वर्ग से जुड़े होते हैं। यह भेदभाव का एक अप्रत्यक्ष मार्ग है।

❌ नहीं। मुख्य समस्या यह है कि भौगोलिक चर जैसे पिन कोड भारत में जनसांख्यिकीय पहचान के प्रॉक्सी बन सकते हैं।

🧪 लैब · पाठ 7

समानता ऑडिट अभ्यास

किसी AI सिस्टम के लिए प्रॉक्सी भेदभाव और समानता जोखिम पहचानें।

निर्देश

AI समानता विशेषज्ञ के साथ किसी भी AI सिस्टम का समानता ऑडिट करें।

कोई AI सिस्टम बताएँ जो लोगों के बारे में निर्णय लेता है।
AI आपसे प्रॉक्सी चर, प्रभावित समूह, और fairness metrics के बारे में पूछेगा।
समानता जोखिमों की सूची तैयार करें और सुधार सुझाव दें।

सुझाव: "मैं एक AI नौकरी मिलान प्रणाली का समानता ऑडिट करना चाहता हूँ जो भारतीय कंपनियाँ उपयोग करती हैं।"

🤖 समानता ऑडिट विशेषज्ञ हिंदी में जवाब

🎯 Advanced · पाठ 8

निरंतर ज़िम्मेदारियाँ

AI लॉन्च एक घटना नहीं, एक प्रतिबद्धता की शुरुआत है — निगरानी, रखरखाव, और उत्तरदायित्व बिना रुके चलते रहते हैं।

क्या AI लॉन्च करने के बाद आपकी ज़िम्मेदारी खत्म हो जाती है?

2016 में Microsoft ने Twitter पर Tay नामक AI चैटबॉट लॉन्च किया। 16 घंटों के भीतर, उपयोगकर्ताओं ने Tay को नस्लवादी और घृणास्पद टिप्पणियाँ करने के लिए प्रशिक्षित कर दिया। Microsoft को तुरंत बंद करना पड़ा। Tay की विफलता का कारण "model drift" था — AI ने वास्तविक समय में नए डेटा से सीखा, लेकिन इस नए डेटा की कोई निगरानी नहीं थी। 2023 में भी यही पैटर्न दिखा जब Meta के Galactica और Google के Bard ने शुरुआती तैनाती के बाद अप्रत्याशित व्यवहार किया। AI सिस्टम समय के साथ बदलता है — और यह बदलाव हमेशा बेहतरी की तरफ नहीं होता।

Model Drift: खामोश खतरा

Model Drift तब होती है जब AI का प्रदर्शन समय के साथ बिगड़ने लगता है — बिना किसी स्पष्ट घटना के। इसके तीन प्रकार हैं:

Data Drift: इनपुट डेटा का वितरण बदल जाता है — जैसे COVID के बाद स्वास्थ्य AI को पूरी तरह नए डेटा पैटर्न मिले।
Concept Drift: वास्तविकता बदल जाती है — जैसे महंगाई के बाद ऋण जोखिम मॉडल पुराने पड़ जाते हैं।
Feedback Loop Drift: AI के निर्णय खुद नए डेटा को प्रभावित करते हैं — जैसे Tay का मामला।

निगरानी ढांचा

हर तैनात AI सिस्टम के लिए तीन चीज़ें ज़रूरी हैं: नियमित प्रदर्शन रिपोर्ट, विसंगति अलर्ट (जब AI का व्यवहार अचानक बदले), और पूर्व-निर्धारित "kill switch" — कब सिस्टम बंद किया जाए।

दीर्घकालिक ज़िम्मेदारियों का ढांचा

AI निर्माता की ज़िम्मेदारी तीन स्तरों पर है:

तकनीकी ज़िम्मेदारी: नियमित पुनः-प्रशिक्षण, प्रदर्शन निगरानी, सुरक्षा पैच।
सामाजिक ज़िम्मेदारी: प्रभावित समुदायों के साथ नियमित संवाद, शिकायतों का समाधान।
कानूनी ज़िम्मेदारी: बदलते नियमों का अनुपालन, ऑडिट रिकॉर्ड बनाए रखना।

EU का AI Act 2024 और भारत का DPDPA दोनों यह स्पष्ट करते हैं कि उच्च-जोखिम AI सिस्टम के लिए निरंतर निगरानी और रिपोर्टिंग कानूनी दायित्व है। "बनाया और भूल गए" का दौर AI में संभव नहीं है।

अंतिम विचार

एक AI सिस्टम का निर्माण करना एक जीवित प्राणी को दुनिया में लाने जैसा है — आप उसके परिणामों के लिए जवाबदेह हैं, चाहे आपका इरादा कुछ भी रहा हो। जवाबदेही बनाएँ, निगरानी करें, सुनें, और सुधारें।

📝 क्विज़ · पाठ 8

निरंतर ज़िम्मेदारियाँ — परीक्षण

तीन प्रश्नों में अपनी समझ जाँचें।

1. Microsoft के Tay चैटबॉट की विफलता किस प्रकार की model drift थी?

✅ सही! Tay ने वास्तविक समय में उपयोगकर्ताओं से सीखा — उनकी हेरफेर की गई प्रतिक्रियाओं ने ही नया "प्रशिक्षण डेटा" बना दिया।

❌ नहीं। Tay की विफलता Feedback Loop Drift थी — AI की अपनी प्रतिक्रियाएँ उसके नए प्रशिक्षण का हिस्सा बन गईं।

2. "Concept Drift" किसे कहते हैं?

✅ बिल्कुल! जैसे COVID के बाद ऋण जोखिम के पुराने पैटर्न बदल गए — पहले का "कम जोखिम" अब उच्च जोखिम हो सकता है।

❌ नहीं। Concept Drift का अर्थ है दुनिया बदल गई लेकिन AI का मॉडल पुरानी दुनिया की धारणाओं पर चल रहा है।

3. AI सिस्टम के लिए "kill switch" का पूर्व-निर्धारण क्यों ज़रूरी है?

✅ सही! पहले से तय करें — कौन से संकेत दिखें तो सिस्टम बंद होगा, कौन बंद करेगा, और कैसे। संकट में यह स्पष्टता जीवन बचा सकती है।

❌ नहीं। Kill switch का उद्देश्य है — जब AI खतरनाक तरीके से व्यवहार करे तो तुरंत और स्पष्ट रूप से बंद करने की क्षमता।

🧪 लैब · पाठ 8

दीर्घकालिक निगरानी योजना

एक तैनात AI सिस्टम के लिए निरंतर निगरानी और रखरखाव योजना तैयार करें।

निर्देश

AI निगरानी विशेषज्ञ के साथ एक जीवित AI सिस्टम की दीर्घकालिक देखभाल योजना बनाएँ।

कोई AI सिस्टम बताएँ जो पहले से तैनात है या होने वाला है।
AI आपसे drift के तीन प्रकार, निगरानी मेट्रिक्स, और kill switch मानदंड के बारे में पूछेगा।
एक 12-महीने की निगरानी योजना तैयार करें।

सुझाव: "मुझे एक AI क्रेडिट स्कोरिंग सिस्टम के लिए दीर्घकालिक निगरानी योजना बनानी है।"

🤖 AI निगरानी विशेषज्ञ हिंदी में जवाब

मॉड्यूल 10 — अंतिम परीक्षण

15 प्रश्न · सभी 8 पाठों से · अपना स्कोर जानें

1. Amazon के AI भर्ती टूल ने महिलाओं को कम अंक क्यों दिए?

✅ सही! गलत समस्या परिभाषा ने पक्षपाती डेटा को AI में एन्कोड कर दिया।

❌ नहीं। पिछले कर्मचारियों के पक्षपाती डेटा को "सफलता का पैटर्न" मान लिया गया।

2. Air Canada के AI केस में अदालत ने क्या फैसला दिया?

✅ सही! कंपनियाँ अपने AI सिस्टम के आउटपुट की जवाबदेही से नहीं बच सकतीं।

❌ नहीं। अदालत ने Air Canada को हर्जाना देने का आदेश दिया — AI कंपनी की ज़िम्मेदारी का विस्तार है।

3. CRAVE ढांचे में "E" किसके लिए है?

✅ सही! Edge Cases जाँचना ज़रूरी है — AI अक्सर असामान्य स्थितियों में विफल होता है।

❌ नहीं। CRAVE में E = Edge Cases — यह जाँचना कि AI असामान्य परिस्थितियों में कैसे व्यवहार करता है।

4. "Human-in-the-loop" और "Human-on-the-loop" में क्या अंतर है?

✅ सही! यह अंतर महत्वपूर्ण है — जोखिम के स्तर के आधार पर तय करें कि कौन सा मॉडल उचित है।

❌ नहीं। ये अलग डिज़ाइन निर्णय हैं — मानव की भागीदारी की गहराई अलग-अलग होती है।

5. Meta के Galactica को तीन दिन में बंद क्यों करना पड़ा?

✅ बिल्कुल! Hallucination और अपर्याप्त परीक्षण ने मिलकर एक विश्वसनीयता संकट पैदा किया।

❌ नहीं। Galactica की विफलता hallucination और अपर्याप्त रेड-टीमिंग का संयोजन थी।

6. ज़िम्मेदार तैनाती में "ऑप्ट-आउट विकल्प" क्यों ज़रूरी है?

✅ सही! व्यक्तिगत स्वायत्तता का सम्मान करना ज़िम्मेदार AI का मूल सिद्धांत है।

❌ नहीं। ऑप्ट-आउट विकल्प उपयोगकर्ता की स्वायत्तता के लिए है — तकनीकी दक्षता के लिए नहीं।

7. NHS-DeepMind मामले में Information Commissioner's Office ने किसे दोषी ठहराया?

✅ सही! तकनीक अच्छी थी लेकिन डेटा साझाकरण प्रक्रिया में कानूनी उल्लंघन था।

❌ नहीं। NHS ने मरीजों की सहमति के बिना 1.6 मिलियन लोगों का डेटा साझा किया — यह कानूनी उल्लंघन था।

8. Optum healthcare algorithm में "प्रॉक्सी भेदभाव" का क्या अर्थ था?

✅ बिल्कुल! यही प्रॉक्सी भेदभाव की ताकत और खतरा है — यह अदृश्य होता है।

❌ नहीं। प्रॉक्सी भेदभाव तब होता है जब एक तटस्थ दिखने वाला चर वास्तव में असमानता को दर्शाता है।

9. Boeing 737 MAX दुर्घटनाओं में AI डिज़ाइन की कौन सी गलती थी?

✅ सही! Human-AI वर्कफ़्लो डिज़ाइन में मानव का प्रशिक्षण उतना ही ज़रूरी है जितना AI का।

❌ नहीं। MCAS सिस्टम था और पायलटों को इसे override करने के लिए तैयार नहीं किया गया था।

10. वकील स्टीवन श्वार्ट्ज़ पर $5,000 जुर्माना क्यों लगा?

✅ सही! AI आउटपुट को बिना जाँचे पेश करना पेशेवर लापरवाही है — AI की गलती आपकी गलती है।

❌ नहीं। AI उपयोग की अनुमति है लेकिन आउटपुट की जाँच करना वकील की ज़िम्मेदारी है।

11. "Few-Shot Prompting" का क्या अर्थ है?

✅ बिल्कुल! उदाहरण दिखाकर AI के व्यवहार को अनुमानित और सुसंगत बनाया जाता है।

❌ नहीं। Few-Shot का अर्थ है प्रॉम्प्ट में उदाहरण देना — ताकि AI समझे कि किस प्रकार का जवाब चाहिए।

12. "Demographic Parity" fairness metric का क्या अर्थ है?

✅ सही! Demographic Parity जाँचती है कि क्या AI विभिन्न समूहों को समान रूप से सकारात्मक निर्णय दे रहा है।

❌ नहीं। Demographic Parity एक fairness metric है — यह जाँचती है कि समूहों में सकारात्मक परिणाम समान हैं या नहीं।

13. Microsoft Tay की विफलता से AI निगरानी में क्या सबक मिला?

✅ बिल्कुल! Tay ने सिखाया कि बिना निगरानी का real-time learning विनाशकारी हो सकता है।

❌ नहीं। असली सबक निगरानी और kill switch का है — न कि AI चैटबॉट का पूर्ण प्रतिबंध।

14. STRIDE ढांचे में "T — Tampering" क्या जाँचता है?

✅ सही! Data Poisoning एक वास्तविक खतरा है — Tampering जाँचता है कि AI इसके प्रति कितना सुरक्षित है।

❌ नहीं। STRIDE में T = Tampering — यह जाँचना कि क्या बाहरी हस्तक्षेप AI के निर्णयों को विकृत कर सकता है।

15. AI निर्माता की "सामाजिक ज़िम्मेदारी" में क्या शामिल है?

✅ बिल्कुल! AI का सामाजिक प्रभाव होता है — और उन लोगों के साथ निरंतर संवाद ज़िम्मेदारी का मूल है जिन पर यह असर डालता है।

❌ नहीं। सामाजिक ज़िम्मेदारी का अर्थ है प्रभावित लोगों के साथ संवाद, उनकी शिकायतें सुनना और समाधान करना।