स्वचालित वाहनों की नैतिकता: सड़क पर ट्रॉली समस्या (UPSC Ethics)

कल्पना कीजिए कि एक सेल्फ-ड्राइविंग कार एक यात्री को लेकर एक तंग गली में तेज़ रफ्तार से जा रही है। तभी कुछ बच्चे फुटपाथ से उतरकर उसके रास्ते में आ जाते हैं। ब्रेक उसे समय रहते रोक नहीं पाएंगे। कार के पास उसके कोड में लिखे सिर्फ दो ही विकल्प हैं अपनी लाइन पर बनी रहे और बच्चों को टक्कर मार दे, या किनारे की दीवार से जा टकराए और उस यात्री की जान ले ले जिसकी रक्षा के लिए वह बनी थी। अगले दो सेकंड का कोई ऐसा रूप नहीं है जिसमें किसी को चोट न पहुंचे। और यह चुनाव पहले ही हो चुका है उस पल में घबराए हुए किसी इंसान ने नहीं, बल्कि महीनों पहले मेज़ पर बैठे एक इंजीनियर ने वह कोड लिखते वक्त किया, जो तय करता है कि कौन ज़िंदा रहेगा। यही इस विषय का बेचैन कर देने वाला केंद्र है। नैतिक दर्शन का सबसे पुराना विचार-प्रयोग, ट्रॉली समस्या, अब सेमिनार कक्ष से निकलकर एक असली मशीन के स्टीयरिंग एल्गोरिद्म तक पहुंच गया है।

यही वजह है कि स्वचालित वाहन सीधे-सीधे किसी नैतिकता (Ethics) के पेपर में आते हैं, सिर्फ तकनीक के पेपर में नहीं। अब सवाल यह नहीं रहा कि “क्या कोई कार खुद चल सकती है?” इसका जवाब इंजीनियरों ने काफी हद तक दे दिया है। सवाल यह है कि “जब नुकसान टाला ही न जा सके, तब उसे कैसे बर्ताव करना चाहिए, और जब कुछ गलत हो जाए तो जिम्मेदार कौन है?” ये नैतिक और कानूनी सवाल हैं, तकनीकी नहीं, और ये किसी समाज को मजबूर करते हैं कि वह कोड में लिखकर रखे कि वह इंसानी जीवन की कीमत के बारे में असल में क्या मानता है। एक अभ्यर्थी के लिए यह विषय किसी तोहफे जैसा है यह आपको उन सैद्धांतिक नैतिक विचारों को, जिन्हें आपने अब तक सिर्फ पढ़ा है परिणामवाद (Consequentialism), कर्तव्यवाद (Deontology), सद्गुण नैतिकता (Virtue Ethics) एक ठोस, आधुनिक दुविधा पर आपस में टकराते हुए देखने का मौका देता है, एक ऐसी दुविधा जिस पर भारत खुद अब बहस कर रहा है।

ट्रॉली समस्या जो असली बन गई

ट्रॉली समस्या लगभग साठ साल पुरानी एक दार्शनिक पहेली है। एक बेकाबू ट्रॉली एक पटरी पर पांच लोगों को कुचलने वाली है; आप एक लीवर खींचकर उसे बगल की पटरी की ओर मोड़ सकते हैं, जहां वह एक व्यक्ति को कुचल देगी। क्या आप लीवर खींचेंगे? इस पहेली का कोई साफ-सुथरा जवाब नहीं है, और यही इसका असली मकसद है यह सोचने के दो तरीकों के बीच की खाई को उजागर करती है। एक परिणामवादी, जो कर्मों को उनके नतीजों से आंकता है, लीवर खींच देगा पांच जानें बचाना एक के मुकाबले बेहतर है, तो गणित साफ है। एक कर्तव्यवादी, जो कर्मों को नतीजों के बजाय कर्तव्यों और नियमों से आंकता है, झिझकता है, क्योंकि किसी एक व्यक्ति को मारने का सक्रिय चुनाव उसे महज़ एक साधन बना देता है, और यह एक ऐसी नैतिक लकीर लांघता है जिसे कोई भी अच्छा नतीजा मिटा नहीं सकता। दशकों तक यह कक्षा की एक अमूर्त चर्चा भर थी, तर्क को धार देने के लिए उपयोगी, पर सुरक्षित रूप से काल्पनिक।

सेल्फ-ड्राइविंग कारों ने वह सुरक्षा खत्म कर दी है। टकराव की अटल स्थिति में फंसी एक स्वचालित कार ही वह ट्रॉली है, और लीवर है कोड की कुछ सौ पंक्तियां, जो दुर्घटना से बहुत पहले तय कर दी गई हैं। कार के सॉफ्टवेयर में कोई न कोई नियम होना ही चाहिए स्पष्ट रूप में या उसकी ट्रेनिंग में दबा हुआ इस बारे में कि वह अंदर बैठे लोगों को बाहर के लोगों के मुकाबले, एक को अनेक के मुकाबले, और कानून मानने वाले पैदल यात्री को नियम तोड़ने वाले के मुकाबले कैसे तौले। इंजीनियर जो भी चुनें, वे ट्रॉली समस्या को हल नहीं कर रहे; वे उसमें एक पक्ष ले रहे हैं हर उस व्यक्ति की ओर से जिससे कार कभी भी टकराएगी। और वे यह काम पहले से, ठंडे दिमाग से कर रहे हैं, जो किसी इंसान की पल भर की प्रतिक्रिया से नैतिक रूप से कहीं भारी है। सहज प्रवृत्ति में कार मोड़ देने वाले चालक को इंसान मानकर माफ कर दिया जाता है; पर जो कंपनी वही नतीजा पहले से तय कर देती है, वह मौत को स्प्रेडशीट से बांटती हुई दिखती है।

एक और मोड़ है जो असली संस्करण को कक्षा वाले से कहीं कठिन बना देता है। इंसानी चालक का चुनाव अनिश्चित और निजी होता है। प्रोग्राम की गई कार का चुनाव व्यवस्थित होता है जब-जब वैसी ही परिस्थितियां दोहराई जाएंगी, वह लाखों गाड़ियों में वही फैसला करेगी। तो अब एक अकेला डिज़ाइन-फैसला सिर्फ एक दुखद कर्म नहीं रह जाता; वह पूरे समाज पर लागू एक स्थायी नीति बन जाता है, बिना उस समाज के कभी उस पर वोट दिए। आप जितना गहरे देखेंगे, ट्रॉली समस्या उतना ही किसी एक दुर्घटना के बारे में न रहकर इस बारे में हो जाती है कि वे नैतिक नियम कौन लिखेगा जिन पर बाकी सबको जीना और मरना है।

मॉरल मशीन और साझा नियमों की तलाश

अगर कार को नैतिक नियम देने ही हैं, तो वे किसकी नैतिकता हों? 2016 में MIT Media Lab के शोधकर्ताओं ने मॉरल मशीन (Moral Machine) नाम के एक ऑनलाइन प्रयोग से इसका जवाब आंकड़ों के सहारे ढूंढने की कोशिश की। इसने आने वालों को टकराव की अटल स्थितियों में चालक की सीट पर बैठाकर पूछा कि कार को किसे बचाना चाहिए बूढ़ा या जवान, अनेक या कुछ, इंसान या जानवर, यात्री या पैदल चलने वाले, कानून मानने वाले या नियम तोड़ने वाले। यह खूब वायरल हुआ, और जब तक टीम ने अपने नतीजे प्रकाशित किए, तब तक उसने 233 देशों और क्षेत्रों के लाखों लोगों से लगभग 4 करोड़ (40 मिलियन) फैसले इकट्ठा कर लिए थे इंसानी नैतिक पसंद पर हुए अब तक के सबसे बड़े अध्ययनों में से एक।

तीन पसंद लगभग सार्वभौमिक निकलीं: हर जगह लोग जानवरों के मुकाबले इंसानी जान बचाने की ओर, कम के मुकाबले ज्यादा लोगों को बचाने की ओर, और बूढ़ों के मुकाबले जवानों की रक्षा की ओर झुके। पर ज्यादा चौंकाने वाला नतीजा वहां था जहां लोग असहमत थे। चुनाव सांस्कृतिक रेखाओं के साथ गुच्छों में बंटे हुए थे। जैसा MIT टीम और जर्नल Nature ने बताया, व्यक्तिवादी पश्चिमी समाज ज्यादा लोगों को बचाने की ओर कहीं ज्यादा झुके, जबकि बड़े-बुजुर्गों के प्रति गहरे सम्मान वाले कई पूर्वी एशियाई और दूसरे समाज बुज़ुर्गों की बलि देने के लिए कहीं कम तैयार थे, और कुछ आर्थिक रूप से असमान समाजों में ऊंचे और नीचे दर्जे के लोगों के साथ बर्ताव में ज्यादा तीखा भेद दिखा। खोजे जाने का इंतज़ार करती कोई एक वैश्विक नैतिकता थी ही नहीं। पता चला कि नैतिकता का भी एक पता-ठिकाना होता है।

यह नतीजा एक चेतावनी है, कोई नुस्खा नहीं। मॉरल मशीन को इस बात पर वोट की तरह पढ़ना कि कारें किसे मारें, गलती होगी जवानों को बूढ़ों के मुकाबले बचाना, अक्षरशः लिया जाए तो यह आंकड़ों का जामा पहनाया गया उम्र-आधारित भेदभाव भर है, और “भीड़ ने यही चुना” नैतिकता में कोई बचाव नहीं है। इस प्रयोग ने असल में जो दिखाया वह दोहरा और किसी भी उत्तर के लिए उपयोगी है। पहला, इंसानों के बीच चलने वाली कोई मशीन नैतिक रूप से तटस्थ नहीं हो सकती; उसका कोड कुछ मूल्यों को समेटे ही रहेगा, तो एकमात्र चुनाव यह है कि वे मूल्य खुलकर और जवाबदेही के साथ चुने जाएं या चुपके से अपने आप घुसा दिए जाएं। दूसरा, चूंकि नैतिक अंतर्बोध संस्कृतियों के बीच इतने तीखे ढंग से अलग हैं, जर्मन सड़कों के लिए लिखा गया नियम भारतीय सड़कों पर यूं ही निर्यात नहीं किया जा सकता। यही तनाव साझा, लागू करने योग्य नियमों की ज़रूरत और बहुलवादी नैतिक नज़रियों की हकीकत के बीच ही जीवंत बहस है, और यह सीधे-सीधे उस व्यापक संघर्ष से जुड़ जाता है कि भारत में कृत्रिम बुद्धिमत्ता (AI) को कैसे संचालित किया जाए।

जिम्मेदारी का खालीपन: जब कोई चला ही नहीं रहा, तो दोषी कौन

दुर्लभ टक्कर की दुविधा से हटकर देखें तो एक ज्यादा आम और ज्यादा अहम नैतिक समस्या सामने आती है: जवाबदेही। सड़क पर होने वाली मौतों के लिए हमारा पूरा नैतिक और कानूनी ढांचा स्टीयरिंग पर बैठे एक इंसान पर टिका है। दोष, सज़ा, बीमा, मुआवज़ा यह सब लापरवाह चालक को ढूंढ निकालने से ही बहता है। चालक को हटा दीजिए, और यह कड़ी टूट जाती है। जब एक पूरी तरह स्वचालित कार किसी की जान ले लेती है, तो नैतिक रूप से जिम्मेदार कौन है? वह मालिक जो किताब पढ़ रहा था? वह निर्माता जिसने हार्डवेयर बनाया? वह सॉफ्टवेयर कंपनी जिसके एल्गोरिद्म ने किसी परछाईं को सड़क समझ लिया? वे इंजीनियर जिन्होंने मॉडल को अधूरे आंकड़ों पर ट्रेन किया? या फिर कोई भी नहीं बस “सिस्टम”? दार्शनिक इसे जिम्मेदारी का खालीपन (Responsibility Gap) कहते हैं: नुकसान साफ तौर पर हुआ है, फिर भी कोई एक ऐसा कर्ता नहीं जिसने सीधे-सीधे इरादे या लापरवाही से उसे अंजाम दिया हो। जवाबदेही बिखर जाती है, और जो समाज दोष का ठिकाना ही न ढूंढ पाए, वह न्याय नहीं दे सकता।

इसे एक दूसरी समस्या और तेज़ कर देती है व्याख्या-योग्यता (Explainability)। आधुनिक सेल्फ-ड्राइविंग सिस्टम मशीन-लर्निंग मॉडलों पर टिके होते हैं, जिनके फैसले उनके बनाने वाले भी बाद में पूरी तरह समझा नहीं सकते। अगर कोई कार मुड़ती है और हम सच में बता ही नहीं सकते कि उसने वैसा क्यों चुना, तो यह नैतिक मांग कि गलती करने वाला अपने कर्म का जवाब दे सके, टिकने के लिए कोई जगह नहीं पाती। आप किसी न्यूरल नेटवर्क से जिरह नहीं कर सकते। वही अपारदर्शिता जो दूसरे ताकतवर AI सिस्टमों को घेरे रहती है खुद-ब-खुद काम करने वाली एजेंटिक AI से लेकर खुद अपने लक्ष्य चुनने वाले घातक स्वायत्त हथियारों तक यहां सार्वजनिक सड़क पर भी सामने आती है: मशीन जितनी ज्यादा सक्षम और स्व-निर्देशित होगी, जिम्मेदारी को किसी ऐसे इंसान पर टिकाना उतना ही कठिन हो जाएगा जिसे जवाबदेह ठहराया जा सके।

अलग-अलग समाज इस खालीपन को अलग-अलग तरीकों से भरने की कोशिश कर रहे हैं, और ये तुलनाएं सीख देने वाली हैं। एक तरीका जब तक कार खुद चल रही है, तब तक जिम्मेदारी को डिफ़ॉल्ट रूप से निर्माता पर डाल देता है एक समझदार कदम जो निर्माता को उस पक्ष की तरह देखता है जो जोखिम को उठाने और घटाने के लिए सबसे बेहतर स्थिति में है, ठीक वैसे ही जैसे उत्पाद-दायित्व कानून खराब उपकरणों के मामले में पहले से करता है। दूसरा तरीका एक पंजीकृत इंसानी “ऑपरेटर” को कानूनी तौर पर जिम्मेदार बनाए रखता है, भले ही वह स्टीयरिंग न संभाल रहा हो यह जवाबदेही तो बचाए रखता है, पर इसमें यह खतरा है कि किसी व्यक्ति पर ऐसे फैसले का दोष आ जाए जो उसने कभी लिया ही नहीं और जिसे वह रोक भी नहीं सकता था। भारत का अपना कानून, मोटर वाहन अधिनियम, 1988 (Motor Vehicles Act, 1988), चालक की लापरवाही के इर्द-गिर्द लिखा गया था और इसका कोई साफ जवाब देता ही नहीं, यही वजह है कि NITI Aayog जैसी संस्थाओं ने इस कानूनी शून्य को ऐसी चीज़ बताया है जिसे ऐसी कारों के आने से पहले ठीक किया जाना चाहिए, बाद में नहीं। इनमें से किसी भी मॉडल की नैतिक कसौटी बताना आसान है: क्या यह एक असली, पहचाना जा सकने वाला कर्ता छोड़ता है जिसकी सराहना की जा सके, दोष दिया जा सके और भरपाई कराई जा सके या यह सबको एक-दूसरे की ओर उंगली उठाने देता है, जब तक कि पीड़ित के हाथ कुछ भी न बचे?

सुरक्षा विरोधाभास, रोज़गार और न्याय के सवाल

दुविधा वाली स्थितियां सुर्खियां बटोरती हैं, पर सबसे बड़ा नैतिक दांव सामान्य और आंकड़ों वाला है। भारत हर साल सड़क दुर्घटनाओं में लगभग 1.7 लाख लोग गंवाता है सड़क परिवहन एवं राजमार्ग मंत्रालय की अपनी गिनती के अनुसार 2023 में 1.72 लाख से अधिक और 2024 में करीब 1.7 लाख और इन मौतों का अधिकांश हिस्सा इंसानी गलती से जुड़ा है: तेज़ रफ्तार, नशे में गाड़ी चलाना, थकान, ध्यान भटकना। स्वचालित वाहन, सिद्धांततः, इनमें से कुछ नहीं करते। वे न नशे में होते हैं, न थकते हैं, न गुस्सा करते हैं, न ऊबते हैं। अगर वे दुर्घटनाओं में अपनी वादा की गई कमी का एक छोटा हिस्सा भी ला सकें, तो हर साल बचने वाली जानें किसी भी ऐसी संख्या से कहीं ज्यादा होंगी जो किसी दुर्लभ ट्रॉली-जैसी घटना में कभी गंवाई जा सकती है। परिणामवादी नज़रिए से, यह उन्हें तैनात करने का लगभग एक नैतिक दायित्व है। यही सुरक्षा विरोधाभास (Safety Paradox) है: जिस तकनीक से हम इस डर से घबराते हैं कि वह कैसे जान ले सकती है, वही, हिसाब-किताब में, जितनी जान लेती है उससे कहीं ज्यादा बचा सकती है।

पर यह विरोधाभास दोनों ओर काटता है, और एक सावधान उत्तर दोनों धारों को साथ थामता है। स्वचालित वाहन जानी-पहचानी, बिखरी हुई इंसानी गलतियों की जगह नई, केंद्रित, व्यवस्थागत गलतियां ले आते हैं। नशे में धुत एक चालक किसी एक रात किसी एक सड़क पर जान लेता है; पर एक अकेली सॉफ्टवेयर खामी, एक धोखा खाया हुआ सेंसर या एक कामयाब साइबर हमला पूरे बेड़े को एक साथ ठप कर सकता है या हथियार बना सकता है। साइबर सुरक्षा अब महज़ IT का मसला नहीं रह जाती, बल्कि शारीरिक सुरक्षा और यहां तक कि राष्ट्रीय सुरक्षा का सवाल बन जाती है, क्योंकि कार तेज़ रफ्तार से चलती दो टन की चीज़ है और हैक की गई कार एक रिमोट-कंट्रोल वाला हथियार है। यह मशीन इस बात के लगातार बहते आंकड़ों पर भी चलती है कि लोग कहां, कब और किसके साथ जाते हैं, जिससे यह असली निजता (Privacy) का दांव खड़ा हो जाता है कि उस पूरे ब्योरे का मालिक कौन है और कौन उस पर नज़र रख सकता है। तो ईमानदार ढांचा “सुरक्षित बनाम खतरनाक” नहीं है, बल्कि एक जोखिम-रूप के बदले दूसरे का सौदा है और कर्तव्य यह है कि तैनाती तभी की जाए जब नए जोखिम सचमुच छोटे हों और अच्छी तरह संचालित हों, न कि केवल अलग किस्म के।

फिर वह सवाल है जिस पर भारत बार-बार लौटता है: न्याय, और खासकर रोज़गार। देश का परिवहन क्षेत्र अनुमानतः 70 से 80 लाख चालकों को रोज़गार देता है ट्रक, टैक्सी, ऑटो और निजी कारों के और केंद्रीय मंत्री नितिन गडकरी ने साफ कहा है, जिसमें 2025 के FICCI सड़क-सुरक्षा कार्यक्रम में भी, कि वे भारत में बिना चालक वाली कारों को इसीलिए इजाज़त नहीं देंगे क्योंकि वे करीब एक करोड़ लोगों को बेरोज़गार कर सकती हैं। यह तकनीक-विरोध नहीं है; यह एक गंभीर उपयोगितावादी और रॉल्सीय (Rawlsian) बात है। एक ऐसी तकनीक जो जान तो बचाती है पर सबसे गरीब मज़दूरों की रोज़ी-रोटी छीन लेती है, और जिसका सुरक्षा लाभ पहले उन्हीं को मिलता है जो एक महंगी नई कार खरीद सकते हैं, यह कठिन सवाल खड़े करती है कि कीमत कौन चुकाएगा और मुनाफा किसकी जेब में जाएगा। समान पहुंच, विस्थापित चालकों के लिए एक मानवीय बदलाव, और भारत के शानदार ढंग से अराजक मिले-जुले यातायात के लिए बने नियम जहां एक सेल्फ-ड्राइविंग सिस्टम को एक ही फ्रेम में बैलगाड़ी, लहराते स्कूटर और बीच सड़क पार करते पैदल यात्री को पढ़ना होता है यही कारण हैं कि पूर्ण स्वचालन यहां अब भी एक दूर की संभावना है, और यही वजह है कि यह नैतिक बहस फीनिक्स या म्यूनिख से जस की तस आयात नहीं की जा सकती। इस कहानी के तकनीक और तैयारी वाले पहलू के लिए, स्वचालित वाहन, SAE स्तर और भारत की तैयारी पर साथी व्याख्यात्मक लेख देखें।

आपके मेन्स उत्तर के लिए

यह GS Paper 4 (नैतिकता, सत्यनिष्ठा और अभिवृत्ति) के लिए एक बहुत मूल्यवान विषय है, और यह उस पेपर के कई विषयों को एक साथ संभाल सकता है: व्यावहारिक नैतिकता और नैतिक दुविधाएं, तकनीक और AI के इस्तेमाल में नैतिकता, परिणामवादी, कर्तव्यवादी और सद्गुण-आधारित तर्क के बीच का अंतर, और सार्वजनिक तथा कॉर्पोरेट जीवन में जवाबदेही। यह GS Paper 3 (विज्ञान और प्रौद्योगिकी, साइबर सुरक्षा के ज़रिए आंतरिक सुरक्षा) और तकनीक तथा मानव-दशा पर निबंध के पेपर को भी पुष्ट करता है। परीक्षक उस अभ्यर्थी को अंक देते हैं जो नैतिक ढांचों को ठीक-ठीक नाम दे सके और फिर उन्हें मामले पर लागू कर सके, बजाय सिर्फ उस उपकरण का वर्णन करने के।

उत्तर कैसे गढ़ें

शुरुआत स्वचालित वाहनों को असली बनी ट्रॉली समस्या के रूप में रखकर कीजिए वह एक वाक्य ही दिखा देता है कि आप समझते हैं कि यह तकनीक का नहीं, नैतिकता का सवाल क्यों है। फिर क्रम से तीन परतों से गुज़रिए: दुविधा (कार को किसे बचाना चाहिए, और यह कि कोई भी नियम मूल्यों को समेट लेता है), जवाबदेही की समस्या (जब कोई इंसान नहीं चला रहा तब जिम्मेदारी का खालीपन और व्याख्या-योग्यता), और सामाजिक दांव (सुरक्षा विरोधाभास, रोज़गार, निजता, साइबर सुरक्षा और समता)। साथ-साथ हर नैतिक नज़रिया लागू करते चलिए परिणामवाद कहता है कि सालाना 1.7 लाख मौतें घटाने के लिए इसे तैनात कीजिए, कर्तव्यवाद कहता है कि ऐसा कोई नियम कभी मत बनाइए जो किसी व्यक्ति को महज़ साधन माने या उम्र-दर्जे के आधार पर भेदभाव करे, सद्गुण नैतिकता पूछती है कि एक जिम्मेदार समाज और इंजीनियर को क्या करना चाहिए। अंत एक संतुलित निर्णय से कीजिए जो सुरक्षा के वादे और न्याय की चिंताओं को साथ थामे।

किन गलतियों से बचें

उत्तर को इस वर्णन तक मत समेटिए कि सेल्फ-ड्राइविंग कारें कैसे काम करती हैं परीक्षक को नैतिकता चाहिए, इंजीनियरिंग नहीं। मॉरल मशीन को इस फैसले की तरह मत लीजिए कि कारें किसे मारें; इसे इस प्रमाण के रूप में उद्धृत कीजिए कि नैतिकता संस्कृतियों के बीच बदलती है और मशीनें मूल्य-तटस्थ नहीं हो सकतीं, फिर यह भी जोड़िए कि बहुमत की पसंद भेदभाव का कोई नैतिक औचित्य नहीं है। भारतीय संदर्भ को नज़रअंदाज़ मत कीजिए रोज़गार और मिले-जुले यातायात का पहलू ही एक आम वैश्विक उत्तर को स्थानीय बनाता है। और यह दिखावा मत कीजिए कि दुविधा का कोई साफ-सुथरा हल है; अंक यह दिखाने में हैं कि आप इस तनाव को तर्क के सहारे समझ सकते हैं, इसे सुलझाने में नहीं।

एक संक्षिप्त उत्तर-ढांचा

टकराव की अटल स्थिति में फंसी सेल्फ-ड्राइविंग कार = असली बनी ट्रॉली समस्या → कोई भी कोड मूल्यों को समेट लेता है, इसलिए तटस्थता असंभव है (MIT मॉरल मशीन: ~4 करोड़ चुनाव, सार्वभौमिक झुकाव फिर भी तीखा सांस्कृतिक भेद) → जिम्मेदारी का खालीपन: कोई इंसानी चालक न होने का मतलब है दोष का निर्माता, मालिक, कोडर और एल्गोरिद्म के बीच बिखर जाना, जिसे अव्याख्येय AI और बिगाड़ देती है → सुरक्षा विरोधाभास: भारत की ~1.7 लाख सालाना सड़क मौतों का बड़ा हिस्सा घटा सकती है, पर बिखरी इंसानी गलती के बदले व्यवस्थागत जोखिम (साइबर हमला, बेड़े-भर की खामी, निजता) ले आती है → भारत का पहलू: ~70-80 लाख चालकों के रोज़गार, अराजक मिला-जुला यातायात, इंसानी लापरवाही के लिए बना मोटर वाहन अधिनियम → ढांचे: उपयोगितावादी “नुकसान घटाओ” बनाम कर्तव्यवादी “कोई भेदभाव नहीं, संपत्ति से ऊपर जीवन” (जर्मनी के 2017 के नियम) बनाम सद्गुण नैतिकता → निर्णय: तैनात करो, पर तभी जब साफ दायित्व, पारदर्शिता, सुरक्षा और एक न्यायपूर्ण बदलाव हो।

आरेख या फ्लोचार्ट का विचार

कार को एक दोराहे पर बनाइए: एक तीर “मुड़ो → यात्री को चोट”, दूसरा “रुको → पैदल यात्रियों को चोट”, और दोराहे के ऊपर “महीनों पहले कोड में तय” लिखा एक छोटा डिब्बा। उसके बगल में जिम्मेदारी के खालीपन का एक दूसरा सरल आरेख बनाइए बीच में एक दुर्घटना और बाहर की ओर “मालिक”, “निर्माता”, “सॉफ्टवेयर डेवलपर” और “एल्गोरिद्म” की ओर इशारा करते तीर, जिनमें से कोई भी साफ तौर पर कारण नहीं। ऐसे दो साफ-सुथरे चित्र दुविधा और जवाबदेही की समस्या को एक ही नज़र में दिखा देते हैं।

एक संतुलित-निष्कर्ष पंक्ति

एक पंक्ति जो अंक दिलाती है: “स्वचालित वाहन सड़क से नैतिक चुनाव हटाता नहीं वह उसे महज़ चालक के हाथों से डिज़ाइनर की मेज़ तक सरका देता है, यही वजह है कि इस तकनीक को जान बचाने की इजाज़त तभी मिलनी चाहिए जब हम साफ-साफ और पहले से कह सकें कि यह किसके मूल्य ढोती है और इसके विफल होने पर जवाब कौन देता है।”

आंकड़ों को बिना रटे कैसे इस्तेमाल करें

आपको पूरा डेटासेट नहीं, बस चार लंगर चाहिए: ट्रॉली समस्या (ढांचा), MIT की मॉरल मशीन (~4 करोड़ फैसले, 233 देश इस बात का प्रमाण कि नैतिकता बहुलवादी है), भारत की ~1.7 लाख सालाना सड़क मौतें (सुरक्षा का दांव), और जोखिम में पड़े ~70-80 लाख चालक (न्याय का दांव)। इन्हें सादे गद्य में श्रेय देते हुए जोड़िए “जैसा MIT Media Lab के मॉरल मशीन प्रयोग में पाया गया”, “सड़क परिवहन मंत्रालय की अपनी गिनती के अनुसार” बजाय इसके कि आंकड़े यूं ही बिखेर दिए जाएं।

अभ्यास प्रश्न

प्रीलिम्स MCQs

1. स्वचालित वाहनों की नैतिकता पर चर्चाओं में अक्सर उठाई जाने वाली “ट्रॉली समस्या” को सबसे सही ढंग से इस प्रकार बताया जा सकता है:
   (a) सार्वजनिक परिवहन के सबसे ईंधन-कुशल मार्ग के बारे में एक पहेली
   (b) एक नैतिक दुविधा जो दो नतीजों के बीच चुनाव के लिए मजबूर करती है, जिनमें से हर एक नुकसान पहुंचाता है
   (c) सिग्नल टाइमिंग के लिए एक यातायात-इंजीनियरिंग मॉडल
   (d) रेलवे मूल्य-निर्धारण के अर्थशास्त्र पर एक सिद्धांत
   उत्तर: (b) ट्रॉली समस्या एक नैतिक दुविधा है जिसमें हर उपलब्ध चुनाव नुकसान में बदलता है, जिसका उपयोग नतीजा-आधारित और नियम-आधारित नैतिक तर्क में अंतर दिखाने के लिए होता है।
2. MIT के मॉरल मशीन प्रयोग के संदर्भ में, निम्नलिखित में से कौन-सा/से कथन सही है/हैं? 1. इसने दुनिया भर के लोगों से करोड़ों नैतिक चुनाव इकट्ठा किए।
   2. इसने पाया कि सभी संस्कृतियों में नैतिक पसंद एक जैसी थी।
   3. इसने कम के मुकाबले ज्यादा जानें बचाने जैसे लगभग सार्वभौमिक झुकाव उजागर किए। सही उत्तर चुनिए:
   (a) केवल 1 और 2
   (b) केवल 1 और 3
   (c) केवल 2 और 3
   (d) 1, 2 और 3
   उत्तर: (b) इस प्रयोग ने लगभग 4 करोड़ फैसले इकट्ठा किए और कुछ लगभग सार्वभौमिक झुकाव पाए, पर इसने खासकर तीखे सांस्कृतिक भेद दर्ज किए, इसलिए कथन 2 गलत है।
3. स्वचालित वाहनों की नैतिकता में, “जिम्मेदारी का खालीपन” शब्द किसे संदर्भित करता है:
   (a) किसी स्वचालित कार को सुरक्षित रूप से रुकने के लिए जितनी दूरी चाहिए
   (b) जब कोई मशीन नुकसान पहुंचाती है और कोई इंसान नहीं चला रहा था, तब नैतिक या कानूनी दोष तय करने की कठिनाई
   (c) प्रशिक्षित सुरक्षा चालकों की संख्या में कमी
   (d) किसी सेंसर के पढ़ने और ब्रेक लगने की प्रतिक्रिया के बीच की देरी
   उत्तर: (b) जिम्मेदारी का खालीपन यह समस्या है कि जब नुकसान किसी लापरवाह इंसानी चालक के बजाय किसी स्वचालित सिस्टम से होता है, तब जवाबदेही का ठिकाना कहां ढूंढा जाए।
4. भारत में स्वचालित वाहनों की तैनाती के पक्ष में एक विशुद्ध परिणामवादी (उपयोगितावादी) तर्क सबसे अधिक संभवतः इस बात पर ज़ोर देगा कि वे:
   (a) हमेशा पहले अपने यात्रियों की रक्षा करते हैं
   (b) इंसानी गलती को हटाकर सालाना करीब 1.7 लाख सड़क-दुर्घटना मौतों को तेज़ी से घटा सकते हैं
   (c) ड्राइविंग के अधिकतम रोज़गार बचाए रखते हैं
   (d) मोटर वाहन अधिनियम, 1988 में लिखे यातायात नियमों का पालन करते हैं
   उत्तर: (b) परिणामवाद कर्मों को नतीजों से आंकता है, इसलिए इसका सबसे मजबूत तर्क इंसानी गलती मिटाने से होने वाली मौतों में बड़ी शुद्ध कमी है।
5. स्वचालित और कनेक्टेड ड्राइविंग पर जर्मनी के 2017 के नैतिकता आयोग ने जो नियम तय किए, उनमें निम्नलिखित में से कौन-से सिद्धांत शामिल थे? 1. संपत्ति के नुकसान के मुकाबले इंसानी जीवन की रक्षा को प्राथमिकता मिलती है।
   2. टाली न जा सकने वाली दुर्घटनाओं में, सिस्टम उम्र या लिंग के आधार पर लोगों में भेद कर सकता है।
   3. व्यक्तिगत विशेषताओं के आधार पर लोगों के बीच भेद अस्वीकार्य हैं। सही उत्तर चुनिए:
   (a) केवल 1 और 2
   (b) केवल 1 और 3
   (c) केवल 2 और 3
   (d) 1, 2 और 3
   उत्तर: (b) जर्मन नियमों ने संपत्ति के मुकाबले इंसानी जीवन को प्राथमिकता दी और उम्र या लिंग जैसी व्यक्तिगत विशेषताओं के आधार पर भेदभाव को मना किया, इसलिए कथन 2 उनके विपरीत है।

मेन्स अभ्यास प्रश्न

1. “स्वचालित वाहन सड़क से नैतिक चुनाव हटाता नहीं; वह उसे चालक के हाथों से डिज़ाइनर की मेज़ तक सरका देता है।” टाली न जा सकने वाली नुकसान-स्थितियों के लिए सेल्फ-ड्राइविंग कारों की प्रोग्रामिंग की नैतिक चुनौतियों की जांच कीजिए। (15 अंक, 250 शब्द)
2. MIT मॉरल मशीन प्रयोग ने लगभग सार्वभौमिक नैतिक झुकाव और तीखे सांस्कृतिक भेद दोनों पाए। चर्चा कीजिए कि यह मशीनों के लिए वैश्विक रूप से स्वीकार्य नैतिक नियम लिखने की संभावना के बारे में हमें क्या बताता है। (15 अंक, 250 शब्द)
3. स्वचालित वाहनों के संदर्भ में “जिम्मेदारी के खालीपन” को समझाइए। दायित्व और जवाबदेही को निर्माता, मालिक, सॉफ्टवेयर डेवलपर और ऑपरेटर के बीच कैसे बांटा जाना चाहिए? (15 अंक, 250 शब्द)
4. “स्वचालित वाहन जानी-पहचानी इंसानी गलतियों के बदले नए व्यवस्थागत जोखिम ले आते हैं।” सड़क सुरक्षा, साइबर सुरक्षा और निजता के संदर्भ में इस सुरक्षा विरोधाभास का आलोचनात्मक विश्लेषण कीजिए। (10 अंक, 150 शब्द)
5. पूरी तरह स्वचालित कारों के प्रति भारत का विरोध काफी हद तक लाखों चालकों की रोज़ी-रोटी पर टिका है। परिणामवादी और न्याय-आधारित नैतिकता के नज़रिए से इस चिंता का मूल्यांकन कीजिए, और एक मानवीय आगे का रास्ता सुझाइए। (15 अंक, 250 शब्द)

सामान्य प्रश्न

PDF