हम अक्सर पूर्वाग्रह को एक दोष के रूप में सोचते हैं जिसे शुद्ध करने की आवश्यकता होती है। यह। यह एक संज्ञानात्मक शॉर्टकट है जिसे हमें ठीक-ठाक करने की आवश्यकता है। हम लगातार आकृतियों, रंगों, ध्वनियों और गंधों से बमबारी करते हैं। भले ही मानव संवेदी प्रणाली इस जानकारी को प्रति सेकंड लगभग 10 मिलियन बिट्स की दर से एकत्र कर सकती है, लेकिन हमारा चेतन मन केवल प्रति सेकंड की 50 बिट्स सूचना को संसाधित कर सकता है। हम इस तरह की एक सफल प्रजाति हैं, भले ही हम केवल हमारे द्वारा एकत्र किए गए सभी डेटा का 0.0005% संसाधित कर सकते हैं, हमारे मस्तिष्क की क्षमता के लिए एक वसीयतनामा है जो तुच्छ से महत्वपूर्ण को जल्दी से हल करने के लिए है।
हम यह heuristics, अंगूठे के सरल नियमों का उपयोग करते हुए करते हैं जो हमें यह तय करने में मदद करते हैं कि संदर्भ, अनुभव और मानव विकासवादी अनुकूलन के आधार पर कौन सी जानकारी को प्राथमिकता दें। यह है कि हम कैसे बता सकते हैं, बस उसके रंग और उपस्थिति से, कि हमें अपने मुंह में कुछ न डालें। यह है कि हम एक खतरनाक पड़ोस को कैसे जानते हैं, जिस क्षण हम इसमें प्रवेश करते हैं, भले ही हम पहले कभी नहीं गए हों। जब हम अंधेरे में कुछ सरसराहट सुनते हैं, तो वह लड़ाई-या-उड़ान प्रतिक्रिया हम तुरंत महसूस करते हैं क्योंकि, कुछ समय में मानवता के अतीत में, उस ध्वनि ने एक शिकारी की उपस्थिति का संकेत दिया।
ALSO READ: आर्टिफिशियल इंटेलिजेंस उसी तरह विकसित हो रहा है जैसे हमारे दिमाग बड़े होकर करते हैं
हम सभी प्रकार के निर्णय लेने के लिए इस तरह के उत्तराधिकार का उपयोग करते हैं। यह है कि कैसे हम प्रासंगिक तथ्यों पर शून्य करते हैं जब संज्ञानात्मक सीमाएं, अधूरी जानकारी और समय की कमी हमें उन सभी जानकारी को संसाधित करने की विलासिता से इनकार करती है जो हमें चाहिए।
हम परिस्थितियों के आधार पर, अलग -अलग उत्तराधिकारियों का उपयोग करते हैं। उदाहरण के लिए, जब हम नए लोगों से मिलते हैं, तो हम प्रतिनिधित्व की अनुमानी को आमंत्रित करते हैं जो हमें उन कुछ रूढ़ियों के लिए उनकी समानता के आधार पर मूल्यांकन करने की अनुमति देता है जो हमने पहले से ही गठित किए हैं। हर बार जब हम किसी को किसी को पसंद करते हैं, तो यह अधिक होता है कि वे किसी भी वास्तविक ज्ञान के साथ संरेखित करने वाले कुछ सतही लक्षणों के साथ क्या करते हैं, जो वे हैं।
ये उत्तराधिकार हमें चलते रहते हैं, जिससे हमें एक जटिल दुनिया में जीवन को नेविगेट करने में मदद मिलती है। लेकिन वे कभी -कभी बैकफायर करते हैं, और जब ऐसा होता है, तो हम उन्हें पूर्वाग्रह कहते हैं।
उदाहरण के लिए, ‘उपलब्धता पूर्वाग्रह’, भावनात्मक रूप से महत्वपूर्ण घटनाओं से अधिक वजन, जो ज्वलंत और हाल ही में हैं, भले ही यह मानने के लिए उचित से अधिक है कि हाल ही में संसाधित डेटा पहले से प्राप्त समान जानकारी का प्रतिनिधि है। जब हम पर ‘पुष्टिकरण पूर्वाग्रह’ का आरोप लगाया जाता है, तो इसका मतलब है कि हमने अपने मौजूदा विश्वासों का समर्थन करने वाली जानकारी का पक्ष लिया है, भले ही यह एक उपयोगी अनुमानी है जो हमें लगातार पूछताछ से दूर रखने के लिए है कि हम पहले से ही क्या जानते हैं।
पूर्वाग्रह भी अनुचित परिणामों में परिणाम कर सकते हैं। रिक्रूटर्स को योग्य उम्मीदवारों को नजरअंदाज करने के लिए जाना जाता है, और यहां तक कि माना जाता है कि निष्पक्ष न्यायाधीशों ने अपने अवचेतन पूर्वाग्रहों को उनके निर्णयों को प्रभावित करने की अनुमति दी है। इसे संबोधित करने के लिए, हम स्वचालित निर्णय लेने की प्रणालियों में डालते हैं, जहां हम यह सुनिश्चित करने के उद्देश्य से कर सकते हैं कि महत्वपूर्ण निर्णय निष्पक्ष रूप से किए गए थे, केवल उपलब्ध डेटा के आधार पर। यह, हम मानते थे, पूर्वाग्रह से उत्पन्न होने वाले नुकसान को कम करेंगे।
ALSO READ: CONVIDANTLY गलत: क्यों AI इतना अतिरंजित रूप से मानव-जैसा है
हमें जल्द ही पता चला कि हम जिन एल्गोरिदम का उपयोग कर रहे थे, उनके स्वयं के पूर्वाग्रह थे। उन्होंने जो निष्कर्ष निकाला, वह अप्रत्याशित रूप से लिंग और जातीयता से तिरछा था, भले ही इसका समर्थन करने के लिए डेटा में कुछ भी स्पष्ट नहीं था। स्वचालित रिज्यूम स्क्रीनर्स ने व्यवस्थित रूप से महिला आवेदकों के सीवीएस को रैंक किया क्योंकि ऐतिहासिक काम पर रखने वाले पैटर्न ने सुझाव दिया कि पुरुष बेहतर उम्मीदवार थे। चूंकि ये पूर्वाग्रह अपने प्रशिक्षण डेटा में निहित थे, इसलिए वे उन कार्यों के लिए विकसित इन एल्गोरिदमों में एन्कोडेड हो गए, जो उन्हें दिए गए कार्यों के लिए विकसित हुए थे। हमने जो सोचा था कि उद्देश्य तर्क ने असमानताओं का एक पूरी तरह से अलग सेट छुपाया था।
आज, एल्गोरिथम पूर्वाग्रह को कृत्रिम बुद्धिमत्ता (एआई) के सबसे महत्वपूर्ण जोखिमों में से एक माना जाता है। अब जब हम जानते हैं कि वे उन पूर्वाग्रहों को छुपा सकते हैं जो पता लगाना मुश्किल हैं, तो हम संदेह के साथ एआई निर्णयों का इलाज करते हैं। नतीजतन, अधिकांश एआई शासन के प्रयास संभावित पूर्वाग्रह के हर अंतिम संकेत को समाप्त करने पर केंद्रित हैं।
यह दृष्टिकोण मानता है कि आदर्श राज्य कट्टरपंथी तटस्थता है – सभी प्रकार के पूर्वाग्रह से मुक्ति। यह, हालांकि, पूर्वाग्रह की प्रकृति और अनुभूति की प्रक्रिया दोनों को गलत समझता है।
Also Read: जसप्रीत बिंद्रा: एआई द एज ऑफ ह्यूमन
हमारे सिस्टम में बायसेज़ कीड़े नहीं हैं; वे ऐसे उपकरण हैं जिन्हें हमने विकसित करने में हमारी मदद करने के लिए विकसित किया है, जो हमें उन निष्कर्षों पर पहुंचने में मदद करते हैं, जिन्हें हमें वास्तविक समय के निर्णय लेने की बाधाओं को देखते हुए। यदि हम उन्हें आमंत्रित नहीं करते हैं, तो हम बस उस समय में उपलब्ध लगभग अनंत जानकारी को संसाधित करने में असमर्थ होंगे, जब हमें तय करना होगा। ये वे व्यापार-बंद हैं जिन्हें हमें डेटा की मात्रा से पंगु होने से बचने के लिए करना होगा, हमें अन्यथा विचार करना होगा।
यदि हम पूर्वाग्रहों के बारे में सोचते हैं, जो कि जानकारी के अग्नि-नली से उपयोगी संकेतों की खोज करने के लिए आवश्यक हैं, तो हमारे लिए उन्हें तैनात करने में शामिल व्यापार-बंदों में खुद को समेटना आसान हो जाता है। पूर्वाग्रह-मुक्त एल्गोरिदम बनाने के लिए देखने के बजाय, हमें यह समझने की आवश्यकता है कि ये पूर्वाग्रह कैसे काम करते हैं ताकि हम उन हानि को कम कर सकें जो उनके उपयोग के परिणामस्वरूप हो सकते हैं।
ऐसा करने का एक तरीका उन उपकरणों को विकसित करने के लिए हो सकता है जो मार्जिन पर इन हानि का पता लगा सकते हैं – प्रारंभिक चेतावनी प्रणालियों को इंगित करने के लिए डिज़ाइन किया गया है कि जब एआई सिस्टम के निर्णय अनुचित तरीके से आदर्श से विचलित होना शुरू हो गए हैं। यह हमें अपने सिस्टम को फिर से डिज़ाइन करने की अनुमति देगा, इससे पहले कि इन ह्यूरिस्टिक्स के अनपेक्षित परिणामों के परिणामस्वरूप व्यापक नुकसान हो।
पूर्वाग्रह मानव बुद्धिमत्ता का एक अनिवार्य तत्व है। यदि हमें एक ब्रह्मांड से अर्थ निकालने के लिए इन संज्ञानात्मक उपकरणों की आवश्यकता है, तो पूरी तरह से समझने के लिए, हमें एआई की उम्र में उनके उपयोग के लिए आवश्यक व्यापार-बंदों को गले लगाना चाहिए।
लेखक ट्रिलगल में एक भागीदार और ‘द थर्ड वे: इंडियाज़ रिवोल्यूशनरी एप्रोच टू डेटा गवर्नेंस’ के लेखक हैं। उनका एक्स हैंडल @matthan है।
