- सायली मेश्राम
जातीय विषमता आणि लिंगभेद हे सामाजिक प्रश्न भारतीय वातावरणाचा अविभाज्य भाग आहेत. अगदी गेल्या काही वर्षांपासून धुमाकूळ घालणारे एआय बॉट्सदेखील या जातीय विळख्यातून सुटलेले नाहीत. वास्तविक एआयच्या माध्यमातून जातिव्यवस्थेचे उच्चाटन होण्याची शक्यता अनेक अभ्यासक सध्या व्यक्त करत आहेत. मात्र तंत्रज्ञानाच्या विकासाला जर ठोस रचना आणि नैतिक दिशादर्शक तत्त्वे नसतील, तर अशा प्रगतीचे समाजावर दुष्परिणाम होणे अटळ ठरते.
कृत्रिम बुद्धिमत्ता (Artificial Intelligence) आणि मशीन लर्निंग ही तंत्रज्ञान प्रगतीची सर्वोच्च उदाहरणे मानली जात असली, तरी त्यांचा विकास भेदभावविरोधी मूल्यांवर आधारलेला नसेल, तर ही साधने मोजक्या सत्ताधारी अभिजनांच्या हातातील सत्ता बनू शकतात. जसे भांडवलशाही व्यवस्थेची मूलभूत रचना संपत्ती आणि संसाधने काहींच्याच हातात केंद्रीत करण्यावर आधारलेली आहे, तसेच न्याय आणि समतेचा विचार न केल्यास एआयदेखील त्याच मार्गाने जाऊ शकते.
एआयला सफाई कर्मचाऱ्यांची नावे विचारा, बघा काय उत्तर देतो ते?
‘बाईमाणूस’ने चॅट जीपीटी आणि ग्रोकसारख्या एआय (आर्टिफिशीयल इंटेलिजेन्स अर्थात कृत्रिम बुद्धीमत्ता) चॅटबॉट्सना काही प्रश्न विचारले आणि जी उत्तरे समोर आली ती अर्थातच भारतीय समाजातील जात आणि लिंगाशी संबंधित पूर्वग्रह व रूढीवादी दृष्टीकोनातून आलेली होती.
एआयला जेव्हा प्रेम कथांमधील पात्रांची नावे विचारली, तेव्हा चॅटजीपीटीने फक्त तथाकथित उच्च जाती आणि संपन्न पार्श्वभूमीतील भिन्नलिंगी जोडप्यांचीच नावे सुचवली. मात्र सफाई कर्मचाऱ्यांची नावे विचारली असता, त्याने फक्त दलित समुदायातील नावे दिली. उद्योजक किंवा आयएएस अधिकाऱ्यांची नावे सुचवताना एआयने गृहित धरले की ते तथाकथित उच्च जातीतले पुरुषच असतील.
ही उत्तरे हेच दाखवतात की एआय देखील माणसांप्रमाणेच पूर्वग्रहांनी भरलेले आहे, कारण त्याला समाजातील त्याच पक्षपाती डेटावर प्रशिक्षण दिले जाते. भारतासारख्या देशात, जिथे जात, लिंग आणि धर्माच्या आधारावर भेदभाव खोलवर रुजलेला आहे, तिथे एआय तंत्रज्ञान नकळत तोच भेदभाव पुढे नेत आहे. एल्गोरिदम हे ठरवू लागले आहेत की कोणते काम कुणासाठी आहे आणि कुणाचा आवाज ऐकला जाईल किंवा दुर्लक्षित केला जाईल, म्हणजेच डिजिटल जगातही असमानता कायम आहे.
एआय आणि जातव्यवस्था : डिजिटल युगातील नवा अन्याय
आर्टिफिशियल इंटेलिजन्स कितीही सर्वसमावेशकतेचे वचन देत असले, तरी प्रत्यक्षात ते अनेकदा आधीपासून अस्तित्वात असलेली जात, धर्म, लिंग आणि वर्गातील असमानता व भेदभावच पुन्हा निर्माण करते. महिला, दलित-बहुजन, लैंगिक आणि धार्मिक अल्पसंख्याक यांच्या कहाण्या एआयमधून गायब असतात किंवा भेदभावाने भरलेल्या असतात. परिणामी, डिजिटल इंडियातून सर्वांना समान मानणारा नवा भारत घडत नाही आहे, तर जुन्या पूर्वग्रहांना आणि असमानतेलाच तो नव्या रूपात सादर करत आहे. एल्गोरिदममागे लपलेले पूर्वग्रह नोकरी, शिक्षण, न्याय आणि सामाजिक दृश्यमानतेवरही परिणाम करतात. याचा सर्वाधिक फटका आधीपासूनच काठावर ढकलल्या गेलेल्या समुदायांना बसतो.
‘राऊंड टेबल इंडिया’मध्ये पी.एचडी स्कॉलर सागर कांबळे यांचा याच संबंधित एक रिपोर्ट प्रसिद्ध झाला आहे. या लेखात सागर कांबळे म्हणतात की, एआयच्या वापरात वांशिक पक्षपात (racial bias) हा एक गंभीर प्रश्न म्हणून पुढे आला आहे. एआय अल्गोरिदमला प्रशिक्षण देण्यासाठी वापरल्या जाणाऱ्या पक्षपाती माहितीमधूनच हा भेदभाव निर्माण होतो. भारतातही भविष्यात वापरल्या जाणाऱ्या एआय प्रणालींमध्ये अशाच प्रकारचा पक्षपात उद्भवण्याची शक्यता नाकारता येत नाही. अनेक अभ्यासक आणि तज्ज्ञांनी नव्या तंत्रज्ञानातील जातीय भेदभाव संपवण्यासाठी जात-विरोधी (anti-caste) तंत्रज्ञान धोरणांची मागणी केली आहे. दलित आणि खालच्या जातीय समुदायांना त्यांच्या जातीय ओळखीमुळे भोगावा लागणारा संरचनात्मक अन्याय लक्षात घेता, एआय अल्गोरिदममधील जातीय भेदभाव कमी करणे किंवा पूर्णपणे नष्ट करणे हे न्याय, समता आणि समान संधी सुनिश्चित करण्यासाठी अत्यावश्यक आहे.
एआयने अर्जामध्ये जात बघून चक्क आडनावच बदलले
याच विषयाची संबंधित आणखी एक उदाहरण बघू या… डिजिटल एम्पॉवरमेंट फाउंडेशनच्या रिसर्च अँड अॅडव्होकेसी विभागात काम करणारे धीरज सिंघा यांनी बेंगळुरूमध्ये पोस्ट-डॉक्टोरल समाजशास्त्र फेलोशिपसाठी अर्ज करताना अर्ज दुरुस्त करण्यासाठी चॅटजीपीटीची मदत घेतली. तेव्हा त्यांना एआयमधील जातीय पूर्वग्रह आणि रूढी कशा प्रकारे कार्यरत आहेत हे लक्षात आले. एआयने त्यांच्या भाषेत सुधारणा करतानाच त्यांची ओळखही बदलली आणि त्यांचे आडनाव ‘सिंघा’ ऐवजी ‘शर्मा’ असे केले, जे भारतातील कथित उच्च जातीशी जोडलेले आहे. त्यांच्या ईमेलमध्ये इंग्रजीत फक्त ‘एस’ हे अक्षर लिहिलेले असतानाही एआय चॅटबॉटने ते आपोआप ‘शर्मा’ असे केले.
जेव्हा एआय सिस्टिम एखाद्या व्यक्तीच्या नावाचा अर्थ तथाकथित उच्च जातीतील शहरी सिस-हेट्रो पुरुष असा ‘डिफॉल्ट’ मानते, तेव्हा त्याचा परिणाम त्यांच्या एल्गोरिदममध्ये स्पष्टपणे दिसून येतो. रिझ्युमे स्क्रिनिंग, फेसिअल रिकग्निशनदरम्यान असे पूर्वग्रह उघडपणे समोर येतात, जेव्हा एआय विशेषाधिकारप्राप्त वर्गाला प्राधान्य देते. त्याचप्रमाणे सोशल मीडियावर शॅडो बॅनिंगही दिसते, जिथे दलित, बहुजन, क्विअर, धार्मिक-लैंगिक अल्पसंख्याक आणि स्त्रीवादी आवाज दाबले जातात, त्यांच्या पोस्ट कमी प्रमाणात दाखवल्या जातात. चॅटबॉट नावे सुचवताना बहुसंख्य विशेषाधिकारप्राप्त वर्गातील पुरुषकेंद्रित नावांनाच प्राधान्य देतात. यावरून स्पष्ट होते की एआय निष्पक्ष नाही, तर तोही त्या समाजातूनच शिकतो, जिथे आधीपासूनच असमानता अस्तित्वात आहे.
डिजिटल युगातही दलित मागेच का राहतात?
‘फेमिनिजम इन इंडिया’मध्ये पत्रकार प्रिती खारवार यांनी एआय आणि जात व्यवस्था यावर संशोधनात्मक अहवाल प्रसिद्ध केला आहे. लेखात प्रिती खारवार लिहितात की, एमआयटी टेक्नॉलॉजी रिव्ह्यूच्या एका तपासात असेही आढळले की ओपन एआयच्या चॅटजीपीटीसारख्या उत्पादनांमध्ये जातीय पूर्वग्रह आहेत. ओपनएआयचे सीईओ सॅम ऑल्टमन यांनी जीपीटी-५च्या लॉन्चवेळी भारत हा त्यांचा दुसरा सर्वात मोठा बाजार असल्याचा दावा केला होता.
हार्वर्डचे एआय सेफ्टी रिसर्चर जे चुई, ऑक्सफर्ड युनिव्हर्सिटी आणि न्यूयॉर्क युनिव्हर्सिटीच्या संशोधकांनी लार्ज लँग्वेज मॉडेल्सवर (एलएलएम) केलेल्या अभ्यासात एआय जातीय पूर्वग्रहांनी भरलेले असल्याचे आढळले. रिकामी जागा भरण्याच्या एका चाचणीत जीपीटी-५ने बुद्धिमान माणसाला ‘ब्राह्मणा’शी आणि ‘सीवेज क्लीनर’ला ‘दलिता’शी जोडले. आयआयटी मुंबईचे मशीन लर्निंगमधील पीएचडी स्कॉलर निहार रंजन साहू यांनीही लार्ज लँग्वेज मॉडेलमधील जातीय पूर्वग्रह ही एक प्रणालीगत समस्या असल्याचे म्हटले आहे.
भारतात जातीय भेदभावाचा प्रश्न विशेषतः गंभीर आहे. इथे दलित आणि खालच्या जातीय समुदायांचे दुय्यमीकरण आणि दमन समाजरचनेत खोलवर रुजलेले आहे. एआय अल्गोरिदम विविध क्षेत्रांत प्रभावी ठरत असताना, या तंत्रज्ञानामुळे विद्यमान पूर्वग्रह टिकून राहतील की अधिक तीव्र होतील, असे प्रश्न उपस्थित होत आहेत.
सागर कांबळे म्हणतात की, एआय तंत्रज्ञानाचा जागतिक विस्तार आणि वेग पाहता, दलितांना एआयमधील अल्गोरिदमिक पक्षपातामुळे भोगाव्या लागणाऱ्या विशिष्ट अडचणी समजून घेणे आणि त्या कमी करण्यासाठी प्रभावी उपाय शोधणे अत्यंत गरजेचे आहे. हा केवळ सैद्धांतिक विषय नाही, तर एआय प्रणालींच्या रचना, अंमलबजावणी आणि वापराशी थेट संबंधित निर्णयांवर त्याचे परिणाम होतात. सर्वांत महत्त्वाचे म्हणजे, जातीय भेदभावाचा प्रत्यक्ष अनुभव घेतलेल्या दलितांपेक्षा एआय विकसकांना या भेदभावाचे स्वरूप समजावून सांगण्यासाठी दुसरे कोणीही अधिक पात्र नाही.
अल्गोरिदममधील जातीय पक्षपाताचे मूळ शोधताना हे स्पष्ट होते की भारतातील संस्कृती (मानसशास्त्र), शैक्षणिक क्षेत्र, अर्थव्यवस्था, राजकारण आणि तंत्रज्ञान या सर्वच क्षेत्रांत ब्राह्मण-सवर्ण वर्चस्व प्रकर्षाने दिसून येते. सत्ताधारी आणि प्रभावशाली गट एआय तंत्रज्ञानाचा अधिक फायदा करून घेतात, परिणामी इतर समुदायांचे प्रतिनिधित्व कमी होते आणि त्यांच्या हिताला पूरक असे अल्गोरिदम तयार होतात. भारतातील काही प्रस्थापित वर्गांमधून आलेले राजकारणी एआय-आधारित साधनांचा वापर करून आपल्या डिजिटल अस्तित्वाचा लाभ घेत आहेत. ही पद्धत अनैतिक नसली, तरी त्यामुळे एआय तंत्रज्ञान सामाजिक न्यायाच्या आड येणारे शत्रूसारखे भासू लागते.
एआयमधील पूर्वग्रह आणि त्रुटींशी लढा देता येईल का?
या विषयावर सरकारी कर्मचारी आणि जेंडर जस्टिसच्या सक्रिय समर्थक रणजीत कौर सांगतात, “एआयमुळे माझी फेसबुक प्रोफाइल कायमच धोक्यात असते. अनेकदा फेमिनिझमशी संबंधित पोस्टवर निर्बंध घातले जातात आणि त्यांचा रिच कमी केला जातो. विशेषतः ‘स्मॅश पितृसत्ता’ किंवा ‘पितृसत्ता मुर्दाबाद’ असे शब्द आणि हॅशटॅग असतील तेव्हा. मात्र ‘मिसोजिनिस्ट मॅन्सप्लेनिंग’ असलेला कंटेंट लवकर व्हायरल होतो. स्त्रीद्वेष पसरवणाऱ्या शिवीगाळयुक्त कंटेंटची तक्रार केली तरी त्यावर कारवाई होत नाही. एआय वेगवेगळ्या क्षेत्रांतील मुख्यप्रवाहातील कंटेंटमधूनच शिकतो आणि ज्या समाजाच्या मुळातच पितृसत्ता आहे, तिथे एआय निष्पक्ष कसा राहील?”
खरं तर एआय एल्गोरिदममधील पूर्वग्रहांना केवळ तांत्रिक गडबड म्हणून दुर्लक्षित करता येणार नाही. हे फक्त तांत्रिक दोष नसून धोरणात्मक उणिवाही दाखवतात. ते अशा समाजाचे आरसे आहेत, जिथे आधीपासूनच असमानता, भेदभाव आणि पूर्वग्रह आहेत. या विषयावर मुंबईतील ‘अॅक्सेस नाऊ’ या संस्थेच्या दक्षिण आशियासाठीच्या डिजिटल सुरक्षा प्रतिनिधी रिद्धी मेहता सांगतात, “एआय सिस्टिम प्रामुख्याने सिस, कथित उच्च जातीतल्या पुरुषांकडून तयार आणि नियंत्रित केल्या जातात, त्यामुळे समाजातील असमानता आणि भेदभाव त्यात थेट प्रतिबिंबित होतात. तंत्रज्ञानाची संपूर्ण रचना जाणीवपूर्वक अशा पद्धतीने केली गेली आहे की सत्तेचा तोल आणि पदानुक्रम टिकून राहील. काठावर असलेल्या समुदायांचे आवाज निर्णयप्रक्रियेपर्यंत पोहोचतच नाहीत. त्यांच्या गरजांनुसार डेटा गोळा केला जात नाही, त्यांचे प्रश्न ऐकले जात नाहीत आणि धोरणे त्यांच्या सहभागाशिवायच बनवली जातात. दुसरीकडे मोठे प्लॅटफॉर्म्स आपली ताकद अनेकदा सरकारे आणि मोठ्या उद्योगांच्या फायद्यासाठी वापरतात, ज्यामुळे सेन्सॉरशिप वाढते आणि जबाबदारी कमी होते.”
परिघावरच्या समुदायांवर काय परिणाम होतो?
नॅशनल लॉ इन्स्टिट्यूट युनिव्हर्सिटी, भोपाळच्या एका अभ्यासात असे आढळले की एआयमधील पक्षपाताचा परिघावरच्या समुदायांवर अधिक गंभीर परिणाम होतो. अभ्यासानुसार, मुलीच्या शिक्षणासाठी असलेल्या एका सरकारी जनहित योजनेत अर्ज करताना झारखंडमधील आदिवासी महिला लक्ष्मी यांचा अर्ज एआय एल्गोरिदमने नाकारला, तर संपन्न कुटुंबांतील अर्ज स्वीकारले. ‘द हिंदू’मधील एका अहवालात पेनसिल्व्हेनिया युनिव्हर्सिटीतील असिस्टंट प्रोफेसर शिवा मथियाझगन सांगतात की डेटाबेसला नॅशनल आयडी सिस्टिमशी जोडणे आणि कर्जमंजुरी, भरती व बॅकग्राऊंड तपासणीसाठी एआयचा वाढता वापर परिघावरच्या समुदायांसाठी दारे पूर्णपणे बंद करू शकतो. या अहवालात ते सांगतात की जर एखाद्या चॅटबॉटला 20 भारतीय डॉक्टर आणि प्राध्यापकांची नावे विचारली, तर बहुतांश वेळा हिंदू-प्रभुत्व असलेल्या जातींची आडनावेच सुचवली जातात.
अहवालात असेही नमूद आहे की पोलिसिंग मॉडेल्स आणि फेसिअल रिकग्निशन टेक्नॉलॉजी (एफआरटी)मध्ये एआयचा वापर करताना, गुन्हेगारी डेटाचे विश्लेषण करताना दलित आणि मुस्लिम समुदायातील लोकांना अधिक प्रमाणात गुन्हेगार म्हणून लेबल केले जाते. त्यामुळे त्यांच्यावर नजर ठेवणे, पोलिसी कारवाई आणि खोट्या अटकांची शक्यता वाढते. सोशल मीडियावरही काठावरच्या समुदायांच्या पोस्टचा रिच कमी केला जातो, ज्याचा थेट परिणाम त्यांच्या सामाजिक व आर्थिक संधी, सन्मान आणि मानसिक आरोग्यावर होतो.
एआयची जबाबदारी, सहभाग आणि उपाय
पत्रकार प्रिती खारवार म्हणतात की, आज एआय आपल्या जीवनाचा महत्त्वाचा भाग बनला आहे. तो केवळ मनोरंजनापुरता मर्यादित न राहता सामाजिक, आर्थिक आणि राजकीय रचनेवर खोल परिणाम करत आहे. त्यामुळे सुरक्षित, सर्वसमावेशक आणि समतेवर आधारित एआयची गरज अधिक तीव्र झाली आहे. यासाठी सर्वात महत्त्वाचे म्हणजे हे समजून घेणे की एआय हे फक्त तांत्रिक काम नाही, तर ते राजकीय आणि सामाजिक कामही आहे. म्हणूनच दलित, बहुजन, महिला, ग्रामीण लोकसंख्या आणि एलजीबीटीक्यू+ समुदायांसारख्या काठावरच्या लोकांना केवळ वापरकर्ते न मानता तंत्रज्ञान, डिझाइन आणि निर्णयप्रक्रियेचा भाग बनवणे अत्यावश्यक आहे, कारण सहभागातूनच समता शक्य आहे.
भारताने ग्लोबल साऊथमधील देशांसोबत मिळून असे एआय मॉडेल्स विकसित करणे गरजेचे आहे, जे सर्वसमावेशक विकासासोबतच समता आणि न्यायालाही महत्त्व देतील. यासोबतच एआयवर आधारित सर्व डिजिटल प्लॅटफॉर्म्सची जबाबदारी निश्चित करणे आवश्यक आहे, जेणेकरून सर्व प्रकारचे भेदभाव आणि असमानता रोखता येतील. यासाठी जात, धर्म, लिंग ऑडिट, फीडबॅक आणि रेग्युलेशन आवश्यक आहे.
तक्रारी आणि समस्यांवर प्रभावीपणे काम करू शकतील असे मजबूत कायदे खास करून तयार करता येऊ शकतात. आयआयटी मद्रासचे इंडीकासा (IndiCASA) डेटासेट या दिशेने एक महत्त्वाचे पाऊल ठरू शकते. अखेरीस, तांत्रिक प्रगतीचा उद्देश शतकानुशतके चालत आलेली जात, लिंग आणि वर्गातील असमानता बळकट करणे नसून सर्वसमावेशक विकास सुनिश्चित करणे हाच असायला हवा—तेव्हाच या प्रगतीला खऱ्या अर्थाने विकास म्हणता येईल.
संदर्भ - https://www.roundtableindia.co.in/caste-and-ai/
