IREX ने संदिग्ध पहचान में पक्षपात का आकलन करने के लिए व्यापक अध्ययन किया
नैतिक एआई में वैश्विक अग्रणी IREX ने अपनी रियल-टाइम संदिग्ध पहचान तकनीक में पहचान संबंधी पक्षपात का आकलन करने के लिए एक व्यापक अध्ययन पूरा किया है। पारदर्शिता और नैतिक एआई के प्रति हमारी प्रतिबद्धता के भाग के रूप में, यह अध्ययन विभिन्न जातीय समूहों और त्वचा के रंगों में हमारी तकनीक की सटीकता और निष्पक्षता का मूल्यांकन करता है। IREX Ethical AI प्लेटफ़ॉर्म के सभी उपयोगकर्ताओं के साथ साझा किए गए निष्कर्ष विभिन्न जातीय समूहों और त्वचा के रंगों में सटीकता में न्यूनतम अंतर दर्शाते हैं, जो 2% से कम है, और इस प्रकार हमारी तकनीक की विश्वसनीयता और निष्पक्षता सुनिश्चित करते हैं।
पक्षपात कम करने के उपाय
IREX में हम ऐसे कृत्रिम बुद्धिमत्ता मॉडल विकसित करने के लिए प्रतिबद्ध हैं जो न केवल सटीक हों, बल्कि निष्पक्ष और पक्षपात-रहित भी हों। फ़ेस रिकग्निशन के संदर्भ में इसका अर्थ है यह सुनिश्चित करना कि हमारे न्यूरल नेटवर्क इस तरह डिज़ाइन किए जाएँ कि वे नस्ल या जातीयता की परवाह किए बिना व्यक्तियों को पहचान सकें।
इस लक्ष्य को प्राप्त करने के लिए हमने प्रशिक्षण प्रक्रिया के दौरान कई प्रमुख उपाय लागू किए हैं:
- विविध सत्यापन: हम नियमित रूप से अपने मॉडल के प्रदर्शन का परीक्षण ऐसे डेटासेट की श्रृंखला पर करते हैं जिनमें अलग-अलग नस्लीय और जातीय पृष्ठभूमि, आयु और मुद्राओं वाले लोग शामिल हैं। इससे हमें उभरने वाले किसी भी पक्षपात की पहचान करने और उसे दूर करने में मदद मिलती है।
- कलर जिटरिंग: डेटा तैयार करने के दौरान हम छवियों पर रंग रूपांतरण लागू करते हैं, जो मॉडल को त्वचा के रंग या अन्य शारीरिक विशेषताओं के बजाय चेहरे की विशेषताओं पर ध्यान केंद्रित करने के लिए प्रेरित करता है।
- ज्यामितीय रूपांतरण: हम वॉल्यूमेट्रिक रूपांतरणों सहित विभिन्न ज्यामितीय रूपांतरण भी लागू करते हैं। इससे मॉडल को उन विशेषताओं पर अत्यधिक निर्भर होने से रोका जाता है जो एक नस्लीय समूह में दूसरे की तुलना में अधिक प्रचलित हो सकती हैं।
- विविध डेटासेट निर्माण: हमारे दृष्टिकोण में हमारे अपने कस्टम डेटासेट सहित विभिन्न स्रोतों के कई डेटासेट को मिलाकर लोगों का समृद्ध और विविध प्रतिनिधित्व तैयार करना शामिल है। इससे यह सुनिश्चित करने में मदद मिलती है कि हमारा मॉडल चेहरे की विशेषताओं और पैटर्न की व्यापक श्रृंखला पर प्रशिक्षित हो, जिससे बदले में नस्लीय पक्षपात की संभावना कम होती है।
“इन उपायों को अपने फ़ेस रिकग्निशन न्यूरल नेटवर्क में शामिल करके हम ऐसे मॉडल विकसित कर पाते हैं जो न केवल सटीक हैं, बल्कि निष्पक्ष और व्यक्तिगत भिन्नताओं का सम्मान करने वाले भी हैं। IREX में हमारा मानना है कि एआई विकास में निष्पक्षता और पारदर्शिता को प्राथमिकता देना आवश्यक है, और हम प्रदर्शन तथा नैतिकता के उच्चतम मानकों को सुनिश्चित करने के लिए अपनी तकनीकों में निरंतर सुधार करने के लिए प्रतिबद्ध हैं,” IREX के वरिष्ठ ML वैज्ञानिक डॉ. Filonenko कहते हैं।
अध्ययन का अवलोकन
IREX ने Racial Faces in-the-Wild (RFW) परीक्षण डेटाबेस का उपयोग किया, जिसमें चार अलग-अलग उपसमुच्चय शामिल हैं: कॉकेशियन, एशियाई, भारतीय और अफ़्रीकी। प्रत्येक उपसमुच्चय में लगभग 3,000 अद्वितीय व्यक्ति हैं और चेहरे के सत्यापन के लिए 6,000 छवि युग्म हैं, जो हमारी तकनीक के प्रदर्शन का मूल्यांकन करने के लिए एक सुदृढ़ डेटासेट उपलब्ध कराते हैं।
परिणाम
IREX संदिग्ध पहचान का GPU संस्करण सत्यापन सटीकता
- कॉकेशियन: 99.15%
- अफ़्रीकी: 98.23%
- भारतीय: 98.20%
- एशियाई: 97.20%
ये परिणाम सटीकता में न्यूनतम अंतर दर्शाते हैं; सर्वश्रेष्ठ और सबसे कमज़ोर प्रदर्शन करने वाले डेटासेट के बीच का अंतर GPU संस्करण के लिए केवल 1.95% है।
IREX संदिग्ध पहचान का CPU संस्करण सत्यापन सटीकता
- कॉकेशियन: 98.55%
- अफ़्रीकी: 97.30%
- भारतीय: 97.32%
- एशियाई: 96.67%
सर्वश्रेष्ठ और सबसे कमज़ोर प्रदर्शन करने वाले डेटासेट के बीच का अंतर CPU संस्करण के लिए 1.88% रहा।
तुलनात्मक विश्लेषण
Mei Wang et al. के अनुसार, तृतीय-पक्ष व्यावसायिक API (जैसे Microsoft, Amazon) पर सटीकता का अंतर काफ़ी भिन्न होता है, जो 5.58% से 12.30% तक है। इसकी तुलना में IREX Suspect Recognition इंजन में सबसे कम पक्षपात दिखाई देता है, जो हमारी एआई तकनीकों में नस्लीय पक्षपात को न्यूनतम करने की हमारी प्रतिबद्धता को रेखांकित करता है।
निरंतर प्रतिबद्धता
IREX में हम अपनी तकनीकों को निष्पक्ष और न्यायसंगत बनाए रखने के लिए विभिन्न जातीय समूहों, आयु समूहों और लिंगों में पक्षपात संबंधी मेट्रिक्स की नियमित निगरानी और मूल्यांकन करते हैं।
“हम निरंतर सुधार और पारदर्शिता के लिए समर्पित हैं, और इन निष्कर्षों को IREX Ethical AI प्लेटफ़ॉर्म के सभी उपयोगकर्ताओं के साथ साझा करते हैं ताकि वे हमारी तकनीक की सीमाओं और खूबियों को समझ सकें।” - IREX के CEO Calvin Yadav कहते हैं।IREX Ethical AI वीडियो एनालिटिक्स के बारे में और जानें