फ़ेस रिकग्निशन में पूर्वाग्रह और हम इसके बारे में क्या करते हैं?

फ़ेस रिकग्निशन में पूर्वाग्रह और हम इसके बारे में क्या करते हैं?

सभी फ़ेशियल रिकग्निशन एल्गोरिदम का प्रदर्शन अलग-अलग प्रकार के चेहरों पर भिन्न होता है। दूसरे शब्दों में, उनकी पहचान की सटीकता पहचाने जा रहे व्यक्ति के लिंग, आयु वर्ग, त्वचा के रंग, देखने के कोण और रोशनी की स्थितियों पर निर्भर करती है। यह मानव मस्तिष्क के लिए भी सच है।

पूर्वाग्रह का कारण क्या है?

  • प्रशिक्षण डेटासेट में जनसंख्या वितरण या सार्वजनिक क्षेत्र में फ़ोटो की उपलब्धता के कारण जातीय अल्पसंख्यकों, युवा या वृद्ध व्यक्तियों के चेहरों के पर्याप्त उदाहरण नहीं हो सकते।
  • दिखावट में भिन्नता: लोगों के दिखावट बदलने के तरीके में एक “स्वाभाविक” पूर्वाग्रह होता है। उदाहरण के लिए, महिलाओं की पहचान की सटीकता पुरुषों की तुलना में कम होती है, क्योंकि औसतन महिलाएँ मेकअप और हेयरस्टाइल अधिक बार बदलती हैं। पुरुषों और महिलाओं की उम्र अलग-अलग तरह से बढ़ती है।
  • फ़ोटो की गुणवत्ता: प्रदर्शन वॉचलिस्ट डेटाबेस (अंग्रेज़ी में) और CCTV कैमरों की मूल फ़ोटो की गुणवत्ता पर निर्भर करता है। उदाहरण के लिए, वॉचलिस्ट में जोड़ी गई अपर्याप्त गुणवत्ता की फ़ोटो झूठे अलर्ट पैदा कर सकती है, जो संभावित रूप से गलत गिरफ़्तारियों और पुलिस के साथ अनावश्यक मुठभेड़ों का कारण बन सकते हैं।
  • इमेजिंग भौतिकी: काली त्वचा गोरी त्वचा की तुलना में कम फोटॉन परावर्तित करती है, इसलिए किसी काले व्यक्ति की परिणामी फ़ोटो में पर्याप्त डायनामिक रेंज नहीं हो सकती। खराब रोशनी में, फ़ेस डिटेक्टर किसी काले व्यक्ति को पूरी तरह अनदेखा कर सकता है।

एआई पूर्वाग्रह के विभिन्न प्रकारों के बारे में अधिक जानने के लिए, NIST का A Draft Proposal for Identifying and Managing Bias in Artificial Intelligence पढ़ें (पृष्ठ 14)।

फ़ेस रिकग्निशन पूर्वाग्रह के बारे में IREX क्या करता है?

IREX सेवा को सिस्टम प्रतिबंधों और सुरक्षा उपायों के साथ इंजीनियर किया गया है, ताकि पूर्वाग्रह की समस्या का व्यापक समाधान मिल सके:

  • पूर्वाग्रह के प्रति जागरूकता: हम IREX एथिकल एआई सर्वोत्तम प्रथाएँ साझा करके और प्रशिक्षण देकर यह सुनिश्चित करते हैं कि हमारे ग्राहक पूर्वाग्रह से अवगत हों।
  • उपयोगकर्ता चेतावनी: IREX इंटरफ़ेस अधिकृत उपयोगकर्ताओं को पहचान की सटीकता में संभावित पूर्वाग्रह के बारे में स्पष्ट चेतावनी देता है। उदाहरण के लिए, IREX कॉन्फ़िडेंस स्तर दर्शाने के लिए 3 रंगों — हरा, पीला, लाल — का उपयोग करता है। IREX बढ़े हुए पूर्वाग्रह जोखिम वाले जनसांख्यिकीय समूहों (जैसे काली महिलाओं) को स्वचालित रूप से पहचान लेता है।
  • पूर्वाग्रह का मूल्यांकन: पूर्वाग्रहों का स्वतंत्र मूल्यांकन उपलब्ध कराने के लिए IREX नियमित रूप से अपने एल्गोरिदम को नेशनल इंस्टीट्यूट ऑफ़ स्टैंडर्ड्स एंड टेक्नोलॉजी (NIST) के Face Recognition Vendor Test (FRVT) में जमा करता है। NIST रिपोर्टें निःशुल्क सार्वजनिक रूप से उपलब्ध हैं।
  • **डेटासेट संतुलन: IREX **एआई टीम अलग-अलग प्रकार के चेहरों पर प्रदर्शन के किसी भी पूर्वाग्रह की भरपाई के लिए प्रशिक्षण डेटासेट को लगातार बेहतर बनाती रहती है।
  • प्रशिक्षण एल्गोरिदम का अनुकूलन: IREX डेटासेट से उत्पन्न पूर्वाग्रह को न्यूनतम करने के लिए प्रशिक्षण एल्गोरिदम को लगातार बेहतर बनाता है।

एआई एथिक्स वेबिनार से IREX डेमो देखें

सभी ब्लॉग पोस्ट

बात करना पसंद करेंगे?

अपने कैमरा वातावरण, डिप्लॉयमेंट और अनुपालन आवश्यकताओं के बारे में किसी IREX सार्वजनिक-सुरक्षा विशेषज्ञ से बात करें।

डेमो बुक करें

हमें बताएं कि आप लगभग कितने कैमरे संचालित करते हैं, डेटा कहाँ रहना चाहिए, और वे तीन-चार चीज़ें कौन सी हैं जिन्हें आपको सबसे अधिक पहचानना है। हम आपकी अपनी रिकॉर्डिंग पर डेमो तैयार करेंगे।

यदि फ़ॉर्म उपलब्ध न हो, तो ईमेल करें [email protected].

सामान्य प्रश्न

क्या IREX हमारे मौजूदा कैमरों के साथ काम करता है?

हाँ। आपके मौजूदा कैमरों का पुनः उपयोग ही मानक तैनाती मॉडल है। IREX उन कैमरों में AI जोड़ता है जिन्हें आप पहले से चला रहे हैं, एक ही site से लेकर पूरे शहर या देश तक, बिना किसी rip-and-replace कार्यक्रम के।

क्या हमारे डेटा का स्वामित्व हमारे पास रहता है?

हाँ। ग्राहक अपने डेटा का 100% स्वामित्व और नियंत्रण बनाए रखते हैं; IREX न तो ग्राहक के वीडियो, events, logs, या floor plans का मालिक है, न ही उन्हें एक्सेस करता है।