التحيز في التعرف على الوجوه وما نفعله حياله

التحيز في التعرف على الوجوه وما نفعله حياله

تتفاوت جميع خوارزميات التعرف على الوجوه في أدائها عبر أنواع الوجوه المختلفة. وبعبارة أخرى، تعتمد دقة تعرفها على الجنس والفئة العمرية ولون البشرة وزاوية الرؤية وظروف الإضاءة الخاصة بالشخص المراد تحديد هويته. وينطبق ذلك أيضاً على الدماغ البشري.

ما سبب التحيز؟

  • مجموعات بيانات التدريب قد لا تحتوي على أمثلة كافية لوجوه الأقليات العرقية أو الأفراد الأصغر سناً أو الأكبر سناً، بسبب توزيع السكان أو توافر الصور في المجال العام.
  • تباين المظهر: هناك تحيز «طبيعي» في طريقة تغيّر الناس لمظهرهم. فعلى سبيل المثال، تقل دقة التعرف على النساء عنها لدى الرجال لأن النساء في المتوسط يضعن المكياج ويغيّرن تسريحة الشعر بوتيرة أكبر. كما يتقدم الرجال والنساء في العمر بطرق مختلفة.
  • جودة الصورة: يعتمد الأداء على جودة الصورة الأصلية من قاعدة بيانات قوائم المراقبة (بالإنجليزية) وكاميرات CCTV. فعلى سبيل المثال، قد تتسبب صورة ذات جودة غير كافية تُضاف إلى قائمة مراقبة في تنبيهات خاطئة، وقد يؤدي ذلك إلى اعتقالات خاطئة ومواجهات غير ضرورية مع الشرطة.
  • فيزياء التصوير: تعكس البشرة السوداء عدداً أقل من الفوتونات مقارنةً بالبشرة البيضاء، لذا قد لا يتوافر في الصورة الناتجة لشخص أسود نطاق ديناميكي كافٍ. وفي ظروف الإضاءة الضعيفة، قد يتجاهل كاشف الوجوه الشخص الأسود تماماً.

لمعرفة المزيد عن الأنواع المختلفة للتحيز في الذكاء الاصطناعي، اقرأ مسودة مقترح لتحديد التحيز في الذكاء الاصطناعي وإدارته الصادرة عن NIST (الصفحة 14).

ماذا تفعل IREX حيال التحيز في التعرف على الوجوه؟

صُممت خدمة IREX بقيود وضمانات على مستوى النظام لتقديم حل شامل لمشكلة التحيز:

  • الوعي بالتحيز: نحرص على أن يكون عملاؤنا على دراية بالتحيز من خلال مشاركة أفضل ممارسات الذكاء الاصطناعي الأخلاقي من IREX وتقديم التدريب.
  • تحذير المستخدم: توفر واجهة IREX للمستخدمين المصرح لهم تحذيراً واضحاً بشأن التحيز المحتمل في دقة التعرف. فعلى سبيل المثال، تستخدم IREX 3 ألوان، هي الأخضر والأصفر والأحمر، للإشارة إلى مستوى الثقة. وتتعرف IREX تلقائياً على الفئات الديموغرافية التي ترتفع فيها مخاطر التحيز (مثل النساء من أصحاب البشرة السوداء).
  • تقييم التحيز: تُخضع IREX خوارزمياتها بانتظام لاختبار موردي التعرف على الوجوه (FRVT) الذي يجريه المعهد الوطني للمعايير والتقنية (NIST) لتوفير تقييم مستقل للتحيزات. وتقارير NIST متاحة للعموم مجاناً.
  • موازنة مجموعات البيانات: يعمل فريق IREX للذكاء الاصطناعي باستمرار على تحسين مجموعة بيانات التدريب لتعويض أي تحيز في الأداء عبر أنواع الوجوه المختلفة.
  • تحسين خوارزميات التدريب: تحسّن IREX خوارزميات التدريب باستمرار لتقليل التحيز الناتج عن مجموعات البيانات.

شاهد العرض التوضيحي من IREX في ندوة أخلاقيات الذكاء الاصطناعي

كل منشورات المدوّنة

أتفضّلون التحدّث مباشرة؟

تحدّثوا مع أخصائي سلامة عامة من IREX حول بيئة الكاميرات لديكم، والنشر، ومتطلبات الامتثال.

احجزوا عرضاً توضيحياً

أخبرونا كم كاميرا تشغّلون تقريباً، وأين يجب أن تبقى البيانات، وما الأمور الثلاثة أو الأربعة التي تحتاجون لكشفها أكثر من غيرها. وسنعدّ عرضاً على تسجيلاتكم أنتم.

إذا تعذّر استخدام النموذج، راسلونا عبر البريد الإلكتروني [email protected].

الأسئلة الشائعة

هل تعمل IREX مع كاميراتنا الحالية؟

نعم. إعادة استخدام كاميراتكم الحالية هو نموذج النشر القياسي. تُضيف IREX الذكاء الاصطناعي إلى الكاميرات التي تُشغّلونها بالفعل، من موقعٍ واحد إلى مدينةٍ أو دولةٍ بأكملها، من دون برنامج استبدال العتاد القائم.

هل نحتفظ بملكية بياناتنا؟

نعم. يحتفظ العملاء بملكيةٍ وتحكّمٍ كاملَين (100%) في بياناتهم؛ ولا تملك IREX ولا تصل إلى فيديو العميل أو أحداثه أو سجلّاته أو مخطّطاته.