IREX تجري دراسة شاملة لتقدير التحيّز في التعرف على المشتبه بهم
أتمّت IREX، الشركة الرائدة عالميًا في الذكاء الاصطناعي الأخلاقي، دراسة شاملة لتقدير التحيّزات في تقنية التعرف على المشتبه بهم في الوقت الفعلي. وفي إطار التزامنا بالشفافية والذكاء الاصطناعي الأخلاقي، تقيّم هذه الدراسة دقة تقنيتنا وعدالتها عبر مختلف المجموعات العرقية وألوان البشرة. وتُظهر النتائج، التي شاركناها مع جميع مستخدمي منصة IREX للذكاء الاصطناعي الأخلاقي، تباينًا ضئيلًا في الدقة، أقل من 2%، عبر مختلف المجموعات العرقية وألوان البشرة، مما يضمن موثوقية تقنيتنا وعدالتها.
إجراءات الحد من التحيّز
نلتزم في IREX بتطوير نماذج ذكاء اصطناعي لا تتسم بالدقة فحسب، بل تتسم أيضًا بالعدالة وعدم التحيّز. وفي سياق التعرف على الوجوه، يعني ذلك ضمان تصميم شبكاتنا العصبية بحيث تتعرف على الأفراد بصرف النظر عن عرقهم أو أصلهم الإثني.
ولتحقيق هذا الهدف، طبّقنا عدة إجراءات رئيسية خلال عملية التدريب:
- التحقق المتنوع: نختبر بانتظام أداء نموذجنا على مجموعة من مجموعات البيانات التي تضم أشخاصًا من خلفيات عرقية وإثنية وأعمار ووضعيات مختلفة. ويساعدنا ذلك في رصد أي تحيّزات قد تظهر ومعالجتها.
- تغيير الألوان عشوائيًا (Color Jittering): أثناء إعداد البيانات، نطبّق تحويلات لونية على الصور، مما يشجّع النموذج على التركيز على ملامح الوجه بدلًا من لون البشرة أو الخصائص الجسدية الأخرى.
- التحويلات الهندسية: كما نطبّق تحويلات هندسية متنوعة، من بينها التحويلات الحجمية. ويساعد ذلك في منع النموذج من الاعتماد المفرط على خصائص معينة قد تكون أكثر شيوعًا في مجموعة عرقية منها في أخرى.
- إنشاء مجموعات بيانات متنوعة: يقوم نهجنا على الجمع بين عدة مجموعات بيانات من مصادر مختلفة، بما فيها مجموعة بياناتنا الخاصة، لتكوين تمثيل غني ومتنوع للأشخاص. ويساعد ذلك في ضمان تدريب نموذجنا على طيف واسع من ملامح الوجوه وأنماطها، مما يقلل بدوره احتمال التحيّز العرقي.
«بإدراج هذه الإجراءات في شبكاتنا العصبية للتعرف على الوجوه، نستطيع تطوير نماذج لا تتسم بالدقة فحسب، بل تتسم أيضًا بالعدالة واحترام الفروق الفردية. ونؤمن في IREX بأن من الضروري إعطاء الأولوية للعدالة والشفافية في تطوير الذكاء الاصطناعي، ونلتزم بالتحسين المستمر لأساليبنا لضمان أعلى معايير الأداء والأخلاقيات»، كما يقول الدكتور Filonenko، كبير علماء تعلّم الآلة في IREX.
نظرة عامة على الدراسة
استخدمت IREX قاعدة بيانات الاختبار Racial Faces in-the-Wild (RFW)، التي تضم أربع مجموعات فرعية متميزة: القوقازية والآسيوية والهندية والأفريقية. وتحتوي كل مجموعة فرعية على نحو 3,000 شخص فريد مع 6,000 زوج من الصور للتحقق من الوجوه، مما يوفر مجموعة بيانات متينة لتقييم أداء تقنيتنا.
النتائج
دقة التحقق في نسخة GPU من تقنية IREX للتعرف على المشتبه بهم
- القوقازية: 99.15%
- الأفريقية: 98.23%
- الهندية: 98.20%
- الآسيوية: 97.20%
تُظهر هذه النتائج تباينًا ضئيلًا في الدقة، إذ بلغ الفارق بين أفضل مجموعات البيانات أداءً وأضعفها 1.95% في نسخة GPU فقط.
دقة التحقق في نسخة CPU من تقنية IREX للتعرف على المشتبه بهم
- القوقازية: 98.55%
- الأفريقية: 97.30%
- الهندية: 97.32%
- الآسيوية: 96.67%
وبلغ الفارق بين أفضل مجموعات البيانات أداءً وأضعفها 1.88% في نسخة CPU.
تحليل مقارن
وفقًا لـ Mei Wang وآخرين، تتفاوت فروق الدقة في واجهات API التجارية التابعة لجهات خارجية (مثل Microsoft وAmazon) تفاوتًا كبيرًا، إذ تتراوح بين 5.58% و12.30%. وبالمقارنة، يُظهر محرك IREX للتعرف على المشتبه بهم أقل قدر من التحيّز، مما يبرز التزامنا بتقليل التحيّز العرقي في تقنياتنا للذكاء الاصطناعي.
التزام مستمر
نراقب في IREX بانتظام مقاييس التحيّز ونقيّمها عبر مختلف المجموعات العرقية والفئات العمرية والأجناس، لضمان بقاء تقنياتنا عادلة ومنصفة.
«نحن ملتزمون بالتحسين المستمر والشفافية، ونشارك هذه النتائج مع جميع مستخدمي منصة IREX للذكاء الاصطناعي الأخلاقي لمساعدتهم على فهم حدود تقنيتنا ونقاط قوتها». - يقول Calvin Yadav، الرئيس التنفيذي لشركة IREX.اعرف المزيد عن تحليلات الفيديو بالذكاء الاصطناعي الأخلاقي من IREX