ما وراء عرض المورّد التوضيحي: أسئلة رئيسية حول البيانات والتحيز واختبارات NIST للذكاء الاصطناعي لمنصات ذكاء الفيديو

من الاتجاهات البارزة خلال السنوات القليلة الماضية في مجال السلامة العامة أن الأجهزة الأمنية تلجأ بشكل متزايد إلى أدوات متقدمة مثل الذكاء الاصطناعي للسلامة العامة لتسهيل عملها. تمنح هذه الأنظمة قراءة أذكى لبث المراقبة، لكنها تنطوي على تحديات خفية، خصوصاً في ما يتعلق ببيانات التدريب والتحيز.

إذا كانت جهتكم تقيّم موردين لمنصة ذكاء الفيديو أو لتحليلات الفيديو للمدن الذكية، فلا تكتفوا بالعروض التسويقية والعروض التوضيحية البراقة. فما تريدون معرفته حقاً هو كيف بُنيت هذه الأدوات وكيف اختُبرت.

تحيز نماذج الذكاء الاصطناعي غير المفحوص في إنفاذ القانون

لنلقِ نظرة على تحليلات الفيديو بالذكاء الاصطناعي. هذه تقنية تراقب بث كاميرات CCTV مباشرةً، وترصد الحالات الشاذة مثل سلوك الحشود غير المعتاد أو الأغراض المتروكة. ويستطيع برنامج تحليلات CCTV بالذكاء الاصطناعي القوي اكتشاف التهديدات المحتملة أسرع من أي مشغّل بشري. لكن تحليلات الفيديو المدفوعة بالذكاء الاصطناعي تتعلم رصد الأنماط من مجموعات بيانات ضخمة من اللقطات المؤرشفة. وهنا تكمن المشكلة. فإذا مالت بيانات التدريب في اتجاه معين، كأحياء أو فئات ديموغرافية أو سيناريوهات بعينها، فإن النظام يرث هذه العيوب. وهذا يؤدي إلى تحيز نماذج الذكاء الاصطناعي في إنفاذ القانون، وربما إلى الإفراط في التنبيه في بعض الأحياء مع إغفال المخاطر في أماكن أخرى.

أسئلة أساسية للموردين حول تنوع البيانات وفحص التحيز

لذلك وجّهوا إلى الموردين أسئلة مباشرة: من أين جاءت بيانات التدريب لديكم؟ هل تغطي مواقع وأوقاتاً من اليوم وظروفاً جوية وفئات ديموغرافية مختلفة؟ كيف تكتشفون أي اختلالات في التوازن وتصلحونها؟ ينبغي أن تثير الإجابات الغامضة مثل «مجموعات بيانات مملوكة» القلق. أصرّوا على الحصول على وثائق مفصلة عن تركيبة البيانات وفحوصات التحيز أثناء التطوير. وفي سياق الذكاء الاصطناعي الأخلاقي للسلامة العامة، ينبغي للموردين أن يثبتوا أن منصة ذكاء الفيديو لديهم دُرّبت على بيانات متنوعة ومتوازنة، لا على لقطات منتقاة يدوياً فحسب.

الاختبار في الظروف الواقعية لتحليلات الفيديو للمدن الذكية

يوفر الاختبار طبقة أخرى من التدقيق. فأطر اختبارات NIST للذكاء الاصطناعي في السلامة العامة تقيّم مدى جودة أداء النماذج في ظروف حقيقية ومتنوعة. والدرجة الجيدة تعني أن النظام يتعامل بموثوقية مع الحالات الحدّية، مثل اللقطات منخفضة الإضاءة أو الوجوه المتنوعة. غير أن عمليات التدقيق هذه لا تضمن موثوقية مطلقة. فهي تستخدم غالباً معايير مرجعية خاضعة للتحكم لا تعكس بيئة مجتمعكم الفعلية.

لذا، ورغم أن الدرجة العالية في NIST بداية جيدة، فإنكم بحاجة فعلاً إلى طلب عمليات تحقق مخصصة. اختبروا تحليلات الفيديو للمدن الذكية على بث كاميرات CCTV الخاص بكم بعد إخفاء هوية الأشخاص فيه. وتأكدوا من أن بيئتكم المحلية لا تتسبب في ارتفاع مفاجئ في الإيجابيات الكاذبة إذا أساء برنامج تحليلات CCTV بالذكاء الاصطناعي تفسير المواطنين العاديين بوصفهم تهديدات محتملة.

وتتجاوز عمليات تدقيق التحيز الفحوصات الأساسية بهدف اكتشاف جميع التفاوتات القائمة وتقييمها. وينبغي أن تتوقعوا إحصاءات مثل تساوي معدلات الخطأ عبر مختلف الفئات السكانية، أو تنبؤات عادلة بصرف النظر عن الخلفية.

وتشير النتائج القوية إلى أن تحليلات الفيديو المدفوعة بالذكاء الاصطناعي تتعامل مع الأماكن العامة كثيفة الحركة دون تحيز، وتؤدي أداءً متسقاً سواء في حشود منتصف النهار أو دوريات الليل. أما التحيز غير المفحوص في نماذج الذكاء الاصطناعي في إنفاذ القانون فقد يضر بثقة الجمهور ويؤدي إلى مشكلات خطيرة.

التحقق المخصص وعمليات التدقيق بعد النشر

في الواقع العملي، اختبرت إحدى جهات المدن منصة أحد الموردين بعد حصولها على شهادة NIST. بدت الاختبارات مثالية، إلى أن كشفت التجارب المحلية أن النظام يعاني من وهج الثلج ليلاً، وهو ما فاتته الفحوصات القياسية. فألزموا المورد بإعادة تدريب البيانات وإضافة فحوصات مستمرة إلى العقد.

في النهاية، القرار بيدكم. اختاروا الموردين الذين يتسمون بالشفافية بشأن بياناتهم، ويجرون اختبارات في ظروف واقعية، ويلتزمون بعمليات تدقيق بعد النشر.

وبالجمع بين المعايير المرجعية لاختبارات NIST للذكاء الاصطناعي وبرامجكم التجريبية الخاصة، يمكنكم الحد من المخاطر وضمان أن يصبح الذكاء الاصطناعي الأخلاقي للسلامة العامة أداة موثوقة لصالح المجتمع بأسره.

ومن الأمثلة على مورد شديد الالتزام بالأخلاقيات والشفافية IREX. نحن مستعدون للإجابة عن أي أسئلة حول تحليلات الفيديو المتقدمة وبيانات تدريب الذكاء الاصطناعي وفحوصات ما بعد النشر. ونثبت أداء منتجنا عبر اختبارات في ظروف واقعية ومشاريع تجريبية، لتتمكنوا من تقييمه بأنفسكم.

كل منشورات المدوّنة

أتفضّلون التحدّث مباشرة؟

تحدّثوا مع أخصائي سلامة عامة من IREX حول بيئة الكاميرات لديكم، والنشر، ومتطلبات الامتثال.

احجزوا عرضاً توضيحياً

أخبرونا كم كاميرا تشغّلون تقريباً، وأين يجب أن تبقى البيانات، وما الأمور الثلاثة أو الأربعة التي تحتاجون لكشفها أكثر من غيرها. وسنعدّ عرضاً على تسجيلاتكم أنتم.

إذا تعذّر استخدام النموذج، راسلونا عبر البريد الإلكتروني [email protected].

الأسئلة الشائعة

هل تعمل IREX مع كاميراتنا الحالية؟

نعم. إعادة استخدام كاميراتكم الحالية هو نموذج النشر القياسي. تُضيف IREX الذكاء الاصطناعي إلى الكاميرات التي تُشغّلونها بالفعل، من موقعٍ واحد إلى مدينةٍ أو دولةٍ بأكملها، من دون برنامج استبدال العتاد القائم.

هل نحتفظ بملكية بياناتنا؟

نعم. يحتفظ العملاء بملكيةٍ وتحكّمٍ كاملَين (100%) في بياناتهم؛ ولا تملك IREX ولا تصل إلى فيديو العميل أو أحداثه أو سجلّاته أو مخطّطاته.