في كلّ تعاملٍ مع IREX، تكون الأولوية القصوى لتحسين السلامة والتقنية المُحسِّنة للحياة ضمن معايير الخصوصية والأخلاق في المجتمعات الحرّة. نحن لا نَعِد بالأخلاقيات في وثيقة سياسة. بل نُهندسها داخل البنية، حيث لا يمكن إيقافها.
Jane Doe · مطلوبة · رقم القضية #123456 لماذا يهمّ هذا
تواجه جهات السلامة العامة تحدّياً ملحّاً: كيف تستخدم قوّة الذكاء الاصطناعي مع الحفاظ على حقوق وثقة المجتمعات التي تخدمها. فتقنية المراقبة من دون ضوابط أخلاقية تُضعف ثقة الجمهور، وتفتح الباب أمام مخاطر تنظيمية، وتقوّض السلامة ذاتها التي تسعى إلى تحقيقها.
بُنيت IREX من الأساس لحلّ هذه المشكلة. فبدلاً من التعامل مع الأخلاقيات كبندٍ امتثالٍ يُضاف في اللحظة الأخيرة، تُدمَج المساءلة في كلّ طبقةٍ من طبقات المنصّة: البنية المعمارية، وضوابط الوصول، وسجلّات التدقيق، وحدود ما يُسمح للذكاء الاصطناعي بفعله أصلاً. والنتيجة: كلّ إجراء ذكاءٍ اصطناعي عالي الخطورة له مبرّرٌ موثَّق وقابلٌ للتدقيق.
الإطار
Transparency by Design عقيدةٌ، وهذه الركائز الستّ هي الطريقة التي تحكم بها كيفية إنشاء المنصّة للبيانات والوصول إليها وتخزينها ومشاركتها. وهي ستّ التزاماتٍ يفرضها النظام نفسه، لا ستّة وعود.
يُسجَّل كل إجراء في سجلّ تدقيق مفصَّل غير قابل للمحو، يستطيع المشرفون وهيئات الرقابة البحث فيه كاملاً: الإضافات إلى قواعد البيانات، واستعلامات البحث، وإعدادات التنبيهات، وعمليات تصدير الفيديو، وتغييرات الأذونات. ومن فعل ماذا، ومتى، ولماذا، أمرٌ مُسجَّل لا مُعاد بناؤه.
الأمن والامتثال →TLS 1.3 من طرفٍ إلى طرف، وجدار حماية تطبيقات (WAF) متعدّد الطبقات، وأنظمة كشف ومنع التسلّل (IDS/IPS) وتصفية الشبكة، وJWT بتوقيعاتٍ غير متماثلة ومفاتيح دوّارة، ومصادقة متعدّدة العوامل (MFA)، واختبار اختراقٍ وفق دليل OWASP للاختبار في كلّ إصدارٍ رئيسي. وتبقى بيانات العميل مملوكة له حصراً.
سياسة الأمن →يقتصر الكشف على أشخاصٍ محدَّدين مسبقاً: مشتبهون مطلوبون، وأطفال مفقودون، وضحايا اتّجارٍ بالبشر. وحجم قاعدة البيانات الحيوية اللحظية محدودٌ بسقفٍ أعلى، والتعرّف على أفرادٍ عشوائيين غير ممكن. وهذه القيود معمارية لا سياسية: يُمنع سوء الاستخدام ببنية النظام نفسها، لا بمجرّد الحظر.
البحث في الفيديو والتحقيقات →يحدّد التحكّم الهرمي في الوصول المستند إلى الأدوار (RBAC) الكاميرات والتسجيلات ووحدات التحليلات وقواعد البيانات والنتائج التي يمكن لكلّ مشغّل الوصول إليها. وتقتصر تغييرات الإعداد على الأدوار العليا، وتُسجَّل بتفصيلٍ كامل.
الأمن والامتثال →دُرِّب محرّك التعرّف على الوجه لدينا على مجموعة بياناتٍ خاصّة تضمّ 40 مليون صورة، مُحسَّنة لظروف كاميرات المراقبة (CCTV) الفعلية، وقُيِّمت بشكلٍ مستقلّ في اختبار NIST لمزوّدي التعرّف على الوجه (NIST Face Recognition Vendor Test). وحيثما وُجد تحيّزٌ منهجي، فسياستنا الكشف عنه وعن أثره المُقدَّر للعميل.
التعرّف على الوجه واختبار التحيّز →إرشادات مستخدمين، وعمليات تدقيق، وقوائم تحقّق من الامتثال، بُنيت بالتعاون مع خبراء الخصوصية والحرّيات المدنية وإنفاذ القانون. وهي تدعم اللائحة الأوروبية العامة لحماية البيانات (GDPR) وقانون خصوصية المستهلك في كاليفورنيا (CCPA)، وتتّسق مع قانون الذكاء الاصطناعي الأوروبي (EU AI Act)، وإطار NIST لإدارة مخاطر الذكاء الاصطناعي (NIST AI RMF)، وسياسة FBI CJIS الأمنية.
سياسة الخصوصية →Case ID: سابقة عالمية
Case ID آلية تبرير إلزامية مدمجة في المنصّة. فقبل تنفيذ أيّ إجراء ذكاء اصطناعي حسّاس للخصوصية، يُدخل المشغِّل Case ID، وهو إشارة إلى المستند القانوني الذي يمنح الأساس القانوني للإجراء: ملفّ قضية شرطية، أو أمر قضائي، أو بلاغ عن شخص مفقود. وتُسجَّل هذه الإشارة بشكل دائم مع الإجراء الذي تُجيزه، ولا يمكن لأيّ مشغِّل المتابعة من دونها.
IREX هي المنصّة الوحيدة في العالم لإدارة الفيديو وتحليلاته التي تقدّم تسجيل شامل لكل عمليات الذكاء الاصطناعي عالية الخطورة، إذ يرتبط كل إجراء بمرجع قضية مشروع. وهو إلزام على مستوى المنصّة، لا إعداداً يمكن لمسؤول النظام إيقافه.
هوية المُشغِّل ودوره، على كلّ قيد.
الإجراء المتَّخذ: نوع البحث، وعملية قاعدة البيانات، والتصدير.
طابع زمني دقيق، ضمن تسلسل للإلحاق فقط (append-only).
Case ID: التبرير القانوني، مرتبطٌ بشكلٍ دائم.
مقاومةٌ للتلاعب بفضل التصدير. تُصدَّر ملفّات السجلّ الموقَّعة تلقائياً يومياً إلى أرشيفٍ آمن. وهي موقَّعة رقمياً لكشف أيّ تلاعب، ومتاحة حتى بعد كارثةٍ أو اختراق، وقابلة للمراجعة من قِبَل لجان الأخلاقيات والمفتّشين العامّين والمدقّقين المعيَّنين من المحكمة من دون الحاجة إلى الوصول إلى المنصّة.
يحوّل تسجيل Case ID مساءلة الذكاء الاصطناعي من طموحٍ في السياسات إلى واقعٍ تقني. فهو يحمي المجتمعات من سوء الاستخدام، ويحمي الضبّاط بتوثيق إجراءاتهم المشروعة، ويمنح هيئات الرقابة الأدلّة اللازمة للتحقّق من أنّ الذكاء الاصطناعي يُستخدَم بمسؤولية.
المساءلة، مُدقَّقة
كلّ إجراءٍ عالي الخطورة يحمل بالفعل Case ID ويُسجَّل في السجلّ (Logbook). والسؤال التالي الذي تطرحه أيّ جهة رقابية هو: مَن يطّلع على هذا السجلّ، وهل يترك الاطّلاعُ نفسُه أثراً خاصّاً به؟ وتجيب الإصدارات من 4.37 إلى 4.40 عن ذلك: أصبح مسار التدقيق الآن محكوماً بالقواعد نفسها التي تحكم الإجراءات التي يرصدها، بحيث يشمل التزام IREX بأنّ 100% من إجراءات المستخدمين قابلة للتدقيق فعلَ التدقيق ذاته.
ما يمكن لمفتّشٍ عام أو لجنة أخلاقيات أو مجلس رقابةٍ مدني فعله بالسجلّ مُبيَّن أدناه، مع الإصدار الذي أطلقت فيه كلّ آلية.
قراءة مسار التدقيق نفسها إجراء مبرَّر ومُسجَّل. ويُشترَط إدخال Case ID لفتح صفحة Logbook ولكل عملية بحث تُجرى فيها، وتُخزَّن القيمة المُدخَلة في قيد «البحث في السجلّ» (Search in logbook) الذي ينشئه البحث.
منذ الإصدار 4.40.
يسجّل سجلّ التدقيق الإجراءات التي تُتَّخذ داخله هو نفسه. فعمليات الفلترة والبحث والتصدير من واجهة سجلّ التدقيق تُسجَّل بوصفها أحداثاً كاملة الأهمية، بحيث تترك مراجعة السجلّ سجلّاً بدورها، وتشمل سلسلة الحيازة (chain of custody) المراجِع نفسه أيضاً.
منذ الإصدار 4.37.
في تبويب الأشخاص ضمن الفلاتر الإضافية لسجلّ Logbook، ارفعوا صورة أو ملفّ واصِف، وحدّدوا نطاق تشابه. ويُعيد Logbook الإدخالات الخاصة بالإجراءات التي استخدمت صورةً أو واصِفاً مشابهاً، وهو ما يحوّل الشكوى إلى استعلام: هل جرى البحث عن هذا الشخص، ومن بحث عنه.
منذ الإصدار 4.39.
تُسجّل إدخالات التشغيل المباشر والمؤرشف وقت انتهاء التشغيل، وتُكتب عند انتهائه أو كلّ ثلاث ساعاتٍ أثناء الجلسات الطويلة. ثم يبحث فلتر «تاريخ/وقت الفيديو المُعاد تشغيله» بحسب الفترة الزمنية، فيُعيد كلّ عملية تشغيلٍ تتقاطع مع النطاق قيد المراجعة.
منذ الإصدار 4.38.
يُجمِّع السجلّ (Logbook) تقرير CSV بالقيود المطابقة لمعايير البحث الحالية. ويبقى متاحاً للعرض والتنزيل لمدّة 24 ساعة للمستخدم الذي طلبه، ويُسجَّل كلّ تنزيلٍ في السجلّ نفسه كحدث «Logbook report downloaded».
منذ الإصدار 4.38.
يكتب التصدير التلقائي سجلّات إجراءات المستخدمين كملفّات JSON في تخزين العنقود (cluster)، ليجمعها نظام مراقبة خارجي. ويحدّد إعداد العنقود من يجوز له قراءة الملفّات، وإجراءات مَن تُدرَج، وأنواع الأحداث التي تُصدَّر، ومعدّل تكرار التصدير، ومدّة الاحتفاظ بكل ملفّ.
منذ الإصدار 4.39.
تحمل إطارات فيديو الحدث مدّة احتفاظٍ خاصّة بها، منفصلة عن الأحداث نفسها ولا تتجاوزها أبداً. وبمجرّد انتهاء صلاحية الإطارات، تعرض بطاقة الحدث الصورة الافتراضية للنظام، ويبقى سجلّ الحدث متاحاً إلى أن تنتهي مدّة احتفاظ الحدث: تقليل للبيانات وفق جدول الجهة، من دون فقدان القيد.
منذ الإصدار 4.38.
التحيّز يُفصَح عنه، لا يُكتشَف. تتفاوت دقّة جميع أنظمة التعرّف على الوجه بين الفئات الديموغرافية، بما في ذلك نظام IREX. وحيثما وُجد تحيّزٌ منهجي، فسياسة IREX هي الإفصاح عن وجوده وعن أثره المُقدَّر للعميل، بدلاً من ترك الجهة تكتشفه في الميدان. ويقترن هذا الواجب بعملٍ متواصل للحدّ من التحيّز وبتقييمٍ مستقلّ ضمن اختبار NIST لمزوّدي التعرّف على الوجه (NIST FRVT)، وينطبق هذا سواء طلب العميل ذلك أم لا.
التوائم التنظيمي
يتطوّر المشهد التنظيمي للذكاء الاصطناعي في إنفاذ القانون بسرعة. وقد صُمِّمت IREX لتلبية هذه المتطلّبات اليوم، بحيث يمكن للجهات النشر بثقة وتجنّب التعديلات اللاحقة المكلفة مع دخول اللوائح حيّز التنفيذ.
يصنّف القانون التعرّف الحيوي اللحظي في الأماكن العامة على أنّه عالي الخطورة. وتستوفي بنية IREX بالفعل التزاماته الأساسية: قيود مخاطر مدمجة في البنية، وحوكمة بياناتٍ مملوكة للعميل، وإشراف بشري عبر RBAC، وسجلّات شفافية غير قابلة للمحو، واختبار دقّة مستمر.
يتوائم إطار الذكاء الاصطناعي الأخلاقي مع الوظائف الأساسية الأربع لإطار NIST AI RMF (الحوكمة Govern، والتحديد Map، والقياس Measure، والإدارة Manage)، ما يمنح الجهات الأمريكية نهجاً منظَّماً وقائماً على الأدلّة لنشر ذكاء اصطناعي مسؤول.
قدرات التحكّم في الوصول، والمصادقة، والتشفير، والتدقيق، مُصمَّمة لدعم الامتثال لسياسة خدمات معلومات العدالة الجنائية الأمنية (Criminal Justice Information Services Security Policy) التي تحكم بيانات إنفاذ القانون الأمريكية.
المنصّة جاهزة للتوافق مع اللائحة الأوروبية العامة لحماية البيانات (GDPR) وقانون خصوصية المستهلك في كاليفورنيا (CCPA)، وتدعم مبادئ GDPR السبعة كافّة: المشروعية، وتحديد الغرض، وتقليل البيانات، والدقّة، وتحديد مدّة التخزين، والسلامة والسرّية، والمساءلة. وخصائص التسجيل والتحكّم في الوصول والاحتفاظ بالبيانات هي ما يتيح للعميل إثبات الامتثال في منظومته الخاصة، وهو ما يُتحقَّق منه بشكلٍ منفصل.
سياسة حوكمة نماذج الذكاء الاصطناعي
إن كانت الأطر تحدّد شكل الممارسة الجيدة، فإن السياسة تحدّد ما تفعله IREX فعلياً. وتنصّ سياسة حوكمة نماذج الذكاء الاصطناعي، المعلنة للعموم والموقّعة من الرئيس التنفيذي ورئيس التقنية، على الطريقة التي تدرّب بها IREX كاشفاتها الخاصة وتختبرها، وكيف تُقيّد النماذج التأسيسية مفتوحة الأوزان التي تقوم عليها StreamVLM™ وAsk IREX. وهي مكتوبة لمسؤول المشتريات والمدقّق بقدر ما هي مكتوبة لمهندسينا، ويمكن لأي عميل أو شريك أو جهة تعاقد الحصول عليها.
مجموعات بياناتٍ عامّة مفتوحة المصدر، وصور اصطناعية من إنتاج IREX، ومجموعات بيانات العميل (Data Sets) المُقدَّمة بموجب اتفاقٍ موقَّع، وكاميرات تطوير IREX التي لا تُركَّب أبداً في أماكن عامّة. وفيديو الإنتاج الخاصّ بالعميل ليس بيانات تدريبٍ أبداً.
يكتب التصنيفات موظّفو IREX أو مُعلِّقون متعاقَد معهم، داخل منصّة IREX الخاصة بالتصنيف، ويراجع شخصٌ كلّ تصنيفٍ تقترحه آلة قبل أن يدخل مرحلة التدريب.
يُقاس كلّ نموذجٍ على صورٍ فعلية مغلَقة قبل الإصدار؛ وتجتاز النماذج التي تكشف الأشخاص أو تحدّد هويتهم تقييم تحيّزٍ ديموغرافي؛ وتُفصَح القيود المعروفة للعميل.
تعمل النماذج مفتوحة الأوزان (open-weight) خلف StreamVLM™ وAsk IREX داخل النسخة فقط، من دون تعديل، ومن دون أدوات تتجاوز وظيفتها المصمَّمة، ومن دون وصول يتجاوز أذونات المشغِّل وCase ID الخاصّين به.
الأفق التالي
تتصدّر IREX تطوير وكلاء تحقيق مستقلّين يعملون ضمن حدود أخلاقية صارمة. وتخضع التحقيقات باللغة الطبيعية، وتنسيق عمليات البحث متعدّدة الخطوات، والربط التلقائي بين المعطيات، لمبادئ Transparency by Design نفسها التي تحكم كلّ ميزةٍ أخرى في المنصّة. الاستقلالية والمساءلة لا تتعارضان؛ بل تتكاملان.
يُنسَب كل إجراء وكيل إلى المشغِّل الذي بدأه وإلى Case ID الذي يُجيزه.
تعمل الوكلاء ضمن حدود الأذونات نفسها الخاصّة بالمشغِّل البشري، من دون أيّ قدرة على تصعيد صلاحياتها الخاصّة.
تمرّ جميع عمليات البحث التي يبدؤها الوكيل، واستعلامات قوائم المراقبة، وإعدادات التنبيهات، عبر Logbook نفسه والتصديرات اليومية الموقَّعة نفسها المعتمَدة في العمليات اليدوية.
التزامنا
توجد IREX لجعل المجتمعات أكثر أماناً من دون المساس بالقيم التي تجعلها جديرة بالحماية. ومن خلال شراكتنا مع National Child Protection Task Force، نكافح فعلياً الاتّجار بالبشر والأطفال. وتمثّل هذه الحالات أدقّ اختبارٍ لهذا الإطار: فالقدرة التي تعثر على ضحية اتّجار هي نفسها القدرة التي يمكن إساءة استخدامها ضدّ شخصٍ عادي. وإلزامية Case ID، وقيد التسجيل المسبق، ومسار التدقيق، توجد كلّها لتجعل الأمر الأول ممكناً والثاني غير ممكن.
ندعو جهات إنفاذ القانون والحكومات وهيئات الرقابة إلى محاسبتنا وفق هذا المعيار. سجلّاتنا مفتوحة للتدقيق. وقيودنا قابلة للتحقّق. والتزامنا دائم.
يستشير برنامج الأخلاقيات لدينا David K. Bain، المدير التنفيذي السابق لمعهد INCITS، الأمانة الأمريكية لمعايير تقنية المعلومات الدولية تحت مظلّة ISO/IEC JTC 1، والمدير التنفيذي المؤسِّس لمجلس Technology Integrity Council.
تابعوا القراءة
أخبرونا عن بيئة كاميراتكم ومتطلّبات الامتثال لديكم، وسنُطلعكم على Logbook وCase ID والركائز الستّ على لقطاتكم الخاصة. وليس هذا عرضاً توضيحياً جاهزاً مُعلَّباً.