हर IREX engagement में सर्वोच्च प्राथमिकता यह है कि सुरक्षा और जीवन-सुधारने वाली तकनीक को स्वतंत्र समाजों के privacy और नैतिक मानकों के भीतर रखते हुए अनुकूलित किया जाए। हम किसी नीति-दस्तावेज़ में नैतिकता का वादा नहीं करते। हम इसे वास्तुकला में engineer करते हैं, जहाँ इसे बंद नहीं किया जा सकता।
Jane Doe · वांछित · केस #123456 यह क्यों मायने रखता है
सार्वजनिक सुरक्षा एजेंसियों के सामने एक अत्यावश्यक चुनौती है: आर्टिफ़िशियल इंटेलिजेंस की शक्ति का उपयोग करते हुए भी उन समुदायों के अधिकारों और भरोसे को कैसे बनाए रखा जाए जिनकी वे सेवा करती हैं। नैतिक guardrails के बिना निगरानी तकनीक जनता का भरोसा कमज़ोर करती है, नियामक जोखिम बुलाती है, और उसी सुरक्षा को कमज़ोर करती है जिसे प्रदान करना इसका उद्देश्य है।
IREX को शुरू से ही इस समस्या को हल करने के लिए बनाया गया था। नैतिकता को अंत में जोड़े गए अनुपालन-चेकबॉक्स के रूप में देखने के बजाय, जवाबदेही platform की हर परत में अंतर्निहित है: architecture, access controls, ऑडिट लॉग, और AI को कुल मिलाकर क्या करने की अनुमति है इसकी सीमाएँ। परिणाम: हर उच्च-जोखिम AI क्रिया उचित ठहराई जाती है, लॉग होती है, और ऑडिट-योग्य होती है।
यह ढाँचा
Transparency by Design एक सिद्धांत (doctrine) है, और ये छह स्तंभ यह तय करते हैं कि platform डेटा कैसे बनाता, एक्सेस करता, संग्रहीत करता और साझा करता है। ये छह प्रतिबद्धताएँ हैं जिन्हें सिस्टम स्वयं लागू करता है, केवल छह वादे नहीं।
हर क्रिया एक विस्तृत, न-मिटने-योग्य audit log में दर्ज होती है जिसे supervisor और oversight बॉडी पूर्ण रूप से खोज सकती हैं: database में जोड़ना, search query, alert configuration, video export, permission में बदलाव। किसने क्या, कब और क्यों किया, यह record की बात है, पुनर्निर्माण की नहीं।
Security और Compliance →end to end TLS 1.3, multilayer WAF, IDS/IPS और network filtering, असममित हस्ताक्षरों व rotating keys के साथ JWT, MFA, और हर major release पर OWASP Testing Guide के विरुद्ध penetration testing। ग्राहक-डेटा का स्वामित्व विशेष रूप से ग्राहक के पास ही रहता है।
सुरक्षा नीति →पहचान केवल पूर्व-पहचाने गए व्यक्तियों तक सीमित है: वांछित संदिग्ध, लापता बच्चे, trafficking पीड़ित। रियल-टाइम बायोमेट्रिक डेटाबेस का आकार सीमित (capped) है, और यादृच्छिक व्यक्तियों की पहचान संभव नहीं है। ये सीमाएँ वास्तुशिल्पीय (architectural) हैं, नीतिगत नहीं: दुरुपयोग को संरचनात्मक रूप से रोका गया है, केवल निषिद्ध नहीं किया गया है।
वीडियो खोज और जांच →पदानुक्रमित (hierarchical) भूमिका-आधारित एक्सेस कंट्रोल (RBAC) तय करता है कि हर operator किन कैमरों, recording, एनालिटिक्स modules, डेटाबेस और परिणामों तक पहुँच सकता है। Configuration में बदलाव केवल top-level भूमिकाओं तक सीमित हैं और पूरे विवरण के साथ लॉग किए जाते हैं।
Security और Compliance →हमारा फेस-रिकग्निशन engine एक proprietary 40-million-image dataset पर train किया गया है, जो वास्तविक CCTV स्थितियों के लिए optimized है, और इसका स्वतंत्र मूल्यांकन NIST Face Recognition Vendor Test में हुआ है। जहाँ व्यवस्थित पूर्वाग्रह मौजूद हो, वहाँ हमारी नीति है कि उसे और उसके अनुमानित प्रभाव को ग्राहक के सामने उजागर किया जाए।
फेस रिकग्निशन और पूर्वाग्रह परीक्षण (Bias Testing) →उपयोगकर्ता दिशा-निर्देश, ऑडिट प्रक्रियाएँ और अनुपालन checklist, जो privacy, नागरिक-स्वतंत्रता (civil-liberties) और कानून-प्रवर्तन विशेषज्ञों के साथ मिलकर बनाई गई हैं। ये GDPR और CCPA का समर्थन करती हैं, और EU AI Act, NIST AI RMF तथा FBI CJIS Security Policy के साथ संरेखित (align) हैं।
गोपनीयता नीति →Case ID: एक विश्व-प्रथम
Case ID प्लेटफ़ॉर्म में built-in एक अनिवार्य justification तंत्र है। किसी भी निजता-संवेदनशील AI क्रिया से पहले, operator एक Case ID दर्ज करता है। यह उस विधिक दस्तावेज़ का संदर्भ है जो क्रिया का वैध आधार देता है: पुलिस केस-फ़ाइल, न्यायालय का आदेश, लापता-व्यक्ति रिपोर्ट। यह संदर्भ उस क्रिया के साथ स्थायी रूप से दर्ज होता है जिसे वह प्राधिकृत करता है, और इसके बिना कोई operator आगे नहीं बढ़ सकता।
IREX दुनिया का इकलौता video management और analytics platform है जो प्रदान करता है सभी उच्च-जोखिम AI operations की व्यापक logging, जहाँ हर क्रिया एक वैध केस-संदर्भ से बँधी है। यह एक platform-स्तरीय mandate है, न कि कोई setting जिसे administrator बंद कर सके।
हर entry पर ऑपरेटर की पहचान और भूमिका।
की गई क्रिया: search का प्रकार, database operation, export।
एक सटीक timestamp, एक append-only क्रम में।
Case ID: कानूनी औचित्य, स्थायी रूप से बँधा हुआ।
Export द्वारा tamper-proof। Signed log फ़ाइलें रोज़ाना अपने-आप एक सुरक्षित archive में export होती हैं। ये छेड़छाड़ पकड़ने के लिए digitally signed होती हैं, किसी disaster या breach के बाद भी उपलब्ध रहती हैं, और ethics committees, inspectors general तथा court-appointed auditors बिना प्लेटफ़ॉर्म-access के इनकी समीक्षा कर सकते हैं।
Case ID logging AI जवाबदेही को एक नीति-आकांक्षा से एक तकनीकी वास्तविकता में बदल देती है। यह समुदायों को दुरुपयोग से बचाती है, अधिकारियों को उनकी वैध कार्रवाइयों का दस्तावेज़ीकरण करके सुरक्षा देती है, और oversight बॉडी को यह सत्यापित करने का प्रमाण देती है कि AI का उपयोग ज़िम्मेदारी से हो रहा है।
जवाबदेही, Audited
हर उच्च-जोखिम क्रिया पहले से एक Case ID रखती है और Logbook में दर्ज होती है। निगरानी निकाय का अगला सवाल यह होता है कि वह रिकॉर्ड कौन पढ़ता है, और क्या पढ़ने से भी अपना निशान बनता है। Release 4.37 से 4.40 इसका उत्तर देते हैं: ऑडिट ट्रेल अब उन्हीं नियमों से शासित है जिनसे वे क्रियाएँ, जिन्हें वह दर्ज करता है, शासित होती हैं, इसलिए IREX की यह प्रतिबद्धता कि 100% उपयोगकर्ता-क्रियाएँ ऑडिट-योग्य हैं, ऑडिट करने की क्रिया पर भी लागू होती है।
कोई inspector general, ethics committee या civilian review board इस रिकॉर्ड के साथ क्या कर सकता है, यह नीचे बताया गया है, साथ ही वह release भी जिसमें हर तंत्र आया।
audit trail को पढ़ना स्वयं एक न्यायोचित, दर्ज की गई क्रिया है। Logbook पृष्ठ खोलने के लिए और उस पर चलने वाली हर खोज के लिए एक Case ID आवश्यक है, और दर्ज किया गया मान उस "Search in logbook" प्रविष्टि में संचित होता है जिसे वह खोज बनाती है।
Version से 4.40.
ऑडिट लॉग स्वयं अपने भीतर होने वाली क्रियाओं को भी लॉग करता है। ऑडिट-लॉग इंटरफ़ेस से filtering, searching और exporting को first-class events के रूप में दर्ज किया जाता है, इसलिए रिकॉर्ड की समीक्षा करने से भी एक रिकॉर्ड बनता है, और chain of custody समीक्षक को भी कवर करती है।
Version से 4.37.
Logbook के additional filters में Persons tab पर, कोई फ़ोटो या descriptor फ़ाइल upload करें और similarity range सेट करें। Logbook उन क्रियाओं की entries लौटाता है जिनमें समान फ़ोटो या descriptor का उपयोग हुआ था, जिससे कोई शिकायत एक प्रश्न में बदल जाती है: क्या इस व्यक्ति को खोजा गया था, और किसके द्वारा।
Version से 4.39.
live और archived playback की entries यह दर्ज करती हैं कि playback कब समाप्त हुआ, जो playback समाप्त होने पर या किसी लंबे session के दौरान हर तीन घंटे में लिखी जाती हैं। इसके बाद "Played back video date/time" filter अंतराल (interval) के अनुसार खोजता है, और समीक्षा-अवधि से overlap करने वाला हर playback लौटाता है।
Version से 4.38.
Logbook, मौजूदा खोज-मानदंड से मेल खाने वाली entries की एक CSV रिपोर्ट तैयार करता है। यह अनुरोध करने वाले उपयोगकर्ता के लिए 24 घंटे तक देखने और डाउनलोड करने के लिए उपलब्ध रहती है, और हर डाउनलोड “Logbook report downloaded” इवेंट के रूप में वापस Logbook में दर्ज होता है।
Version से 4.38.
Automatic export उपयोगकर्ता-क्रिया के records को JSON फ़ाइलों के रूप में cluster storage में लिखता है, ताकि कोई बाहरी monitoring सिस्टम उन्हें एकत्र कर सके। cluster configuration तय करता है कि फ़ाइलें कौन पढ़ सकता है, किसकी क्रियाएँ शामिल हैं, कौन-से event types export होते हैं, export कितनी बार चलता है, और हर फ़ाइल कितने समय तक रखी जाती है।
Version से 4.39.
इवेंट वीडियो फ़्रेम की अपनी retention अवधि होती है, जो इवेंट से अलग होती है और उससे कभी लंबी नहीं होती। फ़्रेम की अवधि समाप्त होने पर इवेंट कार्ड डिफ़ॉल्ट सिस्टम इमेज दिखाता है, और इवेंट रिकॉर्ड तब तक उपलब्ध रहता है जब तक इवेंट-retention समाप्त नहीं होती: एजेंसी के अपने schedule पर data minimization, बिना entry खोए।
Version से 4.38.
पूर्वाग्रह उजागर किया जाता है, खोजा नहीं जाता। सभी फेस-रिकग्निशन systems की सटीकता जनसांख्यिकीय समूहों के अनुसार भिन्न होती है, IREX का भी। जहाँ व्यवस्थित पूर्वाग्रह मौजूद हो, वहाँ IREX की नीति है कि उसका अस्तित्व और अनुमानित प्रभाव ग्राहक को बताया जाए, बजाय इसके कि किसी एजेंसी को इसे फील्ड में स्वयं खोजना पड़े। यह दायित्व निरंतर पूर्वाग्रह-न्यूनीकरण कार्य और NIST Face Recognition Vendor Test में स्वतंत्र मूल्यांकन के साथ-साथ चलता है, और यह तब भी लागू होता है जब ग्राहक पूछने के बारे में सोचे भी नहीं।
Regulatory संरेखण
कानून-प्रवर्तन में AI के लिए नियामक परिदृश्य तेज़ी से बदल रहा है। IREX को आज ही इन आवश्यकताओं को पूरा करने के लिए engineer किया गया है, ताकि एजेंसियाँ भरोसे के साथ तैनाती कर सकें और नियम लागू होने पर महंगे retrofit से बच सकें।
यह अधिनियम सार्वजनिक स्थलों में रियल-टाइम बायोमेट्रिक पहचान को उच्च-जोखिम वर्गीकृत करता है। IREX की वास्तुकला पहले से ही इसके मूल दायित्वों को पूरा करती है: built-in जोखिम-सीमाएँ, ग्राहक-स्वामित्व वाला data governance, RBAC के ज़रिए मानवीय निगरानी, अमिट पारदर्शिता-लॉग, और सतत सटीकता-परीक्षण।
Ethical AI framework, NIST AI RMF के चार मुख्य कार्यों (Govern, Map, Measure और Manage) के साथ संरेखित है, जो U.S. agencies को ज़िम्मेदार AI तैनाती के लिए एक संरचित, प्रमाण-आधारित दृष्टिकोण देता है।
Access control, प्रमाणीकरण (authentication), एन्क्रिप्शन और ऑडिट क्षमताएँ, जिन्हें Criminal Justice Information Services Security Policy के अनुपालन का समर्थन करने के लिए डिज़ाइन किया गया है, जो U.S. कानून-प्रवर्तन डेटा को नियंत्रित करती है।
platform GDPR- और CCPA-ready है, और सभी सात GDPR सिद्धांतों का समर्थन करता है: वैधता (lawfulness), उद्देश्य-सीमा, डेटा न्यूनीकरण, सटीकता, संग्रहण-सीमा, अखंडता और गोपनीयता, तथा जवाबदेही। लॉगिंग, access control और retention सुविधाएँ ही ग्राहक को अपने instance के लिए अनुपालन प्रदर्शित करने देती हैं, जिसे अलग से validate किया जाता है।
AI Model Governance Policy
रूपरेखाएँ (frameworks) बताती हैं कि अच्छा क्या दिखता है; एक नीति बताती है कि IREX क्या करता है। AI Model Governance Policy सार्वजनिक रूप से बताती है, जिस पर CEO और CTO के हस्ताक्षर हैं, कि IREX अपने डिटेक्टर को कैसे train और test करता है तथा StreamVLM™ और Ask IREX के पीछे के open-weight foundation मॉडल को कैसे सीमित रखता है। यह procurement अधिकारी और ऑडिटर के लिए उतनी ही स्पष्टता से लिखी गई है जितनी हमारे इंजीनियरों के लिए, और कोई भी ग्राहक, partner या contracting authority इसे प्राप्त कर सकता है।
सार्वजनिक open-source datasets, IREX द्वारा बनाई गई synthetic imagery, हस्ताक्षरित अनुबंध के तहत उपलब्ध कराए गए ग्राहक Data Sets, और IREX के development कैमरे जो कभी सार्वजनिक स्थलों में स्थापित नहीं किए जाते। ग्राहक का production वीडियो कभी training data नहीं बनता।
Label, IREX के स्टाफ़ या अनुबंधित annotator द्वारा IREX के अपने labeling platform के भीतर लिखे जाते हैं, और कोई भी machine जो label प्रस्तावित करती है, training में शामिल होने से पहले किसी व्यक्ति द्वारा जाँचा जाता है।
हर model को release से पहले sealed वास्तविक imagery पर मापा जाता है; जो models लोगों का पता लगाते या पहचानते हैं वे demographic bias assessment से गुज़रते हैं; ज्ञात सीमाएँ ग्राहक को बता दी जाती हैं।
StreamVLM™ और Ask IREX के पीछे के open-weight models केवल instance के भीतर, अपरिवर्तित रूप से चलते हैं, अपने designed function से आगे कोई tool नहीं और operator की अपनी permission तथा Case ID से आगे कोई पहुँच नहीं।
अगली सीमा
IREX सख़्त नैतिक सीमाओं के भीतर काम करने वाले स्वायत्त जांच एजेंट विकसित करने में अग्रणी है। प्राकृतिक-भाषा जांच, बहु-चरण खोज orchestration और स्वचालित cross-referencing, प्लेटफ़ॉर्म की हर अन्य सुविधा की तरह, उन्हीं Transparency by Design सिद्धांतों से शासित होते हैं। स्वायत्तता और जवाबदेही परस्पर-विरोधी नहीं हैं; वे एक-दूसरे की पूरक हैं।
हर agent क्रिया उस operator को दी जाती है जिसने उसे शुरू किया, और उस Case ID को जो उसे प्राधिकृत करती है।
Agent मानव operator जैसी ही permission सीमाओं के भीतर काम करते हैं, अपनी पहुँच स्वयं बढ़ाने की कोई क्षमता नहीं रखते।
सभी agent-initiated खोजें, watchlist query और alert configuration उसी Logbook और उन्हीं signed daily export से गुज़रती हैं जिनसे manual operation गुज़रते हैं।
हमारी प्रतिबद्धता
IREX का उद्देश्य है समुदायों को उन मूल्यों से समझौता किए बिना सुरक्षित बनाना जो उन्हें सुरक्षा के योग्य बनाते हैं। हमारी साझेदारी के ज़रिए National Child Protection Task Force, हम मानव और बाल तस्करी के विरुद्ध सक्रिय रूप से लड़ते हैं। ऐसे मामले इस ढाँचे की सबसे कठिन परीक्षा हैं: जो क्षमता किसी तस्करी-पीड़ित को खोजती है, वही क्षमता किसी सामान्य व्यक्ति के विरुद्ध दुरुपयोग की जा सकती है। Case ID अनिवार्यता, पूर्व-पंजीकरण की सीमा और ऑडिट ट्रेल इसलिए मौजूद हैं ताकि पहला संभव हो और दूसरा न हो।
हम कानून प्रवर्तन agency, सरकारों और oversight बॉडी को आमंत्रित करते हैं कि वे हमें इसी मानक पर परखें। हमारे log audit के लिए खुले हैं। हमारी सीमाएँ सत्यापन-योग्य हैं। हमारी प्रतिबद्धता स्थायी है।
हमारे ethics program को सलाह देते हैं David K. Bain, INCITS के पूर्व Executive Director, जो ISO/IEC JTC 1 के तहत अंतरराष्ट्रीय IT मानकों के लिए US सचिवालय है, और Technology Integrity Council के founding Executive Director।
पढ़ते रहें
हमें अपने कैमरा environment और अनुपालन आवश्यकताओं के बारे में बताएँ, और हम आपको आपकी अपनी फुटेज पर Logbook, Case ID और छह स्तंभों के बारे में विस्तार से बताएँगे। कोई पहले से बना canned demo नहीं।