En cada proyecto de IREX, la prioridad es mejorar la seguridad y la calidad de vida dentro de las normas éticas y de privacidad de las sociedades libres. Incorporamos la ética en la arquitectura, donde no se puede desactivar.
Jane Doe · buscada · caso #123456 Por qué importa
Los organismos de seguridad pública afrontan un reto urgente: utilizar la inteligencia artificial y, al mismo tiempo, proteger los derechos y la confianza de las comunidades a las que sirven. La vigilancia sin límites éticos deteriora la confianza ciudadana, expone a riesgos normativos y debilita la seguridad que busca ofrecer.
IREX se diseñó desde cero para resolver este problema. La rendición de cuentas está presente en cada capa: arquitectura, controles de acceso, registros de auditoría y límites a lo que puede hacer la IA. Cada acción de alto riesgo debe estar justificada, registrada y disponible para auditoría.
El marco
Transparency by Design es una doctrina. Estos seis pilares determinan cómo la plataforma crea, consulta, almacena y comparte datos. Son seis compromisos que el propio sistema hace cumplir.
Cada acción queda en un registro de auditoría detallado que no se puede borrar. Supervisores y organismos de control pueden consultarlo completo: incorporaciones a bases de datos, búsquedas, configuración de alertas, exportaciones de video y cambios de permisos. Quién hizo qué, cuándo y por qué queda documentado.
Seguridad y cumplimiento →TLS 1.3 de extremo a extremo, WAF multicapa, IDS/IPS y filtrado de red, JWT con firmas asimétricas y rotación de claves, MFA y pruebas de penetración según la guía de pruebas OWASP en cada versión principal. Los datos pertenecen exclusivamente al cliente.
Política de seguridad →La detección se limita a personas identificadas previamente: sospechosos buscados, niños desaparecidos y víctimas de trata. La base biométrica en tiempo real tiene un tamaño máximo. No es posible reconocer a personas al azar. Estos límites forman parte de la arquitectura: el uso indebido se impide mediante el diseño, además de prohibirse.
Búsqueda de video e investigaciones →El control jerárquico de acceso por roles determina las cámaras, grabaciones, módulos, bases de datos y resultados disponibles para cada operador. Solo los roles superiores pueden cambiar la configuración. Cada cambio se registra con detalle.
Seguridad y cumplimiento →Nuestro motor de reconocimiento facial se entrena con un conjunto propio de 40 millones de imágenes, optimizado para condiciones reales de CCTV. Se evalúa de forma independiente en la prueba NIST Face Recognition Vendor Test. Nuestra política es informar al cliente de los sesgos sistemáticos detectados y su impacto estimado.
Reconocimiento facial y pruebas de sesgo →Guías de usuario, procesos de auditoría y listas de verificación desarrollados con expertos en privacidad, libertades civiles y actuación policial. Respaldan GDPR y CCPA y se alinean con la Ley de IA de la UE, NIST AI RMF y la Política de Seguridad CJIS del FBI.
Política de privacidad →Case ID: una primicia mundial
Case ID es un mecanismo obligatorio de justificación integrado en la plataforma. Antes de realizar una acción de IA que afecta la privacidad, el operador ingresa un Case ID: una referencia al documento que establece su fundamento legal, como un expediente policial, una orden judicial o una denuncia de desaparición. La referencia se registra de forma permanente junto a la acción autorizada. Ningún operador puede continuar sin ella.
IREX es la única plataforma de gestión y analítica de video del mundo que ofrece registro completo de todas las operaciones de IA de alto riesgo, con cada acción vinculada a una referencia legítima de caso. Es un requisito de la plataforma que el administrador no puede desactivar.
La identidad y el rol del operador, en cada entrada.
La acción realizada: tipo de búsqueda, operación en la base de datos o exportación.
Una marca de tiempo precisa en una secuencia a la que solo se agregan entradas.
El Case ID: la justificación legal, vinculada de forma permanente.
Exportaciones que permiten verificar la integridad. Los registros firmados se exportan automáticamente cada día a un archivo seguro. Las firmas digitales permiten detectar alteraciones. Los archivos siguen disponibles tras un desastre o una intrusión y pueden ser revisados por comités de ética, inspectores generales y auditores designados por tribunales, sin acceso a la plataforma.
Case ID convierte la rendición de cuentas de la IA en una realidad técnica. Protege a las comunidades frente al uso indebido, documenta las acciones legales de los agentes y proporciona a los organismos de control evidencia para verificar el uso responsable de la IA.
Rendición de cuentas verificable
Cada acción de alto riesgo ya tiene un Case ID y una entrada en el registro. Los organismos de control también necesitan saber quién consulta esas entradas y qué rastro deja. Las versiones 4.37 a 4.40 responden a esa necesidad: la auditoría se rige por las mismas reglas que las acciones que documenta. El compromiso de IREX de hacer auditable el 100% de las acciones del usuario también incluye las auditorías.
A continuación se detallan las funciones disponibles para un inspector general, comité de ética o junta de revisión ciudadana, junto con la versión en que se incorporó cada una.
Consultar la auditoría también exige una justificación y queda registrado. Se requiere un Case ID para abrir el registro y para cada búsqueda. El valor ingresado se guarda en la entrada «Búsqueda en el registro» que genera la consulta.
Desde la versión 4.40.
El registro también documenta las acciones realizadas dentro de su interfaz. Filtrar, buscar y exportar genera eventos propios. Revisar el registro deja un registro, y la cadena de custodia también cubre al revisor.
Desde la versión 4.37.
En la pestaña Personas de los filtros adicionales del registro, cargue una foto o un archivo descriptor y establezca un rango de similitud. El registro devuelve las acciones que utilizaron una foto o descriptor similares. Así puede comprobar si se buscó a esa persona y quién lo hizo.
Desde la versión 4.39.
Las entradas de reproducción en vivo y archivada registran la hora de finalización. Se escriben al terminar o cada tres horas durante sesiones largas. El filtro de fecha y hora del video reproducido permite consultar un intervalo y devuelve todas las reproducciones que se superponen total o parcialmente con ese intervalo.
Desde la versión 4.38.
El registro genera un informe CSV con las entradas que cumplen los criterios de búsqueda. El usuario que lo solicitó puede consultarlo y descargarlo durante 24 horas. Cada descarga genera un evento de informe del registro descargado.
Desde la versión 4.38.
La exportación automática guarda las acciones de los usuarios como archivos JSON en el almacenamiento del clúster para que un sistema externo los recopile. La configuración determina quién puede leerlos, qué usuarios y tipos de eventos se incluyen, la frecuencia de exportación y la retención de cada archivo.
Desde la versión 4.39.
Los fotogramas de video tienen una retención propia, separada de la de los eventos y nunca superior. Al expirar, la tarjeta muestra la imagen predeterminada del sistema. El evento sigue disponible hasta que finaliza su retención. El organismo puede minimizar los datos sin perder la entrada.
Desde la versión 4.38.
Los sesgos se comunican al cliente. La precisión de todos los sistemas de reconocimiento facial varía entre grupos demográficos, incluido IREX. Cuando existe un sesgo sistemático, nuestra política es comunicar su existencia y el impacto estimado al cliente, sin esperar a que lo descubra durante la operación. Esto complementa el trabajo continuo de reducción de sesgos y la evaluación independiente NIST Face Recognition Vendor Test. Se aplica aunque el cliente no lo solicite.
Alineación normativa
La regulación de la IA aplicada a la actuación policial evoluciona rápidamente. IREX se diseña para atender esos requisitos hoy, de modo que los organismos puedan desplegarla con confianza y evitar adaptaciones costosas cuando entren en vigor nuevas normas.
La Ley clasifica como de alto riesgo la identificación biométrica en tiempo real en espacios públicos. La arquitectura de IREX ya satisface sus obligaciones centrales: límites de riesgo incorporados, gobernanza de datos del cliente, supervisión humana mediante RBAC, registros de transparencia que no se pueden borrar y pruebas continuas de precisión.
El marco de IA ética se alinea con las cuatro funciones de NIST AI RMF: gobernar, mapear, medir y gestionar. Ofrece a los organismos estadounidenses un enfoque estructurado y basado en evidencia para desplegar IA de forma responsable.
Funciones de control de acceso, autenticación, cifrado y auditoría diseñadas para respaldar el cumplimiento de la Política de Seguridad de los Servicios de Información de Justicia Penal, que rige los datos de las fuerzas del orden en Estados Unidos.
La plataforma está preparada para GDPR y CCPA y respalda los siete principios de GDPR: licitud, limitación de la finalidad, minimización de datos, exactitud, limitación de conservación, integridad y confidencialidad, y responsabilidad proactiva. Los registros, el control de acceso y la retención permiten demostrar el cumplimiento de cada instancia del cliente, que se valida por separado.
Política de gobernanza de modelos de IA
La Política de Gobernanza de Modelos de IA establece públicamente cómo IREX entrena y prueba sus detectores, y cómo limita los modelos fundacionales de pesos abiertos de StreamVLM™ y Ask IREX, ambos disponibles en beta en determinadas instancias. Está firmada por el director ejecutivo y el director de tecnología. Se dirige tanto a responsables de contratación y auditores como a ingenieros. Cualquier cliente, socio o entidad contratante puede solicitarla.
Conjuntos de datos públicos de código abierto, imágenes sintéticas creadas por IREX, conjuntos de datos del cliente entregados bajo un acuerdo firmado y cámaras de desarrollo de IREX que nunca se instalan en espacios públicos. El video de producción del cliente nunca se usa para entrenar modelos.
El personal de IREX o anotadores contratados crean las etiquetas dentro de nuestra plataforma. Una persona revisa cada etiqueta propuesta por una máquina antes de incorporarla al entrenamiento.
Cada modelo se mide con imágenes reales reservadas antes de su lanzamiento. Los modelos que detectan o identifican personas pasan una evaluación de sesgo demográfico. Las limitaciones conocidas se comunican al cliente.
Los modelos de pesos abiertos de StreamVLM™ y Ask IREX se ejecutan sin modificaciones dentro de la instancia. No tienen herramientas ajenas a su función ni acceso fuera de los permisos y el Case ID del operador.
La próxima frontera
IREX desarrolla agentes de investigación autónomos que operan dentro de límites éticos estrictos. Las investigaciones en lenguaje natural, la coordinación de búsquedas de varios pasos y el cruce automático de información se rigen por Transparency by Design. Las tres funciones están disponibles en beta en determinadas instancias. La autonomía y la rendición de cuentas se complementan.
Cada acción de un agente se atribuye al operador que la inició y al Case ID que la autoriza.
Los agentes respetan los mismos límites de permisos que el operador y no pueden ampliar su propio acceso.
Las búsquedas, consultas de listas y configuraciones de alertas iniciadas por agentes pasan por el mismo registro y las mismas exportaciones diarias firmadas que las operaciones manuales.
Nuestro compromiso
IREX existe para hacer más seguras a las comunidades sin comprometer los valores que las definen. Mediante nuestra colaboración con National Child Protection Task Force, combatimos la trata de personas y de niños. Estos casos ponen a prueba nuestro marco ético: la capacidad que encuentra a una víctima de trata podría utilizarse indebidamente contra cualquier persona. El requisito de Case ID, el registro previo y la auditoría permiten lo primero e impiden lo segundo.
Invitamos a las fuerzas del orden, gobiernos y organismos de control a exigirnos este estándar. Nuestros registros están abiertos a auditoría. Nuestros límites son verificables. Nuestro compromiso es permanente.
Nuestro programa de ética cuenta con la asesoría de David K. Bain, exdirector ejecutivo de INCITS, la secretaría estadounidense de normas internacionales de TI bajo ISO/IEC JTC 1, y director ejecutivo fundador de Technology Integrity Council.
Siga explorando
Cuéntenos sobre sus cámaras y requisitos de cumplimiento. Le mostraremos el registro, Case ID y los seis pilares con su propio video.