Em cada projeto IREX, a prioridade máxima é aperfeiçoar a tecnologia que protege e melhora vidas, respeitando a privacidade e as normas éticas das sociedades livres. Não prometemos ética em um documento de política. Nós a incorporamos à arquitetura, onde não pode ser desativada.
Jane Doe · procurada · caso nº 123456 Por que Isso Importa
Órgãos de segurança pública enfrentam um desafio urgente: usar o poder da inteligência artificial preservando os direitos e a confiança das comunidades que atendem. Tecnologia de vigilância sem salvaguardas éticas corrói a confiança pública, cria riscos regulatórios e compromete a própria segurança que pretende oferecer.
A IREX foi construída desde o início para resolver esse problema. A ética não é um item de conformidade acrescentado ao final. A prestação de contas está em cada camada: arquitetura, controles de acesso, trilhas de auditoria e limites do que a IA pode fazer. O resultado: toda ação de IA de alto risco é justificada, registrada e auditável.
O Modelo
Transparency by Design é uma doutrina. Estes seis pilares regem como a plataforma cria, acessa, armazena e compartilha dados. São seis compromissos impostos pelo próprio sistema, não seis promessas.
Cada ação é registrada em um registro de auditoria detalhado e não apagável, que supervisores e órgãos de fiscalização podem consultar integralmente. Inclui adições ao banco de dados, buscas, configurações de alertas, exportações de vídeo e alterações de permissões. Quem fez o quê, quando e por quê fica registrado, sem precisar de reconstrução.
Segurança e Conformidade →TLS 1.3 de ponta a ponta, WAF em múltiplas camadas, IDS/IPS e filtragem de rede, JWT com assinaturas assimétricas e chaves rotativas, MFA e testes de intrusão segundo o OWASP Testing Guide em cada versão principal. Os dados do cliente pertencem exclusivamente ao cliente.
Política de Segurança →A detecção se limita a pessoas previamente identificadas: suspeitos procurados, crianças desaparecidas e vítimas de tráfico. O tamanho do banco biométrico em tempo real é limitado e não é possível reconhecer pessoas aleatórias. São limites da arquitetura, não de política: o uso indevido é impedido estruturalmente, não apenas proibido.
Busca de Vídeo e Investigações →O controle hierárquico de acesso baseado em papéis define quais câmeras, gravações, módulos de análise, bancos de dados e resultados cada operador pode acessar. Alterações de configuração ficam restritas aos papéis de nível superior e são registradas em detalhe.
Segurança e Conformidade →Nosso mecanismo de reconhecimento facial é treinado com um conjunto proprietário de 40 milhões de imagens, otimizado para condições reais de CFTV e avaliado de forma independente no NIST Face Recognition Vendor Test. Quando há viés sistemático, nossa política é informar sua existência e seu impacto estimado ao cliente.
Reconhecimento Facial e Testes de Viés →Orientações de uso, processos de auditoria e listas de verificação de conformidade desenvolvidos com especialistas em privacidade, liberdades civis e segurança pública. Apoiam o GDPR e a CCPA e se alinham ao EU AI Act, ao NIST AI RMF e à FBI CJIS Security Policy.
Política de Privacidade →Identificador do Caso: Primeiro do Tipo no Mundo
O identificador do caso é um mecanismo obrigatório de justificativa incorporado à plataforma. Antes de qualquer ação de IA sensível à privacidade, o operador informa um identificador do caso. Ele referencia o documento que dá base legal à ação: um processo policial, uma ordem judicial ou um boletim de desaparecimento. A referência fica registrada permanentemente junto à ação que autoriza. Nenhum operador pode prosseguir sem ela.
A IREX é a única plataforma de gestão e análise de vídeo do mundo a oferecer registro completo de todas as operações de IA de alto risco, com cada ação vinculada a uma referência de caso legítima. É uma exigência da plataforma, que o administrador não pode desativar.
A identidade e o papel do operador em cada registro.
A ação executada: tipo de busca, operação no banco de dados, exportação.
Data e hora precisas, em uma sequência que só aceita acréscimos.
O identificador do caso: a justificativa legal, vinculada permanentemente.
Proteção contra adulteração por exportação. Arquivos de registro assinados são exportados automaticamente todos os dias para um arquivo seguro. Suas assinaturas digitais permitem detectar adulterações. Permanecem disponíveis mesmo após desastre ou violação e podem ser revisados por comitês de ética, inspetores-gerais e auditores nomeados judicialmente, sem acesso à plataforma.
O registro com identificador do caso transforma a prestação de contas da IA de uma intenção expressa em políticas em uma realidade técnica. Protege as comunidades contra o uso indevido, protege os policiais ao documentar suas ações legais e fornece aos órgãos de fiscalização as evidências para verificar que a IA está sendo usada de forma responsável.
Prestação de Contas Auditada
Toda ação de alto risco já tem um identificador do caso e entra no registro de auditoria. A próxima pergunta de um órgão de fiscalização é quem lê esses registros e se essa leitura deixa rastros. As versões 4.37 a 4.40 respondem: a trilha de auditoria agora segue as mesmas regras das ações que registra. Assim, o compromisso da IREX de tornar 100% das ações dos usuários auditáveis também abrange a própria auditoria.
Abaixo estão as ações que um inspetor-geral, comitê de ética ou conselho de revisão civil pode realizar com os registros, com a versão de lançamento de cada mecanismo.
Ler a trilha de auditoria também é um ato justificado e registrado. Um identificador do caso é obrigatório para abrir a página do registro de auditoria e para cada busca realizada nela. O valor informado fica no registro “Busca no registro de auditoria” criado pela busca.
Desde a versão 4.40.
O registro de auditoria registra as ações realizadas dentro dele. Filtragens, buscas e exportações na interface de auditoria são registradas como eventos próprios. Assim, a consulta ao registro também deixa um registro e a cadeia de custódia abrange quem o revisa.
Desde a versão 4.37.
Na aba Pessoas dos filtros adicionais do registro de auditoria, envie uma foto ou um arquivo de descritor e defina um intervalo de similaridade. O registro de auditoria retorna os registros de ações que usaram uma foto ou um descritor semelhante. Isso transforma uma reclamação em uma consulta: alguém buscou essa pessoa? Quem?
Desde a versão 4.39.
Os registros de reprodução ao vivo e de arquivos incluem o horário de término, gravado ao encerrar a reprodução ou a cada três horas em sessões longas. O filtro “Data/hora do vídeo reproduzido” permite buscar por intervalo e retorna todas as reproduções que se sobrepõem ao período analisado.
Desde a versão 4.38.
O registro de auditoria gera um relatório CSV dos registros que atendem aos critérios atuais de busca. Ele fica disponível por 24 horas para visualização e download pelo usuário que o solicitou. Cada download gera no registro o evento “Relatório do registro de auditoria baixado”.
Desde a versão 4.38.
A exportação automática grava as ações dos usuários em arquivos JSON no armazenamento do cluster, para coleta por um sistema externo de monitoramento. A configuração do cluster define quem pode ler os arquivos, quais usuários e tipos de evento são incluídos, a frequência da exportação e a retenção de cada arquivo.
Desde a versão 4.39.
Os quadros de vídeo dos eventos têm um prazo próprio de retenção, separado do prazo dos eventos e nunca maior. Quando os quadros expiram, o cartão do evento mostra a imagem padrão do sistema. O registro permanece disponível até o fim da retenção do evento: minimização de dados no prazo do órgão, sem perder o registro.
Desde a versão 4.38.
O viés é informado, não deixado para ser descoberto. A precisão de todos os sistemas de reconhecimento facial varia entre grupos demográficos, inclusive a da IREX. Quando existe viés sistemático, a política da IREX é informar sua existência e seu impacto estimado ao cliente, sem deixar que o órgão o descubra em campo. Esse dever acompanha a redução contínua de viés e a avaliação independente no NIST Face Recognition Vendor Test. Aplica-se mesmo que o cliente não pergunte.
Alinhamento Regulatório
A regulação de IA na segurança pública evolui rapidamente. A IREX é projetada para atender a esses requisitos hoje, permitindo aos órgãos implantar com confiança e evitar adaptações caras quando as normas entrarem em vigor.
A lei classifica a identificação biométrica em tempo real em espaços públicos como de alto risco. A arquitetura da IREX já atende às obrigações centrais: restrições de risco incorporadas, governança de dados de propriedade do cliente, supervisão humana via RBAC, registros de transparência não apagáveis e testes contínuos de precisão.
O modelo de IA ética se alinha às quatro funções centrais do NIST AI RMF: Govern, Map, Measure e Manage. Oferece aos órgãos dos EUA uma abordagem estruturada e baseada em evidências para implantar IA com responsabilidade.
Recursos de controle de acesso, autenticação, criptografia e auditoria projetados para apoiar a conformidade com a Criminal Justice Information Services Security Policy, que rege os dados das forças de segurança dos EUA.
A plataforma está preparada para o GDPR e a CCPA e apoia os sete princípios do GDPR: licitude, limitação de finalidade, minimização de dados, precisão, limitação de armazenamento, integridade e confidencialidade e prestação de contas. Os recursos de registros, controle de acesso e retenção permitem ao cliente demonstrar conformidade em sua própria instância, validada separadamente.
Política de Governança de Modelos de IA
Os modelos de referência descrevem boas práticas; uma política declara o que a IREX faz. A Política de Governança de Modelos de IA, pública e assinada pelo CEO e pelo CTO, explica como treinamos e testamos nossos detectores. Também explica como confinamos os modelos fundacionais de pesos abertos do StreamVLM™ e do Ask IREX. Destina-se tanto a compradores e auditores quanto aos nossos engenheiros. Qualquer cliente, parceiro ou autoridade contratante pode obtê-la.
Conjuntos de dados públicos de fonte aberta, imagens sintéticas criadas pela IREX, conjuntos de dados de clientes fornecidos sob acordo assinado e câmeras de desenvolvimento da IREX, nunca instaladas em espaços públicos. Vídeos de produção dos clientes nunca são usados para treinamento.
As anotações são feitas por funcionários da IREX ou anotadores contratados na própria plataforma de anotação da IREX. Toda anotação proposta por máquina é verificada por uma pessoa antes de entrar no treinamento.
Todo modelo é avaliado com imagens reais reservadas antes do lançamento. Modelos que detectam ou identificam pessoas passam por avaliação de viés demográfico. As limitações conhecidas são informadas ao cliente.
Os modelos de pesos abertos do StreamVLM™ e do Ask IREX são executados somente dentro da instância, sem modificações. Não têm ferramentas além de sua função prevista nem acesso além das permissões e do identificador do caso do operador.
A Próxima Fronteira
A IREX é pioneira em agentes autônomos de investigação que operam dentro de limites éticos rigorosos. Investigações em linguagem natural, orquestração de buscas em várias etapas e cruzamento automático de dados seguem os mesmos princípios de Transparency by Design dos demais recursos da plataforma. Autonomia e prestação de contas não entram em conflito; são complementares.
Toda ação do agente é atribuída ao operador que a iniciou e ao identificador do caso que a autoriza.
Os agentes operam dentro dos mesmos limites de permissão do operador humano, sem poder ampliar o próprio acesso.
Todas as buscas, consultas a listas de observação e configurações de alertas iniciadas por agentes passam pelo mesmo registro de auditoria e pelas mesmas exportações diárias assinadas das operações manuais.
Nosso Compromisso
A IREX existe para tornar as comunidades mais seguras sem comprometer os valores que fazem valer a pena protegê-las. Por meio de nossa parceria com a National Child Protection Task Force, combatemos ativamente o tráfico de pessoas, inclusive de crianças. Esses casos são o teste mais rigoroso deste modelo: a capacidade que encontra uma vítima de tráfico poderia ser usada indevidamente contra uma pessoa comum. O identificador do caso obrigatório, a restrição de cadastro prévio e a trilha de auditoria existem para permitir o primeiro uso e impedir o segundo.
Convidamos forças de segurança, governos e órgãos de fiscalização a exigir de nós esse padrão. Nossos registros estão abertos à auditoria. Nossas restrições são verificáveis. Nosso compromisso é permanente.
Nosso programa de ética conta com a assessoria de David K. Bain, ex-diretor executivo do INCITS, a secretaria dos EUA para normas internacionais de TI sob a ISO/IEC JTC 1 e diretor executivo fundador do Technology Integrity Council.
Continue Lendo
Conte sobre seu ambiente de câmeras e requisitos de conformidade. Apresentaremos o registro de auditoria, o identificador do caso e os seis pilares com suas próprias imagens, sem uma demonstração pronta.