Confiança Rompida, Leis Violadas: Quando a Tecnologia Ultrapassa a Governança
O avanço da análise de vídeo com IA para segurança pública representa um desafio existencial para a segurança da informação e a privacidade. Ferramentas projetadas para a segurança pública, como as que auxiliam a encontrar uma criança desaparecida, podem ser facilmente usadas de forma indevida para criar uma rede de vigilância perpétua sobre cidadãos comuns.

Processos judiciais em andamento e investigações envolvendo um importante fornecedor norte-americano de reconhecimento automático de placas de veículos (ALPR) demonstram como o uso descontrolado dessa tecnologia comprometeu as liberdades civis por meio do uso indevido de dados. A empresa estabeleceu uma enorme rede de dados para milhares de órgãos, transformando uma ferramenta de segurança pública em um instrumento de rastreamento generalizado sem mandado judicial, de invasão de privacidade e de violações no compartilhamento de dados.
“A empresa tem sentido a pressão recentemente, após a revelação de que os dados de sua rede nacional de leitores de placas foram (e provavelmente ainda são) compartilhados com órgãos como o ICE. Toda comunidade do país que abriga as câmeras da empresa deveria examinar o contrato de uso entre sua polícia e a empresa, para verificar se ele contém uma cláusula segundo a qual o cliente “concede por este meio ao fornecedor um direito e uma licença mundiais, perpétuos e isentos de royalties” para “divulgar os Dados do Órgão… para fins de investigação””.

As investigações mostraram que os órgãos usaram essa rede de ALPR para criar históricos detalhados de deslocamento, seguindo motoristas individuais centenas de vezes ao longo de meses, com pouca ou nenhuma supervisão judicial. Os dados foram compartilhados com órgãos de outros estados e federais, contornando assim as restrições estaduais, inclusive em investigações sensíveis relacionadas à saúde reprodutiva. Embora a tecnologia tenha funcionado como projetada, a governança não funcionou. A combinação de controle de acesso deficiente, auditorias inadequadas e ausência de limites rigorosos para a movimentação de dados permitiu que esse sistema de rastreamento de localização em massa prosperasse.
O que deu errado na operação de ALPR
Surgiram vários problemas recorrentes:
- Compartilhamento de dados excessivamente amplo: As restrições locais eram facilmente contornadas quando os dados das placas entravam na nuvem do fornecedor, o que possibilitava o acesso entre jurisdições e por órgãos federais.
- Falta de responsabilização e de auditorias: Os registros eram insuficientes e não foram concebidos para vincular buscas sensíveis a identificadores de caso específicos, o que dificultava distinguir o trabalho legítimo do uso abusivo (por exemplo, rastrear ex-parceiros ou opositores políticos). O modelo estimulava o “pesquise primeiro, justifique depois”.
- **Segurança inadequada: **A segurança técnica de dispositivos e portais era precária, com vulnerabilidades documentadas (explorações por acesso físico, exposição de rede, dados sem criptografia, software desatualizado). Interfaces web mal configuradas chegaram a expor transmissões de vídeo de crianças em parquinhos.

Principais questões e acusações:
- Vigilância em massa e compartilhamento não autorizado: A rede nacional de ALPR da empresa é criticada por viabilizar a vigilância em massa sem mandado judicial e por contornar ilegalmente as leis estaduais de santuário, ao compartilhar com órgãos federais como o ICE e o CBP os dados coletados por sua análise de vídeo com IA para segurança pública.
- **Uso discriminatório: **As acusações incluem órgãos que miravam grupos étnicos específicos com buscas ofensivas e que consultavam dados para fins alheios à segurança pública, como casos de aborto.
- **Vulnerabilidades de segurança: **Um pesquisador independente documentou 51 problemas de segurança no hardware e no software do fornecedor, incluindo falhas de acesso físico e de rede.
- Contestações judiciais: O fornecedor enfrenta investigações federais e processos movidos por grupos como a EFF e a ACLU por violações da Quarta Emenda e rastreamento excessivo.
A reação resultante levou mais de 30 localidades a rescindir seus contratos desde o início de 2025.
“No fim, ficou claro que essa não seria uma tecnologia bem recebida nem que pudéssemos continuar usando”, disse a prefeita de Flagstaff, Becky Daggett, à NPR. O conselho votou pelo fim do contrato”.
- National Public Radio (NPR)
Padrões básicos para sistemas de análise de vídeo com IA para segurança pública
Para proteger as liberdades civis, um sistema seguro de análise de vídeo com IA deve ser construído sobre uma base sólida de tecnologia e governança.
Expectativas tecnológicas:
- Criptografia de ponta a ponta e autenticação multifator
- Controles de acesso rigorosos baseados em funções e segmentação de rede
- Minimização de dados e processamento no próprio dispositivo
- Registro obrigatório e auditoria à prova de adulteração.
Expectativas éticas e de governança:
- Limitação clara de finalidade e transparência na coleta de dados
- Controles rigorosos de compartilhamento (limites técnicos e contratuais ao acesso entre jurisdições e federal)
- Responsabilização (auditoria independente, avaliações de impacto, mecanismos de recurso)
- Os clientes devem ter a capacidade de validar e baixar os registros de cada consulta de dados e de cada ação de compartilhamento.
Quando esses padrões são cumpridos, o sistema continua sendo uma ferramenta eficaz de segurança pública, além de estabelecer uma estrutura de responsabilização. Esse protocolo altera fundamentalmente o comportamento, pois o pessoal sabe que precisa justificar suas ações.
A estratégia abrangente da IREX para resolver essas questões críticas
A IREX foi explicitamente criada para evitar as falhas que vemos repetidamente nas redes dos fornecedores de vigilância. O sistema entrega resultados verificáveis, e não apenas as alegações habituais de marketing. Nossa plataforma de análise de vídeo é certificada pelo NIST e atende a padrões elevados de segurança. A principal vantagem é permitir que os órgãos mantenham o controle total sobre a localização dos próprios dados, a retenção, a conformidade legal e a soberania dos dados, sem depender da nuvem de um fornecedor para a governança.

Recursos tecnológicos e éticos da IREX:
- Arquitetura segura de nuvem privada: Garante que os órgãos mantenham o controle total, com criptografia consistente e infraestrutura reforçada.
- Controle de acesso multilocatário baseado em funções: Garante a separação rigorosa dos dados; um órgão não pode acessar os dados de outro.
- Registro abrangente, identificador do caso e auditoria: Identificador do caso obrigatório para todas as ações sensíveis e registros detalhados e pesquisáveis, que permitem a auditoria independente e a justificativa de cada uso.
- Mensageiro corporativo criptografado integrado: Um mensageiro integrado para comunicação operacional segura e compartilhamento de evidências, que impede o vazamento de dados sensíveis por canais externos e inseguros.
- IA ética para a segurança pública: A IREX foi explicitamente criada para respeitar a privacidade e as normas éticas das sociedades livres, com foco estrito nas necessidades de segurança pública, e não em viabilizar o rastreamento da população em geral.
As falhas de um grande fornecedor de ALPR mostram que conveniência sem governança leva ao uso indevido do sistema e a violações de privacidade. Ao implementar identificadores de caso obrigatórios, auditoria transparente, controles rigorosos e um mensageiro interno seguro, a IREX estabelece limites claros para evitar o uso indevido observado em outras soluções de análise de vídeo com IA para segurança pública.