O Golpe da “Vigilância com IA” Escondido à Vista de Todos

O Golpe da “Vigilância com IA” Escondido à Vista de Todos

Muitas empresas estão vendendo “IA” para as forças de segurança. O que elas realmente vendem é um pipeline de vigilância: uma rede em nuvem que transforma discretamente os deslocamentos do dia a dia em um histórico pesquisável.

Elas chamam isso de “análise de vídeo para segurança pública”.

Na prática, muitas vezes é rastreamento em massa, operado por fornecedores que já mostraram repetidamente que não conseguem, ou não querem, proteger as liberdades civis e a privacidade dos dados, nem sequer cumprir os padrões básicos esperados da governança policial.

Esse não é um risco hipotético. Já está acontecendo.

Quando a tecnologia ultrapassa a governança, as pessoas perdem direitos

O reconhecimento automático de placas de veículos (ALPR) traz benefícios evidentes, como a capacidade comprovada de encontrar uma criança desaparecida ou rastrear um veículo roubado. No entanto, o mesmo sistema, projetado para a máxima coleta de dados e o compartilhamento fácil, pode se transformar em uma ferramenta de rastreamento persistente e escalável de pessoas comuns que não são suspeitas de nenhum crime.

Um grande fornecedor norte-americano de ALPR construiu uma vasta rede de dados usada por milhares de órgãos. O resultado não foi apenas um “policiamento eficiente”. O sistema se tornou, na prática, um banco de dados de localização em escala nacional, que facilitava seguir motoristas repetidas vezes e formar históricos de deslocamento ao longo de semanas e meses, sem uma finalidade relevante.

A tecnologia fez o que foi projetada para fazer. Mas a governança falhou, e o público pagou o preço.

O que realmente deu errado e por que isso continua acontecendo

Essas falhas não são incidentes isolados. São estruturais. O modelo de negócios recompensa a coleta, o armazenamento e o compartilhamento de dados, porque é isso que torna o produto poderoso. Contudo, esse mesmo poder é o que o torna perigoso.

Veja o que aparece repetidamente quando esses sistemas são investigados.

O “compartilhamento” vira uma brecha para contornar a lei

Quando os dados das placas passam para o sistema em nuvem de um fornecedor, escapam das leis locais. De repente, esses dados ficam acessíveis à polícia ou a órgãos federais de outras localidades, sem as salvaguardas que eleitores e legisladores acreditavam existir. Esse compartilhamento de dados é uma brecha que permite aos órgãos contornar legalmente restrições a determinadas investigações policiais.

Nenhuma responsabilização real: “pesquise primeiro, justifique depois”

Se os registros são frágeis, as auditorias são raras e as buscas não estão vinculadas à documentação real de um caso, o abuso é inevitável. É assim que ferramentas de vigilância passam a ser usadas para vinganças pessoais, perseguição política ou para rastrear pessoas sem nenhuma finalidade legítima de segurança pública. Se ninguém precisa justificar sua busca, as pessoas abusarão do sistema.

Segurança inadequada para a finalidade

O enorme volume de dados sensíveis de localização e de vídeo coletados por empresas que usam análise de vídeo baseada em IA exige a mais alta segurança, mas pesquisadores e investigações descobriram repetidamente falhas graves de segurança, entre elas dispositivos frágeis, interfaces expostas e transmissões desprotegidas. Quando o sistema é inseguro, não se trata apenas de “TI de má qualidade”. É um risco público.

Histórico de denúncias, processos judiciais e reação do público

Grupos de defesa das liberdades civis e jornalistas manifestaram repetidamente preocupações com a vigilância em massa, o rastreamento inconstitucional, o uso enviesado e o compartilhamento não autorizado de dados. O problema de fundo não é apenas um punhado de funcionários mal-intencionados. É um sistema que normalizou o abuso e dificultou sua detecção.

Se um fornecedor não consegue cumprir os padrões básicos de privacidade, segurança e responsabilização, não deveria coletar dados do público.

E, ainda assim, esses fornecedores continuam ganhando contrato atrás de contrato.

Essa é a parte mais revoltante: empresas de “análise de vídeo com IA para segurança pública” acusadas de violar leis e direitos continuam sendo recompensadas com dinheiro público, porque promovem seus sistemas com o termo da moda, “IA”, e a promessa de “segurança”.

Esse é o conflito moral que as cidades não podem ignorar. Os órgãos de segurança pública existem para fazer cumprir a lei. Mas não é possível fazer cumprir a lei com uma mão enquanto se terceiriza o descumprimento com a outra. Então, como um órgão pode justificar uma parceria com uma empresa acusada de criar ferramentas que viabilizam vigilância ilegal, uso indevido de dados ou violações de direitos?

Os requisitos reais para uma IA ética na segurança pública

Toda cidade que usa ALPR ou plataformas de inteligência de vídeo precisa adotar padrões inegociáveis. Não “confie em nós”. Não “levamos a privacidade a sério”. São necessários requisitos rígidos e exigíveis, que mudem o comportamento.

Padrões técnicos básicos

  • Criptografia de ponta a ponta e autenticação multifator
  • Controles de acesso rigorosos baseados em funções e segmentação
  • Minimização de dados (coletar menos, reter menos) e processamento no próprio dispositivo sempre que possível
  • Registros à prova de adulteração e trilhas de auditoria obrigatórias

Padrões básicos de governança

  • Limites claros de finalidade (para que pode ser usado e para que não pode)
  • Limites técnicos e contratuais rigorosos ao compartilhamento, inclusive entre jurisdições e com acesso federal
  • Auditorias independentes e relatórios públicos
  • Um mecanismo real de responsabilização: toda busca sensível deve estar vinculada a um caso documentado e disponível para revisão posterior.
  • Os órgãos devem poder exportar e verificar os registros de cada consulta e de cada ação de compartilhamento de dados.

O ponto central é que a justificativa deve ser um requisito obrigatório incorporado ao sistema.

Se os usuários sabem que precisam vincular um identificador de caso às suas ações e que essas ações serão examinadas, isso será um poderoso fator de dissuasão contra o uso indevido do sistema.

Onde a IREX se encaixa

A IREX foi criada especificamente para evitar as falhas que vemos repetidamente nas redes dos fornecedores de vigilância. Em vez de depender de retórica de marketing ou de emitir declarações de privacidade, ela foi projetada com salvaguardas técnicas para dissuadir proativamente o abuso e garantir a responsabilização.

Como isso funciona na prática:

  • A arquitetura controlada pelo órgão garante que o cliente mantenha o controle sobre a soberania dos dados, a retenção e a conformidade, impedindo que os serviços em nuvem do fornecedor criem brechas legais ou técnicas.
  • A separação rigorosa entre órgãos impede o acesso casual aos dados por outros departamentos.
  • O acesso obrigatório com base em casos garante que ações sensíveis não possam ser executadas sem a documentação correspondente.
  • Registros de auditoria pesquisáveis e exportáveis tornam a supervisão eficaz e verificável.
  • Ferramentas seguras de comunicação interna evitam o vazamento de dados por aplicativos de consumo e canais paralelos.

A lição dos repetidos escândalos de ALPR é simples: conveniência sem governança se torna um desastre para as liberdades civis.

É hora de acabar com o financiamento público de sistemas que violam direitos.

Se você é um gestor municipal, um responsável por compras públicas ou um líder de segurança pública:

  • Pare de comprar sistemas de “vigilância com IA” que não conseguem comprovar segurança e auditabilidade rigorosas.
  • Exija registros específicos por caso, auditorias independentes e controles rigorosos de compartilhamento.
  • Torne públicas todas as políticas de uso do sistema e os relatórios de transparência.
  • Rescinda os contratos quando os fornecedores não conseguirem manter as proteções básicas.

Se você é morador:

  • Pergunte à sua cidade quem tem acesso aos seus dados de localização, por quanto tempo eles são mantidos e com quem são compartilhados.
  • Exija os registros de auditoria. Exija as políticas. Exija as provas.
  • Diga aos seus representantes que a segurança pública não exige rastreamento em massa e não justifica financiar empresas que lucram violando direitos fundamentais.

Em resumo:

Um sistema de vigilância que pode ser objeto de abuso será objeto de abuso.

E um governo que financia repetidamente um sistema assim endossa ativamente esse resultado.

Então, aqui está uma lista de verificação para a sua próxima sessão da câmara municipal

Comece com esta pergunta: “Apresentem-nos uma comprovação escrita, em linguagem simples, de todas as salvaguardas técnicas e contratuais que impedem o abuso e o compartilhamento ilegal de dados”.

Transparência

  • Contrato completo e todos os aditivos, sem exceções “confidenciais” para os termos de privacidade e segurança
  • Política de dados do fornecedor: o que é coletado, onde é armazenado, por quanto tempo é mantido e quem pode acessar
  • Uma política de uso pública: o que o sistema pode fazer e, explicitamente, o que não pode fazer

Limites rígidos à coleta e ao armazenamento

  • Retenção padrão curta, mais longa somente com necessidades documentadas e específicas de cada caso
  • Minimização de dados: coletar apenas o que é necessário, e não “tudo porque podemos”
  • Proibição de construir “históricos de deslocamento”, a menos que vinculados a um caso documentado e a um padrão legal

Fechar as brechas de compartilhamento de dados

  • Nenhum compartilhamento entre jurisdições por padrão; apenas por adesão voluntária, com justificativa por escrito
  • Nenhum acesso federal, a menos que seja expressamente aprovado, registrado e divulgado publicamente
  • Proibições claras ao uso do sistema para contornar restrições estaduais e locais por meio de acesso de terceiros

Responsabilização real

  • Identificador de caso obrigatório para toda busca sensível: sem identificador de caso, sem busca
  • Registros detalhados: quem pesquisou, o quê, por quê e como os resultados foram usados
  • Auditorias independentes pelo menos uma vez por ano e após mudanças ou incidentes importantes
  • Penalidades claras para o uso indevido: políticas disciplinares, revogação de acesso e encaminhamento às instâncias competentes

Segurança verificável em vez de confiança cega

  • Criptografia de ponta a ponta e MFA para todos os usuários
  • Controles de acesso baseados em funções e separação rigorosa entre órgãos
  • Testes de segurança regulares por terceiros, com resumos publicamente disponíveis
  • Notificações de violação com prazos rigorosos e divulgação pública

Supervisão e relatórios públicos

  • Relatórios trimestrais de transparência: número de buscas, buscas vinculadas a casos, compartilhamentos e incidentes fora da política
  • Supervisão civil para revisar as auditorias e a conformidade
  • Processo claro de reclamação e escalonamento, fora da corregedoria

Limites intransponíveis nas compras

  • A cidade pode exportar e validar todos os registros a qualquer momento
  • Cláusula de rescisão por uso indevido reiterado, falhas de segurança ou compartilhamento ilegal
  • “Sem padrões enganosos”: nenhum compartilhamento por padrão, parcerias de dados ocultas ou monetização secundária.

E lembre-se sempre:

Se cada busca sensível não puder ser vinculada a um caso documentado e auditada de forma independente, essa ferramenta não é segurança pública: é vigilância em massa.

Se o fornecedor não aceitar limites rigorosos de compartilhamento e registros de auditoria verificados, você deve presumir que o uso indevido é uma característica do sistema, e não uma falha.

Todos os Artigos do Blog

Prefere conversar?

Converse com um especialista da IREX em segurança pública sobre sua rede de câmeras, a implantação e os requisitos de conformidade.

Agende uma Demonstração

Diga-nos aproximadamente quantas câmeras você opera, onde os dados precisam permanecer e as três ou quatro coisas que mais precisa detectar. Vamos preparar uma demonstração com suas próprias gravações.

Se o formulário não estiver disponível, envie um e-mail para [email protected].

Perguntas Frequentes

A IREX funciona com nossas câmeras atuais?

Sim. Reutilizar suas câmeras atuais é o modelo padrão de implantação. A IREX acrescenta IA às câmeras que você já opera, de um único local a uma cidade ou país inteiro, sem substituir o parque instalado.

Mantemos a propriedade dos nossos dados?

Sim. Os clientes mantêm 100% da propriedade e do controle dos dados. A IREX não possui nem acessa vídeos, eventos, registros ou plantas dos clientes.