Um Chamado à Liderança Ética do Comissário de Biometria e Câmeras de Vigilância do Reino Unido, Fraser Sampson

Um Chamado à Liderança Ética do Comissário de Biometria e Câmeras de Vigilância do Reino Unido, Fraser Sampson

Abril de 2022: Fraser Sampson discursa no NEC Security Event, no Reino Unido:

Obrigado. Quando assumi este cargo, em março do ano passado, eu não tinha percebido a enorme amplitude e profundidade deste tema. Se tivesse percebido, teria pedido mais dinheiro. Os desafios da vigilância biométrica são vastos, e a velocidade com que chegam é vertiginosa. A minha competência legal abrange apenas a polícia e as autoridades locais, e isso já é bastante coisa. Ao tentar dar algum sentido às questões, achei útil examiná-las de 3 pontos de vista: o Tecnológico (o que é possível), o Jurídico (o que é permitido) e o Social (o que é aceitável). Este evento tem um foco muito grande no tecnológico, no que PODE ser feito. Mas, se você não trata das outras partes, em especial do que o público vai apoiar ou mesmo tolerar, o seu mercado será bastante volátil.

Hoje pensei em começar observando o contexto em transformação em que a vigilância do espaço público acontece, às vezes de forma ruidosa e controversa, até emocional, e destacar alguns desdobramentos importantes que estamos presenciando. Talvez eu até encontre evidências do que acredito ser necessário no futuro. Devo dizer desde já que estas são opiniões e pontos de vista meus, e que não sou responsável pela política do governo, algo pelo qual suspeito que ambos somos gratos.

Comecemos com uma observação: A vigilância do espaço público já não depende de onde você instala a câmera, mas das finalidades para as quais você vai usar os bilhões de imagens disponíveis, captadas pela câmera de qualquer pessoa e de todas as pessoas

Tenham isso em mente enquanto passamos pelos slides. Vou explicar por que acredito que isso mudou tudo o que pensávamos saber sobre vigilância

Em câmeras públicas por habitante, Londres é hoje a 3ª cidade mais vigiada da Terra (73,5 câmeras por 1.000 habitantes). Em câmeras por milha quadrada, são quase 1.200, o que leva a capital ao 2º lugar. Se somarmos plataformas móveis, como drones e dispositivos vestíveis, o cálculo fica mais especulativo. Quando se consideram os sistemas comerciais que vigiam nossos centros de transporte, shopping centers e outros espaços públicos, o número está além de qualquer estimativa, mas certamente já aumentou desde que exibi o primeiro slide.

Tomemos apenas um sistema de vigilância, o nosso sistema nacional de Reconhecimento Automático de Placas (ANPR). O ANPR já registra mais leituras por segundo do que o Instagram. Na trajetória atual, chegará a 100 milhões de leituras por dia até 2023. São 1 bilhão de leituras em menos de 2 semanas. Você pode achar que uma taxa de erro de leitura de apenas 0,001 é muito boa para a maioria dos sistemas de detecção por vigilância. No ANPR, isso equivale a 100 mil por dia. Esses números são realmente astronômicos, MAS igualmente impressionante é o fato de que o ANPR não tem base legal, não tem órgão de supervisão específico e é essencial para muitas outras agências além da polícia. E ele não lê apenas a sua placa. Não tenho certeza de quanto o público sabe sobre tudo isso. Mas deveria saber, por algumas razões.

Uma delas é que, assim como a tecnologia, a relação de vigilância com o público também está mudando rapidamente. Por exemplo, o trabalho policial já não depende apenas de imagens do cidadão, mas cada vez mais de imagens fornecidas pelo cidadão. Sabemos que as pessoas estão mais dispostas a compartilhar seu conteúdo em algumas situações, ou para algumas finalidades, do que em outras. Quando esse compartilhamento se tornar uma dependência crítica, isso vai importar, e muito.

Por quê? Novamente, há várias razões. O desenvolvimento da vigilância é sistemático, o que significa que é necessária uma abordagem sistêmica. Se uma parte do sistema que vigia o espaço público usar o que as pessoas consideram tecnologia não testada, processos não confiáveis ou parceiros antiéticos, o cidadão pode ficar menos inclinado a ajudar quando outra parte do sistema precisar dele.

Outra razão é que alguns dados gerados por cidadãos podem ser pouco confiáveis, deliberadamente enganosos ou até compartilhados de forma maliciosa.

E as relações não são de mão única. A própria polícia está sob maior vigilância em todo o mundo. Não me refiro apenas à tendência de a atuação policial virar teatro de rua para as redes sociais, mas ao uso muito mais sinistro de tecnologia de vigilância para identificar policiais individualmente.

O uso de capacidade de reconhecimento facial PELA polícia tem atraído muita atenção e controvérsia, mas a vigilância policial também funciona nos dois sentidos. Uma pesquisa da BBC sobre hacktivismo e a divulgação de registros policiais mostra como ciberativistas na Bielorrússia conseguiram obter fotos dos arquivos pessoais de policiais e depois executaram comparações de reconhecimento facial com imagens da internet dos mesmos policiais, que teriam sido flagrados espancando manifestantes. Os hackers então identificaram os policiais e revelaram onde moravam. Essa história também ilustra outros riscos da coleta automatizada de dados na internet e da montagem de informações de fontes abertas (OSINT). O cidadão hoje tem acesso a ferramentas de vigilância que, há apenas uma década, eram restritas a órgãos estatais. No ano passado, a França chegou a começar a proibir a fotografia de policiais por esse motivo. Isso terá impacto em áreas como o jornalismo, a transparência e a prestação de contas, e é claro que os jornalistas também são muito vulneráveis a essas mesmas táticas de vigilância cidadã, assim como vítimas e testemunhas, e assim por diante. Ao contrário da Escócia, nós não classificamos imagens faciais como dados biométricos, e por isso quase tudo isso não é regulamentado.

Em um mundo em que a vigilância pública de rostos fosse totalmente desregulamentada, a visibilidade natural poderia se tornar vulnerabilidade escancarada: todos trocariam suas máscaras contra a COVID por coberturas totais do rosto, inclusive a polícia, e não restariam rostos públicos para reconhecer.

Queremos que a polícia do nosso bairro se pareça com este policial mexicano [foto], cuja maior vulnerabilidade é ser reconhecido enquanto trabalha e depois morto na folga?

Quanto mais intrusiva e desregulamentada se tornar a vigilância, maior será a necessidade de ocultar a identidade de quem se considera vulnerável, inclusive policiais e servidores públicos, algo que teria implicações profundas para o nosso modo de vida.

Isso é, naturalmente, uma extensão do Efeito Inibidor (Chilling Effect), e quem ainda acha que a vigilância biométrica é apenas uma questão de proteção de dados não tem prestado atenção.

Ao mesmo tempo, existe um papel claro e legítimo para o uso ético e responsável da tecnologia de vigilância biométrica no combate ao crime, e isso também está mudando rápido. Novas capacidades estão ajudando os órgãos de segurança pública e, em algumas áreas, como a exploração sexual infantil on-line, a nova tecnologia é provavelmente a única solução eficaz.

Vamos então examinar mais de perto o crime e a criminalidade. No seu relatório final como Inspetor-Chefe da Polícia de Sua Majestade, Sir Tom Winsor diz o seguinte:

“Quem, de forma consciente e deliberada, cria ou tolera as condições em que crimes são cometidos e vítimas ficam isoladas da proteção e da justiça deve ter os motivos mais poderosos para temer o direito penal, aplicado com vigor pelas instituições de segurança do Estado.”

É difícil discordar. E o papel legítimo da vigilância biométrica nessa “aplicação vigorosa do direito penal” está crescendo, tanto em escala quanto em importância.

Tom Winsor prossegue dizendo que a polícia precisa de “uma intensificação significativa de uma parceria com o setor privado, baseada de forma sólida e duradoura na confiança e no interesse comum”.

Longe de mim embelezar as declarações do Inspetor-Chefe, mas se você acrescentar o Cidadão a essa afirmação, a essa parceria, terá uma descrição quase perfeita do que acredito ser necessário na vigilância biométrica.

Sejam imagens compartilhadas por cidadãos, ANPR, IA e Aprendizado de Máquina, Reconhecimento Facial ou Perfil Rápido de DNA, uma parceria sólida e bem-sucedida com o cidadão e com o setor privado já é essencial para a vigilância biométrica na polícia e nos serviços públicos.

Se essas parcerias NÃO forem “baseadas de forma sólida e duradoura na confiança e no interesse comum”, estaremos todos em apuros.

Essa é uma das razões pelas quais NÃO PODEMOS nos associar a empresas envolvidas nos campos espalhados pelo norte da China, projetados, construídos e operados por empresas estatais para perpetuar a erradicação dos muçulmanos uigures. Onde estão as provas de que fazem isso? O Comitê de Relações Exteriores da Câmara dos Comuns é uma fonte, assim como o Tribunal Uigur, que concluiu em dezembro passado que* “estima-se que mais de um milhão de pessoas tenham sido submetidas a atos de crueldade, depravação e desumanidade inconcebíveis. * A sentença concluiu que “*Muitos dos detidos foram torturados; homens e mulheres detidos foram estuprados; uma pessoa foi vítima de estupro coletivo por policiais diante de uma plateia de cem pessoas, todas forçadas a assistir, [enquanto outras] foram estupradas por homens que * pagavam *para entrar no centro de detenção com essa finalidade.” * Ora, se isso não é “criar de forma consciente e deliberada condições em que crimes são cometidos e vítimas ficam isoladas da proteção e da justiça”, então não sei o que seria.

Esses locais e os policiais que trabalham ali dependem fortemente da vigilância biométrica, uma vigilância de última geração, projetada e operada por empresas estatais de vigilância que vendem esses mesmos sistemas de vigilância biométrica em todo o Reino Unido. Elas podem estar aqui hoje.

Como poderia, por exemplo, uma parceria policial no Reino Unido com uma empresa que projetou, construiu e operou esses locais ser descrita como “uma parceria com o setor privado baseada de forma sólida e duradoura na confiança e no interesse comum”, como prescreve o Inspetor-Chefe da Polícia de Sua Majestade? Não pode. Alguém me perguntou outro dia: ‘você consegue imaginar um membro da comunidade chinesa do Reino Unido procurando um policial para pedir ajuda e se vendo diante da lente do mesmo dispositivo corporal usado por policiais para fazer essas coisas com os muçulmanos uigures nesses locais?’ Infelizmente, eu consigo imaginar. Algumas pessoas nas autoridades locais me dizem que precisam fazer negócios com essas empresas porque o governo não proibiu ninguém, como fizeram os Estados Unidos, nem publicou uma lista do que não é permitido. Bem, se você precisa de um papel do governo dizendo por que o genocídio é antiético, tenho certeza de que podemos encontrar algo. Os Princípios Orientadores das Nações Unidas sobre Empresas e Direitos Humanos, talvez. Vejam, eu entendo que a liderança ética pode ser difícil, especialmente quando há dinheiro envolvido, e que nem todos estão à altura. Mas, por favor. Em qualquer perspectiva, ter a nossa polícia ou as nossas prefeituras em parceria com organizações que têm isso no currículo é simplesmente errado. Quanto à polícia, neste país ela adota o Modelo Nacional de Tomada de Decisão (National Decision-Making Model) que, segundo a College of Policing, coloca a ética no centro de cada decisão. Comprar sistemas de vigilância dessas empresas é uma decisão, e não é ética. Esperar que policiais e funcionários os usem também não é. Na minha opinião, “aqueles que, de forma consciente e deliberada, toleram condições em que crimes são cometidos e vítimas ficam isoladas da proteção e da justiça *não têm lugar em parcerias *com a polícia nem com qualquer outra instituição do Estado.”

A parlamentar Alicia Kearns disse há muito pouco tempo: ‘Precisamos urgentemente controlar as tecnologias de vigilância biométrica neste país, e espero que a polícia lance imediatamente uma revisão das políticas de aquisição de sistemas de vigilância para eliminar os cúmplices de escravidão e de violações de direitos humanos.’ Eu também, e em breve emitirei orientações formais tanto para a polícia quanto para as autoridades locais. Pelas razões que já expus, a importância das parcerias na vigilância biométrica não pode ser exagerada. Elas serão fundamentais, não apenas para manter a confiança do público, mas também do ponto de vista funcional.

Uma das razões práticas mais convincentes pelas quais precisamos de parcerias sólidas nesta área é a dependência crescente da Capacidade de Vigilância Agregada.

Como eu disse no início, a vigilância do espaço público já não depende de onde você instala a câmera. As investigações precisam de trechos de CCTV de ruas comerciais, mas também de imagens de câmeras veiculares, GoPros, campainhas Ring, celulares, câmeras de galpões, drones e estacionamentos. Cada vez mais lidamos com o produto de uma capacidade de vigilância agregada formada por fontes infinitas, quase todas de propriedade e operação privadas.

Quando era preciso um ser humano para editar e compilar, ninguém viveria o bastante para reunir esses dados. Seria como ordenar manualmente por tamanho cada grão de areia do Saara.

Graças aos avanços tecnológicos na capacidade de videovigilância, esses grãos de dados agora podem não apenas ser classificados e categorizados, como também comparados com os grãos de todos os outros desertos conhecidos.

Vejamos por fim a regulamentação e as implicações de tudo isso.

No contexto que acabamos de ver, não faz nenhum sentido regulamentar apenas os sistemas de câmeras operados pela polícia e pelas autoridades locais.

A regulamentação deve refletir a situação que se tenta regular, e a nossa, no momento, não reflete.

Para onde vai a vigilância? A resposta curta é provavelmente para o Comissário de Informação. Se for, ainda assim não refletirá a situação que tentamos regular.

Só o ANPR já é tão vasto e tão vital que precisa de seu próprio marco regulatório e de governança.

E o que fazer com o Reconhecimento Facial ao Vivo é a pergunta sobre vigilância que simplesmente não desaparece em praticamente todas as jurisdições com as quais trabalhei. Isso por si só deveria nos dizer algo. E, se acharmos que o uso pela polícia é controverso, esperem até que as escolas comecem a instalar capacidades de reconhecimento facial.

Qualquer que seja o marco regulatório a que chegarmos, acredito que precisaremos de parcerias legítimas e éticas com o setor privado, parcerias baseadas de forma sólida e duradoura na confiança e no interesse comum, e é por isso que considero tão importantes eventos como este. Por isso, agradeço o convite.

E, nessa nota, deixo com vocês, se me permitem, a seguinte pergunta para levarem ao restante deste evento:

Em que medida as suas parcerias de vigilância são “baseadas de forma sólida na confiança e no interesse comum”, refletindo os seus próprios valores profissionais e os de seus clientes e funcionários?

OBRIGADO

Todos os Artigos do Blog

Prefere conversar?

Converse com um especialista da IREX em segurança pública sobre sua rede de câmeras, a implantação e os requisitos de conformidade.

Agende uma Demonstração

Diga-nos aproximadamente quantas câmeras você opera, onde os dados precisam permanecer e as três ou quatro coisas que mais precisa detectar. Vamos preparar uma demonstração com suas próprias gravações.

Se o formulário não estiver disponível, envie um e-mail para [email protected].

Perguntas Frequentes

A IREX funciona com nossas câmeras atuais?

Sim. Reutilizar suas câmeras atuais é o modelo padrão de implantação. A IREX acrescenta IA às câmeras que você já opera, de um único local a uma cidade ou país inteiro, sem substituir o parque instalado.

Mantemos a propriedade dos nossos dados?

Sim. Os clientes mantêm 100% da propriedade e do controle dos dados. A IREX não possui nem acessa vídeos, eventos, registros ou plantas dos clientes.