Fraser Sampson: Como Manter a Competitividade e a Ética?

Fraser Sampson: Como Manter a Competitividade e a Ética?

A interface entre ética e concorrência não é nova e certamente não é peculiar à IA: basta olhar ao redor. Onde quer que haja um mercado, existe essa tensão inerente, seja de fabricantes de veículos falsificando seus dados de emissão de carbono, de firmas de contabilidade escondendo os números ruins ou de atletas de elite fugindo de exames antidoping, tudo em nome de vencer (ou de evitar perder). Quais são as marcas da ‘concorrência ética’? Não tenho certeza de que já saibamos, mas você reconhece a concorrência antiética quando a vê.

Na minha área, a de tecnologia biométrica e de vigilância, acredito que ser eticamente competitivo em uma democracia vem da triangulação, de equilibrar o que é tecnicamente possível, o que é juridicamente permitido e o que é socialmente aceitável. Em resumo, o desafio é encontrar o ‘ponto ideal’ entre o que pode ser feito, o que deve ou não deve ser feito e o que as diferentes comunidades toleram que seja feito. Mesmo em democracias maduras, isso varia consideravelmente.

Enfatizo as democracias porque reconheço que nem todos os nossos concorrentes internacionais adotam os mesmos valores éticos. Só o tempo dirá se isso será visto como uma restrição ou como uma vantagem.

A competitividade ética na vigilância, no entanto, envolverá princípios, finalidade e proporcionalidade. Sabemos, por exemplo, como os usos humanitários da vigilância biométrica podem literalmente salvar vidas, canalizar recursos e dar refúgio a algumas das pessoas mais vulneráveis do mundo. Mas, no campo da vigilância, a proteção de uma pessoa é a opressão de outra. Uma vez construídos, os mesmos sistemas podem ser usados para dominação e exploração: podem ser usados para marginalizar, perseguir e, por fim, eliminar.

Algumas pessoas talvez precisem ser marginalizadas e processadas, e algumas atividades eliminadas. Se as novas tecnologias de vigilância podem melhorar a nossa capacidade de prevenir o terrorismo, processar quem trafica seres humanos ou eliminar sites de estupro infantil pago por visualização, quais são os argumentos éticos contra o seu emprego para esses fins?

O que nos traz de volta à triangulação. Uma pergunta fundamental sobre o uso ético da vigilância é: como sabemos que os nossos sistemas (o que é possível) estão sendo usados apenas para finalidades legítimas e autorizadas (o que é permitido) e de uma forma que a comunidade afetada esteja disposta a apoiar (o que é aceitável)?

Como outros já apontaram, a prática ética é provavelmente um diferencial neste momento, mas espero sinceramente que não continue assim. Em um mercado maduro e crível, certamente a prática ética é uma expectativa legítima, um mínimo irredutível como a segurança. Meu colega de painel Ashley Moore, do NIST, falou do Dever de Conformidade do Fornecedor (SDoC), um conceito que apoio de todo o coração, enquanto Calvin Yadav ressaltou a importância de esses fornecedores saberem o que seus clientes estão fazendo com a tecnologia que lhes foi vendida. Gostaria de ver isso desenvolvido para incluir um Dever de Conformidade do Cliente (CDoC), criando um ciclo de valor ético que seja revisado, verificado e auditado, revisto à luz da experiência e refletido na próxima iteração do produto e do serviço.

Talvez, com o surgimento da IA, a ética deva ser vista simplesmente como o zero, aquilo mesmo que nos permite contar e codificar. Ou, como descreveu o matemático Robert Kaplan, o menor dos pivôs sobre o qual giram todas as partes.

No contexto da vigilância biométrica, acredito que a ética deva ser um padrão que vem de série. Parte do STR em seu DNA. Abordada dessa forma, a prática ética torna-se intrínseca à própria concorrência. Se você não a oferece, não pode competir.

Termino em tom pessoal. Sou um corredor entusiasta, ainda que não competitivo, e usuário devoto do aplicativo Nike Run Club. Na minha corrida de hoje, usaram uma frase atribuída a Jeff Johnson, o primeiro funcionário da Nike: “compita com os outros, não contra os outros”. Acho que pode haver algo aí sobre como se manter competitivo dentro de limites éticos.

Sobre o Professor Fraser Sampson O Professor Sampson é Comissário para a Retenção e o Uso de Material Biométrico e Comissário de Câmeras de Vigilância do Reino Unido.

O Professor Sampson tem mais de 40 anos de experiência no setor de justiça criminal, tendo atuado como policial por 19 anos antes de se tornar advogado especializado em direito, conduta e governança policial.

É Professor Honorário e membro do Conselho Consultivo do Centre for Excellence in Terrorism, Resilience, Intelligence and Organised Crime research da Sheffield Hallam University, onde obteve um PHD em prestação de contas digital na segurança pública.

Também atuou como presidente nacional da Association of Police and Crime Chief Executives e, em 2012, foi nomeado diretor executivo e advogado do Police and Crime Commissioner de West Yorkshire, sendo depois cedido como diretor executivo ao Police, Fire & Crime Commissioner de North Yorkshire.

Todos os Artigos do Blog

Prefere conversar?

Converse com um especialista da IREX em segurança pública sobre sua rede de câmeras, a implantação e os requisitos de conformidade.

Agende uma Demonstração

Diga-nos aproximadamente quantas câmeras você opera, onde os dados precisam permanecer e as três ou quatro coisas que mais precisa detectar. Vamos preparar uma demonstração com suas próprias gravações.

Se o formulário não estiver disponível, envie um e-mail para [email protected].

Perguntas Frequentes

A IREX funciona com nossas câmeras atuais?

Sim. Reutilizar suas câmeras atuais é o modelo padrão de implantação. A IREX acrescenta IA às câmeras que você já opera, de um único local a uma cidade ou país inteiro, sem substituir o parque instalado.

Mantemos a propriedade dos nossos dados?

Sim. Os clientes mantêm 100% da propriedade e do controle dos dados. A IREX não possui nem acessa vídeos, eventos, registros ou plantas dos clientes.