Como Governar o Uso Ético da IA na Vigilância

Como Governar o Uso Ético da IA na Vigilância

O mundo ocidental tem um problema. Uma tecnologia revolucionária como a inteligência artificial já chegou, mas a conscientização e o conhecimento no setor público não. Há escassez de talentos de engenharia nos EUA…

A sociedade está sendo privada de novas tecnologias inovadoras que tornariam nossas comunidades, escolas e cidades mais seguras.

O mundo ocidental tem um problema. Uma tecnologia revolucionária como a inteligência artificial já chegou, mas a conscientização e o conhecimento no setor público não. Há escassez de talentos de engenharia nos EUA, uma falta alarmante de parâmetros para uma estrutura ética, a não adoção de qualquer produto de IA e, evidentemente, uma ausência de colhões no setor público. Tudo está sendo conduzido pelo setor privado.

Então, qual é a resposta? Vamos dividir o assunto em quatro partes. Começarei pela tecnologia que já está disponível, depois o que está acontecendo atualmente, o que não queremos ser e, por fim, como governar de maneira eficaz o uso ético da IA na vigilância.

A tecnologia disponível hoje

Em poucas palavras, a inteligência artificial avançou a um ponto em que, se um evento, uma pessoa ou um veículo aparecer sob vigilância, ela pode disparar um alerta às autoridades ou aos profissionais apropriados, usando todas as câmeras existentes. As cidades deveriam usar toda a sua infraestrutura atual para localizar e recuperar crianças desaparecidas e vítimas de tráfico de pessoas, ao mesmo tempo que mantêm as comunidades protegidas de agressores sexuais que descumprem as exigências legais.

Embora 99,99% da sociedade concordasse em usar os casos de uso acima como ponto de partida fundamental, o uso de detecção de armas em escolas e campi seria visto como algo também aceito pela maioria. Há inúmeros outros eventos que podem ser disparados pela vigilância, como veículos não autorizados ou procurados, aglomerações perigosas, comportamento suspeito e muito mais, mas vamos passar ao que os tomadores de decisão nas cidades e na sociedade estão fazendo com essa nova tecnologia disponível.

O que está acontecendo atualmente no setor público

O maior problema do setor público é a falta interna de conhecimento e de especialização em inteligência artificial e na ética que a envolve, pois tudo isso vem do setor privado. Então, o que o setor público está fazendo? Infelizmente, falta de colhões e, na prática, esconder a cabeça na areia, passando o problema aos sucessores, simplesmente fechando os olhos e os ouvidos. Quero dizer, você falaria a respeito de algo que não conhece ou não entende por completo, ou tomaria uma decisão sobre isso?

Dito isso, a falta de decisão está custando caro às nossas comunidades. Neste momento, a adoção de IA é vista como um risco por todos os que buscam a reeleição. Minha mensagem a eles é que vocês devem ter medo de correr esse risco, mas devem ter ainda mais medo de permanecer onde estamos. Usar as estruturas éticas existentes sobre como utilizar a tecnologia é fundamental. Mais sobre isso é apresentado na solução.

Com Quem (e o Quê) Não Queremos Nos Parecer

Podemos aprender muito com os outros na vida, seja para implementar ou para evitar no futuro. Um certo grande país a leste implementou IA em câmeras com um clima de 1984, de George Orwell: créditos sociais e forças de segurança monitorando a sociedade em massa, sem que as comunidades e a sociedade os responsabilizem. Isso não podemos tolerar na sociedade ocidental. Não queremos pessoas sendo reconhecidas por IA por multas de estacionamento não pagas. Temos de usar a IA deliberadamente, por motivos relevantes e conduzidos pela sociedade.

Temos de preservar as liberdades civis que prezamos, e podemos promover a governança participativa, que traz a solução.

Como governar o uso ético da IA na vigilância

Começamos com a transparência desde a concepção. É fundamental que cada ação de cada usuário seja registrada, o que significa que cada usuário pode ser auditado: nenhuma etapa oculta, nenhuma busca oculta. Assim, nós, dentro das nossas sociedades e comunidades, podemos confiar que aqueles que nos protegem usam a tecnologia de maneira ética. Confiamos, mas verificamos.

Vamos a exemplos: a tecnologia está em um nível em que, para todos os dispositivos conectados (câmeras), é possível realizar buscas enviando a foto de uma pessoa ou de um veículo. Você pode ver, em ordem cronológica, se e quando essa pessoa ou esse veículo apareceu pela última vez sob vigilância. É aí que o Technology Integrity Council e outros semelhantes, com membros das comunidades, têm a capacidade de auditar se aqueles que nos protegem estão usando a tecnologia por motivos justificáveis.

E quanto àqueles que nos protegem? Forças policiais, departamentos de xerifes, agências de inteligência e assim por diante. Sem dúvida, a tecnologia vai ajudar na recuperação de vítimas de tráfico de pessoas, na localização de crianças desaparecidas e na localização de agressores sexuais que descumprem as exigências legais. Será uma ferramenta revolucionária para as suas operações, mas também fornecerá uma justificativa clara para as suas decisões, algo que protegerá as suas ações de abordar e interrogar pessoas e veículos.

No momento, a distância entre as forças de segurança e a sociedade parece nunca ter sido tão grande. Com a inteligência artificial, essa distância será reduzida de forma significativa. A sociedade agora tem uma ferramenta para garantir que as forças de segurança usarão sua ferramenta mais revolucionária de maneira ética, enquanto as forças de segurança se tornarão transparentes quanto às suas decisões ao usar a tecnologia.

A tecnologia está aqui e, se pudermos reduzir um pouco o sofrimento e o mal no mundo, isso não vale a pena?

Todos os Artigos do Blog

Prefere conversar?

Converse com um especialista da IREX em segurança pública sobre sua rede de câmeras, a implantação e os requisitos de conformidade.

Agende uma Demonstração

Diga-nos aproximadamente quantas câmeras você opera, onde os dados precisam permanecer e as três ou quatro coisas que mais precisa detectar. Vamos preparar uma demonstração com suas próprias gravações.

Se o formulário não estiver disponível, envie um e-mail para [email protected].

Perguntas Frequentes

A IREX funciona com nossas câmeras atuais?

Sim. Reutilizar suas câmeras atuais é o modelo padrão de implantação. A IREX acrescenta IA às câmeras que você já opera, de um único local a uma cidade ou país inteiro, sem substituir o parque instalado.

Mantemos a propriedade dos nossos dados?

Sim. Os clientes mantêm 100% da propriedade e do controle dos dados. A IREX não possui nem acessa vídeos, eventos, registros ou plantas dos clientes.