Como Governar o Uso Ético da IA na Vigilância
O mundo ocidental tem um problema. Uma tecnologia revolucionária como a inteligência artificial já chegou, mas a conscientização e o conhecimento no setor público não. Há escassez de talentos de engenharia nos EUA…
A sociedade está sendo privada de novas tecnologias inovadoras que tornariam nossas comunidades, escolas e cidades mais seguras.
O mundo ocidental tem um problema. Uma tecnologia revolucionária como a inteligência artificial já chegou, mas a conscientização e o conhecimento no setor público não. Há escassez de talentos de engenharia nos EUA, uma falta alarmante de parâmetros para uma estrutura ética, a não adoção de qualquer produto de IA e, evidentemente, uma ausência de colhões no setor público. Tudo está sendo conduzido pelo setor privado.
Então, qual é a resposta? Vamos dividir o assunto em quatro partes. Começarei pela tecnologia que já está disponível, depois o que está acontecendo atualmente, o que não queremos ser e, por fim, como governar de maneira eficaz o uso ético da IA na vigilância.
A tecnologia disponível hoje
Em poucas palavras, a inteligência artificial avançou a um ponto em que, se um evento, uma pessoa ou um veículo aparecer sob vigilância, ela pode disparar um alerta às autoridades ou aos profissionais apropriados, usando todas as câmeras existentes. As cidades deveriam usar toda a sua infraestrutura atual para localizar e recuperar crianças desaparecidas e vítimas de tráfico de pessoas, ao mesmo tempo que mantêm as comunidades protegidas de agressores sexuais que descumprem as exigências legais.
Embora 99,99% da sociedade concordasse em usar os casos de uso acima como ponto de partida fundamental, o uso de detecção de armas em escolas e campi seria visto como algo também aceito pela maioria. Há inúmeros outros eventos que podem ser disparados pela vigilância, como veículos não autorizados ou procurados, aglomerações perigosas, comportamento suspeito e muito mais, mas vamos passar ao que os tomadores de decisão nas cidades e na sociedade estão fazendo com essa nova tecnologia disponível.

O que está acontecendo atualmente no setor público
O maior problema do setor público é a falta interna de conhecimento e de especialização em inteligência artificial e na ética que a envolve, pois tudo isso vem do setor privado. Então, o que o setor público está fazendo? Infelizmente, falta de colhões e, na prática, esconder a cabeça na areia, passando o problema aos sucessores, simplesmente fechando os olhos e os ouvidos. Quero dizer, você falaria a respeito de algo que não conhece ou não entende por completo, ou tomaria uma decisão sobre isso?
Dito isso, a falta de decisão está custando caro às nossas comunidades. Neste momento, a adoção de IA é vista como um risco por todos os que buscam a reeleição. Minha mensagem a eles é que vocês devem ter medo de correr esse risco, mas devem ter ainda mais medo de permanecer onde estamos. Usar as estruturas éticas existentes sobre como utilizar a tecnologia é fundamental. Mais sobre isso é apresentado na solução.
Com Quem (e o Quê) Não Queremos Nos Parecer
Podemos aprender muito com os outros na vida, seja para implementar ou para evitar no futuro. Um certo grande país a leste implementou IA em câmeras com um clima de 1984, de George Orwell: créditos sociais e forças de segurança monitorando a sociedade em massa, sem que as comunidades e a sociedade os responsabilizem. Isso não podemos tolerar na sociedade ocidental. Não queremos pessoas sendo reconhecidas por IA por multas de estacionamento não pagas. Temos de usar a IA deliberadamente, por motivos relevantes e conduzidos pela sociedade.
Temos de preservar as liberdades civis que prezamos, e podemos promover a governança participativa, que traz a solução.
Como governar o uso ético da IA na vigilância
Começamos com a transparência desde a concepção. É fundamental que cada ação de cada usuário seja registrada, o que significa que cada usuário pode ser auditado: nenhuma etapa oculta, nenhuma busca oculta. Assim, nós, dentro das nossas sociedades e comunidades, podemos confiar que aqueles que nos protegem usam a tecnologia de maneira ética. Confiamos, mas verificamos.
Vamos a exemplos: a tecnologia está em um nível em que, para todos os dispositivos conectados (câmeras), é possível realizar buscas enviando a foto de uma pessoa ou de um veículo. Você pode ver, em ordem cronológica, se e quando essa pessoa ou esse veículo apareceu pela última vez sob vigilância. É aí que o Technology Integrity Council e outros semelhantes, com membros das comunidades, têm a capacidade de auditar se aqueles que nos protegem estão usando a tecnologia por motivos justificáveis.
E quanto àqueles que nos protegem? Forças policiais, departamentos de xerifes, agências de inteligência e assim por diante. Sem dúvida, a tecnologia vai ajudar na recuperação de vítimas de tráfico de pessoas, na localização de crianças desaparecidas e na localização de agressores sexuais que descumprem as exigências legais. Será uma ferramenta revolucionária para as suas operações, mas também fornecerá uma justificativa clara para as suas decisões, algo que protegerá as suas ações de abordar e interrogar pessoas e veículos.
No momento, a distância entre as forças de segurança e a sociedade parece nunca ter sido tão grande. Com a inteligência artificial, essa distância será reduzida de forma significativa. A sociedade agora tem uma ferramenta para garantir que as forças de segurança usarão sua ferramenta mais revolucionária de maneira ética, enquanto as forças de segurança se tornarão transparentes quanto às suas decisões ao usar a tecnologia.