Projetado para a Ética: Conheça David Bain, Diretor de Ética e Conformidade da IREX
David Bain (Washington, D.C.), Diretor de Ética e Conformidade da IREX, fala sobre a implementação da ética em tecnologias de IA e de Smart City.
David Bain (Washington, D.C.), Diretor de Ética e Conformidade da IREX, fala sobre a implementação da ética em tecnologias de IA e de Smart City.
Em todos os projetos da IREX, a maior prioridade é otimizar a segurança e a tecnologia que melhora a vida dentro das normas de privacidade e de ética das sociedades livres. Isso começa no nível da arquitetura do sistema. A ética é projetada nas restrições e nas salvaguardas do sistema que afetam quais dados são criados e como e por quem os dados são acessados, armazenados e compartilhados. Esse é um desafio complexo, e a IREX investe para acertá-lo. Por quê? Porque a capacidade de comprovar a conformidade com as leis fundamentais de privacidade e com padrões de IA ética em rápida evolução é de importância monumental para qualquer usuário de IA em grande escala, seja ele uma organização pública ou privada.
A própria IREX cumpre rigorosamente, e permite que seus parceiros e licenciados trabalhem em plena conformidade com, as leis fundamentais de privacidade do mundo: GDPR, CCPA, CIPA, FERPA, COPPA e HIPAA. Aguardamos com expectativa o desenvolvimento de iniciativas legislativas sobre ética em IA na Europa e nos EUA. Considero a IREX muito à frente nesse aspecto, trabalhando de forma proativa para identificar e mitigar riscos à privacidade. A IREX consegue isso com design e inovação de sistema, viabilizando diferenciais que consideramos com orgulho extensões da cultura da IREX de priorizar a ética.
Em vez de ignorar o desafio ou tentar resolvê-lo sozinha, a IREX participa do grupo de trabalho do Technology Integrity Council sobre o tema, apoiando um processo transparente, aberto a todas as partes interessadas, incluindo usuários e o público, para definir, manter e atualizar os padrões e os mecanismos de verificação por terceiros para a conformidade ética.
Municípios, autoridades de transporte e de fronteiras, assim como operadores de instalações privadas como hotéis e resorts, estão todos entre a cruz e a espada. Eles desejam desesperadamente a segurança e a dissuasão possíveis com a análise de vídeo proativa e em tempo real, mas não querem despencar ladeira abaixo rumo a um Estado policial norte-coreano nem a qualquer coisa que possa ser criticada por atropelar os direitos e as liberdades individuais dos cidadãos.
Para reconhecer esse elefante na sala, as empresas do setor de análise de vídeo e reconhecimento facial seguiram, em grande parte, dois caminhos diante dessa questão: algumas, sobretudo as que têm ofertas de tecnologia maiores e mais generalistas, saíram totalmente desse setor, optando por evitar polêmicas custosas. Outras simplesmente ignoraram as preocupações com liberdades e salvaguardas, sem abordar a questão ou abordando-a apenas com semântica e discursos prontos.
A IREX está em franco contraste com os demais nesse aspecto. Como a vencedora do primeiro lugar na competição do NIST sobre a eficácia dessa classe de tecnologia, a IREX não está se afastando nem ignorando a questão. A IREX trata o tema como um desafio a ser resolvido e uma oportunidade de construir um segundo pilar (além do desempenho do sistema) com o qual a IREX, seus parceiros e licenciados possam entregar valor superior.