O Viés no Reconhecimento Facial e o Que Fazemos a Respeito

O Viés no Reconhecimento Facial e o Que Fazemos a Respeito

Todos os algoritmos de reconhecimento facial variam em seu desempenho conforme o tipo de rosto. Em outras palavras, sua precisão de reconhecimento depende do gênero, da faixa etária, da cor da pele, do ângulo de visão e das condições de iluminação da pessoa que está sendo identificada. Isso também vale para o cérebro humano.

O que causa o viés?

  • Conjuntos de dados de treinamento podem conter exemplos insuficientes de rostos de minorias étnicas e de pessoas mais jovens ou mais velhas, devido à distribuição da população ou à disponibilidade de fotos em domínio público.
  • Variabilidade de aparência: há um viés “natural” na forma como as pessoas mudam de aparência. Por exemplo, a precisão no reconhecimento de mulheres é menor do que a dos homens porque, em média, as mulheres usam maquiagem e mudam de penteado com mais frequência. Homens e mulheres envelhecem de maneiras diferentes.
  • Qualidade da foto: o desempenho depende da qualidade da foto original do banco de dados da lista de observação e das câmeras de CCTV. Por exemplo, uma foto de qualidade inadequada adicionada a uma lista de observação pode causar alertas falsos, levando potencialmente a prisões indevidas e a abordagens policiais desnecessárias.
  • Física da imagem: a pele negra reflete menos fótons do que a pele branca, de modo que a foto resultante de uma pessoa negra pode não ter faixa dinâmica suficiente. Em condições de pouca luz, o detector de rostos pode ignorar por completo uma pessoa negra.

Para saber mais sobre os diferentes tipos de viés em IA, leia A Draft Proposal for Identifying and Managing Bias in Artificial Intelligence, do NIST (página 14).

O que a IREX faz a respeito do viés no reconhecimento facial?

O serviço da IREX é projetado com restrições e salvaguardas no sistema para oferecer uma solução abrangente para a questão do viés:

  • Conscientização sobre o viés: garantimos que nossos clientes estejam cientes do viés, compartilhando as Melhores Práticas de IA Ética da IREX e oferecendo treinamento.
  • Aviso ao usuário: a interface da IREX fornece aos usuários autorizados um aviso claro sobre o possível viés na precisão do reconhecimento. Por exemplo, a IREX usa 3 cores, verde, amarelo e vermelho, para indicar o nível de confiança. A IREX reconhece automaticamente grupos demográficos com maior risco de viés (por exemplo, mulheres negras).
  • Avaliação do viés: a IREX submete regularmente seus algoritmos ao Face Recognition Vendor Test (FRVT) do National Institute of Standards and Technology (NIST), para obter uma avaliação independente dos vieses. Os relatórios do NIST estão disponíveis publicamente, sem custo.
  • Equilíbrio do conjunto de dados: a equipe de IA da IREX otimiza continuamente o conjunto de dados de treinamento para compensar qualquer viés de desempenho entre os diferentes tipos de rosto.
  • Otimização do algoritmo de treinamento: a IREX aprimora continuamente os algoritmos de treinamento para minimizar o viés causado pelos conjuntos de dados.

Assista à demonstração da IREX no Webinar de Ética em IA

Todos os Artigos do Blog

Prefere conversar?

Converse com um especialista da IREX em segurança pública sobre sua rede de câmeras, a implantação e os requisitos de conformidade.

Agende uma Demonstração

Diga-nos aproximadamente quantas câmeras você opera, onde os dados precisam permanecer e as três ou quatro coisas que mais precisa detectar. Vamos preparar uma demonstração com suas próprias gravações.

Se o formulário não estiver disponível, envie um e-mail para [email protected].

Perguntas Frequentes

A IREX funciona com nossas câmeras atuais?

Sim. Reutilizar suas câmeras atuais é o modelo padrão de implantação. A IREX acrescenta IA às câmeras que você já opera, de um único local a uma cidade ou país inteiro, sem substituir o parque instalado.

Mantemos a propriedade dos nossos dados?

Sim. Os clientes mantêm 100% da propriedade e do controle dos dados. A IREX não possui nem acessa vídeos, eventos, registros ou plantas dos clientes.