IREX Realiza Estudo Abrangente para Estimar Vieses no Reconhecimento de Suspeitos
A IREX, líder global em IA Ética, concluiu um estudo abrangente para estimar vieses de reconhecimento em sua tecnologia de reconhecimento de suspeitos em tempo real. Como parte do nosso compromisso com a transparência e a IA ética, este estudo avalia a precisão e a imparcialidade da nossa tecnologia entre diferentes grupos étnicos e cores de pele. Os resultados, compartilhados com todos os usuários da plataforma IREX Ethical AI, demonstram uma variação mínima de precisão, inferior a 2%, entre diferentes grupos étnicos e cores de pele, o que assegura a confiabilidade e a imparcialidade da nossa tecnologia.
Medidas de mitigação de vieses
Na IREX, temos o compromisso de desenvolver modelos de Inteligência Artificial que sejam não apenas precisos, mas também justos e imparciais. No contexto do reconhecimento facial, isso significa garantir que nossas redes neurais sejam projetadas para reconhecer as pessoas independentemente de raça ou etnia.
Para alcançar esse objetivo, implementamos várias medidas importantes durante o processo de treinamento:
- Validação diversificada: Testamos regularmente o desempenho do nosso modelo em uma série de conjuntos de dados com pessoas de diferentes origens raciais e étnicas, idades e posturas. Isso nos ajuda a identificar e corrigir quaisquer vieses que possam surgir.
- Variação de cor (color jittering): Durante a preparação dos dados, aplicamos transformações de cor às imagens, o que incentiva o modelo a se concentrar nas características faciais, e não no tom de pele ou em outras características físicas.
- Transformações geométricas: Também aplicamos diversas transformações geométricas, incluindo as volumétricas. Isso ajuda a evitar que o modelo dependa demais de certas características que podem ser mais frequentes em um grupo racial do que em outro.
- Criação de conjuntos de dados diversificados: Nossa abordagem combina vários conjuntos de dados de origens diferentes, incluindo o nosso próprio conjunto de dados personalizado, para criar uma representação rica e diversa de pessoas. Isso ajuda a garantir que nosso modelo seja treinado com uma ampla gama de características e padrões faciais, o que, por sua vez, reduz a probabilidade de viés racial.
“Ao incorporar essas medidas às nossas redes neurais de reconhecimento facial, conseguimos desenvolver modelos que são não apenas precisos, mas também justos e respeitosos das diferenças individuais. Na IREX, acreditamos que é essencial priorizar a imparcialidade e a transparência no desenvolvimento de IA, e temos o compromisso de aprimorar continuamente nossas técnicas para garantir os mais altos padrões de desempenho e ética”, afirma o Dr. Filonenko, Cientista Sênior de ML da IREX.
Visão geral do estudo
A IREX utilizou a base de testes Racial Faces in-the-Wild (RFW), que inclui quatro subconjuntos distintos: caucasianos, asiáticos, indianos e africanos. Cada subconjunto contém aproximadamente 3.000 indivíduos únicos, com 6.000 pares de imagens para verificação facial, o que fornece um conjunto de dados robusto para avaliar o desempenho da nossa tecnologia.
Resultados
Precisão de verificação da versão GPU do reconhecimento de suspeitos da IREX
- Caucasianos: 99,15%
- Africanos: 98,23%
- Indianos: 98,20%
- Asiáticos: 97,20%
Esses resultados demonstram uma variação mínima de precisão, com a diferença entre o melhor e o pior conjunto de dados de apenas 1,95% na versão GPU.
Precisão de verificação da versão CPU do reconhecimento de suspeitos da IREX
- Caucasianos: 98,55%
- Africanos: 97,30%
- Indianos: 97,32%
- Asiáticos: 96,67%
A diferença entre o melhor e o pior conjunto de dados foi de 1,88% na versão CPU.
Análise comparativa
Segundo Mei Wang et al., as diferenças de precisão em APIs comerciais de terceiros (por exemplo, Microsoft e Amazon) variam significativamente, de 5,58% a 12,30%. Em comparação, o mecanismo de reconhecimento de suspeitos da IREX apresenta o menor viés, o que evidencia nosso compromisso em minimizar o viés racial em nossas tecnologias de IA.
Compromisso contínuo
Na IREX, monitoramos e avaliamos rotineiramente as métricas de viés entre diferentes grupos étnicos, faixas etárias e gêneros, para garantir que nossas tecnologias continuem justas e equitativas.
“Estamos dedicados à melhoria contínua e à transparência, e compartilhamos esses resultados com todos os usuários da plataforma IREX Ethical AI para ajudá-los a compreender as limitações e os pontos fortes da nossa tecnologia.” - afirma Calvin Yadav, CEO da IREX.Saiba mais sobre a análise de vídeo com IA Ética da IREX