IREX Realiza un Estudio Integral para Estimar el Sesgo en el Reconocimiento de Sospechosos
IREX, líder mundial en IA ética, ha completado un estudio integral para estimar los sesgos de reconocimiento en su tecnología de reconocimiento de sospechosos en tiempo real. Como parte de nuestro compromiso con la transparencia y la IA ética, este estudio evalúa la precisión y la equidad de nuestra tecnología en distintos grupos étnicos y colores de piel. Los resultados, compartidos con todos los usuarios de la plataforma de IA ética de IREX, demuestran una variación mínima en la precisión, inferior al 2%, entre distintos grupos étnicos y colores de piel, lo que garantiza la confiabilidad y la equidad de nuestra tecnología.
Medidas de mitigación de sesgos
En IREX nos comprometemos a desarrollar modelos de inteligencia artificial que no solo sean precisos, sino también justos e imparciales. En el contexto del reconocimiento facial, esto significa asegurar que nuestras redes neuronales estén diseñadas para reconocer a las personas sin importar su raza o etnia.
Para lograr este objetivo, hemos implementado varias medidas clave durante el proceso de entrenamiento:
- Validación diversa: Probamos con regularidad el desempeño de nuestro modelo en una variedad de conjuntos de datos que incluyen personas de distintos orígenes raciales y étnicos, edades y posturas. Esto nos ayuda a identificar y corregir cualquier sesgo que pueda surgir.
- Variación de color (color jittering): Durante la preparación de los datos, aplicamos transformaciones de color a las imágenes, lo que lleva al modelo a centrarse en los rasgos faciales en lugar del tono de piel u otras características físicas.
- Transformaciones geométricas: También aplicamos diversas transformaciones geométricas, incluidas las volumétricas. Esto ayuda a evitar que el modelo dependa en exceso de ciertas características que pueden ser más frecuentes en un grupo racial que en otro.
- Creación de conjuntos de datos diversos: Nuestro enfoque consiste en combinar varios conjuntos de datos de diferentes orígenes, incluido nuestro propio conjunto de datos personalizado, para crear una representación rica y diversa de las personas. Esto ayuda a garantizar que nuestro modelo se entrene con una amplia gama de rasgos y patrones faciales, lo que a su vez reduce la probabilidad de sesgo racial.
“Al incorporar estas medidas en nuestras redes neuronales de reconocimiento facial, podemos desarrollar modelos que no solo son precisos, sino también justos y respetuosos de las diferencias individuales. En IREX creemos que es esencial dar prioridad a la equidad y la transparencia en el desarrollo de la IA, y estamos comprometidos con mejorar continuamente nuestras técnicas para asegurar los más altos estándares de desempeño y ética”, afirma el Dr. Filonenko, científico sénior de aprendizaje automático (ML) de IREX.
Descripción general del estudio
IREX utilizó la base de datos de pruebas Racial Faces in-the-Wild (RFW), que incluye cuatro subconjuntos distintos: caucásico, asiático, indio y africano. Cada subconjunto contiene aproximadamente 3,000 personas únicas con 6,000 pares de imágenes para la verificación facial, lo que ofrece un conjunto de datos sólido para evaluar el desempeño de nuestra tecnología.
Resultados
Precisión de verificación de la versión GPU del reconocimiento de sospechosos de IREX
- Caucásico: 99.15%
- Africano: 98.23%
- Indio: 98.20%
- Asiático: 97.20%
Estos resultados demuestran una variación mínima en la precisión, con una diferencia entre los conjuntos de datos de mejor y peor desempeño de apenas 1.95% en la versión GPU.
Precisión de verificación de la versión CPU del reconocimiento de sospechosos de IREX
- Caucásico: 98.55%
- Africano: 97.30%
- Indio: 97.32%
- Asiático: 96.67%
La diferencia entre los conjuntos de datos de mejor y peor desempeño fue de 1.88% en la versión CPU.
Análisis comparativo
Según Mei Wang et al., las diferencias de precisión en las API comerciales de terceros (por ejemplo, Microsoft, Amazon) varían de manera significativa, entre 5.58% y 12.30%. En comparación, el motor de reconocimiento de sospechosos de IREX presenta el menor sesgo, lo que pone de manifiesto nuestro compromiso de minimizar el sesgo racial en nuestras tecnologías de IA.
Compromiso continuo
En IREX monitoreamos y evaluamos de forma rutinaria las métricas de sesgo entre distintos grupos étnicos, grupos de edad y géneros para asegurar que nuestras tecnologías sigan siendo justas y equitativas.
“Nos dedicamos a la mejora continua y a la transparencia, y compartimos estos resultados con todos los usuarios de la plataforma de IA ética de IREX para ayudarlos a comprender las limitaciones y fortalezas de nuestra tecnología”. - afirma Calvin Yadav, CEO de IREX.Conozca más sobre la analítica de video con IA ética de IREX