IREX Realiza un Estudio Integral para Estimar el Sesgo en el Reconocimiento de Sospechosos

IREX, líder mundial en IA ética, ha completado un estudio integral para estimar los sesgos de reconocimiento en su tecnología de reconocimiento de sospechosos en tiempo real. Como parte de nuestro compromiso con la transparencia y la IA ética, este estudio evalúa la precisión y la equidad de nuestra tecnología en distintos grupos étnicos y colores de piel. Los resultados, compartidos con todos los usuarios de la plataforma de IA ética de IREX, demuestran una variación mínima en la precisión, inferior al 2%, entre distintos grupos étnicos y colores de piel, lo que garantiza la confiabilidad y la equidad de nuestra tecnología.

Medidas de mitigación de sesgos

En IREX nos comprometemos a desarrollar modelos de inteligencia artificial que no solo sean precisos, sino también justos e imparciales. En el contexto del reconocimiento facial, esto significa asegurar que nuestras redes neuronales estén diseñadas para reconocer a las personas sin importar su raza o etnia.

Para lograr este objetivo, hemos implementado varias medidas clave durante el proceso de entrenamiento:

  • Validación diversa: Probamos con regularidad el desempeño de nuestro modelo en una variedad de conjuntos de datos que incluyen personas de distintos orígenes raciales y étnicos, edades y posturas. Esto nos ayuda a identificar y corregir cualquier sesgo que pueda surgir.
  • Variación de color (color jittering): Durante la preparación de los datos, aplicamos transformaciones de color a las imágenes, lo que lleva al modelo a centrarse en los rasgos faciales en lugar del tono de piel u otras características físicas.
  • Transformaciones geométricas: También aplicamos diversas transformaciones geométricas, incluidas las volumétricas. Esto ayuda a evitar que el modelo dependa en exceso de ciertas características que pueden ser más frecuentes en un grupo racial que en otro.
  • Creación de conjuntos de datos diversos: Nuestro enfoque consiste en combinar varios conjuntos de datos de diferentes orígenes, incluido nuestro propio conjunto de datos personalizado, para crear una representación rica y diversa de las personas. Esto ayuda a garantizar que nuestro modelo se entrene con una amplia gama de rasgos y patrones faciales, lo que a su vez reduce la probabilidad de sesgo racial.

“Al incorporar estas medidas en nuestras redes neuronales de reconocimiento facial, podemos desarrollar modelos que no solo son precisos, sino también justos y respetuosos de las diferencias individuales. En IREX creemos que es esencial dar prioridad a la equidad y la transparencia en el desarrollo de la IA, y estamos comprometidos con mejorar continuamente nuestras técnicas para asegurar los más altos estándares de desempeño y ética”, afirma el Dr. Filonenko, científico sénior de aprendizaje automático (ML) de IREX.

Descripción general del estudio

IREX utilizó la base de datos de pruebas Racial Faces in-the-Wild (RFW), que incluye cuatro subconjuntos distintos: caucásico, asiático, indio y africano. Cada subconjunto contiene aproximadamente 3,000 personas únicas con 6,000 pares de imágenes para la verificación facial, lo que ofrece un conjunto de datos sólido para evaluar el desempeño de nuestra tecnología.

Resultados

Precisión de verificación de la versión GPU del reconocimiento de sospechosos de IREX

  • Caucásico: 99.15%
  • Africano: 98.23%
  • Indio: 98.20%
  • Asiático: 97.20%

Estos resultados demuestran una variación mínima en la precisión, con una diferencia entre los conjuntos de datos de mejor y peor desempeño de apenas 1.95% en la versión GPU.

Precisión de verificación de la versión CPU del reconocimiento de sospechosos de IREX

  • Caucásico: 98.55%
  • Africano: 97.30%
  • Indio: 97.32%
  • Asiático: 96.67%

La diferencia entre los conjuntos de datos de mejor y peor desempeño fue de 1.88% en la versión CPU.

Análisis comparativo

Según Mei Wang et al., las diferencias de precisión en las API comerciales de terceros (por ejemplo, Microsoft, Amazon) varían de manera significativa, entre 5.58% y 12.30%. En comparación, el motor de reconocimiento de sospechosos de IREX presenta el menor sesgo, lo que pone de manifiesto nuestro compromiso de minimizar el sesgo racial en nuestras tecnologías de IA.

Compromiso continuo

En IREX monitoreamos y evaluamos de forma rutinaria las métricas de sesgo entre distintos grupos étnicos, grupos de edad y géneros para asegurar que nuestras tecnologías sigan siendo justas y equitativas.

“Nos dedicamos a la mejora continua y a la transparencia, y compartimos estos resultados con todos los usuarios de la plataforma de IA ética de IREX para ayudarlos a comprender las limitaciones y fortalezas de nuestra tecnología”. - afirma Calvin Yadav, CEO de IREX.Conozca más sobre la analítica de video con IA ética de IREX

Todas las Noticias y Eventos

¿Prefiere hablarlo?

Converse con un especialista en seguridad pública de IREX sobre su entorno de cámaras, el despliegue y los requisitos de cumplimiento.

Solicitar una Demostración

Indíquenos aproximadamente cuántas cámaras opera, dónde deben permanecer los datos y las tres o cuatro cosas que más necesita detectar. Prepararemos una demostración con sus propias grabaciones.

Si el formulario no está disponible, escriba a [email protected].

Preguntas Frecuentes

¿IREX funciona con nuestras cámaras actuales?

Sí. Reutilizar sus cámaras es el modelo habitual de despliegue. IREX incorpora IA en la red que ya opera, desde un sitio hasta una ciudad o un país, sin un programa de reemplazo.

¿Conservamos la propiedad de los datos?

Sí. El cliente conserva la propiedad y el control del 100% de sus datos. IREX no posee ni accede al video, eventos, registros o planos del cliente.