El Sesgo en el Reconocimiento Facial y Qué Hacemos al Respecto

El Sesgo en el Reconocimiento Facial y Qué Hacemos al Respecto

Todos los algoritmos de reconocimiento facial varían en su desempeño según el tipo de rostro. En otras palabras, su precisión de reconocimiento depende del género, el grupo de edad, el color de piel, el ángulo de visión y las condiciones de iluminación de la persona que se identifica. Esto también es cierto para el cerebro humano.

¿Qué causa el sesgo?

  • Los conjuntos de datos de entrenamiento pueden contener ejemplos insuficientes de rostros de minorías étnicas y de personas más jóvenes o mayores, debido a la distribución de la población o a la disponibilidad de fotos de dominio público.
  • Variabilidad de la apariencia: existe un sesgo “natural” en la forma en que las personas cambian de apariencia. Por ejemplo, la precisión al reconocer a las mujeres es menor que la de los hombres porque, en promedio, las mujeres se maquillan y cambian de peinado con más frecuencia. Los hombres y las mujeres envejecen de manera distinta.
  • Calidad de la foto: El desempeño depende de la calidad de la foto original de la base de datos de la lista de vigilancia y de las cámaras CCTV. Por ejemplo, una foto de calidad inadecuada agregada a una lista de vigilancia puede causar falsas alertas que podrían derivar en detenciones erróneas y encuentros innecesarios con la policía.
  • Física de la imagen: la piel negra refleja menos fotones que la piel blanca, por lo que la foto resultante de una persona negra puede no tener suficiente rango dinámico. En condiciones de poca luz, el detector de rostros puede ignorar por completo a una persona negra.

Para obtener más información sobre los distintos tipos de sesgo de la IA, lea A Draft Proposal for Identifying and Managing Bias in Artificial Intelligence del NIST (página 14).

¿Qué hace IREX respecto del sesgo en el reconocimiento facial?

El servicio de IREX está diseñado con restricciones y salvaguardas del sistema para ofrecer una solución integral al problema del sesgo:

  • Concientización sobre el sesgo: Nos aseguramos de que nuestros clientes conozcan el sesgo compartiendo las Mejores Prácticas de IA Ética de IREX y ofreciendo capacitación.
  • Advertencia al usuario: La interfaz de IREX ofrece a los usuarios autorizados una advertencia clara sobre el posible sesgo en la precisión del reconocimiento. Por ejemplo, IREX usa 3 colores (verde, amarillo y rojo) para indicar el nivel de confianza. IREX reconoce automáticamente los grupos demográficos con mayor riesgo de sesgo (por ejemplo, mujeres negras).
  • Evaluación del sesgo: IREX somete periódicamente sus algoritmos al Face Recognition Vendor Test (FRVT) del National Institute of Standards and Technology (NIST) para obtener una evaluación independiente de los sesgos. Los informes del NIST están disponibles al público sin costo.
  • Equilibrio del conjunto de datos: El equipo de IA de IREX optimiza continuamente el conjunto de datos de entrenamiento para compensar cualquier sesgo de desempeño entre los distintos tipos de rostro.
  • Optimización de los algoritmos de entrenamiento: IREX mejora continuamente los algoritmos de entrenamiento para minimizar el sesgo causado por los conjuntos de datos.

Vea la demostración de IREX del seminario web sobre ética de la IA

Todos los Artículos del Blog

¿Prefiere hablarlo?

Converse con un especialista en seguridad pública de IREX sobre su entorno de cámaras, el despliegue y los requisitos de cumplimiento.

Solicitar una Demostración

Indíquenos aproximadamente cuántas cámaras opera, dónde deben permanecer los datos y las tres o cuatro cosas que más necesita detectar. Prepararemos una demostración con sus propias grabaciones.

Si el formulario no está disponible, escriba a [email protected].

Preguntas Frecuentes

¿IREX funciona con nuestras cámaras actuales?

Sí. Reutilizar sus cámaras es el modelo habitual de despliegue. IREX incorpora IA en la red que ya opera, desde un sitio hasta una ciudad o un país, sin un programa de reemplazo.

¿Conservamos la propiedad de los datos?

Sí. El cliente conserva la propiedad y el control del 100% de sus datos. IREX no posee ni accede al video, eventos, registros o planos del cliente.