¿Cómo Ayuda IREX a Cumplir los Estándares Éticos en el Reconocimiento Facial?
La plataforma IREX Smart City está diseñada teniendo en cuenta los estándares éticos emergentes en IA:
1. Conciencia del sesgo: todos los algoritmos de reconocimiento facial existentes (así como el cerebro humano) muestran distintos niveles de precisión según los grupos demográficos de género, edad y color de piel. El sesgo es difícil de evitar debido a las variaciones naturales de los conjuntos de datos de entrenamiento. Los científicos de datos y los ingenieros de IA de IREX trabajan continuamente para reducir el sesgo. Al mismo tiempo, IREX participa en la NIST Face Recognition Vendor Test (FRVT) para ofrecer una evaluación independiente de los efectos demográficos.
2. Restricciones estrictas para las fuerzas del orden: IREX detecta únicamente a personas previamente identificadas para prevenir un atentado terrorista, encontrar a niños desaparecidos o enfrentar otras amenazas a la seguridad pública. IREX restringe el número de personas que pueden agregarse a la base de datos para la identificación biométrica en tiempo real. No hay reconocimiento ni rastreo de personas al azar. Conozca más.
3. Interfaz basada en permisos: las funciones de la plataforma, las bases de datos de personas, las alertas de coincidencia facial y los resultados de búsqueda solo pueden ser vistos por personal autorizado. Los usuarios de IREX no ven los datos de reconocimiento facial a menos que se les agregue a grupos de usuarios con permisos suficientes.
4. Transparencia total: IREX registra una bitácora detallada de la incorporación de personas a la base de datos y de la ejecución de consultas de búsqueda por foto. El registro admite búsquedas completas y es totalmente auditable.
5. Ciberseguridad y protección de la privacidad: IREX ha desarrollado posiblemente la plataforma más segura del mundo para Smart Cities y aplica a diario las mejores prácticas. Conozca más.