Diseñado para la Ética: Conozca a David Bain, Oficial de Ética y Cumplimiento de IREX
David Bain (Washington, D.C.), Oficial de Ética y Cumplimiento de IREX, habla sobre la implementación de la ética en las tecnologías de IA y Smart City.
David Bain (Washington, D.C.), Oficial de Ética y Cumplimiento de IREX, habla sobre la implementación de la ética en las tecnologías de IA y Smart City.
En cada proyecto de IREX, la máxima prioridad es optimizar la seguridad y la tecnología que mejora la vida dentro de las normas éticas y de privacidad de las sociedades libres. Esto comienza en el nivel de la arquitectura del sistema. La ética está incorporada en el diseño de las restricciones y salvaguardas del sistema que afectan qué datos se crean y cómo, y por quién, se accede a ellos, se almacenan y se comparten. Este es un desafío complejo en el que IREX invierte para hacerlo bien. ¿Por qué? Porque la capacidad de demostrar el cumplimiento de las leyes fundamentales de privacidad y de los estándares éticos de IA, que evolucionan con rapidez, es de una importancia monumental para cualquier usuario a gran escala de IA, ya sea una organización pública o privada.
IREX cumple plenamente, y permite que sus socios y licenciatarios trabajen en pleno cumplimiento de, las leyes fundamentales de privacidad del mundo: GDPR, CCPA, CIPA, FERPA, COPPA y HIPAA. Esperamos con interés las iniciativas legislativas en desarrollo sobre la ética de la IA en Europa y Estados Unidos. Considero que IREX está muy por delante en este aspecto, al trabajar de manera proactiva para identificar y mitigar los riesgos para la privacidad. IREX lo logra con el diseño del sistema y la innovación, lo que habilita factores de diferenciación que se consideran con orgullo extensiones de la cultura de IREX que prioriza la ética.
En lugar de ignorar el desafío o intentar resolverlo todo por su cuenta, IREX participa en el grupo de trabajo del Technology Integrity Council sobre este tema, y apoya un proceso transparente, abierto a todas las partes interesadas, incluidos los usuarios y el público, para determinar, mantener y actualizar los estándares y los mecanismos de verificación por terceros del cumplimiento ético.
Los municipios, las autoridades de transporte y fronterizas, así como los operadores de instalaciones privadas como hoteles y centros turísticos, se encuentran entre la espada y la pared. Desean desesperadamente la seguridad y la disuasión que hacen posibles la analítica de video proactiva y en tiempo real, pero no quieren caer por la pendiente resbaladiza hacia un estado policial como el de Corea del Norte ni hacia nada que pueda ser criticado por pisotear los derechos y las libertades individuales de los ciudadanos.
Para reconocer este problema evidente que nadie menciona, las empresas del ámbito de la analítica de video y el reconocimiento facial han tomado en su mayoría dos caminos frente a esta cuestión: algunas, en especial las que tienen ofertas tecnológicas más grandes y generales, han abandonado este ámbito por completo y optaron por evitar controversias costosas. Otras simplemente han ignorado las preocupaciones por las libertades y las salvaguardas, sin abordar el tema o abordándolo solo con semántica y argumentos de discurso.
IREX se encuentra en marcado contraste con los demás en este aspecto. Como ganador del primer lugar, el n.º 1, de la competencia del NIST sobre la eficacia de esta clase de tecnología, IREX no se aparta ni ignora el problema. IREX lo trata como un desafío por resolver y una oportunidad de construir un segundo pilar (además del rendimiento del sistema) con el que IREX, junto con sus socios y licenciatarios, pueda ofrecer un valor superior.