IREX Responde a las Nuevas Directrices de Seguridad de IA del NCSC y la CISA
Hoy IREX anunció su respuesta a las recientemente publicadas "Guidelines for Secure AI System Development" del National Cyber Security Centre (NCSC) del Reino Unido y la Cybersecurity and Infrastructure Security Agency (CISA) de EE. UU.
18 de diciembre de 2023 – Hoy IREX anunció su respuesta a las recientemente publicadas “Guidelines for Secure AI System Development” del National Cyber Security Centre (NCSC) del Reino Unido y la Cybersecurity and Infrastructure Security Agency (CISA) de EE. UU. Como líder mundial en el desarrollo de servicios de video en la nube para la seguridad pública, IREX reafirma su compromiso de mantener los más altos estándares de ética y derechos humanos en el desarrollo y la aplicación de la IA.
Las nuevas directrices del NCSC y la CISA se centran en garantizar la seguridad y la integridad ética de los sistemas de IA. El CEO de IREX, Calvin Yadav, afirmó:
“Damos la bienvenida a estas directrices porque coinciden plenamente con nuestra misión de crear soluciones de IA que no solo mejoren la seguridad pública, sino que también respeten y protejan los derechos y las libertades individuales. Nuestra tecnología, utilizada por agencias de seguridad pública, gobiernos locales y diversos equipos de seguridad, está diseñada para ser a la vez potente y responsable, y aborda problemas graves como los tiroteos masivos, los delitos sexuales y la trata de personas, con estricto apego a las normas éticas.”

IREX siempre ha priorizado las implicaciones éticas de la IA, en particular en áreas sensibles como la analítica de video. La alianza con la National Child Protection Task Force es una muestra de la dedicación de la empresa a usar la tecnología para el bien social, especialmente en la lucha contra la trata de personas y de menores y en la búsqueda de niños desaparecidos.
Como parte de su compromiso con estas nuevas directrices, IREX:
● Realizará revisiones integrales de sus sistemas de IA para garantizar su alineación con las directrices del NCSC y la CISA. ● Aumentará la transparencia en sus operaciones de IA, brindando a las partes interesadas información clara sobre cómo funciona su tecnología y qué salvaguardas existen. ● Continuará su sólida colaboración con organizaciones de derechos humanos para asegurar que sus soluciones respeten los valores de las sociedades libres. ● Invertirá en investigación y desarrollo continuos para seguir mejorando los estándares de seguridad y ética de sus soluciones de IA.
IREX se enorgullece de informar ahora lo que ya hemos hecho para mantenernos alineados con esas directrices.

Diseño seguro
- Gestión avanzada del acceso a los datos: Nuestro sistema incorpora mecanismos sofisticados de gestión del acceso a los datos para restringir el uso de las funciones de IA de alto riesgo a los usuarios que no cuentan con los privilegios suficientes.
- Registro integral de eventos: Implementamos un registro detallado de todos los eventos del sistema, lo que garantiza la responsabilidad de los usuarios por las acciones realizadas en nuestra plataforma.
- Límites a los datos: imponemos límites estrictos al tamaño y al contenido de las listas de vigilancia para reducir la posibilidad de reacciones abusivas.
Desarrollo seguro
- Adopción de modelos de reconocimiento mundial: Nuestro enfoque incluye el uso de modelos de prestigio internacional, combinado con amplia experiencia, pruebas rigurosas y supervisión continua de toda nuestra cadena de suministro.
- Conciencia del sesgo: Dedicamos un esfuerzo considerable a minimizar el sesgo demográfico inherente al reconocimiento facial, seleccionando cuidadosamente los conjuntos de datos de entrenamiento que mejor se ajustan a las condiciones específicas de nuestros clientes. Además, capacitamos continuamente a nuestros clientes sobre las posibles implicaciones del sesgo demográfico y les brindamos orientación sobre cómo mitigar sus efectos.
Implementación segura
- Infraestructura de nube privada segura: Empleamos una sólida arquitectura de nube privada que prioriza la seguridad y la integridad de nuestra infraestructura digital. IREX ofrece la opción de elegir entre una implementación de nube local (on-premises), una nube privada administrada de un solo inquilino o multiinquilino, o una nube pública virtual. Los clientes de IREX eligen el centro de datos donde los datos se almacenan y procesan físicamente.
- Protección física: La plataforma puede utilizarse para proteger sus propios servidores y equipos de red mediante la detección oportuna de intrusiones, infracciones de las reglas de acceso, de la seguridad contra incendios, etc.
Operación y mantenimiento seguros
- Enfoque de seguridad desde el diseño para las actualizaciones: incluimos actualizaciones automáticas de forma predeterminada en cada producto y utilizamos procedimientos de actualización modulares y seguros para distribuirlas.
- Monitoreo de las entradas y del comportamiento del sistema: prestamos mucha atención a la validación de los datos de entrada, a los mensajes de formato de datos incorrecto, a las indicaciones al operador, etc.
- Se fomentan con firmeza las comunidades de intercambio de información y la colaboración en todo el ecosistema mundial para recopilar y compartir las lecciones aprendidas.
- Capacitación y seguridad del personal: Después de una Guía de inicio rápido y una Guía completa del usuario que abordan cuestiones éticas y de seguridad, continuamos con un curso de capacitación integral que incluirá la legislación federal y estatal aplicable, la protección de las contraseñas y los datos, el intercambio de datos, la denuncia del uso indebido y mucho más.
“Cumplir con estas directrices no es solo un requisito regulatorio para nosotros, es una obligación moral. Creemos en el poder de la IA para hacer del mundo un lugar más seguro y estamos comprometidos a desarrollar estas tecnologías de manera responsable”, añadió Calvin.
Para obtener más información sobre IREX y su compromiso con la IA ética, visite https://irex.ai/ethics.