IREX Responde às Novas Diretrizes de Segurança de IA do NCSC e da CISA
Hoje a IREX anunciou sua resposta às recentes "Guidelines for Secure AI System Development", publicadas pelo National Cyber Security Centre (NCSC) do Reino Unido e pela Cybersecurity and Infrastructure Security Agency (CISA) dos EUA.
Dezembro, 18, 2023 – Hoje a IREX anunciou sua resposta às recentes “Guidelines for Secure AI System Development”, publicadas pelo National Cyber Security Centre (NCSC) do Reino Unido e pela Cybersecurity and Infrastructure Security Agency (CISA) dos EUA. Como líder global no desenvolvimento de serviços de vídeo baseados em nuvem para a segurança pública, a IREX reafirma seu compromisso de manter os mais altos padrões de ética e de direitos humanos no desenvolvimento e na aplicação da IA.
As novas diretrizes do NCSC e da CISA têm como foco garantir a segurança e a integridade ética dos sistemas de IA. O CEO da IREX, Calvin Yadav, declarou:
“Recebemos essas diretrizes com satisfação, pois elas se alinham perfeitamente à nossa missão de criar soluções de IA que não apenas fortaleçam a segurança pública, mas também respeitem e protejam os direitos e as liberdades individuais. Nossa tecnologia, utilizada por órgãos de segurança pública, governos locais e diversas equipes de segurança, foi projetada para ser ao mesmo tempo poderosa e responsável, enfrentando desafios graves como tiroteios em massa, crimes sexuais e tráfico de pessoas, sempre em estrita conformidade com as normas éticas.”

A IREX sempre deu prioridade às implicações éticas da IA, especialmente em áreas sensíveis como a análise de vídeo. A parceria com a National Child Protection Task Force é uma prova da dedicação da empresa ao uso da tecnologia para o bem da sociedade, especialmente no combate ao tráfico de pessoas e de crianças e na localização de crianças desaparecidas.
Como parte de seu compromisso com essas novas diretrizes, a IREX vai:
● Realizar revisões abrangentes de seus sistemas de IA para garantir o alinhamento com as diretrizes do NCSC e da CISA. ● Ampliar a transparência de suas operações de IA, oferecendo às partes interessadas informações claras sobre como sua tecnologia funciona e quais salvaguardas estão em vigor. ● Manter sua sólida colaboração com organizações de direitos humanos para garantir que suas soluções respeitem os valores das sociedades livres. ● Investir em pesquisa e desenvolvimento contínuos para elevar ainda mais os padrões de segurança e de ética de suas soluções de IA.
Agora a IREX tem o orgulho de relatar o que já fez para se manter alinhada a essas diretrizes.

Projeto seguro
- Gerenciamento avançado de acesso a dados: nosso sistema incorpora mecanismos sofisticados de gerenciamento de acesso a dados para restringir o uso de recursos de IA de alto risco por usuários que não tenham privilégios suficientes.
- Registro abrangente de eventos: implementamos o registro detalhado de todos os eventos do sistema, garantindo a responsabilização dos usuários pelas ações realizadas em nossa plataforma.
- Limitações de dados: impomos limites rigorosos ao tamanho e ao conteúdo das listas de monitoramento para reduzir a possibilidade de reações abusivas.
Desenvolvimento seguro
- Adoção de modelos reconhecidos mundialmente: nossa abordagem inclui o uso de modelos de renome internacional, combinado com ampla experiência, testes rigorosos e supervisão contínua de toda a nossa cadeia de suprimentos.
- Consciência sobre vieses: dedicamos esforço significativo a minimizar o viés demográfico inerente ao reconhecimento facial, selecionando cuidadosamente conjuntos de dados de treinamento que correspondam o mais possível às condições específicas de nossos clientes. Além disso, orientamos continuamente nossos clientes sobre as possíveis implicações do viés demográfico e oferecemos recomendações sobre como atenuar seus efeitos.
Implantação segura
- Infraestrutura segura de nuvem privada: empregamos uma arquitetura robusta de nuvem privada, priorizando a segurança e a integridade de nossa infraestrutura digital. A IREX oferece a opção de escolher entre implantação de nuvem local, nuvem privada gerenciada de locatário único ou múltiplo, ou nuvem pública virtual. Os clientes da IREX escolhem o datacenter em que os dados são armazenados e processados fisicamente.
- Proteção física: a plataforma pode ser usada para proteger seus próprios servidores e equipamentos de rede, por meio da detecção oportuna de intrusões, violações de regras de acesso e de segurança contra incêndio, entre outras.
Operação e manutenção seguras
- Abordagem de segurança desde a concepção para atualizações: incluímos atualizações automáticas por padrão em todos os produtos e usamos procedimentos de atualização seguros e modulares para distribuí-las.
- Monitoramento das entradas e do comportamento do sistema: damos grande atenção à validação dos dados de entrada, às mensagens sobre formato de dados incorreto, às instruções ao operador, entre outros.
- Comunidades de compartilhamento de informações e colaboração são fortemente incentivadas em todo o ecossistema global para coletar e compartilhar as lições aprendidas.
- Treinamento e segurança do pessoal: após um Guia de Início Rápido e um Guia Completo do Usuário, que abordam questões éticas e de segurança, seguimos com um curso de treinamento abrangente que abordará a legislação federal e estadual aplicável, a proteção de senhas e dados, o compartilhamento de dados, a denúncia de uso indevido e muito mais.
“Seguir essas diretrizes não é apenas uma exigência regulatória para nós, é uma obrigação moral. Acreditamos no poder da IA para tornar o mundo um lugar mais seguro e estamos comprometidos em desenvolver essas tecnologias de forma responsável”, acrescentou Calvin.
Para saber mais sobre a IREX e seu compromisso com a IA ética, acesse https://irex.ai/ethics.