Cómo Gobernar el Uso Ético de la IA en la Vigilancia
El mundo occidental tiene un problema. Una tecnología revolucionaria como la inteligencia artificial ya está aquí, pero la conciencia y el conocimiento en el sector público no. Hay escasez de talento de ingeniería en EE. UU.…
A la sociedad se le están negando nuevas tecnologías innovadoras para hacer más seguras nuestras comunidades, escuelas y ciudades.
El mundo occidental tiene un problema. Una tecnología revolucionaria como la inteligencia artificial ya está aquí, pero la conciencia y el conocimiento en el sector público no. Hay escasez de talento de ingeniería en EE. UU., una alarmante falta de parámetros de marcos éticos, una no adopción de cualquier producto de IA y, evidentemente, una ausencia de agallas en el sector público. Todo está siendo impulsado por el sector privado.
Entonces, ¿cuál es la respuesta? Dividámoslo en cuatro segmentos. Comenzaré con la tecnología que ya está disponible; lo que está sucediendo actualmente; lo que no queremos llegar a ser; y por último, cómo gobernar de manera eficaz el uso ético de la IA en la vigilancia.
La tecnología disponible hoy
En pocas palabras, la inteligencia artificial ha avanzado hasta un punto en el que, si un evento, una persona o un vehículo aparece bajo vigilancia, puede activar una alerta a las autoridades o al personal correspondiente utilizando todas las cámaras existentes. Las ciudades deberían usar toda su infraestructura actual para localizar y recuperar a niños desaparecidos y víctimas de trata de personas, y al mismo tiempo mantener a las comunidades a salvo de los delincuentes sexuales que incumplen sus obligaciones.
Si bien el 99,99 % de la sociedad estaría de acuerdo con usar los casos de uso mencionados como punto de partida fundamental, el uso de la detección de armas en escuelas y campus también sería visto como algo aceptado por las mayorías. Hay innumerables otros eventos que la vigilancia puede activar, como vehículos no autorizados o buscados, aglomeraciones peligrosas, comportamientos sospechosos y más, pero pasemos a lo que están haciendo con esta nueva tecnología disponible quienes toman las decisiones en las ciudades y en la sociedad.

Lo que está sucediendo actualmente en el sector público
El mayor problema del sector público es la falta de conocimiento y experiencia internos en materia de inteligencia artificial y de la ética que la rodea; todo proviene del sector privado. Entonces, ¿qué está haciendo el sector público? Lamentablemente, por falta de agallas, esconde la cabeza en la arena y se lo pasa a sus sucesores, simplemente cerrando los ojos y los oídos. Quiero decir, ¿hablaría usted o tomaría una decisión sobre algo que no conoce o no comprende del todo?
Dicho esto, su falta de decisiones le está costando a nuestras comunidades. En este momento, la adopción de la IA se considera un riesgo para todos los que buscan la reelección. Mi mensaje para ellos es que deberían tener miedo de asumir este riesgo, pero deberían tener aún más miedo de quedarse donde estamos. La clave es usar los marcos éticos existentes sobre cómo utilizar la tecnología. En la solución se habla más de esto.
A quién (y qué) no queremos parecernos
Podemos aprender mucho de los demás en la vida, ya sea para implementar o para evitar en nuestro futuro. Cierto gran país del este ha implementado la IA en las cámaras con un aire a la novela 1984 de George Orwell: créditos sociales y una vigilancia masiva de la sociedad por parte de las fuerzas del orden, sin que las comunidades ni la sociedad les exijan rendición de cuentas. Esto no podemos tolerarlo en la sociedad occidental. No queremos que la IA reconozca a las personas por multas de estacionamiento pendientes; tenemos que usar la IA deliberadamente para fines de peso, impulsados por la sociedad.
Tenemos que preservar las libertades civiles que nos importan, y podemos avanzar hacia una gobernanza participativa, lo cual nos lleva a la solución.
Cómo gobernar el uso ético de la IA en la vigilancia
Comenzamos con la transparencia desde el diseño. Es fundamental que se registre cada acción de cada usuario, lo que significa que cada usuario puede ser auditado: sin pasos ocultos ni búsquedas ocultas. De este modo, quienes vivimos en nuestras sociedades y comunidades podemos confiar en que quienes nos protegen usan la tecnología de manera ética. Confiamos, pero verificamos.
Veamos algunos ejemplos: la tecnología ha llegado a un nivel en el que, para todos los dispositivos conectados (cámaras), se pueden hacer búsquedas cargando la foto de una persona o de un vehículo. Se puede ver en orden cronológico si esa persona o ese vehículo apareció por última vez bajo vigilancia y cuándo. Aquí es donde el Technology Integrity Council y otros similares cuentan con miembros de las comunidades que pueden auditar que quienes nos protegen usan la tecnología por motivos justificables.
¿Y qué hay de quienes nos protegen? Las fuerzas del orden, los departamentos del sheriff, las agencias de inteligencia, etc. Sin duda, la tecnología va a ayudar en la recuperación de víctimas de trata de personas, en la localización de niños desaparecidos y en la ubicación de delincuentes sexuales que incumplen sus obligaciones. Será una herramienta revolucionaria para sus operaciones, pero también ofrecerá una justificación clara de sus decisiones, algo que protegerá sus acciones al detener e interrogar a personas y vehículos.
Ahora mismo, la brecha entre las fuerzas del orden y la sociedad parece más grande que nunca. Con la inteligencia artificial, esa brecha se reducirá de manera significativa. La sociedad cuenta ahora con una herramienta para asegurar que las fuerzas del orden usen su herramienta más revolucionaria de forma ética, mientras que las fuerzas del orden serán transparentes en sus decisiones al usar la tecnología.