Un Llamado de Liderazgo Ético del Comisionado de Biometría y Cámaras de Vigilancia del Reino Unido, Fraser Sampson

Un Llamado de Liderazgo Ético del Comisionado de Biometría y Cámaras de Vigilancia del Reino Unido, Fraser Sampson

Abril de 2022: Fraser Sampson interviene en el NEC Security Event en el Reino Unido:

Gracias. Cuando asumí este cargo en marzo del año pasado, no había dimensionado la enorme amplitud y profundidad de este tema; si lo hubiera hecho, habría pedido más dinero. Los desafíos de la vigilancia biométrica son enormes y la velocidad con la que llegan es vertiginosa. Mi competencia legal abarca solo a la policía y a las autoridades locales, y eso ya es bastante. Para tratar de darle algún sentido a estos temas, me ha resultado útil considerarlos desde 3 perspectivas: la Tecnológica (lo que es posible), la Legal (lo que está permitido) y la Social (lo que es aceptable). Este evento se centra sobre todo en lo tecnológico (lo que SE PUEDE hacer), pero si no se atienden los otros aspectos, en particular lo que el público apoyará o incluso tolerará, su mercado será bastante volátil.

Hoy quise comenzar con un repaso del contexto cambiante en el que se desarrolla la vigilancia del espacio público, a veces de manera ruidosa y polémica, incluso emotiva, y destacar algunos avances clave que estamos presenciando; tal vez hasta encontremos evidencia de lo que creo que se necesitará en el futuro. Debo aclarar desde el principio que estas son mis propias opiniones y que no soy responsable de la política del gobierno, algo que sospecho que ambos agradecemos.

Comencemos con una observación: La vigilancia del espacio público ya no se trata de dónde se coloca la cámara, sino de los fines para los que se utilizarán los miles de millones de imágenes disponibles, captadas por la cámara de cualquier persona y de todo el mundo

Tengan esto presente mientras avanzamos por las diapositivas; les explicaré por qué creo que esto ha cambiado todo lo que pensábamos saber sobre la vigilancia

En cuanto a cámaras públicas por persona, Londres ocupa hoy el 3.er lugar entre las ciudades más vigiladas de la Tierra (73.5 cámaras por cada 1,000 habitantes); en cámaras por milla cuadrada, son casi 1200, lo que sitúa a la capital en el 2.º lugar. Si se suman plataformas móviles como drones y dispositivos portátiles, todo se vuelve más especulativo; si además se consideran los sistemas comerciales que vigilan nuestros centros de transporte, centros comerciales y otros lugares públicos, la cifra escapa a cualquier cálculo, aunque seguro habrá aumentado desde que mostré la primera diapositiva.

Tomemos un solo sistema de vigilancia, nuestro sistema nacional de reconocimiento automático de placas (ANPR). El ANPR ya registra más aciertos por segundo que Instagram. Con su trayectoria actual, alcanzará 100 millones de lecturas diarias en 2023. Eso son mil millones de lecturas en menos de 2 semanas. Tal vez piensen que una tasa de lecturas erróneas de apenas .001 es bastante buena para la mayoría de los sistemas de detección por vigilancia; para el ANPR, eso equivale a 100 mil diarias. Estas cifras son verdaderamente astronómicas, PERO igual de extraordinario es que el ANPR carece de respaldo legal y de un organismo de supervisión dedicado, y que es esencial para muchas otras agencias además de la policía. Y no solo lee su placa. No estoy seguro de cuánto sabe el público de todo esto. Pero debería saberlo, por varias razones.

Una de ellas es que, al igual que la tecnología, la relación de vigilancia con el público también cambia rápidamente. Por ejemplo, la policía ya no depende solamente de imágenes del ciudadano, sino cada vez más de imágenes aportadas por el ciudadano. Sabemos que las personas están más dispuestas a compartir su contenido en algunas situaciones, o con algunos fines, que en otros. Cuando ese intercambio se convierta en una dependencia crítica, esto importará, y mucho.

¿Por qué? De nuevo, hay varias razones: el desarrollo de la vigilancia es sistemático, lo que significa que se requiere un enfoque sistémico. Si una parte del sistema que vigila el espacio público utiliza lo que la gente considera tecnología no probada, procesos poco confiables o socios poco éticos, es posible que el ciudadano se muestre menos dispuesto a ayudar cuando otra parte del sistema lo necesite.

Otra razón es que algunos datos generados por ciudadanos pueden ser poco fiables, deliberadamente engañosos o incluso compartidos con mala intención.

Y las relaciones tampoco son unidireccionales. La propia policía está sometida a una mayor vigilancia en todo el mundo. No me refiero únicamente a la tendencia a que la actividad policial se convierta en espectáculo callejero para las redes sociales, sino al uso mucho más siniestro de la tecnología de vigilancia para identificar a agentes individuales.

El uso de capacidades de reconocimiento facial POR PARTE de la policía ha atraído mucha atención y controversia, pero la vigilancia policial también funciona en ambos sentidos. Una investigación de la BBC sobre el hacktivismo y la divulgación de datos personales de policías muestra cómo ciberactivistas en Bielorrusia lograron obtener fotos de los expedientes personales de agentes y luego realizaron comparaciones de reconocimiento facial con imágenes de internet de esos mismos agentes que, según se informó, golpeaban a manifestantes; los hackers identificaron entonces a los agentes y revelaron dónde vivían. Esta historia también ilustra otros riesgos de la recopilación masiva de datos de internet y de la reconstrucción de información a partir de fuentes abiertas (OSINT). El ciudadano tiene ahora acceso a herramientas de vigilancia que hace apenas una década estaban reservadas a los organismos estatales. El año pasado, Francia incluso comenzó a prohibir fotografiar a los agentes de policía por esta razón. Hacerlo tendrá un impacto en aspectos como el periodismo, la transparencia y la rendición de cuentas, y por supuesto los periodistas también son muy vulnerables a estas mismas tácticas de vigilancia ciudadana, al igual que las víctimas, los testigos y otras personas… A diferencia de Escocia, nosotros no clasificamos las imágenes faciales como datos biométricos, por lo que la mayor parte de esto no está regulado.

En un mundo donde la vigilancia pública de los rostros no está regulada en absoluto, la visibilidad natural puede convertirse en vulnerabilidad extrema: todos cambian sus mascarillas por cubiertas faciales completas, incluida la policía, y ya no quedan rostros públicos que reconocer.

¿Queremos que nuestra policía de barrio se vea como este agente mexicano [foto], cuya mayor vulnerabilidad es que lo reconozcan mientras trabaja y lo maten cuando está fuera de servicio?

Cuanto más intrusiva se vuelva la vigilancia no regulada, mayor será la necesidad de ocultar la identidad de quienes se consideran vulnerables, incluidos los policías y los servidores públicos, algo que tendría profundas implicaciones para nuestra forma de vida.

Esto es, por supuesto, una extensión del efecto inhibidor, y quien todavía piense que la vigilancia biométrica se trata solo de protección de datos no ha estado prestando atención.

Al mismo tiempo, existe un papel claro y legítimo para el uso ético y responsable de la tecnología de vigilancia biométrica en la lucha contra el delito, y eso también está cambiando rápidamente. Las nuevas capacidades están ayudando a las fuerzas del orden y, en algunas áreas, como la explotación sexual infantil en línea, la nueva tecnología es probablemente la única solución eficaz.

Examinemos entonces más de cerca el delito y la criminalidad. En su informe final como Inspector Jefe de la Policía de Su Majestad, Sir Tom Winsor dice lo siguiente:

“Quien cree o tolere, a sabiendas y de manera deliberada, las condiciones en las que se cometen delitos y las víctimas quedan aisladas de la protección y la justicia debería tener los más poderosos motivos para temer al derecho penal, operado y aplicado con vigor por las instituciones del Estado encargadas de hacer cumplir la ley.”

Es difícil no estar de acuerdo. Y el papel legítimo de la vigilancia biométrica en esa “aplicación vigorosa del derecho penal” está creciendo, tanto en escala como en importancia.

Tom Winsor continúa diciendo que la policía necesita “una intensificación material de una alianza con el sector privado que se base de manera sólida y duradera en la confianza y el interés común”.

Lejos de mí embellecer las declaraciones del Inspector Jefe, pero si a esa afirmación, a esa alianza, se suma al Ciudadano, se obtiene una descripción casi perfecta de lo que creo que necesitamos en materia de vigilancia biométrica.

Ya se trate de imágenes compartidas por ciudadanos, ANPR, IA y aprendizaje automático, reconocimiento facial o elaboración rápida de perfiles de ADN, una alianza sólida y exitosa con el ciudadano y el sector privado ya es fundamental para la vigilancia biométrica en la labor policial y los servicios públicos.

Si esas alianzas NO se basan “de manera sólida y duradera en la confianza y el interés común”, estamos todos en problemas.

Esa es una de las razones por las que NO podemos asociarnos con empresas involucradas en los campos que se extienden por el norte de China, diseñados, construidos y operados por empresas estatales para perpetuar la erradicación de los musulmanes uigures. ¿Dónde está la evidencia de que lo hacen? El Comité de Asuntos Exteriores de la Cámara de los Comunes es una fuente, al igual que el Tribunal Uigur, que concluyó en diciembre pasado que *“se estima que más de un millón de personas han sido sometidas a actos de crueldad, depravación e inhumanidad inconcebibles. * La sentencia concluyó que *“Muchos de los detenidos fueron torturados; hombres y mujeres detenidos fueron violados; una de ellas fue violada en grupo por policías frente a un público de cien personas obligadas a mirar [mientras que otras] fueron violadas por hombres * que pagaban *por que se les permitiera entrar al centro de detención con ese fin.” * Ahora bien, si eso no es “crear a sabiendas y de manera deliberada condiciones en las que se cometen delitos y las víctimas quedan aisladas de la protección y la justicia”, entonces no sé qué lo es.

Estos lugares y los policías que trabajan en ellos dependen en gran medida de la vigilancia biométrica, una vigilancia de última generación, diseñada y operada por empresas de vigilancia estatales que venden esos mismos sistemas de vigilancia biométrica en todo el Reino Unido. Puede que estén aquí hoy.

¿Cómo podría describirse, por ejemplo, una alianza de la policía británica con una empresa que diseñó, construyó y operó estos lugares como “una alianza con el sector privado que se base de manera sólida y duradera en la confianza y el interés común”, tal como lo prescribe el Inspector Jefe de la Policía de Su Majestad? No puede. Alguien me preguntó el otro día: “¿puede imaginar a un miembro de la comunidad china del Reino Unido que se acerca a un agente de policía en busca de ayuda y se encuentra mirando el lente del mismo dispositivo corporal que usan los agentes para hacer estas cosas a los musulmanes uigures en esos lugares?” Lamentablemente, puedo imaginarlo. Algunas personas en las autoridades locales me dicen que tienen que hacer negocios con estas empresas porque el gobierno no ha prohibido a nadie como lo ha hecho Estados Unidos, ni ha publicado una lista de lo que no está permitido. Bien, si necesitan un papel del gobierno que explique por qué el genocidio es poco ético, estoy seguro de que podemos encontrar algo. Los Principios Rectores de las Naciones Unidas sobre las Empresas y los Derechos Humanos, quizás. Miren, entiendo que el liderazgo ético puede ser difícil, sobre todo cuando hay dinero de por medio y no todos están a la altura, pero por favor. Desde cualquier punto de vista, que nuestra policía o nuestros ayuntamientos se asocien con organizaciones que tienen esto en su currículum es sencillamente incorrecto. En cuanto a la policía, en este país la labor policial se rige por el Modelo Nacional de Toma de Decisiones que, según el College of Policing, pone la ética en el centro de cada decisión. Comprar sistemas de vigilancia a estas empresas es una decisión, y no es ética; tampoco lo es esperar que los agentes y el personal los usen. En mi opinión, “quienes toleran a sabiendas y de manera deliberada las condiciones en las que se cometen delitos y las víctimas quedan aisladas de la protección y la justicia *no tienen cabida en alianzas *con la policía ni con ninguna otra institución del Estado.”

La parlamentaria Alicia Kearns dijo hace muy poco: “Necesitamos con urgencia poner orden en las tecnologías de vigilancia biométrica en este país, y espero que la policía inicie de inmediato una revisión de sus políticas de adquisición de equipos de vigilancia para eliminar a quienes son cómplices de la esclavitud y de los abusos a los derechos humanos.” Yo también lo espero, y muy pronto emitiré asesoramiento formal TANTO a la policía como a las autoridades locales. Por las razones que ya he expuesto, no se puede exagerar la importancia de las alianzas en la vigilancia biométrica: serán fundamentales, no solo para mantener la confianza del público, sino también desde el punto de vista funcional.

Una de las razones prácticas más convincentes por las que necesitamos alianzas sólidas en este ámbito es la dependencia emergente de la capacidad de vigilancia agregada.

Como dije al principio, la vigilancia del espacio público ya no se trata de dónde se coloca la cámara. Las investigaciones requieren extractos de las cámaras CCTV de las calles comerciales, pero también capturas de imágenes de cámaras de tablero, GoPros, timbres con cámara, teléfonos, cámaras en cobertizos, drones y estacionamientos. Cada vez más, trabajamos con el producto de una capacidad de vigilancia agregada compuesta por infinitas fuentes, casi todas de propiedad y operación privadas.

Cuando se necesitaba a una persona para editar y compilar, nadie iba a vivir lo suficiente para reunir estos datos. Habría sido como ordenar manualmente por tamaño cada grano de arena del Sahara.

Gracias a los avances tecnológicos en la capacidad de videovigilancia, esos granos de datos ahora no solo pueden clasificarse y categorizarse, sino también compararse con los granos de todos los demás desiertos conocidos.

Veamos por último la regulación y las implicaciones de todo esto.

En el contexto que acabamos de ver, no tiene ningún sentido regular únicamente los sistemas de cámaras operados por la policía y las autoridades locales.

La regulación debería reflejar la situación que se pretende regular; la nuestra, en este momento, no lo hace.

¿Hacia dónde va la vigilancia? La respuesta corta probablemente sea hacia la Oficina del Comisionado de Información; si es así, aun así no reflejará la situación que intentamos regular.

Solo el ANPR ya es tan vasto, y tan vital, que necesita su propio marco regulatorio y de gobernanza.

Y qué hacer con el reconocimiento facial en vivo es la pregunta sobre vigilancia que simplemente no desaparece en prácticamente todas las jurisdicciones con las que he trabajado. Eso por sí solo debería decirnos algo. Y si creemos que su uso por parte de la policía es controvertido, esperen a que las escuelas empiecen a instalar capacidades de reconocimiento facial.

Sea cual sea el marco regulatorio que terminemos teniendo, creo que necesitaremos alianzas legítimas y éticas con el sector privado, alianzas que se basen de manera sólida y duradera en la confianza y el interés común, y por eso creo que eventos como este son tan importantes. Gracias por invitarme.

Y en ese sentido, si me lo permiten, los dejo con la siguiente pregunta para llevarse al resto de este evento:

¿Hasta qué punto sus alianzas de vigilancia se basan “de manera sólida en la confianza y el interés común”, reflejando sus propios valores profesionales y los de sus clientes y su personal?

GRACIAS

Todos los Artículos del Blog

¿Prefiere hablarlo?

Converse con un especialista en seguridad pública de IREX sobre su entorno de cámaras, el despliegue y los requisitos de cumplimiento.

Solicitar una Demostración

Indíquenos aproximadamente cuántas cámaras opera, dónde deben permanecer los datos y las tres o cuatro cosas que más necesita detectar. Prepararemos una demostración con sus propias grabaciones.

Si el formulario no está disponible, escriba a [email protected].

Preguntas Frecuentes

¿IREX funciona con nuestras cámaras actuales?

Sí. Reutilizar sus cámaras es el modelo habitual de despliegue. IREX incorpora IA en la red que ya opera, desde un sitio hasta una ciudad o un país, sin un programa de reemplazo.

¿Conservamos la propiedad de los datos?

Sí. El cliente conserva la propiedad y el control del 100% de sus datos. IREX no posee ni accede al video, eventos, registros o planos del cliente.