Fraser Sampson: ¿Cómo Mantenerse Competitivo y Ético?
La interfaz entre la ética y la competencia no es nueva y ciertamente no es exclusiva de la IA: basta con mirar alrededor. Donde hay un mercado existe esta tensión inherente, ya sea que se trate de fabricantes de vehículos que falsifican sus datos de emisiones de carbono, firmas contables que ocultan las cifras negativas o atletas de élite que evaden los controles antidopaje, todo en nombre de ganar (o de evitar perder). ¿Cuáles son las señas distintivas de la ‘competencia ética’? No estoy seguro de que lo sepamos todavía, pero la competencia *poco ética *se reconoce cuando se ve.
En mi área, la tecnología biométrica y de vigilancia, creo que ser competitivo de forma ética en una democracia surge de la triangulación, de equilibrar lo que es técnicamente posible, lo que está legalmente permitido y lo que es socialmente aceptable. En resumen, el desafío es encontrar el ‘punto ideal’ entre lo que se puede hacer, lo que se debe o no se debe hacer y lo que las distintas comunidades están dispuestas a tolerar que se haga. Incluso en democracias maduras, esto varía considerablemente.
Hago hincapié en las democracias porque reconozco que no todos nuestros competidores internacionales suscriben los mismos valores éticos; solo el tiempo dirá si eso llegará a verse como una restricción o como una ventaja.
Sin embargo, la competitividad ética en la vigilancia pondrá en juego los principios, el propósito y la proporcionalidad. Sabemos, por ejemplo, que los usos humanitarios de la vigilancia biométrica pueden literalmente salvar vidas, canalizar fondos y brindar refugio a algunas de las personas más vulnerables del mundo. Pero en el campo de la vigilancia, la protección de una persona es la opresión de otra. Una vez construidos, los mismos sistemas pueden utilizarse para la dominación y la explotación; pueden usarse para marginar, perseguir y, en última instancia, eliminar.
Es posible que algunas personas deban ser marginadas y procesadas, y que algunas actividades deban eliminarse. Si las nuevas tecnologías de vigilancia pueden mejorar nuestra capacidad para prevenir el terrorismo, procesar a quienes trafican con seres humanos o eliminar los sitios web de pago por ver de violación de menores, ¿cuáles son los argumentos éticos en contra de que se utilicen así?
Lo que nos devuelve a la triangulación. Una pregunta clave en el uso ético de la vigilancia es cómo sabemos que nuestros sistemas (lo que es posible) solo se utilizan con fines legítimos y autorizados (lo que está permitido) y de una manera que la comunidad afectada esté dispuesta a respaldar (lo que es aceptable).
Como otros han señalado, la práctica ética es probablemente un factor diferenciador en este momento, pero espero sinceramente que no siga siéndolo. En un mercado maduro y creíble, la práctica ética es sin duda una expectativa legítima, un mínimo irreductible como la seguridad. Mi compañero de panel Ashley Moore, del NIST, ha hablado del Deber de Conformidad del Proveedor (SDoC), un concepto que respaldo de todo corazón, mientras que Calvin Yadav subrayó la importancia de que esos proveedores sepan qué hacen sus clientes con la tecnología que les han vendido. Me gustaría ver esto ampliado para incluir un Deber de Conformidad del Cliente (CDoC), que cree un ciclo de valor ético que se revise, verifique y audite, se corrija a la luz de la experiencia y se refleje en la siguiente iteración del producto y del servicio.
Quizás, con el surgimiento de la IA, la ética deba verse simplemente como el cero, lo mismo que nos permite contar y codificar. O, como lo describió el matemático Robert Kaplan, el más pequeño de los pivotes sobre el que giran todas las piezas.
En el ámbito de la vigilancia biométrica, creo que la ética debería ser un estándar que viene de serie. Parte del ADN de la STR. Con este enfoque, la práctica ética se vuelve intrínseca a la propia competencia. Si no se ofrece, *no se puede *competir.
Terminaré con una nota personal. Soy un corredor entusiasta, aunque no competitivo, y un usuario devoto de la aplicación Nike Run Club. En mi carrera de hoy usaron una cita atribuida a Jeff Johnson, el primer empleado de Nike. La cita decía “compite con los demás, no contra los demás”. Creo que ahí puede haber algo útil sobre cómo mantenerse competitivo dentro de límites éticos.
Acerca del profesor Fraser Sampson El profesor Sampson es el Comisionado para la Conservación y el Uso de Material Biométrico y Comisionado de Cámaras de Vigilancia del Reino Unido.
El profesor Sampson cuenta con más de 40 años de experiencia en el sector de la justicia penal; fue agente de policía durante 19 años antes de convertirse en abogado especializado en derecho, conducta y gobernanza policiales.
Es Profesor Honorario y miembro del Consejo Asesor del Centre for Excellence in Terrorism, Resilience, Intelligence and Organised Crime de la Sheffield Hallam University, donde obtuvo un doctorado en rendición de cuentas digital en las fuerzas del orden.
También se ha desempeñado como presidente nacional de la Association of Police and Crime Chief Executives y fue nombrado director ejecutivo y abogado del Comisionado de Policía y Delincuencia de West Yorkshire en 2012; posteriormente fue comisionado como director ejecutivo del Comisionado de Policía, Bomberos y Delincuencia de North Yorkshire.