.
Vigilancia masiva, IA y datos biométricos
La IA no es un producto, es una herramienta, y el progreso técnico nunca debe producirse a expensas de los derechos fundamentales de las personas.
El Parlamento Europeo votó una resolución que establece la prohibición de las tecnologías de vigilancia masiva biométricas impulsadas por la IA (inteligencia artificial), como los sistemas de reconocimiento facial, en todos los países miembros.
Por Ignacio Lonzieme (*)
Los eurodiputados expusieron su preocupación en la sesión del 6 de octubre último en el hemiciclo de la ciudad de Bruselas, por el peligro que estas tecnologías representan para las libertades y derechos civiles en la comunidad europea. La vigilancia predictiva basada en IA puede traer resultados negativos, discriminatorios, perjudiciales e injustos a la hora de implementarla para la vigilancia en el espacio público. Los argumentos de los diputados se centraron en casos reales, en que esta tecnología se utilizó para detener a ciudadanos inocentes.
Con el fin último de respetar y preservar “la privacidad y dignidad humanas”, los miembros del parlamento europeo acordaron recomendar a los legisladores de los distintos países miembros deberían aprobar legislación que prohíba el reconocimiento y monitoreo de ciudadanos en espacios públicos a través de estas tecnologías.
El llamado a poner un freno a la vigilancia masiva se hizo extensivo también las tecnologías que vende la empresa estadounidense Clearview —que ya es proveedora de tecnologías de vigilancia a muchas policías europeas-, desarrolladora de sistemas policiales predictivos basados en datos sobre comportamiento.
Según el portal Techcrunch, las empresas proveedoras de tecnología basada en reconocimiento facial e IA han admitido que la tendencia a implementar este tipo de algoritmos predictivos durante años, y las distintas polémicas que se han desatado en torno a “fallas” y “errores” de sistema (que derivaron en detenciones arbitrarias de inocentes en todo el mundo), los han forzado a invertir en mejoras de procesos de datos y machine learning.
Sin embargo, las cifras de casos discriminatorios siguen siendo demasiado altas como para aceptar la implementación de estos sistemas a gran escala. Los representantes relevaron las cifras y estudiaron los datos de detenciones ordenadas a través de estos sistemas. “Los sistemas de identificación basados en IA llevan identificando de forma errada especialmente personas de distintos grupos étnicos, LGBT y ancianos en mayor cuantía que cualquier otro.
Para asegurar los derechos fundamentales que deben ser sostenidos frente al uso de estas tecnologías, los algoritmos deben ser transparentes y suficientemente documentados como para ser auditados. Dentro de lo posible, las autoridades públicas debieran usar software de código abierto para asegurar la transparencia del proceso”, según la comunicación emitida por el propio Euro parlamento.
Si bien esta votación significa un avance importante que sienta un precedente en toda Europa, el caso de la IA en la vigilancia de espacios públicos está lejos de cerrarse. Según el portal británico The Register todavía sigue en negociaciones y bocetos una “Ley de la Inteligencia Artificial” que regule formalmente el uso e implementación de estas tecnologías en la administración y espacios públicos. Con lo que, según el mismo portal especializado en tecnología y empresas, la resolución votada por los eurodiputados es más una declaración o recomendación que una legislación que se traduzca en políticas efectivas en la materia.
La discusión fue llevada al recinto por el bloque de la socialdemocracia europea S&D. Desde el bloque de S&D hicieron hincapié en cambiar el eje de discusión a la hora de debatir sobre IA. La IA no es un producto, es una herramienta, y el progreso técnico nunca debe producirse a expensas de los derechos fundamentales de las personas.
Según publicó en sus redes sociales el eurodiputado socialista búlgaro Petar Vitanov “… una mayoría progresista que está de acuerdo con líneas rojas claras para la inteligencia artificial. Por primera vez en la historia, pedimos una moratoria en el despliegue de los sistemas de reconocimiento facial con fines de ejecución de la ley cuando la tecnología resulte ineficaz o lleve a resultados discriminatorios. Somos claros al oponernos a la vigilancia policial predictiva que se base en el uso de la inteligencia artificial, así como a cualquier procesamiento de datos biométricos que lleve a una vigilancia masiva”.
(*) El autor de este artículo es secretario general Unión Informática. El autor advierte el peligro que estas tecnologías representan para las libertades y derechos civiles en la comunidad europea.