La fiabilidad de los sistemas y las garantías de uso, entre los desafíos para el sector tecnológico

Las tecnologías de reconocimiento facial y de voz ofrecen nuevas posibilidades para la investigación policial, pero también plantean interrogantes sobre su precisión, las condiciones en las que se utilizan y las consecuencias de una identificación errónea. Un informe de la Agencia de los Derechos Fundamentales de la Unión Europea (FRA) analiza experiencias en siete países y advierte de la necesidad de establecer controles antes de poner estos sistemas en funcionamiento.

El principal reto para el sector tecnológico es garantizar que los sistemas de identificación biométrica remota sean fiables y puedan utilizarse bajo condiciones de control y supervisión adecuadas.

Identificar a un sospechoso a partir de las imágenes de una cámara de videovigilancia, comparar una grabación de voz con otras muestras o localizar a una persona desaparecida son algunas de las aplicaciones de la identificación biométrica remota. Estas tecnologías permiten comparar rasgos físicos o características de la voz con los registros almacenados en una base de datos, sin necesidad de que la persona participe activamente en el proceso. Su utilización puede facilitar el trabajo policial, especialmente cuando es necesario examinar grandes cantidades de imágenes o grabaciones. Sin embargo, su eficacia depende tanto de la fiabilidad de los sistemas como de las condiciones en las que se emplean.

Estas cuestiones centran el informe Remote Biometric Identification for Law Enforcement Purposes: Fundamental Rights Implications, elaborado por la Agencia de los Derechos Fundamentales de la Unión Europea (FRA). El estudio analiza experiencias en Francia, Alemania, Grecia, Hungría, Irlanda, Italia y Países Bajos, mediante documentación, entrevistas con profesionales y expertos, observaciones de actividades policiales y una encuesta a 1.054 personas. La investigación, que no pretende ser representativa del conjunto de la UE, muestra diferencias entre países en el desarrollo de normas y mecanismos de supervisión. 

Una diferencia importante es la que existe entre identificar a una persona mediante imágenes previamente grabadas y hacerlo mientras una cámara capta imágenes en directo. En el primer caso, la policía puede utilizar una fotografía obtenida durante una investigación para buscar posibles coincidencias en una base de datos. En el segundo, el sistema puede comparar en tiempo real los rostros captados con los de personas incluidas en una lista de vigilancia.

El informe recoge un ejemplo en Italia. Allí, la policía utiliza el sistema SARI Enterprise para comparar fotografías, entre ellas imágenes de videovigilancia, con una base de datos policial. En cambio, SARI Real Time, concebido para realizar búsquedas mediante vídeo en directo en espacios públicos, nunca llegó a desplegarse tras la intervención de la autoridad italiana de protección de datos, que consideró que su utilización carecía de una base jurídica adecuada y constituía una forma de vigilancia masiva ilícita.

El Reglamento europeo de Inteligencia Artificial establece importantes restricciones a la identificación biométrica remota en tiempo real con fines policiales en espacios de acceso público y contempla determinadas excepciones sometidas a condiciones estrictas. Para los proveedores, estas diferencias ponen de manifiesto la importancia de conocer la finalidad y las condiciones de utilización de cada solución.

El uso de la identificación biométrica remota puede facilitar el trabajo policial, especialmente cuando es necesario examinar un gran volumen de imágenes o grabaciones. Sin embargo, también plantea preguntas sobre la fiabilidad de los resultados, las consecuencias de una identificación errónea y las garantías para evitar usos distintos de los previstos.

Uno de los problemas señalados por la FRA es la posibilidad de que los sistemas cometan errores. Cuando una herramienta de reconocimiento facial compara una imagen con miles de fotografías almacenadas, puede encontrar coincidencias que requieren una comprobación posterior. El resultado no debe interpretarse automáticamente como una identificación confirmada. La fiabilidad depende de factores como la calidad de las imágenes, los datos utilizados, la configuración del sistema y las condiciones en las que se realiza la comparación. Un sistema puede ofrecer buenos resultados generales y, sin embargo, cometer más errores al identificar a determinados grupos de población, como mujeres, personas de color, menores o ancianos.

Por ello, la FRA recomienda evaluar las herramientas en condiciones reales y con diferentes grupos de población, realizar pruebas independientes antes de su puesta en funcionamiento y repetirlas periódicamente. El informe también señala que no siempre resulta fácil conocer con detalle la precisión de los sistemas utilizados.

La intervención humana es igualmente importante. Algunos responsables policiales entrevistados explicaron que utilizan los resultados como apoyo a las investigaciones y que estos se someten posteriormente a revisión. La FRA recomienda que los resultados sean examinados por personal experimentado, ajeno a la investigación, antes de que se adopten decisiones a partir de ellos.

Para fabricantes y desarrolladores, estas conclusiones destacan la importancia de proporcionar información sobre el funcionamiento y las limitaciones de sus sistemas, de manera que los profesionales que los utilizan puedan interpretar adecuadamente los resultados.

Otra preocupación de la FRA es que una herramienta concebida para una finalidad termine utilizándose para otras. El informe describe un sistema móvil adquirido por la policía griega para facilitar los controles de identidad mediante reconocimiento facial y de huellas dactilares. Aunque esta solución aún no estaba en funcionamiento cuando se realizó el estudio, también permite trabajar con fotografías tomadas a distancia y realizar búsquedas en listas de vigilancia, lo que amplía sus posibles aplicaciones. La Agencia no considera ilegales estas funciones por sí mismas, pero señala que determinadas capacidades pueden abrir la puerta a usos distintos de los inicialmente previstos.

También importa la información con la que trabajan las herramientas. En Países Bajos, el sistema CATCH permite comparar imágenes obtenidas durante investigaciones con diferentes bases de datos, entre ellas registros de sospechosos y condenados y de personas de terceros países que han solicitado asilo o visado. El informe precisa que esta última base está sometida a mayores limitaciones de finalidad y garantías.

Estos ejemplos muestran que, además de las capacidades técnicas, resulta necesario conocer qué datos se utilizan, quién puede acceder a ellos y para qué están autorizadas las búsquedas.

La investigación también detectó poca información pública sobre el uso policial de estas tecnologías en algunos de los países estudiados. Aunque la confidencialidad de las operaciones puede justificar determinadas restricciones, la FRA considera necesario reforzar la transparencia y la supervisión. Entre las recomendaciones realizadas en este sentido figuran las pruebas independientes, la publicación periódica de informes de transparencia por parte de las autoridades policiales y los proveedores tecnológicos, y el registro de las utilizaciones de las herramientas para facilitar su posterior revisión.

La Agencia también advierte de las consecuencias que puede tener para los ciudadanos la posibilidad de ser identificados mediante cámaras en espacios públicos. En la encuesta realizada para el estudio, el 29% de las personas consultadas afirmó que el uso policial de estas tecnologías influiría negativamente en su decisión de asistir a actos públicos o protestas. Estos resultados no son representativos del conjunto de la población de los países estudiados.

La FRA concluye que la identificación biométrica remota puede contribuir a la seguridad pública, siempre que su utilización vaya acompañada de garantías adecuadas. Su principal advertencia es que estos controles deben establecerse antes de poner los sistemas en funcionamiento y mantenerse durante su utilización, para evitar errores, usos indebidos y consecuencias negativas para los derechos de las personas.