No es de extrañar que el debate mundial sobre la tecnología de reconocimiento facial haya crecido en los últimos años. A medida que la tecnología se vuelve más avanzada, se han planteado preocupaciones en cuanto a la vigilancia, la privacidad, el consentimiento, la precisión y la parcialidad.

El año pasado, los primeros Propuestas de la UE para regular la IA fueron objeto de críticas por parte de los organismos de control europeos por no ir lo suficientemente lejos cuando se trata de reconocimiento facial en vivo en lugares públicos. Después de esto, los eurodiputados pidió que se prohibiera sobre la tecnología de vigilancia masiva biométrica, como las herramientas de reconocimiento facial, citando la amenaza que estas tecnologías podrían representar para los derechos humanos.

Recientemente, el Parlamento Europeo aprobó la recomendaciones finales de un comité especial que afirma que el debate sobre la IA debe centrarse en el enorme potencial de la tecnología para complementar el trabajo humano. Este informe contribuirá al debate sobre la propuesta de ley de IA en Europa.

Pero durante la votación, los eurodiputados señalaron que ciertas tecnologías de IA permiten el procesamiento de información a escala masiva, lo que podría allanar el camino para una potencial vigilancia masiva y otras interferencias ilegales en los derechos fundamentales.

El Dr. Kris Shrishak, miembro de tecnología del Consejo Irlandés para las Libertades Civiles (ICCL) que asesora a los legisladores sobre la regulación de la IA, dijo que la recopilación y el uso de datos biométricos, como el reconocimiento facial, es «sensible y profundamente personal», por lo que ya cuenta con «protecciones especiales» bajo el GDPR.

En declaraciones a SiliconRepublic.com, Shrishak dijo que uno de los problemas de la tecnología de reconocimiento facial es que está siendo desarrollada principalmente por grandes empresas privadas que podrían encontrar lagunas en la normativa.

Un ejemplo que dio es el uso del reconocimiento facial en las cámaras de CCTV. Shrishak dijo que algunas empresas afirman que no hay tecnología de reconocimiento facial en las propias cámaras, pero que esto oculta la imagen completa.

«Lo que dicen principalmente es que la cámara que se ve no realiza el reconocimiento facial por sí misma», explicó. «Pero no dice nada sobre lo que ocurre con las imágenes una vez que se han capturado y almacenado. Una vez que las pasas a un servidor, siempre puedes activar el reconocimiento facial. No ocurre con el propio circuito cerrado de televisión. Así que eso es algo que siempre hay que tener en cuenta».

Last month, Shrishak ha hecho un llamamiento al Gobierno irlandés prohibir el uso de sistemas de CCTV de Dahua y Hikvision, ya que estas empresas son vinculado a los abusos de los derechos humanos en China.

¿Puede aplicarse la normativa?

La UE está introduciendo nuevas normas para frenar el poder de las grandes tecnologías, con medidas como la Ley de Mercados Digitales (DMA) y el Ley de Servicios Digitales que busca hacer frente al monopolio que ejercen las grandes multinacionales en el espacio digital europeo y hacerlas responsables de los contenidos ilegales.

The DMA, for example, aims to blacklist certain practices used by large ‘gatekeeper’ platforms – companies that wield a disproportionate amount of power in their markets – and enable the European Commission to carry out market investigations and sanction non-compliant behaviours.

Shrishak dijo que uno de los problemas que ve con una regulación como ésta es cómo se hará cumplir, y se mostró crítico con las propuestas de la UE para regular la IA por este motivo.

La UE planea considerar la IA bajo categorías de riesgo, con sistemas de riesgo inaceptable -aquellos que se consideran una clara amenaza para la seguridad, los medios de vida y los derechos de las personas- que se prohíben rotundamente. Esto incluye las llamadas puntuaciones de crédito social, como un controvertido sistema visto en China y aplicaciones que manipulan el comportamiento humano.

Los casos de uso de alto riesgo incluirían el uso de la IA en infraestructuras críticas, aplicación de la ley, migración y patrulla fronteriza, empleo y contratación, y educación.

“The way it’s currently phrased, even the enforcement framework is very weak,” Shrishak said. “So even if this is put in place, there is not even a possibility that I would say there is a clear way to enforce things.”

Shrishak también sugirió que el reglamento debe hacer más, ya que no propone una prohibición total de la tecnología de reconocimiento facial y todavía hay casos en los que las fuerzas del orden pueden utilizarla.

Clearview AI

Una empresa controvertida centrada en la tecnología de reconocimiento facial es Clearview AI, que se ha enfrentado a críticas y presiones de organismos de control de todo el mundo.

Clearview AI ha creado una base de datos con miles de millones de imágenes procedentes de Internet y trabaja con clientes como las fuerzas del orden para comparar los datos faciales con su base de datos. La empresa afirma que su tecnología se utiliza para resolver delitos y cumple todas las normas de privacidad y legislación.

Pero el pasado mes de noviembre Según la Oficina del Comisario de Información del Reino Unido, la base de datos de Clearview «probablemente incluya los datos de un número considerable de personas del Reino Unido», con imágenes que pueden haber sido recopiladas sin el conocimiento de las personas de fuentes como las plataformas de medios sociales.

En el mismo mes, la máxima autoridad de información de Australia ordenó Clearview AI que deje de recoger imágenes faciales y plantillas biométricas de ciudadanos australianos, y que elimine los datos que ya tiene.

Australia and the UK are not the only countries where Clearview AI faces regulatory scrutiny. In February 2021, Canada’s federal privacy commissioner consideró que las prácticas de la empresa eran ilegales diciendo que recogió imágenes faciales de canadienses sin su consentimiento.

Clearview AI volvió a estar en el punto de mira en febrero, cuando se informó de que la compañía dijo a los inversores que estáon track to have 100bn facial photos en su base de datos en el plazo de un año. Esto sería suficiente para identificar a «casi todo el mundo», según los documentos obtenidos por The Washington Post .

Pero a pesar de la presión internacional, Shrishak dijo que es difícil para los reguladores hacer cumplir las sentencias contra la empresa, ya que tiene su sede en Estados Unidos y no parece tener oficinas en otros países. Sería más fácil tener «dientes de ejecución» si una autoridad estadounidense introdujera leyes para reprimir la tecnología.

Shrishak señaló que un método de represión alternativo consistiría en restringir la capacidad de las empresas de tecnología de reconocimiento facial para vender a organizaciones como las fuerzas del orden.

En 2020, la Unión Americana de Libertades Civiles (ACLU) de Illnois presentó una demanda contra Clearview AI, alegando que violaba los derechos de privacidad de los ciudadanos. La ACLU dijo que el caso se presentó después de un Investigación del New York Times reveló detalles de las herramientas de seguimiento y vigilancia de la empresa.

Esa demanda llegó a un acuerdo el 9 de mayo de este año, cuando Clearview AI aceptó una nueva serie de restricciones. Según el ACLU En el caso de los Estados Unidos, esto incluye la prohibición permanente de poner su base de datos de huellas faciales a disposición de la mayoría de las empresas y otras entidades privadas.

«La empresa también dejará de vender el acceso a su base de datos a cualquier entidad de Illinois, incluida la policía estatal y local, durante cinco años», dijo la ACLU.

10 cosas que necesitas saber directamente en tu bandeja de entrada cada día de la semana. Inscríbase en el Resumen diario El resumen de Silicon Republic de las noticias esenciales de ciencia y tecnología.