Microsoft está limitando el acceso a partes de su tecnología de reconocimiento facial y eliminando ciertas capacidades que detectan rasgos controvertidos como la edad, el sexo y el estado emocional de una persona.

El gigante tecnológico señaló que los expertos «dentro y fuera de la empresa» han puesto de relieve los problemas relacionados con la definición de las emociones, la forma en que la IA las detecta y los problemas de privacidad en torno a este tipo de capacidad.

Como resultado, algunos aspectos de la tecnología de reconocimiento facial de Microsoft están siendo retirados, incluyendo la capacidad de detectar emociones, género o edad. Estas funciones ya no están disponibles para los nuevos clientes y dejarán de estarlo para los clientes actuales en el plazo de un año.

Los nuevos clientes que quieran utilizar el servicio de reconocimiento facial de Microsoft, llamado Azure Face, tendrán que solicitar el acceso y explicar cómo pretenden utilizar el sistema, mientras que los clientes actuales tienen un año para solicitar y recibir la aprobación para seguir accediendo.

La decisión forma parte de un impulso más amplio de Microsoft para endurecer el uso de sus productos de IA. La empresa tecnológica ha actualizado su Norma de Inteligencia Artificial Responsable, un documento de 27 páginas que establece los requisitos de responsabilidad de los sistemas de IA y su impacto en la sociedad.

«Reconocemos que para que los sistemas de IA sean dignos de confianza, tienen que ser soluciones apropiadas para los problemas que están diseñados para resolver», dijo la jefa responsable de IA de Microsoft, Natasha Crampton, en un blogpost .

«Como parte de nuestro trabajo para alinear nuestro servicio Azure Face con los requisitos de la norma de IA responsable, también estamos retirando capacidades que infieren estados emocionales y atributos de identidad como el género, la edad, la sonrisa, el vello facial, el cabello y el maquillaje.»

Aunque las funciones de detección emocional no estarán disponibles para su uso público, la principal responsable de producto del grupo de Microsoft para Azure AI, Sarah Bird, dijo que la compañía reconoce que «estas capacidades pueden ser valiosas cuando se utilizan para un conjunto de escenarios de accesibilidad controlada».

Preocupación por el reconocimiento facial

En los últimos años, se han planteado preocupaciones sobre la tecnología de reconocimiento facial en términos de vigilancia, privacidad, consentimiento, precisión y sesgo.

Otras empresas tecnológicas han dado un paso atrás en este ámbito. Meta anunció el pasado mes de noviembre que borrar los datos de reconocimiento facial from more than 1bn users collected over a decade, and IBM announced plans the previous year to desechar su reconocimiento facial software por la preocupación de la vigilancia masiva o la elaboración de perfiles raciales.

El La UE publica propuestas para regular la IA el año pasado, pero éstas fueron criticadas por los organismos de control de la UE por no ir lo suficientemente lejos cuando se trata de reconocimiento facial en vivo en lugares públicos y los diputados pidió que se prohibiera sobre tecnologías biométricas de vigilancia masiva.

A pesar de las preocupaciones planteadas, la tecnología se sigue desplegando en muchos ámbitos. El mes pasado, The Irish Times informó de que se espera que la Garda Síochána obtenga nuevos poderes para utilizar el reconocimiento facial para la identificación de delincuentes en Irlanda.

La empresa de tecnología de reconocimiento facial Clearview AI también se ha enfrentado a críticas y presiones de organismos de control de todo el mundo.

En febrero, se informó de que la empresa dijo a los inversores que está en camino de tener 100.000 millones de fotos faciales en su base de datos en el plazo de un año. Esto sería suficiente para identificar a «casi todo el mundo», según los documentos obtenidos por The Washington Post .

La American Civil Liberties Union of Illnois presentó una demanda contra Clearview AI en 2020, alegando que violaba los derechos de privacidad de los ciudadanos. Esa demanda llegó a un acuerdo el mes pasado, cuando Clearview aceptó una nueva serie de restricciones que incluyen la prohibición permanente en Estados Unidos de poner su base de datos de huellas faciales a disposición de la mayoría de las empresas y otras entidades privadas.

Pero a pesar de ser golpeado con un Multa de 7,5 millones de libras en el Reino Unido por múltiples violaciones de la protección de datos, la base de datos de la empresa parece seguir creciendo según sus afirmaciones.

El Dr. Kris Shrishak, del Consejo Irlandés para las Libertades Civiles, dijo recientemente a SiliconRepublic.com que puede ser difícil para los reguladores para hacer cumplir las sentencias contra Clearview AI, ya que tiene su sede en Estados Unidos. Dijo que sería más fácil tener «dientes de aplicación» si una autoridad estadounidense tomara medidas contra la tecnología.

10 cosas que necesitas saber directamente en tu bandeja de entrada cada día de la semana. Inscríbase en el Resumen diario El resumen de Silicon Republic de las noticias esenciales de ciencia y tecnología.