Insight, el centro de investigación de la Science Foundation Ireland (SFI) para el análisis de datos, está trabajando con la empresa de software Genesys para desarrollar técnicas de detección de sesgos en los modelos de aprendizaje automático.

Los investigadores de la base de Insight en NUI Galway están trabajando con Genesys para realizar una encuesta y catalogar el establecimiento de marcos, métodos y herramientas para la detección de sesgos en estos modelos de IA.

Los investigadores también investigarán cómo explicar los sesgos que puedan estar presentes en los modelos de aprendizaje automático.

Los algoritmos de aprendizaje automático se basan en los datos de entrenamiento que reciben, pero puede haber sesgos humanos en los datos. Estos sesgos pueden alterar el funcionamiento del modelo de IA, lo que hace que se cometan constantemente los mismos errores o suposiciones.

Insight dijo que una de sus actividades principales es construir una IA fiable mediante el desarrollo de sistemas que tengan procesos explicables.

«Garantizar que las decisiones estén libres de prejuicios es fundamental para crear confianza en la IA que impulsa las transformaciones digitales», dijo el director de Insight, el profesor Edward Curry.

«Genesys es un líder global en experiencias de clientes y empleados impulsadas por la IA, y estamos encantados de asociarnos con ellos en este importante trabajo.»

Genesys utiliza la tecnología de la nube y la IA para dar soporte a los centros de contacto y a los equipos de experiencia del cliente para clientes de más de 100 países. Con sede en California, la empresa estableció una centro de investigación y desarrollo en Galway en 2018 tras la adquisición del negocio de IA Altocloud .

«Nuestra más reciente colaboración tiene un gran potencial para impactar positivamente en el futuro del desarrollo de la IA», dijo el jefe científico de datos de Genesys, Maciej Dabrowski. «Juntos, aspiramos a descubrir conocimientos importantes para garantizar el uso ético de la IA mediante la mejora de las técnicas de detección de sesgos, lo que beneficiará a personas y empresas de todo el mundo.»

El proyecto forma parte de Empower – un Programa de cuatro años de duración destinado a preparar los flujos de datos de la UE para el futuro e impulsar las innovaciones en materia de protección de datos. El proyecto de 10 millones de euros está financiado por el SFI y los colaboradores de la industria.

Los centros de investigación del SFI que participan en el proyecto Empower son Lero, Insight, FutureNeuro y Adapt. El mes pasado, los investigadores de Adapt dijeron que habían creado un nuevo enfoque que puede reducir el sesgo de género en la IA del lenguaje natural más eficientes que los métodos actuales.

10 cosas que necesitas saber directamente en tu bandeja de entrada cada día de la semana. Inscríbase en el Resumen diario El resumen de Silicon Republic de las noticias esenciales de ciencia y tecnología.