El sistema LaMDA de Google y su conversación con el ingeniero Blake Lemoine hizo que todo el mundo hablara, desde los tabloides hasta la televisión diurna, sobre la posibilidad de que la IA se vuelva sensible y amenazando nuestra forma de vida. El tema de la IA rara vez sale de las páginas de ciencia y negocios, pero cuando lo hace, suele venir con el tema de 2001: Una odisea del espacio o una imagen de Terminator. De hecho, este desarrollo debería alarmar a la comunidad tecnológica, pero no porque LaMDA tenga sentimientos.

Tenemos que preocuparnos porque historias como estas dañan la confianza del público en las aplicaciones de IA, que tienen el potencial de transformar la forma en que ofrecemos todo, desde los servicios financieros hasta la atención sanitaria. Los derechos de propiedad intelectual de una serie de sistemas de IA potencialmente innovadores se están reteniendo cada vez más en Irlanda, a medida que las empresas irlandesas se vuelven más valientes a la hora de desarrollar soluciones de IA a medida junto con investigadores radicados aquí. Una amenaza importante para este desarrollo es la percepción de que estos sistemas no son fiables o están diseñados para sustituir completamente a los humanos, o ambas cosas.

La realidad es que la IA es una creación humana y que las palabras que salieron de la «boca» de LaMDA se extrajeron de entradas humanas en línea en una búsqueda dirigida por las preguntas de Lemoine. El sistema no «sintió» nada.

La IA es tan buena como los seres humanos que la conducen. Gran parte de ella promete enormes beneficios para la humanidad.

Tomar el spin-out irlandés Laboratorios Digital Gait por ejemplo. Su IA puede «mirar» la forma en que caminamos y predecir la probabilidad de que perdamos el equilibrio. Una caída evitable puede significar a menudo el fin de la vida independiente para adultos mayores por lo demás sanos, y esta inteligencia da a los médicos las herramientas para ayudar a los pacientes a evitar accidentes que limiten su vida.

Los ancianos que se caen en casa y son ingresados en el servicio de urgencias suelen clasificarse como «frágiles». Las investigaciones indican que estos pacientes tienen más ingresos hospitalarios, estancias más largas y un mayor uso de los recursos sanitarios. Digital Gait Labs ha desarrollado una herramienta de análisis y evaluación de la marcha que puede utilizarse para medir la fragilidad.

El análisis está impulsado por una IA de última generación que puede evaluar la marcha de una persona mediante una aplicación de teléfono móvil y un procesamiento de datos basado en la nube. La tecnología de Digital Gait Labs, validada clínicamente, permite que el análisis de la marcha sea realizado de forma más sencilla y eficiente por un clínico y de manera menos intrusiva para el paciente, en comparación con los sistemas existentes.

Lo importante aquí es el término «por un clínico», no «en lugar de un clínico». El sistema no «sabe» nada. Simplemente ayuda al ser humano a saber.

La IA de Digital Gait Labs, al igual que muchas tecnologías de IA, se desarrolló para ayudar a los humanos a tomar mejores decisiones, más precisas, más eficientes y menos intrusivas. En este caso, la empresa lo ha hecho con la participación y el compromiso de médicos, pacientes y hospitales desde el principio.

Necesitamos la confianza de los usuarios para hacer volar estas tecnologías. No debería preocuparnos que las máquinas se vuelvan sensibles, como se dice de LaMDA. Pero sí debería preocuparnos que esas tecnologías se desarrollen de forma ética y que no se limiten a los técnicos con los medios para hacerlo, sino que cuenten con la aportación y el compromiso constante de los ciudadanos y los profesionales no tecnológicos que utilizarán y, en última instancia, se beneficiarán de la tecnología.

La comunidad investigadora, en particular, lo entiende y pone cada vez más en práctica esta ética a través de programas de investigación con participación pública. Digital Gait Labs es un ejemplo de buenas prácticas en este sentido.

Más allá de la comunidad investigadora e innovadora, también tenemos que mantener conversaciones complejas y a veces difíciles dentro de nuestra sociedad con el fin de crear conciencia y comprensión de esta cuestión polifacética, informar a los marcos legislativos y, lo que es más importante, hacer que el público acompañe a la tecnología para la mejora de todos. Un derecho fundamental de los seres humanos en relación con la IA es que se les diga cuándo están tratando con ella; que no haya engaños, que se señalen las imágenes falsas y que las conversaciones con la IA estén claramente señalizadas.

Los discos duros renegados y los Frankensteins digitales no tienen cabida en esta conversación. Como todos sabemos, fue el médico de Shelley, y no su monstruo, el responsable.

Por Profesor Noel O’Connor

Noel O’Connor es el director general de Insight, el centro de investigación de la Fundación Científica de Irlanda para el análisis de datos, y profesor de la Escuela de Ingeniería Electrónica de la Universidad de la Ciudad de Dublín.

10 cosas que necesitas saber directamente en tu bandeja de entrada cada día de la semana. Inscríbase en el Resumen diario El resumen de Silicon Republic de las noticias esenciales de ciencia y tecnología.