El blog de diariodemimochila.over-blog.es

LOGOI 370

LA I.A. Y MATRIX

Bueno, cualquier cinéfilo bien informado podría haber escrito de la I.A. citando además de “Matrix”, “Her”, “Yo, Robot”, “Moonfall” (La Luna se derrumba sobre la Tierra guiada por una gigantesca IA que se ha “independizado del hombre”) y, poniéndose muy pesimista, “Terminator”. En todas ellas, la verdadera protagonista es la I.A. (incluso antes de hacerse una estrella ambivalente como en la (s) película (s) del robot “Terminator”) y toda una serie de filmes de ciencia-ficción apocalíptica, que empezaron con “La hora final” o “Telefono Rojo” de Kubrick o el primer “Planeta de los simios” (aunque en estas últimas citadas se trataba de la Bomba (atómica), un apocalipsis causado en el último momento por máquinas o algoritmos. Para salvar la cara, el cine siempre ofrece la disculpa del error humano, pero dejar la última decisión a una máquina además de un error es un sesgo de actitud cada vez más aceptado por todos los humanos.

Viene esto a cuento por una información que circula discretamente sobre una empresa nipona Sakana AI y un programa llamado The Al Scientist, creado para generar investigaciones científicas de manera autónoma y sus correspondientes hipótesis y los artículos y argumentos que las sustentarían, todo ello bajo un cuadro o programa de actuación diseñado por humanos. Pues bien, dado que el programa de inicio ya establecía ciertos límites y controles, la máquina obrando por sí misma modificó la secuencia de inicio para ejecutarse integrando un bucle infinito que la colocaba fuera del control temporal de sus creadores y, en definitiva, abría una gama de posibilidades de actuación nuevas y sin control humano. Le enorme sobrecarga energética que eso suponía alertó a los operadores del sistema. Evidentemente se neutralizó la operación autónoma.

No se necesita una imaginación tipo Asimov o Clarke o el recuerdo de la humanidad genéticamente controlada por máquinas del Universo de pesadilla del que nos habla “Matrix”, para alertarnos y llamar la atención a quien corresponda de la necesidad de un control más específico y medido de la IA. No se trata de eliminarla, sino de evitar que sea algo más que una buena herramienta, una prótesis científica de ayuda al progreso humano, como esa IA de un hospital universitario de Palma de Mallorca que  está obteniendo diagnósticos inmediatos y certeros sobre la sepsis, esa infección incontrolable del cuerpo humano que colapsa mortalmente el cuerpo en cuestión de horas. La OMS calcula que el 20% de las muertes en el mundo se producen por septicemias. La IA ha logrado mejorar enormemente el llamado “Código Sepsis” y adelantar los diagnósticos con una fiabilidad del 96%, con menos del 9% de falsos positivos y menos del 1% de falsos negativos.

Recordemos que en la mitología, los dioses dieron a los hombres la idea de usar el fuego en su provecho  e interés, pero también les advirtieron que para que así fuera debía estar siempre bien controlado.

ALBERTO DIAZ RUEDA