López de Mántaras: «La IA ni es tan inteligente ni es tan artificial»

Para López de Mántaras, el gran reto científico es alcanzar una inteligencia artificial general, capaz de hacer cosas muy diversas. «Ninguno de nosotros sabe hacer solo una cosa sino que somos capaces de hacer muchas cosas distintas». Frente a esa general, las actuales son muy específicas. «Actúan en un sistema muy limitado y llegan a tener habilidades extraordinarias en ese ámbito». Repasó algunas de las de más éxito.

Éxitos

«La que más me ha impresionado es Alpha Fold, capaz de resolver el problema de cómo se pliegan las proteínas. Antes se tardaba años en saberlo». Puso otros ejemplos de aplicaciones muy útiles y de sus aplicaciones en campos como la medicina: «ayudan a tomar mejores decisiones a los médicos, a ser más exhaustivos y a analizar todas las posibilidades. Mientras que los humanos se centran más en una posible causa, la IA no da nada por hecho». Explicó que los mejores resultados se han obtenido mediante el trabajo conjunto de programas con médicos. «Hay miles de aplicaciones y muy diversas». De descifrar jeroglíficos a predecir terremotos o traducir lengua de signos. Algunas de esas aplicaciones son inquietantes.

En el turno de preguntas, López de Mántaras entró en las armas letales autónomas. «Sabemos que se está haciendo. Hay una carrera armamentística», y compartió otra cuestión alarmante: así como las armas nucleares son costosas y complejas, «un dron con un sistema está al alcance de mucha gente».

Desde su ámbito científico, planteó: «El reto es conseguir una IA general. Es la gran cuestión. Se pueden hacer aplicaciones interesantes e incluso dinero, pero eso no es ciencia. Yo quiero más». La dificultad para alcanzar sistemas que razonen por sí mismos la situó en el sentido común. «Es lo que no hemos aprendido en la escuela sino interactuando con el mundo. Son cosas obvias que permiten llegar rápidamente a conclusiones que tienen sentido». Saber, por ejemplo, que si un tren no pasa por un túnel porque es estrecho es un problema de la infraestructura y no del vehículo. Ahí es donde falla, por ejemplo Chat GTP. «Tiene conocimientos muy superficiales. Si dice que el sol quema, solo reconoce esas tres letras y establece una probabilidad con la siguiente palabra pero no comprende el significado de lo que es el sol ni el calor. Tiene los significantes, pero no el significado».

Mostró como falla estrepitosamente el programa cuando se le plantean cuestiones que se salen de los textos con los que ha sido entrenado. Incluso en operaciones matemáticas básicas como una suma si no se le ha dado el resultado, aunque para eso haga falta plantearle sumandos con muchos dígitos. En algunas de esas pruebas, como pedirle que identifique movimientos correctos de ajedrez si se ha cambiado de posición piezas, el resultado es equivalente a que responda al azar. En otras, como identificar los cajones que hay en una cocina cuya imagen se le muestra, también falla de forma estrepitosa. «Quedas impresionado si juegas con el programa, parece coherente y puede ser útil para una serie de cosas, pero lo que hace es recitar», señaló.

Aludió a que buena parte del revuelo provocado por la aplicación tiene que ver con que le damos una apariencia humana. «Hasta el término IA nos ayuda a antropomorfizarlo. Tenemos habilidades sin comprensión. Chat GPT es hábil generando texto, pero no es inteligente».

Un modelo del mundo

Para dar el salto se necesita un modelo del mundo, no solo un modelo de lenguaje. López de Mántaras planteó que para eso es necesario un cuerpo que interactúe con el entorno y que así pueda conocer cosas básicas como la relación causa efecto. Señaló que la mayor parte de grandes tecnológicas tienen ya proyectos para fabricar robots que doten de ese cuerpo a las inteligencias artificiales. «Sin cuerpo no se puede interactuar con el mundo y sin interactuar no se puede comprender». Puso ejemplos como PLATO, un robot diseñado para aprender como lo hace un bebé que tira un objeto al suelo una y otra vez para saber que algo cae. Sin embargo, apuntó que de esa inteligencia capaz de razonar aún se está tan lejos como en los años 60.

Trabajo humano

A la paradoja de poca inteligencia sumó el enorme trabajo humano detrás de las IA. «Cuanto más inteligente más personas necesitan para que funcionen». Desde su diseño hasta su aprendizaje. Mostró cómo Open IA emplea a miles de jóvenes en Filipinas para que etiqueten imágenes que luego sus programas puedan identificar.

Otro de los problemas es el reto social. «El impacto es enorme. Lo hay en la ocupación, aunque menos de lo que dicen, en el consumo eléctrico, en la manipulación y falsedades, en las decisiones autónomas». Más allá de sus usos letales alertó ante otros, como el empleo de algoritmos para seleccionar currículums. «Se están utilizando con poca prudencia. Se tienen que probar bien, saber que no discriminan».

En pocas manos

El problema, señaló, es que esas tecnologías ahora mismo están en manos de unas pocas grandes compañías tecnológicas. «Les interesa vendernos esas mentiras. Me da más miedo la estupidez natural que la inteligencia artificial». Aludió a la búsqueda de hacer grandes anuncios para captar inversión.

Una de las limitaciones de los actuales sistemas, basados en grandes plantas de ordenadores, es su gasto en energía y recursos. López de Mántaras recordó que solo Open IA consume una cantidad de energía equivalente a la de un país como Argentina. «No es sostenible a no ser que cambiemos radicalmente de tecnología y eso la ciencia lo sabe». Explicó que el principal reto es disipar la gran cantidad de calor que generan los procesadores y que se trabaja en alternativas para fabricar chips que no sean de silicio. Sin embargo, esa tecnología aún está en fase embrionaria. Apuntó a que el gran fabricante de estas tecnologías, Ndivia, presume de que ha conseguido rebajar el consumo eléctrico en últimos modelos, lo que muestra que hay preocupación.

López de Mántaras señaló a la hipótesis de un tercer tipo de inteligencia artificial, además de la específica actual y la general que se plantea como reto: la fuerte. El ordenador de 2001. «No simula que tiene mente sino que es una mente. Tiene conciencia, empatía, deseos, intenciones. Todas esas cosas tan humanas. Hay gente que piensa que es posible».

Campos

Yolanda González, vicerrectora de la UIB, introdujo la conferencia con un ejemplo personal. Dudaba si estudiar Medicina o Informática, campos que entonces ni siquiera se tocaban. Ahora la relación entre ambos es fundamental. «La IA nos ha permitido cambiar el tejido empresarial e industrial y conectar campos de conocimiento. Es ahí donde han surgido las mayores innovaciones».

La presidenta del Grup Serra, Carmen Serra, apuntó en su introducción: «La inteligencia artificial ha dejado de ser ciencia ficción para convertirse en una realidad. Todos los que estamos aquí la hemos usado, pero también nos hemos preguntado. ¿Dónde están los límites?».