Va al contenido

Huellas N.08, Septiembre 2023

PRIMER PLANO

Preguntas antiguas que reabre ChatGPT

Paolo Perego

Nello Cristianini y sus estudios sobre inteligencia artificial. «Las máquinas han ocupado una posición de control, pero aún no las comprendemos. Oigo a compañeros y alumnos que vuelven a preguntarse: ¿qué es verdaderamente un ser humano? ¿Y su conciencia?»

Inteligencia artificial, aprendizaje automático, ChatGPT, lenguaje humano. Nello Cristianini ha vuelto al Meeting (su primera visita fue en 2017) para contar sus últimos años de trabajo como profesor de Inteligencia artificial en la Universidad de Bath (Inglaterra), en los que el desarrollo de los sistemas modernos de traducción automática ha adquirido un ritmo inesperado. «La manera tradicional de resolver un problema científico, en general, es comprender a fondo la teoría y luego deducir qué hacer. Durante años hemos dicho: “Vamos a estudiar la gramática, la sintaxis, vamos a aprender lingüística y otros aspectos de la inteligencia humana”. Una vez resuelto el problema del lenguaje humano, creíamos que ya sería fácil. Pero no ha sido así».?

¿Por qué??
No lo sé. Nuestros conocimientos de lingüística no parece que nos ayuden a traducir documentos. Al final hemos renunciado y hemos empezado a hacer algo más sencillo y menos ambicioso. Un atajo, en definitiva. Que misteriosamente funciona. Se trata de usar artimañas estadísticas para predecir la siguiente palabra en una frase y decidir si la frase es plausible estadísticamente. Así es como funciona la escritura automática en los móviles y en la traducción de textos. No es perfecto, porque la previsión estadística no lo es, pero es un sistema que permite predecir qué libro se va a comprar un cliente en Amazon o qué video querrá ver en Tiktok o Youtube. Es más fácil resolver un problema sencillo como este que resolver el gran misterio del lenguaje humano, que nunca ha entendido nadie en siglos. Sin duda, esto sigue siendo un sueño y cuando empezamos era razonable, pero de momento…?

Se ha optado por el atajo.?
Los seres humanos somos antropocéntricos y esperamos que la máquina se comporte como nosotros, que comprenda el mundo de forma lógica, explícita, deliberativa y simbólica. Pero la máquina no lo hace, ni tampoco los demás animales: somos nosotros los anómalos. Un gato o una tortuga no hacen grandes razonamientos simbólicos, se comportan mediante asociaciones y reflejos. Eso es lo que hace Youtube. Lo paradójico, y tal vez misterioso, es que cuando queremos generar comportamientos humanos como el lenguaje, el método estadístico funciona bastante bien, mientras que la lingüística –bellísima, que he estudiado con pasión– no es capaz de darnos una traducción automática. ¿Cuál es entonces el problema? Que requiere trabajar en cada documento, y eso tiene un coste. Ahí aparece un segundo atajo: buscar datos en internet. Tercer problema, hay que saber qué quiere el cliente y en vez de preguntárselo directamente, se observan sus comportamientos y decisiones. Son tres atajos que juntos nos dan la receta de todo lo que se mueve en Youtube, ChatGPT... Claro que es un camino más corto y no resuelve las grandes cuestiones. Antes se pensaba: «Cuando las máquinas hablen, por fin habremos comprendido a fondo el lenguaje humano». Pero ahora ChatGPT habla y no nos enseña nada sobre nosotros mismos, y seguimos sin saber nada del lenguaje humano.?

¿La inteligencia artificial es una amenaza o también una provocación interesante??
Yo no me dedicaría a esto si no pensara que es interesante y útil. Puede hacer daño si se usa mal y hay que comprenderlo bien. Hablamos de algo que ya ocupa una parte muy importante en nuestra vida y en la estructura digital que utilizamos, esta máquina está en una posición de control y toma decisiones importantes: qué noticias leemos, qué videos vemos, qué mensajes bloqueamos. Tiene cierto poder y en este nivel es donde se puede dar la amenaza.?

?¿Y la provocación interesante??
Por ejemplo, desde hace tiempo oigo a compañeros y alumnos que plantean preguntas antiguas: «¿Qué es verdaderamente un ser humano? ¿Y la conciencia? ¿Qué es realmente la inteligencia?». Esta nueva presencia de la Inteligencia artificial nos lleva a hacernos preguntas que se planteaban hace siglos. Eso es una provocación, ¿no? Y también es una oportunidad. ¿Cuántas cosas buenas pueden hacerse? ¿Cuánta gente puede acceder ya a informaciones online? Fíjate en Wikipedia. Desconectarse no solo sería imposible sino también estúpido. Y además sería irresponsable. Estamos empezando a dar a la gente cosas que nunca ha tenido, pero hay que hacerlo con responsabilidad y legislar para impedir estupideces.?

?A propósito de este nuevo mundo, que ya es una realidad, usted decía en el Meeting que «estamos llamando “usuarios” a las personas, “amigos” a los contactos y “contenidos” a obras de arte». ¿A qué se debe esta reducción??
Me gustaría usar una palabra: mirada. La mirada que define, la mirada del poder, la mirada de la máquina. Vivir bajo la mirada constante de una máquina nos cambia. Adoptar expresiones como “usuario” para referirse a un ser humano, “contenido” a una obra fruto de su ingenio, llamar “amigo” a un contacto de mi agenda o “comunidad” a un grupo de personas que nunca se han visto significa vaciar palabras que tienen su valor. Mira cuánta gente trabaja aquí en el Meeting gratis y con alegría. Es el mismo clima que recuerdo de cuando vine en 2017. Gente que podría estar en cualquier otra parte en agosto pero quiere estar aquí. Eso es una comunidad. No una community. Sin embargo, por algún motivo, hemos asumido el punto de vista del contenedor, del medio. El medio es importantísimo, pero es un medio. En nuestro caso, el punto de vista de los seres humanos es lo que importa.?

¿Qué conlleva esta mentalidad??
No lo sé, no es fácil. Pero no me gustaría que mis hijos crecieran identificándose como “usuarios”. Tal vez la respuesta afecta a la conciencia y a la cuestión de la identidad. Pero nunca lo he pensado y no me voy a meter ahí. Está claro que si dejamos un vacío, las máquinas lo llenarán, pero si nuestra cultura es lo suficientemente fuerte como para llenar ese vacío, las máquinas se quedarán sin espacio. Tal vez ese sea el camino.?

?

 
 

Créditos / © Asociación Cultural Huellas, c/ Luis de Salazar, 9, local 4. 28002 Madrid. Tel.: 915231404 / © Fraternità di Comunione e Liberazione para los textos de Luigi Giussani y Julián Carrón

Vuelve al inicio de página