Huellas N.02, Febrero 2024

PRIMER PLANO

Ignorancia artificial

Micheal Hanby

La era de la IA ha desatado una serie de ansias distópicas bien fundadas. Escenarios inquietantes que ocultan un problema menos evidente pero más esencial. «En un intento por llegar a ser más que humanos, nos podemos acabar volviendo menos humanos»

Un viernes de la pasada primavera, mi mujer y yo decidimos ir a un restaurante cercano a cenar, algo que intentamos hacer de vez en cuando. Era Cuaresma y ambos habíamos ayunado todo el día, así que ella decidió renunciar al cóctel y en su lugar pidió una tónica con un toque de lima (yo, por desgracia, no soy tan sano ni tan santo). Durante la espera, inusualmente larga, para que nos sirvieran la bebida, notamos que un grupo de cuatro o cinco camareros se habían congregado alrededor de la caja informática y estaban concentrados en una conversación muy animada. Por fin el grupo envió un camarero a nuestra mesa para informarnos de que no había tónica, un dato un tanto sospechoso teniendo en cuenta que en el bar se estaba bebiendo a diestro y siniestro. Casi con total seguridad, el verdadero problema era que el sistema informático utilizado por la empresa propietaria del restaurante para registrar los cobros y actualizar el inventario no ofrecía la posibilidad de vender tónica sin ginebra. El personal del restaurante, incapaz de reaccionar ante una situación tan absurda y sin ninguna autoridad o herramienta que le atribuyera un precio razonable a nuestro pedido, se negó a hacer lo que sería la opción más obvia para un ser humano: ignorar al ordenador y servir sencillamente un vaso de tónica a un cliente. Pero prefirieron mentir diciendo que el restaurante no tenía tónica porque, según el programa que gestionaba el local, no había.
La era de la llamada “inteligencia artificial” ha dado origen a una serie de ansias distópicas bien fundadas, incluso a una advertencia por parte del Papa. Nos preocupa la gran disparidad de poder entre los “más dotados” digitalmente, los que tienen el poder de determinar lo que el resto del mundo ve y piensa o el de abrir y cerrar los grifos financieros, y los “menos dotados”. Más aún, da escalofríos pensar en un gobierno que funcione por algoritmos, donde nadie en concreto tenga la responsabilidad –y en último término el control–, que dirija un “internet de las cosas” totalmente insensible a la acción humana. Nos dan miedo las formas en que tales poderosos actores humanos o tales sistemas inhumanos podrían utilizar la enorme cantidad de datos que ya han recogido sobre cada uno de nosotros en el sistema actual de vigilancia universal que monitoriza nuestra historia, nuestras costumbres, nuestras compras, nuestros historiales médicos, nuestros pensamientos más íntimos y nuestros desplazamientos. Tememos el día en que un proceso de automatización que ya está preparado para ello transfiera hasta las funciones humanas más sofisticadas a grandes ordenadores o robots, aumentando exponencialmente la clase de los “seres obsoletos”, incluyendo a la mayoría de nosotros. La pandemia ya nos mostró un atisbo del nuevo mundo que parece destinado a surgir de la fusión de tecnología informática, datos biométricos y bioingeniería. Todas ellas son preocupaciones reales y no faltan personas que reflexionan y escriben sobre ello.

Sin embargo, creo que esos escenarios distópicos ocultan un problema más esencial, aunque menos evidente, en relación con la IA, un problema que nuestra experiencia en aquel restaurante ilustra de forma banal y aparentemente inocua. No se trata simplemente del hecho de que la tecnología ya resulte indispensable o que la IA, asumiendo “vida propia”, pueda dejar de ser nuestro siervo para convertirse en nuestro amo, o que pueda marcar incluso el fin de la autodeterminación de los seres humanos. La trágica ironía que subyace a lo que es una de las conquistas técnicas humanas más asombrosas viene a confirmar la antigua intuición, más antigua incluso que el cristianismo, de que en un intento por llegar a ser más que humanos, por llevar el poder humano más allá de la dimensión humana, nos acabemos volviendo menos humanos. El problema más profundo reside justamente aquí. Todas esas asombrosas hazañas del poder humano también están radicalmente desprovistas de la acción humana, que ha quedado reducida al mínimo, totalmente neutralizada, descargando las funciones humanas en complejos sistemas que aplican una causalidad sin responsabilidad, vaciándonos de ese conjunto de capacidades que antes nos distinguían como humanos y que eran el signo de la presencia de la imagen de Dios en nosotros. Sin duda, cualquiera de nosotros tendrá ya alguna experiencia directa de este fenómeno. Llevamos tiempo acostumbrándonos al intento de pasar por encima de los principios morales, buscando soluciones técnicas a los problemas del alma humana y soluciones médicas a los abusos de nuestro cuerpo. ¿Por qué dejarse determinar por la preocupación o por qué autolimitarse cuando tenemos a nuestra disposición una píldora o una inyección que lo resuelve todo? Supongo que la atención al mundo que nos rodea se ha atenuado en la mayoría de nosotros por el hecho de que hoy la realidad nos llega por medio de nuestros smartphones. Constatamos impotentes la progresiva reducción de nuestra capacidad de recordar porque confiamos nuestra memoria a la nube, mientras que nuestro sentido de la orientación se ha debilitado por nuestra dependencia del GPS. Nos preguntamos cuál será el destino de la aviación o de las competencias médicas humanas una vez que el conocimiento, el juicio y las habilidades que antes eran la base de estas profesiones estén completamente automatizadas. ¿La habilidad de un cirujano o de un piloto acabarán considerándose del mismo modo que el arte de la caligrafía? ¿Qué será del pensamiento humano cuando sean las máquinas las que piensen por nosotros?
No se trata simplemente de un problema de exceso, de uso de estas nuevas tecnologías más allá de los límites adecuados, o de otorgarles demasiada responsabilidad. Esta forma típica de enfocar nuestra ansia distópica implica que podamos resolver el problema de la IA manteniendo en cierto modo el control sobre una tecnología que por su naturaleza nos desafía. Que eso sea posible o no, es secundario respecto a la crisis más profunda que representa la noción misma de “inteligencia artificial”. El filósofo Hans Jonas ha sacado a relucir lo que él define como nuestra irresistible tentación de concebir nuestras máquinas a imagen de las funciones humanas que sustituyen, para luego concebir las funciones humanas a imagen de las máquinas que las han suplantado. Eso es lo que pasa con la inteligencia artificial.

La idea misma de “inteligencia artificial” se basa en la reducción de nuestra inteligencia a un cálculo de funciones matemáticas. El nuevo amanecer de la inteligencia artificial implica pues una reconfiguración del significado del “intelecto” y el vaciamiento de nuestra inteligencia por esa cualidad que antaño la definía y determinaba la meta y el destino de la humanidad occidental y cristiana: la capacidad de comprender y contemplar el verdadero significado de las cosas. Por tanto, es probable que el triunfo de la inteligencia artificial sobre nuestra imaginación y sobre nuestra forma de vivir sea inversamente proporcional a la desaparición de las grandes preguntas del hombre –¿quién es Dios?, ¿qué es el bien?, ¿quién soy yo?, ¿cuál es mi destino?, ¿para qué vivo?– y de las dos formas de pensamiento que hasta ahora se consideraban las más elevadas, las más divinas y por tanto las más humanas de nuestras fuerzas intelectuales, donde esas preguntas se expresan: la filosofía y la oración. No hay ningún algoritmo que contemple estas preguntas, ninguna aplicación que rece por nosotros. Lo absurdo de esa idea muestra qué es lo que de verdad está en juego ante la inteligencia artificial.
Si el alma contemplativa quedara sepultada bajo una avalancha de datos computacionales, privando a la persona humana de un horizonte trascendente y vaciando la realidad de su profundidad, las consecuencias serían devastadoras. Algunas de ellas ya las podemos ver por la desenvoltura y superficialidad con que tratamos los problemas humanos más profundos, por la inconsciencia generalizada que acompaña a nuestro extraordinario poder técnico, incluso en la Iglesia, cuando subordina la contemplación al activismo o sustituye con psicología y sociología a la razón filosófica y teológica. Pero donde esa devastación arrasa con más dureza es en el corazón humano. La inteligencia artificial amenaza con borrar la imagen de Dios de nosotros y apagar, en la medida de lo posible, lo que hacía natural y humana a la inteligencia natural: el sentido religioso. Lo único peor que todo esto sería dejar de reconocer qué es lo que nos falta.