Huellas N.02, Febrero 2024

PRIMER PLANO

Doble desafío

Andrea Simoncini

Promover el pensamiento crítico y adecuar los ordenamientos jurídicos son pasos necesarios ante los nuevos escenarios tecnológicos. A ello invita también el Papa

Sin duda es el asunto más candente del momento. La prioridad número uno en todas las agendas económicas, políticas y científicas del mundo: del G7 a Davos, de la Unión Europea a Naciones Unidas. Tan importante que hasta el Papa ha decidido dedicarle el título de su mensaje para la Jornada mundial de la paz (…¿hay algo más importante hoy que la paz?). Hablamos de Inteligencia Artificial. Habría que preguntarse: ¿pero realmente es tan decisiva? ¿Estamos viviendo una especie de alucinación colectiva, o efectivamente nos encontramos ante «un riesgo para la supervivencia humana y un peligro para la casa común», como dice el papa Francisco?
Para empezar, no hay que tener miedo a la evolución tecnológica. Es la forma que tiene la razón humana de liberar toda su capacidad creativa y resolutiva frente a las preguntas y problemas que la vida plantea. Desde siempre, el hombre ha usado su conocimiento para crear herramientas cada vez más potentes, útiles, veloces y eficientes para llevar a cabo lo que necesitaba.
¿Cuál es la novedad entonces? Se trata de una transformación sutil, pero radical.
Hasta hoy, le hemos pedido a la técnica que llevara a cabo lo que nosotros decidíamos que hiciera.
Pensemos en la revolución industrial. El descubrimiento de nuevas formas de energía (térmica y electromagnética) permitió realizar tareas que hasta entonces desarrollaban seres humanos o animales, con una velocidad, potencia y precisión infinitamente superiores a cualquier capacidad humana. ¿Qué cambia pues con la llegada de la IA? La cuestión es que hoy ya no le pedimos a las máquinas que hagan lo que nosotros decidimos, sino que les pedimos que ellas decidan. ¿Cómo ha podido pasar?
El secreto de la Inteligencia Artificial reside totalmente en la nueva fuente de “energía” que se descubrió a partir de los años 80: los datos. Hoy, casi sin darnos cuenta, producimos una cantidad ilimitada de datos (personales o no) que acaba en la red. Es lo que se llama el “internet de las cosas”. En efecto, la revolución digital consiste en que un número cada vez mayor de cosas de uso común (teléfono, coche, ascensor, televisor, carro de la compra, etcétera) en realidad son dispositivos técnicos que no dejan de producir datos.
Actualmente, exactamente igual que pasa con el petróleo, para explotar esos datos como fuente de energía, primero hay que refinarlos, elaborarlos, “procesarlos”. Así es como nace la inteligencia artificial: una serie herramientas analíticas, matemáticas y estadísticas (algoritmos) capaces de trabajar con esos datos y utilizarlos como base para «tomar decisiones, realizar predicciones o recomendaciones, realizar acciones de manera autónoma, expresar juicios o valoraciones», tal como la define la OCDE (Organización para la Cooperación y el Desarrollo Económico). Es el comienzo de un mundo nuevo. Mediante el análisis masivo de datos, podemos pedirle a una máquina que haga lo que hasta no hace mucho tiempo creíamos que era una prerrogativa exclusiva de los seres humanos o al menos de los seres inteligentes. Hasta hace unos años, a nadie se le habría ocurrido citar en un juicio a un automóvil por un accidente de tráfico porque, materialmente, ha sido el medio técnico quien ha golpeado a la persona y la ha herido. El responsable, desde siempre, era el conductor, el que “usaba” ese medio. Pero hoy, como sabemos, existen automóviles que no conduce nadie; es la herramienta quien decide por sí misma la velocidad, la dirección, cuándo frenar, y lo decide de forma “autónoma”, según la definición de la OCDE.
Podemos empezar a intuir entonces por qué este tipo de tecnología no es exactamente igual que las demás y por qué el Papa hace bien en plantear ciertas preguntas a toda la humanidad. El hombre confía cada vez más sus propias decisiones a sistemas tecnológicos artificiales, volviéndose así inevitablemente dependiente de ellos. Intentemos preguntarnos: después de varios años usando navegadores satelitales en el coche, ¿quién sería hoy capaz de prescindir de ellos? O algo aún más banal, tras décadas viviendo con agendas electrónicas, ¿quién sigue recordando algún número de teléfono de memoria? Mientras se trate de qué carretera seguir para ir a ver a un amigo, da un poco igual. Pero cuando se trata de conceder o no un préstamo a un cliente, o decidir si una imagen es un tumor, o de cuántos años de prisión merece un acusado como condena, entonces la cosa cambia.

¿Qué hacer entonces ante este posible escenario de sustitución tecnológica? La reacción típica de nuestro tiempo es la de dividirse en bandos opuestos: los pros y los contras. Tecno-entusiastas vs. tecno-catastrofistas. Los que ven la inteligencia artificial como el nuevo mal absoluto y los que la ven como solución para todos los problemas. En su mensaje del 1 de enero, el Papa dibuja una propuesta distinta. No considera la tecnología como algo bueno o malo en sí, sino que la considera como un doble «desafío».
El primer desafío está en la educación. Ante este punto de inflexión en la civilización y ante las posibilidades de progreso que supone para nuestras condiciones de vida, sería contraproducente ponerse en contra cargados de prejuicios. «La inteligencia es expresión de la dignidad que nos ha dado el Creador al hacernos a su imagen y semejanza y nos ha hecho capaces de responder a su amor a través de la libertad y del conocimiento». La cuestión es que cualquier nueva posibilidad que se descubra en la investigación siempre es una nueva ocasión para la libertad y responsabilidad humanas, es decir, para su capacidad de adherirse a lo que le hace verdaderamente humano. Por eso es decisiva, en primer lugar, una correcta educación para hacer frente a la técnica.
«La educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico. Es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial». Existe hoy una tendencia muy extendida a descargar en otros nuestras responsabilidades. Todos buscan alguien a quien echar la culpa o de quien quejarse. Por eso, el riesgo más grave es que estas tecnologías, diseñadas precisamente para tomar decisiones, acaben eximiendo al hombre de todas sus responsabilidades. Un peligro mortal porque sin una acción responsable, al final, el sujeto deja de existir.

El segundo desafío, nos dice el Papa, es el derecho. Los sistemas jurídicos son el instrumento que la humanidad ha diseñado para tratar de ordenar las relaciones sociales y las acciones que pueden causar daño a las personas. Es inevitable que, ante estas posibilidades y riesgos, se pida la intervención del derecho y de la ley. Diría aún más: hoy se tiene una confianza absolutamente desproporcionada en la capacidad del derecho para defendernos de todo lo que pueda hacernos daño. Ante los problemas e injusticias que la vida nos pone siempre delante, se cree que basta una ley para arreglarlo todo. En cambio, con mucha lucidez, el Papa antepone el desafío educativo al jurídico.
Europa, una de las instituciones globales más atentas al tema de la regulación, ha anunciado un importante reglamento que entrará en vigor en los próximos meses precisamente sobre este tema, la Ley de IA. La administración Biden ha respondido aprobando una directiva sobre inteligencia artificial; hasta China ha aprobado normas para limitar y orientar este desarrollo tecnológico. Cada uno a su manera, porque el derecho es hijo de las sociedades y de las culturas. Entre una América pro-libre mercado y anti-monopolio y una China preocupada por mantener su soberanía digital interna, Europa propone en cambio un enfoque basado en mitigar riesgos mediante la imposición de reglas a los productores de tecnología que quieran comercializar sus sistemas.
De este modo, Europa asume un gran riesgo porque establecer una regla diferente según los tipos de IA significa corregir, integrar y precisar la normativa al respecto en cuanto se descubre algo nuevo. Es decir, siempre. Pensemos en la aparición de ChatGPT –una Inteligencia Artificial general que se utiliza para casi cualquier tarea y no solo para aquellas para las que ha sido diseñada– mientras se estaba debatiendo la Ley de IA. Esa novedad obligó a una integración acelerada y puso en evidencia de qué modo la velocidad de los cambios tecnológicos implica el riesgo de aprobar normas que se quedan viejas antes incluso de ser aprobadas.
Obviamente, esta no es una buena razón para que las instituciones que buscan el bien común renuncien a su misión, sino al contrario, como dice el Papa, para que se pregunten cómo hay que regular un tema tan particular. Es un intento irónico el de Europa tratando de fijar una medida a este nuevo poder que vemos emerger desafiando nuestra libertad y responsabilidad. Por eso sigue siendo muy verdadero un juicio profético que expresaba Romano Guardini en 1951 sobre el futuro, es decir, nuestro ahora. «Para la época futura lo importante no es ya, en último término, el aumento del poder –aunque este seguirá creciendo, a un ritmo cada vez más acelerado– sino su dominio. El sentido central de nuestra época consistirá en ordenar el poder de tal forma que el hombre, al usarlo, pueda seguir existiendo como tal».