Discurso del Papa Francisco en la cumbre del G7

El tema de la inteligencia artificial, sin embargo, a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse. 

No podemos dudar, ciertamente, de que la llegada de la inteligencia artificial representa una  auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época. 

Por ejemplo, la inteligencia artificial podría  permitir una democratización del acceso al saber, el progreso exponencial de la investigación  científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo,  podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad  de una “cultura del encuentro” y favoreciendo una “cultura del descarte”. Este es el peligro.

La magnitud de estas complejas transformaciones está vinculada obviamente al rápido  desarrollo tecnológico de la misma inteligencia artificial misma. 

Es precisamente este poderoso avance tecnológico el que hace de la inteligencia artificial un  instrumento fascinante y tremendo al mismo tiempo, y exige una reflexión a la altura de la situación. En esa dirección tal vez se podría partir de la constatación de que la inteligencia artificial es sobre todo un instrumento. Y resulta espontáneo afirmar que los beneficios o los daños que esta  conlleve dependerán de su uso. 

Esto es cierto, porque ha sido así con cada herramienta construida por el ser humano desde el  principio de los tiempos. 

Nuestra capacidad de construir herramientas, en una cantidad y complejidad que no tiene igual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido  una relación con el ambiente mediada por los instrumentos que iba produciendo. Vivimos una condición de ulterioridad respecto a nuestro ser biológico; somos seres  inclinados hacia el fuera-de-nosotros, es más, radicalmente abiertos al más allá. De aquí se origina nuestra apertura a los otros y a Dios; de aquí nace el potencial creativo de nuestra inteligencia en términos de cultura y de belleza; de aquí, por último, se origina nuestra capacidad técnica. La  tecnología es así una huella de nuestra ulterioridad. 

Sin embargo, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien.  Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como  instrumento de bien al servicio de los hermanos y hermanas, y de la casa común (cf. Gaudium et spes,  16), esto no siempre sucede. Es más, no pocas veces, precisamente gracias a su libertad radical, la  humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta. 

La misma suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza su  vocación al servicio de lo humano, los instrumentos tecnológicos revelarán no sólo la grandeza y la  dignidad única del ser humano, sino también el mandato que este último ha recibido de “cultivar y  cuidar” el planeta y todos sus habitantes (cf. Gn 2,15). Hablar de tecnología es hablar de lo que significa ser humanos y, por tanto, de nuestra condición única entre libertad y responsabilidad, es  decir, significa hablar de ética. No se puede separar una de la otra.

Pero la inteligencia artificial es una herramienta aún más compleja. Yo diría que es una  herramienta sui generis. Conviene recordar siempre que la máquina puede, en algunas formas y con estos nuevos  medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección técnica entre varias  posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. 

El ser humano, en  cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que  podríamos definir el más estratégico de una elección y requiere una evaluación práctica. Por esta razón, frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y  urgentes con que a veces ésta se presenta en nuestra vida. 

Condenaríamos a la humanidad a un futuro  sin esperanza si quitamos a las personas la capacidad de decidir por sí mismas y por sus vidas,  condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los  programas de inteligencia artificial. Está en juego la misma dignidad humana. 

Precisamente sobre este tema, permítanme insistir en que, en un drama como el de los  conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las  llamadas “armas autónomas letales” autónomas para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano. 

Poner de nuevo al centro la dignidad de la persona en vista de una propuesta ética compartida 

A lo que ya hemos dicho se añade una observación más general. La época de innovación  tecnológica que estamos atravesando, en efecto, se acompaña de una particular e inédita coyuntura  social. 

Se registra una pérdida o al menos un oscurecimiento del sentido de lo humano  y una aparente insignificancia del concepto de dignidad humana. Y es así que en esta época en la que los programas de inteligencia artificial  cuestionan al ser humano y su actuar, precisamente la debilidad del ethos vinculada a la percepción  del valor y de la dignidad de la persona humana corre el riesgo de ser el mayor daño (vulnus) en la  implementación y el desarrollo de estos sistemas. 

No debemos olvidar que ninguna innovación es neutral. La tecnología nace con un propósito y, en su impacto en la sociedad humana, representa  siempre una forma de orden en las relaciones sociales y una disposición de poder, que habilita a  alguien a realizar determinadas acciones impidiéndoselo a otros. Esta dimensión de poder que es  constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del  mundo de quien la ha realizado o desarrollado. 

Esto vale también para los programas de inteligencia artificial. Con el fin de que estos  instrumentos sean para la construcción del bien y de un futuro mejor, deben estar siempre ordenados  al bien de todo ser humano. Deben contener una inspiración ética. 

La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción,  sino también los valores en juego y los deberes que se derivan de esos valores. Por esto he acogido  con satisfacción la firma en Roma, en 2020, de la Rome Call for AI Ethics  y su apoyo a esa forma de moderación ética de los algoritmos y de los programas de inteligencia artificial que he llamado  “algorética”. 

En un contexto plural y global, en el que también se muestran las distintas sensibilidades y plurales jerarquías en las escalas de valores, parecería difícil encontrar una única jerarquía de valores. Pero en el análisis ético podemos recurrir además a otros tipos de instrumentos.  Si nos cuesta definir un solo conjunto de valores globales, podemos encontrar principios compartidos  con los cuales afrontar y disminuir eventuales dilemas y conflictos de la vida.

La política que se necesita 

No podemos ocultar el riesgo concreto, porque es inherente a su mecanismo  fundamental, de que la inteligencia artificial limite la visión del mundo a realidades que pueden  expresarse en números y encerradas en categorías preestablecidas, eliminando la aportación de otras  formas. 

El paradigma tecnológico encarnado por la inteligencia artificial corre el riesgo de dar paso a un paradigma mucho más peligroso, que ya he identificado con el nombre de “paradigma  tecnocrático”. 

Y es precisamente aquí donde urge la acción política, como recuerda la encíclica Fratelli tutti. Ciertamente “para muchos la política hoy es una mala palabra, y no se puede ignorar que detrás de  este hecho están a menudo los errores, la corrupción, la ineficiencia de algunos políticos, no de todos, de algunos. 

A esto se  añaden las estrategias que buscan debilitarla, reemplazarla por la economía o dominarla con alguna  ideología. Pero, ¿puede funcionar el mundo sin política? No. ¿Puede haber un camino eficaz hacia la  fraternidad universal y la paz social sin una buena política?”.

Nuestra respuesta a estas últimas preguntas es: ¡no! ¡La política sirve! Me viene a la mente lo que un Papa dijo sobre la política: “Es la forma más elevada de la caridad, es la forma más elevada del amor”. La política sirve. 

 Quiero reiterar en esta  ocasión que “ante tantas formas mezquinas e inmediatistas de política [...], la grandeza política se  muestra cuando, en momentos difíciles, se obra por grandes principios y pensando en el bien común a largo plazo. Al poder político le cuesta mucho asumir este deber en un proyecto de nación y más aún en un proyecto común para la humanidad presente y futura”.

Siempre hay tentación de uniformar todo. Me viene a la mente un romance famoso del inicio de 1900, “The Lord of the World”, un romance inglés, futurista, que hace ver el futuro sin política, el futuro solamente uniforme. Es bonito leerlo, es interesante. 

Estimadas señoras, distinguidos señores, mi reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad nos  lleva así a la consideración de la importancia de la “sana política” para mirar con esperanza y  confianza nuestro futuro. Como he dicho en otra ocasión, “la sociedad mundial tiene serias fallas estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales. Debemos de ir a las raíces. Hay cosas  que deben ser cambiadas con replanteos de fondo y transformaciones importantes. Sólo una sana política podría liderarlo, convocando a los más diversos sectores y a los saberes más variados. 

De esa manera, una economía integrada en un proyecto político, social, cultural y popular que busque el bien  común puede “abrir camino a oportunidades diferentes, que no implican detener la creatividad  humana y su sueño de progreso, sino orientar esa energía con cauces nuevos” (Laudato si’, 191)”. 

Este es precisamente el caso de la inteligencia artificial. Corresponde a cada uno hacer un  buen uso, y corresponde a la política crear las condiciones para que ese buen uso sea posible  y fructífero. Gracias.