Franciscano experto en inteligencia artificial explica sus principales desafíos éticos

“Tenemos que reconocer que vivimos en una realidad diferente. El software no es secundario, sino que cuestiona qué es la realidad, qué es la propiedad, cuáles son los derechos que tenemos”, expuso el franciscano. 

Centralización y descentralización del poder

En segundo término, fray Benanti precisó cómo el desarrollo de la computación tras la Segunda Guerra Mundial ha producido diferentes procesos relacionados con el poder, la democracia y la intimidad.

En los años 70, se produjeron procesos descentralizadores en Estados Unidos y Europa, que llevaron a la creación años después de los ordenadores personales que “permitían que todo el mundo tuviese acceso a cosas muy simples”. 

En los años 90 del siglo XX, tras la caída del Muro de Berlín, se apostó por un mercado más liberalizado con la idea de que “iba a dar lugar a un mayor bienestar” y a promover el modelo de democracia liberal en países con otros modelos. Sin embargo, esa política “hizo que China fuese más rica, pero no más democrática”. 

Así, los valores democráticos occidentales entraron en crisis al comprobarse que “puedes ser rico y tener bienestar sin ser democrático”.

En la llamada Primavera Árabe (2011) el uso de teléfonos móviles mostró la “capacidad computacional íntima”. Pero poco después se comenzó a sospechar de esa capacidad: “los teléfonos móviles ya no eran los aliados de la democracia, sino el peor aliado de las noticias falsas, la polarización, la post verdad y todo ese tipo de cosas”. 

Con la llegada de la pandemia de Covid 19, “fuimos capaces de subrogar nuestra vida gracias a nuestro poder computacional personal” mediante el uso de videollamadas o el desarrollo de aplicaciones para pagos bancarios, entre otras utilidades.

“Nos dimos cuenta que, de manera silenciosa, del año 2012 al año 2020, el teléfono inteligente se había comido la realidad y ahora las cosas que pasaban en la realidad se estaban produciendo directamente en el teléfono”, recordó. 

El riesgo de la democracia computacional

Durante la segunda década del siglo XXI, “tenemos la inteligencia artificial dentro del teléfono inteligente” y, a juicio de fray Benanti, la democracia liberal clásica está derivando en “una democracia computacional”. 

En ella, “estamos utilizando la inteligencia artificial para sustraer la capacidad computacional de la persona y llevarla a un lugar centralizado que llamamos centro de datos”, de tal manera que aparece un nuevo desafío ético: “ahora todos los procesos vuelven a estar centralizados en la nube”.

El experto subrayó que estas “nubes” o centros de datos “pertenecen a cinco empresas” que son propietarias “de todos los datos” lo que representa un desafío no sólo personal “sino para los procesos democráticos”.

Respecto de estos retos, el religioso expuso cómo la inteligencia artificial también puede suponer una amenaza a la libertad de las personas mediante su capacidad para hacer predicciones sobre el comportamiento.

“La sugerencia en la que estás interesado no sólo está prediciendo qué puedes comprar, sino que además está produciendo las cosas que vas a comprar”, resumió. 

Esta posibilidad supone “un auténtico problema” porque la existencia de este tipo de sistemas en nuestros bolsillos “es capaz de forzar y conformar la libertad de los espacios públicos”. 

Este tipo de cuestiones sobre las debilidades, oportunidades, fortalezas y amenazas de la inteligencia artificial constituyen la razón por la que “deberíamos tener gobernanza sobre este tipo de innovaciones”.

Respecto del futuro, fray Benanti auguró grandes impactos de la inteligencia artificial en el acceso a la información, la medicina y el mercado laboral. Sobre este último, señaló: “Si no regulamos el impacto que puede tener la inteligencia artificial en el mercado laboral, podríamos destruir la sociedad tal y como la conocemos ahora”.