El Vaticano afrontará el ciberacoso y la explotación sexual infantil en Internet

La Pontificia Academia de Ciencias del Vaticano reúne desde este miércoles y hasta el sábado a más de 60 expertos internacionales en inteligencia artificial, protección infantil y ética digital para afrontar los problemas derivados del uso de dispositivos tecnológicos en los menores de edad. 

En la mesa de las discusiones estarán problemas como el ciberacoso, el sexting (mensajes o imágenes con contenido sexual), la explotación sexual infantil en Internet o el peligro a desarrollar adicciones tecnológicas, pero también otras amenazas relacionadas con el ámbito de la seguridad como el phishing (engaño en Internet para obtener la información confidencial de una persona) o la suplantación de identidad.

La conferencia internacional “Riesgos y Oportunidades de la IA para la Infancia: Un Compromiso Común para la Protección de los Niños” analizará, por otro lado, cómo la inteligencia artificial (IA) puede utilizarse para proteger a los niños frente a delitos como la explotación sexual.

La cumbre está organizada por la Academia Pontificia de las Ciencias, la Pontificia Universidad Gregoriana y la World Childhood Foundation, que cuenta con el respaldo de la Reina Silvia de Suecia, además de académicos, responsables políticos, representantes de empresas tecnológicas y víctimas de abusos, con el fin de generar un debate inclusivo y realista sobre los riesgos y oportunidades que plantea la IA para los menores.

Durante la presentación del evento en el Vaticano, el canciller de la Pontificia Academia de Ciencias, el Cardenal Peter Turkson, subrayó la necesidad de proteger a los niños, quienes “por naturaleza, aman las herramientas digitales y utilizan la inteligencia artificial”.

En este contexto, insistió en que “poner estas herramientas en manos de los niños conlleva una gran responsabilidad” y que la regulación no puede quedar exclusivamente en manos de investigadores y empresas tecnológicas.

Así recordó que el Papa Francisco ya ha hablado sobre la IA, describiéndola como una herramienta “interesante, apasionante, pero también aterradora”. En ese sentido, mencionó que el Vaticano ha tomado medidas concretas como la publicación por parte de la Gobernación del Estado del Vaticano y del Dicasterio para la Doctrina de la Fe de unas directrices sobre el uso y la aplicación de la inteligencia artificial.

Por su parte, el profesor Joachim von Braun, economista agrario y presidente de la Pontificia Academia de las Ciencias, resaltó durante su intervención los riesgos que la inteligencia artificial representa para la infancia. 

Von Braun explicó que la ciencia ha demostrado que la inteligencia artificial puede generar adicción a las redes sociales y afectar el desarrollo cerebral de los niños. Además, alertó sobre problemas de privacidad, manipulación del comportamiento infantil en el mercado y el uso de la tecnología en la explotación sexual infantil.

No obstante, también destacó que la IA presenta oportunidades en el ámbito educativo. “Hay jóvenes de todo el mundo que hablarán en la conferencia sobre los beneficios de la inteligencia artificial en la educación”, mencionó.

Así llamó a un compromiso global que refuerce las regulaciones internacionales para proteger a los niños de los efectos negativos de la inteligencia artificial. También pidió que los desarrolladores de sistemas de IA que prioricen la seguridad, privacidad y dignidad de los niños. A este respecto dijo que desde la Pontificia Academia de las Ciencias hablan “tanto con los funcionarios de los distintos estados como con los expertos, así como con los científicos que trabajan en todo esto”.

“Hablamos con ellos y esperamos que cuando regresan a Silicon Valley o donde trabajan sean capaces de influir en sus colegas en el desarrollo de estos modelos de IA desde una base ética”, manifestó tras resaltar la importancia de que quienes diseñan los algoritmos comprendan su impacto en la sociedad.

Falta de coherencia en las políticas de protección infantil

Por su parte, el jesuita alemán y experto en la protección de menores, Hans Zollner, subrayó la importancia de garantizar la seguridad de los niños y adolescentes en el entorno digital. Como director del Instituto de Antropología de la Pontificia Universidad Gregoriana y antiguo miembro de la Comisión Pontificia para la Protección de Menores, Zollner ha trabajado durante años en la sensibilización sobre el impacto de la tecnología en los jóvenes.

Así recordó que, ya en 2017 fue organizada en el Vaticano una conferencia sobre la dignidad de los menores en el mundo digital junto con la organización italiana Telefono Azzurro y otros socios, cuando “muy poca gente hablaba de inteligencia artificial, pero ya se advertía sobre la falta de coherencia en las políticas de protección infantil y la escasa implicación de las grandes empresas tecnológicas”.

Al final de ese encuentro, el Papa Francisco pidió a los gobiernos y organismos encargados de hacer cumplir la ley que hicieran todo lo posible para proteger a los menores y a otras personas vulnerables en el mundo digital. Sin embargo, según el experto, “los avances en esta materia se detuvieron con la pandemia” y, al mismo tiempo, el uso de las redes sociales “aumentó de forma considerable, exponiendo aún más a los jóvenes a los riesgos de la tecnología”.

En este sentido, destacó que la protección de los menores no solo consiste en evitar abusos físicos, sino también en garantizar “entornos digitales seguros, ya que, para muchos jóvenes, el mundo digital es el espacio donde se comunican, establecen relaciones y, lamentablemente, donde también pueden ser víctimas de distintos tipos de abuso, como acoso, sextorsión y manipulación”.

Durante la rueda de prensa, Zollner, que presentó su dimisión de la Comisión para la Protección de Menores en 2023 tras acusar al organismo de falta de transparencia, reconoció que la Iglesia católica ha atravesado su propia crisis por abusos y, precisamente por ello, debe asumir una responsabilidad aún mayor en la defensa de los menores.

Tecnología, parte del problema y de la solución

En la presentación en el Vaticano, también intervino la secretaria general de la Fundación Mundial de la Infancia, Paula Guillet de Monthoux, que resaltó la importancia de proteger a los niños, en situación de vulnerabilidad, especialmente aquellos que se encuentran “en condiciones de abandono, marginación o exclusión social”.

“Estos menores, entre los que se incluyen niños inmigrantes, niños que viven en la calle y aquellos sin familia, enfrentan un alto riesgo de explotación y abuso sexual, lo que exige una respuesta coordinada y efectiva a nivel global”, explicó.

Guillet de Monthoux enfatizó que uno de los mayores retos en la protección infantil en la actualidad es la influencia de la tecnología. “La tecnología es parte del problema, pero también debe ser parte de la solución”, afirmó, destacando que, si bien el entorno digital ha facilitado el acceso a menores con fines de explotación, también ofrece oportunidades para mejorar su protección si se emplea de manera responsable.

Guillet de Monthoux afirmó que la fundación de la que es secretaria mantiene un “diálogo constante con empresas como Google y Alphabet, las cuales han comenzado a formar equipos de ética para analizar los riesgos de la IA y diseñar estrategias para mitigar sus efectos negativos en los menores”.

Nueva violencia basada en la tecnología

En su discurso, la experta hizo hincapié en que la protección de la infancia debe abordar dos frentes simultáneamente. Por un lado, aseguró que “la explotación infantil del pasado sigue sin resolverse” y que muchas víctimas “continúan sin recibir justicia”. También destacó que los abusadores, a pesar de las restricciones, siguen encontrando “formas de explotar a los menores en el mundo físico”.

Por otro lado, indicó que ha surgido una nueva forma de violencia basada en la inteligencia artificial y la tecnología digital. Los niños, que cada vez pasan más tiempo en entornos virtuales, están expuestos a “nuevas amenazas, como el ciberacoso, la manipulación de datos personales, el abuso en línea y el sexting”, concluyó.