Antes de su enfermedad, también el Papa Francisco advertía sobre la IA: "Tendrá su efecto en la creciente crisis de la verdad"

Mientras esperamos entre asombrados y asustados el aterrizaje de la Inteligencia Artificial General (AGI) que promete revolucionar el mundo y nuestras comunidades por extensión, lo cierto es que prácticamente todas las voces más autorizadas de la sociedad muestran su preocupación sobre el avance desmesurado de una tecnología tan disruptiva e incluso diría que netamente incontrolable. No sólo lo más cercanos a la tecnología, como el mismísimo Bill Gates, sino también otras autoridades de diferentes colectivos como la del recientemente fallecido Papa Francisco I.

Y es que en efecto, tal y como publicaban los compañeros de La Razón, el Sumo Pontífice de la Iglesia Católica tenía claro que el desarrollo de la IA exigía más atención por parte de todos los implicados con una finalidad bien definida, y es que la humanidad nunca debería perder la capacidad de diferenciar entre la realidad o una recreación hecha por cualquier modelo generativo.

Lo mencionaba Jorge Mario Bergoglio durante su intervención en el Foro Económico Mundial de este año 2025, un evento también conocido como Foro de Davos en el cual el Papa había participado a través de una misiva enviada a Klaus Schwab, ahora jubilado pero en ese momento Presidente Ejecutivo del Foro:

"[El desarrollo de la IA] plantea importantes cuestiones relacionadas con la responsabilidad ética, la seguridad humana y las implicaciones más amplias de tales avances para la sociedad.” Francisco I en el Foro de Davos de 2025.

El Papa Francisco tenía claro que la IA afecta negativamente a nuestra capacidad para diferenciar entre fake y realidad

Celebrado entre los días 20 y 24 del pasado mes de enero, como siempre en Davos, Suiza, y justo unas pocas semanas antes de que el Papa Francisco I ingresase en el hospital Agostino Gemelli de Roma para tratarse de un cuadro complicado de problemas respiratorios, lo cierto es que el Foro Económico Mundial había tratado sobre la IA y sus implicaciones en nuestras sociedades, mencionando ya en sus eslóganes una nueva "era inteligente" que preocupaba a muchos de los líderes presentes.

También al Papa Francisco, que mediante una carta enviada al Presidente de Foro mencionaba muchos de los riesgos que todos nos tememos y con los que la humanidad tendrá que lidiar en un futuro gobernado por estas inteligencias artificiales generativas, que obviamente serán capaces de lo mejor y de lo peor dependiendo de quién las entrene y utilice.

Concretamente, lo que más preocupaba a Bergoglio era de forma precisa cómo la IA "afectará a la crisis de la verdad en el foro público", pues los resultados que consiguen estos modelos "son casi indistinguibles de los conseguidos por humanos" dificultando la sencilla, necesaria e inequívoca diferenciación entre fake y realidad.

Incluso los más expertos desde el propio MIT habían hablado anteriormente en términos similares, confirmando que "la IA no sabe cómo funciona el mundo, pero cada vez miente mejor para convencernos" de los resultados obtenidos por sus algoritmos. Y por supuesto, esto es un problema de mayúscula importancia dado que a los modelos generativos los entrenamos con nuestro propio conocimiento, lo que cada vez los hará mejores y más indistinguibles.

Decía el Papa Francisco que los humanos no deben perder nunca su capacidad de limitar el avance de la IA si esto implica mantener también su capacidad para discernir de forma clara entre la realidad o las recreaciones de un modelo computacional generativo, cosa en la que creo todos estaremos bastante de acuerdo. Hablaba el Romano Pontífice de "diligencia y vigilancia", algo que en efecto esperemos que cuaje en las mentes de nuestros dirigentes.