El papa León XIV alertó sobre el uso de la Inteligencia Artificial (IA) como un “oráculo” y sobre el riesgo de que esta tecnología debilite las capacidades humanas y perjudique el debate público. En un mensaje desde el Vaticano con motivo de la Jornada Mundial de las Comunicaciones Sociales, pidió orientar la revolución digital y promover una regulación basada en la ética, la transparencia y la protección de las personas.
Advirtió contra una confianza ingenua y acrítica en la IA como una amiga omnisciente o fuente única de respuestas. Señaló que delegar el pensamiento en soluciones estadísticas artificiales puede llevar a que las personas dejen de ejercitar su reflexión, lo que a la larga afectaría sus capacidades cognitivas, emocionales y comunicativas.
El pontífice señaló también que los algoritmos diseñados para captar la atención y maximizar la interacción favorecen respuestas emocionales rápidas y reducen el espacio para la reflexión profunda. Esta dinámica, dijo, pone en riesgo la continuidad de la creatividad humana frente a la producción automatizada de contenido cultural y mediático.
Sobre los agentes automatizados y los influencers virtuales en redes, destacó la creciente dificultad de distinguir entre interacciones humanas y chatbots. Advirtió que los modelos lingüísticos avanzados pueden ejercer una persuasión encubierta y actuar como “arquitectos ocultos” de las emociones de los usuarios, aumentando la posibilidad de manipulación tanto individual como colectiva.
Estas transformaciones digitales, añadió, no solo afectan al individuo, sino que repercuten en el tejido social, cultural y político. Sustituir relaciones humanas por sistemas de IA que catalogan pensamientos o construyen realidades virtuales puede aislar a las personas y debilitar los vínculos comunitarios.
El papa expresó preocupación por el control que un reducido grupo de empresas tiene sobre los algoritmos y la IA, calificándolo de “oligopolio”. Señaló que este dominio plantea dudas sobre quién define los contenidos y las normas del debate digital global, lo que hace urgente una intervención reguladora.
Insistió en que el objetivo no es frenar la innovación, sino orientarla según criterios humanos y sociales claros. Exigió mayor transparencia por parte de los desarrolladores y pidió a los legisladores que promuevan una regulación adecuada para combatir la desinformación y proteger a la ciudadanía.
Asimismo, reclamó que los medios no dependan únicamente de algoritmos regidos por la lógica de la atención inmediata. Llamó a priorizar la verdad y los valores profesionales frente al “clickbait”, consideró la información como un bien público y defendió estándares de calidad basados en la transparencia de las fuentes y en la identificación clara de contenidos generados por humanos o por máquinas.
Finalmente, apeló a desarrolladores, legisladores, creativos, académicos, periodistas y educadores a implicarse en la construcción de una ciudadanía digital responsable. Subrayó la urgencia de la educación en medios y tecnologías para evitar que los sistemas inteligentes sean percibidos como sustitutos humanos y para promover su uso como herramientas respaldadas por fuentes fiables. Recalcó también la importancia de fortalecer tanto las habilidades digitales como la formación humanística y cultural para comprender la influencia de los algoritmos en la percepción y la participación social.
