El Papa pide a los Medios proteger los ‘rostros y las voces’ humanas

El papa León XIV advirtió hoy sobre los riesgos de la tecnología digital que “simula” la realidad humana, y pidió proteger los “rostros y las voces” contra la manipulación de la inteligencia artificial (IA).

“El desafío, por lo tanto, no es tecnológico, sino antropológico. Proteger los rostros y las voces significa, en última instancia, protegernos a nosotros mismos”, escribió el Santo Padre León en su mensaje para la 60ª Jornada Mundial de las Comunicaciones Sociales.

El Papa advierte que los sistemas de IA, al simular “sabiduría, conocimiento, conciencia y responsabilidad”, invaden el nivel más profundo de la relación entre las personas.

“Si no logramos proteger la tecnología digital, corre el riesgo de alterar radicalmente algunos de los pilares fundamentales de la civilización humana que a menudo damos por sentados”, argumenta.

León XIV denunció la “confianza ingenua y acrítica” en la IA como “oráculo”, y subrayó que el recurso sistemático a la compilación estadística artificial corre el riesgo, a largo plazo, de erosionar las “capacidades cognitivas”.

La confianza pública se gana con precisión y transparencia, no mediante ningún tipo de manipulación. El contenido generado o manipulado por IA debe estar claramente identificado y diferenciado del contenido creado por personas.

El texto aborda el fenómeno de los chatbots y asistentes virtuales, y advierte contra el engañoso “antropomorfismo” que puede convertir a estas herramientas en “arquitectos ocultos” de estados emocionales, especialmente en presencia de personas vulnerables.

“Sin aceptación de la alteridad no puede haber relación ni amistad”, señala el Papa, al criticar la creación de un mundo de espejos donde todo está hecho “a nuestra imagen”.

El mensaje también identifica los peligros de los deepfakes y la desinformación, en un escenario donde la IA puede fabricar “realidades paralelas” y apropiarse de las identidades de las personas.

“Estamos inmersos en una multidimensionalidad, en la que cada vez es más difícil distinguir la realidad de la ficción”, observa.
Para afrontar estos desafíos, el Papa propone una “alianza” basada en tres pilares: responsabilidad, cooperación y educación.

El mensaje exige “transparencia” a los creadores de algoritmos y pide a los legisladores regulaciones que protejan la dignidad humana y frenen la difusión de contenido falso.

León XIV instó a los sistemas educativos a introducir con urgencia la “alfabetización mediática, informativa e inteligencia artificial” para que las nuevas generaciones desarrollen el pensamiento crítico y sepan proteger su privacidad.

“Renunciar al proceso creativo y entregar nuestras funciones mentales y nuestra imaginación a las máquinas significa enterrar los talentos que hemos recibido”, concluye el Papa, apelando a que el rostro y la voz vuelvan a “expresar a la persona”.