¿Qué sucedió que la IA nos engañó?
«Deep fake». Este viernes 14 de junio, el Papa Francisco ha sido invitado a una mesa redonda sobre inteligencia artificial (IA) en el marco de la cumbre del G7 que se celebra en Bari (Italia).
La Iglesia católica ha experimentado recientemente los peligros que puede entrañar esta tecnología.
Lo que puede haber contribuido al compromiso del Papa con una ética de la inteligencia artificial.
En enero de 2024, en un largo discurso dirigido a los medios de comunicación y a los comunicadores, el Papa Francisco expresó una serie de preocupaciones sobre la inteligencia artificial.
Centrándose en particular en el problema del «deep faking» -una falsificación de gran realismo generada por la IA- que «distorsiona nuestra relación con los demás y con la realidad». «Yo mismo también he sido objeto de ello», señaló.
De hecho, un año antes, una foto trucada en la que aparecía Francisco con un largo abrigo blanco, inspirado en la marca de moda Balenciaga.
Fue uno de los primeros éxitos mediáticos en cuanto a imágenes generadas por IA. La foto se compartió varios cientos de miles de veces.
Ahora sabemos que fue tomada por un tal Pablo Xavier, de 31 años, después de que el residente en Chicago ingiriera setas alucinógenas.
El individuo dijo que no tenía intención de hacer daño al Papa, sino que solo quería engañar y divertir a los usuarios de un foro de Internet.
El Papa, estrella del deep fake
Crear imágenes falsas del Papa se ha convertido incluso en una tendencia.
Lo que llevó al New York Times, en un artículo publicado el 8 de abril de 2023, a preguntarse por qué el Papa se había convertido en la «estrella de las fotos generadas por la Inteligencia Artificial».
El veredicto: era más una muestra de aprecio por el Papa, unida al deseo de crear una forma de incongruencia cómica a partir de su conocido estatus, que un deseo de perjudicarle.
Pero desde entonces, las apropiaciones indebidas más problemáticas de la imagen del Papa Francisco no se han hecho esperar: es el caso.
Por ejemplo, cuando la falsa imagen se convierte en información, por ejemplo para sobrevalorar la presencia de jóvenes en la Jornada Mundial de la Juventud de Lisboa.
Y el problema también puede tener una dimensión política, como cuando se difundió una foto en la que aparecía el Papa con una bandera arcoíris sobre los hombros.
Para dar la impresión de que celebraba el «Mes del Orgullo», un evento de promoción de las ideas LGBT.
Obispos y cardenales «malversados»
Estas malversaciones no solo afectan al Papa.
El pasado mes de mayo, monseñor Joan-Enric Vives, obispo español de la diócesis de Urgell (España y Andorra), denunció una suplantación de identidad tras descubrir un video publicado en Instagram.
En este clip, generado por inteligencia artificial, se le veía invitando a la gente a comprar acciones de una empresa petrolera. En un momento dado, la institución se planteó emprender acciones legales.
En enero, el cardenal Carlos Aguiar Retes, arzobispo de Ciudad de México, también dio la voz de alarma tras la difusión de un vídeo en el que afirmaba haberse curado con un medicamento milagroso.
La arquidiócesis de la capital mexicana advirtió inmediatamente a la población contra este engaño.
Un cura 2.0 se sale de madre
Pero la inteligencia artificial no se limita a generar imágenes.
También concierne a la creación de textos, y en este punto la experiencia del primer «sacerdote de inteligencia artificial» es particularmente esclarecedora.
Lanzado el pasado mes de abril por Catholic Answers, una ONG dependiente de la diócesis de San Diego (Estados Unidos).
«Father Justin» era una interfaz que se ofrecía a entablar una conversación con los usuarios como si un sacerdote respondiera a sus preguntas.
Presentándose a veces como un sacerdote residente en Asís (Italia), este «bot» con alzacuellos romano fue rápidamente expulsado de la Iglesia tras algunas respuestas inapropiadas.
Autorizó a un usuario a bautizar a su hijo con una bebida energética, o dio la absolución a otro que confesaba sus pecados.
Tras recibir numerosas quejas, el «Padre Justin» se convirtió finalmente en Justin, un «teólogo laico» que ahora viste un sencillo traje de chaqueta.
Catholic Answers ha querido advertir a sus usuarios: su IA tiene fines estrictamente educativos y «no sustituye a la interacción humana genuina».
Fuente: Aleteia
