El Papa firmó la Nota, un documento con la reflexión de la Iglesia sobre la Inteligencia Artificial en la que advierte que la IA no es una forma artificial de la inteligencia sino uno de sus productos y “no debe ser considerada como una persona, ni divinizada, ni sustituir las relaciones humanas”. Señala el riesgo de una gran catástrofe militar provocada por la «automatización» en el campo bélico.
El tema de la IA, sus posibilidades pero también sus peligros, despierta tantas preocupaciones en la Iglesia, que vale la advertencia del comienzo de la Nota de que la IA debe ser utilizada “solo como un instrumento instrumento complementario a la inteligencia”.
El temor a que la IA “sea divinizada” se trasluce en todo el documento pontificio. Las advertencias del Papa en estos últimos años sobre la Inteligencia Artificial y su relación con la Inteligencia humana están reforzadas en el documento en la mutua reflexión del Dicasterio para la Doctrina de la Fe, el de la Cultura y la Educación.
Dirigido a los padres, enseñantes, sacerdotes, obispos y todos los que son llamados a educar y trasmitir la fe, suena como una continua advertencia a evitar fatales confusiones y mantenerse en la exigencia de un desarrollo científico y técnico al servicio de la persona y el bien común.
Pocas veces un documento de tal importancia está precedido por tantas advertencias sobre la materia. Es evidente que el Papa y todos sus principales legisladores consideran a la Inteligencia Artificial con un serio riesgo.
En 117 párrafos el documento ilumina el problema de la IA en campos tan importantes como educación, economía, laboro, salud, relaciones internacionales e interpersonas, y en contextos de guerra, el terreno más dificil y que más desastres puede causar.
La Nota pontificia explica que “la facilidad con las armas convertidas en autómatas hacen más viable la guerra y va contra del principio de la guerra como último recurso en casos de legítima defensa, aumentando los recursos bélicos mucho más alla del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos”.
En el documento se respira la alarma ante el peligro de la automatización de los conflictos humanos. Se explica que “las armas convertidas en autónomas hacen más viable la guerra en contra del principio mismo de la guerra como último recurso en caso de legítima defensa, aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos”.
Francisco: «Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano»
El documento añade que “los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son un grave motivo de preocupación ética, porque carecen de la exclusiva capacidad humana de juicio moral y de decisión ética”.
“Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano”. Terrible y válida conclusión.
Otra preocupación central del documento pontificio es “la concentración en manos de pocas empresas poderosas” de la mayor parte del poder sobre las principales aplicaciones de la Inteligencia Artificial”.
El gran peligro es, según el documento pontificio, que “esta tecnología termina por ser manipulada con fines personales o corporativos o para orientar a la opinión pública hacia los intereses de un sector”.
Otro gran riesgo, señala la Nota del Papa, “es que la IA genere contenidos manipulados o información falsa, en cuanto dicho contenido ficticio se utiliza intencionalmente con fines manipuladores, Por ejemplo cuando se difunden intencionalmente imágenes, videos y audios modificados o generales algorítmicamente para engañar o dañar”.
La AI y el crecimiento de los chicos
La alarma del Papa y la Iglesia es muy grande cuando observa que la IA puede “fomentar las conexiones”, pero conducir al mismo tiempo a un “aislamiento perjudicial” para el crecimiento de los niños.
Por ejemplo, cuando se presenta a la Inteligencia Artificial como una persona “lo cual es una grave violación ética”. Muchos programas de Inteligencia Artificial se limitan a dar respuestas en lugar de animar a los estudiantes a encontrarlas por sí mismos, lo que implica “una pérdida de formación para acumular información y desarrollar el pensamiento crítico”.
“No debemos intentar sustituir cada vez más el trabajo humano por el progreso tecnológico, pues al hacerlo la humanidad se perjudicaría a sí misma”.
El documento pontificio afirma que “la presunción de sustituir a Dios por una obra de las propias manos es idolatría, y la IA puede ser más atractiva que los ídolos tradicionales».
La Iglesia, del Papa a los principales dicasterios vaticanos, se unen en una conclusión: que la Inteligencia Artificial debe utilizarse como una herramienta complementaria a la inteligencia humana y no para reemplazarla.
