(ZENIT Noticias / Roma, 14.06.2026).- Durante años, las advertencias sobre los riesgos de la inteligencia artificial provinieron principalmente de filósofos, especialistas en ética y líderes religiosos. Ahora, algunas de las mayores cautelas surgen desde dentro de la propia industria.

Apenas unas semanas después de que el Papa León XIV publicara la Magnifica Humanitas, su primer documento importante sobre inteligencia artificial, una de las empresas líderes mundiales en IA ha expresado públicamente su preocupación de que la tecnología pueda estar avanzando más rápido que la capacidad de la sociedad para gestionarla. La convergencia es sorprendente: el Vaticano y Silicon Valley, a menudo percibidos como mundos distantes, expresan cada vez más inquietudes similares sobre la futura relación entre la humanidad y las máquinas inteligentes.

Anthropic, la empresa detrás del modelo de IA Claude,

Según la empresa, los sistemas de IA actuales ya están asumiendo una proporción cada vez mayor del trabajo de programación utilizado para desarrollar modelos futuros. Anthropic señaló que la cantidad de trabajo que sus sistemas pueden realizar de forma autónoma está aumentando a un ritmo extraordinario. Si bien la empresa recalcó que la auto-mejora totalmente autónoma aún no se ha logrado y quizás nunca se alcance, sus investigadores reconocieron que muchas instituciones parecen no estar preparadas para esta posibilidad.

Las implicaciones son profundas. Si las máquinas llegan a adquirir la capacidad de desarrollar nuevas generaciones de inteligencia artificial por sí solas, los métodos tradicionales de supervisión podrían volverse cada vez más difíciles de mantener. El desafío no sería meramente técnico, sino civilizacional: garantizar que el juicio humano siga siendo capaz de guiar tecnologías que puedan superar las capacidades humanas en ámbitos específicos.

En lugar de pedir una detención permanente, Anthropic propuso que los gobiernos y las empresas tecnológicas exploren mecanismos para ralentizar o pausar temporalmente el desarrollo de los sistemas más avanzados, si fuera necesario. Sin embargo, la empresa también reconoció el principal obstáculo para tal propuesta. Cualquier ralentización significativa requeriría una cooperación internacional sin precedentes. De lo contrario, las naciones o corporaciones que continúen avanzando podrían simplemente obtener una ventaja estratégica sobre aquellas que actúen con moderación.

El debate se hace eco de temas planteados recientemente por el Papa León XIV. En Magnifica Humanitas, el pontífice advirtió sobre la creación de lo que describió como una nueva «Torre de Babel», una cultura tecnológica capaz de un poder inmenso pero desvinculada de una visión moral compartida. León XIV ha sostenido repetidamente que la cuestión central no es si la innovación debe continuar, sino si la humanidad puede garantizar que el progreso tecnológico se oriente hacia el auténtico florecimiento humano.

Esta preocupación ha encontrado un apoyo inesperado entre algunos académicos que trabajan directamente con el sector tecnológico. Charles Camosy, teólogo moral que ha colaborado con Anthropic en cuestiones éticas, argumenta que el llamado del Papa a «desarmar» la inteligencia artificial no debe entenderse como una oposición a la innovación, sino más bien como un llamamiento a impedir que la tecnología domine a la persona humana o reemplace las relaciones humanas esenciales.

El problema va más allá de la seguridad técnica. Los críticos se preocupan cada vez más por la creciente tendencia a delegar responsabilidades exclusivamente humanas —como la educación, el cuidado, la mentoría e incluso la formación moral— a sistemas de inteligencia artificial. El riesgo, según muchos expertos en ética, no reside en que las máquinas se rebelen repentinamente contra la humanidad, sino en que los seres humanos renuncien gradualmente a actividades que cultivan la sabiduría, la responsabilidad y los vínculos interpersonales genuinos.

Al mismo tiempo, nuevas investigaciones académicas sugieren otro desafío que ha recibido mucha menos atención: la dificultad de la IA para integrar perspectivas religiosas. El Consorcio para la Fe y la Ética en la IA, que reúne a investigadores de la Universidad de Baylor, la Universidad Brigham Young, la Universidad de Notre Dame y la Universidad Yeshiva,

El estudio comparativo «All Faith Benchmark» del consorcio examinó las respuestas de catorce sistemas de IA líderes desarrollados por empresas como Anthropic, OpenAI, Google, Meta y xAI. Los investigadores concluyeron que, si bien la religión sigue influyendo en la perspectiva moral de gran parte de la población mundial, los sistemas de IA a menudo no reflejan esa realidad. El estudio también identificó diferencias cuantificables en la representación de diversas tradiciones religiosas, lo que plantea interrogantes sobre la imparcialidad, los sesgos y la comprensión cultural en las respuestas generadas por máquinas.

Los hallazgos refuerzan un argumento más amplio, cada vez más presente tanto en círculos académicos como religiosos: la inteligencia artificial no puede considerarse simplemente un desafío de ingeniería. También plantea interrogantes sobre antropología, ética, cultura y el significado de la dignidad humana.

Quizás el avance más significativo sea que este debate ya no se limita a iglesias, universidades o centros de investigación. Las propias grandes empresas tecnológicas están empezando a reconocer que el futuro de la IA puede requerir no solo máquinas más potentes, sino también una reflexión más profunda sobre lo que significa ser humano.

Esa es precisamente la pregunta que el Papa León XIV ha situado en el centro del debate. Según él, el mayor peligro no reside en que las máquinas se humanicen demasiado, sino en que los seres humanos olviden los dones únicos que los distinguen: la responsabilidad moral, la sabiduría, la capacidad de asombro y la habilidad para reconocer la verdad, la belleza y la dignidad de cada persona.

Gracias por leer nuestros contenidos. Si deseas recibir el mail diario con las noticias de ZENIT puedes suscribirte gratuitamente a través de

The post