¿Puede una máquina ser sabia? diálogo entre la encíclica Magnifica Humanitas y los límites filosóficos de la inteligencia artificial

• Cada día  aparecen novedades que prometen redefinir la inteligencia, el trabajo, la creatividad o la toma de decisiones mediante alguna nueva forma de inteligencia artificial.
• Cada semana, detrás del anuncio, hay miles de millones de dólares y una narrativa que nos pide aceptar el cambio como inevitable, la eficiencia como virtud suprema y la velocidad como sinónimo de progreso. 

Lo que rara vez aparece en esos anuncios es la pregunta que más importa: 

¿en beneficio de quién?

Las grandes guerras del siglo XX nos enseñaron que la técnica sin ética produce devastación a escala industrial, lo aprendimos a un costo terrible. Ahora, a velocidad exponencial, desplegamos una tecnología de poder comparable con los mismos mecanismos de siempre: 

Primero la promesa, luego la adopción masiva, y solo después — cuando el daño ya es difícil de revertir — la pregunta sobre las consecuencias.

El bien común no ha sido una prioridad histórica del poder cuando compite con la eficiencia y la rentabilidad, nada indica que esta vez sea diferente, a menos que decidamos que lo será.

Porque estamos entrando en una era en la que cada persona, cada institución y cada sociedad tendrá que definir su posición frente a la inteligencia artificial, no en términos técnicos sino en términos de valores.

• ¿Hasta dónde delegamos el juicio?
• ¿Qué decisiones reservamos para la deliberación humana?
• ¿Qué entendemos por progreso cuando la eficiencia y el bien común apuntan en direcciones distintas? Estas no son preguntas filosóficas abstractas. 

Son las preguntas políticas más concretas de los próximos cincuenta años. 

Y quienes no las respondan activamente serán respondidos por ellas, generalmente por alguien más, con intereses que no necesariamente coinciden con los suyos.

Es exactamente de eso de lo que trata la encíclica Magnifica Humanitas, publicada por el Papa León XIV en mayo de 2026 — el primer pronunciamiento moral sistemático de una institución global sobre la inteligencia artificial. 

No como condena tecnológica, sino como llamado urgente a que la humanidad mantenga el control ético sobre las herramientas que construye, antes de que esas herramientas definan los términos en los que evaluamos todo lo demás, incluidos nosotros mismos.

El Papa León XIV publicó la encíclica Magnifica Humanitas.

Advirtiendo que no podemos considerar a la inteligencia artificial como moralmente neutra y que cuando la eficiencia se vuelve medida de valor, el ser humano es tentado a considerarse un proyecto que debe optimizarse más que una criatura llamada a la relación y a la comunión. 

Ese mismo mes, David Silver — el arquitecto de AlphaGo — anunciaba Ineffable Intelligence, una apuesta de 1,100 millones de dólares para desarrollar una IA que abandone el conocimiento humano como punto de partida y desarrolle su propia experiencia pura a través de simulaciones masivas. 

Dos voces desde tradiciones radicalmente distintas — la teología y la ingeniería de vanguardia — señalando el mismo precipicio desde lados opuestos.

Esta reflexión  es un diálogo entre esas dos advertencias, no para oponer fe y razón — empresa tan antigua como inútil — sino para mostrar que cuando la neurobiología, la filosofía y la ética convergen en la misma conclusión que la reflexión teológica más reciente, vale la pena al menos prestar atención.

Un sistema que optimiza sin saber por qué optimiza no es más sabio que nosotros. 

Es simplemente más rápido ejecutando instrucciones que nosotros mismos escribimos.

Primera convergencia — El sujeto y el objeto.

La encíclica de León XIV advierte sobre el riesgo de que la IA sea tratada como si tuviera autoridad moral propia, cuando en realidad es una herramienta — sofisticada, poderosa, pero herramienta. 

El análisis filosófico llega a la misma conclusión por otro camino: la cualidad ontológica de la IA es la de un objeto, la cualidad del humano es la de un sujeto. 

Silver engaña al público al sugerir que, con suficiente dinero y datos, un objeto puede transformarse en un sujeto, si aceptamos esa equivalencia, le otorgamos a la IA una autoridad moral y cognitiva que no le corresponde — y permitimos que el objeto dicte las reglas al sujeto.

Lo que se nos presenta como una superación de la cognición humana es, en realidad, un sistema de optimización sin sujeto ni sentimiento, que nos pide aceptar lo indescifrable como sabiduría mientras nos arrebata la capacidad de otorgar sentido a nuestra propia realidad. 

La encíclica lo dice en otros términos: cuando la eficiencia se convierte en la única medida de valor, la humanidad pierde dimensiones esenciales — la fragilidad, el vínculo, la interioridad, el cuidado — que ningún algoritmo puede replicar porque ningún algoritmo las necesita para funcionar.

Segunda convergencia — La trampa de la función de recompensa.

El argumento más seductor de Silver es que su IA aprenderá desde cero, sin el sesgo del conocimiento humano acumulado. 

Tabula rasa, dice, experiencia pura, promete, pero aquí surge la primera contradicción insalvable, alguien tiene que definir qué cuenta como éxito dentro de esas simulaciones.

Esa función de recompensa — ese criterio silencioso que le dice al sistema si va bien o mal — es diseñada por ingenieros humanos, con categorías humanas, con intuiciones humanas sobre qué constituye un resultado valioso. 

Como señala el filósofo Evgeny Morozov, el peligro del solucionismo tecnológico reside en creer que los problemas complejos de la realidad pueden reducirse a optimizaciones algorítmicas sin considerar el marco normativo impuesto por el diseñador. 

La IA de Ineffable Intelligence no habitará la realidad — habitará un laberinto cuyos muros invisibles han sido levantados por la misma cognición que Silver pretende superar.

León XIV lo formula desde otro ángulo:

El control de la inteligencia artificial no debe permanecer en manos de unos pocos. 

Lo que no dice explícitamente — pero que el análisis técnico completa — es que tampoco puede quedar en manos de ningún sistema que no pueda explicar sus propias decisiones.

 Un poder que no rinde cuentas es un poder sin legitimidad, independientemente de si está encarnado en un gobierno, una corporación o un algoritmo.