En el ciclo “Un mundo artificial, ¿una sociedad más humana?”, Gustavo Béliz presentó la reciente declaración de la Academia Pontificia de Ciencias Sociales sobre inteligencia artificial: un documento que propone diez criterios éticos para orientar su desarrollo. No se trata de frenar la tecnología. Se trata de darle alma.
Una declaración desde el Vaticano
La declaración surge de un seminario realizado en octubre en la Academia Pontificia de Ciencias Sociales, presidida por la hermana Helen Alford, ingeniera y filósofa.
El objetivo fue claro: pensar la inteligencia artificial al servicio de la paz, la justicia social y el desarrollo humano integral. No es un documento teórico. Es una guía práctica para este tiempo de Cuaresma.
Los 10 mandamientos de la inteligencia artificial responsable
1️⃣ No convertir la tecnología en un fin en sí mismo
La IA no puede justificar cualquier medio para alcanzar un objetivo. No puede ser maquiavélica.
Como recordó Béliz evocando a Nicolás Maquiavelo, el fin no justifica los medios. Un GPS no puede “atropellar” normas morales para llegar más rápido.
2️⃣ No atribuir erróneamente humanidad a las máquinas
Aquí aparece el escritor de ciencia ficción Isaac Asimov y sus tres leyes de la robótica:
No dañar al ser humano.
Obedecer al ser humano.
Preservarse sin vulnerar los principios anteriores.
Hoy estos principios siguen siendo sorprendentemente actuales.
3️⃣ Crear espacio para el tiempo humano
La lógica de la inmediatez digital no puede reemplazar el encuentro.
En contraste con la visión tecnológica de Elon Musk, que proyecta un mundo con más robots que personas, el desafío es otro:
Que la IA libere tiempo para la ternura, la escucha y la presencia.
Un robot puede recordar la medicación de un abuelo. Pero no puede reemplazar la caricia de un hijo.
4️⃣ Honrar la deliberación democrática
Evocando a Juan Bautista Alberdi, Béliz recordó que la inteligencia artificial debe respetar la Constitución y fortalecer la deliberación pública, no alimentar polarización y odio.
Las redes pueden informar… o manipular.
5️⃣ No destruir la naturaleza en nombre del progreso
Aquí resuena la encíclica Laudato si’ del Papa Francisco.
Cada consulta innecesaria a un modelo de IA consume energía, agua y recursos. La responsabilidad comienza en el usuario.
6️⃣ No reducir a las personas a meros datos
Somos más que algoritmos. Más que estadísticas.
La advertencia del Papa es clara: usar el cerebro y el corazón. La tecnología no puede reemplazar la conciencia.
7️⃣ No privar al ser humano de su creatividad
En el seminario participó Jaron Lanier, pionero del metaverso, quien habló de la dignidad de los datos.
La IA debe potenciar la creatividad, no uniformarla.
8️⃣ Reconocer que la tecnología puede fallar
La imagen de Chernobyl recuerda que incluso la tecnología más avanzada puede provocar catástrofes.
La IA no es infalible. Por otro lado en la reciente cumbre de India, líderes como Narendra Modi se reunieron con empresarios como Sam Altman y Dario Amodei, evidenciando la necesidad urgente de gobernanza global.
9️⃣ No interferir la libertad mediante medios técnicos
El caso judicial que enfrenta Mark Zuckerberg por la adicción generada en menores abre una pregunta decisiva: ¿Debe regularse el uso de redes sociales en adolescentes?
La libertad también necesita límites.
🔟 Compartir los beneficios
La concentración de poder y riqueza en pocas compañías exige un pacto digital global.
El Evangelio de Mateo 25 ilumina este punto: lo que se hace al más pequeño, se hace a Cristo.
El desierto y la esperanza: la lección de Charles de Foucauld
La reflexión final evocó a Charles de Foucauld, geógrafo, lexicógrafo y luego monje en el Sahara.
Un intelectual brillante que dejó las armas y eligió el desierto. Su frase resume el espíritu de esta declaración: “Nunca amaré lo suficiente.”
La inteligencia artificial está en un desierto de sentido. Pero puede convertirse en primavera si el poder se pone al servicio del amor.
El profesor Juan A. Marcos participó en las Jornadas sobre Biblia y Literatura: Analizó la presencia de las mujeres bíblicas en la obra de San Juan de la Cruz desde una perspectiva no patriarcal
El profesor Juan Antonio Marcos Rodríguez, ha impartido la conferencia “Las mujeres bíblicas en Juan de la Cruz: hacia una hermenéutica no-patriarcal”, en el marco de la Jornada sobre Biblia y Literatura: “La Biblia como fuente de Luz: la influencia bíblica en los Místicos españoles”, organizada por el Instituto Universitario de Ciencias de las Religiones (Universidad Complutense) y el Instituto Español Bíblicoy Arqueológico de Jerusalén, y celebrada en la Facultad de Filología de la UCM el día 29 de octubre de 2025. En dicha jornada participaron como ponentes, entre otros, el actual director del Instituto Bíblico de Jerusalén, así como diversas profesoras de la Facultad de Filología de la Universidad Complutense.
La ponencia del profesor Juan A. Marcos supuso un recorrido por la personalidad anti-patriarcal de Juan de la Cruz, así como su relación transformadora con las mujeres bíblicas, explorando cómo su lectura espiritual de las Escrituras desafió las estructuras de poder de su época. Para ello se evocó la biografía no-patriarcal del gran místico, así como su íntima conexión con las mujeres en general (siguiendo el consejo de Teresa: ‘Todos los hombres deben ser más amigos de mujeres’), a la par que algunas figuras bíblicas como la Magdalena (‘tres en una’, según las percepciones de la época), las tres Marías y la oración, y la samaritana. Sin olvidar dos polaridades claves del discurso sanjuanista: el yo poético en femenino y el yo autobiográfico en todo.
San Juan de la Cruz, en la línea de la tradición patrística, buscó siempre una ‘inteligencia espiritual’ de los textos bíblicos, más allá de la letra. La experiencia mística se convirtió para el místico abulense en fuente de inteligencia escrituraria. Pero al mismo tiempo, nuestro místico, fue más lejos: en su radical identificación con un personaje femenino, dentro de una sociedad patriarcalista, está asumiendo un papel y un rol subversivo, e implícitamente está poniendo en tela de juicio las mentalidades y universos religiosos en los que le tocó vivir. La Magdalena, esa mujer que camina sola, desafiando normas sociales y religiosas, simboliza la ruptura del orden patriarcal. Al presentarse ‘sin compañía’, pone de manifiesto su dependencia absoluta de Dios, rechazando cualquier proteccionismo masculino. La experiencia contemplativa del místico es una apuesta por esa misma libertad (interior), por el protagonismo de la pura gracia, subvirtiendo así el modelo meritocrático y patriarcal religioso dominante.
Aunque los chatbots como ChatGPT penetraron en el espíritu de nuestros tiempos hace muy poco, ciertos círculos de Silicon Valley han profetizado sobre el poder de la IA durante décadas.
Por KRYSTA FAURIA
TORONTO — A sus 77 años, Geoffrey Hinton tiene una nueva vocación en la vida. Como un profeta moderno, el ganador del Premio Nobel ha hecho sonar las alarmas sobre los peligros de la inteligencia artificial descontrolada y no regulada.
Frecuentemente apodado el “padrino de la IA”, Hinton es conocido por su trabajo pionero en el aprendizaje profundo y las redes neuronales, que ayudó a sentar las bases para la tecnología de IA que suele utilizarse hoy en día. Sintiendo “cierta responsabilidad”, comenzó a hablar públicamente sobre sus preocupaciones en 2023 tras dejar su trabajo en Google, donde laboró durante más de una década.
En los últimos años, a medida que avanza la tecnología —y los dólares de inversión— que impulsan la IA, también lo han hecho los riesgos que conlleva.
“Realmente es como un dios”, dijo Hinton.
Hinton forma parte de un creciente número de figuras prominentes de la tecnología que hablan de la IA usando un lenguaje que antes se reservaba para lo divino. El CEO de OpenAI, Sam Altman, se ha referido a la tecnología de su empresa como una “inteligencia mágica en el cielo”, mientras que Peter Thiel, cofundador de PayPal y Palantir, incluso ha argumentado que la IA podría ayudar a traer al Anticristo.
¿La IA traerá condenación o salvación?
Hay muchos escépticos que dudan que la tecnología merezca este tipo de temor, entre ellos, Dylan Baker, exempleado de Google y principal ingeniero de investigación en el Instituto de Investigación de IA Distribuida, que estudia los impactos nocivos de esa tecnología.
“Creo que a menudo operan desde un pensamiento mágico y fantástico, informado por mucha ciencia ficción que presumiblemente adquirieron en sus años formativos”, dijo Baker. “Están realmente desconectados de la realidad”.
Aunque los chatbots como ChatGPT penetraron en el espíritu de nuestros tiempos hace muy poco, ciertos círculos de Silicon Valley han profetizado sobre el poder de la IA durante décadas.
“Tratamos de despertar a la gente”, dijo Hinton. “Para que el público entienda los riesgos y presione a los políticos para que hagan algo al respecto”.
Mientras que investigadores como Hinton advierten sobre la amenaza existencial que, en su opinión, representa la IA para la humanidad, hay CEO y teóricos en el otro lado del espectro que argumentan que nos acercamos a una especie de apocalipsis tecnológico que inaugurará una nueva era en la evolución humana.
En un ensayo publicado el año pasado titulado “Machines of Loving Grace: How AI Could Transform the World for the Better” (“Máquinas de gracia amorosa: Cómo la IA podría transformar el mundo para mejor”, el CEO de Anthropic, Dario Amodei, expone su visión de un futuro “si todo sale bien con la IA”.
El empresario de IA predice “la derrota de la mayoría de las enfermedades, el crecimiento de la libertad biológica y cognitiva, la salida de miles de millones de personas de la pobreza para compartir las nuevas tecnologías, un renacimiento de la democracia liberal y los derechos humanos”.
Mientras que Amodei opta por la frase “IA poderosa”, otros usan términos como “la singularidad” o “inteligencia artificial general (IAG)”. Aunque los defensores de estos conceptos no suelen estar de acuerdo en cómo definirlos, se refieren, en términos generales, a un futuro hipotético en el que la IA superará la inteligencia humana, con el potencial de desencadenar cambios rápidos e irreversibles en la sociedad.
El científico informático y autor Ray Kurzweil ha pronosticado desde la década de 1990 que los humanos algún día se fusionarán con la tecnología, un concepto a menudo llamado transhumanismo.
“No podremos distinguir lo que proviene de nuestro propio cerebro de lo que proviene de la IA. Todo estará incrustado dentro de nosotros. Y nos hará más inteligentes”, dijo Kurzweil.
En su más reciente libro, “The Singularity Is Nearer: When We Merge with AI” (“La singularidad está más cerca: Cuando nos fusionamos con la IA”), Kurzweil reafirma sus predicciones anteriores. Cree que para 2045 habremos “multiplicado nuestra propia inteligencia un millón de veces”.
“Sí”, admitió finalmente cuando se le preguntó si considera a la IA como su religión. Ello habla de su sentido de propósito.
“Mis pensamientos sobre el futuro y el futuro de la tecnología y la rapidez con la que está llegando definitivamente influyen en mis actitudes hacia el hecho de estar aquí y lo que estoy haciendo, y cómo puedo influir en otras personas”, dijo.
Surgen visiones apocalípticas
A pesar de la invocación explícita de Thiel del lenguaje utilizado en el Libro del Apocalipsis, las visiones positivas de un futuro con IA son más “apocalípticas” en el sentido histórico de la palabra.
“En el mundo antiguo, apocalíptico no tiene una connotación negativa”, explica Domenico Agostini, profesor de la Universidad de Nápoles L’Orientale, que estudia la literatura apocalíptica antigua. “Hemos cambiado completamente la semántica de esta palabra”.
El término “apocalipsis” proviene de la palabra griega “apokalypsis”, que significa “revelación”. Aunque a menudo se asocia hoy en día con el fin del mundo, en el pensamiento judío y cristiano antiguo, los apocalipsis eran una fuente de aliento en tiempos de dificultad o persecución.
“Dios promete un nuevo mundo”, dijo el profesor Robert Geraci, que estudia religión y tecnología en el Knox College. “Para ocupar ese nuevo mundo, debes tener un cuerpo nuevo y glorioso que triunfe sobre el mal que todos experimentamos”.
A principios de la década de 2000, Geraci notó por primera vez que se usaba un lenguaje apocalíptico para describir el potencial de la IA. Kurzweil y otros teóricos lo inspiraron a escribir su libro de 2010, “Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality” (“IA apocalíptica: Visiones del cielo en robótica, inteligencia artificial y realidad virtual”).
El lenguaje le recordaba al cristianismo primitivo. “Solo que vamos a sacar a Dios e introducir… tu elección de leyes cósmicas de la ciencia que supuestamente hacen esto y luego tendríamos el mismo tipo de futuro glorioso por venir”, dijo.
Geraci argumenta que este tipo de lenguaje no ha cambiado mucho desde que comenzó a estudiarlo. Lo que le sorprende es que esté tan generalizado.
“Lo que una vez fue muy extraño, hoy está en todas partes”, dijo.
¿Silicon Valley ha encontrado finalmente a su Dios?
Un factor en el creciente culto a la IA es la rentabilidad.
“Hace veinte años, esa fantasía, verdadera o no, realmente no generaba mucho dinero”, dijo Geraci. Ahora, sin embargo, “existe un incentivo financiero para que Sam Altman diga que la IAG está a la vuelta de la esquina”.
Pero Geraci, que argumenta que ChatGPT “no es ni remotamente, vagamente, plausiblemente consciente”, cree que puede haber algo más que impulsa este fenómeno.
Históricamente, el mundo tecnológico ha estado notoriamente desprovisto de religión. Su reputación secular lo precedía tanto que un episodio de la serie de comedia satírica de HBO, “Silicon Valley”, gira en torno a “sacar del armario” a un compañero de trabajo como cristiano.
En lugar de considerar la veneración del mundo tecnológico escéptico hacia la IA como algo irónico, Geraci cree que mantienen un vínculo causal.
“Los seres humanos somos profundamente, profundamente, inherentemente religiosos”, dijo, y agregó que las impresionantes tecnologías detrás de la IA podrían atraer a personas en Silicon Valley que ya han dejado de lado “enfoques ordinarios hacia la trascendencia y el significado”.
Todas las religiones tienen escépticos
No todos los CEO de Silicon Valley se han convertido, aun cuando quieren participar en la tecnología.
“Cuando las personas en la industria tecnológica hablan de construir esta única y verdadera IA, es casi como si pensaran que están creando a Dios o algo así”, dijo el CEO de Meta, Mark Zuckerberg, en un podcast el año pasado, mientras promocionaba la incursión de su empresa en la IA.
Aunque las teorías transhumanistas como las de Kurzweil se han vuelto más generalizadas, todavía no son omnipresentes en Silicon Valley.
“El argumento científico para eso no es de ninguna manera más fuerte que el argumento para una vida después de la muerte de tipo religioso”, argumenta Max Tegmark, físico e investigador de aprendizaje automático del Instituto de Tecnología de Massachusetts.
Al igual que Hinton, Tegmark se ha manifestado abiertamente sobre los posibles riesgos de la IA no regulada. En 2023, como presidente del Instituto para el Futuro de la Vida, Tegmark ayudó a liderar una carta abierta en la que pedía a los poderosos laboratorios de IA que “pausen inmediatamente” el entrenamiento de sus sistemas.
La carta recogió más de 33,000 firmas, entre ellas, las de Elon Musk y del cofundador de Apple, Steve Wozniak. Tegmark considera que la carta fue exitosa porque ayudó a “normalizar la conversación” sobre la seguridad de la IA, pero cree que su trabajo está lejos de terminar.
Con regulaciones y salvaguardas, Tegmark piensa que la IA puede usarse como una herramienta para hacer cosas como curar enfermedades y aumentar la productividad humana. Pero es imperativo, argumenta, mantenerse alejado de la carrera “bastante marginal” en la que se encuentran algunas empresas: “la búsqueda pseudorreligiosa de tratar de construir un Dios alternativo”.
“Hay muchas historias en textos religiosos y, por ejemplo, en la mitología griega antigua, sobre cómo cuando los humanos comenzamos a jugar a ser dioses, las cosas terminan mal”, dijo. “Y siento que hay mucha arrogancia en San Francisco en este momento”.
