La Humanidad ante un umbral crítico: Una Declaración sobre la Inteligencia Artificial y las Armas Nucleares

Hacia una Paz Desarmada y Desarmante (*)

Preámbulo

La humanidad se encuentra en un momento decisivo de su historia.

Más de ochenta años después del inicio de la era nuclear, y en el umbral de la era de la inteligencia artificial, se nos presenta un desafío sin precedentes. Nunca antes el progreso científico había ofrecido oportunidades tan extraordinarias y, al mismo tiempo, creado riesgos tan profundos para nuestro futuro común.

Cuando las armas nucleares se desarrollaron por primera vez, el mundo tuvo la oportunidad de evitar vivir en una dinámica permanente de miedo. Fallamos y, como resultado, la humanidad ha vivido al borde de la aniquilación nuclear.

Con la IA, se presenta un peligro similar. La IA integrada en los sistemas de armas nucleares deja poco tiempo para el juicio humano en una crisis, o incluso lo reemplaza. Esta tecnología cambia el contexto en el que los Estados con armas nucleares compiten entre sí. Es probable que la IA cause una pérdida masiva de empleos y agudice la competencia económica entre los Estados con armas nucleares. La IA potencia los ciberataques que pueden fracturar infraestructuras civiles y estratégicas críticas. La IA permite la guerra de la información: la paz depende de una realidad compartida. Sin evidencias no puede haber verdad; sin verdad no puede haber confianza; y sin confianza, no hay diálogo, ni verificación, ni moderación entre las naciones.

Las capacidades de IA, los recursos informáticos y las infraestructuras de datos más avanzados se están concentrando cada vez más en un pequeño número de países y corporaciones, lo que crea asimetrías significativas de poder y limitados incentivos para la cooperación. La IA es una tecnología que causa perturbaciones económicas, militares y sociales, y se está desarrollando a un ritmo sin precedentes en la historia humana.

En medio de una carrera armamentista nuclear en deterioro, nos estamos embarcando en una carrera de IA igualmente peligrosa.

El Papa León XIV, invocando valores compartidos por diversas tradiciones religiosas, ha hecho un llamado a la humanidad hacia una "paz desarmada y desarmante". Rechazamos la creencia de que la seguridad duradera pueda construirse sobre el miedo, la dominación o la amenaza permanente de la destrucción mutua. La seguridad no puede basarse indefinidamente en la realidad de la destrucción mutua.

Conscientes de nuestra responsabilidad compartida hacia las generaciones presentes y futuras, adoptamos los siguientes principios:

1. Desarmar la Próxima Carrera Armamentista

Reconocemos que la IA es un escenario de competencia estratégica, al igual que las armas nucleares. Hacemos un llamado a los gobiernos, desarrolladores de IA de frontera, investigadores y a la comunidad internacional para que actúen ahora, mediante arreglos de gobernanza tales como mecanismos de distribución de beneficios, la promoción de aplicaciones de IA que sirvan al bienestar humano y la moderación en sus aplicaciones más desestabilizadoras, a fin de reducir estos riesgos mientras la decisión siga siendo nuestra. Debemos desarmar la próxima carrera armamentista, tanto de IA como nuclear, antes de que definan también el próximo siglo.

2. Desarrollo Responsable

Los desarrolladores de IA deben publicar de manera transparente los principios que guían el comportamiento de sus modelos y ser considerados legalmente responsables por el cumplimiento de dichos principios por parte de sus modelos. La IA debe desarrollarse y supervisarse para estar alineada con los intereses de la humanidad, incluido el derecho internacional y el respeto de los derechos humanos.

Además, ninguna organización debe iniciar, y ningún gobierno debe permitir, el perfeccionamiento recursivo totalmente automatizado en sistemas de inteligencia artificial sin los medios para monitorear y, si es necesario, detener dichos sistemas.

3. Uso Responsable de la IA

Un sistema automatizado nunca debe tomar la decisión final de lanzar un arma nuclear. Exigimos la adopción de un tratado internacional que prohíba la integración imprudente de la inteligencia artificial en los sistemas de mando, control y lanzamiento nuclear, de modo que se mantenga un control humano significativo.

Debemos prevenir el uso malintencionado de la inteligencia artificial en operaciones cibernéticas y ataques contra infraestructuras nucleares críticas. Los Estados nucleares deben llevar a cabo revisiones a prueba de fallos (fail-safe) para reducir la vulnerabilidad de sus fuerzas nucleares al control o manipulación no autorizados por parte de la IA.

Promovemos el desarrollo y uso responsable de la inteligencia artificial para mejorar el bienestar humano, acelerar el progreso científico y médico, proteger el medio ambiente, fortalecer la resiliencia e impulsar la paz, el desarrollo sostenible y el bien común.

4. Gobernanza Responsable

Hacemos un llamado a los gobiernos, corporaciones u organizaciones internacionales para facilitar una desaceleración coordinada del desarrollo de la IA de frontera mediante el establecimiento de mecanismos compartidos, tales como la verificación y evaluaciones internas y externas sólidas.

Apoyamos al Panel Científico Internacional Independiente de las Naciones Unidas sobre la IA, y la promoción de otros esfuerzos en el espíritu de la Magnifica Humanitas.

Solicitamos una mayor investigación y diálogo para proponer nuevas vías institucionales para la gobernanza internacional de la IA y la futura implementación de iniciativas de gobernanza global.

5. Liderazgo Responsable

Reconocemos que los desafíos que enfrentamos probablemente serán resueltos por la próxima generación de líderes. Los jóvenes deben ser empoderados para hacer frente a las amenazas nucleares, de la IA y otras potencialmente catastróficas, a través de la educación, la tutoría, la asociación intergeneracional y la participación inclusiva en todas las regiones, culturas y comunidades. Debemos impulsar iniciativas educativas que fomenten la responsabilidad ética, el pensamiento crítico, la alfabetización mediática y digital en IA, y una cultura de paz.

Reconocemos que la humanidad enfrenta numerosas amenazas interconectadas, cuyas consecuencias no deseadas a menudo impactan a quienes no tienen acceso ni control sobre tales tecnologías. Hacemos un llamado a la creación de un espacio común digital (digital commons) que incluya la información para promover la comprensión y la acción contra las armas nucleares, la IA no gobernada y otras amenazas existenciales.

6. Desarme Nuclear

Hacemos un llamado a negociaciones urgentes, sostenidas y de buena fe que conduzcan, dentro de un marco acordado y con un plazo determinado, a la eliminación verificable e irreversible de las armas nucleares. La comunidad internacional debe rechazar la normalización de las armas nucleares como instrumentos permanentes de seguridad y fortalecer las normas humanitarias y jurídicas plasmadas en el Tratado sobre la No Proliferación de las Armas Nucleares y el Tratado sobre la Prohibición de las Armas Nucleares.

Hacemos un llamado a los Estados con armas nucleares para que detengan la renovación de la carrera armamentista y la expansión de sus arsenales, reanuden las negociaciones bilaterales y multilaterales sobre el control de armas y el desarme, y cumplan con sus obligaciones y compromisos en virtud del derecho internacional. Los Estados deben buscar limitaciones y reducciones verificables; reducir los niveles de alerta; ampliar el tiempo de decisión; alejarse de las posturas de lanzamiento tras alerta de ataque (launch-on-warning) y represalia inmediata; reducir el papel de las armas nucleares en las doctrinas de seguridad; fortalecer las comunicaciones de crisis; prevenir operaciones cibernéticas contra el mando, control y comunicaciones nucleares; y fomentar la cooperación para evitar malentendidos, errores de cálculo y una escalada no intencionada.

Las naciones nucleares deben promover políticas y doctrinas que disminuyan el papel de las armas nucleares y reduzcan la probabilidad del primer uso y de una guerra catastrófica.

Inspirados por las palabras de los Premios Nobel Bertrand Russell y Albert Einstein: "Apelamos como seres humanos a seres humanos: recuerden su humanidad y olviden el resto."

Nuestra supervivencia y la supervivencia de las generaciones futuras están en juego.

(*) Adoptada por los participantes de la Asamblea Global de Premios Nobel. Borgo Laudato Si', Vaticano – Julio de 2026