Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear
- hace 3 horas
- 3 min de lectura
Del 14 al 16 de julio, Pugwash participó como entidad organizadora en una conferencia internacional celebrada bajo los auspicios de la Asamblea Mundial de Premios Nobel sobre Inteligencia Artificial y Guerra Nuclear, que reunió a personas galardonadas con el Premio Nobel, expertos en política nuclear, científicos, representantes de la industria de la inteligencia artificial, líderes religiosos y profesionales del sector preocupados por el desarrollo actual de la IA. La iniciativa perseguía dos objetivos: analizar cómo la inteligencia artificial y las armas nucleares generan nuevos riesgos existenciales, y sensibilizar a la opinión pública e impulsar medidas para reducir los peligros que esta combinación supone para la humanidad.
Declaración de Roma: La humanidad ante el umbral: una declaración sobre la inteligencia artificial y las armas nucleares.
Durante los dos primeros días, los participantes se reunieron en el Borgo Laudato Si’, situado dentro del recinto vaticano de Castel Gandolfo. Los paneles de expertos y los grupos de trabajo se centraron en la fragilidad del orden nuclear y en el rápido desarrollo de las aplicaciones de IA en los sistemas militares. Los ponentes abordaron el uso de la IA en los sistemas nucleares de mando y control, así como los desafíos morales de la guerra facilitada por esta tecnología, incluidas las armas autónomas y los problemas derivados de una escalada a «velocidad de máquina».
Las deliberaciones se centraron tanto en los desafíos prácticos como en los éticos que plantea garantizar que la innovación tecnológica —y las oportunidades que ofrece la IA— se ajuste a las normas éticas y contribuya a mejorar la seguridad mundial. También se examinaron las posibilidades de retomar el control de armamentos nucleares. Como señaló la secretaria general de Pugwash, la profesora Karen Hallberg, en su discurso inaugural del primer día, los paralelismos con los albores de la era nuclear son evidentes:
[…] la humanidad se encuentra ante otra encrucijada histórica debido al desarrollo de nuevas tecnologías transformadoras, en particular la inteligencia artificial, que avanza a una velocidad extraordinaria. La IA tiene el potencial de mejorar la vida de innumerables maneras, pero, si no se somete a una gobernanza eficaz, también puede agravar los riesgos mundiales.
Un tema recurrente fue la dificultad de comprender y definir qué constituye un control humano significativo en una época en la que la IA está afectando a la integridad de la información y a la fiabilidad de las comunicaciones. En conjunto, la IA plantea cuestiones urgentes para las relaciones de disuasión nuclear. Al mismo tiempo, el orden nuclear sigue presentando deficiencias fundamentales y continúa siendo vulnerable a las perturbaciones y la manipulación provocadas por tecnologías emergentes como la IA.
Inspiradas en la encíclica del papa León XIV, Magnifica humanitas, las distintas perspectivas multidisciplinares subrayaron que no se trata únicamente de un desafío industrial o nacional, sino de uno que exige una respuesta coordinada de la sociedad y de la comunidad internacional. La tercera jornada de la Asamblea estuvo marcada por la presentación oficial de la Declaración de Roma: La humanidad ante el umbral: una declaración sobre la inteligencia artificial y las armas nucleares, que recoge seis principios fundamentales relativos a la incipiente competencia internacional en materia de IA, armas nucleares y defensa.
En medio del agravamiento de la carrera armamentística nuclear, estamos iniciando otra carrera igualmente peligrosa en el ámbito de la IA. El papa León XIV, apelando a valores compartidos por distintas tradiciones religiosas, ha exhortado a la humanidad a avanzar hacia una «paz desarmada y desarmante». Rechazamos la creencia de que pueda construirse una seguridad duradera sobre el miedo, la dominación o la amenaza permanente de destrucción mutua. La seguridad no puede seguir sustentándose indefinidamente en la realidad de la destrucción mutua.
(Fotografía: Poul Erik Christiansen, Steve Miller, Khaled Shamaa, Karen Hallberg, Götz Neuneck, Tariq Rauf, Nicolas Ayala Arboleda, Tatsujiro Suzuki (Izq a der)
Comentarios