La ONU advierte sobre el riesgo de guerras controladas por inteligencia artificial y prepara una iniciativa internacional
Naciones Unidas alerta que la inteligencia artificial está reduciendo la intervención humana en decisiones militares cada vez más sensibles, incluso en el ámbito nuclear. El organismo impulsa un nuevo espacio internacional para abordar los riesgos de la automatización de los conflictos armados.
La Organización de las Naciones Unidas advirtió sobre los riesgos que representa la incorporación acelerada de inteligencia artificial en operaciones militares, especialmente cuando los sistemas automatizados comienzan a intervenir en decisiones relacionadas con la seguridad internacional.
El Instituto de las Naciones Unidas de Investigación sobre el Desarme (UNIDIR) anunció una iniciativa destinada a reunir gobiernos, especialistas y representantes de la industria tecnológica para discutir mecanismos de supervisión y responsabilidad.
La preocupación central es que la velocidad de procesamiento de los sistemas de inteligencia artificial termine reduciendo peligrosamente la capacidad humana para evaluar decisiones militares críticas.
La inteligencia artificial llega a las decisiones nucleares
, advirtió que el margen disponible para la intervención humana se está reduciendo, incluso en cuestiones vinculadas con armamento nuclear.
Los sistemas de inteligencia artificial ya tienen aplicaciones en tareas de reconocimiento, vigilancia, procesamiento de información y alerta temprana.
Sin embargo, su incorporación a sistemas militares sensibles plantea interrogantes sobre quién conserva el control de las decisiones y cómo evitar errores de consecuencias irreversibles.
Una de las principales preocupaciones es que los algoritmos puedan interpretar incorrectamente información, producir recomendaciones equivocadas o acelerar procesos de respuesta en situaciones de alta tensión internacional.
Esto no significa que actualmente las armas nucleares estén bajo control autónomo de inteligencia artificial, sino que la creciente automatización puede introducir nuevos riesgos en los sistemas de decisión y alerta.
Un nuevo espacio internacional para regular la IA militar
La iniciativa del UNIDIR, cuyo lanzamiento está previsto para el 22 de octubre, busca establecer un espacio permanente de diálogo sobre inteligencia artificial, paz y seguridad.
El proyecto contempla conversaciones con gobiernos, empresas tecnológicas, inversores y especialistas en defensa.
También se pretende avanzar en principios de conducta responsable para las compañías que desarrollan tecnologías con posibles aplicaciones militares.
No obstante, uno de los límites de esta estrategia es que los mecanismos de conducta propuestos tienen carácter voluntario, por lo que no equivalen a un tratado internacional obligatorio.
El poder tecnológico y los riesgos para la seguridad mundial
La expansión de la inteligencia artificial militar también plantea una cuestión geopolítica: un número reducido de Estados y grandes empresas tecnológicas concentra capacidades que pueden afectar la seguridad de millones de personas.
La velocidad de desarrollo de estas herramientas representa un desafío para los organismos internacionales, que deben construir acuerdos entre países con intereses estratégicos diferentes.
La preocupación no se limita a las grandes potencias. También incluye la posibilidad de que tecnologías avanzadas sean utilizadas por organizaciones armadas no estatales.
El desafío de mantener el control humano
El debate internacional gira alrededor de una pregunta fundamental: ¿hasta dónde puede delegarse en una máquina una decisión que involucra vidas humanas?
La ONU busca que el desarrollo tecnológico esté acompañado por mecanismos de supervisión, responsabilidad y respeto del derecho internacional.
El problema es que la innovación avanza más rápidamente que los acuerdos políticos necesarios para establecer límites compartidos.
El objetivo de la nueva iniciativa es reducir esa distancia antes de que los sistemas automatizados adquieran una influencia todavía mayor sobre las decisiones militares.
