EE.UU. y China analizan controles “tipo nuclear” para evitar incidentes provocados por la IA

Expertos estadounidenses y chinos que participan de un diálogo bilateral sobre inteligencia artificial y seguridad nacional propusieron establecer salvaguardas inspiradas en algunos de los principios utilizados históricamente para reducir riesgos entre potencias nucleares.

El problema es concreto: un sistema autónomo podría interferir con una red de comando nuclear o ejecutar una operación cibernética militar y dejar al otro país con apenas minutos para determinar si se trató de un ataque deliberado, un accidente o una acción no autorizada.

Entre las propuestas aparecen tres medidas centrales: establecer líneas rojas alrededor de los sistemas nucleares, garantizar control humano sobre ciberataques de consecuencias estratégicas y crear una línea directa entre Washington y Beijing específicamente destinada a incidentes relacionados con sistemas autónomos de IA.

Melanie Sisson, investigadora de Brookings Institution, sostiene que los humanos deberían conservar la autoridad exclusiva para iniciar ataques cibernéticos asistidos por IA contra sistemas nucleares o infraestructuras estratégicas del otro país.

Tianjiao Jiang, profesor asociado de la Universidad de Fudan, planteó además prohibir que una inteligencia artificial pueda decidir de manera independiente utilizar armas nucleares o atacar sistemas de comando nuclear.

También propuso acordar qué significa exactamente mantener un “control humano significativo”, para evitar que ambos países utilicen la misma expresión mientras permiten niveles diferentes de autonomía a sus sistemas militares.

Existe un antecedente importante. En noviembre de 2024, Joe Biden y Xi Jinping coincidieron en que los seres humanos deben mantener el control sobre las decisiones relacionadas con el uso de armas nucleares.

Ahora la preocupación se extiende hacia los sistemas autónomos capaces de operar a velocidades superiores a las humanas.

Uno de los escenarios planteados por los especialistas es que una IA defensiva detecte una actividad sospechosa y responda automáticamente. El adversario podría interpretar esa reacción como una agresión y responder antes de que cualquiera de los gobiernos consiga determinar qué ocurrió realmente.

Por eso se propone una línea directa específica para incidentes de IA, que permita comunicar rápidamente que determinada operación fue accidental, no autorizada o continúa bajo investigación.

Ni Estados Unidos ni China adoptaron formalmente estas propuestas. China ya incorporó la inteligencia artificial dentro de la estructura de control de armamentos de su Ministerio de Relaciones Exteriores, mientras que en Estados Unidos las competencias están distribuidas entre la Casa Blanca, el Departamento de Estado, el Pentágono y otras agencias.

La discusión marca un cambio importante en la competencia tecnológica entre las dos potencias. La carrera por la IA ya no se limita a quién fabrica mejores chips o desarrolla los modelos más avanzados: también empieza a discutirse cómo evitar que una máquina desencadene una crisis entre dos potencias nucleares.