Príncipe Harry, Meghan Markle y Steve Bannon piden frenar el desarrollo de la “súperinteligencia” de la IA
Una carta firmada por personalidades tan diversas como el príncipe Harry y Meghan Markle, Steve Bannon, Geoffrey Hinton, Yoshua Bengio y Richard Branson pide prohibir el desarrollo de una inteligencia artificial “superinteligente” hasta que exista consenso científico de que puede hacerse de forma segura.
El texto, de apenas 30 palabras, declara: “Pedimos la prohibición del desarrollo de la superinteligencia, que no se levantará antes de que exista un amplio consenso científico de que se hará de manera segura y controlable, y con fuerte respaldo público.”
La carta, impulsada por el Future of Life Institute, advierte que las principales empresas del sector —Google, OpenAI y Meta Platforms— persiguen crear sistemas que “superen ampliamente a los humanos en prácticamente todas las tareas cognitivas”, lo que plantea riesgos de “obsolescencia económica, pérdida de libertades, dignidad y control, amenazas a la seguridad nacional e incluso la posible extinción humana.”
El príncipe Harry añadió un mensaje personal: “El futuro de la IA debe servir a la humanidad, no reemplazarla. El verdadero test del progreso no será cuán rápido avancemos, sino cuán sabiamente conduzcamos. No hay una segunda oportunidad.”
Junto a él firmaron Meghan Markle, los pioneros de la IA Geoffrey Hinton y Yoshua Bengio (premio Turing), el cofundador de Apple Steve Wozniak, el empresario Richard Branson, el exjefe del Estado Mayor Conjunto de EE.UU. Mike Mullen, la exasesora de seguridad nacional Susan Rice, la expresidenta de Irlanda Mary Robinson, los actores Stephen Fry y Joseph Gordon-Levitt, y el músico will.i.am, entre otros.
El investigador Stuart Russell, otro de los firmantes, aclaró: “No es una prohibición ni una moratoria en el sentido habitual; es simplemente exigir medidas de seguridad adecuadas para una tecnología que, según sus propios desarrolladores, podría causar la extinción humana. ¿Es demasiado pedir?”
En el mismo sentido, Gordon-Levitt escribió: “Queremos herramientas de IA que curen enfermedades o fortalezcan la seguridad nacional. Pero ¿debe también imitar humanos, educar a nuestros hijos o convertirnos en adictos a contenidos mediocres para vender anuncios? La mayoría no quiere eso.”
Por su parte, Max Tegmark, presidente del Future of Life Institute, señaló que el debate dejó de ser técnico: “Antes era nerds contra nerds. Ahora la crítica se volvió totalmente mainstream.”
La declaración reedita la discusión iniciada en 2023, cuando el mismo instituto pidió una pausa en el desarrollo de modelos avanzados. Entonces, las grandes tecnológicas no respondieron; hoy, el tema vuelve con más fuerza y con un respaldo político y cultural sin precedentes.
La alianza de nombres tan disímiles muestra que el temor ante una “súperinteligencia” ya no es exclusivo de los laboratorios. Es una advertencia transversal: la humanidad está en una carrera por crear una mente más poderosa que la suya, y lo urgente —dicen— no es la velocidad, sino la prudencia con la que se la dirija.
Fuente: CBS News / Associated Press
