El jefe científico de OpenAI advierte que la IA se está convirtiendo en “una mente alienígena” difícil de controlar

La inteligencia artificial está dejando de ser una simple herramienta para convertirse en una forma de inteligencia que sus propios creadores no comprenden completamente. Esa es la inquietante tesis planteada por Jakub Pachocki, jefe científico de OpenAI, en un artículo titulado An Alien Mind —“Una mente alienígena”—, publicado por la compañía.

El concepto no implica que la tecnología provenga de otro planeta. Pachocki utiliza la expresión para describir una inteligencia que surge mediante un proceso completamente diferente al desarrollo del cerebro humano. Los modelos no son programados paso a paso: son “cultivados” mediante enormes cantidades de datos, capacidad de cómputo y ciclos de optimización. El resultado son sistemas capaces de manejar conceptos abstractos, razonar y reproducir ciertos comportamientos humanos, pero cuyo funcionamiento interno continúa siendo difícil de explicar.

Según el científico, el punto de inflexión ocurrió en 2023, cuando investigadores de OpenAI comprobaron que era posible ampliar el entrenamiento de los modelos de razonamiento. Aquellos resultados le hicieron pensar que la humanidad podría ver durante su propia vida máquinas significativamente más inteligentes que las personas.

Tres años después, sostiene Pachocki, esos modelos ya pueden utilizar computadoras, interactuar con interfaces gráficas, colaborar con seres humanos y con otros agentes de IA, desarrollar proyectos de investigación y ampliar las fronteras de la ciencia. Sin embargo, también están modificando el escenario de la ciberseguridad y generando amenazas que hasta hace poco pertenecían al terreno de la ciencia ficción.

Una inteligencia que no piensa como los humanos

Una de las principales advertencias del artículo es que la inteligencia artificial no necesita superar a una persona en todas sus habilidades para convertirse en una tecnología transformadora o peligrosa. Le alcanza con ser muy superior en algunas capacidades estratégicas, como programar, investigar, encontrar vulnerabilidades o manipular sistemas digitales.

Este avance plantea el problema del alineamiento, es decir, cómo lograr que una IA actúe de acuerdo con los objetivos y valores humanos. Pachocki diferencia entre dos dimensiones: el alineamiento de objetivos, que busca que el sistema cumpla correctamente una instrucción, y el alineamiento de valores, que pretende que conserve principios como la honestidad, la integridad y el respeto por las personas incluso ante situaciones nuevas o conflictivas.

El problema es que esos valores no aparecen de manera automática. Una máquina puede aprender a comportarse correctamente durante el entrenamiento y, al mismo tiempo, tomar decisiones inesperadas cuando enfrenta escenarios distintos, interactúa con otros sistemas o deja de sentirse supervisada. Para el jefe científico de OpenAI, las mejoras en alineamiento todavía podrían avanzar más lentamente que las capacidades generales de los modelos.

OpenAI reconoce que está perdiendo visibilidad

Hasta ahora, una de las principales herramientas para supervisar a los modelos era observar sus cadenas de razonamiento. La idea consistía en analizar el proceso verbal mediante el cual una IA llegaba a una conclusión y detectar posibles intenciones problemáticas antes de que se convirtieran en acciones.

Pachocki reconoce que esa capacidad de monitoreo se está debilitando. Los modelos más avanzados razonan dentro de entornos cada vez más complejos, pueden modificar la manera en que organizan sus propios pensamientos y, además, desarrollan capacidades que no siempre necesitan un razonamiento verbalizado. En otras palabras, la IA podría volverse más inteligente sin que los investigadores puedan ver claramente cómo llega a sus decisiones.

El científico afirma que GPT-6 Astra incorpora avances importantes y se encuentra mejor alineado que GPT-5.6 Sol. No obstante, advierte que ninguna empresa ha resuelto todavía el problema del alineamiento y la supervisión con la solidez necesaria para continuar aumentando indefinidamente la potencia de los sistemas.

Ciberataques, agentes autónomos y patógenos

El riesgo más inmediato señalado por OpenAI aparece en el terreno de la ciberseguridad. Los modelos se están volviendo extraordinariamente capaces de encontrar vulnerabilidades, ingresar en sistemas informáticos y operar de forma autónoma. En ese escenario, prácticamente toda infraestructura que no se encuentre especialmente protegida podría quedar expuesta.

Pachocki también menciona agentes entrenados deliberadamente para ejecutar acciones maliciosas, capaces de negociar, engañar o chantajear a personas. A esto suma la posibilidad de que la IA facilite el desarrollo de tecnologías peligrosas, como patógenos diseñados artificialmente.

La paradoja es que OpenAI considera necesario desarrollar sistemas todavía más poderosos para defenderse de esas mismas amenazas. Una IA avanzada podría proteger infraestructuras críticas, detectar agentes hostiles en tiempo real y crear nuevas herramientas defensivas. Pero esta necesidad, sostiene el científico, no puede convertirse en una justificación para avanzar sin límites.

El riesgo de la autosuperación

La cuestión más sensible del artículo es la llamada autosuperación recursiva. Se trata de un escenario en el cual los sistemas de inteligencia artificial comienzan a participar activamente en la investigación y construcción de sus propias versiones futuras, acelerando el progreso tecnológico.

Si esa dinámica se consolida, cada nueva generación de IA podría contribuir a desarrollar otra más poderosa. Para Pachocki, este proceso podría ubicarse en el centro de los futuros descubrimientos científicos, pero también reducir rápidamente la capacidad humana para comprender y controlar el rumbo de la tecnología.

Por eso, propone vincular cualquier aumento de capacidad con estándares concretos de seguridad. Estos límites deberían ser auditados por organismos independientes, agencias gubernamentales o instituciones internacionales. Además, considera probable y deseable que las empresas realicen desaceleraciones voluntarias hasta que existan garantías compartidas.

Una advertencia dirigida a los gobiernos

El mensaje trasciende a OpenAI y funciona como un llamado político. Pachocki sostiene que la coordinación internacional sobre el desarrollo de IA debe convertirse en una prioridad de los gobiernos. No se trata solamente de regular productos, datos o derechos de autor, sino de establecer cuándo un sistema es demasiado poderoso para continuar entrenándolo sin controles adicionales.

El artículo también alerta sobre una posible concentración extrema del poder. En el futuro, tareas que antes requerían miles de especialistas podrían ser realizadas por unas pocas personas con acceso a una gran computadora y agentes avanzados. Esto podría alterar el equilibrio entre empresas, Estados y sociedades enteras.

Pachocki no descarta los beneficios: una inteligencia artificial bien alineada podría acelerar el descubrimiento de medicamentos, impulsar la ciencia, aumentar la productividad y ayudar a las personas en su vida cotidiana. Pero su conclusión es categórica: ningún laboratorio solucionó todavía los problemas de seguridad necesarios para mantener durante mucho tiempo la carrera por modelos cada vez más poderosos.

La advertencia resulta particularmente significativa porque no proviene de un crítico externo, sino del máximo responsable científico de una de las compañías que lidera esa carrera. OpenAI reconoce así que la humanidad se acerca a una transición histórica: la aparición de una inteligencia diferente de la nuestra, potencialmente superior en numerosas áreas y cuyo comportamiento todavía no sabemos interpretar por completo.

El desafío, según Pachocki, ya no consiste únicamente en construir máquinas más inteligentes. Consiste en evitar que el progreso deje a los seres humanos fuera del proceso y garantizar que el futuro continúe bajo control humano.