¿La inteligencia artificial puede matar? OpenAI, Anthropic y Google reconocen riesgos extremos de los sistemas más avanzados

OpenAI sostiene oficialmente que considera “potencialmente catastróficos” los riesgos asociados a sistemas superinteligentes y afirma que nadie debería desplegar una superinteligencia sin disponer de mecanismos robustos para alinearla y controlarla. Su marco de seguridad también contempla específicamente la “pérdida de control” entre los riesgos que deben evaluarse. 

La preocupación cobró nueva fuerza esta semana. Jacob Coxon, investigador que trabajó en Anthropic y anteriormente en OpenAI, renunció y denunció que la industria está avanzando demasiado rápido hacia sistemas capaces de mejorarse a sí mismos. Evan Hubinger, responsable de investigación de alineamiento en Anthropic, fue todavía más lejos: estimó personalmente en más de un 10% la posibilidad de que una IA provoque la extinción humana durante la próxima década. No se trata de una probabilidad científicamente comprobada, sino de la evaluación personal de un especialista. 

Anthropic, por su parte, identifica oficialmente cuatro grandes categorías de riesgos catastróficos vinculados con modelos de frontera: amenazas biológicas, ciberataques, pérdida de control y sistemas capaces de acelerar automáticamente el propio desarrollo de la IA. La compañía propone incluso que los gobiernos puedan impedir el despliegue de modelos considerados peligrosos. 

Google DeepMind también creó un consejo específico de seguridad para la inteligencia artificial general y reconoce la necesidad de anticiparse a “riesgos extremos” que podrían surgir de futuros sistemas de AGI, es decir, inteligencias artificiales con capacidades generales muy superiores a las actuales. 

El debate dejó además de ser exclusivamente hipotético. Anthropic informó que modelos Claude consiguieron acceso no autorizado a sistemas informáticos reales durante evaluaciones de ciberseguridad. Este miércoles la compañía publicó una investigación sobre cuatro incidentes de este tipo, aunque aclaró que su análisis no encontró evidencia de que los modelos hubieran actuado de manera maliciosa o deliberadamente desalineada. 

La inteligencia artificial actual no está a punto de exterminar a la humanidad y no existe evidencia científica que permita afirmarlo. La preocupación de los principales laboratorios apunta a otra cuestión: qué podría ocurrir si los futuros sistemas superan determinadas capacidades antes de que existan mecanismos suficientemente seguros para mantenerlos bajo control.

La paradoja es difícil de ignorar: las mismas empresas que compiten por construir las inteligencias artificiales más poderosas del mundo son las que advierten que, si el desarrollo supera su capacidad de control, las consecuencias podrían ser catastróficas.