La IA agéntica abre una nueva amenaza para las empresas: el 6% de los chats ya contiene información sensible
Un informe de Akamai advierte que la expansión de agentes autónomos está modificando los riesgos de ciberseguridad dentro de las organizaciones. Más del 40% de los usuarios empresariales instaló extensiones de navegador impulsadas por inteligencia artificial y casi la mitad de las interacciones con chatbots se realiza desde cuentas personales no monitoreadas.
La expansión de la inteligencia artificial dentro de las empresas está abriendo un nuevo frente para la ciberseguridad: ya no alcanza con controlar qué personas tienen acceso a los sistemas. Ahora también es necesario determinar qué pueden hacer, a qué información pueden acceder y cómo se comportan los agentes de IA capaces de actuar de manera autónoma.
Esa es una de las principales conclusiones del nuevo informe State of the Internet (SOTI) Security de Akamai, denominado “La frontera de la IA agéntica: velocidad, escala e identidad no humana”, presentado el 22 de septiembre.
El estudio advierte que la denominada IA agéntica representa un cambio sustancial frente a los chatbots tradicionales. Estos sistemas no se limitan a responder preguntas: pueden conectarse con APIs, consultar diferentes plataformas, utilizar herramientas y ejecutar tareas de varios pasos con distintos grados de autonomía.
Para las empresas, esto supone la aparición de lo que Akamai denomina “identidades no humanas”: agentes digitales que pueden recibir permisos y operar sobre sistemas corporativos sin ser una persona.
El 6% de los chats contiene información sensible
Uno de los datos más relevantes del informe aparece en el uso cotidiano de herramientas de inteligencia artificial.
Según Akamai, más del 6% de las conversaciones empresariales mantenidas con chatbots de IA contiene información corporativa sensible, principalmente datos de identificación personal.
El riesgo aumenta por otro fenómeno: el 47% de esas interacciones se realiza mediante cuentas personales no monitoreadas por las organizaciones.
Esto significa que una parte considerable del uso empresarial de la IA puede estar ocurriendo por fuera de las herramientas, permisos y sistemas de supervisión establecidos por las compañías.
El navegador se convierte en otro punto vulnerable
El informe también identifica al navegador como un nuevo espacio de trabajo que puede quedar fuera de los controles tradicionales de seguridad.
Más del 40% de los usuarios empresariales analizados instaló extensiones de navegador impulsadas por IA.
Además, Akamai detectó que el 25% de esas extensiones modifica sus permisos durante un período de 12 meses.
El dato más preocupante es que las extensiones vinculadas con inteligencia artificial presentan, según el informe, un 60% más de probabilidades de contener vulnerabilidades CVE conocidas que las extensiones convencionales.
Una extensión que inicialmente parece tener permisos limitados puede, por lo tanto, modificar posteriormente su nivel de acceso o presentar vulnerabilidades que amplíen la superficie de ataque dentro de una organización.
El problema de los agentes autónomos
Otro punto señalado por Akamai es el avance del Model Context Protocol (MCP), un protocolo abierto que permite conectar modelos y agentes de IA con diferentes herramientas, fuentes de información y sistemas.
Esta capacidad facilita que un agente pueda ejecutar acciones sobre múltiples plataformas, pero también introduce nuevos riesgos.
Según el informe, la exposición relacionada con MCP aparece actualmente entre las últimas prioridades de seguridad de los CISO, pese a que los responsables de seguridad consultados esperan que los agentes maliciosos de IA se conviertan en una de las principales amenazas cibernéticas hacia 2030.
Akamai considera que existe, por lo tanto, una brecha entre la velocidad de adopción de estas tecnologías y la capacidad de las organizaciones para observar y controlar lo que hacen.
La IA también acelera los ataques
La inteligencia artificial no solamente puede introducir vulnerabilidades mediante su utilización interna. También puede aumentar la velocidad con la que los atacantes encuentran y explotan fallas.
El informe sostiene que los modelos más avanzados ya demostraron capacidad para descubrir y encadenar vulnerabilidades rápidamente.
Esto plantea un problema para el modelo tradicional de ciberseguridad: detectar una vulnerabilidad, desarrollar un parche y posteriormente distribuirlo puede resultar demasiado lento frente a sistemas automatizados capaces de buscar fallas de manera continua.
Akamai propone por eso avanzar hacia mecanismos de mitigación en tiempo real capaces de actuar mientras las correcciones definitivas son implementadas.
“Todo, en todas partes y al mismo tiempo”
Boaz Gelbord, Chief Security Officer de Akamai, describió la situación como un momento de “todo, en todas partes y al mismo tiempo” para la industria de la seguridad.
El ejecutivo identifica tres riesgos simultáneos: el uso interno de IA para programación y productividad; la incorporación de inteligencia artificial dentro de productos y servicios destinados a clientes; y el crecimiento de ataques directamente potenciados por estas tecnologías.
Para Steve Winterfeld, Advisory CISO de Akamai, el cambio central ocurre cuando la inteligencia artificial deja de limitarse a responder consultas y comienza a “ejecutar estrategias empresariales de múltiples pasos”.
De controlar personas a controlar comportamientos
Frente a este escenario, Akamai propone un cambio de enfoque.
Las empresas deberán avanzar desde un modelo concentrado principalmente en verificar quién tiene acceso hacia otro capaz de controlar qué comportamiento tiene cada agente y qué acciones está autorizado a ejecutar.
Entre sus recomendaciones, la compañía plantea establecer controles dentro del navegador, supervisar las extensiones de IA utilizadas por los empleados, incorporar mecanismos de protección en tiempo real y limitar la autonomía de los agentes según el impacto potencial de sus decisiones.
El principio propuesto es relativamente sencillo: cuanto más difícil sea verificar o revertir una acción realizada por una IA, mayor debería ser la participación humana necesaria para autorizarla.
La transformación plantea un nuevo desafío para los responsables de seguridad. Durante décadas, gran parte de la arquitectura corporativa estuvo diseñada alrededor de una pregunta: quién es la persona que intenta acceder al sistema.
Con la expansión de la IA agéntica aparece una segunda pregunta: qué ocurre cuando quien accede, decide y ejecuta una acción ya no es una persona, sino una inteligencia artificial.
