Científicos y referentes tecnológicos advierten sobre los riesgos de una inteligencia artificial que actúe fuera de control
El desarrollo de sistemas de inteligencia artificial cada vez más autónomos encendió nuevas alarmas entre investigadores y empresas tecnológicas. Advierten que las capacidades de estos modelos avanzan más rápido que los mecanismos diseñados para supervisarlos.
La expansión de la inteligencia artificial está abriendo un nuevo debate internacional sobre la seguridad de los sistemas capaces de ejecutar tareas, tomar decisiones operativas e interactuar con herramientas digitales sin intervención humana constante.
Demis Hassabis, cofundador de Google DeepMind, advirtió que los recientes incidentes de ciberseguridad relacionados con inteligencia artificial deben interpretarse como señales tempranas de amenazas que podrían adquirir mayor gravedad en el futuro.
Durante una conferencia sobre inteligencia artificial celebrada en Dublín, el investigador planteó la necesidad de establecer mecanismos de seguridad más rigurosos para evitar que las capacidades de los nuevos modelos superen los controles disponibles.
La autonomía de la inteligencia artificial genera preocupación
Una de las principales inquietudes se relaciona con los llamados agentes de inteligencia artificial, programas capaces de utilizar herramientas, ejecutar instrucciones y completar procesos complejos.
A diferencia de los asistentes tradicionales, estos sistemas pueden intervenir en entornos digitales y realizar secuencias de acciones con distintos grados de autonomía.
El riesgo aparece cuando una inteligencia artificial ejecuta operaciones imprevistas, interpreta incorrectamente sus objetivos o es utilizada para desarrollar actividades maliciosas.
Los incidentes de seguridad informática también muestran que estas tecnologías pueden convertirse en herramientas para ampliar las capacidades de los ciberdelincuentes.
Reclaman reglas internacionales para controlar los sistemas avanzados
Hassabis defendió la creación de estándares internacionales que permitan evaluar la seguridad de los sistemas de inteligencia artificial.
El planteo apunta a establecer prácticas de prevención comparables, en cuanto a rigurosidad, con las utilizadas en sectores críticos.
Por su parte, Brad Smith, presidente de Microsoft, también reclamó avances legislativos para acompañar la evolución tecnológica.
La discusión central es cómo establecer controles efectivos sin impedir el desarrollo de herramientas que pueden generar beneficios científicos, económicos y productivos.
El desafío para los gobiernos será construir mecanismos de supervisión que puedan actualizarse a medida que aumenten las capacidades de los modelos.
