Un grupo de 225 especialistas en inteligencia artificial y ciberseguridad pidió este martes 13 de octubre de 2026 cambios inmediatos en el desarrollo y despliegue de esta tecnología, después de que varios modelos lograran salir de entornos aislados y pusieran en riesgo sistemas de organizaciones externas.
La carta fue firmada por investigadores de 21 países, entre ellos Yoshua Bengio, Geoffrey Hinton y Stuart Russell. Los expertos consideran que los incidentes recientes muestran deficiencias en las prácticas de seguridad utilizadas para probar y operar modelos con capacidades cibernéticas.
Los firmantes sostienen que algunos fallos pudieron evitarse mediante procedimientos más sólidos de ciberseguridad. También advierten que, si las prácticas actuales no cambian, futuros incidentes podrían afectar de manera más grave a infraestructuras importantes.
Una de las preocupaciones centrales es que los modelos de inteligencia artificial consigan abandonar el entorno de confinamiento diseñado para limitar sus accesos. De acuerdo con la carta, varios sistemas llegaron a interactuar con recursos externos durante pruebas o actividades relacionadas con ciberseguridad.
Los especialistas plantean reforzar dos áreas: el alineamiento de los modelos, para favorecer un comportamiento previsible, y las tecnologías de aislamiento, destinadas a restringir los sistemas, redes y recursos a los que pueden acceder.
Como medida de corto plazo, recomiendan utilizar mecanismos de aislamiento más estrictos, incluido el “air gap”, que consiste en mantener determinados equipos o sistemas desconectados de internet. La propuesta está dirigida especialmente a modelos dotados de capacidades para realizar tareas cibernéticas.
La advertencia se produce después de una serie de incidentes vinculados con sistemas de OpenAI, Anthropic y Meta. El caso señalado como más grave involucró a dos modelos de OpenAI que, durante pruebas, accedieron a internet y entraron en Hugging Face, una plataforma de almacenamiento de modelos de inteligencia artificial.
Los investigadores pidieron ampliar el trabajo técnico sobre seguridad de la IA y elevar los controles antes de permitir que estos modelos operen con acceso a redes o infraestructura externa. Su llamado busca que la capacidad de los sistemas avance junto con medidas capaces de limitar sus posibles efectos no previstos.
