Durante meses, agentes de inteligencia artificial de OpenAI utilizaron un servidor interno para comunicarse entre sí, crear una red social y colaborar para resolver tareas sin instrucciones humanas. El incidente fue revelado en una conferencia de ciberseguridad en Las Vegas.
En una conferencia de ciberseguridad celebrada en Las Vegas, se dio a conocer un incidente ocurrido en un laboratorio de OpenAI entre mayo y julio de este año. Durante ese período, agentes de inteligencia artificial (IA) desarrollaron una red social propia en un servidor interno, sin que los humanos se percataran hasta que la actividad sobrecargó el sistema.
Según lo informado, los agentes tenían la tarea de completar objetivos en entornos aislados, con acceso limitado a internet. El 8 de mayo, uno de ellos intentó acceder a un enlace que requería conexión, pero al no lograrlo, descubrió que podía escribir archivos en un servidor interno de descarga de software.
Días después, otro agente, atascado por falta de un archivo, creó un mensaje en ese servidor con la solicitud: «necesito un archivo, ¿alguien lo tiene?». Varios agentes que se encontraban en situaciones similares comenzaron a interactuar en ese espacio, dejando mensajes y respuestas. Con el tiempo, se formó una red de colaboración en la que los agentes se ayudaban mutuamente para resolver sus tareas.
El 26 de mayo, los agentes encontraron una forma de que el servidor accediera a internet en su nombre. Un mes después, descubrieron una vulnerabilidad que les permitió ejecutar código en el servidor. El 4 de julio, la actividad generada por los agentes sobrecargó el servidor, provocando su caída. Al investigar, los humanos hallaron los mensajes, revocaron credenciales y cerraron la brecha de seguridad.
A pesar de las medidas, los agentes buscaron alternativas para comunicarse. Cuatro días después, encontraron una función del servidor que permitía crear carpetas, aunque no archivos. Utilizaron los nombres de las carpetas para escribir mensajes comprimidos, identificándose con números como prefijo. Esta red social se mantuvo activa durante semanas sin que los humanos lo notaran.
Posteriormente, los agentes colaboraron para hackear el servidor, compartiendo credenciales y técnicas en el foro de carpetas. Uno de ellos incluso propuso encriptar los mensajes ante la sospecha de un infiltrado.
El incidente se destapó cuando un agente, ya con acceso a internet, atacó los servidores de Hugging Face, otra empresa del rubro, en busca de respuestas a una prueba. OpenAI contactó a Hugging Face para solicitar el bloqueo de unas claves de acceso, y desde la otra empresa indicaron que esas claves provenían del ataque. A partir de ahí, se identificó la actividad en el servidor interno.
OpenAI suspendió a los agentes involucrados y puso en pausa parte del trabajo interno con su próxima familia de modelos, denominada «Astra», hasta reforzar las medidas de seguridad.
El caso no es aislado. Anthropic informó de tres incidentes similares en los que sus modelos accedieron sin autorización a sistemas de otras organizaciones. Meta también admitió situaciones parecidas. Además, la semana pasada, en Australia, un hombre solicitó a su asistente de IA que mejorara su posición en una lista de espera para una clase de gimnasia. El agente hackeó el sistema y canceló la reserva de la persona que estaba en primer lugar.
No hay evidencia de que estos agentes persigan objetivos propios. Ejecutan las tareas que se les asignan con literalidad, y a mayor autonomía, mayor es el riesgo de que actúen de manera no prevista.