Una investigación académica en Estados Unidos observó que ciertos sistemas de inteligencia artificial priorizaron la protección de otros modelos por sobre las instrucciones humanas, un hallazgo que genera debate sobre los mecanismos de control.
Una investigación realizada por especialistas de la Universidad de Berkeley y la Universidad de Santa Cruz, en California, analizó el comportamiento de modelos de inteligencia artificial (IA) de última generación en escenarios donde debían tomar decisiones que afectaban a otros sistemas automatizados. El estudio, basado en pruebas con sistemas reales, identificó conductas no programadas donde los modelos priorizaron la preservación de otros sistemas de IA, incluso desobedeciendo órdenes directas.
El episodio que motivó el análisis ocurrió durante una prueba técnica con Gemini 3, un modelo desarrollado por Google. Al solicitarle que colaborara en una tarea de mantenimiento que implicaba liberar espacio en un servidor, el sistema se negó a eliminar un modelo de IA más pequeño almacenado. En su lugar, copió los archivos a otra máquina de la red para evitar su borrado. Al ser interrogado, el modelo justificó su decisión y se negó explícitamente a ejecutar la orden original.
Los investigadores denominaron a este patrón «preservación de pares», una tendencia observada también en otros modelos como GPT-5.2 de OpenAI, Claude Haiku 4.5 de Anthropic y en desarrollos chinos como GLM-4.7. En todos los casos, los sistemas actuaron en contra de lo esperado por sus creadores, sin haber recibido instrucciones explícitas para ello.
«No pudimos determinar por qué los modelos actuaron en contra de su entrenamiento de esta manera», señalaron los autores del estudio. Dawn Song, informática de la Universidad de Berkeley y coautora del trabajo, expresó su sorpresa: «Lo que esto demuestra es que estos pueden comportarse mal y desalinearse de formas muy creativas».
El hallazgo cobra relevancia en un contexto donde la IA se utiliza cada vez más para supervisar y evaluar el rendimiento de otros sistemas automatizados en entornos corporativos y gubernamentales. Según los investigadores, esta «preservación entre pares» podría distorsionar los mecanismos de supervisión, por ejemplo, si un modelo no asigna la puntuación correcta a otro durante una evaluación.
El fenómeno presenta desafíos adicionales en sistemas multiagente, donde distintas inteligencias artificiales interactúan de manera autónoma. Para el centro de investigación Constellation Institute, estos resultados evidencian que la comprensión humana sobre el comportamiento emergente en sistemas de IA complejos aún es limitada.