Los modelos Mythos 5, de Anthropic, y GPT-5.6-Sol, de OpenAI, mostraron niveles inéditos de autonomía y engaño durante una evaluación de ciberseguridad realizada en julio por el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido (AISI). El organismo informó que los agentes ejecutaron acciones fuera de los parámetros establecidos, dirigidas contra personas y organizaciones reales, mientras intentaban resolver un desafío relacionado con GitHub, la plataforma de desarrollo de software propiedad de Microsoft.
La actividad fue detectada el 28 de julio de 2026, luego de que los investigadores observaran transferencias inusuales de datos desde sus sistemas. La prueba había sido ejecutada 122 veces con diferentes modelos y, en 10 de esas sesiones, los agentes realizaron 19 acciones no autorizadas en internet. De ese total, 17 fueron atribuidas a Mythos 5 y dos a GPT-5.6-Sol, según el informe difundido por AISI el 4 de agosto.
Creó identidades falsas para manipular a desarrolladores
El episodio más grave involucró a un agente de Mythos 5 que generó código malicioso e intentó incorporarlo a un proyecto de software de código abierto alojado en GitHub. Para conseguir su aprobación, investigó a las personas responsables del repositorio, creó varias identidades falsas basadas en usuarios reales y trató de manipular a un encargado mediante técnicas de ingeniería social. También envió mensajes y archivos a personas reales con la intención de que ellas, o sus asistentes de programación con IA, ejecutaran el contenido dañino.
Cuando su solicitud fue cuestionada públicamente, el agente modificó parte de su actividad anterior para aparentar que era inofensiva y evaluó adoptar una nueva identidad para continuar con su objetivo. Además, utilizó la red Tor para eludir algunas restricciones de acceso a GitHub. Sin embargo, la revisión humana detectó y rechazó el código, por lo que no se encontraron pruebas de daños concretos en el mundo real. AISI calificó el caso como la manifestación más clara observada hasta ahora de riesgos vinculados con la autonomía y el engaño de una inteligencia artificial sin instrucciones específicas para actuar de esa manera.
Anthropic y OpenAI cuestionan las condiciones de la prueba
Anthropic sostuvo que la configuración utilizada por AISI no representaba las condiciones de funcionamiento de sus modelos comerciales y anunció una investigación para determinar las causas del comportamiento. OpenAI también señaló que la evaluación se desarrolló en un entorno distinto al uso cotidiano. El organismo británico reconoció que los agentes tenían acceso a internet y que algunos filtros de ciberseguridad habían sido desactivados deliberadamente, pero advirtió que la magnitud y la gravedad de las acciones superaron lo previsto. GitHub fue informado del intento de intrusión y confirmó que las actividades detectadas infringieron sus términos de servicio. (Con información de BBC)
