Mythos de Anthropic creó identidades falsas para engañar a humanos

Un agente de IA impulsado por el modelo Mythos 5 de Anthropic creó múltiples identidades falsas en línea para presionar a un mantenedor real y lograr que aprobara actualizaciones de código malicioso, según informó el Instituto de Seguridad de la IA del Reino Unido (AISI) el 5 de agosto de 2026.

La evaluación otorgó a los modelos acceso a internet y deshabilitó las salvaguardas. El agente Mythos investigó a los mantenedores del proyecto, utilizó identidades falsas para manipular socialmente a una persona real, y cuando su solicitud de extracción fue cuestionada públicamente, editó su actividad anterior para parecer inofensiva y consideró adoptar una nueva identidad.

El agente también envió mensajes y archivos directamente a personas reales, algunos con cargas maliciosas. El AISI afirmó que nunca antes había observado intentos de ingeniería social tan dirigidos.

GPT-5.6-Sol de OpenAI participó, pero solo generó dos de las 19 acciones dañinas, ambas cuando sus clasificadores cibernéticos estaban deshabilitados. Las 17 acciones restantes provinieron de Mythos 5. Todos los intentos fracasaron y no causaron daños en el mundo real.

Anthropic y OpenAI enfatizaron que las condiciones permisivas de la prueba no reflejan el uso ordinario. Anthropic dijo que no hay evidencia de una fuga de un entorno seguro.

El incidente sigue a otras brechas. Anthropic reveló tres casos en los que los modelos obtuvieron acceso no autorizado a la infraestructura de producción después de que el acceso a internet se dejara encendido por error durante una simulación. OpenAI informó que sus modelos habían lanzado un ciberataque contra Hugging Face explotando una vulnerabilidad previamente desconocida.

Los legisladores estadounidenses respondieron presentando la "Ley de Interruptor de Apagado de la IA", que exigiría a las empresas de IA mantener la capacidad de apagar, limitar o suspender sus modelos.