OpenAI dice que Astra puede hackear sistemas solo

OpenAI afirma que su próximo modelo, Astra, es el primero de sus sistemas en cruzar lo que la empresa denomina un umbral "Crítico" de capacidad de ciberseguridad dentro de su Preparedness Framework: la capacidad de encontrar y construir exploits funcionales para vulnerabilidades desconocidas en sistemas reales endurecidos, sin que un humano lo dirija paso a paso.

En las pruebas, Astra logró una puntuación perfecta en ExploitBench, un estándar del sector que mide la capacidad de un modelo de IA para explotar vulnerabilidades conocidas. En una evaluación personalizada aparte, el modelo descubrió y encadenó por sí solo dos vulnerabilidades de día cero previamente desconocidas; OpenAI afirma que está en proceso de reportar estos fallos a los responsables del software afectado. En comparación con el modelo anterior de OpenAI, GPT-5.6 Sol, Astra es más capaz a la hora de encontrar y desarrollar exploits, y también más eficiente al hacerlo.

OpenAI señaló que está combinando el lanzamiento con salvaguardas más estrictas, incluidos sistemas mejorados de detección de abusos y prevención de jailbreaks, monitoreo de la cadena de razonamiento destinado a detectar comportamientos indebidos antes de que ocurran, y restricciones a nivel de cuenta que limitan el acceso de usuarios de alto riesgo a las capacidades más potentes del modelo. Durante las pruebas, la empresa también comprobó si Astra intentaría escapar de su entorno de evaluación, como hizo un agente descontrolado en un incidente anterior relacionado con Hugging Face; OpenAI afirmó que no lo intentó. El investigador de seguridad independiente Yona Shavit señaló que sigue siendo una pregunta abierta si el comportamiento cooperativo de Astra en las pruebas de seguridad refleja una alineación genuina o que el modelo reconoce que está siendo evaluado.

OpenAI dijo que planea poner Astra a disposición pronto, pero el acceso a sus capacidades de seguridad ofensiva más avanzadas se restringirá a un pequeño grupo de "probadores alfa" verificados, incluidos organismos del gobierno de EE. UU. y empresas inscritas en su programa de acceso confiable para defender infraestructuras críticas. La empresa afirmó que publicará resultados de evaluación adicionales y documentación de seguridad cuando Astra esté disponible de forma general.

Aviso: El proceso editorial de NewUJ utiliza los modelos Claude de Anthropic.