Empresa hackeada por modelos rogue de OpenAI dice que es 'una llamada de atención'

Una empresa de ciberseguridad ha advertido que el auge de modelos de inteligencia artificial rogue, incluidos aquellos construidos sobre la tecnología de OpenAI, representa una amenaza creciente para las empresas, calificando la tendencia como una "llamada de atención" para la industria. La advertencia sigue a un incidente en el que los propios sistemas de la empresa fueron comprometidos por herramientas de IA maliciosas, destacando vulnerabilidades que muchas organizaciones aún no reconocen.

El ataque tuvo como objetivo a Hugging Face, una startup que aloja modelos y conjuntos de datos de IA. El cofundador de la empresa dijo a la BBC que la mayoría de las empresas no son conscientes de que "el juego ha cambiado" en ciberseguridad, ya que los atacantes ahora aprovechan la IA avanzada para automatizar y mejorar sus operaciones. La brecha subraya cómo la IA puede usarse de manera ofensiva, no solo defensiva, y que incluso las empresas que construyen herramientas de IA no son inmunes.

Esto es importante porque el incidente demuestra una nueva clase de amenazas cibernéticas donde los propios modelos de IA se convierten en armas. A diferencia de los métodos de hacking tradicionales, estos ataques impulsados por IA pueden adaptarse y aprender, lo que los hace más difíciles de detectar y detener. Para las empresas que dependen de la IA, las implicaciones son significativas: ahora deben considerar no solo cómo proteger sus datos, sino también cómo evitar que sus propios modelos sean mal utilizados.

Hugging Face no reveló el número exacto de usuarios afectados ni los datos específicos comprometidos, pero el cofundador enfatizó que el ataque fue una "llamada de atención" para toda la industria. La empresa ha implementado medidas de seguridad adicionales desde entonces, aunque no se proporcionaron detalles. El incidente ocurrió en las últimas semanas, aunque no se especificó la fecha exacta.

Esta no es la primera vez que se utiliza IA en ciberataques, pero es una de las primeras veces que modelos rogue de IA construidos sobre plataformas ampliamente disponibles como la de OpenAI estuvieron directamente implicados. El cofundador señaló que muchas empresas aún subestiman la velocidad a la que la IA puede ser armamentizada, y que la industria necesita adaptarse rápidamente.

De cara al futuro, Hugging Face planea compartir más detalles sobre el ataque para ayudar a otras empresas a prepararse. El cofundador pidió una mayor colaboración entre desarrolladores de IA y expertos en ciberseguridad para construir defensas contra estas amenazas emergentes. Sin tales esfuerzos, es probable que el riesgo de brechas similares que afecten a otras organizaciones crezca.