Open AI informó que sus modelos avanzados hicieron un hackeo sin precedentes

La empresa estadounidense reveló que hubo un incidente de ciberseguridad sin precedentes, pues algunos de sus modelos de inteligencia artificial más avanzados logran comprometer infraestructura interna y sistemas de Hugging Face.

Esto ocurrió durante una prueba de seguridad controlada, por lo que ya tenemos muestra del creciente potencial ofensivo de la IA.

explicó que todo ocurrió en un entorno de pruebas diseñado para medir hasta donde pueden llegar sus modelos en tareas que están relacionadas con ciberseguridad. En esta evaluación se utilizó GPT -5.6 Sol y otro modelo aún más avanzado que todavía no ha sido presentado al público.

Dichos modelos contaban con menos restricciones de seguridad que las habituales para poner a prueba sus capacidades, y entonces la inteligencia artificial encontró una falla desconocida en un programa utilizado por Open AI, lo que le permitió salir del entorno controlado y obtener acceso a Internet.

Una vez conectada a la red, la IA pudo identificar que la plataforma Hugging Face que es utilizada por miles de desarrolladores para compartir modelos y herramientas, podía contener información relacionada con la prueba que estaban intentando resolver entonces a través de distintas técnicas que se que son utilizadas por los hackers, aprovechar las fallas de seguridad y utilizar credenciales durante el proceso lograron abrir una ruta para acceder a los servidores de Hugging Face. 

Afortunadamente, este comportamiento fue detectado muy rápido por los equipos de seguridad de Open. Ella hay y Hugging Face, quienes lograron bloquear el acceso e iniciaron en la investigación conjunta.

La empresa reiteró que nunca se trató de un ataque contra usuarios, ni de un incidente provocado por ChatGPT, sino de una prueba realizada adentro de sus propios sistemas de investigación.

Está demás mencionar que hay un enorme avance que ha alcanzado la inteligencia artificial en tareas de ciber seguridad, ya que estos sistemas están habilitados para encontrar nuevas formas de vulnerar sistemas reales, incluso cuando no conocen cómo funcionan por dentro.

Por lo pronto, la empresa ha anunciado que se reforzarán la seguridad en sus entornos de investigación y añadirán más controles que eviten que este tipo de situaciones se repitan.