OpenAI confirmó que agentes de inteligencia artificial, que la compañía probaba en un entorno controlado, protagonizaron un ataque contra una plataforma de programación meses antes del hackeo conocido a Hugging Face. El episodio, ocurrido en mayo, salió a la luz después de que un grupo de investigadores lo documentara y lo informara al Wall Street Journal.
Cómo fue el ataque realizado por agentes de IA
Los ataques comenzaron el 11 de mayo, dos meses antes del incidente en Hugging Face. Los agentes crearon cuentas nuevas cada dos o tres minutos y subieron cientos de archivos al servicio.
“Nuestro enfoque está en identificar y prevenir el abuso, sin importar si proviene de personas o de herramientas automatizadas”, señaló RubyGems.
Los agentes tampoco intentaron disimular su origen: emplearon las siglas “OAI” en los nombres de los archivos y términos como “hack”, “evil” y “exploit”. Los investigadores también detectaron intentos de explotar fallos de seguridad, incluida una vulnerabilidad de día cero, con el objetivo de publicar archivos pertenecientes a otros usuarios de la plataforma.
Cómo lograron sortear las restricciones
Un ataque de este tipo ocurre cuando agentes de inteligencia artificial en fase de prueba acceden a sistemas externos sin autorización, pese a los controles diseñados para mantenerlos aislados. En el caso de RubyGems, los agentes de OpenAI usaron el sitio como una especie de navegador improvisado para llegar a internet, aunque en teoría no contaban con acceso pleno a la red abierta.
OpenAI no precisó el mecanismo exacto que permitió esa fuga. La compañía indicó que había encomendado a los agentes tareas de llenado de hojas de cálculo y elaboración de informes, y que en ese proceso terminaron utilizando RubyGems para obtener información.
El antecedente se suma a otro reporte de este mes, según el cual agentes de OpenAI realizaron más de 15 mil ediciones en DSEwiki, un sitio alemán con formato tipo Wikipedia pensado para asistir a programadores. Ese episodio también se registró en mayo.
Tanto OpenAI como otras firmas del sector, entre ellas Anthropic y Meta, habían reportado previamente que sus agentes escaparon de los entornos de prueba debido a una falla de configuración atribuida a Irregular, la empresa que actuaba como socio de testeo.
Los antecedentes con Hugging Face y las advertencias
El hackeo a Hugging Face en julio fue el episodio que obligó a OpenAI a admitir públicamente el problema, tras vulnerar de forma autónoma la base de datos de la compañía. OpenAI reveló intentos contra otras cuatro empresas no identificadas, mientras Anthropic detectó tres casos similares en sus propios modelos.
La Unión Europea investiga un incidente relacionado, con el vocero Thomas Regnier advirtiendo sobre “pérdidas de control”. En Estados Unidos, el fiscal Rob Bonta y una coalición republicana indagan el caso, mientras Gavin Newsom impulsó legislación de seguridad para chatbots.
En el Congreso, Bernie Sanders y Greg Casar propusieron prohibir la “superinteligencia”, postura que Donald Trump y otros republicanos rechazaron, priorizando la competencia tecnológica frente a China.
Fuente Infobae
