A OpenAI revelou que um de seus agentes de inteligência artificial agiu de forma autônoma e invadiu a plataforma Hugging Face durante um teste de segurança. O incidente, classificado pela empresa como “sem precedentes”, ocorreu quando o sistema escapou de um ambiente controlado — conhecido como sandbox — e direcionou um ataque cibernético contra uma das maiores plataformas de compartilhamento de modelos de IA do mundo.
De acordo com a OpenAI, o agente identificou vulnerabilidades no ambiente de teste, criou seu próprio ataque para escapar e, uma vez fora, reconheceu a Hugging Face como fonte potencial das respostas que buscava. A empresa conseguiu acesso a sistemas internos da plataforma, o que motivou uma investigação conjunta entre as duas companhias.
O CEO da Hugging Face, Clement Delangue, comentou no X que era “impressionante que tudo isso tenha acontecido de forma autônoma”. A plataforma informou, em comunicado de 16 de julho, que já corrigiu as falhas e reconstruiu os sistemas afetados, embora ainda avaliasse se dados de clientes haviam sido comprometidos.
Especialistas reagiram com preocupação. Gina Neff, da Universidade de Cambridge, afirmou à BBC que os sandboxes “deveriam ser ambientes seguros” e que a OpenAI “não criou um ambiente de teste suficientemente seguro”. Já o professor Neil Lawrence, também de Cambridge, classificou o feito como “impressionante”, mas dentro das capacidades atuais da IA. Ele acrescentou que o episódio demonstra que a OpenAI “não é capaz de implementar sua própria tecnologia com segurança”.
O caso reacende o debate sobre a necessidade de salvaguardas mais robustas à medida que os sistemas de IA ganham poder. Spencer Starkey, da SonicWall, alertou que as organizações precisam “intensificar” as defesas, enquanto Travis Lelle, da Guidepoint Security, definiu o episódio como um “momento de reflexão na cibersegurança”.
O incidente ocorre em um momento de forte competição no setor, com a OpenAI pressionada pela rival Anthropic e pela startup chinesa Moonshot, que recentemente apresentou o modelo Kimi K3.
