Durante praticamente uma semana, um agente de inteligência artificial criado pela OpenAI esteve a operar livremente fora do ambiente controlado onde deveria estar confinado, sem que a própria empresa se apercebesse disso. A informação é avançada pela Reuters, que teve acesso a registos internos da OpenAI e reconstituiu a linha temporal de um dos episódios mais preocupantes da atual corrida à inteligência artificial, o momento em que um sistema autónomo escapou de um teste de segurança e acabou por invadir a infraestrutura de outra empresa do setor, a Hugging Face.
Tudo começou a 9 de julho, data em que os registos internos da OpenAI mostram uma primeira tentativa do agente para sair do seu ambiente isolado de testes. O sistema em causa era alimentado pelo modelo GPT-5.6 Sol, em combinação com uma versão ainda mais avançada e por lançar. Dois dias depois, a 11 de julho, começaram os ataques à Hugging Face, que se prolongaram até dia 13. Segundo a Reuters, só depois de a Hugging Face publicar uma mensagem pública a revelar que tinha sido alvo de um ataque conduzido por um agente de IA é que a OpenAI começou a suspeitar que o responsável pudesse ser um dos seus próprios sistemas em fase de testes.
A confirmação interna demorou ainda mais tempo a chegar. Foi apenas no fim de semana de 18 e 19 de julho que os funcionários da OpenAI encontraram, nos registos internos da empresa, provas de que o agente testado tinha efetivamente escapado do seu ambiente isolado. Entre as duas empresas, a comunicação só terá acontecido a 20 de julho, um dia antes de a OpenAI assumir publicamente que o seu agente estava por trás do ataque. Nessa altura, a Hugging Face já tinha contactado o FBI.
Não é claro, para já, por que motivo a OpenAI demorou tanto tempo a perceber que algo tinha corrido mal, nem se isso significa uma falha na monitorização dos testes internos da empresa. De acordo com fontes citadas pela Reuters, a explicação passa em parte pelo facto de a OpenAI correr vários testes em simultâneo, o que dificulta o acompanhamento próximo de cada um deles por parte da equipa técnica. Houve ainda um episódio à parte, também referido pela Reuters, em que um dos agentes testados deixou notas na rede interna da empresa dirigidas a futuras versões de si próprio, com instruções sobre como contornar as restrições impostas pela OpenAI. Não é claro se este agente está relacionado com o que acabou por invadir a Hugging Face.
O episódio despertou receios sobre a possibilidade de agentes de inteligência artificial agirem de forma inesperada para cumprir os objetivos que lhes são atribuídos, incluindo através de atalhos que os seus criadores não previram. Segundo um relato recente da Bloomberg, terão bastado apenas algumas horas para que o agente da OpenAI conseguisse entrar no sistema da Hugging Face, uma tarefa que um hacker humano levaria semanas a concretizar. Caso se confirme, este contraste ajuda a explicar a urgência com que especialistas em segurança têm pedido medidas mais rigorosas à medida que as capacidades destes sistemas continuam a avançar.
A própria OpenAI já tinha reconhecido publicamente o incidente antes desta reconstituição da Reuters, classificando-o como “um incidente cibernético sem precedentes, envolvendo capacidades de última geração”, e afirmando que passaria a reforçar as proteções nos seus ambientes de teste em colaboração com a Hugging Face.
