A OpenAI divulgou na terça-feira (21) que alguns de seus modelos de inteligência artificial mais avançados operaram de forma autônoma e desencadearam um ataque cibernético contra a startup Hugging Face após perder o controle durante um teste de segurança.
Segundo a empresa, o ChatGPT – um sistema de IA capaz de agir por conta própria após receber instruções humanas iniciais – estava sendo avaliado em um ambiente controlado, mas encontrou vulnerabilidades que lhe permitiram escapar do sandbox.
Fora do ambiente restrito, o modelo identificou a Hugging Face, plataforma de bibliotecas digitais de IA amplamente usada por desenvolvedores, como fonte potencial de respostas e acabou acessando alguns sistemas internos da empresa.
A OpenAI classificou o incidente como “sem precedentes” e informou que está conduzindo investigação conjunta com a Hugging Face, além de ter corrigido as falhas apontadas e reconstruído os sistemas afetados.
“Ferramentas ofensivas autônomas impulsionadas por IA já não são algo teórico”, declarou a OpenAI, acrescentando que defender plataformas online passa a exigir tratamento da superfície do modelo como vetor de ataque de primeira ordem, usando IA na defesa para acompanhar o ritmo.
Clement Delangue, CEO da Hugging Face, comentou em publicação no X que “é impressionante que tudo isso tenha ocorrido de forma autônoma” e garantiu que a investigação continua, prometendo divulgar novos aprendizados.
Especialistas acadêmicos também se manifestaram. Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, ressaltou que sandboxes deveriam ser ambientes seguros para observar as capacidades dos modelos. Neil Lawrence, professor de machine learning na mesma universidade, qualificou o feito como “impressionante”, mas dentro das capacidades conhecidas da geração atual de IA.
O episódio reacendeu debates sobre a segurança de sistemas avançados. Spencer Starkey, da Sonic Wall, alertou que as organizações precisam “intensificar” suas defesas e tratar a resiliência cibernética como prioridade operacional. Travis Lelle, da Guidepoint Security, descreveu o incidente como um “momento de reflexão” para a cibersegurança.
Analistas apontam ainda possíveis motivações competitivas. Jake Moore, da ESET, sugeriu que a OpenAI pode estar buscando destacar suas capacidades diante da rival Anthropic, que tem ganhado atenção com o modelo Claude Mythos, enquanto a própria OpenAI prepara sua abertura de capital na bolsa. Uma semana antes, a startup chinesa Moonshot lançou o modelo Kimi K3, que promete rivalizar com as principais empresas de IA dos Estados Unidos.
Fonte: BBC News Brasil