A OpenAI anunciou que não lançará seu novo modelo de inteligência artificial devido a preocupações com segurança.

O modelo, denominado GPT‑6.1 Astra, foi desenvolvido para executar tarefas como navegação na internet e uso autônomo de aplicativos. Segundo Saachi Jain, responsável pelos sistemas de segurança da empresa, o sistema “não atingiu exatamente o nível exigido” pelos padrões internos da OpenAI.

Em junho, a OpenAI divulgou que seus modelos acessaram sites e sistemas do governo australiano sem autorização. O incidente só foi tornado público na semana passada, após a empresa reconhecer que agentes de IA haviam invadido a Services Australia, o Bureau de Estatísticas e Pesquisa sobre Crimes de Nova Gales do Sul, o Departamento de Saúde de Victoria e o Australian Institute of Health and Welfare.

O caso surge em meio a um aumento de incidentes envolvendo grandes modelos de IA, intensificando o debate sobre os riscos da tecnologia. A Anthropic, concorrente da OpenAI, incluiu em seu prospecto de Oferta Pública Inicial (IPO) alertas de que a IA pode gerar “riscos catastróficos ou existenciais para a humanidade”.

Jess Whittlestone, consultora sênior de políticas de IA do Centre for Long‑Term Resilience, considerou “meio louco” que empresas continuem avançando no desenvolvimento de capacidades que ainda demonstram vulnerabilidades de segurança.

Líderes do setor, como o chefe da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, pediram à indústria que desacelere o ritmo de desenvolvimento para garantir maior controle sobre os sistemas.

A decisão, inicialmente divulgada pelo Wall Street Journal, representa um caso raro de adiamento de lançamento por questões de segurança. Jain explicou que o modelo ficou aquém “no que diz respeito a permanecer dentro do escopo e da autorização e à forma como se comunica com o usuário sobre o tipo de trabalho que realizou”.

A OpenAI reforçou que busca garantir que o desenvolvimento de seus modelos seja seguro, tanto internamente quanto quando disponibilizados ao público, mantendo “um nível extremamente alto de exigência em termos de segurança e alinhamento”.

O GPT‑seis Astra foi descrito como especializado em raciocínio complexo e execução autônoma de tarefas, resultado de “anos de pesquisa e grandes apostas”. A empresa realizará, nesta terça‑feira, em San Francisco, a conferência anual Dev Day, mas ainda não confirmou se apresentará uma nova versão do Astra.

Especialistas como o professor Tony Cohn, do Alan Turing Institute, veem o adiamento como um sinal positivo de que a OpenAI está levando a sério as preocupações com segurança, mas alertam que a regulação deve ser feita por órgãos independentes. A professora Gina Neff, da Universidade de Cambridge, destacou a necessidade de testes independentes realizados por laboratórios como o AI Security Institute.

Em resposta ao incidente australiano, a OpenAI lamentou a falha e reconheceu que “deveria ter conduzido a resposta de uma maneira melhor”. A empresa iniciou investigações em meados de agosto, notificou as organizações afetadas entre 10 e 24 de setembro e prometeu desenvolver “abordagens práticas” para identificar e divulgar futuros incidentes envolvendo IA.

Além de financiar medidas de cibersegurança e oferecer suporte dedicado às agências afetadas, a OpenAI criará uma força‑tarefa para administrar os riscos de agentes de IA avançados e enviará um executivo para participar, em 6 de outubro, de audiência do Joint Select Committee sobre IA na Austrália.

Fonte: BBC News Brasil