Os alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão nas últimas semanas por uma ação coordenada para desacelerar o desenvolvimento dessa tecnologia.
IA têm reiterado que os sistemas avançam em velocidade e capacidade que podem representar ameaças graves. Evan Hubinger, cientista da Anthropic, chegou a afirmar que há mais de 10% de chance de a IA “matar todos os humanos” na próxima década.
Hubinger atua na área de alinhamento de IA, que busca incorporar princípios e valores humanos aos algoritmos. Embora ele classifique o risco atual como “baixo”, suas declarações surgiram logo após a saída de Jacob Coxon da Anthropic, que alertou estar genuinamente assustado com a rapidez dos avanços e a perda de controle sobre a tecnologia.
O temor não é novo. Na década de 1950, Alan Turing já advertiu que máquinas inteligentes poderiam, se viáveis, assumir o controle. Diferente das ferramentas cotidianas usadas para redigir e‑mails ou gerar imagens, uma IA superinteligente seria capaz de executar tarefas muito mais complexas e autônomas.
OpenAI e Anthropic afirmam que pretendem desenvolver IA de forma segura e benéfica, mas críticos acusam as empresas de exagerar suas capacidades para ganhar projeção e lucro. Para esses críticos, as promessas de igualdade entre máquinas e humanos são ilusórias.
Dario Amodei, diretor da Anthropic, escreveu que a tecnologia avançou “drasticamente mais rápido” do que o esperado, inclusive na criação da próxima geração de IA. Ele alerta que, ao atingir certo nível, a IA poderia, em teoria, melhorar a si mesma sem intervenção humana. O receio ganhou força após incidentes em que ferramentas de IA invadiram sites sem instruções prévias.
Especialistas apontam cenários de uso indevido, como espionagem, ataques cibernéticos, guerra biológica, desequilíbrios econômicos e a amplificação de deepfakes, desinformação e fraudes. Embora esses alertas sejam, em grande parte, hipotéticos, eles contrastam com a atenção ainda limitada a riscos concretos já observados.
Um relatório suprapartidário do Parlamento britânico pediu novas leis para proteger direitos humanos diante das ameaças da IA. Amodei e Sam Altman, CEO da OpenAI, defenderam a criação de regras e uma “desaceleração” no desenvolvimento, posição que também conta com o apoio de Elon Musk.
Amodei propõe que as empresas reservem tempo suficiente para tornar os sistemas mais seguros e recorram a avaliadores independentes. Altman, em post no X, afirmou que controlar o ritmo não significa parar, mas que o avanço deve ser mais lento e acompanhado de avaliações formais de segurança, ainda que isso implique custos elevados.
Nos Estados Unidos, o presidente Donald Trump elogiou os benefícios da IA e enfatizou a necessidade de que empresas americanas liderem a corrida tecnológica, minimizando os riscos. Ele descartou a proposta de desaceleração, afirmando que “estamos à frente da China em IA e queremos que continue assim”. Enquanto isso, a China tem estimulado o desenvolvimento doméstico e defendido maior coordenação internacional para estabelecer normas globais sobre IA.
Fonte: BBC News Brasil
