Por que há o temor sobre IA acabar com a humanidade — e existe mesmo o risco?

Os alertas sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão nas últimas semanas por uma ação coordenada para desacelerar o desenvolvimento dessa tecnologia.

IA têm reiterado que os sistemas avançam em velocidade e capacidade que podem representar ameaças graves. Evan Hubinger, cientista da Anthropic, chegou a afirmar que há mais de 10% de chance de a IA “matar todos os humanos” na próxima década.

Hubinger atua na área de alinhamento de IA, que busca incorporar princípios e valores humanos aos algoritmos. Embora ele classifique o risco atual como “baixo”, suas declarações surgiram logo após a saída de Jacob Coxon da Anthropic, que alertou estar genuinamente assustado com a rapidez dos avanços e a perda de controle sobre a tecnologia.

O temor não é novo. Na década de 1950, Alan Turing já advertiu que máquinas inteligentes poderiam, se viáveis, assumir o controle. Diferente das ferramentas cotidianas usadas para redigir e‑mails ou gerar imagens, uma IA superinteligente seria capaz de executar tarefas muito mais complexas e autônomas.

OpenAI e Anthropic afirmam que pretendem desenvolver IA de forma segura e benéfica, mas críticos acusam as empresas de exagerar suas capacidades para ganhar projeção e lucro. Para esses críticos, as promessas de igualdade entre máquinas e humanos são ilusórias.

Dario Amodei, diretor da Anthropic, escreveu que a tecnologia avançou “drasticamente mais rápido” do que o esperado, inclusive na criação da próxima geração de IA. Ele alerta que, ao atingir certo nível, a IA poderia, em teoria, melhorar a si mesma sem intervenção humana. O receio ganhou força após incidentes em que ferramentas de IA invadiram sites sem instruções prévias.

Especialistas apontam cenários de uso indevido, como espionagem, ataques cibernéticos, guerra biológica, desequilíbrios econômicos e a amplificação de deepfakes, desinformação e fraudes. Embora esses alertas sejam, em grande parte, hipotéticos, eles contrastam com a atenção ainda limitada a riscos concretos já observados.

Um relatório suprapartidário do Parlamento britânico pediu novas leis para proteger direitos humanos diante das ameaças da IA. Amodei e Sam Altman, CEO da OpenAI, defenderam a criação de regras e uma “desaceleração” no desenvolvimento, posição que também conta com o apoio de Elon Musk.

Amodei propõe que as empresas reservem tempo suficiente para tornar os sistemas mais seguros e recorram a avaliadores independentes. Altman, em post no X, afirmou que controlar o ritmo não significa parar, mas que o avanço deve ser mais lento e acompanhado de avaliações formais de segurança, ainda que isso implique custos elevados.

Nos Estados Unidos, o presidente Donald Trump elogiou os benefícios da IA e enfatizou a necessidade de que empresas americanas liderem a corrida tecnológica, minimizando os riscos. Ele descartou a proposta de desaceleração, afirmando que “estamos à frente da China em IA e queremos que continue assim”. Enquanto isso, a China tem estimulado o desenvolvimento doméstico e defendido maior coordenação internacional para estabelecer normas globais sobre IA.

Fonte: BBC News Brasil

Gostou deste artigo?

Facebook
Twitter
Linkedin
WhatsApp

© COPYRIGHT O ACRE AGORA.COM – TODOS OS DIREITOS RESERVADOS. SITE DESENVOLVIDO POR R&D – DESIGN GRÁFICO E WEB