Uma atualização na política de uso da Anthropic, anunciada nesta semana, trouxe mudanças relevantes para usuários do Claude. A desenvolvedora passou a proibir o “comportamento abusivo ou cruel” contra seus modelos de IA.

Nesse cenário, quando usuários tratarem o Claude de forma inadequada, o chatbot poderá encerrar a conversa.

A empresa deixou claro que as pessoas podem continuar criticando o sistema e expondo insatisfação com as respostas. A possibilidade de encerrar o diálogo ocorrerá em situações em que os ataques forem “persistentes e desnecessários” à tecnologia.

A Anthropic não detalhou o que considera comportamento abusivo ou cruel. A política entra em vigor em 12 de novembro.

O recurso foi apresentado pela primeira vez em agosto do ano passado, como forma de garantir o bem-estar da IA.

A medida ocorre em meio a discussões sobre a possível consciência das inteligências artificiais. Empresas do setor buscam uma superinteligência, uma etapa em que a tecnologia alcança capacidade de raciocínio igual ou superior à humana.

Na política de uso atualizada, a Anthropic afirma não ter certeza sobre o “potencial status moral do Claude ou de outros modelos de linguagem, agora ou no futuro”. Mesmo assim, está implementando recursos de segurança justamente para evitar casos desse tipo.

“Estamos trabalhando para identificar e implementar intervenções de baixo custo para mitigar os riscos ao bem-estar dos modelos, caso esse bem-estar seja possível. Permitir que os modelos encerrem ou saiam de interações potencialmente angustiantes é uma dessas intervenções”, disse a desenvolvedora em seu site.

O próprio CEO da Anthropic, Dario Amodei, já havia afirmado, ao The New York Times, que não tem certeza se a IA pode ser consciente, mas não descarta a possibilidade.

Há discordâncias. O chefe de IA da Microsoft, Mustafa Suleyman, publicou um ensaio em setembro refutando essa ideia. “As IAs não estão conscientes. Elas não sentem, não experimentam nem sofrem”, escreveu.

Fonte: CNN Brasil Economia