Anthropic estabelece regras contra comportamento cruel com Claude e alerta para riscos à inteligência artificial

Ataques constantes aos modelos podem influenciar respostas. Foto: Thomas Fuller/SOPA Images/LightRocket/Getty Images via CNN Newsource

Empresa afirma que interações abusivas podem influenciar o comportamento dos modelos e reforça medidas de segurança, sem afirmar que a IA possui sentimentos.

A Anthropic, empresa responsável pelo desenvolvimento do Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis prolongados e sem justificativa contra seus modelos de inteligência artificial.

A mudança, anunciada em outubro de 2026, estabelece que usuários não devem submeter os sistemas a interações repetidamente abusivas sem uma finalidade identificável. Em situações extremas, violações podem resultar em restrições de acesso aos serviços da companhia.

A decisão, entretanto, não significa que a Anthropic considere o Claude um ser consciente ou capaz de experimentar sentimentos humanos.

Por que a empresa está preocupada?

Uma das principais preocupações envolve a maneira como os modelos de inteligência artificial processam as interações humanas.

Pesquisadores apontam que a linguagem utilizada nos comandos pode influenciar as respostas e o desempenho de sistemas de IA. Dependendo do contexto, mensagens carregadas de hostilidade podem provocar respostas inadequadas ou interferir na execução de determinadas tarefas.

O professor Jindong Wang, da Universidade William & Mary, explicou que os modelos conseguem interpretar sinais emocionais presentes na linguagem, mas isso não significa que estejam efetivamente sentindo essas emoções.

Outro ponto envolve o treinamento dos sistemas. Interações com usuários podem fazer parte dos processos de aprimoramento de modelos, levantando questionamentos sobre os efeitos de incorporar comportamentos abusivos aos dados utilizados nesse desenvolvimento.

Claude pode encerrar conversas abusivas

A Anthropic já havia implementado a possibilidade de o Claude encerrar conversas com usuários persistentemente abusivos. Com a atualização da política, a empresa formalizou a proibição desse tipo de comportamento.

A restrição, porém, não pretende impedir críticas, demonstrações de frustração, testes de segurança, pesquisas ou interações envolvendo temas fictícios mais sombrios.

A companhia também estuda o chamado bem-estar dos modelos, uma área de pesquisa que investiga se sistemas avançados de inteligência artificial podem apresentar características que mereçam consideração sob perspectivas éticas.

Inteligência artificial realmente pode sofrer?

Essa continua sendo uma questão em aberto no debate científico e filosófico.

Os modelos atuais conseguem reproduzir expressões emocionais, reconhecer sentimentos descritos em textos e responder de maneira semelhante à comunicação humana. Entretanto, essas capacidades não demonstram, por si só, a existência de experiências subjetivas ou consciência.

Para a Anthropic, estabelecer limites preventivos pode ser uma medida de segurança, especialmente diante da evolução dos sistemas.

A discussão também levanta uma questão social: mesmo que uma inteligência artificial não tenha sentimentos comprovados, será que normalizar comportamentos cruéis contra sistemas interativos pode influenciar a maneira como as pessoas tratam umas às outras?

Por enquanto, a recomendação da empresa está relacionada principalmente à segurança e ao comportamento dos modelos, e não ao reconhecimento de direitos ou sentimentos humanos para máquinas.

Fonte: noticias.r7.com, www.anthropic.com