A Anthropic anunciou nesta quinta-feira (8) que proibirá usuários de seu assistente de IA, Claude, de “tratá-lo” com crueldade desnecessária, em meio a um crescente debate filosófico sobre a possibilidade de a inteligência artificial ser consciente.
A empresa americana atualizou sua política de uso para incluir “a proibição de comportamento contínuo e desnecessariamente abusivo ou cruel contra nossos modelos”.
“A capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação” da política, afirmou.
A política atualizada não menciona explicitamente o chamado “bem-estar dos modelos”, conceito segundo o qual sistemas de IA poderiam merecer tipos de proteção normalmente reservados a seres vivos. No entanto, a Anthropic e seus executivos já discutiram abertamente essa ideia.
A Anthropic não respondeu imediatamente a um pedido de comentário.
A empresa informou no ano passado que concedeu ao Claude a capacidade de encerrar conversas em casos raros e extremos de “interações persistentemente prejudiciais ou abusivas por parte de usuários”.
Em seguida, em fevereiro, seu CEO Dario Amodei declarou ao New York Times que não tinha certeza de que modelos de IA pudessem ser conscientes.
Para Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, questionar se a inteligência artificial é consciente pode ser a pergunta errada. “A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos”, disse Stakeman à AFP.
“O espelho é uma metáfora melhor. Esses sistemas refletem em larga escala aquilo que colocamos neles. Isso, por si só, já é motivo suficiente para a mudança de política” da Anthropic, acrescentou.
© Agence France-Presse
