A Anthropic reconheceu que o Claude AI cometeu um erro de citação em documentos legais.

De acordo com a mensagem da Deep Tide TechFlow, em 16 de maio, o The Verge relatou que a Anthropic respondeu aos erros de citação causados por seu assistente de IA, Claude, em documentos legais, afirmando que se tratava de um “erro embaraçoso e não intencional”, e não uma invenção deliberada. No processo de direitos autorais com a editora de música, documentos apresentados pela cientista de dados da Anthropic, Olivia Chen, em 30 de abril, continham citações errôneas, sendo acusadas pelos advogados do Universal Music Group (UMG) de serem “totalmente inventadas”.

A advogada da Anthropic, Ivana Dukanovic, afirmou na resposta apresentada na quinta-feira que, embora a fonte em questão realmente exista, Claude adicionou erros ao título e às informações do autor ao formatar as citações legais. Embora a empresa tenha realizado uma “verificação manual de citações” e corrigido os números de volume e as páginas incorretas, esses erros de redação não foram detectados.