Anthropic reconoce que Claude AI cometió errores de citación en documentos legales.

Según un informe de TheVerge del 16 de mayo, Anthropic ha respondido a los errores de citación causados por su asistente de IA Claude en documentos legales, calificándolos de “errores embarazosos y no intencionales”, y no de invenciones deliberadas. En una demanda de derechos de autor contra un editor musical, un documento presentado por la científica de datos de Anthropic, Olivia Chen, el 30 de abril, contenía citas erróneas, que fueron acusadas por los abogados de Universal Music Group (UMG) de ser “completamente fabricadas”.

Ivana Dukanovic, abogada de Anthropic, declaró en una respuesta presentada el jueves que, aunque la fuente cuestionada existía, Claude agregó títulos y autores incorrectos al formatear las citas legales. A pesar de que la empresa realizó una “verificación manual de citas” y corrigió los números de volumen y las páginas erróneas, estos errores de redacción no fueron detectados.