人々が奇妙なAIの応答をトレーニングデータの出典のせいにするのをよく見かけませんか？

昨日、友人にOpus 4がチャットで生成したものを見せました。最初の一言は？「これに使ったデータセットは何だ？だって明らかに何も似てないから…」

その文は途中で途切れました。その一瞬の間にすべてが伝わった—時にはこれらのモデルが明らかなトレーニングパターンに一致しないものを出力することもあります。彼らがテキストを生成するときに実際に何が起きているのか、不思議に思います。