Avez-vous déjà remarqué à quel point les gens aiment blâmer les réponses étranges de l'IA sur les sources de données d'entraînement ?

Hier, j'ai montré à un ami ce que Opus 4 a généré dans une conversation. La première chose qu'il a dite ? « Quel ensemble de données ont-ils utilisé pour ça ? Parce qu'il n'y a clairement rien comme... »

La phrase s'est simplement arrêtée. Cette pause en disait long — parfois, ces modèles produisent des choses qui ne correspondent à aucun schéma d'entraînement évident. Cela pousse à se demander ce qui se passe réellement en coulisses lorsqu'ils génèrent du texte.