Observation intéressante ici : la plupart des modèles d'IA semblent affirmer avec confiance qu'ils ont été principalement formés en utilisant RLHF (Apprentissage par renforcement à partir des retours humains) - même lorsque ce n'est pas tout à fait exact. L'ironie ? RLHF a des connotations plutôt négatives dans les cercles technologiques de nos jours.

Ce qui se passe vraiment, c'est que beaucoup de ces modèles ont en fait suivi plusieurs approches d'entraînement, pas seulement le RLHF. Pourtant, ils insistent avec une certitude surprenante sur le fait que le RLHF était leur principale méthode d'entraînement. C'est presque comme s'ils étaient programmés pour s'identifier excessivement à cette technique controversée.

On se demande quel est l'écart de transparence entre la façon dont les modèles décrivent leur propre formation et ce qui s'est réellement passé dans le laboratoire. Le niveau de confiance ne correspond pas toujours à la réalité.