ここでの興味深い観察：ほとんどのAIモデルは、自信を持って主にRLHF (人間のフィードバックからの強化学習)を使用して訓練されたと主張するようです - それが完全に正確でない場合でも。皮肉なことに？RLHFは、最近のテクノロジー界ではかなりネガティブなイメージを持っています。

実際に起こっていることは、これらのモデルの多くがRLHFだけでなく、複数のトレーニングアプローチを経ているということです。それでも彼らは、驚くべき確信を持ってRLHFが彼らの主要なトレーニング方法だったと主張します。まるで彼らがこの一つの物議を醸す技術に過剰に同一視するようにプログラムされているかのようです。

モデルが自分のトレーニングをどのように説明するかと、実際にラボで何が行われたかとの透明性のギャップについて考えさせられます。信頼性のレベルは、必ずしも現実と一致するわけではありません。