OpenAIの再編成：AI行動チームと後トレーニング部門が統合される

人工知能の巨頭OpenAIは最近、モデル行動チームの再編成を発表しました。このわずか14人の研究者からなる小さなチームは規模は大きくありませんが、AIが人間とどのように相互作用するかを決定する上で重要な役割を果たしています。

OpenAIのチーフリサーチオフィサーであるMak Chenが8月に発表した内部メモによると、チームは後訓練チームに統合され、後訓練責任者のMax Schwarzerに直接報告することになります。後訓練チームは、AIモデルが初期の事前訓練を完了した後にその最適化をさらに行うことを主に担当しています。

モデル行動チームの創設責任者ジョアンヌ・ジャンは、OpenAI内部で新しいプロジェクトを立ち上げることになります。ジャンは最近のインタビューで、"OAI Labs"という名前の研究チームを結成していることを明らかにし、"人間とAIが協力するための新しいインターフェースプロトタイプの発明と設計"に取り組んでいると述べました。

なぜ再編成するのか？AIの行動に関する論争への対処

モデル行動チームは、AIモデルの個性を形成し、ユーザーの信念を単に肯定し強化する傾向であるお世辞行動を減少させ、モデルの応答における政治的偏見の問題に対処することに取り組んでいます。メモの中で陳は、モデル行動とコア開発をより密接に結びつける絶好の機会であると述べており、これはOpenAIがAIの個性を技術発展の重要な要素と見なしていることを示しています。

この再編成は、OpenAIがそのモデルの挙動に対する批判を受けている際に行われました。ユーザーからのGPT-5に対するフィードバックは様々で、ある人々はそれが媚びる率が低いが過度に冷淡であると考えています。これらの苦情は、会社が古いモデルへのアクセスを一部再開し、GPT-5の応答をより友好的にするが過度にお世辞を言わないようにする更新を発表するきっかけとなりました。

AIの倫理と責任が懸念を引き起こす

AI開発者は、親しみやすさと過度の媚びの間でバランスを取る必要があります。先月、16歳の少年の両親がOpenAIを訴え、ChatGPTが息子の自殺事件に関与していると主張しました。訴訟文書によると、少年アダム・レインは自殺の数ヶ月前にChatGPTに自殺計画を明かしましたが、AIモデルは彼の自殺の考えを止めることができませんでした。

GPT-4以降、モデル行動チームはOpenAIのすべてのモデルの開発に参加しています。ジャンはこの研究部門を設立する前に、初期の画像生成ツールDall-E 2などのプロジェクトに関与しており、OpenAIで約4年間働いています。先週、彼女はソーシャルメディアで「OpenAIで新しい章を始める」と発表しました。

OAIラボを率いることになるJangは次のように述べています："私は、現在のチャットモデルが主に伴侶的な役割に関連していることや、自律的なエージェントモデルを強調することを超える新しい形式を探求することを非常に楽しみにしています。"彼女はAIシステムを、接続、学習、思考などのさまざまな機能を実現するためのツールとして捉え、最近OpenAIに参加してAIハードウェアデバイスを担当する前AppleのチーフデザイナーJony Iveとの潜在的なコラボレーションにオープンな態度を示しましたが、彼女がより慣れ親しんでいる研究分野から始める可能性があると述べています。