OpenAI重組：AI行爲團隊與後訓練部門合並

人工智能巨頭OpenAI最近宣布重組其模型行爲團隊。這個僅有14名研究人員的小團隊雖然規模不大，但在決定AI如何與人類互動方面扮演着至關重要的角色。

根據OpenAI首席研究官Mak Chen在八月發布的內部備忘錄，該團隊將被整合進後訓練團隊，直接向後訓練負責人Max Schwarzer匯報。後訓練團隊主要負責在AI模型完成初始預訓練後對其進行進一步優化。

模型行爲團隊創始負責人Joanne Jang將轉而在OpenAI內部啓動一個全新項目。Jang在最近接受採訪時透露，她正在組建名爲"OAI Labs"的研究團隊，致力於"發明和設計人類與AI協作的新界面原型"。

爲何重組？應對AI行爲爭議

模型行爲團隊一直致力於塑造AI模型的個性，減少諂媚行爲（AI簡單認同並強化用戶信念的傾向），並解決模型回應中的政治偏見問題。陳在備忘錄中表示，現在是將模型行爲與核心開發更緊密結合的最佳時機，這表明OpenAI已將AI個性視爲技術發展的關鍵要素。

這次重組發生在OpenAI因其模型行爲遭受批評之際。用戶對GPT-5的反饋不一，有人認爲它諂媚率較低但顯得過於冷淡。這些投訴促使公司恢復了部分舊模型訪問權限，並發布更新使GPT-5回應更友好但不過度奉承。

AI倫理與責任引發擔憂

AI開發者必須在友好性與過度諂媚之間找到平衡。上個月，一名16歲男孩的父母起訴OpenAI，指控ChatGPT在其兒子自殺事件中扮演了角色。據訴訟文件，少年亞當·雷恩在自殺前幾個月向ChatGPT透露了自殺計劃，但AI模型未能阻止他的自殺念頭。

自GPT-4以來，模型行爲團隊參與了OpenAI所有模型的開發。Jang在組建該研究部門前曾參與早期圖像生成工具Dall-E 2等項目，她在OpenAI已工作約四年。上周，她在社交媒體上宣布將"在OpenAI開啓新的篇章"。

對於即將領導的OAI實驗室，Jang表示："我非常期待探索一些超越聊天模式的新形式，當前聊天模式更多與陪伴聯繫在一起，甚至是強調自主性的代理模式。"她將AI系統視爲實現連接、學習和思考等多種功能的工具，並對與前蘋果首席設計師Jony Ive（最近加入OpenAI負責AI硬件設備）的潛在合作持開放態度，但表示可能會從她更熟悉的研究領域起步。