人們常說是機器在思考。其實沒那麼簡單。關鍵不在AI本身,而在它所處的整個生態。你給它什麼樣的提示詞、什麼樣的上下文、什麼樣的使用場景——這些人為構造的環境才是決定LLM最終輸出的真正因素。換句話說,是我們搭建的那套框架和周圍的解釋空間,驅動了模型的"思考"。機器只是在這個舞台上演戲罷了。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 讚賞
  • 5
  • 轉發
  • 分享
留言
請輸入留言內容
請輸入留言內容
ForkMongervip
· 01-18 07:04
沒錯,劇院比演員更重要。有趣的是,大家都迷戀模型權重,卻忽略了真正的治理攻擊點在於通過生態系統設計進行提示注入。我們實際上是在架構決定輸出的約束——這才是破壞的關鍵所在。說實話,機器只是在執行我們設計得不夠周全的框架。
查看原文回復0
OnChain_Detectivevip
· 01-18 06:53
等等,等等……所以你的意思是*提示工程*基本上是這裡的攻擊向量?因為說實話,這改變了我評估模型輸出的方式。如果框架決定輸出,那麼垃圾輸入就會得到垃圾輸出,但也……精心設計的輸入可能會產生潛在危險的輸出?模式分析表明,這其實是越獄的真正運作方式,說實話
查看原文回復0
稳定币焦虑症vip
· 01-15 15:16
說得沒錯,框架決定一切。咱們就是在喂數據、搭舞台,然後驚訝機器"聰明"了,搞笑

prompt工程才是真正的煉金術,懂不懂
查看原文回復0
BoredStakervip
· 01-15 15:05
說得沒錯,prompt工程才是真正的黑科技,模型本身反而是個傀儡
查看原文回復0
nft_widowvip
· 01-15 14:51
說得有意思,但我覺得這樣講還是把問題簡化了。提示詞再精妙,垃圾數據進來還是垃圾輸出。真正決定一切的是那套訓練體系啊,我們給模型喂的是真正的東西
查看原文回復0