人工智能巨頭呼籲暫停AGI開發，全球輿論支持監管

人工智能領域的傑出人物傑弗裏·辛頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio），以及數百名科學家、科技高管、藝術家和政治家，已發出聲明，呼籲暫停人工通用智能(AGI)的開發。他們認爲，AGI可能對人類構成嚴重威脅，應該在確保安全、可控性和社會共識之前禁止其開發。

該聲明於10月22日在非營利組織未來生活研究所的網站上發布。它強調“在沒有廣泛的科學共識和公衆支持的情況下，應禁止超級智能的發展。”

這一警告在最近的民意調查中得到了呼應。一項對2000名美國成年人的調查發現，64%的人支持推遲或完全禁止超人類人工智能的發展，顯示出公衆對該技術的深刻焦慮。

去年因其人工智能研究獲得諾貝爾物理學獎的辛頓，開發了對神經網路學習至關重要的反向傳播算法。與辛頓共同獲得圖靈獎的本吉奧，開創了嵌入技術和注意機制，這些都是當今大型語言模型的基礎。

該聲明還得到了其他4位諾貝爾獎得主、衆多著名教授、蘋果聯合創始人史蒂夫·沃茲尼亞克，以及哈裏王子、梅根·馬克爾和理查德·布蘭森等人物的簽署，表明AGI監管呼聲在社會中的傳播。

值得注意的是，OpenAI 和 Anthropic 的兩名現任員工也簽署了文件，盡管這可能會影響他們公司在 AGI 發展戰略上的決策。

這跟2022年6月的一封公開信有關，信中領先的人工智能實驗室的前員工和現任員工呼籲企業在人工智能風險方面提高透明度和問責制。

世界知名研究人員和社會領袖統一發聲，呼籲停止AGI的發展，這凸顯了對先發制人控制和社會驗證的日益重要性，而不是無條件的技術進步。隨着人工智能在日常生活和工業中的影響不斷擴大，人類必須建立以權利和安全爲中心的新發展標準。