人工智能巨头呼吁暂停AGI开发，全球舆论支持监管

人工智能领域的杰出人物杰弗里·辛顿（Geoffrey Hinton）和约书亚·本吉奥（Yoshua Bengio），以及数百名科学家、科技高管、艺术家和政治家，已发出声明，呼吁暂停人工通用智能(AGI)的开发。他们认为，AGI可能对人类构成严重威胁，应该在确保安全、可控性和社会共识之前禁止其开发。

该声明于10月22日在非营利组织未来生活研究所的网站上发布。它强调“在没有广泛的科学共识和公众支持的情况下，应禁止超级智能的发展。”

这一警告在最近的民意调查中得到了呼应。一项对2000名美国成年人的调查发现，64%的人支持推迟或完全禁止超人类人工智能的发展，显示出公众对该技术的深刻焦虑。

去年因其人工智能研究获得诺贝尔物理学奖的辛顿，开发了对神经网络学习至关重要的反向传播算法。与辛顿共同获得图灵奖的本吉奥，开创了嵌入技术和注意机制，这些都是当今大型语言模型的基础。

该声明还得到了其他4位诺贝尔奖得主、众多著名教授、苹果联合创始人史蒂夫·沃兹尼亚克，以及哈里王子、梅根·马克尔和理查德·布兰森等人物的签署，表明AGI监管呼声在社会中的传播。

值得注意的是，OpenAI 和 Anthropic 的两名现任员工也签署了文件，尽管这可能会影响他们公司在 AGI 发展战略上的决策。

这跟2022年6月的一封公开信有关，信中领先的人工智能实验室的前员工和现任员工呼吁企业在人工智能风险方面提高透明度和问责制。

世界知名研究人员和社会领袖统一发声，呼吁停止AGI的发展，这凸显了对先发制人控制和社会验证的日益重要性，而不是无条件的技术进步。随着人工智能在日常生活和工业中的影响不断扩大，人类必须建立以权利和安全为中心的新发展标准。