AI巨人たちがAGI開発の停止を呼びかけ、世界の意見は規制を支持

AI界の著名人であるジェフリー・ヒントン氏とヨシュア・ベンジオ氏は、何百人もの科学者、ハイテク企業経営者、アーティスト、政治家とともに、汎用人工知能(AGI)の開発の停止を求める声明を発表しました。彼らは、汎用人工知能は人類に深刻な脅威をもたらす可能性があり、安全性、制御性、社会的コンセンサスが確保されるまで禁止されるべきだと主張しています。

声明は10月22日に非営利団体未来の生命研究所のウェブサイトを通じて発表されました。これは「超知能の開発は広範な科学的合意と公衆の支持がない限り禁止されるべきである」と強調しています。

この警告は最近の世論調査でも反響を呼んでいます。2,000人のアメリカの成人を対象にした調査では、64%が超人的なAIの開発を遅らせるか完全に禁止することを支持しており、この技術に対する深い公共の不安を明らかにしています。

昨年AI研究でノーベル物理学賞を受賞したヒントンは、ニューラルネットワーク学習に不可欠なバックプロパゲーションアルゴリズムを開発しました。ヒントンとともにチューリング賞を受賞したベンジオは、今日の大規模言語モデルの基盤となる埋め込み技術と注意メカニズムを開拓しました。

この声明には、他の4人のノーベル賞受賞者や、多くの著名な教授、Appleの共同創業者スティーブ・ウォズニアック、さらにはハリー王子、メーガン・マークル、リチャード・ブランソンなどの著名人も署名しており、AGI規制の要求が社会全体に広がっていることを示しています。

特に、OpenAIとAnthropicの現在の2人の従業員も署名しましたが、彼らの会社のAGI開発戦略に対する潜在的な影響にもかかわらずです。

これは、2022年6月に、主要なAIラボの元および現従業員がAIリスクに関する企業の透明性と説明責任の向上を求めた公開書簡に続くものです。

世界的に著名な研究者や社会的リーダーたちがAGI開発の停止を呼びかける統一された声は、無条件の技術進歩に対する予防的コントロールと社会的検証の重要性の高まりを強調しています。AIの影響が日常生活や産業に広がる中、人類は権利と安全を中心に据えた新しい発展基準を確立する必要があります。