AI Devi Büyükleri AGI Gelişimini Durdurma Çağrısında Bulundu, Küresel Kamuoyu Düzenlemeyi Destekliyor

Yapay zeka önde gelen isimleri Geoffrey Hinton ve Yoshua Bengio, yüzlerce bilim insanı, teknoloji yöneticisi, sanatçı ve politikacı ile birlikte, genel yapay zekanın (AGI) geliştirilmesine ara verilmesi çağrısında bulunan bir açıklama yaptılar. AGI'nin insanlık için ciddi bir tehdit oluşturabileceğini ve güvenlik, kontrol edilebilirlik ve sosyal konsensüs sağlanana kadar yasaklanması gerektiğini savunuyorlar.

Açıklama, 22 Ekim'de kar amacı gütmeyen Gelecek için Hayat Enstitüsü'nün web sitesi aracılığıyla yayınlandı. “Süper zekanın geliştirilmesi, geniş bir bilimsel konsensüs ve kamu desteği olmadan yasaklanmalıdır” vurgusunu yapmaktadır.

Bu uyarı son anketlerde yankılanıyor. 2.000 ABD yetişkininin katıldığı bir ankette, %64'ün süper insan AI'nın geliştirilmesinin ertelenmesini veya tamamen yasaklanmasını desteklediği ortaya çıktı ve bu teknoloji hakkında derin bir kamu kaygısını ortaya koydu.

Hinton, geçen yıl AI araştırmaları için Nobel Fizik Ödülü'nü kazanan, sinir ağı öğrenimi için kritik olan geri yayılım algoritmasını geliştirdi. Hinton ile Turing Ödülü'nü paylaşan Bengio, günümüzün büyük dil modellerinin temeli olan gömme teknikleri ve dikkat mekanizmalarını öncülüğünü yaptı.

Açıklama, 4 başka Nobel ödüllüsü, birçok önde gelen profesör, Apple'ın kurucu ortağı Steve Wozniak ve Prens Harry, Meghan Markle ve Richard Branson gibi isimler tarafından da imzalandı; bu da AGI düzenlemesi çağrılarının toplumda yaygınlaştığını gösteriyor.

Özellikle, OpenAI ve Anthropic'in iki mevcut çalışanı da imza attı, bu durumun şirketlerinin AGI geliştirme stratejileri üzerinde potansiyel etkileri olmasına rağmen.

Bu, Haziran 2022'de, önde gelen AI laboratuvarlarının eski ve mevcut çalışanlarının AI riskleriyle ilgili daha fazla kurumsal şeffaflık ve hesap verebilirlik çağrısında bulunduğu bir açık mektubu takip ediyor.

Dünya çapında tanınmış araştırmacılar ve toplumsal liderlerin AGI geliştirilmesine son verme çağrısının birleşik sesi, koşulsuz teknolojik ilerleme üzerinde önleyici kontrol ve sosyal doğrulamanın artan önemini vurgulamaktadır. Yapay zekanın günlük yaşam ve sanayi üzerindeki etkisi genişledikçe, insanlığın haklar ve güvenlik etrafında yeni geliştirme standartları oluşturması gerekmektedir.