d/acc: Bir yılın değerlendirmesi ve geleceğe bakış

Geçen yıl, teknoloji optimizmi üzerine bir makale yazdım; bu makalede teknolojiye olan genel heyecanımı ve teknolojinin sağladığı büyük faydaları açıkladım, aynı zamanda bazı belirli sorunlara karşı temkinli bir tutum da sergiledim, özellikle süper zeki yapay zekanın yol açabileceği risklere odaklandım.

Makaledeki temel görüş, merkeziyetsiz, demokratik ve farklılaştırılmış savunma hızlandırma anlayışını benimsemektir. Hem teknolojik gelişimi hızlandırmak hem de savunma yeteneklerimizi artıran ama zarar verme yeteneğini artırmayan teknolojilere odaklanmak gerekiyor ve gücün birkaç elitin elinde toplanmasını engelleyerek, gücün dağılmasını teşvik etmeye kararlıyız.

O zamandan beri geçen bir yıl içinde, bu kavramlar ve fikirler önemli bir gelişim ve olgunlaşma sürecinden geçti. Bu fikirleri çeşitli platformlarda paylaştım ve birçok yanıt aldım, çoğu olumlu olmakla birlikte, elbette bazı eleştirel sesler de vardı.

Bu çalışma kendiliğinden devam etmekte ve somut sonuçlar elde edilmektedir: doğrulanabilir açık kaynak aşı alanında ilerlemeleri gördük; insanların sağlıklı iç hava değerine dair bilinci sürekli derinleşiyor; topluluk notları sürekli olumlu bir etki sağlıyor; tahmin pazarları bilgi aracı olarak bir atılım yılı yaşadı; sıfır bilgi kanıtları hükümet kimlik doğrulama ve sosyal medya alanlarında kullanılmaya başlandı; açık kaynak görüntüleme araçları tıp ve beyin-bilgisayar arayüzü alanlarında uygulama buldu, vb.

Geçen sonbaharda, ilk büyük d/acc etkinliğimizi karşıladık: Devcon'da düzenlenen "d/acc Keşif Günü". Etkinlik, d/acc'nin çeşitli sütun alanlarından konuşmacıları bir araya getirdi ve tam bir gün boyunca sürdü. Yıllardır bu teknolojilere adanmış olan insanlar, birbirlerinin çalışmalarını daha iyi anlıyor ve dışarıdan gelenler de bu daha büyük vizyonun farkına varıyor: Ethereum ve kripto paraların gelişimini destekleyen aynı değerlerin daha geniş bir dünyaya yayılabileceği.

d/acc'nin anlamı ve kapsamı

d/acc'in temel düşüncesi sade ve açıktır: merkeziyetsizlik, demokrasi ve farklılaştırılmış savunma hızlandırması. Saldırı ve savunma dengesini savunma lehine eğilime yönlendiren teknolojiler geliştirmek ve uygulama sürecinde daha fazla gücü merkezi otoritelere devretmemek. Bu iki yön arasında içsel bir yakın ilişki vardır: herhangi bir merkeziyetsiz, demokratik veya özgür politik yapı, savunmanın kolayca uygulanabildiği durumlarda genellikle gelişme gösterirken, savunmanın zorluklarla karşılaştığı durumlarda ciddi zorluklarla karşılaşır.

Merkeziyetsizlik, savunuculuk ve hızlandırıcılığın önemli anlamlarını aynı anda gerçekleştirmeye çalışmanın bir yolu, bunların herhangi birinden feragat etmenin ortaya çıkardığı kavramlarla karşılaştırmaktır.

Merkeziyetsizleşme hızlanıyor, ancak "farklılaştırılmış savunma" kısmı göz ardı ediliyor

Bu, etkili bir hızlandırmacı olmayı andırıyor, ancak aynı zamanda merkeziyetsizlik peşinde koşuyor. Bu şekilde hareket eden birçok insan var; bunlardan bazıları kendilerine d/acc diyor, ancak kendilerini "saldırgan" olarak tanımlamada faydalı bir şekilde odaklanıyorlar. Ayrıca, "merkeziyetsiz yapay zeka" ve benzeri konulara daha ılımlı bir coşku gösteren birçok başka insan var, ancak benim açımdan, "savunma" boyutuna olan dikkatleri belirgin şekilde yetersiz.

Bu yöntem, belirli grupların küresel insanlığa diktatörlük uygulama riskini azaltabilir, ancak potansiyel yapısal sorunları çözmede yetersiz kalmaktadır: saldırgan bir ortamda, felaketin sürekli bir risk olarak mevcut olması her zaman mümkündür ya da birisi kendisini koruyucu olarak konumlandırabilir ve kalıcı bir şekilde iktidarı ele geçirebilir. Yapay zeka açısından, insanların yapay zekaya karşı güçlerinin zayıflaması riskini de uygun bir şekilde ele alamamaktadır.

Farklılaştırılmış savunma hızlandırılır, ancak "merkeziyetsizlik ve demokrasi" göz ardı edilir

Güvenlik hedeflerine ulaşmak için merkezi kontrole tabi olmak, bazı insanlar için her zaman belirli bir çekiciliğe sahip olmuştur. Son zamanlarda, bazı insanlar aşırı merkezi kontrolün gelecekteki aşırı teknolojilere yanıt vermenin tek yolu olabileceğinden endişe duymaktadır. Ancak, merkezi kontrolün bir derece sorunu vardır. Genellikle göz ardı edilen ama yine de zararlı olan, biyoteknoloji alanında kamu denetimine karşı direniş şeklinde kendini gösteren, görece ılımlı bir merkezi kontrol biçimidir ve bu direnişin tartışmasız kalmasına izin veren kapalı kaynak standartlarıdır.

Bu yaklaşımın riski belirgin, yani merkez kendisi genellikle risk kaynağı haline gelir. Bunu COVID-19 pandemisi sırasında gördük; birçok büyük dünya hükümeti tarafından finanse edilen işlevsel kazanım araştırmaları pandeminin kaynağı olabilir. Merkezileşmiş epistemoloji, Dünya Sağlık Örgütü’nün yıllardır COVID-19 virüsünün hava yoluyla yayıldığını kabul etmesini engelledi ve zorunlu sosyal mesafe ile aşı zorunluluğu, on yıllarca sürebilecek siyasi geri tepkilere yol açtı. Karşılaştırıldığında, merkezden gelen risklere daha etkili bir şekilde yanıt verecek olan merkeziyetsiz bir yaklaşım olacaktır.

Merkeziyetsiz savunma, ama ivmeyi dışlama

Temel olarak, bu teknolojik ilerlemeyi yavaşlatma veya ekonomik bir durgunluğu teşvik etme girişimidir.

Bu strateji, iki katmanlı bir zorlukla karşı karşıyadır. Öncelikle, genel olarak, teknoloji ve ekonomik büyüme insanlık için son derece faydalıdır; bunların herhangi bir gecikmesi, ölçülemeyen maliyetler getirecektir. İkincisi, otoriter olmayan bir dünyada, duraksamak istikrarsızlığa yol açar: "hile yapan" ve gelişimi sürdürmenin makul yollarını bulabilen bireyler veya gruplar avantajlı konuma geçecektir. Yavaşlama stratejileri belirli durumlarda bir dereceye kadar işe yarayabilir, ancak bu stratejilerin sonsuza dek etkili olması mümkün değildir.

d/acc aracılığıyla, aşağıdaki hedeflere ulaşmayı taahhüt ediyoruz:

• Günümüz dünyasının giderek kabileleşme eğiliminde prensipleri korumak, sadece körü körüne çeşitli şeyler inşa etmekle kalmamak; aksine, belirli şeyler inşa etmeyi bekliyoruz, böylece dünyayı daha güvenli ve güzel hale getirebiliriz.
• Üssel teknolojik ilerlemenin, dünyanın son derece garip hale geleceğini ve insanlığın evrendeki genel "izinin" mutlaka sürekli artacağını kabul etmek. Zayıf hayvanları, bitkileri ve insanları zararlardan koruma yeteneğimizin sürekli olarak artması gerekiyor ve tek yol ileriye doğru cesurca ilerlemektir.
• Teknolojimizi gerçekten koruyabilen bir yapı inşa etmek, "iyi insanlar ( veya iyi yapay zeka ) her şeyi kontrol ediyor" varsayımına dayanmamak. Bu hedefe, inşa etmek ve korumak için doğal olarak yıkmaktan daha etkili olan araçlar inşa ederek ulaşmayı amaçlıyoruz.

d/acc'in başka bir perspektifi, 21. yüzyılın 2000'li yıllarının sonlarındaki Avrupa Pirat Partisi hareketinin bir çerçevesine geri dönmektir: güçlendirme.

Amacımız, insanın iradesini koruyan bir dünya inşa etmek, yani başkalarının, ister sıradan vatandaşlar, ister hükümetler, ister süper akıllı robotlar olsun, kendi kaderimizi şekillendirme yeteneğimize aktif müdahale etmelerini önlemek ve aynı zamanda bu yeteneği kullanmak için bilgi ve kaynaklara sahip olmamızı sağlamak gibi pasif özgürlüğü gerçekleştirmektir. Bu, yüzyıllardır süregelen klasik liberalizm geleneğini yansıtır ve "araç edinme" konusuna ve eğitimin insan ilerlemesinin temel unsurları olarak özgürlükle yan yana durmasına vurgu yapar. 21. yüzyılın teknolojik manzarası göz önüne alındığında, d/acc'yi bu aynı hedeflere ulaşmanın bir yolu olarak görebiliriz.

Üçüncü Boyut: Hayatta Kalma ve Refahın Eş Güçlendirilmesi

Geçen yılki makalemde, d/acc özellikle savunma teknolojilerine odaklandı: fiziksel savunma, biyolojik savunma, siber savunma ve bilgi savunması. Ancak, yalnızca merkeziyetsiz bir savunma büyük bir dünya inşa etmek için yeterli değildir: yeni merkeziyetsizlik ve güvenlik kazandıktan sonra insanlığın ulaşabileceği hedefleri net bir şekilde belirleyen ileri görüşlü bir olumlu vizyona da ihtiyacımız var.

Geçen yılın makalesi gerçekten iki alanda olumlu bir vizyon içeriyordu:

1. Süper zekanın zorluklarına dikkat ederken, süper zekayı nasıl güç kaybetmeden gerçekleştirebileceğimize dair bir yol önerdim:

   • Şu anda, yapay zekayı bir araç olarak inşa etmek, yüksek derecede otonom bir varlık değil.
   • Gelecekte, sanal gerçeklik, kas elektriği teknolojisi ve beyin-bilgisayar arayüzleri gibi araçlar kullanarak, yapay zeka ile insanlar arasında daha sıkı bir geri bildirim mekanizması oluşturulacak.
   • Zamanla, nihai sonuca doğru adım adım ilerlenmektedir; yani süper zeka, makinelerle insanların sıkı bir şekilde birleşiminin bir ürünüdür.

2. Bilgi savunması söz konusu olduğunda, saldırganlarla karşılaştıklarında toplulukların uyum içinde kalmalarına ve yüksek kaliteli tartışmalar yapmalarına yardımcı olmayı amaçlayan savunucu sosyal teknolojilerin yanı sıra, toplulukların yüksek kaliteli yargılar yapmalarını kolaylaştıran ilerici sosyal teknolojilerin de var olduğunu belirtmiştim.

Her alanda, belirli bir alanda "hayatta kalmamıza" yardımcı olan bilimlerin, düşüncelerin ve araçların, "refahımızı" artıran bilimler, düşünceler ve araçlarla yakından ilişkili olduğu tutarlı bir model bulunmaktadır. İşte bazı somut örnekler:

• Son zamanlarda birçok COVID-19 araştırması, virüsün vücutta sürekli varlığına odaklanmıştır ve bu, uzun COVID sorununa dair önemli bir mekanizma olarak görülmektedir. Yakın zamanda, virüsün sürekli varlığının Alzheimer hastalığının patojenik bir faktörü olabileceğine dair belirtiler de ortaya çıkmıştır - bu görüş doğrulanırsa, tüm doku türlerindeki virüs sürekli varlığı sorununu çözmek, muhtemelen yaşlanma sorununu aşmanın anahtarı olacaktır.
• Düşük maliyetli ve mikro görüntüleme araçları, mikrotromboz, virüs varlığı, kanser gibi durumların tedavisinde büyük bir potansiyele sahiptir ve aynı zamanda beyin-makine arayüzü alanında da uygulanabilir.
• Yüksek düşmanca ortamlara uygun sosyal araçlar ve makul işbirliği ortamları oluşturma fikri son derece benzerdir.
• Tahmin piyasaları, yüksek iş birliği ve yüksek rekabet ortamlarında önemli bir değere sahiptir.
• Sıfır bilgi kanıtları ve benzeri teknolojiler, verileri işlerken gizliliği koruyarak hem bilimsel araştırmalar gibi faydalı işler için kullanılabilecek veri miktarını artırmakta hem de gizlilik korumasını güçlendirmektedir.
• Güneş enerjisi ve piller, bir sonraki temiz ekonomi büyümesini teşvik etme açısından son derece önemlidir ve aynı zamanda merkeziyetsizlik ve fiziksel esneklik konusunda da mükemmel bir performans sergilemektedir.

Bunun yanı sıra, farklı disiplin alanları arasında önemli bir karşılıklı bağımlılık ilişkisi de vardır:

• Beyin-bilgisayar arayüzü, düşüncelerimizin ve niyetlerimizin daha ince bir şekilde iletilmesini sağladığı için bir bilgi savunma ve işbirliği teknolojisi olarak hayati önem taşımaktadır. Beyin-bilgisayar arayüzü yalnızca robotlar ile bilinç arasındaki bağlantı değildir: aynı zamanda bilinç-robot-bilinç etkileşimi de olabilir. Bu, çoklu kavramlar içindeki beyin-bilgisayar arayüzünün değerine karşılık gelmektedir.
• Birçok biyoteknoloji bilgi paylaşımına bağımlıdır ve birçok durumda insanlar yalnızca bilginin belirli bir uygulama için kullanılacağından emin olduklarında paylaşmaya istekli olurlar. Bu, gizlilik teknolojilerine bağımlıdır.
• İşbirliği teknolojisi, diğer herhangi bir teknoloji alanına finansman koordinasyonu için kullanılabilir.

Zorluk: Yapay Zeka Güvenliği, Acil Zaman Çizgisi ve Düzenleyici İkilem

Geçen yıl makaleme gelen en ikna edici karşıt argümanlar yapay zeka güvenlik topluluğundan geldi. Argümanları şöyleydi: "Elbette, eğer güçlü yapay zekayı geliştirmek için yarım yüzyılımız olursa, bu faydalı şeyleri inşa etmeye odaklanabiliriz. Ama aslında, görünüşe göre genel yapay zekaya ulaşmak için sadece üç yılımız, süper zekaya ulaşmak için ise üç yıl daha var. Bu nedenle, eğer dünyanın yok olmasını veya başka bir şekilde geri döndürülemez bir çıkmaza girmesini istemiyorsak, sadece faydalı teknolojilerin gelişimini hızlandırmakla kalmayıp, zararlı teknolojilerin gelişimini de yavaşlatmalıyız. Bu, güç sahiplerini kızdırabilecek güçlü düzenleyici önlemler gerektiriyor."

Eğer sorumluluk kurallarından daha "güçlü" önlemlere ihtiyaç duyduğumu kesin olarak düşünüyorsam, endüstriyel ölçekli donanım üzerinde küresel bir "yumuşak duraklatma" düğmesi stratejisini seçerim. Amaç, kritik dönemlerde küresel olarak mevcut hesaplama kapasitesini yaklaşık %90-99 oranında azaltma yeteneğine sahip olmak ve bu durumu 1-2 yıl boyunca sürdürerek insanlığa daha fazla hazırlık süresi kazandırmaktır. "Duraklatma" yönteminin keşfi devam ediyor ve donanım kaydı ve konumun doğrulanması gibi bazı somut önerileri içeriyor.

Daha gelişmiş bir yöntem, zeki kriptografi teknikleri kullanmaktır: örneğin, üretilen sanayi ölçeğinde ( ancak tüketici düzeyinde olmayan ) yapay zeka donanımları, yalnızca her hafta en azından uluslararası ana kuruluşlardan ( gelen bilgiler alındığında etkinleştirilebilen güvenilir bir donanım çipi ile donatılabilir.