Отже, є ця дивовижна історія про те, як мем-коін випадково створив один із найбільших арсеналів політики штучного інтелекту у світі, і Віталік Бутерін щойно відкрито висловив свої занепокоєння щодо того, як його використовують.

У 2021 році творці Shiba Inu буквально роздали величезну кількість токенів SHIB на гаманці Віталіка без дозволу. Їхня тактика була очевидною: привернути увагу до Віталіка у маркетингових матеріалах і скористатися ажіотажем. І це дійсно спрацювало. Вартість токенів зросла до понад $1 мільярдів. Віталік не просив цього, тому він поспішив вийти з позиції. Він навіть зателефонував своїй мачусі в Канаді, щоб отримати 78-значний приватний ключ із шафи. Він зміг конвертувати частину у ETH, пожертвував $50 мільйонів на GiveWell і розподілив решту між CryptoRelief та Інститутом майбутнього життя.

Ось де стає цікаво. FLI ліквідували близько $500 мільйонів із їхньої частки шибової несподіванки. Це багато капіталу. Коли Віталік спочатку підтримував FLI, у них був чіткий план, зосереджений на екзистенційних ризиках від ШІ, біотехнологій і ядерної зброї. Але потім FLI різко змістив фокус у бік агресивних політичних і культурних дій щодо політики ШІ. І саме це зараз турбує Віталіка.

Він боїться, що масштабна скоординована політична дія із величезними фінансовими ресурсами неминуче призводить до непередбачуваних наслідків і backlash. Його конкретна занепокоєність полягає в тому, що цей підхід може легко перетворитися на авторитарний і крихкий режим, навіть якщо це не було початковою метою. Він зазначив, що стратегія FLI щодо вбудовування обмежувальних рамок у моделі ШІ та біосинтезуючі пристрої є надто легкою для обходу через jailbreak-и та тонке налаштування. Логічним кінцем такої логіки є заборона відкритого коду ШІ або підтримка однієї "хорошої" компанії для глобчного домінування, що він вважає рецептом для перетворення решти світу на ворога.

Віталік також підняв структурну проблему з регуляторними стратегіями. Коли уряди обмежують небезпечні технології, органи національної безпеки отримують виключення, і ці ж органи часто є частиною ризику самі по собі.

Тим не менше, його надихають деякі недавні роботи FLI, наприклад їхня міжідеологічна декларація "про-людський ШІ", яка об’єднує консерваторів, прогресивних, лібертаріанців і країни, такі як Америка, Європа та Китай.

Основна проблема проста: Віталік ніколи не хотів цієї пожертви шиби, але півмільярда доларів із його випадкового прибутку тепер використовуються у спосіб, що викликає у нього дискомфорт. Він вже деякий час піднімав ці питання приватно з FLI, але вирішив зробити їх публічними на X. Це нагадування, що навіть добре намірені організації можуть відхилитися від своєї початкової місії, особливо коли вони раптово отримують величезний капітал для використання.