Щойно я ознайомився з недавнім постом Віталіка про одну з найнебезпечніших історій у криптовалюті. Виявляється, мем-койн, якого ніхто не сприймав серйозно, фінансував операцію з політики штучного інтелекту на мільярд доларів, і тепер він публічно ставить під сумнів, як використовуються ці гроші.

Ось історія походження: у 2021 році творці Shiba Inu буквально аірдропнули величезний шматок токенів SHIB у гаманець Віталіка без дозволу. Хід був очевидним — додати у маркетингові матеріали "Віталік володіє половиною нашого запасу" і скористатися ажіотажем. І це дійсно спрацювало. Ці токени виросли до понад $1 мільярдів у балансовій вартості. Диво.

Бутерін хотів швидко вийти. Він описав цей процес як хаотичний — дзвонив своєй свекрусі в Канаді, щоб прочитати 78-значні числа з його шафи, щоб міг продати до того, як бульбашка лусне. Йому вдалося продати частину за ETH і пожертвувати $50 мільйонів у GiveWell. Але у нього залишилися гори SHIB.

Тому він розділив решту. Половина пішла на CryptoRelief для медичної інфраструктури в Індії та його власних досліджень. Інша половина — на Інститут майбутнього життя (Future of Life Institute), організацію, яка працює над екзистенційними ризиками від ШІ, біотехнологій і ядерної зброї. Він думав, що вони зможуть отримати близько $10-25 мільйонів, враховуючи низьку ліквідність SHIB. Замість цього FLI ліквідував приблизно $500 мільйонів. CryptoRelief зробив подібні цифри.

Той самий мем-койн, якого ніхто не сприймав серйозно, створив благодійний захід на мільярд доларів. Але тут починається цікаве.

FLI потім різко змінив курс. Вони відійшли від своєї початкової широкої стратегії щодо екзистенційних ризиків до агресивної політичної та культурної кампанії щодо ШІ. Основна турбота Віталіка: масштабна скоординована політична дія з величезними фінансовими ресурсами легко призводить до непередбачених наслідків, backlash-ів і рішень, що стають авторитарними і крихкими, навіть якщо це не було їхньою початковою метою.

Він вказав на конкретні проблеми. Підхід FLI до біобезпеки базується на вбудовуванні обмежувальних рамок у моделі ШІ, щоб відмовити у небезпечних виходах — але це "дуже крихко". Відкриття, тонке налаштування, обходи — все це легко обійти. Якщо розвивати цю логіку достатньо далеко, можна отримати "заборонити відкритий код ШІ" і "підтримати одну хорошу компанію ШІ для встановлення глобального домінування". Така стратегія обертається проти них.

Він також зазначив структурний недолік: коли уряди обмежують небезпечні технології, організації національної безпеки звільняються від обмежень, і ці ж організації часто є частиною ризику самі по собі. Приклад — програми витоку з урядових лабораторій.

Разом з тим, Віталік похвалив деякі недавні роботи FLI — зокрема декларацію "промо-людського ШІ", яка об’єднала консерваторів, прогресивних, лібертаріанців і різні регіони. І він визнав їхні дослідження щодо запобігання концентрації влади у ШІ.

Але головне послання є ясним. Непланове пожертвування від токенів, яких він ніколи не хотів, фінансувало організацію, яка відійшла від його переконань і тепер витрачає сотні мільйонів у спосіб, що викликає у нього дискомфорт.

Що мене вразило — це ширший урок. Мем-койн випадково став політичним резервом. І тепер ми спостерігаємо за реальним напруженням між швидким розвитком ШІ, фінансуванням, політичною стратегією і механізмами, які можуть запобігти концентрації влади. Історія з токеном Shiba майже абсурдна, поки не зрозумієш, що це також кейс-стаді того, як працюють непередбачені наслідки у масштабі.

Віталік кілька разів приватно ділився своїми занепокоєннями з FLI перед тим, як зробити їх публічно. Варто слідкувати за розвитком цієї ситуації.