Только что прочитал недавний пост Виталика о одной из самых диких историй в крипто. Оказывается, мем-монета, которой никто не придавал значения, в итоге профинансировала миллиардную операцию по разработке ИИ-политики, и теперь он публично задается вопросом, как эти деньги используются.

Вот история происхождения: в 2021 году создатели Shiba Inu буквально аирдропнули огромный кусок токенов SHIB на кошелек Виталика без разрешения. Игра была очевидной — вставить в маркетинговые материалы «Виталик владеет половиной наших запасов» и воспользоваться хайпом. И это действительно сработало. Эти токены выросли до более чем $1 миллиарда в балансовой стоимости. Безумие.

Бутерин хотел избавиться от них немедленно. Он описал процесс как хаотичный — звонил своей мачехе в Канаде, чтобы прочитать 78-значные номера из своего шкафа, чтобы ликвидировать активы до того, как пузырь лопнет. Ему удалось продать часть за ETH и пожертвовать $50 миллионом в GiveWell. Но у него все еще оставались горы SHIB.

Поэтому он разделил остаток. Половина пошла в CryptoRelief для медицинской инфраструктуры в Индии и на свои исследования. Другая половина — в Институт будущего жизни (Future of Life Institute), организацию, работающую над экзистенциальными рисками от ИИ, биотехнологий и ядерного оружия. Он думал, что они получат примерно $10-25 миллионов, учитывая низкую ликвидность SHIB. Вместо этого FLI ликвидировал примерно $500 миллиона. CryptoRelief сделал аналогичные операции.

Мем-токен Shiba, которому никто не придавал значения, создал событие благотворительности на миллиард долларов. Но вот где становится интересно.

Затем FLI резко изменили курс. Они перешли от своего первоначального широкого плана по управлению экзистенциальными рисками к активной политической и культурной кампании по ИИ. Виталик обеспокоен: крупномасштабные скоординированные политические действия с огромными денежными потоками легко приводят к непредвиденным последствиям, обратным эффектам и решениям, которые становятся авторитарными и хрупкими, даже если изначально этого не предполагалось.

Он указал на конкретные проблемы. Подход FLI к биобезопасности основан на внедрении ограничительных рамок в модели ИИ для отказа в опасных выводах — но это «очень хрупко». Взломы, донастройка, обходные пути делают это легко преодолимым. Если развивать эту логику достаточно далеко, можно прийти к идее «запретить открытое исходное кодирование ИИ» и «поддержать одну хорошую ИИ-компанию для установления глобального доминирования». Эта стратегия обернется провалом.

Он также отметил структурный недостаток: когда правительства ограничивают опасные технологии, организации национальной безопасности освобождаются от ограничений, а эти же организации зачастую сами являются частью риска. Пример — программы утечек в государственных лабораториях.

Тем не менее, Виталик похвалил некоторые недавние работы FLI — особенно декларацию «про-человеческий ИИ», которая объединила консерваторов, прогрессистов, либертарианцев и разные регионы. И он признал их исследования по предотвращению концентрации власти в ИИ.

Но основной посыл ясен. Незапланированное пожертвование токенов, которых он никогда не хотел, в итоге профинансировало организацию, которая отошла от его убеждений, и сейчас расходует сотни миллионов долларов в способах, вызывающих у него дискомфорт.

Что меня поразило — это более широкий урок. Мем-монета случайно стала казной для политики. И теперь мы наблюдаем за реальной борьбой между быстрым развитием ИИ, финансированием, политической стратегией и механизмами, которые могут предотвратить концентрацию власти. История с токеном Shiba кажется почти абсурдной, пока не поймешь, что это также пример того, как непредвиденные последствия работают в масштабах.

Виталик несколько раз лично делился своими опасениями с FLI до того, как выйти на публику. Стоит следить за развитием событий.