Jadi ada cerita liar tentang bagaimana sebuah koin meme secara tidak sengaja menciptakan salah satu kaset perang kebijakan AI terbesar di dunia, dan Vitalik Buterin baru saja mengungkapkan kekhawatirannya tentang bagaimana uang itu digunakan.

Pada tahun 2021, pencipta Shiba Inu secara harfiah mengirimkan airdrop dalam jumlah besar token SHIB ke dompet Vitalik tanpa izin. Strategi mereka jelas: memasukkan nama Vitalik ke dalam materi pemasaran dan mengikuti hype-nya. Tapi ternyata itu berhasil. Token tersebut melonjak nilainya menjadi lebih dari $1 miliar. Vitalik tidak meminta ini, jadi dia berusaha keluar secepat mungkin. Dia bahkan menelepon ibu tirinya di Kanada untuk mendapatkan kunci pribadi 78 digit dari lemari pakaiannya. Dia berhasil mengonversi sebanyak yang dia bisa ke ETH, menyumbangkan $50 juta ke GiveWell, dan membagi sisanya antara CryptoRelief dan Future of Life Institute.

Di sinilah bagian yang menarik. FLI menjual sekitar $500 juta dari bagian mereka dari keberuntungan shiba tersebut. Itu jumlah modal yang besar. Ketika Vitalik awalnya mendukung FLI, mereka memiliki peta jalan yang solid berfokus pada risiko eksistensial dari AI, bioteknologi, dan senjata nuklir. Tapi kemudian FLI berbelok keras ke arah aksi politik dan budaya yang agresif terkait kebijakan AI. Dan itulah yang membuat Vitalik sekarang merasa terganggu.

Dia khawatir bahwa aksi politik besar-besaran yang terkoordinasi dengan dana besar secara tak terhindarkan akan menimbulkan hasil yang tidak diinginkan dan reaksi balik. Kekhawatirannya adalah pendekatan ini bisa dengan mudah menjadi otoriter dan rapuh, meskipun itu bukan niat awalnya. Dia menunjukkan bahwa strategi FLI untuk menyematkan pengaman ke dalam model AI dan perangkat biosintesis terlalu mudah dilanggar melalui jailbreak dan penyesuaian ulang. Titik akhir logis dari pemikiran itu adalah melarang AI sumber terbuka atau mendukung satu perusahaan "baik" untuk mendominasi secara global, yang dia lihat sebagai resep untuk menjadikan seluruh dunia musuh.

Vitalik juga menyoroti masalah struktural dengan strategi yang berfokus pada regulasi. Ketika pemerintah membatasi teknologi berbahaya, organisasi keamanan nasional mendapatkan pengecualian, dan organisasi yang sama sering kali menjadi bagian dari risiko itu sendiri.

Namun demikian, dia merasa terinspirasi oleh beberapa karya terbaru FLI, seperti deklarasi "pro-manusia AI" lintas ideologi mereka yang menyatukan konservatif, progresif, libertarian, dan negara-negara seperti Amerika, Eropa, dan China.

Inti masalahnya sederhana: Vitalik sama sekali tidak menginginkan donasi shiba ini sejak awal, tetapi setengah miliar dolar dari keberuntungan tak sengaja ini sekarang digunakan dengan cara yang membuatnya tidak nyaman. Dia telah menyampaikan kekhawatiran ini secara pribadi kepada FLI selama beberapa waktu, tetapi memutuskan untuk mengungkapkannya secara terbuka di X. Ini menjadi pengingat bahwa bahkan organisasi yang berbaik hati pun bisa menyimpang dari misi awal mereka, terutama ketika mereka tiba-tiba memiliki modal besar untuk digunakan.