Baru saja membaca sesuatu yang benar-benar memberi perspektif tentang betapa liar dunia kripto bisa menjadi. Jadi Vitalik Buterin dikirimi tumpukan besar token SHIB pada tahun 2021 yang sebenarnya tidak dia minta. Pembuat Shiba Inu hanya menjatuhkannya padanya dengan harapan asosiasi tersebut akan meningkatkan nilai koin mereka. Masalahnya, token-token ini akhirnya bernilai lebih dari satu miliar dolar, dan Vitalik harus mencari cara untuk mencairkannya sebelum kejatuhan yang tak terelakkan.

Logistiknya saja sudah lucu. Dia benar-benar harus menelepon ibu tiri di Kanada dan memintanya membaca angka 78 digit dari lemari pakaiannya agar dia bisa menggabungkannya dengan angka lain dari ranselnya. Inilah yang terjadi ketika kamu memegang nilai sebanyak itu dan mencoba benar-benar keluar. Dia berhasil menjual beberapa untuk ETH dan menyumbangkan $50 juta ke GiveWell, yang cukup bagus. Tapi masih ada begitu banyak SHIB yang tersisa.

Jadi dia membagi sisanya. Setengahnya disalurkan ke CryptoRelief untuk infrastruktur medis di India dan penelitiannya sendiri. Setengah lainnya disalurkan ke Future of Life Institute, yang fokus pada risiko eksistensial dari AI, bioteknologi, dan senjata nuklir. Di sinilah bagian yang menarik. Vitalik pikir FLI akan mencairkan mungkin $10 sampai $25 juta mengingat likuiditas SHIB yang sangat tipis. Mereka sebenarnya berhasil mencairkan sekitar $500 juta dari bagian mereka.

Tapi kemudian FLI melakukan sesuatu yang jelas mengganggu Vitalik. Mereka beralih secara keras ke kampanye politik dan budaya yang agresif tentang AI alih-alih tetap pada peta jalan yang berfokus pada riset awal. Menurut Vitalik, pembenaran FLI adalah bahwa AGI berkembang begitu cepat sehingga mereka perlu bergerak agresif untuk melawan anggaran lobi dari perusahaan AI besar. Kekhawatiran Vitalik adalah bahwa aksi politik terkoordinasi skala besar dengan dana besar cenderung berbalik. Dia khawatir hal itu menyebabkan hasil yang tidak diinginkan, reaksi balik, dan akhirnya menjadi otoriter sekaligus rapuh meskipun itu bukan niat awalnya.

Dia menunjukkan masalah spesifik dengan pendekatan biosafety mereka, yang berfokus pada menyematkan pengaman ke dalam model AI agar mereka menolak menghasilkan output berbahaya. Vitalik menyebut ini rapuh karena jailbreak dan penyempurnaan membuat pembatasan tersebut mudah dilanggar. Dia khawatir logika ini akhirnya akan mengarah pada pelarangan AI sumber terbuka dan mendukung satu perusahaan yang disetujui untuk membangun dominasi global, yang menurutnya akan menjadikan dunia lain sebagai musuh.

Ada juga masalah struktural dengan strategi yang mengutamakan regulasi, yang disoroti Vitalik. Ketika pemerintah membatasi teknologi berbahaya, organisasi keamanan nasional mendapatkan pengecualian, dan organisasi yang sama sering kali menjadi bagian dari risiko itu sendiri. Ini adalah jebakan yang sebenarnya tidak menyelesaikan masalah mendasar.

Namun demikian, Vitalik menyebut dia terinspirasi oleh beberapa karya terbaru FLI, seperti deklarasi AI pro-manusia mereka yang tampaknya menyatukan konservatif, progresif, libertarian, dan berbagai negara. Mereka juga meneliti masalah konsentrasi kekuasaan dari AI. Tapi pesan inti yang jelas: sumbangan yang tidak pernah diinginkan Vitalik akhirnya mendanai organisasi yang menjalankan strategi yang membuatnya tidak nyaman, dan mereka mengerahkan ratusan juta dolar dengan cara yang sekarang dia pertanyakan secara terbuka. Dia tampaknya telah menyampaikan kekhawatirannya langsung ke FLI sebelum mempublikasikan posting ini.