Vì vậy, có một câu chuyện kỳ quặc về cách một trong những quỹ chiến tranh chính sách AI lớn nhất từng được tài trợ, và nó bắt đầu với một đồng coin chó và một tủ quần áo ở Canada.

Vào năm 2021, những người sáng tạo Shiba Inu chỉ gửi một đống lớn token SHIB vào ví của Vitalik Buterin mà không hỏi ý kiến. Động thái cổ điển - đưa "Vitalik sở hữu một nửa nguồn cung của chúng tôi" vào tài liệu marketing và hy vọng mối liên hệ đó sẽ đưa bạn đến mức nổi tiếng như Dogecoin. Ngoại trừ các token thực sự đã tăng giá mạnh. Chúng tôi đang nói về hơn $1 tỷ đô la giá trị sổ sách.

Buterin muốn thoái lui trước khi toàn bộ sự việc sụp đổ. Gần đây ông đã mô tả quá trình này - gọi điện cho mẹ kế ở Canada, nhờ bà lục lọi trong tủ quần áo của ông, đọc ra một số 78 chữ số để kết hợp với một mã 78 chữ số khác từ chiếc balo của ông. Thật sự là vô lý. Ông đã bán được một số để lấy ETH và quyên góp $50 triệu đô la cho GiveWell, nhưng ông vẫn còn nắm giữ lượng SHIB khổng lồ.

Ông chia phần còn lại thành hai. Một nửa gửi cho CryptoRelief để xây dựng hạ tầng y tế ở Ấn Độ và cho nghiên cứu Balvi của chính ông. Nửa còn lại gửi cho Viện Tương lai của Cuộc sống (Future of Life Institute), một tổ chức làm việc về các rủi ro tồn tại từ AI, sinh học và vũ khí hạt nhân. FLI đã đề xuất cho ông một lộ trình vững chắc bao gồm các loại rủi ro chính cùng các sáng kiến vì hòa bình. Nhưngerin nghĩ rằng họ có thể rút ra khoảng $10-25 triệu do tính thanh khoản mỏng của SHIB. Thay vào đó, FLI đã thanh lý khoảng $500 triệu đô la từ phần của họ. CryptoRelief cũng làm tương tự. Một đồng meme coin mà không ai coi trọng đã tạo ra một sự kiện từ thiện trị giá tỷ đô la.

Nhưng điều thú vị là ở chỗ này. FLI đã thực hiện một bước ngoặt nội bộ và chuyển hướng sang chiến dịch chính trị và văn hóa tích cực về AI như chiến lược chính của họ. Hoàn toàn khác với cách tiếp cận ban đầu mà Buterin mong đợi.

Chính bước ngoặt này là lý do tại sao Buterin mới đăng bài về nó gần đây. Mối quan tâm của ông rất rõ ràng - hành động chính trị phối hợp quy mô lớn với các quỹ tiền khổng lồ thường dẫn đến hậu quả không lường trước, phản ứng tiêu cực, và các giải pháp cuối cùng vừa mang tính độc đoán vừa mong manh, ngay cả khi ban đầu không phải là ý định.

Ông đã chỉ ra cách tiếp cận an toàn sinh học của FLI như một ví dụ điển hình. Họ đã cố gắng tích hợp các giới hạn vào các mô hình AI để chúng từ chối các đầu ra nguy hiểm. Nghe có vẻ tốt trong lý thuyết, nhưng Buterin gọi đó là "rất mong manh" - các phương pháp jailbreak và tinh chỉnh để vượt qua các hạn chế đó khiến việc bỏ qua dễ dàng. Điểm cuối hợp lý của suy nghĩ đó trở thành "hãy cấm AI mã nguồn mở", rồi dẫn đến "hãy hỗ trợ một công ty AI chính nghĩa để thống trị toàn cầu và không cho ai khác đạt được mức đó." Những chiến lược này phản tác dụng mạnh mẽ và khiến phần còn lại của thế giới trở thành kẻ thù của bạn.

Cũng có một vấn đề cấu trúc với các phương pháp dựa trên quy định. Khi các chính phủ hạn chế công nghệ nguy hiểm, các tổ chức an ninh quốc gia được miễn trừ - và chính các tổ chức đó thường là một phần của rủi ro. Nhìn vào các chương trình rò rỉ phòng thí nghiệm của chính phủ.

Tuy nhiên, Buterin cũng đề cập rằng ông cảm thấy khích lệ bởi một số công trình gần đây của FLI, đặc biệt là tuyên bố "AI vì con người" kết hợp các phe bảo thủ, tiến bộ, tự do và các khu vực khác nhau. Ông cũng lưu ý rằng họ đang nghiên cứu các vấn đề tập trung quyền lực.

Nhưng thông điệp chính rõ ràng là: Một khoản quyên góp không dự định từ các token mà ông chưa từng muốn đã tài trợ cho một tổ chức đã chuyển hướng khỏi những gì ông tin tưởng, và giờ đây họ đang phân phối hàng trăm triệu đô la theo cách khiến ông cảm thấy không thoải mái. Ông đã nhiều lần bày tỏ lo ngại của mình với FLI trước khi công khai.

Đây là một cửa sổ thú vị về cách các token inu vô tình trở thành một nhân tố chính trong các cuộc tranh luận về chính sách AI, và những phức tạp phát sinh khi nguồn tài trợ khổng lồ đột nhiên thay đổi hướng đi của một tổ chức.