Tuần này tôi đã dành thời gian đào sâu vào một số nghiên cứu mới từ một giao thức AI phi tập trung và thật sự? Đầu óc tôi quay cuồng.

Hai phát hiện đã thu hút tôi mạnh mẽ. Đầu tiên: phương pháp lấy mẫu dự đoán đa bản nháp đạt tỷ lệ chấp nhận khoảng 90% trong khi vẫn giữ chi phí xử lý dưới 100ms mỗi token. Hiệu suất thật đáng kinh ngạc.

Phát hiện thứ hai còn kỳ lạ hơn — họ phát hiện các mô hình ngôn ngữ lớn (LLM) có tới 30% không nhất quán giữa những gì chúng tuyên bố tin tưởng và những gì chúng thực sự làm. Khoảng cách đó lớn hơn tôi nghĩ nhiều.

Các phép toán hỗ trợ cho những điều này rất chắc chắn. Kỹ thuật thực thụ, không phải phô trương.