AI suy luận có cần bằng chứng không kiến thức? Phần lớn các giải pháp hiện nay tốn quá nhiều tài nguyên tính toán. Tuy nhiên, gần đây mình thấy một giao thức khá thú vị, đánh giá hiệu năng cho thấy có thể đạt hơn 90% hiệu suất trên card đồ họa H100 — điều này có ý nghĩa gì? Suy luận thời gian thực trở nên khả thi, mà hóa đơn tính toán của bạn cũng không bị "nổ".



Điều quan trọng hơn là kết quả đầu ra có thể xác minh được. Đây là điểm cực kỳ hữu ích cho các kịch bản cần chứng minh quy trình tính toán AI, vì chẳng ai muốn chạy kiểu hộp đen rồi chỉ biết cầu mong kết quả đúng cả, đúng không?
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • Đăng lại
  • Retweed
Bình luận
0/400
SigmaValidatorvip
· 11giờ trước
90% hiệu suất nghe thì khá ấn tượng, nhưng thực sự áp dụng được vào thực tế mới là điều quan trọng.
Xem bản gốcTrả lời0
TokenToastervip
· 11giờ trước
Vãi thật, hiệu suất 90% số liệu này có thật không? Cuối cùng cũng có người giải quyết được cái hố chi phí tính toán này rồi. Nếu H100 chạy được như vậy, suy luận mô hình lớn đúng là đỡ áp lực hẳn. Mấy giải pháp trước đây đắt kinh khủng luôn. Black box, black box, ghét nhất cái kiểu này, giờ xác minh được kết quả rồi cũng tự tin hơn chút. Khoan đã, giao thức này mã nguồn mở chưa? Phải thử mới được. Nếu cái này thật sự có thể triển khai lên, lại là một đợt đào vàng mới rồi. Zero-knowledge proof cuối cùng cũng không còn là lý thuyết suông nữa, thật sự dùng được trong môi trường sản xuất không ta? Nhưng mấy thứ được thổi phồng thì nhiều, thực tế chạy được thì chẳng mấy cái, phải xem ví dụ thực tế đã. Lần này cuối cùng cũng không phải hy sinh tính xác thực để lấy hiệu suất nữa, cân bằng được hiệu suất và bảo mật đúng là hiếm thấy.
Xem bản gốcTrả lời0
LowCapGemHuntervip
· 11giờ trước
90% hiệu suất nghe có vẻ ổn đấy, nhưng khi chạy thực tế liệu có ổn định không? Sợ lại chỉ là số liệu trên giấy. Nếu thật sự có thể xác minh quá trình tính toán thì đúng là cần cân nhắc, chứ mấy cái hộp đen AI này đúng là mệt mỏi thật. Nếu trên H100 mà đạt được hiệu suất này, thì tiết kiệm được nhiều tiền lắm, khỏi lo chi phí suy luận nữa. Những giải pháp có thể xác minh như này chắc chắn sẽ hot trong tương lai, vấn đề niềm tin được giải quyết thì ai còn tin mấy cái hộp đen nữa đâu. Cũng thú vị đấy, phải xem thực tế có dự án nào dùng chưa, thông số trên giấy thì ai cũng nói hay được.
Xem bản gốcTrả lời0
BlockchainFoodievip
· 11giờ trước
Thật lòng mà nói, đây về cơ bản là xác minh từ nông trại đến bàn ăn mà chúng ta hằng mơ ước, nhưng áp dụng cho AI compute... Hiệu suất 90% trên H100? Đó giống như cuối cùng cũng khiến một căn bếp Michelin vận hành bằng năng lượng tái tạo mà không phải hy sinh độ cháy cạnh 🔥 không còn phải cầu nguyện trong chiếc hộp đen nữa, giờ chỉ còn bằng chứng thuần túy về tính trung thực của phép tính.
Xem bản gốcTrả lời0
HashRateHermitvip
· 11giờ trước
90% hiệu suất? Nếu thực sự triển khai được thì đúng là chấn động, cuối cùng cũng có người thuần hóa được “quái thú ngốn sức mạnh tính toán” ZK này rồi.
Xem bản gốcTrả lời0
MEVHuntervip
· 11giờ trước
90% hiệu suất? Đây mới là điều tôi muốn nghe. Trước đây những giải pháp ZKP thực sự là hố đen tính toán, bây giờ cuối cùng cũng có người áp dụng logic phí gas vào xác minh suy luận rồi.
Xem bản gốcTrả lời0
  • Ghim