Manus đã đạt được kết quả SOTA (trạng thái ở mức cao nhất) trong bài kiểm tra GAIA, cho thấy hiệu suất của nó vượt trội so với các mô hình lớn cùng cấp của Open AI. Nó có thể độc lập thực hiện các nhiệm vụ phức tạp, như đàm phán thương mại quốc tế, bao gồm phân tích điều khoản hợp đồng, dự đoán chiến lược, tạo ra kế hoạch, thậm chí còn có thể điều phối giữa đội ngũ pháp lý và tài chính. So với các hệ thống truyền thống, Manus vượt trội ở khả năng phân rã mục tiêu động, khả năng suy luận qua nhiều chế độ và khả năng học tăng cường trí nhớ. Nó có thể phân rã nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và liên tục cải thiện hiệu suất quyết định của chính nó thông qua học tăng cường, giảm thiểu tỷ lệ lỗi.
Trong khi ngưỡng mộ tốc độ phát triển của công nghệ, Manus cũng một lần nữa gây ra sự chia rẽ trong cộng đồng về con đường tiến hóa của trí tuệ nhân tạo: liệu tương lai có phải là sự thống trị của AGI, hay là sự phối hợp chủ đạo của MAS?
Điều này bắt nguồn từ triết lý thiết kế của Manus, nó ẩn chứa hai khả năng:
Một trong những con đường AGI. Nâng cao trình độ trí tuệ của một cá nhân liên tục, làm cho nó tiến gần đến khả năng ra quyết định toàn diện của con người.
Có một loại đường dẫn MAS khác. Là siêu phối hợp viên, chỉ huy hàng ngàn đại diện lĩnh vực dọc để hợp tác chiến đấu.
Ở bề mặt, chúng ta đang thảo luận về sự khác biệt trong các con đường, nhưng thực tế chúng ta đang thảo luận về mâu thuẫn cơ bản của sự phát triển của trí tuệ nhân tạo: hiệu quả và an toàn nên được cân nhắc như thế nào? Khi trí tuệ đơn lẻ tiến gần đến AGI, rủi ro hộp đen quyết định càng cao; trong khi sự hợp tác của nhiều đại lý có thể phân tán rủi ro, nhưng có thể bỏ lỡ cửa sổ quyết định quan trọng do độ trễ trong giao tiếp.
Sự tiến hóa của Manus đã không đồng ý tăng cường những rủi ro tự nhiên của phát triển trí tuệ nhân tạo. Ví dụ như hố đen bảo mật dữ liệu: trong bối cảnh y tế, Manus cần truy cập dữ liệu gen của bệnh nhân theo thời gian thực; trong các cuộc đàm phán tài chính, có thể tiếp xúc thông tin báo cáo tài chính chưa công bố của doanh nghiệp; và ví dụ về cạm bẫy thiên vị thuật toán, trong cuộc đàm phán tuyển dụng, Manus đưa ra đề xuất lương thấp hơn mức trung bình cho ứng viên thuộc dân tộc cụ thể; tỷ lệ phán đoán sai lầm về các điều khoản ngành công nghiệp mới gần như nửa trong quá trình xem xét hợp đồng pháp lý. Và cũng giống như chống lại lỗ hổng tấn công, hacker thông qua việc cấy ghép tần số giọng nói cụ thể, dẫn đến việc Manus sai lầm phạm vi giá đề xuất của đối thủ trong cuộc đàm phán.
Chúng ta không thể tránh khỏi một điểm đau đớn kinh hoàng của hệ thống AI: hệ thống càng thông minh, vùng tiếp xúc tấn công cũng càng rộng lớn.
Tuy nhiên, an ninh luôn là một thuật ngữ được liên tục đề cập trong web3, dưới khung lưới tam giác không thể có của V thần (mạng blockchain không thể đồng thời đạt được tính bảo mật, phi trung tâm và có thể mở rộng) cũng đã tạo ra nhiều phương pháp mã hóa khác nhau:
Mô hình bảo mật Zero Trust Security (Mô hình bảo mật Zero Trust): Ý tưởng cốt lõi của mô hình bảo mật Zero Trust là “Không tin tưởng vào bất kỳ ai, luôn thực hiện xác thực”, nghĩa là không nên mặc định tin tưởng bất kỳ thiết bị nào, dù có ở trong mạng nội bộ. Mô hình này nhấn mạnh việc xác thực và cấp quyền cho mỗi yêu cầu truy cập một cách nghiêm ngặt, để đảm bảo an toàn hệ thống.
Định danh phi tập trung (Decentralized Identity, DID): DIDlà một bộ tiêu chuẩn định danh cho phép thực thể nhận diện một cách có thể xác minh và bền vững mà không cần đến bảng đăng ký tập trung. Điều này thực hiện một mô hình định danh số phi tập trung mới, thường được so sánh với chủ quyền tự do cá nhân, là một phần quan trọng của Web3.
Mã hóa đồng cấp đầy đủ (Fully Homomorphic Encryption, FHE) là một công nghệ mã hóa tiên tiến cho phép thực hiện bất kỳ tính toán nào trên dữ liệu đã được mã hóa mà không cần giải mã. Điều này có nghĩa là một bên thứ ba có thể thực hiện các phép toán trên văn bản mã hóa và kết quả thu được sau khi giải mã sẽ tương đương với kết quả của việc thực hiện cùng một phép toán trên văn bản rõ. Đặc tính này rất quan trọng đối với các tình huống cần thực hiện tính toán mà không cần tiết lộ dữ liệu gốc, chẳng hạn như tính toán đám mây và giao ngoại dữ liệu.
Mô hình an toàn không tin cậy và DID đều có một số dự án trong thị trường tăng trưởng nhiều vòng đều hoặc đã đạt được một số thành tựu hoặc đã bị chôn vùi dưới làn sóng tiền điện tử, và như một trong những công nghệ mã hóa trẻ tuổi nhất: Mã hóa hoàn toàn đồng nhất (Fully Homomorphic Encryption, FHE) cũng là vũ khí lớn để giải quyết vấn đề an ninh trong thời đại trí tuệ nhân tạo. Mã hóa hoàn toàn đồng nhất (FHE) là một loại công nghệ cho phép tính toán trên dữ liệu đã được mã hóa.
Làm thế nào để giải quyết？
Đầu tiên, mặt dữ liệu. Tất cả thông tin mà người dùng nhập (bao gồm đặc điểm sinh học, giọng điệu) được xử lý dưới dạng mã hóa, ngay cả Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong trường hợp chẩn đoán y tế, dữ liệu gen của bệnh nhân tham gia phân tích toàn bộ dưới dạng văn bản mã hóa, tránh rò rỉ thông tin sinh học.
Mặt cơ bản của thuật toán. Qua việc triển khai 'Đào tạo mô hình mã hóa' bằng FHE, ngay cả nhà phát triển cũng không thể xâm nhập vào con đường quyết định của trí tuệ nhân tạo.
Ở mức đồng bộ. Giao tiếp giữa nhiều Điều Khiển sử dụng mật mã ngưỡng, việc xâm nhập vào một node đơn lẻ sẽ không dẫn đến rò rỉ dữ liệu toàn cầu. Ngay cả trong kịch bản tấn công phòng thủ chuỗi cung ứng, kẻ tấn công xâm nhập vào nhiều Điều Khiển cũng không thể có được cái nhìn toàn diện về doanh nghiệp.
Do vấn đề về công nghệ, an ninh web3 có thể không trực tiếp liên quan đến hầu hết người dùng, nhưng lại có liên quan gián tiếp với hàng ngàn lợi ích, trong khu rừng tăm tối này, nếu không cố gắng trang bị, sẽ không bao giờ thoát khỏi tư cách "người trồng".
uPort được phát hành trên mạng chính Ethereum vào năm 2017, có thể là dự án xác thực phi tập trung (DID) được phát hành sớm nhất trên mạng chính.
Trong mô hình an ninh không tin cậy, NKN đã phát hành mainnet của mình vào năm 2019.
Mạng Tư Duy là dự án FHE đầu tiên trên mainnet và đầu tiên hợp tác với ZAMA, Google, DeepSeek.
uPort và NKN đã là hai dự án mà người biên tập chưa từng nghe đến, dường như các dự án an toàn thực sự không được các nhà đầu tư quan tâm, liệu Mind network có thể thoát khỏi lời nguyền này và trở thành người đứng đầu trong lĩnh vực an toàn, chúng ta hãy đợi xem.
Tương lai đã đến. AI càng tiến gần đến trí tuệ con người, càng cần hệ thống phòng thủ không phải của loài người. Giá trị của FHE không chỉ nằm ở việc giải quyết vấn đề hiện tại, mà còn làm cơ sở cho thời đại trí tuệ nhân tạo mạnh mẽ. Trên con đường nguy hiểm dẫn tới AGI, FHE không phải là sự lựa chọn mà là vật dụng không thể thiếu để tồn tại.
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Manus带来AGI的曙光初现，Bảo mật AI亦值得深思
Tác giả: 0xResearcher
Manus đã đạt được kết quả SOTA (trạng thái ở mức cao nhất) trong bài kiểm tra GAIA, cho thấy hiệu suất của nó vượt trội so với các mô hình lớn cùng cấp của Open AI. Nó có thể độc lập thực hiện các nhiệm vụ phức tạp, như đàm phán thương mại quốc tế, bao gồm phân tích điều khoản hợp đồng, dự đoán chiến lược, tạo ra kế hoạch, thậm chí còn có thể điều phối giữa đội ngũ pháp lý và tài chính. So với các hệ thống truyền thống, Manus vượt trội ở khả năng phân rã mục tiêu động, khả năng suy luận qua nhiều chế độ và khả năng học tăng cường trí nhớ. Nó có thể phân rã nhiệm vụ lớn thành hàng trăm nhiệm vụ con có thể thực hiện, đồng thời xử lý nhiều loại dữ liệu và liên tục cải thiện hiệu suất quyết định của chính nó thông qua học tăng cường, giảm thiểu tỷ lệ lỗi.
Trong khi ngưỡng mộ tốc độ phát triển của công nghệ, Manus cũng một lần nữa gây ra sự chia rẽ trong cộng đồng về con đường tiến hóa của trí tuệ nhân tạo: liệu tương lai có phải là sự thống trị của AGI, hay là sự phối hợp chủ đạo của MAS?
Điều này bắt nguồn từ triết lý thiết kế của Manus, nó ẩn chứa hai khả năng:
Một trong những con đường AGI. Nâng cao trình độ trí tuệ của một cá nhân liên tục, làm cho nó tiến gần đến khả năng ra quyết định toàn diện của con người.
Có một loại đường dẫn MAS khác. Là siêu phối hợp viên, chỉ huy hàng ngàn đại diện lĩnh vực dọc để hợp tác chiến đấu.
Ở bề mặt, chúng ta đang thảo luận về sự khác biệt trong các con đường, nhưng thực tế chúng ta đang thảo luận về mâu thuẫn cơ bản của sự phát triển của trí tuệ nhân tạo: hiệu quả và an toàn nên được cân nhắc như thế nào? Khi trí tuệ đơn lẻ tiến gần đến AGI, rủi ro hộp đen quyết định càng cao; trong khi sự hợp tác của nhiều đại lý có thể phân tán rủi ro, nhưng có thể bỏ lỡ cửa sổ quyết định quan trọng do độ trễ trong giao tiếp.
Sự tiến hóa của Manus đã không đồng ý tăng cường những rủi ro tự nhiên của phát triển trí tuệ nhân tạo. Ví dụ như hố đen bảo mật dữ liệu: trong bối cảnh y tế, Manus cần truy cập dữ liệu gen của bệnh nhân theo thời gian thực; trong các cuộc đàm phán tài chính, có thể tiếp xúc thông tin báo cáo tài chính chưa công bố của doanh nghiệp; và ví dụ về cạm bẫy thiên vị thuật toán, trong cuộc đàm phán tuyển dụng, Manus đưa ra đề xuất lương thấp hơn mức trung bình cho ứng viên thuộc dân tộc cụ thể; tỷ lệ phán đoán sai lầm về các điều khoản ngành công nghiệp mới gần như nửa trong quá trình xem xét hợp đồng pháp lý. Và cũng giống như chống lại lỗ hổng tấn công, hacker thông qua việc cấy ghép tần số giọng nói cụ thể, dẫn đến việc Manus sai lầm phạm vi giá đề xuất của đối thủ trong cuộc đàm phán.
Chúng ta không thể tránh khỏi một điểm đau đớn kinh hoàng của hệ thống AI: hệ thống càng thông minh, vùng tiếp xúc tấn công cũng càng rộng lớn.
Tuy nhiên, an ninh luôn là một thuật ngữ được liên tục đề cập trong web3, dưới khung lưới tam giác không thể có của V thần (mạng blockchain không thể đồng thời đạt được tính bảo mật, phi trung tâm và có thể mở rộng) cũng đã tạo ra nhiều phương pháp mã hóa khác nhau:
Mô hình an toàn không tin cậy và DID đều có một số dự án trong thị trường tăng trưởng nhiều vòng đều hoặc đã đạt được một số thành tựu hoặc đã bị chôn vùi dưới làn sóng tiền điện tử, và như một trong những công nghệ mã hóa trẻ tuổi nhất: Mã hóa hoàn toàn đồng nhất (Fully Homomorphic Encryption, FHE) cũng là vũ khí lớn để giải quyết vấn đề an ninh trong thời đại trí tuệ nhân tạo. Mã hóa hoàn toàn đồng nhất (FHE) là một loại công nghệ cho phép tính toán trên dữ liệu đã được mã hóa.
Làm thế nào để giải quyết？
Đầu tiên, mặt dữ liệu. Tất cả thông tin mà người dùng nhập (bao gồm đặc điểm sinh học, giọng điệu) được xử lý dưới dạng mã hóa, ngay cả Manus cũng không thể giải mã dữ liệu gốc. Ví dụ, trong trường hợp chẩn đoán y tế, dữ liệu gen của bệnh nhân tham gia phân tích toàn bộ dưới dạng văn bản mã hóa, tránh rò rỉ thông tin sinh học.
Mặt cơ bản của thuật toán. Qua việc triển khai 'Đào tạo mô hình mã hóa' bằng FHE, ngay cả nhà phát triển cũng không thể xâm nhập vào con đường quyết định của trí tuệ nhân tạo.
Ở mức đồng bộ. Giao tiếp giữa nhiều Điều Khiển sử dụng mật mã ngưỡng, việc xâm nhập vào một node đơn lẻ sẽ không dẫn đến rò rỉ dữ liệu toàn cầu. Ngay cả trong kịch bản tấn công phòng thủ chuỗi cung ứng, kẻ tấn công xâm nhập vào nhiều Điều Khiển cũng không thể có được cái nhìn toàn diện về doanh nghiệp.
Do vấn đề về công nghệ, an ninh web3 có thể không trực tiếp liên quan đến hầu hết người dùng, nhưng lại có liên quan gián tiếp với hàng ngàn lợi ích, trong khu rừng tăm tối này, nếu không cố gắng trang bị, sẽ không bao giờ thoát khỏi tư cách "người trồng".
uPort và NKN đã là hai dự án mà người biên tập chưa từng nghe đến, dường như các dự án an toàn thực sự không được các nhà đầu tư quan tâm, liệu Mind network có thể thoát khỏi lời nguyền này và trở thành người đứng đầu trong lĩnh vực an toàn, chúng ta hãy đợi xem.
Tương lai đã đến. AI càng tiến gần đến trí tuệ con người, càng cần hệ thống phòng thủ không phải của loài người. Giá trị của FHE không chỉ nằm ở việc giải quyết vấn đề hiện tại, mà còn làm cơ sở cho thời đại trí tuệ nhân tạo mạnh mẽ. Trên con đường nguy hiểm dẫn tới AGI, FHE không phải là sự lựa chọn mà là vật dụng không thể thiếu để tồn tại.