Manus带来AGI的曙光初现，ความปลอดภัยของ AI亦值得深思

ผู้เขียน: 0xResearcher

Manus สามารถทำงานอย่างอิสระในงานที่ซับซ้อน เช่น การเจรจาทางธุรกิจข้ามชาติ ซึ่งรวมถึงการแยกส่วนข้อตกลงสัญญา การคาดการณ์กลยุทธ์ การสร้างแผน และยังสามารถประสานงานกับทีมด้านกฎหมายและการเงินได้ มีข้อดีต่าง ๆ ของ Manus เมื่อเทียบกับระบบ传统 ได้แก่ ความสามารถในการแยกส่วนเป้าหมายที่เปลี่ยนไป ความสามารถในการอุปถัมภ์แบบ cross-modal และความสามารถในการเรียนรู้ที่เพิ่มขึ้นจากความจำ สามารถแยกงานที่ใหญ่เป็นร้อย ๆ งานย่อย ๆ ที่สามารถดำเนินการได้พร้อมกัน และการประมวลผลชนิดข้อมูลต่าง ๆ อีกด้วย โดยใช้การเรียนรู้แบบเสริมเพื่อเพิ่มประสิทธิภาพในการตัดสินใจของตนเองและลดอัตราข้อผิดพลาด

ท่านสามารถยิ่งทันเร็วในการพัฒนาเทคโนโลยี นอกจากนี้ Manus ยังสร้างความไม่เห็นด้านการพัฒนาประสิทธิภาพ AI ในวงการ: คือ AGI จะครองสมบัติทั้งหมดในอนาคตหรือ MAS จะเป็นผู้นำร่วมกัน?

การออกแบบของ Manus เริ่มต้นจากความคิดที่มองอยู่ในสองทิศทาง:

หนึ่งในวิธีคือ AGI Pathway โดยการเพิ่มระดับความฉลาดของอุปกรณ์เดี่ยวๆ ให้มีความใกล้เคียงกับความสามารถในการตัดสินใจของมนุษย์

ยังมีเส้นทาง MAS หนึ่ง โดยเป็นผู้ควบคุม Super Coordinator ที่สั่งการให้เอเจนต์ในหลายพื้นที่ทำงานร่วมกัน

ในภาพรวม เรากำลังพูดถึงการแตกต่างในเส้นทาง แต่ในความเป็นจริงเรากำลังพูดถึงความขัดแย้งในพื้นฐานของการพัฒนา AI: ประสิทธิภาพและความปลอดภัยควรสมดุลอย่างไร? เมื่อความฉลาดของหน่วยงานเข้าใกล้ AGI มากขึ้น ความเสี่ยงในการทำการที่ไม่โปร่งใสจะสูงขึ้น ในขณะที่การร่วมมือของหลาย Agent อาจช่วยกระจายความเสี่ยง แต่อาจขาดความสำคัญในการตัดสินใจเนื่องจากความล่าช้าในการสื่อสาร

การวิวัฒนาการของ Manus ทำให้ความเสี่ยงที่มีอยู่ในการพัฒนา AI ขยายตัวโดยไม่รู้ตัว เช่น รูปแบบของช่องช่วยเหลือส่วนบุคคล: ในสถานการณ์ด้านการแพทย์ Manus ต้องเข้าถึงข้อมูลพันธุกรรมของผู้ป่วยแบบเรียลไทม์; ขณะที่เจรจาในด้านการเงิน อาจจะสัมผัสข้อมูลที่ยังไม่เผยแพร่จากบริษัท; เช่น กับบ่องบอกของอัลกอริทึม ในการเจรจาเรื่องการจ้างงาน Manus ให้คำแนะนำเงินเดือนให้กับผู้สมัครจากกลุ่มชาติพันธุ์ที่เฉพาะเจาะจงต่ำกว่าระดับเฉลี่ย; ในการตรวจสอบสัญญากฎหมาย อัตราการคาดการณ์ข้อผิดพลาดของข้อยกเว้นในอุตสาหกรรมที่เพิ่งเกิดขึ้นมีเกือบครึ่ง; และต่อสู้กับช่องโหว่ในการโจมตี แฮกเกอร์ผ่านการครอบครองความถี่ของเสียงที่ระบุไว้ ทำให้ Manus คาดการณ์ข้อเสนอราคาของคู่ค้าผิดพลาดในการเจรจา

เราต้องเผชิญกับจุดอ่อนที่น่ากลัวของระบบ AI: ระบบที่เชาศัพท์มากขึ้นจะมีพื้นที่โจมตีมากขึ้นเช่นกัน

อย่างไรก็ตาม ความปลอดภัยเป็นคำศัพท์ที่ถูกพูดถึงอย่างต่อเนื่องใน web3 ในกรอบสามเหลี่ยมที่ไม่เป็นไปได้ของวีเทอร์ (เครือข่ายบล็อกเชนไม่สามารถบรรลุความปลอดภัย การกระจายและความสามารถในการขยายขนาดได้พร้อมกัน) ยังมีวิธีการเข้ารหัสหลายรูปแบบ

• โมเดลรักษาความปลอดภัยแบบไม่ไว้วางใจ (Zero Trust Security Model): หลักการหลักของโมเดลรักษาความปลอดภัยแบบไม่ไว้วางใจคือ "ไม่ไว้วางใจใครเลย ต้องตรวจสอบเสมอ" นั่นคือ ไม่ว่าอุปกรณ์จะอยู่ในเครือข่ายภายในหรือไม่ ก็ไม่ควรไว้วางใจโดยค่าเริ่ม​โมเดลนี้เน้นการตรวจสอบและอนุญาตตัวตนอย่างเข้มงวดสำหรับทุกคำขอการเข้าถึง เพื่อให้มั่นใจว่าระบบปลอดภัย
• ตัวตนที่ไม่มีศูนย์กลาง (Decentralized Identity, DID): DID เป็นมาตรฐานของตัวบ่งชี้ที่ทำให้สิ่งมีชีวิตสามารถรับรู้ตัวตนได้โดยไม่ต้องมีทะเบียนแบบเซ็นทรัลในรูปแบบที่สามารถยืนยันและอยู่ได้ตลอดเวลา​ นี้เป็นการทำให้เกิดรูปแบบของตัวตนดิจิทัลที่ไม่มีศูนย์กลางใหม่ ซึ่งมักถูกพูดถึงร่วมกับตัวตนของการเป็นเจ้าของตัวเอง ซึ่งเป็นส่วนสำคัญของ Web3 Fully Homomorphic Encryption (FHE) เป็นเทคนิคการเข้ารหัสขั้นสูงที่ช่วยให้การคํานวณโดยพลการสามารถดําเนินการกับข้อมูลที่เข้ารหัสโดยไม่ต้องถอดรหัสซึ่งหมายความว่าบุคคลที่สามสามารถทํางานบนข้อความเข้ารหัสและผลลัพธ์ที่ได้รับหลังจากการถอดรหัสจะเหมือนกับผลลัพธ์ของการดําเนินการเดียวกันในข้อความธรรมดาคุณลักษณะนี้มีความสําคัญสําหรับสถานการณ์ที่ต้องใช้การคํานวณโดยไม่เปิดเผยข้อมูลดิบ เช่น การประมวลผลแบบคลาวด์และการเอาท์ซอร์สข้อมูล

โมเดลความปลอดภัยที่ไม่ไว้วางใจและ DID ได้มีโครงการจำนวนมากในตลาดสินค้าราคาของโครงการในช่วงตลาดที่เป็นวงจรหรือจะสำเร็จหรือจะล่มสลายในคลื่นความลับของเทคโนโลยีการเข้ารหัสที่เป็นที่สุดระดับน้อย (Fully Homomorphic Encryption, FHE) ก็เป็นอีกหนึ่งเครื่องมือในการแก้ปัญหาด้านความปลอดภัยในยุค AI ข้อมูลเข้ารหัสแบบที่สามารถคำนวณบนข้อมูลเข้ารหัสได้ (FHE) เป็นเทคโนโลยีที่อนุญาตให้อำนวยคำนวณบนข้อมูลเข้ารหัส

วิธีแก้ไข?

เริ่มแรกที่ด้านข้อมูล ข้อมูลทั้งหมดที่ผู้ใช้ป้อนเข้าไป (รวมถึงลักษณะชีวภาพ สีเสียง) ถูกประมวลผลในสถานะการเข้ารหัส แมนัสเองก็ไม่สามารถถอดรหัสข้อมูลเดิมได้ เช่นเดียวกับในกรณีของการวินิจฉัยทางการแพทย์ ข้อมูลเนื้อฌากของผู้ป่วยถูกเข้ารหัสอย่างเต็มระยะเวลาเพื่อเข้าร่วมในการวิเคราะห์เพื่อป้องกันการรั่วไหลของข้อมูลชีวภาพ

ด้านอัลกอริทึม ผ่าน FHE ทำให้ "การฝึกโมเดลเข้ารหัส" นักพัฒนาเอาชนะไม่สามารถสะท้อนทางการตัดสินใจของ AI ได้

ในเชิงร่วมมือ การสื่อสารของหลายตัวแอเจนต์จะใช้การเข้ารหัสแบบช่วง เมื่อโหนดบางตัวถูกบุกรุกก็จะไม่导致การรั่วไหลของข้อมูลในระบบโลก แม้กระทั้งในการฝึกโจมตีและป้องกันภัยจากการโจมตีในโซ่อุปทาน ผู้โจมตีที่ทำการเข้าถึงหลายตัวแอเจนต์ก็ยังไม่สามารถเข้าถึงมุมมองธุรกิจอย่างสมบูรณ์

เนื่องจากข้อ จํากัด ทางเทคนิคความปลอดภัยของ web3 อาจไม่เกี่ยวข้องโดยตรงกับผู้ใช้ส่วนใหญ่ แต่เชื่อมโยงกับผลประโยชน์ทางอ้อมอย่างแยกไม่ออก

• uPort ปล่อยตัวบนเครือข่ายหลักของอีเธอเรียในปี 2017 และอาจเป็นโปรเจกต์การรับรองตัวตนที่ไม่มีศูนย์กลาง (DID) ที่ปล่อยตัวบนเครือข่ายหลักไว้เร็วที่สุด
• ในด้านโมเดลความปลอดภัยที่ไม่เชื่อถือใด ๆ NKN ได้เปิดตัวเครือข่ายหลักของตนเมื่อปี 2019
• Mind Network คือโครงการ FHE แรกที่เข้าสู่เครือข่ายหลักและได้รับการรับรองโดย ZAMA, Google, DeepSeek อันดับแรก

uPort และ NKN เป็นโครงการที่เราไม่เคยได้ยินมาก่อน ดูเหมือนว่าโครงการด้านความปลอดภัยจริงจังจะไม่ได้รับความสนใจจากนักพนัน ว่า Mind network สามารถหลีกเลี่ยงคำสาปนี้และเป็นหัวใจของด้านความปลอดภัยหรือไม่ พวกเราก็คือคนที่รอคอย

Future has come. เทคโนโลยี AI ที่เข้าใกล้กับความฉลาดของมนุษย์มากขึ้น จะต้องใช้ระบบป้องกันที่ไม่ใช่มนุษย์มากขึ้นด้วย คุณค่าของ FHE ไม่เพียงแค่แก้ปัญหาในปัจจุบัน แต่ยังเป็นพื้นฐานสำคัญสำหรับยุค AI ที่แข็งแกร่ง ในเส้นทางที่อันตรายนี้สู่ AGI FHE ไม่ใช่เพียงเลือกทาง แต่เป็นสิ่งจำเป็นสำหรับการอยู่รอด