Google เปิดตัว TurboQuant ซึ่งลดการใช้หน่วยความจำของโมเดลลงได้ 6 เท่า และเพิ่มความเร็วในการอนุมานได้ 8 เท่า ทำให้เกิดการตอบสนองที่เกี่ยวกับการลดลงของหุ้นหน่วยความจำและการเปลี่ยนแปลงโครงสร้างความต้องการ
Google เปิดตัวอัลกอริธึม TurboQuant ซึ่งลดการใช้หน่วยความจำของโมเดลภาษาขนาดใหญ่ลงอย่างน้อย 6 เท่า และในขณะที่ไม่ลดความแม่นยำของโมเดล จะเพิ่มความเร็วในการคำนวณอนุมานสูงสุดถึง 8 เท่า ตลาดได้ตีความเทคโนโลยีนี้อย่างรวดเร็วว่าเป็น “การทำลายด้านความต้องการ” โดยมีลอจิกที่ตรงไปตรงมาคือ หากโมเดล AI ต้องการหน่วยความจำในช่วงการอนุมานถูกลดลงหลายเท่า หมายความว่าในอนาคตความต้องการของศูนย์ข้อมูลต่อ DRAM, HBM หรือแม้แต่ NAND storage อาจมีแนวโน้มการเติบโตที่ลดลง
หลังจากมีการปล่อยข่าว หุ้นที่เกี่ยวกับหน่วยความจำและการเก็บข้อมูลปรากฏว่าลดลงพร้อมกัน รวมถึง SanDisk (SNDK) ลดลง 3.5%, Micron Technology (MU) ลดลง 3.4%, Western Digital (WDC) ลดลง 1.63%; ในด้านซัพพลายเชนเอเชีย Samsung Electronics ลดลง 4.71%, SK Hynix ลดลงมากถึง 6.23% มีมุมมองบางอย่างที่เชื่อว่า TurboQuant อาจเปลี่ยนแปลง “ประสิทธิภาพการใช้ทรัพยากร” มากกว่าการลดความต้องการเพียงอย่างเดียว
อัลกอริธึมล่าสุดจาก Google: การใช้หน่วยความจำลดลง 6 เท่า ความเร็วในการอนุมานเพิ่มขึ้น 8 เท่า
ตามการอธิบายของทีมวิจัยของ Google TurboQuant เป็นชุดอัลกอริธึมการควอนตัม (quantization) ที่ออกแบบมาสำหรับโมเดลภาษาขนาดใหญ่และระบบการค้นหาด้วยเวกเตอร์ โดยเน้นที่การลดการใช้ทรัพยากรของ “key-value cache” และโครงสร้างข้อมูลเวกเตอร์ความสูงใน AI โมเดลอย่างมาก ในการทดสอบ เทคโนโลยีนี้สามารถลดการใช้หน่วยความจำลงได้อย่างน้อย 6 เท่า และในขณะที่ไม่ลดความแม่นยำของโมเดล จะเพิ่มความเร็วในการคำนวณอนุมานสูงสุดถึง 8 เท่า
การพัฒนานี้ตรงเข้าจุดสำคัญของโครงสร้างพื้นฐาน AI ในปัจจุบัน การขยายตัวของ AI สร้างขึ้นจากการพึ่งพาหน่วยความจำความถี่สูงเช่น HBM เพื่อรองรับน้ำหนักโมเดลและ KV cache ขนาดใหญ่ เพื่อหลีกเลี่ยงการเกิดอาการหน่วยความจำติดขัดในระหว่างกระบวนการอนุมาน อย่างไรก็ตาม TurboQuant สามารถทำการบีบอัดได้โดยการรวม PolarQuant และ Quantized Johnson-Lindenstrauss (QJL) โดยไม่มี “ค่าใช้จ่ายหน่วยความจำเพิ่มเติม” เกือบจะเหมือนกับการใช้ทรัพยากรฮาร์ดแวร์น้อยลงเพื่อทำการคำนวณที่เท่ากันหรือมีประสิทธิภาพสูงกว่า
อัลกอริธึมของ Google กระทบต่อหน่วยความจำ! โรงงานหน่วยความจำในสหรัฐอเมริกาและเกาหลีใต้ลดลงพร้อมกัน
ตลาดได้ตีความเทคโนโลยีนี้อย่างรวดเร็วว่าเป็น “การทำลายด้านความต้องการ” หลังจากมีการปล่อยข่าว หุ้นที่เกี่ยวกับหน่วยความจำและการเก็บข้อมูลปรากฏว่าลดลงพร้อมกัน รวมถึง SanDisk (SNDK) ลดลง 3.5%, Micron Technology (MU) ลดลง 3.4%, Western Digital (WDC) ลดลง 1.63%; ในด้านซัพพลายเชนเอเชีย Samsung Electronics ลดลง 4.71%, SK Hynix ลดลงมากถึง 6.23%
ลอจิกที่อยู่เบื้องหลังนั้นตรงไปตรงมา: หากโมเดล AI ต้องการหน่วยความจำในช่วงการอนุมานถูกลดลงหลายเท่า หมายความว่าในอนาคตความต้องการของศูนย์ข้อมูลต่อ DRAM, HBM หรือแม้แต่ NAND storage อาจมีแนวโน้มการเติบโตที่ลดลง โดยเฉพาะอย่างยิ่งในบริบทที่อุตสาหกรรม AI ค่อยๆ เปลี่ยนจาก “การฝึกอบรม” ไปสู่ “การอนุมาน” ผลกระทบจากการเพิ่มประสิทธิภาพจะถูกขยายออกไป
อย่างไรก็ตาม มีมุมมองบางอย่างที่เชื่อว่า TurboQuant อาจเปลี่ยนแปลง “ประสิทธิภาพการใช้ทรัพยากร” มากกว่าการลดความต้องการเพียงอย่างเดียว เมื่อค่าใช้จ่ายลดลงและความล่าช้าลดลง สถานการณ์การใช้งาน AI อาจขยายตัวมากขึ้น ส่งผลให้ความต้องการพลังการคำนวณรวมยังคงเติบโต เกิดโครงสร้าง “ความต้องการต่อหน่วยลดลง ความต้องการรวมเพิ่มขึ้น” โรงงานหน่วยความจำขนาดใหญ่ในปีนี้ได้ขายหมดแล้ว อาจจะมีคำถามที่ตลาดต้องคิดว่า: เพดานการเติบโตของ AI จะมีขนาดใหญ่เพียงใด?
- บทความนี้ได้รับอนุญาตให้เผยแพร่จาก：《链新闻》
- หัวข้อเดิม: 《เทคโนโลยีใหม่ของ Google ทำให้ตลาดตกใจ ความต้องการหน่วยความจำ AI ลดลง 6 เท่า! SK Hynix และ Micron ลดลงพร้อมกัน》
- ผู้เขียนต้นฉบับ: Neo
