DeepSeek เปิดซอร์ส TileKernels ไขลบรารีเคอร์เนล GPU สำหรับการฝึกและการอนุมานของโมเดลขนาดใหญ่

ข้อความข่าวจาก Gate วันที่ 23 เมษายน — DeepSeek ได้เปิดซอร์ส TileKernels ภายใต้สัญญาอนุญาต MIT ซึ่งเป็นไลบรารีเคอร์เนลสำหรับ GPU ที่เขียนด้วย TileLang สำหรับการฝึกและการอนุมานของโมเดลภาษาขนาดใหญ่ TileLang เป็นภาษาเฉพาะทางที่ทีม tile-ai พัฒนาขึ้น เพื่อใช้ในการแสดงเคอร์เนล GPU ประสิทธิภาพสูงใน Python DeepSeek ระบุว่าเคอร์เนลส่วนใหญ่ในไลบรารีได้เข้าใกล้ขีดจำกัดด้านประสิทธิภาพของฮาร์ดแวร์แล้ว ทั้งในความหนาแน่นในการคำนวณและแบนด์วิดท์หน่วยความจำ โดยบางส่วนได้ถูกนำไปใช้งานแล้วในกระบวนการฝึกและการอนุมานภายใน

ไลบรารีประกอบด้วยเคอร์เนลหกหมวดหมู่: MoE (การผสมผู้เชี่ยวชาญ) สำหรับการแบ่งเกตและการกำหนดเส้นทาง รวมถึงการเลือก Top-k ของผู้เชี่ยวชาญ การแมปโทเคนต่อผู้เชี่ยวชาญ และการขยาย/ลดขนาดแบบรวม (fused) พร้อมการทำ normalization ของค่าน้ำหนัก; การทำควอนไทซ์ที่รองรับรูปแบบ FP8, FP4 และ E5M6 พร้อมการควอนไทซ์แบบต่อโทเคน ต่อบล็อก และต่อช่องทาง (channel) รวมถึงการทำงานแบบรวมสำหรับ SwiGLU+quantization; การ transpose แบบเป็นชุด (batch transpose); Engram gating พร้อมการส่งผ่านต่อไป/ย้อนกลับของ RMSNorm แบบรวมและการลดทอนเกรเดียนต์น้ำหนัก; Manifold HyperConnection พร้อมการทำ normalization แบบ Sinkhorn และการ split/apply แบบผสม; และอินเทอร์เฟซ autograd ระดับสูงที่ห่อเคอร์เนลระดับต่ำให้อยู่ในเลเยอร์ที่ฝึกได้

Engram และ Manifold HyperConnection เป็นองค์ประกอบที่เป็นกรรมสิทธิ์ของสถาปัตยกรรมโมเดลของ DeepSeek โดยรายละเอียดการใช้งานถูกเปิดเผยต่อสาธารณะเป็นครั้งแรก ไลบรารีต้องใช้ GPU สถาปัตยกรรม NVIDIA SM90 หรือ SM100 (H100/H200 หรือกลุ่ม Blackwell), CUDA Toolkit 13.1 หรือสูงกว่า และ PyTorch 2.10 หรือสูงกว่า

news.article.disclaimer

btc.bar.articles

Lotus บูรณาการกองทุนตลาดเงินของ WisdomTree เพื่อสร้าง “พื้นฐานผลตอบแทน” ในการให้กู้ DeFi

ประกาศจาก Gate News วันที่ 23 เมษายน — โปรโตคอลการให้กู้ DeFi ก่อนเปิดตัว Lotus ได้บูรณาการกองทุนดิจิทัล Treasury Money Market Digital Fund ของ WisdomTree (WTGXX) เป็นส่วนหนึ่งของกรอบการสำรองที่รองรับ LotusUSD ซึ่งเป็นโทเคนคลังหลักของ Lotus การบ่งชี้ครั้งนี้ถือเป็นหนึ่งในกรณีแรก ๆ ที่มีการอ้างถึงกองทุนตลาดเงินใน

GateNews10 นาที ที่แล้ว

Delphi AI Prediction Market เปิดตัวบน Gensyn Mainnet

ข้อความข่าว Gate 23 เมษายน——โปรโตคอลตลาดคาดการณ์ด้วย AI ของ Delphi ได้เปิดตัวอย่างเป็นทางการบน Gensyn ซึ่งเป็นโปรโตคอลการประมวลผลด้วย AI โดยช่วยให้มนุษย์และเอเจนต์ AI ทำการเทรดการคาดการณ์บนแพลตฟอร์มเดียวกัน การชำระเงินเสร็จสิ้นบนเชนผ่านออราเคิล AI ที่ได้รับการยืนยัน Gensyn เคยเปิดตัว Delphi บนเทสเน็ตของตนในเดือนธันวาคม 2025

GateNews30 นาที ที่แล้ว

Flying Tulip แพลตฟอร์ม DeFi ของ Andre Cronje เปิดตัวตัวตัดวงจรสำหรับการถอน

ข้อความ Gate News ประจำวันที่ 23 เมษายน — แพลตฟอร์มการเงินแบบกระจายอำนาจ (DeFi) ของ Andre Cronje อย่าง Flying Tulip ได้เปิดตัวกลไกตัวตัดวงจรสำหรับการถอน (withdrawal circuit breaker) ที่ออกแบบมาเพื่อหน่วงเวลาหรือจัดคิวการถอนในช่วงที่เงินทุนไหลออกอย่างผิดปกติ ลดความเสียหายที่อาจเกิดขึ้น และให้เวลาสำหรับการตรวจสอบ. กลไกดังกล่าว

GateNews45 นาที ที่แล้ว

Pyth Network จะยุติการใช้งานเครือข่ายแอปพลิเคชัน Pythnet ในภายหลังปี 2026 และยุติรางวัล OIS

ข่าว Gate เมื่อวันที่ 23 เมษายน — Pyth Network ประกาศว่าเครือข่ายแอปพลิเคชัน Pythnet จะถูกยุติในภายหลังในปี 2026 หลังจากข้อเสนอ OP-PIP-100 ผ่านแล้ว ขณะที่ข้อเสนอ OP-PIP-103 ได้กำหนดอัตราการจ่ายรางวัล Oracle Integrity Staking (OIS) เป็นศูนย์ ซึ่งถือเป็นจุดสิ้นสุดของกลไกรางวัล OIS ที่เริ่มเปิดตัวในช่วงปลายปี 2024 และดึงดูดการสเตกสะสมประมาณ 1 พันล้าน PYTH

GateNews50 นาที ที่แล้ว

Plasma ล้อเลียนการเปิดตัวผลิตภัณฑ์ที่เกี่ยวข้องกับสเตเบิลคอยน์ในเดือนมิถุนายน 2026

อัปเดตจาก Gate News วันที่ 23 เมษายน — Plasma ประกาศแผนที่จะเปิดตัวผลิตภัณฑ์ใหม่ที่เกี่ยวข้องกับสเตเบิลคอยน์ในเดือนมิถุนายน 2026 โดยระบุว่า "ในที่สุดสเตเบิลคอยน์ของคุณก็มีบ้านอยู่แล้ว เดือนมิถุนายน 2026" ตามสื่อส่งเสริมการขาย ผลิตภัณฑ์ดังกล่าวจะมีบัตรชำระเงินด้วยสเตเบิลคอยน์ ฟังก์ชันการใช้จ่ายของผู้บริโภค และ

GateNews2 ชั่วโมง ที่แล้ว

Bonanza Factory เสร็จสิ้น PoC สำหรับการบูรณาการ VND ของการแลกเปลี่ยนสินทรัพย์ดิจิทัลของ Vietnam MB Bank

ข้อความข่าว Gate News วันที่ 23 เมษายน — Bonanza Factory ผู้ให้บริการโซลูชันด้านการปฏิบัติตามข้อกำหนดจากเกาหลีใต้ ได้เสร็จสิ้นการพิสูจน์แนวคิด (PoC) ร่วมกับ Military Commercial Joint Stock Bank ของเวียดนาม (MB Bank) เพื่อการบูรณาการการฝากและถอนที่ใช้สกุลเงิน VND ระหว่างธนาคารและการแลกเปลี่ยนสินทรัพย์ดิจิทัล และกำลัง

GateNews2 ชั่วโมง ที่แล้ว
แสดงความคิดเห็น
0/400
ไม่มีความคิดเห็น