Gate 广场“新星计划”正式上线!
开启加密创作之旅,瓜分月度 $10,000 奖励!
参与资格:从未在 Gate 广场发帖,或连续 7 天未发帖的创作者
立即报名:https://www.gate.com/questionnaire/7396
您将获得:
💰 1,000 USDT 月度创作奖池 + 首帖 $50 仓位体验券
🔥 半月度「爆款王」:Gate 50U 精美周边
⭐ 月度前 10「新星英雄榜」+ 粉丝达标榜单 + 精选帖曝光扶持
加入 Gate 广场,赢奖励 ,拿流量,建立个人影响力!
详情:https://www.gate.com/announcements/article/49672
发生了什么
Tether Data推出了QVAC Fabric LLM,这是一种边缘优先的大型语言模型(LLM)推理运行时,结合了一种通用的LLM低秩适应(LoRA)微调框架。该技术支持现代AI模型在包括GPU、智能手机、笔记本电脑和服务器等异构平台上高效运行。该框架使得设备上的AI处理成为可能,旨在优化资源使用并提高对需要LLM能力的应用程序的推理速度。
上下文
QVAC Fabric LLM的发布与行业内更广泛的趋势相一致,强调在边缘进行AI计算——数据在用户设备上本地处理,而不是集中在云服务器上——以增强隐私、减少延迟并节省带宽。LoRA微调是一种技术,允许模型通过更新较小的参数子集来适应新任务,从而减少计算资源的需求,使其适用于广泛的设备。Tether Data,一家公司