-
Tether的BitNet LoRA框架实现了在智能手机、GPU和消费级设备上的AI模型训练。
-
该系统降低了内存使用量并提升了性能,VRAM需求最多降低77.8%。
-
用户可以在移动设备上微调高达13B参数的模型,扩展边缘AI能力。
Tether通过其QVAC Fabric平台宣布推出一款新的AI框架,支持在消费设备上进行跨平台的BitNet LoRA训练。此次更新使得亿参数模型能够在智能手机和GPU上运行。CEO Paolo Ardoino分享了这一进展,强调降低成本和扩大AI工具的使用范围。
跨平台AI训练拓展访问渠道
QVAC Fabric的更新引入了对BitNet LoRA微调的跨平台支持。这允许AI模型在不同硬件和操作系统上运行。
值得注意的是,该框架支持来自AMD、Intel和Apple的GPU,包括移动芯片组。它还采用Vulkan和Metal后端以确保兼容性。
据Tether介绍,这是BitNet LoRA首次在如此广泛的设备范围内工作。因此,用户可以在日常硬件上进行模型训练。
在消费硬件上的性能提升
该系统通过结合BitNet和LoRA技术,减少了内存和计算需求。BitNet将模型权重压缩为简化值,而LoRA限制可训练参数。
这两种方法共同显著降低了硬件要求。例如,在移动设备上,GPU推理速度比CPU快两到十一倍。
此外,与全精度模型相比,内存使用量大幅下降。基准测试显示,VRAM使用比类似系统少达77.8%。
Tether还展示了在智能手机上的微调能力。测试显示,在Samsung S25等设备上,几分钟内即可训练出1.25亿参数的模型。
移动和边缘设备处理更大模型
该框架使得在边缘设备上运行更大模型成为可能。Tether报告称,在iPhone 16上成功微调了高达130亿参数的模型。
此外,该系统支持Adreno、Mali和Apple Bionic等移动GPU,拓宽了AI开发的硬件基础。
据Paolo Ardoino表示,AI开发通常依赖昂贵的基础设施。他指出,这一框架将能力转向本地设备。
Tether补充说,该系统减少了对中心化平台的依赖,还允许用户在设备上直接训练和处理数据。
免责声明:本页面信息可能来自第三方,不代表 Gate 的观点或意见。页面显示的内容仅供参考,不构成任何财务、投资或法律建议。Gate 对信息的准确性、完整性不作保证,对因使用本信息而产生的任何损失不承担责任。虚拟资产投资属高风险行为,价格波动剧烈,您可能损失全部投资本金。请充分了解相关风险,并根据自身财务状况和风险承受能力谨慎决策。具体内容详见
声明。
相关文章
美国制裁持有$344M 、与伊朗有关的加密货币钱包,Tether已冻结
据 CNN 报道,美国财政部长 Scott Bessent 宣布对多个与伊朗有关联的钱包实施制裁,这是唐纳德·特朗普总统为加大对该国的经济压力所做努力的一部分。此举是在 Tether 冻结了在 Tron 上的 $344 百万美元 USDT 之后发生的,该资金已与
Crypto Frontier3小时前
美国制裁与伊朗相关的加密钱包,Tether 冻结 $344M USDT
美国财政部长斯科特·贝森特宣布,联邦政府正在对与伊朗相关的多个钱包实施制裁,作为唐纳德·特朗普总统持续努力在停火持续期间对该国施加更大经济压力的一部分。此举发生在泰达冻结了$344的前一天之后。
Crypto Frontier10小时前
美国制裁与伊朗有关联的加密货币钱包;Tether 配合 OFAC 冻结 $344M USDT
Gate News 消息,4月25日——美国财政部于4月24日以制裁多张与伊朗有关联的加密货币钱包,作为在持续停火背景下加大对该国经济压力努力的一部分。财政部长 Scott Bessent 表示,该政府将“追踪资金流向”
GateNews16小时前
Tether 过去一周铸造 $3B USDT,Abraxas Capital 收到 28.9B
Gate News 消息,4月25日——据 Lookonchain 称,Tether 在过去一周 $3 (4月18日–25日期间 ) 铸造了 十亿美元 USDT。Abraxas Capital 在同一期间从 Tether Treasury 收到了 28.9亿 USDT。
GateNews18小时前
美国制裁与伊朗有关联的加密钱包,Tether 冻结 $344M USDT
美国财政部长斯科特·贝森特(Scott Bessent)周五宣布,根据CNN的报道,联邦政府正在以总统唐纳德·特朗普(Donald Trump)的努力为背景,对与伊朗有关联的多个钱包实施制裁,以在持续停火期间加大对该国的经济施压。该行动是在Tether的举措之后,
Crypto Frontier22小时前
美国制裁与伊朗有关联的加密钱包;Tether 冻结 $344 百万美元 USDT
Gate News 消息,4 月 24 日——美国财政部长 Scott Bessent 于周四宣布,对多个与伊朗有关联的钱包实施制裁,作为唐纳德·特朗普总统在持续停火背景下加大对该国经济压力努力的一部分。 “我们将追踪德黑兰正在竭力试图转移出该国的资金,并打击与该政权相关的所有金融生命线,”Bessent 在一份声明中表示。
GateNews04-24 16:19