UnslothAI 发布针对 Apple Silicon 优化的 4-bit MLX 版 DGEMMA 4-31B

robot
摘要生成中

ME News 消息,4 月 11 日(UTC+8),UnslothAI 近日发布了 DGEMMA 4-31B 模型的原生 4-bit MLX 优化版本。该版本专为 Apple Silicon 设计,据称可在所有 M 系列 Mac 上实现极快的推理速度,同时保持高效的内存占用(约 20GB RAM)。此外,该模型还具备强大的多模态与视觉性能,支持完整的 256K 上下文长度以及原生函数调用功能。(来源:InFoQ)

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论