vkhosla представляет модель 1-bit Bonsai 8B, занимающую всего 1,15 ГБ памяти

robot
Генерация тезисов в процессе

Сообщение ME News: 1 апреля (UTC+8) автор vkhosla в социальных сетях рассказал о модели с 1-битными весами под названием 1-bit Bonsai 8B. Согласно его описанию, модель занимает в памяти всего 1,15 ГБ, а ее плотность интеллекта (intelligence density), как утверждается, превышает соответствующую модель с полной точностью более чем в 10 раз. В статье отмечается, что на пограничном (edge) оборудовании объем модели уменьшился в 14 раз, скорость выросла в 8 раз, а энергоэффективность увеличилась в 5 раз; при этом по сравнению с другими моделями она по-прежнему сохраняет конкурентоспособность. В сообщении также говорится, что модель более удобна в сжатии, работает быстрее, имеет меньший объем и более высокую энергоэффективность, чем модель, объявленная Google на день ранее. В исходном тексте не приведены конкретные бенчмарки производительности модели, ее издатель, детали технической реализации или результаты полного оценивания. (Источник: InFoQ)

Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закрепить