观澜Media

AI技术 · 深度资讯 · 前沿观察

Show HN:1-Bit Bonsai,第一个商业上可行的 1-Bit LLM

PrismML — 集中情报 正在招聘 探索 Pr..

PrismML — 集中情报 正在招聘 探索 Prism ML 的空缺职位 集中情报 大型模型无法安装在智能手机上。

Prism ML 正在构建超密集智能来解决这两个问题。

发布公告 内存减少 14 倍 速度提高 8 倍 能源减少 5 倍 1 位 Bonsai 8B 第一个具有 1 位权重的商业上可行的模型。

1 位 Bonsai 8B 仅需要 1。

15GB 内存,专为机器人、实时代理和边缘计算而设计。

下载模型 1-bit Bonsai 4B 1-bit Bonsai 4B 仅需要 0。

来源:HackerNews

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

关于我们

观澜Media

AI技术 · 深度资讯 · 前沿观察。专注科技、AI、互联网领域的深度报道与前沿资讯。

搜索归档

Access over the years of investigative journalism and breaking reports