Ricursive自训65B模型:5人研发团队,编程能力逼近美国开源第一梯队
BiRun 讯,由 Google DeepMind 前研究员创立的 AI 公司 Ricursive Intelligence,发布开源模型 Ripple-65B Preview。两位创始人曾主导 AlphaChip 项目,利用 AI 自动优化 Google TPU 芯片布局。
Ripple 是一款从零训练的 650 亿参数稠密模型,使用 12 万亿 Token 训练数据,支持最长 100 万 Token 上下文。在官方公布的 Terminal-Bench 2.1 编程测试中,它获得 80.5% 的成绩,略高于 5010 亿参数的 Reflection Beam(80.1%),也超过了 9750 亿参数的 Inkling(63.8%)。
Ricursive 称,模型研发总共只花了 3200 万美元,团队在开发过程中从 1 人扩展到 5 人。他们通过改进模型架构、训练数据和强化学习方法,提高训练效率。在 40 亿参数规模的对照实验中,达到相近代码能力所需的算力降低了约 16 倍。
目前,Ripple 已按 Apache 2.0 许可证开源模型权重。四位量化后预计占用约 36–40GB,理论上可以在 64GB 及以上内存的 Mac 上本地运行。
信源
动察 Beating 频道 · 动察 Beating 交流群。
Ripple 是一款从零训练的 650 亿参数稠密模型,使用 12 万亿 Token 训练数据,支持最长 100 万 Token 上下文。在官方公布的 Terminal-Bench 2.1 编程测试中,它获得 80.5% 的成绩,略高于 5010 亿参数的 Reflection Beam(80.1%),也超过了 9750 亿参数的 Inkling(63.8%)。
Ricursive 称,模型研发总共只花了 3200 万美元,团队在开发过程中从 1 人扩展到 5 人。他们通过改进模型架构、训练数据和强化学习方法,提高训练效率。在 40 亿参数规模的对照实验中,达到相近代码能力所需的算力降低了约 16 倍。
目前,Ripple 已按 Apache 2.0 许可证开源模型权重。四位量化后预计占用约 36–40GB,理论上可以在 64GB 及以上内存的 Mac 上本地运行。
信源
动察 Beating 频道 · 动察 Beating 交流群。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯