重要 Tether 发布 AI 合成数据集 QVAC Genesis III,提升小模型 STEM 能力
BiRun 讯,Tether AI Research 发布合成数据集 QVAC Genesis III,规模达 1914.3 亿个 Token,涵盖 1.596 亿份文档及 19 个 STEM 领域,旨在提升可在笔记本电脑、手机等本地设备运行的小型 AI 模型在科学、技术、工程和数学领域的能力。该数据集采用「失败分析」和「选项级推理」两种方法,前者由更强的教师模型分析学生模型的错误推理并给出正确解答,后者则解释正确答案为何正确及其他选项为何错误。测试显示,与同等 Token 规模的 Cosmopedia-v2 训练模型相比,基于 Genesis III 完整语料训练的模型在 ARC-Easy、ARC-Challenge 及 MMLU STEM 基准测试中分别提升 28.57、21.35 和 15.03 个百分点。相关论文已被 COLM 2026 会议接收。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯