华为30B端侧MoE正式落地Mate XT 2
BiRun 讯,动察 Beating AI 快讯,华为正式把一款总参数 30B、激活参数 2B 的端侧 MoE 大模型落地新一代三折叠手机 Mate XT 2。华为称,这是「行业首个端侧 MoE 全模态大模型」。模型运行在新发布的麒麟 9050 Pro 上,由达芬奇架构 NPU 提供端侧算力。
这套 30B/2B 端侧模型其实早在 6 月就已经预告。华为当时称,它针对麒麟芯片专门优化,并通过专家预测等技术降低内存占用、提高推理吞吐,计划秋季进入麒麟芯片和手机。
这套 30B/2B 端侧模型其实早在 6 月就已经预告。华为当时称,它针对麒麟芯片专门优化,并通过专家预测等技术降低内存占用、提高推理吞吐,计划秋季进入麒麟芯片和手机。
评论
0/500
登录 后参与讨论
免责声明:本文内容仅供参考,不构成任何投资建议。
更多快讯