荣耀研发管理总裁邓斌：大模型存在炫技，70亿参数是端侧跑起来的极限

原标题：荣耀研发管理总裁邓斌：大模型存在炫技，70亿参数是端侧跑起来的极限

出品 | 搜狐科技

作者 | 张雅婷

1月10日，荣耀正式发布自研操作系统MagicOS 8.0，声称实现意图识别人机交互（Intent-based UI，简称IUI）。

所谓的IUI是指支持自然语言、语音、图片、手势、眼动等多模态的交互方式，可智能识别用户意图，进行快速推理决策，主动提供个人化服务。比如，实现地址一拖打车/导航，专有名词一拖搜索，商品图片一拖比价/购物等。

荣耀正式在Magic6系列上发布自研70亿参数（以下简称7B）大模型——“魔法大模型”。荣耀自研7B大模型经过量化压缩后，被部署在高通骁龙8 Gen3上。

应用上，荣耀表示可以实现“对话成片”，自动挑选个人图库中的特定素材，可以快速剪辑成精彩个人视频；“多模态日程管理”功能中，用户将文字信息、图片、照片、对话截图拖入任意门，可以一步生成日程。

荣耀终端有限公司CEO赵明表示，荣耀AI研发费用累积达100亿，AI专利成果达2100项。

此外，荣耀发布了“百模生态计划”，荣耀将为百大模型提供入口，让云侧通用大模型和各种行业垂域大模型通过货架化方式融入到魔法OS中。

比如，荣耀携手云侧通用大模型——百度文心大模型，YOYO助理打造更专业的用户服务，带来本地化的文本创作、知识问答、生活建议等。

荣耀研发管理部总裁邓斌告诉搜狐科技等媒体，相信未来通过2-3年时间，会逐渐完整践行百模的平台，真正让用户在一个平台上和各个模型对话，快速直达想要的东西。

与vivo、OPPO等手机厂商推出从十亿至千亿参数量级的大模型不同，荣耀显然更注重端侧大模型的自研，对于千亿级别的云侧大模型，荣耀选择了开放合作的方式。

邓斌告诉搜狐科技，在投入大模型的过程中，荣耀一定会更深度地和各个应用厂家的大模型做联合，让通用的能力在荣耀这完成。

那么，这样轻量化的做法可以减少研发投入吗？邓斌表示，荣耀投入的成本一点都不比友商低，荣耀只是降低了用户在完成同样质量任务时的推理成本。

他还提到，如今很多大模型存在炫技，它们只做了两件事情：一是中转，二是简单的文生文、图生图。“大家在图热闹，我们还是坚决要从个人意图出发，真正去解决掉个人意图的真正关系，而不是有厂商已经做到100B模型，我们还做个100B变成7B的剪枝，这样的话消费者得到的是降维的服务。”

荣耀研发人员进一步解释称，友商更多希望把云端的能力压缩、量化下，比如做一些阅读理解、摘要、生成论文的能力，跟云端没有区别，云端甚至会做的更好。

端侧大模型发展的挑战之一在于，参数越大、智慧能力越强，但在算力、带宽、功耗等各方面存在限制。邓斌表示，现在选择的7B模型，是在端侧跑起来的极限情况，基本上也是够用的。

此外，外界还关注的是，MagicOS 8.0的能力未来会不会下放到Magic6以外的其他机型？

邓斌认为，平台级AI的能力会在很多机型上落地，但想变成智慧独立个体的话，还是受硬件限制。“这个东西一定是跟着不同的设备会有不同的表现状态。”

面向未来，荣耀大模型的发展策略主要有分布式、高安全。一方面，真正将任务停留在该停留的地方，实现最高能效比的逻辑。另一方面，将不依赖于高算力的东西与平台级AI能力停留在端侧，其他脱敏、过滤后交给合作伙伴，提升效率。