高通侯明娟：终端侧生成式AI对体验至关重要

PChome | 编辑: 薛屾 2024-05-17 11:14:25原创

517大会在浙江宁波拉开帷幕，高通全球副总裁侯明娟带来题为“推动终端侧生成式AI时代到来”的主题分享。

5月16日，以“数字创新赋能新型工业化”为主题的2024世界电信和信息社会日大会暨系列活动（以下简称“517大会”），在浙江宁波拉开帷幕。作为517大会首日举行的平行论坛之一，AI终端未来之路论坛以“AI已来，终端未来”为主题，汇聚产业链各方代表，聚焦生成式AI等前沿创新技术、AI终端产业发展趋势等话题进行深入探讨。

论坛开始，高通全球副总裁侯明娟带来题为“推动终端侧生成式AI时代到来”的主题分享。她表示，行业正面临着AI发展的绝佳机遇，持续创新让高通公司始终处于终端侧AI解决方案最前沿。通过提供业界领先的硬件和软件解决方案，高通正携手合作伙伴，共同推动生成式AI规模化发展，让终端侧生成式AI无处不在，打造万物智能互联的未来。

在之后的圆桌讨论环节，来自中国移动、GSMA、高通、OPPO、vivo、中赫集团的产业链企业和机构代表，就“AI重塑智能终端产业”、“AI终端赋能新型工业化和企业数字化转型”等话题展开讨论，共话生成式AI为智能终端产业带来的广阔发展机遇。

以下为主题分享环节实录：

各位嘉宾、行业伙伴们，大家好！我是高通公司侯明娟，很高兴与大家探讨生成式AI为智能终端产业带来的全新机遇。今天我想与大家分享高通公司在AI方面的动态，以及关于未来的思考。

我在来参会的飞机上，看到最新的市场调查报告显示，目前中国用户使用手机上网的平均时间大约是每个月160小时，每隔6.5分钟就要看一次手机，一天要看150次。我个人觉得，这个平均数也许对于多数用户来说是偏低的，有的用户使用时间更长、频率更高。

高通公司，以及今天在座的各位从业者，都面临着AI发展的绝佳机遇。在用户触手可及的智能手机、移动PC和网联汽车等终端中，很多AI功能已经实现。

在今年2月份的MWC世界移动通信大会上，高通携手荣耀、小米和OPPO等合作伙伴带来了终端侧AI演示。如今，手机已经是世界上覆盖规模最大的工业产品之一，每年出货量近12亿。对于手机行业从业者来说，我们已经站在了终端侧AI的潮头，能够让更多消费者享受到AI带来的便利，比如，通过AI数字助手打造全新的移动功能和体验，这是已经实现的终端侧生成式AI。

在汽车领域，近期发布的很多新款智能汽车都使用了骁龙数字底盘解决方案，包括骁龙座舱平台（骁龙8295和8155）等，我们对此感到非常荣幸。车内的数字语音助手，以及AI支持的智能驾驶、路线规划、轨迹和行为预测等功能正在逐步实现。包括极越、理想、小鹏在内的合作伙伴们基于骁龙8295的车型发布了车端的大模型功能。

在PC方面，高通参与了上个月联想在上海举办的Tech World 2024，我们正在共同推动AI作为生产力工具的不断演进，包括生成原创内容、提升工作效率等。消费者和企业用户，可全天候利用骁龙X系列平台AI增强的终端侧工具，提升生产力、创造力和协作能力。

随着生成式AI的飞速普及和计算需求的日益增长，云经济难以支持生成式AI规模化扩展，云端必须与终端侧协同运行AI应用。基于云端的AI应用和在移动设备侧运行的AI应用两者之间的关系，可以概括为“大事问云端，小事问终端”。通常而言，用户使用基于终端的AI应用会更多一些。对于用户而言，终端侧AI更方便快捷、隐私性更高。比如，有时候父母可能出于隐私的考虑，不愿意将小朋友的照片分享到云端；利用终端侧AI，厂商可以让用户即使在飞行模式不联网的前提下，也能快速使用生成式AI的相关功能。从行业的角度考虑，一方面，传统搜索方法和生成式AI的查询成本存在很大差异——基于生成式AI的搜索，单次查询成本是传统搜索方法的10倍；另一方面是出于对功耗的考虑，在云端运行一个超过10亿参数的生成式AI模型，往往需要数百瓦的功耗，但是在终端侧运行只需要几毫瓦。

高通认为，混合AI是AI的未来。对于比较大型的运算，我们可以通过云端实现；针对需要保障即时性、可靠性、个性化、隐私安全的内容，以及从节省成本的角度考虑，我们可以在终端侧运行AI模型。要真正释放生成式AI的全部潜能，AI处理的重心需要向边缘侧转移。相比仅在云端运行AI模型，混合AI架构更加方便快捷。通过混合AI架构，AI在云端、边缘云和终端侧协同运行，使整个系统中的计算和处理能力以最有效的方式重新分布。

终端侧生成式AI已经到来，今天在座的几位合作伙伴，都已经发布了搭载高通最新一代旗舰移动平台——第三代骁龙8的终端产品。以手机为例，智能手机是释放AI技术潜力的关键载体，因为它是消费者在日常生活中使用频率最高的终端。

去年10月，高通推出了首个专为生成式AI打造的移动平台——第三代骁龙8；当前，市场上包括OPPO、vivo在内的多家OEM厂商和智能手机品牌推出的多款手机，都采用了这款最先进的、专为生成式AI设计的芯片，这些产品也都受到了客户和消费者的关注和喜爱。

第三代骁龙8支持运行高达100亿参数的生成式AI模型，以每秒20 tokens的速度运行大语言模型。除了优秀的AI能力，第三代骁龙8还带来了影像、安全、音频、连接等领域的全方位升级体验。提到影像领域，在第三代骁龙8强大的AI性能加持下，包括OPPO、vivo在内的OEM厂商和智能手机品牌，他们推出的智能手机影像体验都非常出色，完全不输给专业的影像设备。实际上，现在已经很少有人随身携带大型相机出门，因为我们的手机已经实现了非常好的影像功能。

在MWC巴塞罗那期间，我们也和OPPO、vivo等合作伙伴共同展示了一系列搭载第三代骁龙8的商用旗舰AI智能手机，支持出色的生成式AI特性，例如图片AI消除、AI赋能的照片扩展和照片魔法擦除等。假设某张图片上有一个路人或一些电线遮挡画面，我们就可以通过这些功能轻松消除。此外，智慧创建日程、智慧成片还有图像扩充等功能都已经实现，并且大家都可以很方便地使用这些功能。

在中国，已有超过20款搭载顶级骁龙旗舰移动平台的商用终端面市，为消费者提供了多样化的选择。我们相信，终端侧生成式AI会带来新一波的智能手机换机浪潮，不论是从中国移动、OPPO、vivo，还是高通的角度来看，我们的共识是希望为智能手机市场，开启基于AI的全新升级周期。

再以PC为例，在去年的骁龙峰会上，除了面向旗舰智能手机发布第三代骁龙8，我们还发布了骁龙X Elite平台，这是专门面向PC打造的处理器，支持高达45 TOPS算力，为PC带来全球最快的NPU，同时实现了行业一流的能效和续航能力。我们总说，高通公司就是为移动技术而生的，我们在功耗控制、续航、移动计算等方面，都有着长期的积累和领先的技术优势。

此外在今年4月，我们还扩展了骁龙X系列平台产品组合，推出了骁龙X Plus平台。骁龙X Plus采用了先进的10核高通Oryon CPU，支持高达45 TOPS的NPU，助力消费者和企业用户，能够全天候利用骁龙X系列平台AI增强的终端侧工具，提升生产力、创造力和协作能力。

在XR领域，我们也与包括中赫集团在内的生态伙伴合作，取得了很好的成果。在改造北京新工体的过程中，葛总和他的团队倾尽全力，以创新技术推动传统体育向智慧体育转型，让更多不能到现场的足球粉丝能够通过XR技术接入现场，获得如临现场般的真实感受。

我们与中国移动、中赫集团合作，推动5G无界XR赛事体验方案的演进和落地。2022年7月，我们一起展示了5G无界XR赛事体验方案，共同探索了“智慧工体”建设新路径。2023年8月，我们首次实现了基于5G现网的网业融合元宇宙足球应用体验，工体可容纳的观众数量有限，如果更多球迷也想观看比赛，可以通过元宇宙进入现场，感受身临现场般的观赛体验。如果用户对哪位球星感兴趣，可以特别详细地观看这位球星的全方位场上表现。基于将5G无界XR赛事体验方案带进工体的经验，未来也能够将这一解决方案扩展到足球之外的更多体育赛事，实现元宇宙观赛。这一方案也在很多行业展会上亮相，在世界人工智能大会、“绽放杯”5G应用征集大赛等活动中多次荣获权威奖项的认可。此外，我们也在多个展会上与各方专家和领导都有交流，他们也都亲身体验了虚拟足球比赛的现场感。相信随着技术的不断发展，未来的XR应用将更加逼真。

在汽车领域，生成式AI已经为汽车行业伙伴带来了丰富用例，“AI上车”正在成为现实。举例来说，理想、小鹏、极越等厂商推出的基于骁龙8295芯片的车型，都发布了其车端的大模型功能。随着多模态技术的不断发展，AI模型将迎来更加复杂、多样化的交互场景，在智能座舱、自动驾驶等领域打开全新的应用空间。

最后，我们再谈谈网络终端。具备终端侧AI能力的网络终端，将为整个无线通信系统的运行带来很多增益。通过这些终端，AI能够分布在从云到端的多个环节，支持高效网络规划，持续进行优化，增强服务体验，并且通过端到端的AI协同，提升整个无线通讯系统的性能表现。例如，在AI的加持下，终端能够更全面地把握无线信道的特征和变化趋势，使信道状态预测和反馈更加精准，提升吞吐量和其他关键性能指标。

在今年2月份的MWC世界移动通信大会上，我们还推出了高通AI Hub。它能够为骁龙和高通平台提供超过75款基于平台优化的AI模型，帮助开发者优化产品的开发路径和缩短产品上市时间，让终端侧AI的优势在应用程序上更快更好地发挥。

持续创新让高通始终处于终端侧AI解决方案最前沿，而我们的AI领先优势也得益于与业界的深度合作。无论是高通的异构计算能力，还是可扩展的AI软件工具等，都需要与客户的终端深度结合才能得以实现。凭借消费者最为熟悉的智能终端——手机，终端侧AI帮助消费者更好地体验生成式AI的强大能力。高通也在持续将终端侧AI能力扩展至智能手机之外的更多终端，包括汽车、XR头显与眼镜、PC和物联网等。通过提供业界领先的硬件和软件解决方案，高通助力推动生成式AI的规模化扩展。目前，高通AI引擎赋能的终端产品出货量已超过20亿，我们也特别荣幸能够获得众多用户的认可。

未来，高通期待携手广大合作伙伴，共同推动终端侧AI的变革，让终端侧生成式AI无处不在，打造万物智能互联的未来，谢谢。