通过终端侧AI算力与云端的结合,恰恰能够解决目前生成式AI完全依靠云端而出现的各种隐忧。例如在功耗方面,如果在云端运行一个超过10亿参数的生成式AI模型,可能需要数百瓦功耗的话,但在终端侧运行需要的功耗仅有几毫瓦。
另以高通在今年巴展期间所带来的Stable Diffusion在Android终端上的演示为例,能够在15秒内完成20步推理,生成包含细节的图像,整个过程全部在本地化进行,即使手机设置成飞行模式,也能完成根据文字描述所进行的绘画创作任务。这种特性既为用户带来了更加灵活高效的使用方式,又大大提升了隐私保护性。

混合式AI还能让更多类型的终端受益,例如骁龙本通过生成式AI能够基于视频会议的语音转录内容,制定任务清单,并自动生成完整的演示文稿直接供用户使用,使生产力能够成倍增长;XR设备能够借此实现文本生成 3D 和视频生成 3D 类的模型,最终或能让用户踏入从零开始生成的 3D 虚拟世界;
汽车能够通过生成式AI根据出发点和目的地信息,结合汽车的丰富传感器数据制定不同的路线规划,找到最佳路线;物联网领域,生成式 AI 可以利用简单提示帮助商店经理重新排列货架商品,为利润高的产品腾出空间,或者利用附近连锁店的数据,尽可能降低产品缺货情况的发生。
“随着我们不断打造和扩展高通公司‘统一的技术路线图’,我们将核心的硬件、软件以及工具技术扩展到不同产品线。开发人员只需要进行一次开发,就可以将开发成果和经验应用于其他使用高通技术和平台的产品上。”Ziad Asghar表示高通的AI能力不仅能扩展至不同的终端,还能让AI应用实现在各类产品上的快速落地。
显然,相比于CPU、GPU在性能过剩时代对于游戏表现的提升,AI能力的提升在办公、影音、日常生活中所带来的提升将给绝大多数用户带来理由充分的换机动机,而AI的性能与应用领域也将如同曾经智能手机CPU主频从600MHz到1GHz、再到2GHz的时代一样,迎来快速提升期。
