新华网北京5月17日电（记者凌纪伟）随着AI向终端下沉，端侧AI让智能变得触手可及。怎样看待端侧AI发展趋势，端侧AI在“人人可享的AI未来”愿景中为何发挥关键作用？新华网就此专访教育部长江学者、北京邮电大学网络与交换技术全国重点实验室乔秀全教授。

  乔秀全表示，大模型技术深刻影响生产生活，但大模型又是一个非常耗费资源的产品，如果都放在云端计算或者推理，那么它对算力资源的消耗比较大，对网络带宽、云端算力资源的影响也比较大。随着边缘计算、边缘智能的崛起，终端设备算力表现越来越强。现在一部智能手机相当于原来一台服务器的算力水平，所以现在终端设备也能支撑相关的AI算法，特别是一些几十亿参数规模的这种小参数的大模型也可以在终端上运行。

  “针对一些特定的应用场景，可以实现终端AI模型在本地就能运行推理，回答相关的一些问题，做一些相关的计算。所以我觉得端侧AI是未来的一个发展趋势。”乔秀全说。

  谈到端侧AI的独特优势，乔秀全认为，首先是数据的安全性，原来需要把数据传输到云端去处理，现在用户的数据可以在端侧处理。其次是响应速度，在终端运行AI能够快速响应用户需求，降低传输时延。另外，如果大量的用户请求传输到云端，云端将出现并发压力，导致排队，而在终端处理就能够降低云端压力。

  当前，端侧AI赋能越来越多的终端产品，终端的产品形态也越来越多样化。“比如AI赋能的可穿戴设备，它们的交互方式将更加自然，未来终端的样式也会越来越多，智能家居、智能音箱、智能电视，都可以被AI赋能。特别是机器人，未来每个家庭都会有一个服务型的机器人，通过一些小参数的大模型可以让人与机器人的交互更加便捷。”乔秀全认为，未来可以把大模型压缩之后，形成各种垂直类小模型来为用户的终端赋能。

  乔秀全十分看好AI和XR终端的结合，认为这是未来的一个大趋势。“AI赋能的终端越来越轻量化，特别是我们佩戴一个轻量化的AR眼镜之后，它就可以在前端实时地做一些计算，比如说实时翻译，提供一种跨语言的实时交流，让沟通交流无障碍。”

  围绕端侧计算，特别是让AI能力在终端侧能够真正应用起来，乔秀全带领团队投身WebXR研究数年。“应用AI算法，在前端利用网页就可去追踪一个图片，再把虚拟信息，如视频或者3D模型叠加上去，就可以在文化旅游等各种各样的场景广泛应用起来。”乔秀全说，目前团队已将WebXR技术与5G消息结合起来，当来到一个城市，用户手机上会收到一条5G消息，打开它就可以沉浸式地利用WebXR技术体验当地优秀的传统文化和名胜古迹。

  沉浸式通信已被ITU列为6G的一个主要应用场景，沉浸式通信时代，各种平面视频、文本、图像，将向沉浸式空间计算方向发展，未来物理世界和虚拟世界的信息能够无缝地融合在一起。

  “我们现在正在开发全息实时通信技术，或者叫体积视频的实时传输、实时通信，只要一个人在这个采集环境下，实时采集完成之后实时传输，到了接收端再实时重建。这对带宽要求非常高，需要用到一些端侧AI的算法。”乔秀全介绍说，这个过程不是将视频都压缩之后再去传输，而是提取关键的核心语义特征点之后再传到远端，然后远端再利用AI的算法来重建，只有这样才能实现更好的通信，通过端侧AI计算来换通信带宽，这是目前面向6G的语义通信的重要研究内容。

  乔秀全认为，端侧AI让普通用户通过日常使用的终端就可以享受到AI带来的技术红利。无论是围绕工作还是生活，端侧AI的规模化应用时代已经开启，未来它的应用场景和范围会越来越广泛。