> 资讯 > 企业要闻

邬贺铨:端侧大模型 智能体将引发通信终端模式变革

人阅读 2024-12-24 10:29:43

12月23日,在2025中国信通院深度观察报告会上,中国工程院院士邬贺铨讲道,端侧大模型 智能体将引发通信终端模式变革。

一是终端形态多样化。手机、PC、眼镜等可穿戴设备传感器/工业模组、机器人、网联车等。

二是终端功能智能化。从智能终端到AI终端,从通信终端到智能体/具身智能,还可离线使用。

三是人机交互多模化。自然语言、触摸屏、手势、唇形、眼神等,从GUI(图形用户界面)到VUI(语音界面)并发展为Agent UI(智能体界面),APP存在感和独立性将被弱化,转而成为系统背后的服务工具。

四是内容供应个性化。获取信息的方式从浏览到对话,内容的产生从对外检索到用户生成(在终端内生成与云端协同生成),提问与获得的信息态转换(文生图与文生视频),从内容预制到内容定制,千人千面。

五是通信连接多元化。从点到点(含接力、流量分担与冗余并发)到P2MP/MP2P(包括多归属、多切片),智能网联车PC5/Uu接口分别实现V2V和V2N连接,以多归属/多切片实现多传感器与车联网多设备互联,AR视频会议将异地参会者视频组成MP2MP连接。

六是计费模式差异化。基于体验从流量计费到服务质量计费,计费单元从带宽到Token或算力,计费方式从包月、流量包到预订计时等。

邬贺铨介绍,端侧大模型 智能体也会对网络技术产生两大影响。

一方面是大上行与高突发根据Speedtest数据,2024年10月,我国固宽百兆和千兆接入分别占94.8%和30.4%,固宽下行平均220Mbps,但上行仅44Mbps。采用专线接入可提高上行能力,但因平时无需高带宽而利用率低且成本高。采用弹性无损智算IP网可支持10GE/100GE用户接入,按流量时长计费。与此同时,2024年10月,我国5G用户占移动用户的55.6%,移动网下行平均140Mbps,但上行也仅23Mbps。对此,需要采用5G-A的大上行技术来适应。

另一方面是云边端协同,云与端间需要大带宽低时延高可靠传输具体体现在模型参数及梯度(端侧训练的模型参数上传到云上,对云上大模型进行全局参数更新,再下发到端侧调整本地参数,反复迭代全局寻优);传输模型训练或推理的原始数据;传输在终端中生成的视频等。对此,可采用RDMA无损高吞吐广域网,辅以负载均衡精准流控,支持海量样本快速入算和存算分离拉远训练服务。

此外,邬贺铨提到,AI终端及其应用推动网络技术创新,也将带动软硬件产业及新型信息服务业的发展。他认为AI终端将成为人工智能技术落地应用的切入点,数字经济发展赋能的新增长点,以及传统产业数字化转型的着力点。

面向未来,邬贺铨表示,端侧大模型 智能体将为更多的开发者投身人工智能技术开发展现广阔的应用场景,带动起AI技术的众包时代,开拓产业的新生态。

LOT物联网

iot产品 iot技术 iot应用 iot工程

Powered By LOT物联网  闽ICP备2024036174号-1

联系邮箱:support1012@126.com