應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊(cè)個(gè)人注冊(cè)登錄

鄔賀銓:端側(cè)大模型+智能體將引發(fā)通信終端模式變革

2024-12-24 10:04 通信世界網(wǎng)

導(dǎo)讀:通信終端模式發(fā)送變革

12月23日,在2025中國信通院深度觀察報(bào)告會(huì)上,中國工程院院士鄔賀銓講道,端側(cè)大模型+智能體將引發(fā)通信終端模式變革。

一是終端形態(tài)多樣化。手機(jī)、PC、眼鏡等可穿戴設(shè)備、傳感器/工業(yè)模組、機(jī)器人、網(wǎng)聯(lián)車等。

二是終端功能智能化。從智能終端到AI終端,從通信終端到智能體/具身智能,還可離線使用。

三是人機(jī)交互多?;W匀徽Z言、觸摸屏、手勢(shì)、唇形、眼神等,從GUI(圖形用戶界面)到VUI(語音界面)并發(fā)展為Agent UI(智能體界面),APP存在感和獨(dú)立性將被弱化,轉(zhuǎn)而成為系統(tǒng)背后的服務(wù)工具。

四是內(nèi)容供應(yīng)個(gè)性化。獲取信息的方式從瀏覽到對(duì)話,內(nèi)容的產(chǎn)生從對(duì)外檢索到用戶生成(在終端內(nèi)生成與云端協(xié)同生成),提問與獲得的信息態(tài)轉(zhuǎn)換(文生圖與文生視頻),從內(nèi)容預(yù)制到內(nèi)容定制,千人千面。

五是通信連接多元化。從點(diǎn)到點(diǎn)(含接力、流量分擔(dān)與冗余并發(fā))到P2MP/MP2P(包括多歸屬、多切片),智能網(wǎng)聯(lián)車PC5/Uu接口分別實(shí)現(xiàn)V2V和V2N連接,以多歸屬/多切片實(shí)現(xiàn)多傳感器與車聯(lián)網(wǎng)多設(shè)備互聯(lián),AR視頻會(huì)議將異地參會(huì)者視頻組成MP2MP連接。

六是計(jì)費(fèi)模式差異化?;隗w驗(yàn)從流量計(jì)費(fèi)到服務(wù)質(zhì)量計(jì)費(fèi),計(jì)費(fèi)單元從帶寬到Token或算力,計(jì)費(fèi)方式從包月、流量包到預(yù)訂計(jì)時(shí)等。

鄔賀銓介紹,端側(cè)大模型+智能體也會(huì)對(duì)網(wǎng)絡(luò)技術(shù)產(chǎn)生兩大影響。

一方面是大上行與高突發(fā)根據(jù)Speedtest數(shù)據(jù),2024年10月,我國固寬百兆和千兆接入分別占94.8%和30.4%,固寬下行平均220Mbps,但上行僅44Mbps。采用專線接入可提高上行能力,但因平時(shí)無需高帶寬而利用率低且成本高。采用彈性無損智算IP網(wǎng)可支持10GE/100GE用戶接入,按流量時(shí)長計(jì)費(fèi)。與此同時(shí),2024年10月,我國5G用戶占移動(dòng)用戶的55.6%,移動(dòng)網(wǎng)下行平均140Mbps,但上行也僅23Mbps。對(duì)此,需要采用5G-A的大上行技術(shù)來適應(yīng)。

另一方面是云邊端協(xié)同,云與端間需要大帶寬低時(shí)延高可靠傳輸。具體體現(xiàn)在模型參數(shù)及梯度(端側(cè)訓(xùn)練的模型參數(shù)上傳到云上,對(duì)云上大模型進(jìn)行全局參數(shù)更新,再下發(fā)到端側(cè)調(diào)整本地參數(shù),反復(fù)迭代全局尋優(yōu));傳輸模型訓(xùn)練或推理的原始數(shù)據(jù);傳輸在終端中生成的視頻等。對(duì)此,可采用RDMA無損高吞吐廣域網(wǎng),輔以負(fù)載均衡精準(zhǔn)流控,支持海量樣本快速入算和存算分離拉遠(yuǎn)訓(xùn)練服務(wù)。

此外,鄔賀銓提到,AI終端及其應(yīng)用推動(dòng)網(wǎng)絡(luò)技術(shù)創(chuàng)新,也將帶動(dòng)軟硬件產(chǎn)業(yè)及新型信息服務(wù)業(yè)的發(fā)展。他認(rèn)為AI終端將成為人工智能技術(shù)落地應(yīng)用的切入點(diǎn),數(shù)字經(jīng)濟(jì)發(fā)展賦能的新增長點(diǎn),以及傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型的著力點(diǎn)。

面向未來,鄔賀銓表示,端側(cè)大模型+智能體將為更多的開發(fā)者投身人工智能技術(shù)開發(fā)展現(xiàn)廣闊的應(yīng)用場(chǎng)景,帶動(dòng)起AI技術(shù)的眾包時(shí)代,開拓產(chǎn)業(yè)的新生態(tài)。