網(wǎng)絡(luò )智能化已成為網(wǎng)絡(luò )演進(jìn)和創(chuàng )新的重要方向,在滿(mǎn)足AI技術(shù)與通信網(wǎng)絡(luò )深度融合的同時(shí),如何增強數據隱私保護、減少數據大量匯聚帶寬開(kāi)銷(xiāo)、提高分布式算力資源利用率是網(wǎng)絡(luò )智能化所面臨的實(shí)際問(wèn)題。聯(lián)邦學(xué)習技術(shù)可實(shí)現在數據不出域條件下的多方聯(lián)合AI建模,是平衡數據安全、數據利用以及資源開(kāi)銷(xiāo)的重要途徑。
中國移動(dòng)研究院歷經(jīng)三年多的研究與探索,創(chuàng )新性提出基于聯(lián)邦學(xué)習的分布式智能架構,并正式寫(xiě)入3GPP R18技術(shù)標準TS 23.288,實(shí)現智能化、聯(lián)邦學(xué)習與通信網(wǎng)絡(luò )結合的首次突破。
項目團隊主導定義了四項關(guān)鍵技術(shù):一是多主體協(xié)同訓練,制定網(wǎng)絡(luò )開(kāi)展聯(lián)邦學(xué)習的通用性流程,完成服務(wù)端與客戶(hù)端間全局模型聚合、本地模型更新的迭代交互,實(shí)現網(wǎng)絡(luò )實(shí)體執行聯(lián)邦學(xué)習訓練的高效協(xié)同;二是網(wǎng)絡(luò )能力登記,定義網(wǎng)絡(luò )實(shí)體的聯(lián)邦學(xué)習能力描述信息及流程,實(shí)現網(wǎng)絡(luò )對聯(lián)邦學(xué)習服務(wù)端、客戶(hù)端的服務(wù)注冊和尋址發(fā)現;三是動(dòng)態(tài)成員管理,結合網(wǎng)絡(luò )負載、數據可用性、數據質(zhì)量等因素,引入多樣性、靈活性的聯(lián)邦學(xué)習成員選擇機制,成員組可通過(guò)服務(wù)端選擇、客戶(hù)端主動(dòng)加入/退出等諸多方式進(jìn)行動(dòng)態(tài)更新;四是訓練策略調優(yōu),建立消費者與聯(lián)邦學(xué)習服務(wù)端的探詢(xún)機制,消費者可實(shí)時(shí)獲取聯(lián)合訓練的性能指標等信息,并按需更新訓練策略,以?xún)?yōu)化模型性能。
基于NWDAF的聯(lián)邦學(xué)習示意圖
基于聯(lián)邦學(xué)習的分布式智能架構及關(guān)鍵技術(shù)正式寫(xiě)入通信網(wǎng)絡(luò )國際標準,成為網(wǎng)絡(luò )智能化的核心使能技術(shù),得到了業(yè)界的廣泛關(guān)注和認可,有助于打破網(wǎng)元、網(wǎng)絡(luò )乃至行業(yè)間的數據壁壘,推進(jìn)多樣化網(wǎng)絡(luò )智能化應用的落地,使能千行百業(yè)。
未來(lái),中國移動(dòng)研究院將進(jìn)一步強化聯(lián)邦學(xué)習與通信網(wǎng)絡(luò )融合的研究及應用探索,以“資源共建、數安共保、效率共升、生態(tài)共融”為目標,構建分布式智能架構技術(shù)體系,進(jìn)一步拓展網(wǎng)絡(luò )智能化業(yè)務(wù)應用場(chǎng)景,發(fā)揮標準引領(lǐng)作用,強化與產(chǎn)業(yè)各界緊密協(xié)作,推進(jìn)產(chǎn)業(yè)成熟,實(shí)現網(wǎng)絡(luò )AI規模性應用,賦能萬(wàn)物智聯(lián)。