1 項目目標和概述
1.1 挑戰
針對行業(yè)多樣化的邊緣智能業(yè)務(wù)場(chǎng)景,運用分布式計算、邊緣計算、AI、視頻監控、IoT、5G等先進(jìn)技術(shù),打造具有數字化能力的新型基礎設施,增強場(chǎng)景化、數智化能力,將“通信塔”升級為“數字塔”,服務(wù)社會(huì )各行業(yè)的數字化轉型。
(1)端云方案弊端
視聯(lián)業(yè)務(wù)使用100M云專(zhuān)線(xiàn),單攝像機500元/月,云存儲、網(wǎng)絡(luò )帶寬費用較高;針對實(shí)時(shí)監控、工業(yè)物聯(lián)等敏感性業(yè)務(wù),云端檢測并回傳數據時(shí)延較高;中心云AI推理服務(wù)器成本較高;面對高度關(guān)注信息安全的場(chǎng)景,要求本地業(yè)務(wù)自治、視頻數據不出園區。
(2)業(yè)務(wù)不同軟硬件需求不同
為適應全國范圍內不同業(yè)務(wù)場(chǎng)景的需求,需針對邊緣智能網(wǎng)關(guān)產(chǎn)品做差異化功能定制開(kāi)發(fā),提供不同型號的軟硬件產(chǎn)品解決方案;邊緣設備計算資源受限,需在有限的計算資源內提升視頻編解碼和壓縮效率;端邊設備協(xié)議多樣,為邊緣智能網(wǎng)關(guān)在通信協(xié)議統一提出挑戰。
(3)云平臺多標準各異
應用場(chǎng)景的算法來(lái)自于不同的廠(chǎng)商和平臺,其加載和運行方式各不相同,對邊緣智能網(wǎng)關(guān)AI算法的部署、管理、適配和授權等方面帶來(lái)了技術(shù)難點(diǎn);隨著(zhù)行業(yè)產(chǎn)品不斷豐富,云平臺支撐的業(yè)務(wù)場(chǎng)景逐漸呈現差異化、個(gè)性化,同時(shí)受限于無(wú)線(xiàn)、有線(xiàn)網(wǎng)絡(luò )差異,對云邊協(xié)同、遠程運維等帶來(lái)了新的技術(shù)問(wèn)題。
(4)算法框架差異大適配難
當前邊緣智能網(wǎng)關(guān)存在多種異構硬件產(chǎn)品(瑞芯微、海思、英偉達),不同硬件平臺在底層算子支持、計算框架等方面存在較大差異,算法模型需要針對性的移植適配;算法模型在不同的硬件平臺適配后,缺少量化精度損失、性能、模型大小等指標對比數據。
(5)需求碎片化開(kāi)發(fā)周期長(cháng)
隨著(zhù)網(wǎng)關(guān)產(chǎn)品系列的不斷擴充和迭代,硬件平臺由不同廠(chǎng)商提供,功能界面各自獨立開(kāi)發(fā),實(shí)現參數配置、狀態(tài)監控、視頻/數據調閱等操作界面和流程的統一,為本項目的一項重要技術(shù)挑戰;針對不斷碎片化的客戶(hù)需求,如何快速開(kāi)發(fā)邊緣側AI算法應用,如何從POC到商用快速搶占市場(chǎng),為本項目的另一項新的挑戰。
1.2 目標和總體概述
針對行業(yè)多樣化的邊緣智能業(yè)務(wù)場(chǎng)景,運用分布式計算、邊緣計算、AI、視頻監控、IoT、5G等先進(jìn)技術(shù),打造具有數字化能力的新型基礎設施,增強場(chǎng)景化、數智化能力,將“通信塔”升級為“數字塔”,服務(wù)社會(huì )各行業(yè)的數字化轉型。
(1)分布式邊緣計算降低業(yè)務(wù)服務(wù)成本和時(shí)延
本地處理,降低數據傳輸及存儲成本;中訓邊推,降低算力使用成本;邊緣計算,降低業(yè)務(wù)時(shí)延,本地處理快速響應。
(2)打造差異化產(chǎn)品競爭力
視頻監控+邊緣AI+5G特色解決方案;算力卡、射頻等硬件模塊化設計的邊緣智能網(wǎng)關(guān);物聯(lián)網(wǎng)設備統一接入能力。
(3)快速滿(mǎn)足智能化場(chǎng)景需求
差異化的容器化運行時(shí)環(huán)境及算力編排底座;統一的視頻抽幀處理、AI推理和告警上報開(kāi)發(fā)框架;AI算法開(kāi)發(fā)和移植效率提升。
(4)構建多元化的行業(yè)云平臺對接能力
針對視聯(lián)及維護業(yè)務(wù)的平臺對接能力;4G/5G無(wú)線(xiàn)、WAN有線(xiàn),HTTP、GB28181、MQTT多協(xié)議接入能力。
2 案例介紹
2.1 系統架構
基于邊緣智能網(wǎng)關(guān)的視頻業(yè)務(wù)系統,在前端攝像機和中心云平臺之間增加了具有分布式智能計算能力的邊緣層,形成彈性更強的端邊云協(xié)同架構,支撐行業(yè)數字化解決方案。
圖1
2.2 硬件平臺
采用主板+核心板+通用接口的設計:核心板+主板分離設計,將AI芯片與通用元器件獨立布局,屏蔽不同廠(chǎng)商AI芯片對外觀(guān)結構設計的影響;主要部件采取模塊化設計,預留硬盤(pán)倉,可按需增減配,提供差異化的硬件產(chǎn)品。
圖2
2.3 軟件平臺
邊緣智能網(wǎng)關(guān)融合5G網(wǎng)絡(luò )通信、IoT及視頻終端接入、云邊協(xié)同、運行管理、工具鏈&SDK等核心能力,為場(chǎng)景化的智能算法和應用的部署運行提供開(kāi)放的基礎軟硬件環(huán)境,并提供多元化的平臺接入能力。
圖3
2.4 數據通訊
邊緣智能網(wǎng)關(guān)常見(jiàn)的網(wǎng)絡(luò )通信方式包括有線(xiàn)、4G/5G無(wú)線(xiàn)、Wi-Fi無(wú)線(xiàn)三種,為控制設備成本,因地制宜選擇一種或兩種適合的傳輸方式即可,無(wú)須配置冗余的通信模組,避免造成資源浪費。
圖4
2.5 安全措施
模型加密:通過(guò)對稱(chēng)算法(AES128)加密模型,實(shí)現模型快速加解密。
模型授權:非對稱(chēng)算法生成授權文件,避免偽造和篡改。模型鑒權:通過(guò)磁盤(pán)掛載實(shí)現容器中的算法模型授權。
提供硬件加解密安全環(huán)境:根主密鑰可存放于芯片安全存儲空間,出廠(chǎng)燒寫(xiě)后無(wú)法讀取且不可更改。
支持GB35114要求的芯片級SM2、SM3、SM4算法。
支持芯片級RSA2048、DES、AES、SHA256算法。
2.6 靈活部署
根據算法廠(chǎng)家對不同運行時(shí)環(huán)境的需求,支持基礎鏡像、完整鏡像、獨立進(jìn)程三種部署方式。
圖5
2.7 邊緣推理引擎和中間件
智能分析是邊緣智能網(wǎng)關(guān)邊緣計算功能的核心部分,它從技術(shù)實(shí)現上通常包括視頻取流、解碼、抽幀、預處理、推理、后處理以及編碼輸出等主要環(huán)節。
圖6
2.8 異構硬件算法適配
針對AI算法在不同異構硬件平臺的邊緣智能網(wǎng)關(guān)移植工作量較大的問(wèn)題,通過(guò)AI算法移植工具鏈,提升模型的適配效率,構建邊緣模型的評估及版本迭代能力。
圖7
2.9 便攜式設計
面向施工工地安全監控場(chǎng)景,針對施工人員未戴安全帽、未穿熒光服等情況進(jìn)行實(shí)時(shí)監控和違規行為告警。設計拉桿箱式的監控箱,同時(shí)滿(mǎn)足“收納態(tài)、工作態(tài)、運輸態(tài)”需求,實(shí)現“開(kāi)箱即用,收箱即走”。
圖8
2.10 本地部署的數據駕駛艙
邊緣智能網(wǎng)關(guān)內嵌行業(yè)大屏功能,滿(mǎn)足客戶(hù)本地化、私有化部署的需求,實(shí)現單個(gè)設備即可形成小型自治平臺,形成面向石油石化、施工安全、智慧園區、軌道交通等業(yè)務(wù)場(chǎng)景的行業(yè)解決方案。
圖9
3 代表性及推廣價(jià)值
3.1 應用情況和效果
邊緣智能網(wǎng)關(guān)已在鐵塔視聯(lián)加油站、隧道、鐵路、工地、鄉鎮、社區、園區場(chǎng)景應用。截至2024年7月,涉及河南(3011.95萬(wàn)元)、云南(2270.77萬(wàn)元)、福建(1146.19萬(wàn)元)、貴州(119.14萬(wàn)元)等省行拓對外提供服務(wù)落地合同額達6548.05萬(wàn)元,四省已經(jīng)提供應用證明。
在鐵塔智能運維項目,基于有動(dòng)環(huán)監控設備基礎上,試點(diǎn)期間獲得合同額489.4萬(wàn)元,推進(jìn)運用6.3萬(wàn)臺邊緣網(wǎng)關(guān)設備,分布式計算節約投資646萬(wàn)/年,網(wǎng)絡(luò )成本節約1020萬(wàn)/年。
3.2 創(chuàng )新性
(1)降低鐵塔視聯(lián)業(yè)務(wù)服務(wù)成本30%
視頻本地處理,降低數據傳輸及存儲成本;本地智能計算,人防向技防升級,降低人力成本;中訓邊推,分布式邊緣計算采用SOC架構NPU芯片,降低算力成本。
(2)縮短智能算法和應用開(kāi)發(fā)、部署時(shí)間70%
抽幀中間件,大幅降低視頻處理開(kāi)銷(xiāo);開(kāi)放推理引擎,容器運行時(shí)環(huán)境降低應用開(kāi)發(fā)、部署及調試時(shí)間;算法適配工具鏈,縮減不同芯片架構下不同模型移植時(shí)間80%。
(3)提升差異化競爭力門(mén)檻
多協(xié)議設備接入:IPC(ONVIF/RTSP/GB28181)、IoT(Modbus/485)、局域網(wǎng)(Wi-Fi/LAN);多元化云邊協(xié)同:AIoT(MQTT)、鐵塔運監(IpSec/Http)、算法倉(IEF)、鐵塔視聯(lián)(GB28181級聯(lián))。
(4)批量化行業(yè)賦能
鐵塔視聯(lián),20+地市的加油站、隧道、鐵路、工地、園區場(chǎng)景賦能;智能運維,運維數智化、精益化管理水平提升。
3.3 技術(shù)的示范效應
(1)決策效率提升:模塊化硬件設計和開(kāi)放式軟件架構,多平臺、多協(xié)議兼容性設計,提升了不同行業(yè)解決方案選型和決策效率。(2)生產(chǎn)效率提升:通過(guò)配套工具鏈及SDK提升算法模型開(kāi)發(fā)效率70%、部署和運行效率30%。(3)市場(chǎng)相應速度提升:形成了“一套邊緣設備即為一個(gè)整體解決方案”的商業(yè)推廣模式,針對不斷碎片化的客戶(hù)需求,能夠快速開(kāi)發(fā)邊緣側AI算法應用,支撐POC到商用的快速響應。(4)交付部署速度提升:三種容器運行時(shí)框架(基礎鏡像、完整鏡像、獨立進(jìn)程)和智算編排系統,支撐行業(yè)算法和應用的快速部署。
3.4 方案成熟性
(1)產(chǎn)品與解決方案:邊緣智能網(wǎng)關(guān)產(chǎn)品創(chuàng )新成果通過(guò)了中國信通院泰爾實(shí)驗室評估測試,內容包括:產(chǎn)品基本規格、外觀(guān)結構、網(wǎng)絡(luò )通信功能、視頻接入及處理能力、設備管理功能測試視、音頻處理功能、操作系統環(huán)境、適應性及電磁兼容性。(2)數據與算法:通過(guò)對接鐵塔AIoT和視聯(lián)平臺實(shí)現算法和數據共享,關(guān)鍵算法準確率提升至95%。(3)可靠性:設計要求邊緣智能網(wǎng)關(guān)使用壽命不低于5年,MTBF不低于30000小時(shí)。(4)耐用性:符合GB/T2423環(huán)境適應性要求。(5)安全性:支持芯片級RSA2048、DES、AES、SHA256算法,支持公安部GB35114要求。
3.5 商業(yè)價(jià)值
(1)河南鐵塔:在智慧社區、加油站、施工工地、城市隧道實(shí)現規模推廣,累計支撐銷(xiāo)售額3011.95萬(wàn)元,節省成本529.8萬(wàn)元。
(2)云南鐵塔:在智慧邊境、邊界立體化防控場(chǎng)景中實(shí)現規模推廣,解決了政法客戶(hù)邊境防控監管不及時(shí)、無(wú)法取證等實(shí)際問(wèn)題,累計支撐銷(xiāo)售額2270.88萬(wàn)元。
(3)福建鐵塔:在智慧鄉鎮、智慧工廠(chǎng)和鐵路護路場(chǎng)景中實(shí)現規模推廣,在駐地網(wǎng)運維、智慧樓宇解決了生產(chǎn)與運營(yíng)過(guò)程中人工監控效率低、處理響應時(shí)延長(cháng)、算控同步、區域系統自治等實(shí)際問(wèn)題,累計支撐銷(xiāo)售額1146.19萬(wàn)元,節省成本約20%。
(4)河南智能維護:鄭州市分公司代維費用由288.2萬(wàn)元/月下降至257.1萬(wàn)元/月,維護成本下降約10%,節約的維護成本用于增加智能維護后臺稽核人員以及通過(guò)視頻檢查基站現場(chǎng)質(zhì)量人員。
3.6 社會(huì )價(jià)值
(1)行業(yè)數字化轉型:支撐中國鐵塔變“通信塔”為“數字塔“的戰略,提升公司云-邊-端整體解決方案的市場(chǎng)競爭力和行業(yè)影響力,促進(jìn)各行業(yè)數字化轉型。(2)低功耗:基于端邊云協(xié)同方案,可減少至少90%的網(wǎng)絡(luò )帶寬;4款網(wǎng)關(guān)設備滿(mǎn)載功率約20-30W,且采用主動(dòng)散熱設計,同配置服務(wù)器約200W,對比能耗減少80%以上。(3)低成本:中訓邊推方案通過(guò)低成本邊緣推理芯片可節省30%的智算資源;4G/5G流量卡接入公網(wǎng),平均約為30-50元/月,使用專(zhuān)線(xiàn)的邊緣智能設備平均約為500元/月,對比成本減少90%以上。(4)生產(chǎn)效率提升:工具及SDK提升算法模型開(kāi)發(fā)效率70%、部署和運行效率30%。(5)推進(jìn)信創(chuàng ):邊緣智能網(wǎng)關(guān)產(chǎn)品主要采用瑞芯微系列SOC芯片,并支持寒武紀算力卡擴展,大力支撐芯片國產(chǎn)化替代戰略。
摘自《自動(dòng)化博覽》2025年2月刊