1 項目目標和概述
1.1 挑戰
針對行業多樣化的邊緣智能業務場景,運用分布式計算、邊緣計算、AI、視頻監控、IoT、5G等先進技術,打造具有數字化能力的新型基礎設施,增強場景化、數智化能力,將“通信塔”升級為“數字塔”,服務社會各行業的數字化轉型。
(1)端云方案弊端
視聯業務使用100M云專線,單攝像機500元/月,云存儲、網絡帶寬費用較高;針對實時監控、工業物聯等敏感性業務,云端檢測并回傳數據時延較高;中心云AI推理服務器成本較高;面對高度關注信息安全的場景,要求本地業務自治、視頻數據不出園區。
(2)業務不同軟硬件需求不同
為適應全國范圍內不同業務場景的需求,需針對邊緣智能網關產品做差異化功能定制開發,提供不同型號的軟硬件產品解決方案;邊緣設備計算資源受限,需在有限的計算資源內提升視頻編解碼和壓縮效率;端邊設備協議多樣,為邊緣智能網關在通信協議統一提出挑戰。
(3)云平臺多標準各異
應用場景的算法來自于不同的廠商和平臺,其加載和運行方式各不相同,對邊緣智能網關AI算法的部署、管理、適配和授權等方面帶來了技術難點;隨著行業產品不斷豐富,云平臺支撐的業務場景逐漸呈現差異化、個性化,同時受限于無線、有線網絡差異,對云邊協同、遠程運維等帶來了新的技術問題。
(4)算法框架差異大適配難
當前邊緣智能網關存在多種異構硬件產品(瑞芯微、海思、英偉達),不同硬件平臺在底層算子支持、計算框架等方面存在較大差異,算法模型需要針對性的移植適配;算法模型在不同的硬件平臺適配后,缺少量化精度損失、性能、模型大小等指標對比數據。
(5)需求碎片化開發周期長
隨著網關產品系列的不斷擴充和迭代,硬件平臺由不同廠商提供,功能界面各自獨立開發,實現參數配置、狀態監控、視頻/數據調閱等操作界面和流程的統一,為本項目的一項重要技術挑戰;針對不斷碎片化的客戶需求,如何快速開發邊緣側AI算法應用,如何從POC到商用快速搶占市場,為本項目的另一項新的挑戰。
1.2 目標和總體概述
針對行業多樣化的邊緣智能業務場景,運用分布式計算、邊緣計算、AI、視頻監控、IoT、5G等先進技術,打造具有數字化能力的新型基礎設施,增強場景化、數智化能力,將“通信塔”升級為“數字塔”,服務社會各行業的數字化轉型。
(1)分布式邊緣計算降低業務服務成本和時延
本地處理,降低數據傳輸及存儲成本;中訓邊推,降低算力使用成本;邊緣計算,降低業務時延,本地處理快速響應。
(2)打造差異化產品競爭力
視頻監控+邊緣AI+5G特色解決方案;算力卡、射頻等硬件模塊化設計的邊緣智能網關;物聯網設備統一接入能力。
(3)快速滿足智能化場景需求
差異化的容器化運行時環境及算力編排底座;統一的視頻抽幀處理、AI推理和告警上報開發框架;AI算法開發和移植效率提升。
(4)構建多元化的行業云平臺對接能力
針對視聯及維護業務的平臺對接能力;4G/5G無線、WAN有線,HTTP、GB28181、MQTT多協議接入能力。
2 案例介紹
2.1 系統架構
基于邊緣智能網關的視頻業務系統,在前端攝像機和中心云平臺之間增加了具有分布式智能計算能力的邊緣層,形成彈性更強的端邊云協同架構,支撐行業數字化解決方案。
圖1
2.2 硬件平臺
采用主板+核心板+通用接口的設計:核心板+主板分離設計,將AI芯片與通用元器件獨立布局,屏蔽不同廠商AI芯片對外觀結構設計的影響;主要部件采取模塊化設計,預留硬盤倉,可按需增減配,提供差異化的硬件產品。
圖2
2.3 軟件平臺
邊緣智能網關融合5G網絡通信、IoT及視頻終端接入、云邊協同、運行管理、工具鏈&SDK等核心能力,為場景化的智能算法和應用的部署運行提供開放的基礎軟硬件環境,并提供多元化的平臺接入能力。
圖3
2.4 數據通訊
邊緣智能網關常見的網絡通信方式包括有線、4G/5G無線、Wi-Fi無線三種,為控制設備成本,因地制宜選擇一種或兩種適合的傳輸方式即可,無須配置冗余的通信模組,避免造成資源浪費。
圖4
2.5 安全措施
模型加密:通過對稱算法(AES128)加密模型,實現模型快速加解密。
模型授權:非對稱算法生成授權文件,避免偽造和篡改。模型鑒權:通過磁盤掛載實現容器中的算法模型授權。
提供硬件加解密安全環境:根主密鑰可存放于芯片安全存儲空間,出廠燒寫后無法讀取且不可更改。
支持GB35114要求的芯片級SM2、SM3、SM4算法。
支持芯片級RSA2048、DES、AES、SHA256算法。
2.6 靈活部署
根據算法廠家對不同運行時環境的需求,支持基礎鏡像、完整鏡像、獨立進程三種部署方式。
圖5
2.7 邊緣推理引擎和中間件
智能分析是邊緣智能網關邊緣計算功能的核心部分,它從技術實現上通常包括視頻取流、解碼、抽幀、預處理、推理、后處理以及編碼輸出等主要環節。
圖6
2.8 異構硬件算法適配
針對AI算法在不同異構硬件平臺的邊緣智能網關移植工作量較大的問題,通過AI算法移植工具鏈,提升模型的適配效率,構建邊緣模型的評估及版本迭代能力。
圖7
2.9 便攜式設計
面向施工工地安全監控場景,針對施工人員未戴安全帽、未穿熒光服等情況進行實時監控和違規行為告警。設計拉桿箱式的監控箱,同時滿足“收納態、工作態、運輸態”需求,實現“開箱即用,收箱即走”。
圖8
2.10 本地部署的數據駕駛艙
邊緣智能網關內嵌行業大屏功能,滿足客戶本地化、私有化部署的需求,實現單個設備即可形成小型自治平臺,形成面向石油石化、施工安全、智慧園區、軌道交通等業務場景的行業解決方案。
圖9
3 代表性及推廣價值
3.1 應用情況和效果
邊緣智能網關已在鐵塔視聯加油站、隧道、鐵路、工地、鄉鎮、社區、園區場景應用。截至2024年7月,涉及河南(3011.95萬元)、云南(2270.77萬元)、福建(1146.19萬元)、貴州(119.14萬元)等省行拓對外提供服務落地合同額達6548.05萬元,四省已經提供應用證明。
在鐵塔智能運維項目,基于有動環監控設備基礎上,試點期間獲得合同額489.4萬元,推進運用6.3萬臺邊緣網關設備,分布式計算節約投資646萬/年,網絡成本節約1020萬/年。
3.2 創新性
(1)降低鐵塔視聯業務服務成本30%
視頻本地處理,降低數據傳輸及存儲成本;本地智能計算,人防向技防升級,降低人力成本;中訓邊推,分布式邊緣計算采用SOC架構NPU芯片,降低算力成本。
(2)縮短智能算法和應用開發、部署時間70%
抽幀中間件,大幅降低視頻處理開銷;開放推理引擎,容器運行時環境降低應用開發、部署及調試時間;算法適配工具鏈,縮減不同芯片架構下不同模型移植時間80%。
(3)提升差異化競爭力門檻
多協議設備接入:IPC(ONVIF/RTSP/GB28181)、IoT(Modbus/485)、局域網(Wi-Fi/LAN);多元化云邊協同:AIoT(MQTT)、鐵塔運監(IpSec/Http)、算法倉(IEF)、鐵塔視聯(GB28181級聯)。
(4)批量化行業賦能
鐵塔視聯,20+地市的加油站、隧道、鐵路、工地、園區場景賦能;智能運維,運維數智化、精益化管理水平提升。
3.3 技術的示范效應
(1)決策效率提升:模塊化硬件設計和開放式軟件架構,多平臺、多協議兼容性設計,提升了不同行業解決方案選型和決策效率。(2)生產效率提升:通過配套工具鏈及SDK提升算法模型開發效率70%、部署和運行效率30%。(3)市場相應速度提升:形成了“一套邊緣設備即為一個整體解決方案”的商業推廣模式,針對不斷碎片化的客戶需求,能夠快速開發邊緣側AI算法應用,支撐POC到商用的快速響應。(4)交付部署速度提升:三種容器運行時框架(基礎鏡像、完整鏡像、獨立進程)和智算編排系統,支撐行業算法和應用的快速部署。
3.4 方案成熟性
(1)產品與解決方案:邊緣智能網關產品創新成果通過了中國信通院泰爾實驗室評估測試,內容包括:產品基本規格、外觀結構、網絡通信功能、視頻接入及處理能力、設備管理功能測試視、音頻處理功能、操作系統環境、適應性及電磁兼容性。(2)數據與算法:通過對接鐵塔AIoT和視聯平臺實現算法和數據共享,關鍵算法準確率提升至95%。(3)可靠性:設計要求邊緣智能網關使用壽命不低于5年,MTBF不低于30000小時。(4)耐用性:符合GB/T2423環境適應性要求。(5)安全性:支持芯片級RSA2048、DES、AES、SHA256算法,支持公安部GB35114要求。
3.5 商業價值
(1)河南鐵塔:在智慧社區、加油站、施工工地、城市隧道實現規模推廣,累計支撐銷售額3011.95萬元,節省成本529.8萬元。
(2)云南鐵塔:在智慧邊境、邊界立體化防控場景中實現規模推廣,解決了政法客戶邊境防控監管不及時、無法取證等實際問題,累計支撐銷售額2270.88萬元。
(3)福建鐵塔:在智慧鄉鎮、智慧工廠和鐵路護路場景中實現規模推廣,在駐地網運維、智慧樓宇解決了生產與運營過程中人工監控效率低、處理響應時延長、算控同步、區域系統自治等實際問題,累計支撐銷售額1146.19萬元,節省成本約20%。
(4)河南智能維護:鄭州市分公司代維費用由288.2萬元/月下降至257.1萬元/月,維護成本下降約10%,節約的維護成本用于增加智能維護后臺稽核人員以及通過視頻檢查基站現場質量人員。
3.6 社會價值
(1)行業數字化轉型:支撐中國鐵塔變“通信塔”為“數字塔“的戰略,提升公司云-邊-端整體解決方案的市場競爭力和行業影響力,促進各行業數字化轉型。(2)低功耗:基于端邊云協同方案,可減少至少90%的網絡帶寬;4款網關設備滿載功率約20-30W,且采用主動散熱設計,同配置服務器約200W,對比能耗減少80%以上。(3)低成本:中訓邊推方案通過低成本邊緣推理芯片可節省30%的智算資源;4G/5G流量卡接入公網,平均約為30-50元/月,使用專線的邊緣智能設備平均約為500元/月,對比成本減少90%以上。(4)生產效率提升:工具及SDK提升算法模型開發效率70%、部署和運行效率30%。(5)推進信創:邊緣智能網關產品主要采用瑞芯微系列SOC芯片,并支持寒武紀算力卡擴展,大力支撐芯片國產化替代戰略。
摘自《自動化博覽》2025年2月刊