毛片网站在线观看-毛片网站在线-毛片网站有哪些-毛片网站视频-女生脱衣服app-女色综合

ABB
關(guān)注中國(guó)自動(dòng)化產(chǎn)業(yè)發(fā)展的先行者!
CAIAC 2025
2025工業(yè)安全大會(huì)
OICT公益講堂
當(dāng)前位置:首頁(yè) >> 資訊 >> 行業(yè)資訊

資訊頻道

網(wǎng)絡(luò)大模型賦能工業(yè)互聯(lián)網(wǎng)云邊端協(xié)同調(diào)度
  • 點(diǎn)擊數(shù):362     發(fā)布時(shí)間:2025-03-10 18:19:17
  • 分享到:
當(dāng)前,如何充分利用異構(gòu)化、碎片化、失衡化的算力資源滿足差異化的智能工業(yè)任務(wù)要求,是工業(yè)互聯(lián)網(wǎng)的智能化發(fā)展過(guò)程中急需解決的難題。本文聚焦工業(yè)互聯(lián)網(wǎng)的云邊端協(xié)同調(diào)度,突破傳統(tǒng)基于小模型的調(diào)度策略,深入探討了網(wǎng)絡(luò)大模型在該領(lǐng)域的應(yīng)用潛能。首先,從云邊端的數(shù)據(jù)異構(gòu)、算力異構(gòu)、算法異構(gòu)三個(gè)維度深入剖析了現(xiàn)存挑戰(zhàn);然后,結(jié)合NetGPT、NetLLM和LAMBO等典型網(wǎng)絡(luò)大模型的實(shí)際應(yīng)用案例,探討了它們?cè)诮档退懔Α?yōu)化網(wǎng)絡(luò)任務(wù)和提高效率等方面的顯著優(yōu)勢(shì);最后,進(jìn)一步提出了多模態(tài)模型融合、大模型云邊端協(xié)同部署、行業(yè)定制模型開(kāi)發(fā)等未來(lái)發(fā)展方向,論述了實(shí)施難點(diǎn)及潛在解決方案,旨在為工業(yè)互聯(lián)網(wǎng)的智能化演進(jìn)提供新的思路與策略。

中國(guó)科學(xué)院沈陽(yáng)自動(dòng)化研究所李安順,許馳,曾鵬

1 概述

在數(shù)字化轉(zhuǎn)型浪潮下,工業(yè)互聯(lián)網(wǎng)作為新一代信息技術(shù)與工業(yè)制造技術(shù)深度融合的產(chǎn)物,正重塑全球工業(yè)格局。它將互聯(lián)網(wǎng)、大數(shù)據(jù)、人工智能等前沿技術(shù)融入工業(yè)生產(chǎn)全流程,為制造業(yè)智能化升級(jí)注入強(qiáng)大動(dòng)力。然而,面向智能化升級(jí)的迫切要求,工業(yè)互聯(lián)網(wǎng)仍面臨諸多嚴(yán)峻挑戰(zhàn)。

首先,在數(shù)據(jù)層面,工業(yè)場(chǎng)景數(shù)據(jù)海量、多源且異構(gòu)。各類生產(chǎn)設(shè)備、傳感器及管理系統(tǒng)產(chǎn)生的數(shù)據(jù)格式多樣,格式涵蓋結(jié)構(gòu)化生產(chǎn)參數(shù)、半結(jié)構(gòu)化日志文件和非結(jié)構(gòu)化圖像、視頻等。不同來(lái)源數(shù)據(jù)接口協(xié)議和存儲(chǔ)格式各異,導(dǎo)致數(shù)據(jù)整合、清洗與分析難度極大,數(shù)據(jù)價(jià)值難以充分挖掘。

其次,在算力層面,工業(yè)互聯(lián)網(wǎng)涉及從云、邊、端廣泛部署的計(jì)算資源,各層級(jí)算力差異顯著。云端計(jì)算能力強(qiáng)大,但數(shù)據(jù)傳輸延遲較高,適用于大規(guī)模非實(shí)時(shí)計(jì)算任務(wù);邊緣設(shè)備靠近數(shù)據(jù)源,能滿足部分實(shí)時(shí)性需求,但受硬件條件限制,算力相對(duì)薄弱。這種算力異構(gòu)與不均衡嚴(yán)重制約整體計(jì)算效率。

最后,在算法層面,工業(yè)生產(chǎn)涵蓋設(shè)備故障預(yù)測(cè)、生產(chǎn)流程優(yōu)化、供應(yīng)鏈管理等復(fù)雜業(yè)務(wù)場(chǎng)景,各場(chǎng)景對(duì)算法要求不同,且不同算法協(xié)同困難,難以實(shí)現(xiàn)全局最優(yōu)決策。

面向上述挑戰(zhàn),迫切需要開(kāi)展工業(yè)互聯(lián)網(wǎng)的云邊端協(xié)同調(diào)度,如圖1所示。然而,傳統(tǒng)的優(yōu)化算法及小模型機(jī)器學(xué)習(xí),并不足以解決復(fù)雜的網(wǎng)絡(luò)系統(tǒng)調(diào)度問(wèn)題,成為當(dāng)前研究熱點(diǎn)。以大模型為代表的生成式人工智能,憑借強(qiáng)大的學(xué)習(xí)、泛化學(xué)習(xí)能力,為工業(yè)互聯(lián)網(wǎng)云邊端協(xié)同調(diào)度提供了新的思路。將網(wǎng)絡(luò)大模型與工業(yè)互聯(lián)網(wǎng)相結(jié)合意義重大。大模型不僅可深度分析工業(yè)互聯(lián)網(wǎng)中的海量異構(gòu)數(shù)據(jù),挖掘潛在規(guī)律和趨勢(shì),為工業(yè)決策提供更具前瞻性和精準(zhǔn)性的支持,還能根據(jù)業(yè)務(wù)需求和算力條件,智能優(yōu)化算法選擇與組合,實(shí)現(xiàn)高效任務(wù)調(diào)度和資源分配。其中,大模型可協(xié)調(diào)云邊端算力資源,根據(jù)任務(wù)實(shí)時(shí)需求動(dòng)態(tài)分配計(jì)算任務(wù),提高整體算力利用率,降低能耗。

image.png

圖1 工業(yè)互聯(lián)網(wǎng)云邊端協(xié)同

本文聚焦工業(yè)互聯(lián)網(wǎng)云邊端協(xié)同調(diào)度,綜合考量數(shù)據(jù)、算力、算法異構(gòu)等因素,深入探討網(wǎng)絡(luò)大模型的應(yīng)用。首先,本文剖析了云邊端協(xié)同調(diào)度的挑戰(zhàn),然后闡述了NetGPT、NetLLM和LAMBO等典型網(wǎng)絡(luò)大模型及其應(yīng)用,探討了不同網(wǎng)絡(luò)大模型的優(yōu)勢(shì),最后提出了未來(lái)發(fā)展方向并分析了實(shí)施難點(diǎn)與解決方案。

2 基于網(wǎng)絡(luò)大模型的云邊端協(xié)同調(diào)度分析

2.1 工業(yè)互聯(lián)網(wǎng)數(shù)據(jù)異構(gòu)難題與大模型破局

在工業(yè)互聯(lián)網(wǎng)領(lǐng)域,數(shù)據(jù)生態(tài)極為復(fù)雜,數(shù)據(jù)來(lái)源廣泛且多樣。不同設(shè)備和系統(tǒng)所采用的數(shù)據(jù)采集協(xié)議、格式存在巨大差異,結(jié)構(gòu)化數(shù)據(jù)與非結(jié)構(gòu)化數(shù)據(jù)同時(shí)存在。以汽車制造生產(chǎn)線為例,傳感器、機(jī)器人、數(shù)控機(jī)床等設(shè)備產(chǎn)生的數(shù)據(jù),要進(jìn)行統(tǒng)一處理難度極大。在數(shù)據(jù)融合過(guò)程中,繁瑣的協(xié)議轉(zhuǎn)換和格式適配工作,會(huì)嚴(yán)重拉低數(shù)據(jù)處理的效率。同時(shí),隨著工業(yè)設(shè)備數(shù)量不斷攀升,數(shù)據(jù)量呈爆發(fā)式增長(zhǎng)態(tài)勢(shì)。傳統(tǒng)的數(shù)據(jù)處理方法以及傳統(tǒng)AI模型,由于其自身局限性,在特征提取和學(xué)習(xí)能力上較為薄弱,已難以滿足工業(yè)互聯(lián)網(wǎng)對(duì)數(shù)據(jù)深度分析和智能決策的要求。

與之形成鮮明對(duì)比的是,網(wǎng)絡(luò)大模型憑借其強(qiáng)大的特征提取和學(xué)習(xí)能力,能夠高效地整合并處理多種異構(gòu)數(shù)據(jù)。大模型可以快速理解和分析不同格式、不同協(xié)議的數(shù)據(jù),減少了數(shù)據(jù)處理過(guò)程中的繁瑣轉(zhuǎn)換環(huán)節(jié)。這不僅提升了數(shù)據(jù)處理效率,還為云邊端協(xié)同調(diào)度提供了全面、準(zhǔn)確的數(shù)據(jù)支持,有力地推動(dòng)了工業(yè)互聯(lián)網(wǎng)智能化發(fā)展。

2.2 云邊端算力異構(gòu)困境下的大模型的協(xié)同賦能

在工業(yè)互聯(lián)網(wǎng)體系里,云邊端設(shè)備算力呈現(xiàn)出顯著的異構(gòu)特性。云端擁有充沛的計(jì)算資源,具備強(qiáng)大的運(yùn)算能力。然而,由于數(shù)據(jù)傳輸需要經(jīng)過(guò)網(wǎng)絡(luò)鏈路,不可避免地存在較高的通信時(shí)延,導(dǎo)致其難以滿足工業(yè)任務(wù)嚴(yán)苛的實(shí)時(shí)性要求。例如,工業(yè)生產(chǎn)線上毫秒級(jí)響應(yīng)的設(shè)備控制與故障預(yù)警等場(chǎng)景。與之相對(duì),邊緣設(shè)備雖然在數(shù)據(jù)傳輸上具有低時(shí)延的優(yōu)勢(shì),能夠快速地對(duì)本地?cái)?shù)據(jù)做出反應(yīng),但其硬件配置相對(duì)受限,算力單一且資源有限,難以獨(dú)立承擔(dān)復(fù)雜的計(jì)算任務(wù),如大規(guī)模數(shù)據(jù)的深度分析與復(fù)雜模型的訓(xùn)練。在生產(chǎn)高峰期,這種云邊端算力的不均衡問(wèn)題愈發(fā)凸顯。傳統(tǒng)的靜態(tài)資源分配策略缺乏靈活性與智能性,常導(dǎo)致邊緣設(shè)備因任務(wù)量過(guò)載而出現(xiàn)任務(wù)積壓,無(wú)法及時(shí)處理數(shù)據(jù);與此同時(shí),云端卻存在大量資源閑置未被充分利用,造成資源的極大浪費(fèi),嚴(yán)重制約了工業(yè)生產(chǎn)效率的提升和智能化發(fā)展進(jìn)程。

網(wǎng)絡(luò)大模型的出現(xiàn)為解決這一難題提供了創(chuàng)新思路與有效方案。與傳統(tǒng)機(jī)器學(xué)習(xí)小模型相比,網(wǎng)絡(luò)大模型在結(jié)構(gòu)設(shè)計(jì)和算法優(yōu)化上展現(xiàn)出獨(dú)特優(yōu)勢(shì)。它能夠依據(jù)不同的算力條件,動(dòng)態(tài)調(diào)整自身的運(yùn)行模式,實(shí)現(xiàn)高效運(yùn)行。在邊緣側(cè),大模型可利用其輕量化的結(jié)構(gòu)和高效算法,快速對(duì)海量原始數(shù)據(jù)進(jìn)行預(yù)處理和初步分析,篩選出關(guān)鍵信息,極大地減少了向云端傳輸?shù)臄?shù)據(jù)量,降低了網(wǎng)絡(luò)帶寬壓力和傳輸時(shí)延。而在云端,憑借其強(qiáng)大的計(jì)算能力,大模型可開(kāi)展深度模型訓(xùn)練和復(fù)雜決策計(jì)算,挖掘數(shù)據(jù)深層價(jià)值。通過(guò)這種云邊端協(xié)同的方式,網(wǎng)絡(luò)大模型可望實(shí)現(xiàn)云邊算力的合理分配與協(xié)同利用,有效克服了傳統(tǒng)機(jī)器學(xué)習(xí)在應(yīng)對(duì)云邊算力異構(gòu)問(wèn)題時(shí)的局限性,為工業(yè)互聯(lián)網(wǎng)的智能化升級(jí)提供了堅(jiān)實(shí)的技術(shù)保障。

2.3 工業(yè)互聯(lián)網(wǎng)算法困局與大模型協(xié)同優(yōu)化

工業(yè)互聯(lián)網(wǎng)體系復(fù)雜,業(yè)務(wù)場(chǎng)景豐富多樣,其涵蓋生產(chǎn)制造、設(shè)備維護(hù)、供應(yīng)鏈管理等多個(gè)領(lǐng)域。不同場(chǎng)景對(duì)調(diào)度算法有著差異化的需求,例如在設(shè)備故障預(yù)測(cè)場(chǎng)景中,更側(cè)重于基于歷史數(shù)據(jù)和設(shè)備運(yùn)行狀態(tài)進(jìn)行精準(zhǔn)的故障概率推算;而在生產(chǎn)任務(wù)調(diào)度場(chǎng)景,則著重于在有限資源下,依據(jù)訂單需求、生產(chǎn)流程等因素實(shí)現(xiàn)生產(chǎn)任務(wù)的高效分配。更為復(fù)雜的是,這些不同的算法之間存在相互干擾的可能性。

傳統(tǒng)的調(diào)度方法,包括基于規(guī)則的調(diào)度策略以及傳統(tǒng)機(jī)器學(xué)習(xí)所衍生的調(diào)度算法,在如此復(fù)雜的情況下暴露出諸多局限性。一方面,傳統(tǒng)方法難以對(duì)眾多不同類型算法的內(nèi)在關(guān)系進(jìn)行有效協(xié)調(diào)。由于其缺乏對(duì)各類算法深層次理解和動(dòng)態(tài)調(diào)整能力,在實(shí)際應(yīng)用中,當(dāng)多個(gè)算法同時(shí)運(yùn)行時(shí),往往會(huì)出現(xiàn)顧此失彼的情況,無(wú)法實(shí)現(xiàn)系統(tǒng)整體的最優(yōu)調(diào)度。另一方面,傳統(tǒng)方法在面對(duì)場(chǎng)景變化時(shí),缺乏自適應(yīng)性和靈活性,難以快速調(diào)整算法以適應(yīng)新的業(yè)務(wù)需求和約束條件。

網(wǎng)絡(luò)大模型憑借其強(qiáng)大的自適應(yīng)學(xué)習(xí)能力,為解決上述難題提供了新的途徑。大模型能夠自動(dòng)學(xué)習(xí)不同算法的特點(diǎn)、適用條件以及它們之間潛在的相互作用關(guān)系。通過(guò)對(duì)大量歷史數(shù)據(jù)和實(shí)時(shí)信息的深度挖掘與分析,大模型可以進(jìn)行智能決策,在不同業(yè)務(wù)場(chǎng)景下精準(zhǔn)選擇最合適的算法,并實(shí)現(xiàn)多算法的有機(jī)融合。這種算法協(xié)同優(yōu)化機(jī)制,不僅提高了云邊協(xié)同調(diào)度的整體效率,還增強(qiáng)了調(diào)度結(jié)果的準(zhǔn)確性和穩(wěn)定性。在實(shí)際工業(yè)生產(chǎn)中,大模型能夠顯著提升生產(chǎn)效率、降低成本,有效克服傳統(tǒng)方法和傳統(tǒng)機(jī)器學(xué)習(xí)在工業(yè)互聯(lián)網(wǎng)調(diào)度應(yīng)用中的瓶頸。

3 典型網(wǎng)絡(luò)大模型及其應(yīng)用

3.1 NetGPT大模型

NetGPT是一款基于Transformer框架的網(wǎng)絡(luò)大模型,旨在攻克網(wǎng)絡(luò)流量建模與網(wǎng)絡(luò)任務(wù)優(yōu)化難題。在網(wǎng)絡(luò)流量處理與網(wǎng)絡(luò)任務(wù)執(zhí)行中,傳統(tǒng)方法面臨數(shù)據(jù)、算力、算法異構(gòu)的嚴(yán)峻挑戰(zhàn)。數(shù)據(jù)異構(gòu)方面,網(wǎng)絡(luò)流量模式多樣,不同協(xié)議下流量頭部與負(fù)載語(yǔ)法結(jié)構(gòu)差異大,加密流量增加了數(shù)據(jù)語(yǔ)義整合難度,且不同網(wǎng)絡(luò)任務(wù)數(shù)據(jù)處理需求不同,加劇了復(fù)雜性。算力異構(gòu)方面,傳統(tǒng)針對(duì)特定任務(wù)構(gòu)建模型,小樣本任務(wù)下模型訓(xùn)練不充分,開(kāi)發(fā)成本高且算力利用低效,不同任務(wù)算力需求和計(jì)算方式差異大,調(diào)度協(xié)同困難。算法異構(gòu)方面,不同網(wǎng)絡(luò)任務(wù)算法差異大,缺乏統(tǒng)一標(biāo)準(zhǔn)和接口,協(xié)同工作和整合困難,影響整體性能。

image.png

圖2 NetGPT架構(gòu)

圖2所示是NetGPT的基本架構(gòu)。處理數(shù)據(jù)異構(gòu)時(shí),采用基于十六進(jìn)制的通用編碼策略統(tǒng)一處理不同模式流量,重構(gòu)詞匯表保留復(fù)雜語(yǔ)義,同時(shí)兼顧明密文流量,實(shí)現(xiàn)多源異構(gòu)數(shù)據(jù)語(yǔ)義整合。應(yīng)對(duì)算力異構(gòu),預(yù)訓(xùn)練階段使用多場(chǎng)景無(wú)標(biāo)簽數(shù)據(jù)集增強(qiáng)泛化能力以減少算力的浪費(fèi);微調(diào)階段通過(guò)打亂頭部字段等操作優(yōu)化數(shù)據(jù)處理,提升單向?qū)W習(xí)性能,緩解小樣本問(wèn)題,提高算力利用率。針對(duì)算法異構(gòu),建立統(tǒng)一算法框架整合不同算法模塊,實(shí)現(xiàn)數(shù)據(jù)和參數(shù)共享,設(shè)計(jì)標(biāo)準(zhǔn)化接口,提升算法兼容性和整體性能。

3.2 NetLLM大模型

NetLLM大模型結(jié)合大語(yǔ)言模型(LLMs)可解決數(shù)據(jù)、算力和算法異構(gòu)問(wèn)題突出。數(shù)據(jù)異構(gòu)時(shí),網(wǎng)絡(luò)任務(wù)輸入模態(tài)多樣,與LLMs的純文本輸入不匹配,像ABR(自適應(yīng)比特率流)任務(wù)中的網(wǎng)絡(luò)數(shù)據(jù)就難以被LLMs處理。算力異構(gòu)時(shí),設(shè)計(jì)適配的DNN架構(gòu)困難且成本高,不同任務(wù)單獨(dú)建模導(dǎo)致算力分散,LLMs的應(yīng)用更使問(wèn)題加劇,CJS(集群作業(yè)調(diào)度)任務(wù)就是典型例子。算法異構(gòu)讓不同任務(wù)的算法協(xié)同困難,缺乏統(tǒng)一標(biāo)準(zhǔn)和接口,ABR與CJS任務(wù)的算法就難以協(xié)同。

image.png

圖3所示是NetLLM的基本架構(gòu)。處理數(shù)據(jù)異構(gòu)時(shí),其多模態(tài)編碼器能把多模態(tài)數(shù)據(jù)轉(zhuǎn)成LLM可處理的形式,VP(視口預(yù)測(cè))任務(wù)借助該編碼器,MAE(平均絕對(duì)誤差)相比提示學(xué)習(xí)方案降低19.7%。應(yīng)對(duì)算力異構(gòu),NetLLM用網(wǎng)絡(luò)頭替代默認(rèn)語(yǔ)言建模頭,提升算力效率,同時(shí)DD-LRNA(數(shù)據(jù)驅(qū)動(dòng)的低秩網(wǎng)絡(luò)適配)方案降低LLMs獲取知識(shí)成本,減少訓(xùn)練時(shí)間和GPU內(nèi)存消耗,ABR和CJS任務(wù)的訓(xùn)練時(shí)間分別減少51.1%和37.7%,GPU內(nèi)存消耗分別降低60.9%和15.1%。針對(duì)算法異構(gòu),NetLLM構(gòu)建統(tǒng)一框架、設(shè)計(jì)標(biāo)準(zhǔn)化接口,提升算法兼容性與整體性能。在實(shí)際應(yīng)用中,NetLLM在VP、ABR、CJS任務(wù)上優(yōu)勢(shì)明顯,分別降低MAE10.1%~36.6%、提升QoE14.5%~36.6%、減少JCT6.8%~41.3%,充分展現(xiàn)出其解決網(wǎng)絡(luò)異構(gòu)問(wèn)題的能力。

3.3 LAMBO大模型

image.png

圖4 LAMBO架構(gòu)

LAMBO同樣是一款基于Transformer架構(gòu)的大模型,如圖4所示。但是,LAMBO是專門(mén)面向邊緣智能卸載的框架,旨在解決傳統(tǒng)邊緣智能卸載架構(gòu)面臨的異構(gòu)約束、部分感知、不確定泛化和缺乏可處理性等難題,推動(dòng)邊緣智能領(lǐng)域的發(fā)展。在傳統(tǒng)的邊緣智能卸載過(guò)程中,系統(tǒng)面臨數(shù)據(jù)、算力和算法異構(gòu)的多重挑戰(zhàn)。

針對(duì)數(shù)據(jù)異構(gòu)問(wèn)題,LAMBO采用輸入嵌入(Input Embedding,IE)技術(shù),將各種異構(gòu)輸入信息(如用戶設(shè)備的信道狀態(tài)、任務(wù)需求、邊緣服務(wù)器資源約束等)以及任務(wù)提示(如最小延遲或最小能耗)轉(zhuǎn)化為統(tǒng)一的歸一化特征表示,從而實(shí)現(xiàn)復(fù)雜約束條件下的高質(zhì)量特征表征。

針對(duì)算力異構(gòu)問(wèn)題,LAMBO設(shè)計(jì)了非對(duì)稱編碼器解碼器(Asymmetric Encoder-Decoder,AED)架構(gòu),其中深編碼器通過(guò)多層自注意力機(jī)制提取全局特征,淺解碼器則利用輕量級(jí)結(jié)構(gòu)生成卸載決策與資源分配結(jié)果。在動(dòng)態(tài)環(huán)境中,LAMBO僅需對(duì)解碼器進(jìn)行微調(diào),顯著降低了計(jì)算資源需求,并支持并行計(jì)算加速,提升了資源受限場(chǎng)景下的推理效率。

針對(duì)算法異構(gòu)問(wèn)題,LAMBO通過(guò)演員-評(píng)論家學(xué)習(xí)(Actor-Critic Learning,ACL)預(yù)訓(xùn)練模型,使AED能夠從大量無(wú)標(biāo)簽數(shù)據(jù)中學(xué)習(xí)多任務(wù)優(yōu)化目標(biāo)的通用策略。進(jìn)一步,結(jié)合基于專家反饋的主動(dòng)學(xué)習(xí),LAMBO在動(dòng)態(tài)環(huán)境中利用最大熵查詢策略篩選高價(jià)值樣本,并通過(guò)專家算法、混合整數(shù)規(guī)劃或啟發(fā)式算法,實(shí)現(xiàn)不同優(yōu)化目標(biāo)與動(dòng)態(tài)環(huán)境的自適應(yīng)跟蹤,且無(wú)需全模型重訓(xùn)練。此外,LAMBO還引入自然語(yǔ)言提示(Prompts)作為任務(wù)指令,指導(dǎo)模型針對(duì)不同優(yōu)化目標(biāo)生成差異化決策。例如,“最小延遲”提示驅(qū)動(dòng)模型優(yōu)先優(yōu)化時(shí)延敏感任務(wù),而“最小能耗”提示則引導(dǎo)模型聚焦能效優(yōu)化。通過(guò)預(yù)訓(xùn)練階段對(duì)多提示任務(wù)的聯(lián)合學(xué)習(xí),LAMBO實(shí)現(xiàn)了單一模型對(duì)多目標(biāo)任務(wù)的靈活適配,進(jìn)一步降低了算法異構(gòu)場(chǎng)景下的模型維護(hù)成本。

4 未來(lái)研究方向

4.1 多模態(tài)模型協(xié)同

在未來(lái)工業(yè)互聯(lián)網(wǎng)應(yīng)用中,業(yè)務(wù)復(fù)雜性使單一模型難以滿足需求,多模態(tài)模型融合成為提升云邊協(xié)同調(diào)度性能的關(guān)鍵。以智能電網(wǎng)為例,Transformer模型預(yù)處理電力數(shù)據(jù),提取時(shí)間序列特征;圖神經(jīng)網(wǎng)絡(luò)(GNN)模型分析電網(wǎng)拓?fù)浣Y(jié)構(gòu);強(qiáng)化學(xué)習(xí)模型依據(jù)實(shí)時(shí)反饋動(dòng)態(tài)調(diào)整配電策略,多模型協(xié)作互補(bǔ),降低電網(wǎng)損耗,提高運(yùn)行效率,增強(qiáng)電網(wǎng)對(duì)復(fù)雜工況的適應(yīng)能力。

多模態(tài)模型融合面臨著很多技術(shù)挑戰(zhàn)。不同模態(tài)模型架構(gòu)、訓(xùn)練及數(shù)據(jù)處理差異大,融合時(shí)易出現(xiàn)參數(shù)不匹配、數(shù)據(jù)接口不兼容問(wèn)題;各模型優(yōu)化目標(biāo)不同,協(xié)同優(yōu)化時(shí)參數(shù)調(diào)整相互干擾,統(tǒng)一優(yōu)化策略制定困難。

為此,可開(kāi)發(fā)統(tǒng)一數(shù)據(jù)接口規(guī)范與中間件,構(gòu)建通用數(shù)據(jù)預(yù)處理模塊,實(shí)現(xiàn)數(shù)據(jù)標(biāo)準(zhǔn)化轉(zhuǎn)換與傳遞;采用分層優(yōu)化與聯(lián)合訓(xùn)練方法,利用多目標(biāo)優(yōu)化算法平衡模型優(yōu)化目標(biāo),減少模型間干擾,提升協(xié)同優(yōu)化效果,推動(dòng)工業(yè)互聯(lián)網(wǎng)發(fā)展。

4.2 大模型的云邊端協(xié)同部署

大模型的云邊端協(xié)同部署是推動(dòng)工業(yè)互聯(lián)網(wǎng)高效運(yùn)行的核心。云端利用強(qiáng)大計(jì)算資源進(jìn)行模型訓(xùn)練和復(fù)雜數(shù)據(jù)處理;邊緣端憑借低時(shí)延特性,對(duì)實(shí)時(shí)性要求高的數(shù)據(jù)進(jìn)行快速預(yù)處理和本地決策;終端設(shè)備負(fù)責(zé)數(shù)據(jù)采集和簡(jiǎn)單交互操作。這種協(xié)同部署可減少數(shù)據(jù)傳輸量,降低網(wǎng)絡(luò)壓力,提高系統(tǒng)響應(yīng)速度和整體性能。結(jié)合5G技術(shù)的低時(shí)延特性和物聯(lián)網(wǎng)的數(shù)據(jù)采集能力,能為大模型協(xié)同運(yùn)行提供有力支撐,助力實(shí)現(xiàn)更高效、智能的工業(yè)生產(chǎn)。

然而,大模型云邊端協(xié)同部署仍面臨一定問(wèn)題。首先,工業(yè)場(chǎng)景網(wǎng)絡(luò)環(huán)境復(fù)雜,信號(hào)干擾與網(wǎng)絡(luò)擁塞影響數(shù)據(jù)穩(wěn)定及時(shí)傳輸。其次,云邊端協(xié)同作業(yè)涉及大量敏感數(shù)據(jù),存在泄露、篡改風(fēng)險(xiǎn),威脅企業(yè)生產(chǎn)運(yùn)營(yíng)安全。最后,不同工業(yè)場(chǎng)景對(duì)云邊端資源需求不同,資源分配不均衡影響系統(tǒng)整體性能。

針對(duì)這些問(wèn)題,可采取以下策略:網(wǎng)絡(luò)優(yōu)化方面,借助5G切片技術(shù)為不同工業(yè)應(yīng)用分配專屬網(wǎng)絡(luò)資源,結(jié)合邊緣緩存和本地處理技術(shù),降低網(wǎng)絡(luò)傳輸壓力,保障數(shù)據(jù)穩(wěn)定、高效傳輸;數(shù)據(jù)安全層面,運(yùn)用加密算法確保數(shù)據(jù)在傳輸與存儲(chǔ)過(guò)程中的保密性和完整性,通過(guò)身份認(rèn)證和訪問(wèn)控制技術(shù)杜絕非法訪問(wèn),防止數(shù)據(jù)泄露;資源分配領(lǐng)域,開(kāi)發(fā)基于實(shí)時(shí)資源監(jiān)測(cè)和任務(wù)需求預(yù)測(cè)的智能調(diào)度算法,依據(jù)云邊端資源使用狀況和任務(wù)負(fù)載動(dòng)態(tài)調(diào)整分配策略,實(shí)現(xiàn)資源合理配置與高效利用。

4.3 行業(yè)定制模型開(kāi)發(fā)

工業(yè)互聯(lián)網(wǎng)涉及眾多行業(yè),各行業(yè)生產(chǎn)流程、業(yè)務(wù)需求和數(shù)據(jù)特征獨(dú)特,通用模型難以滿足特定行業(yè)精準(zhǔn)需求。開(kāi)發(fā)行業(yè)定制模型成為未來(lái)工業(yè)互聯(lián)網(wǎng)發(fā)展的重要方向。以汽車制造行業(yè)為例,結(jié)合其高精度裝配要求、復(fù)雜供應(yīng)鏈管理和嚴(yán)格質(zhì)量控制需求,采集生產(chǎn)過(guò)程、零部件、質(zhì)量檢測(cè)等數(shù)據(jù),利用深度學(xué)習(xí)技術(shù)構(gòu)建定制模型,可在生產(chǎn)過(guò)程監(jiān)控、質(zhì)量預(yù)測(cè)、供應(yīng)鏈優(yōu)化等方面發(fā)揮重要作用,相比通用模型其性能和準(zhǔn)確性顯著提升。能源開(kāi)采、電子制造、航空航天等行業(yè)也可依自身特點(diǎn)開(kāi)發(fā)定制模型,實(shí)現(xiàn)工業(yè)互聯(lián)網(wǎng)在各行業(yè)的深度應(yīng)用和智能化升級(jí)。

在行業(yè)定制模型開(kāi)發(fā)過(guò)程中,面臨行業(yè)數(shù)據(jù)獲取困難、模型泛化性與特異性難平衡、行業(yè)知識(shí)融合復(fù)雜等問(wèn)題。對(duì)此,可建立數(shù)據(jù)共享與合作機(jī)制,如搭建共享平臺(tái)、運(yùn)用聯(lián)邦學(xué)習(xí)技術(shù);采用多階段模型訓(xùn)練與優(yōu)化,先訓(xùn)練通用基礎(chǔ)模型再結(jié)合行業(yè)數(shù)據(jù)微調(diào);借助知識(shí)圖譜與專家系統(tǒng)輔助,如構(gòu)建知識(shí)圖譜、結(jié)合專家系統(tǒng)并加強(qiáng)團(tuán)隊(duì)建設(shè)提升協(xié)作效率等方式解決。

5 結(jié)論

本文全面深入地探討了工業(yè)互聯(lián)網(wǎng)云邊端協(xié)同調(diào)度中的關(guān)鍵問(wèn)題,以及網(wǎng)絡(luò)大模型在解決這些問(wèn)題中的創(chuàng)新應(yīng)用和未來(lái)發(fā)展方向。通過(guò)對(duì)數(shù)據(jù)、算力、算法異構(gòu)挑戰(zhàn)的分析,本文揭示了傳統(tǒng)方法的局限性,凸顯了網(wǎng)絡(luò)大模型的優(yōu)勢(shì)。NetGPT、NetLLM和LAMBO等模型在工業(yè)互聯(lián)網(wǎng)云邊端協(xié)同調(diào)度中的應(yīng)用,為實(shí)現(xiàn)高效、智能的調(diào)度提供了新途徑。同時(shí),多模態(tài)模型融合、云邊端協(xié)同部署創(chuàng)新和行業(yè)定制模型開(kāi)發(fā)等未來(lái)方向,為工業(yè)互聯(lián)網(wǎng)的進(jìn)一步發(fā)展指明了道路。隨著技術(shù)進(jìn)步和工業(yè)互聯(lián)網(wǎng)應(yīng)用拓展,網(wǎng)絡(luò)大模型在云邊端協(xié)同調(diào)度中的應(yīng)用將更加廣泛深入,有望推動(dòng)工業(yè)互聯(lián)網(wǎng)實(shí)現(xiàn)更高水平的自動(dòng)化和智能化。

★基金項(xiàng)目:國(guó)家自然科學(xué)基金資助項(xiàng)目(92267108,62173322);遼寧省科學(xué)技術(shù)計(jì)劃資助項(xiàng)目(2023JH3/10200004,2022JH25/10100005);興遼英才計(jì)劃項(xiàng)目(XLYC2403062)。

作者簡(jiǎn)介:

李安順(2002-),男,河南周口人,碩士研究生,現(xiàn)就讀于中國(guó)科學(xué)院大學(xué)、中國(guó)科學(xué)院沈陽(yáng)自動(dòng)化研究所,研究方向?yàn)榫W(wǎng)絡(luò)大模型、邊緣計(jì)算。

許 馳(1987-),男,遼寧沈陽(yáng)人,研究員,博士,現(xiàn)就職于中國(guó)科學(xué)院沈陽(yáng)自動(dòng)化研究所,研究方向?yàn)楣I(yè)互聯(lián)網(wǎng)、邊緣計(jì)算和人工智能。

曾 鵬(1976-),男,遼寧沈陽(yáng)人,研究員,博士,現(xiàn)任中國(guó)科學(xué)院沈陽(yáng)自動(dòng)化研究所副所長(zhǎng),研究方向?yàn)楣I(yè)互聯(lián)網(wǎng)、邊緣計(jì)算。

摘自《自動(dòng)化博覽》2025年2月刊

熱點(diǎn)新聞

推薦產(chǎn)品

x
  • 在線反饋
1.我有以下需求:



2.詳細(xì)的需求:
姓名:
單位:
電話:
郵件: