2025年5 月 8 日Imagination Technologies推出Imagination E-Series GPU IP,重新定義了邊緣人工智能和圖形系統(tǒng)設(shè)計(jì)。
E-Series GPU IP為未來的邊緣應(yīng)用提供了一種通用且可編程的解決方案,涵蓋圖形渲染、桌面應(yīng)用、智能手機(jī)上的自然語言處理、工業(yè)計(jì)算機(jī)視覺以及自動(dòng)駕駛等領(lǐng)域。
GPU性能大幅提升
E-Series優(yōu)勢(shì)明顯,首先,邊緣側(cè)的功耗效率方面表現(xiàn)出色,每瓦性能提升了35%。其次, E-Series 神經(jīng)核,其性能可擴(kuò)展至200 TOPSINT8 ,AI 性能較前代D系列( D-Series )提升高達(dá) 400%。此外,E系列還延續(xù)了我們產(chǎn)品為開發(fā)者和系統(tǒng)集成提供靈活性的傳統(tǒng),我們提供了便捷的工具和解決方案。
E系列在前代產(chǎn)品的多任務(wù)處理能力基礎(chǔ)上實(shí)現(xiàn)了增強(qiáng),將Imagination GPU支持的、具備硬件加速且零開銷的虛擬機(jī)數(shù)量從8個(gè)翻倍至16個(gè),并提供了先進(jìn)的QoS支持。E-SeriesGPU的多核版本可以利用額外的核心來提升性能或增強(qiáng)靈活性。這些GPU能夠同時(shí)處理多種圖形工作負(fù)載、多種AI工作負(fù)載,或圖形與AI工作負(fù)載的組合。
Imagination產(chǎn)品管理副總裁Kristof解釋,爆發(fā)處理器可調(diào)度特定指令,不會(huì)增加延遲,還能實(shí)現(xiàn)最佳功效。NPU與E系列GPU的關(guān)鍵區(qū)別在于,NPU專為特定AI應(yīng)用設(shè)計(jì),若出現(xiàn)未針對(duì)的新AI應(yīng)用,NPU無法處理,任務(wù)需回傳CPU,產(chǎn)生大延遲,嚴(yán)重影響性能。而E系列GPU將AI計(jì)算整合到管線中,配備可編程處理引擎,從原則上講,不會(huì)出現(xiàn)AI任務(wù)處理不了需交其他單元處理的情況。更重要的是,無論是現(xiàn)有還是未來的AI網(wǎng)絡(luò),都可通過可編程GPU引擎在管線內(nèi)進(jìn)行AI計(jì)算處理。這是NPU解決方案面臨的最大挑戰(zhàn)。
在AI時(shí)代,算力芯片市場(chǎng)主要分為云端、邊緣端和終端三個(gè)應(yīng)用場(chǎng)景。GPU作為主流的AI算力芯片,占據(jù)了較大的市場(chǎng)份額。magination的E-Series GPU IP在市場(chǎng)上的表現(xiàn)受到廣泛關(guān)注。其產(chǎn)品在功耗、性能和靈活性方面的優(yōu)勢(shì)使其在邊緣AI市場(chǎng)具有較強(qiáng)的競(jìng)爭(zhēng)力
AI算力架構(gòu)的演進(jìn)與權(quán)衡
Imagination技術(shù)支持總監(jiān)艾克表示,GPU憑借其通用并行計(jì)算能力,成為AI算力架構(gòu)的重要補(bǔ)充。
艾克分析,隨著AI模型對(duì)大規(guī)模并行計(jì)算與高密度算力的需求激增,CPU的架構(gòu)瓶頸逐漸顯現(xiàn):其串行處理機(jī)制難以高效支撐矩陣運(yùn)算、張量計(jì)算等AI核心任務(wù),導(dǎo)致在單位算力密度與AI性能表現(xiàn)上顯著落后于專用計(jì)算架構(gòu)。
艾克稱,為彌補(bǔ)CPU在AI場(chǎng)景下的性能短板,NPU應(yīng)運(yùn)而生。作為專為AI算法優(yōu)化的加速器,NPU通過硬件電路固化深度學(xué)習(xí)模型的關(guān)鍵算子,實(shí)現(xiàn)了對(duì)特定AI任務(wù)的高效執(zhí)行。其設(shè)計(jì)優(yōu)勢(shì)體現(xiàn)在兩方面:其一,算力密度顯著提升,單位功耗下的算力輸出較CPU提升數(shù)個(gè)數(shù)量級(jí);其二,AI性能評(píng)分可達(dá)5分(以CPU為基準(zhǔn)1分),在推理階段展現(xiàn)卓越能效。然而,NPU的專用化設(shè)計(jì)也帶來了,靈活性不足、擴(kuò)展性受限、資源利用率低等局限性。
在此背景下,GPU憑借其通用并行計(jì)算能力,成為AI算力架構(gòu)的重要補(bǔ)充。GPU最初為圖形渲染設(shè)計(jì),其架構(gòu)天然適配數(shù)據(jù)并行任務(wù):數(shù)千個(gè)計(jì)算單元可同步處理海量線程,通過SIMD(單指令多數(shù)據(jù))模式高效執(zhí)行矩陣乘法等AI基礎(chǔ)運(yùn)算。在AI專用性能上,GPU核心優(yōu)勢(shì)在于:
高靈活性:支持CUDA、OpenCL等編程框架,可動(dòng)態(tài)適配新算子與模型結(jié)構(gòu),例如輕松支持Transformer的自注意力機(jī)制。
高資源利用率:通過動(dòng)態(tài)調(diào)度與算子融合技術(shù),可充分挖掘硬件并行潛力,避免資源浪費(fèi)。
強(qiáng)擴(kuò)展性:支持多卡互聯(lián)與分布式訓(xùn)練,算力可隨節(jié)點(diǎn)數(shù)量線性增長(zhǎng),滿足超大規(guī)模模型訓(xùn)練需求。
如今,邊緣側(cè)的AI技術(shù)正在蓬勃發(fā)展,為各種應(yīng)用場(chǎng)景提供了高效且靈活的解決方案。隨著邊緣側(cè)AI需求的不斷增長(zhǎng),越來越多的設(shè)備開始集成AI功能。Imagination Technologies最新推出的E-Series GPU IP,憑借其卓越的性能、能效優(yōu)化以及高度的靈活性,正在為邊緣側(cè)計(jì)算帶來革命性的變革。
完整視頻鏈接:https://mp.weixin.qq.com/s/Yxv0-o7dj-fGMHxu0SYfeQ
完整視頻鏈接:https://mp.weixin.qq.com/s/Yxv0-o7dj-fGMHxu0SYfeQ
完整視頻鏈接:https://mp.weixin.qq.com/s/Yxv0-o7dj-fGMHxu0SYfeQ
完整視頻鏈接:https://mp.weixin.qq.com/s/Yxv0-o7dj-fGMHxu0SYfeQ
【掃碼報(bào)名】新思科技硬件加速驗(yàn)證技術(shù)日即將登陸成都、南京、杭州
來源:芯榜