隨著(zhù)物聯(lián)網(wǎng)的發(fā)展和互聯(lián)設備的不斷普及,開(kāi)發(fā)有競爭力的物聯(lián)網(wǎng)解決方案的最大難題之一就是:將 “智能” 引入邊緣設備。
邊緣計算在物聯(lián)網(wǎng)應用中至關(guān)重要,因為它是本地基礎設施用來(lái)加快實(shí)時(shí)推斷的途徑。邊緣計算能夠給總體系統帶來(lái)可靠性與性能的顯著(zhù)改善。
在邊緣計算日漸成為新一代互聯(lián)設備的基礎之際,應注重硬件加速器在決定這類(lèi)應用的效率方面所發(fā)揮的重要作用。硬件組件是核心構建塊,所以在開(kāi)發(fā)邊緣解決方案時(shí)應予以極度重視。
FPGA技術(shù)多年來(lái)的長(cháng)足發(fā)展已經(jīng)讓FPGA躋身為物聯(lián)網(wǎng)邊緣平臺的主流技術(shù)。FPGA性能先進(jìn),且能以極低時(shí)延提供極高的吞吐量,是邊緣應用的理想選擇。
iWave的Zynq UltraScale+ MPSoC FPGA SOM
上圖是 iWave 提供的 Zynq UltraScale+TM MPSoC FPGA SOM。它為方便快捷地實(shí)現圖像/語(yǔ)音識別、對象/姿態(tài)檢測等功能部署提供多功能硬件加速,同時(shí)還提供高度靈活的平臺,幫助開(kāi)發(fā)者持續優(yōu)化功能、提升競爭優(yōu)勢。在FPGA中實(shí)現神經(jīng)網(wǎng)絡(luò ),提供了使應用適配不斷變化的行業(yè)標準和最終用戶(hù)需求的靈活性,這又進(jìn)一步驗證了設計。在此外,iWave還為快速評估AI/ML應用提供綜合全面的Zynq UltraScale+TM MPSoC 開(kāi)發(fā)平臺(如下所示)。
為什么選擇賽靈思?
賽靈思可配置深度學(xué)習處理器單元 (DPU) 引擎專(zhuān)為卷積神經(jīng)網(wǎng)絡(luò )開(kāi)發(fā),可加速AI推斷。
面向機器視覺(jué)應用的異構執行環(huán)境推斷速度快、精度高。
賽靈思Vitis AI平臺支持多種深度學(xué)習框架:Caffe、Tensorflow、Darknet、MXNet。
賽靈思Vitis AI編程模型簡(jiǎn)化在Zynq平臺上開(kāi)發(fā)和部署深度學(xué)習應用的工作。
針對不同的AI應用,提供可擴展的器件系列。
賽靈思提供獨到的模型優(yōu)化和模型壓縮工具,使神經(jīng)網(wǎng)絡(luò )模型的復雜度降低5至50倍,將AI推斷性能提升到新高度。
賽靈思DNNDK、Vitis AI Library等AI軟件開(kāi)發(fā)工具為開(kāi)發(fā)工作加速。
賽靈思FPGA平臺為AI邊緣計算解決方案提供訪(fǎng)問(wèn)USB攝像頭、串行數字接口攝像頭、互聯(lián)網(wǎng)協(xié)議攝像頭以及以太網(wǎng)的便捷接口。
賽靈思Vitis AI采用iWave提供的 Zynq UltraScale+TM MPSoC SOM實(shí)現AI/ML推
該圖顯示了運行在iWave Zynq UltraScale+ MPSoC開(kāi)發(fā)套件上的一些使用賽靈思Vitis AI平臺的AI/ML加速示例。
Zynq UltraScale+ MPSoC SOM 在 ARM+賽靈思FPGA架構中實(shí)現MPSoC和FPGA功能的智能混搭。異構ARM多核處理器通過(guò)高性能的非實(shí)時(shí)處理(如系統引導、外圍設備管理、服務(wù)器通信等)補充邊緣應用,同時(shí)使用Vitis AI模型從FPGA卸載并執行重要的實(shí)時(shí)任務(wù)。
由于支持多種類(lèi)型的神經(jīng)網(wǎng)絡(luò ),賽靈思Vitis AI平臺處于持續的演進(jìn)發(fā)展中,不斷集成新算法和先進(jìn)算法,為AI/ML應用提高確定性和推斷速度。iWave能夠根據各種應用需求,為龐大的Vitis AI模型庫提供支持。
工業(yè)邊緣應用示例
智能城市:使用FPGA加速和神經(jīng)網(wǎng)絡(luò )的組合來(lái)執行實(shí)時(shí)監控和推理的智能平臺。
ADAS:能夠通過(guò)板載AI/ML算法生成準確和及時(shí)推理結果的實(shí)時(shí)計算平臺。
工業(yè)自動(dòng)化:由AI提供支持的智能設備能夠感知、連接和計算海量數據流,并開(kāi)展預測性維護和生成智能、直觀(guān)的決策。
智能醫療:使用AI/ML加速的設備開(kāi)展實(shí)時(shí)監控與診斷,完成疾病的早期診斷。
結 論
毋庸諱言,邊緣計算憑借極具競爭力的應用,繼續推動(dòng)物聯(lián)網(wǎng)生態(tài)系統的變革。iWave的賽靈思平臺為AI/ML推斷提供高性能硬件加速,以更低成本、更短交付周期加快創(chuàng )新步伐。
來(lái)源:邊緣計算產(chǎn)業(yè)聯(lián)盟