全球工業(yè)物聯(lián)網(wǎng)品牌廠(chǎng)商研華科技成功整合英偉達(NVIDIA) 生成式AI模型于MIC-733-AO邊緣AI推理盒子，并在英偉達GTC 2024 GPU科技展研華攤位上進(jìn)行展示(No. 232)，該產(chǎn)品預示：未來(lái)生成式AI將大幅減少開(kāi)發(fā)者訓練模型的時(shí)間，在工業(yè)應用上也能以更快速更方便的得到AI推理的結果。

研華MIC-733-AO+英偉達生成式AI模型=邊緣生成式AI系統

研華MIC-733-AO邊緣AI系統基于英偉達Jetson AGX Orin?平臺，搭載英偉達Jetson AI實(shí)驗室的生成式人工智能模型，現在成功高效率運行大型語(yǔ)言模型（LLMs）、視覺(jué)語(yǔ)言模型（VLM）、視覺(jué)變換器（ViT）以及圖像生成和對話(huà)生成Llamaspeak，這要歸功于英偉達Jetson AGX Orin?平臺的獨特優(yōu)勢，包括加速計算、重要的AI軟件和預先訓練的模型，有助于創(chuàng )建、自定義和部署適用于各種應用和地點(diǎn)的生成式AI模型。

利用英偉達Jetson AI實(shí)驗室的生成式AI模型，AI開(kāi)發(fā)者可以運用檢索增強生成（RAG）技術(shù)，將LLMs和VLMs連接到公司的知識庫。這種方法消除了傳統AI模型訓練的需求，允許透過(guò)與系統的簡(jiǎn)單對話(huà)交互來(lái)產(chǎn)生AI推論，明顯縮短了開(kāi)發(fā)時(shí)間。研華MIC-733-AO擁有高AI運算效能和多個(gè)影像輸入接口，例如IP攝影機、USB/gigE工業(yè)相機、GMSL攝影機、激光雷達等，讓開(kāi)發(fā)者可以輕松串接影像訊息結合AI運算，而工業(yè)級小體積設計更適合放在邊緣端應用，即使在英偉達Jetson AGX Orin運行滿(mǎn)載時(shí)，出色的散熱設計也能防止系統過(guò)熱確保正常運行。

邊緣生成式AI系統反應更實(shí)時(shí)，應用更多元

生成式AI通過(guò)從不同的輸入和輸出（例如文本和圖像）創(chuàng )建新內容，正在改變人與計算機的互動(dòng)方式。從云端到邊緣端，邊緣端生成式AI更適合需要快速反應和低延遲環(huán)境的良好解決方案。在邊緣端生成式AI相對于云端生成式AI的解決方案具有以下幾點(diǎn)優(yōu)勢：

·  實(shí)時(shí)反應：根據攝影機和傳感器等數據來(lái)源的邊緣計算系統能夠立即回應，無(wú)需等待與云端上傳數據造成的延遲。

·  數據安全：數據儲存在邊緣系統中，大幅降低云端數據傳輸相關(guān)的安全風(fēng)險。

·  穩定的網(wǎng)絡(luò )連接：即使沒(méi)有無(wú)線(xiàn)網(wǎng)絡(luò )，邊緣系統也能夠操作并將數據存儲在本地端，直到網(wǎng)絡(luò )恢復，而云端生成式AI在沒(méi)有網(wǎng)絡(luò )時(shí)將無(wú)法運作。

·  低傳輸成本：邊緣端AI因不需要隨時(shí)傳輸數據給云端，僅需低量傳輸，比云端AI隨時(shí)上傳數據更具成本效益。

邊緣生成式AI代表了人工智能時(shí)代的未來(lái)。研華MIC-733-AO邊緣生成式AI系統，整合英偉達Jetson AI實(shí)驗室的生成式AI模型，為AI開(kāi)發(fā)者提供了一個(gè)簡(jiǎn)單的解決方案。

如果您對研華MIC-733-AO邊緣生成式AI系統感興趣，可聯(lián)系研華當地業(yè)務(wù)，或者前往官網(wǎng)www.advantech.com.cn了解產(chǎn)品詳細，2024年5月，研華將在深圳、上海、武漢、北京舉辦AI Solution Day全國巡演，屆時(shí)將展示Jeston AI全家族產(chǎn)品，歡迎感興趣的伙伴積極報名。