隨著(zhù)邊緣計算與大模型技術(shù)的不斷成熟，二者可以很好地融合在一起為行業(yè)應用中碰撞出新的“火花”。

近日，在2023英特爾網(wǎng)絡(luò )與邊緣產(chǎn)業(yè)高層峰會(huì )上，英特爾公司高級副總裁兼網(wǎng)絡(luò )與邊緣事業(yè)部總經(jīng)理Sachin Katti和英特爾中國區網(wǎng)絡(luò )與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席AI工程師張宇博士接受了通信世界全媒體記者的采訪(fǎng)，分享了英特爾在邊緣計算和大模型方面的戰略和產(chǎn)品，以及如何推動(dòng)邊緣智能和大模型在行業(yè)中的落地。

如今邊緣計算市場(chǎng)已經(jīng)在快速增長(cháng)過(guò)程當中，這對英特爾以及對整個(gè)英特爾生態(tài)系統，以及整個(gè)中國市場(chǎng)來(lái)說(shuō)都提供了巨大的機遇。

“英特爾的邊緣計算策略是提供大量的硬件選擇，比如說(shuō)CPU、加速器、GPU等，達到一流的性能。同時(shí)在軟件方面，英特爾希望在應用的時(shí)候可以降低復雜性?！盨achin Katti表示：“我們要幫助客戶(hù)，為他們提供一些選擇，同時(shí)通過(guò)我們的軟件解決方案可以使他們的運營(yíng)更加簡(jiǎn)化、更加精簡(jiǎn)，而且我們要跟整個(gè)的生態(tài)系統的合作伙伴一起合作?！?/span>

隨著(zhù)大模型在云端訓練的成熟，AI就會(huì )快速向邊緣進(jìn)行遷移。Sachin Katti說(shuō)：“我們看到AI正在快速地遷移到云端，在這當中邊緣也會(huì )發(fā)揮更加重要的作用來(lái)推動(dòng)AI的部署。英特爾有很多邊緣設備都是在行業(yè)落地的。所以我們要做的是通過(guò)所提供的選擇，讓用戶(hù)可以更好的使用AI，把AI成果運用在日常運營(yíng)當中?！?/span>

英特爾認為大模型是AI未來(lái)的關(guān)鍵，它可以幫助解決一些人類(lèi)面臨的重大挑戰，比如醫療、教育、環(huán)境等?！拔覀兿嘈糯竽Ｐ涂梢宰孉I更加通用，更加普及，更加有價(jià)值。我們也相信大模型需要和行業(yè)結合起來(lái)，要在行業(yè)里去做跟這個(gè)行業(yè)相關(guān)的，有針對性的大模型去解決行業(yè)里有針對性的一些問(wèn)題?！盨achin Katti表示。

為了支持大模型的訓練和推理，英特爾提供了一系列的硬件和軟件解決方案。在硬件方面，英特爾發(fā)布了專(zhuān)門(mén)面向大模型訓練的加速器Gaudi 2，它在第三方公開(kāi)的運用GPT 3這樣一個(gè)大模型的評測當中表現出了非常好的性能。同時(shí)，英特爾也提供了通用的CPU處理器以及專(zhuān)用的獨立顯卡等加速器來(lái)滿(mǎn)足人工智能模型推理對算力的要求。

在軟件方面，英特爾推出了OpenVINO的軟件工具，可以實(shí)現模型在不同平臺上的遷移和部署。在最新的OpenVINO版本里，英特爾增加了對大模型的支持，比如說(shuō)Stable Diffusion這樣一個(gè)文生圖的模型，已經(jīng)開(kāi)始在一些行業(yè)里進(jìn)行使用了。

除了硬件和軟件之外，英特爾還提供了開(kāi)放標準的網(wǎng)絡(luò )連接技術(shù)，來(lái)把大量的GPU和加速器連接起來(lái)，讓大模型的訓練更加方便。英特爾還推出了IPU（Infrastructure Processing Unit），它能夠給用戶(hù)提供一個(gè)可靠、高速、低延遲的數據傳輸服務(wù)。

“我們要做到在中國為中國，在本地客戶(hù)需求上做一些行業(yè)需要的相應解決方案，利用總部所提供的軟件基礎來(lái)做這個(gè)方案，從工具、解決方案、生態(tài)等方面，來(lái)為本地行業(yè)客戶(hù)賦能?！睆堄畈┦勘硎?。英特爾希望通過(guò)軟硬件結合、開(kāi)放標準、生態(tài)構建等方式，為客戶(hù)提供整體解決方案，讓AI更加通用、普及、有價(jià)值。