近年來(lái)，大模型在圖片、音視頻等多模態(tài)領(lǐng)域的表現展露出了巨大潛能，算力、數據處理與存儲需求也呈現指數級暴增，讓智能計算體系的結構發(fā)生了根本性變化，邊緣計算是伴隨物聯(lián)網(wǎng)設備大量出現而誕生的技術(shù)領(lǐng)域，其能否有效解決計算結構變化所導致的問(wèn)題成為業(yè)界關(guān)注的焦點(diǎn)。近期，特斯聯(lián)首席科學(xué)家楊旸博士，特斯聯(lián)高級副總裁劉斌博士接受采訪(fǎng)，共同探討邊緣側在大模型時(shí)代下的發(fā)展趨勢。

特斯聯(lián)首席科學(xué)家楊旸博士

特斯聯(lián)首席科學(xué)家楊旸博士在接受采訪(fǎng)時(shí)表示：“通信網(wǎng)絡(luò )有越來(lái)越多的數據無(wú)法上傳，很多重要的數據也被無(wú)效信息研磨，網(wǎng)絡(luò )阻塞也導致了越來(lái)越長(cháng)的服務(wù)時(shí)延以及安全性隱患，因此，需要在本地加一層邊緣計算的節點(diǎn)，保證邊緣有智慧的單元，而無(wú)需所有數據都傳到云上處理?！彼赋?，當前邊緣計算的需求十分旺盛，行業(yè)面臨的情況是用戶(hù)數量有限，但傳感器數量無(wú)限。因此，如何將這些海量數據在本地進(jìn)行處理，成為了一個(gè)亟待解決的問(wèn)題。

特斯聯(lián)高級副總裁劉斌博士也進(jìn)一步解釋?zhuān)骸巴ㄐ判袠I(yè)和計算行業(yè)融合的時(shí)候會(huì )遇到各種各樣實(shí)際的問(wèn)題，針對這些問(wèn)題我們可以分析、建模，做一些共性的研究，并進(jìn)行結合產(chǎn)業(yè)的微調，為終端用戶(hù)創(chuàng )造價(jià)值?！彼麖娬{了邊緣計算在解決實(shí)際問(wèn)題中的重要作用。

在現實(shí)場(chǎng)景應用中，楊旸博士表示：“我們在現實(shí)場(chǎng)景中遇到的問(wèn)題并不能完全依賴(lài)大模型解決。因此，我們需要在邊緣節點(diǎn)把大模型分拆，將部分大模型的能力部署到小模型或行業(yè)模型中?！彼J為，這樣一來(lái)，就可以在邊緣節點(diǎn)處理本地數據驅動(dòng)的模型。模型不需要很大，不需要高昂的成本來(lái)訓練，只處理相對單一然而對用戶(hù)非常重要的數據，這就是大模型在邊緣側的應用。

上海交通大學(xué)重慶人工智能研究院AI大模型中心副主任沈國陽(yáng)博士則從另一個(gè)角度闡述了邊緣智能計算在未來(lái)的發(fā)展機遇：“諸多終端設備都需要邊緣智能計算來(lái)實(shí)現，比如虛擬現實(shí)設備、感知設備、可穿戴設備等等，市場(chǎng)中也會(huì )有愈來(lái)愈多的感知設備出現?！彼J為，算力成本的下降也將加速邊緣側及端側大模型的出現。

最后，中國科學(xué)院重慶綠色智能技術(shù)研究院副研究員陳琳博士介紹了特斯聯(lián)與中科院重慶研究院合作打造邊緣智能計算重慶重點(diǎn)實(shí)驗室的機緣：“我們的合作可謂強強聯(lián)合?！彼硎?，特斯聯(lián)與中科院重慶研究院的合作聚焦于多個(gè)方向：聯(lián)合的人才培養、共同解決技術(shù)“卡脖子”問(wèn)題、在具身智能等方向開(kāi)展聯(lián)合研究、技術(shù)的產(chǎn)業(yè)化落地以及資本合作。