邊緣計算領(lǐng)域又傳來(lái)喜訊！

以色列-特拉維夫，近日，邊緣人工智能處理器的領(lǐng)先芯片制造商Hailo宣布C輪融資再獲1.2億美元投資。與此同時(shí)，Hailo還推出創(chuàng )新型Hailo-10高性能生成式人工智能（GenAI）加速器。這款加速器的問(wèn)世，將開(kāi)創(chuàng )一個(gè)新時(shí)代：用戶(hù)無(wú)需注冊任何基于云端的生成式人工智能服務(wù)，便能在本地輕松擁有并運行生成式人工智能應用，享受更為高效便捷的人工智能體驗。

本輪新融資由現有及新投資者共同領(lǐng)投，其中包括Zisapel家族、Gil Agmon、Delek Motors、Alfred Akirov、DCLBA、Vasuki、OurCrowd、Talcar、Comasco以及Poalim Equity等眾多機構與個(gè)人。至此，Hailo的總融資額超過(guò)了3.4億美元。

Hailo由Orr Danon和Avi Baum于2017年共同創(chuàng )立，專(zhuān)注于為邊緣設備設計運行AI工作負載的芯片。該公司表示，其在全球擁有超過(guò)300家客戶(hù)，涵蓋個(gè)人計算、汽車(chē)、安全和零售等多個(gè)領(lǐng)域。

Hailo首席執行官兼聯(lián)合創(chuàng )始人Orr Danon表示：“新一輪融資的順利完成，不僅為我們提供了重要發(fā)展機遇，更為公司的長(cháng)期穩健發(fā)展奠定了堅實(shí)基礎。隨著(zhù)Hailo-10 生成式人工智能加速器的問(wèn)世，我們成功將傳統與生成式人工智能技術(shù)引入邊緣設備，這將大大拓展這項前沿技術(shù)的普及范圍和應用場(chǎng)景?！彼€進(jìn)一步強調：“Hailo-10的設計理念是將生成式人工智能融入用戶(hù)的日常生活中，擺脫云網(wǎng)絡(luò )的束縛。這將保證靈活性和即時(shí)性，讓用戶(hù)充分利用聊天機器人、智能副駕駛等新興內容生成工具，顯著(zhù)提升工作效率，豐富生活體驗?！?/span>

Hailo-10:邊緣生成式人工智能

全新的Hailo-10 生成式人工智能加速器支持一系列廣泛的應用，進(jìn)一步鞏固了Hailo在性能成本比和性能功耗比方面的領(lǐng)先地位。借助與Hailo-8 人工智能加速器和Hailo-15 人工智能視覺(jué)處理器相同的綜合軟件套件，Hailo-10能夠輕松實(shí)現人工智能功能在多個(gè)邊緣設備和平臺上的無(wú)縫集成，為用戶(hù)帶來(lái)更加流暢、高效的智能體驗。

在邊緣設備上啟用生成式人工智能可確保用戶(hù)隨時(shí)訪(fǎng)問(wèn)生成式人工智能服務(wù)，無(wú)需擔心網(wǎng)絡(luò )連接限制。同時(shí)，它還能有效消除網(wǎng)絡(luò )延遲問(wèn)題。此外，生成式人工智能在邊緣設備上的運行還能更好地保護用戶(hù)隱私，因為個(gè)人信息在處理過(guò)程中始終保持匿名狀態(tài)。最后，減少對云數據中心龐大處理能力的依賴(lài)，也有助于提高整體的可持續性。

Danon先生進(jìn)一步闡述道：“隨著(zhù)邊緣生成式人工智能技術(shù)的不斷發(fā)展，我們的重點(diǎn)已經(jīng)轉向在極低功耗范圍內處理大型大語(yǔ)言模型（LLM），基本上可以控制在5瓦以下?！?/span>

在當下熱門(mén)的生成式人工智能平臺中，Hailo-10展現出了令人矚目的性能。它能夠在功耗低于5W的情況下，以每秒生成10 個(gè)token（TPS）的速度流暢運行Llama2-7B模型。同時(shí)，在處理Stable Diffusion 2.1模型（該模型可根據文本提示生成圖像）時(shí)，Hailo-10同樣在超低功耗范圍內實(shí)現了每張圖像評級低于5秒的出色表現。

Hailo-10的性能高達每秒40萬(wàn)億次（TOPS），這為邊緣人工智能加速器樹(shù)立了新的性能標桿。根據最新公布的基準測試數據，Hailo-10在性能上超越了集成神經(jīng)處理單元（NPU）解決方案，同時(shí)在功耗方面表現更為出色。與Intel的Core Ultra NPU相比，Hailo-10在保持功耗減半的同時(shí)，實(shí)現了至少2倍的性能提升。

Hailo-10 生成式人工智能加速器的初步應用將瞄準個(gè)人計算機和汽車(chē)信息娛樂(lè )系統，以取代那些性能不足的上一代CPU。這些老舊CPU無(wú)法支持現在已成為標配的聊天機器人、智能副駕駛、個(gè)人助理以及語(yǔ)音操作系統。Hailo計劃從2024年第二季度開(kāi)始，向市場(chǎng)提供Hailo-10生成式人工智能加速器的樣品。