NeuReality完成耀途資本、三星創投聯合領投數千萬美元A輪融資,助力AI-centric推理方案研發
近期,以色列芯片公司NeuReality?完成由耀途資本、三星創業投資公司(SVIC)聯合領投的數千萬美元A輪融資。資金將主要應用于AI-centric 推理方案、AI-centric NAPU(Network Addressable Processing Unit)的研發和推廣?。?
從左至右,耀途資本創始合伙人白宗義、NeuReality CEO?Moshe Tanach、耀途資本創始合伙人楊光
NeuReality成立于2019年,總部位于以色列,定位于深度學習和人工智能解決方案架構顛覆者。公司全新定義了以AI為中心(AI-centric)的推理方案架構,并打造了與之配套的NAPU芯片,從而取代傳統的以CPU為中心的AI推理方案。NeuReality通過為客戶提供AI-as-a-service infrastructure ,幫助簡化和加速AI部署,同時降低成本、能耗以及對CPU、網卡和PCI交換機的依賴,解決方案將廣泛應用于公共安全、電子商務、社交網絡、醫療保健等領域。
NeuReality由首席執行官 Moshe Tanach、運營副總裁 Tzvika Shmueli、VLSI 副總裁Yossi Kasus聯合創立,三位創始人曾擔任Habana Labs、英特爾、Marvell和Mellanox等企業高管,在AI、數據中心系統、芯片設計和軟件開發方面擁有數十年豐富經驗。CTO Lior Khermosh,曾聯合創立以色列MLOps公司ParallelM(已被DataRobot收購)兼首席科學家。此外,公司董事會成員Naveen Rao博士,曾任英特爾AI產品部門總經理。?
從左至右:VP VLSI Yossi Kasus,CEO Moshe Tanach,CTO Lior Khermosh,VP Tzvika Shmueli
當前,傳統的以CPU為中心的AI推理方案已成為AI廣泛應用的障礙之一,根本原因是現有AI推理方案沒有針對AI推理進行一系列優化。具體表現在以下方面:?
- CPU不是專為AI應用而設計的硬件,在應用中常常存在高成本、低可擴展性、高延遲等弊端;
- 以CPU為中心的架構需要配備多個硬件組件,如網卡、CPU、深度學習加速器DLA,而在DLA上每花費1美元都需要在周邊組件上花費3美元;
- 部署一個訓練有素的AI模型,對于客戶研發人員的時間、精力、技術專業性等都提出了更高要求;
- 常用編排工具并未針對AI進行優化等。
數據中心和AI應用場景對于高效、易部署的AI推理解決方案提出了更迫切需求。NeuReality 提供了“AI-centric”推理部署的整體解決方案,涵蓋專為AI推理而構建并優化的架構、硬件SoC、簡化部署的軟件、簡化開發和部署周期的APIs等,改善了計算流、計算存儲流和存儲內計算等對于AI應用和發展來說至關重要的能力,降低AI推理的復雜性、成本和功耗。?
AI-centric?NAPU VS 傳統以CPU為中心的AI推理方案執行相同任務
為了更好地利用DLA的潛力,NeuReality開發了一種新的架構,并通過世界上第一個 AI-centric NAPU來實現目標。在傳統的以CPU為中心的系統中,大部分工作負載仍需要在軟件中運行,而AI-centric NAPU可以在專用的硬件上運行一切。
NAPU功能圖
2021年5月,NeuReality公布了AI-centric NAPU——NR1的規劃。NR1是一個嵌入式神經網絡引擎SoC。據NeuReality透露,與其他深度學習芯片供應商的GPU和ASIC方案相比,NR1-P平臺的每美元性能將提高15倍。
第一代 NR1 SoC面向云和企業數據中心、運營商、電信運營商和其他近邊緣計算解決方案,通過消除現有技術瓶頸,降低AI操作的延遲,并節省系統整體成本和功耗,提高了AI計算資源當前部署的利用率。
自2021年2月,NeuReality宣布完成由Cardumen Capital、OurCrowd和Varana Capital投資的種子輪融資,emerged out of stealth(脫離隱身)后,其發展步伐不斷加快。
2021年11月,公司與IBM簽署合作協議,攜手開發下一代高性能人工智能推理平臺,該平臺將為深度學習應用帶來顛覆性的成本和功耗降低。NeuReality還與AMD合作,為客戶提供第一代基于FPGA的AI推理加速平臺。
NeuReality全體成員
NeuReality 目前員工人數約30人,公司近期表示未來一年員工人數將增加一倍,計劃在以色列和美國招聘數十名芯片設計與測試、人工智能、軟硬件領域的開發人員,以加快產品研發,同時將于2023 年開始系統商業化部署。