4月8日,英特爾與AI推理芯片企業(yè)SambaNova宣布合作推出面向推理工作負載的異構硬件解決方案。該系統(tǒng)預計將于2026年下半年向企業(yè)、云服務供應商和主權人工智能提供。這套異構方案整合了多種硬件資源,包括用于預填充的GPU、用于解碼的SambaNova SN50 RDU,以及用于主機頭節(jié)點和“動作”的英特爾至強Xeon6處理器,旨在通過為每個步驟選擇最合適的硬件來解決僅依賴GPU方案的局限性。
SambaNova強調,與基于Arm的服務器CPU相比,英特爾至強6處理器在LLVM編譯速度上擁有150%以上的優(yōu)勢。此外,該處理器的向量數據庫性能相較于現(xiàn)有的x86競品提升了多達70%,這顯著加速了端到端編程代理工作流,使開發(fā)者能夠更快速地將想法轉化為生產準備的智能體。這一合作標志著兩家公司在AI推理領域的深入合作,旨在提供更高效、更強大的硬件解決方案,以滿足日益增長的AI推理需求。


來源:一電快訊
返回第一電動網首頁 >
以上內容由AI創(chuàng)作,如有問題請聯(lián)系admin#d1ev.com(#替換成@)溝通,AI創(chuàng)作內容并不代表第一電動網(m.22xuexi.com)立場。
文中圖片源自互聯(lián)網或AI創(chuàng)作,如有侵權請聯(lián)系郵件刪除。