水激石則鳴,人激志則宏。
· ·
I/ONX推出可擴展的AI推論和微調堆疊,消除了傳統設計的基礎設施開銷,每個機架可節省高達30kW的功耗,並將機架級部署成本降低高達70%
拉斯維加斯--(美國商業資訊)--首屈一指的異質AI系統供應商I/ONX High Performance Compute(HPC)今天宣布在全球發布Symphony SixtyFour,這一高密度平台旨在大幅降低AI推論和微調基礎設施的實體和經濟佔用。I/ONX在單一節點上支援多達64個加速器,從而消除了冗餘的主機負擔,這些在電力、硬體和授權方面造成的巨大開銷往往會對企業AI的投資報酬率產生負面影響。
本新聞稿包含多媒體資訊。完整新聞稿請見此: https://www.businesswire.com/news/home/20260422451763/zh-HK/
儘管推論目前佔企業AI工作負載的90%,但企業在部署推論時仍完全受限於訓練硬體平台。Symphony SixtyFour為推論和微調工作負載帶來了顯著優勢,可大幅降低資本支出(CapEx)和營運費用(OpEx)。在訓練比較中,I/ONX系統能夠節省多節點叢集中通常浪費在冗餘CPU、記憶體和支援硬體上的30kW主機功耗,並簡化後續的維護工作。在其他加速器上進行生產級推論時,該平台的革新性更為顯著,其功耗僅為傳統64節點叢集的四分之一,完全消除了僅用於推論的液冷需求。
「企業AI基礎設施正在進入一個全新的成熟階段。」I/ONX執行長Justyn Hornor表示,「過去以訓練為中心的架構設計在實驗階段確實有效,但卻無法適應我們如今所處的電力資源緊張的生產密集型時代。透過Symphony SixtyFour,我們重塑了架構,使其更加靈活且更符合實際需求,幫助企業掌握大規模推論,並最終消除阻礙投資報酬率的不必要基礎設施浪費。」
Symphony SixtyFour的優勢: 專為特定用途而生的矽晶片。該平台旨在為企業AI實現每瓦特與每美元的效益最大化。
I/ONX加速了企業向專為大規模推論與微調而設計的系統的轉型。Symphony SixtyFour現已上市,可協助企業奪回關鍵電力資源並降低成本。I/ONX致力於提供高密度基礎設施,以最大限度地釋放生產級AI的經濟和營運潛力。
關於I/ONX
I/ONX High Performance Compute(HPC)是異質AI基礎設施的先驅,透過消除傳統架構的主機成本,重新定義了AI生命週期。I/ONX旗艦產品Symphony SixtyFour將多達64個加速器整合到單一節點中,將機架級總擁有成本(TCO)降低至少50%。透過大幅降低功耗並最大限度地提高硬體利用率,I/ONX使企業能夠以前所未有的效率和更快的投資報酬率實現生產級AI。
免責聲明:本公告之原文版本乃官方授權版本。譯文僅供方便瞭解之用,煩請參照原文,原文版本乃唯一具法律效力之版本。