安圖斯科技推出搭載NVIDIA HGX B300系統AI伺服器 加速大型AI模型推論部署

安圖斯科技推出搭載 NVIDIA HGX B300 系統AI 伺服器。安圖斯提供 安圖斯科技推出搭載 NVIDIA HGX B300 系統AI 伺服器。安圖斯提供

宏碁旗下安圖斯科技(Altos Computing Inc.),今日宣布推出新一代旗艦級 AI 伺服器 Altos BrainSphere™ R880 F8,專為兆級參數大語言模型訓練、即時生成式 AI 推論及高強度科學計算打造。基於NVIDIA HGX B300 系統,配備 8 顆 NVIDIA Blackwell Ultra GPU 的與第 6 代 Intel® Xeon®雙處理器,提供極致 Token 吞吐量、優異能源效率與高度彈性的基礎架構擴充力,再搭配安圖斯科技自主研發的軟體管理生態系,致力將先​進硬體效能​無縫轉化為​實際營運價​值,全面加​速企業級 AI 工廠規模化落地。

安圖斯科技執行長李占傑表示:「生成式 AI 正從實驗室驗證全面走向企業核心維運,隨著企業對於高效能運算基礎架構的需求持續提升,安圖斯科技致力於​整合領先的​運算平台與​自研的軟硬​體產品,協​助企業加速​兆級模型推​論與企業級 AI 規模化落地,建構具備高擴充性與高運作效率的 AI 工廠。」

NVIDIA Blackwell Ultra 高速協同,突破運算極限

隨著生成式 AI 邁向多模態與長文本推理發展,運算密度與互聯頻寬已成企業AI基礎架構的重要關鍵。Altos BrainSphere™ R880 F8 採用 8U 架構,深度整合第 6 代 Intel® Xeon®雙處理器與 8 顆 NVIDIA Blackwell Ultra GPU。核心運算平台搭載 NVIDIA HGX B300 系統,並配置 32 組高速 DDR5 記憶體(高達 6400 MT/s),為複雜資料處理與高強度 AI 負載提供充沛的主運算動力。

透過第五代 NVIDIA NVLink 技術,系統可實現高達 14.4 TB/s 的聚合 GPU 互聯頻寬,並結合 2.1 TB HBM3e 記憶體與 64 TB/s 記憶體頻寬,大幅降低資料搬移瓶頸,全面釋放兆級參數模型與長上下文(Context Length)的 Token 吞吐極限,支援較長篇幅的內容處理與更快速的生成式 AI 應用。

次世代 800G 互聯與極速儲存,滿足AI工廠部署需求

為因應分散式叢集的巨量橫向擴展(Scale-Out)需求,Altos BrainSphere™ R880 F8 整合 8 組 NVIDIA ConnectX-8 SuperNIC,支援最高 800 Gb/s NVIDIA Quantum InfiniBand(XDR IB)或雙埠 400 Gb/s 高速乙太網路,確保跨節點平行運算時具備極低延遲與極致頻寬,協助企業快速建置大規模AI叢集環境。

在資料存取與擴充彈性上,機身前置 8 組 2.5 吋熱插拔 PCIe Gen5 NVMe SSD 插槽,內置 2 組 M.2 PCIe Gen5 插槽,以及 4 組 FHHL PCIe Gen5 x16 雙槽擴充槽,提供高速儲存與多元介面擴充能力。Altos BrainSphere™ R880 F8 更能支援 4 顆 M.2 PCIe SSD RAID卡,並搭配 GRAID SupremeRAID™ AE GPU 加速 NVMe RAID 技術,在提升 IOPS 效能的同時,兼顧資料冗餘與可靠性,滿足高效能運算與資料處理需求。


加入必聞網好友 必聞網紛絲頁

新聞留言板