安圖斯科技推出搭載NVIDIA HGX B300系統AI伺服器 加速大型AI模型推論部署
安圖斯科技推出搭載 NVIDIA HGX B300 系統AI 伺服器。安圖斯提供
宏碁旗下安圖斯科技(Altos Computing Inc.),今日宣布推出新一代旗艦級 AI 伺服器 Altos BrainSphere™ R880 F8,專為兆級參數大語言模型訓練、即時生成式 AI 推論及高強度科學計算打造。基於NVIDIA HGX B300 系統,配備 8 顆 NVIDIA Blackwell Ultra GPU 的與第 6 代 Intel® Xeon®雙處理器,提供極致 Token 吞吐量、優異能源效率與高度彈性的基礎架構擴充力,再搭配安圖斯科技自主研發的軟體管理生態系,致力將先進硬體效能無縫轉化為實際營運價值,全面加速企業級 AI 工廠規模化落地。
安圖斯科技執行長李占傑表示:「生成式 AI 正從實驗室驗證全面走向企業核心維運,隨著企業對於高效能運算基礎架構的需求持續提升,安圖斯科技致力於整合領先的運算平台與自研的軟硬體產品,協助企業加速兆級模型推論與企業級 AI 規模化落地,建構具備高擴充性與高運作效率的 AI 工廠。」
NVIDIA Blackwell Ultra 高速協同,突破運算極限
隨著生成式 AI 邁向多模態與長文本推理發展,運算密度與互聯頻寬已成企業AI基礎架構的重要關鍵。Altos BrainSphere™ R880 F8 採用 8U 架構,深度整合第 6 代 Intel® Xeon®雙處理器與 8 顆 NVIDIA Blackwell Ultra GPU。核心運算平台搭載 NVIDIA HGX B300 系統,並配置 32 組高速 DDR5 記憶體(高達 6400 MT/s),為複雜資料處理與高強度 AI 負載提供充沛的主運算動力。
透過第五代 NVIDIA NVLink 技術,系統可實現高達 14.4 TB/s 的聚合 GPU 互聯頻寬,並結合 2.1 TB HBM3e 記憶體與 64 TB/s 記憶體頻寬,大幅降低資料搬移瓶頸,全面釋放兆級參數模型與長上下文(Context Length)的 Token 吞吐極限,支援較長篇幅的內容處理與更快速的生成式 AI 應用。
次世代 800G 互聯與極速儲存,滿足AI工廠部署需求
為因應分散式叢集的巨量橫向擴展(Scale-Out)需求,Altos BrainSphere™ R880 F8 整合 8 組 NVIDIA ConnectX-8 SuperNIC,支援最高 800 Gb/s NVIDIA Quantum InfiniBand(XDR IB)或雙埠 400 Gb/s 高速乙太網路,確保跨節點平行運算時具備極低延遲與極致頻寬,協助企業快速建置大規模AI叢集環境。
在資料存取與擴充彈性上,機身前置 8 組 2.5 吋熱插拔 PCIe Gen5 NVMe SSD 插槽,內置 2 組 M.2 PCIe Gen5 插槽,以及 4 組 FHHL PCIe Gen5 x16 雙槽擴充槽,提供高速儲存與多元介面擴充能力。Altos BrainSphere™ R880 F8 更能支援 4 顆 M.2 PCIe SSD RAID卡,並搭配 GRAID SupremeRAID™ AE GPU 加速 NVMe RAID 技術,在提升 IOPS 效能的同時,兼顧資料冗餘與可靠性,滿足高效能運算與資料處理需求。
