時(shí)間:2023-07-19來(lái)源:本站
近日,英特爾專(zhuān)門(mén)針對中國市場(chǎng)推出深度學(xué)習加速器Habana® Gaudi®2,以領(lǐng)先的性?xún)r(jià)比優(yōu)勢,加速AI訓練及推理,提高深度學(xué)習性能和效率,從而成為大規模部署AI的更優(yōu)解。
作為英特爾在中國最重要的戰略合作伙伴和中國AI服務(wù)器市場(chǎng)的TOP3,寶德計算積極攜手英特爾,推出了支持8顆Gaudi®2加速器的AI加速計算服務(wù)器——PR8908WG,具有高性能、可擴展性強、高能效和開(kāi)箱即用等優(yōu)勢,能夠為AI客戶(hù)尤其是大模型訓練和推理提供超高性?xún)r(jià)比的算力支撐。
全新Gaudi®2訓練加速器專(zhuān)為深度學(xué)習而生
寶德AI服務(wù)器PR8908WG+ Gaudi®2大模型算力新選擇
寶德AI服務(wù)器PR8908WG采用第三代英特爾®至強®可擴展處理器,8U空間支持8顆OAM高速互聯(lián)的Gaudi®2 AI加速器,每顆Gaudi®2芯片配置96GB HBM高速內存,GPU與 GPU 之間互聯(lián)帶寬達到400GB/s,提供2.1Tbps的P2P互聯(lián)帶寬,支持全互聯(lián)拓撲,全面滿(mǎn)足大模型訓練的海量通信需求;它支持200Gb ETH和HDR高速智能網(wǎng)卡,支持GPU Direct RDMA,完美滿(mǎn)足集群和超大規模擴展應用。
PR8908WG擁有32個(gè)DDR4 DIMM插槽,最大支持8TB 32x 256 GB DRAM;支持24塊2.5英寸SAS/SATA熱插拔硬盤(pán)位,默認支持8塊直連SATA硬盤(pán),4塊NVMe U.2 SSD,同時(shí)內置2個(gè)NVMe M.2 SSD,實(shí)現 CPU 直通設計,降低 I/O 延遲;它提供2個(gè)PCIe 4.0 x16 FHFL插槽和2 個(gè)PCIe 4.0 x8 FHFL插槽;支持以太網(wǎng)、InfiniBand、OPA等多種不同網(wǎng)絡(luò )選擇和互聯(lián)需求。
PR8908WG整機采用模塊化設計,獨立的GPU和CPU 熱量分區設計確保系統在最苛刻的工作負載下性能和穩定性不受影響;同時(shí)板載集成BMC、支持通過(guò)RAID卡超級電容、支持IPMI 2.0遠程管理等,非常方便用戶(hù)對AI算力設備的維護管理。
綜上,寶德AI加速計算服務(wù)器PR8908WG可以滿(mǎn)足AI不同場(chǎng)景下海量數據的計算和推理需求,特別適用于大模型訓練和推理、深度學(xué)習、自動(dòng)駕駛、智能城市、醫療健康、大數據、高性能計算 (HPC) 和虛擬現實(shí)等應用場(chǎng)景,幫助加速更多AI技術(shù)的落地和應用。
大模型將帶來(lái)AI新價(jià)值,“百模大戰時(shí)代”已經(jīng)來(lái)臨。隨著(zhù)各大模型的爭奇斗艷和對成本、盈利模式等的日益關(guān)注,性?xún)r(jià)比為王將成為AI算力的新標準。
作為中國領(lǐng)先的計算產(chǎn)品方案提供商,寶德計算將繼續發(fā)揮AI服務(wù)器領(lǐng)域的技術(shù)優(yōu)勢和市場(chǎng)經(jīng)驗,攜手英特爾等合作伙伴不斷創(chuàng )新,探索大模型算力的更多選擇,打造更具性?xún)r(jià)比的AI算力和解決方案,助力中國大模型更多細分場(chǎng)景的落地和商業(yè)變現,共同加速中國大模型技術(shù)的發(fā)展步伐,推動(dòng)中國人工智能產(chǎn)業(yè)的整體升級!