RM新时代实业有限公司

    • ?
    擁抱大模型時(shí)代，共舞AI算力

    時(shí)間：2023-07-05來(lái)源：本站


    寶德服務(wù)器 2023-07-05 18:13 廣今年以來(lái)，全球最火的“頂流”非大模型莫屬。資料顯示，ChatGPT掀起的AI 大模型熱潮席卷到國內，國產(chǎn)大模型的發(fā)布爭先恐后，數量總計達到 93 個(gè)，即將破百，中國大模型已然呈現“百模齊放”之勢。
    大模型需要處理大量數據，并進(jìn)行海量復雜的計算，于是AI芯片市場(chǎng)烽煙雄起。早有NVIDIA 左手A800右手H800，被稱(chēng)為ChatGPT火爆以來(lái)的最大贏(yíng)家，今年5月再次發(fā)布了GH200 Grace Hopper超級芯片和大內存AI超級計算機DGX GH200。緊隨其后，6月蘇媽隆重發(fā)布了MI300X芯片，在大語(yǔ)言模型上獲得優(yōu)勢。芯片巨擘英特爾也早有布局和實(shí)踐，以專(zhuān)攻AI計算的Habana® Gaudi®2和第四代至強可擴展處理器（MAX）等多樣的硬件產(chǎn)品組合提供強大AI算力，6月底在MLCommons AI性能基準測試MLPerf訓練3.0中展示了優(yōu)異性能和卓越的性?xún)r(jià)比*。AI芯片技術(shù)競賽繼續火熱進(jìn)行中……
    大模型非常依賴(lài)AI算力，但是絕對離不開(kāi)CPU為主的通用算力。于是，AI服務(wù)器作為AI算力基礎的重要設備需求激增。AI服務(wù)器專(zhuān)注于海量數據外理和運算方面，可以為人工智能，深度學(xué)習，神經(jīng)網(wǎng)絡(luò )，大模型等場(chǎng)景提供強大的動(dòng)力并可廣泛應用于醫學(xué)、材料、金融、科技等千行百業(yè)。作為中國AI服務(wù)器的TOP3，寶德計算已經(jīng)布局了完善的AI訓練、AI推理和AI邊緣的AI算力，并堅持攜手上游AI芯片戰略合作伙伴，學(xué)習吸收先進(jìn)技術(shù)和產(chǎn)品，不斷升級和完善強勁完善的AI算力基礎設施。
    大模型訓練以寶德AI訓練服務(wù)器PR4910E為佳，它采用2顆身懷七大算力神器的第四代英特爾®至強®可擴展處理器，最大可達60核心，并具有13 個(gè)PCIe x16 Gen5插槽，支持10個(gè)全高全長(cháng)雙寬 GPU卡（NVIDIA® Tesla系列、英特爾®GPU Flex系列和昇騰Atlas系列等），可為大模型訓練強有力的算力支撐；它支持32個(gè) DIMM / DDR5內存插槽，支持最新400Gb ETH和NDR IB高速智能網(wǎng)卡，以及 GPU Direct RDMA，最多支持24個(gè) NVMe SSD，且采用CPU 直通設計，大幅降低 I/O 延遲，這些都為大模型數據存儲和傳輸提供高效可靠保證；此外，它采用整機模塊化設計，支持靈活切換 CPU 和 GPU/TPU 的異構拓撲結構，方便用戶(hù)維護和管理。
    大模型推理用服務(wù)器則首推寶德自研雙路服務(wù)器PR2715E，它具有極致性能、卓越能效和能打的顏值，專(zhuān)注于高性能、云計算和數據中心等計算需求。同樣采用2顆第四代英特爾®至強®可擴展處理器，提供強大的計算能力，支持DDR5、PCIe 5.0和HBM，性能提升高達50%；設有32個(gè)內存插槽，最大可支持8TB；它最大支持12個(gè)2.5”( 3.5”)和4個(gè)后置2.5 ”SATA/SAS/NVMe熱插拔硬盤(pán)，或24個(gè)2.5”SATA/SAS/NVMe 和2個(gè)后置2.5 ”SATA/SAS熱插拔硬盤(pán)，支持內置1個(gè)M.2（NVMe/SATA），保障了整機性能的強勁可靠；異構設計的系統，支持8張單寬 或者3張雙寬GPU卡，擁有強勁的AI算力和安全性能。而且PR2715E具有智能散熱系統、支持液冷散熱，進(jìn)一步幫助用戶(hù)降低TCO。
    此外，面對計算服務(wù)成本高和研發(fā)技術(shù)門(mén)檻高兩大痛點(diǎn)，寶德提供了人工智能管理平臺PLStack，它基于 Docker + K8s技術(shù)實(shí)現整合現有計算設備資源，更好的對資源進(jìn)行分配、管理、調度和監控。一方面，緩解深度學(xué)習算法訓練的瓶頸，提高資源利用率，從而釋放人工智能的全新能力；另一方面，降低 AI 技術(shù)門(mén)檻，釋放AI 技術(shù)潛力，幫助用戶(hù)將更多的精力集中到垂直應用的工作領(lǐng)域。而且，寶德PLStack平臺支持多種主流深度學(xué)習框架（Tensorflow、PyTorch、Caffe 等），方便快速部署訓練環(huán)境，并且支持多人在線(xiàn)實(shí)驗，能夠通過(guò)更直觀(guān)的 UI 界面對資源進(jìn)行高效管理。
    如今，AI算力價(jià)格持續攀升、成本高居不下成為中國大模型發(fā)展面臨的棘手問(wèn)題，商業(yè)化轉型日益緊迫，更加聚焦政務(wù)、金融、文娛、醫療、教育、汽車(chē)等行業(yè)的行業(yè)大模型和垂直大模型成為新的發(fā)展方向。大模型時(shí)代已來(lái)，AI算力共舞！
    作為中國領(lǐng)先的算力產(chǎn)品方案提供商，寶德計算將繼續發(fā)揮技術(shù)、市場(chǎng)和生態(tài)等整體優(yōu)勢，以性能強大、安全高效、應用適配和卓越性?xún)r(jià)比的AI產(chǎn)品和解決方案為中國更多的大模型發(fā)展和應用提供算力底座，共同助推中國人工智能產(chǎn)業(yè)的高速發(fā)展，賦能中國數字經(jīng)濟高質(zhì)量發(fā)展！
              *素材源于網(wǎng)絡(luò )，如有侵權請聯(lián)系刪除
    熱門(mén)推薦
    ? RM新时代实业有限公司
    • RM新时代官网网址 RM新时代手机版下载 新时代RM|APP官网网址 RM新时代正规平台入口 RM新时代注册 RM新时代正规平台入口-百度知道 RM新时代平台 rm新时代跑路 rm新时代正规吗 RM新时代入口