RM新时代实业有限公司

  • ?
    國內AI大模型陸續開(kāi)放服務(wù),算力基礎設施更要堅實(shí)可靠

    時(shí)間:2023-09-05來(lái)源:本站

    8月的最后一天,大模型賽場(chǎng)最新消息:百度文心一言、百川大模型、質(zhì)譜清言等官宣率先通過(guò)《生成式人工智能服務(wù)管理暫行辦法》備案,即日起可面向全社會(huì )開(kāi)放服務(wù)。據悉,包含這3支大模型在內,國內共有11家大模型陸續通過(guò)《生成式人工智能服務(wù)管理暫行辦法》備案,并于8月31日起將陸續向全社會(huì )公眾開(kāi)放服務(wù)。這也預示著(zhù)大模型之戰從拼技術(shù)、拼參數轉向拼應用、拼落地,但是應用為王的大模型,依然離不開(kāi)強悍堅實(shí)的AI算力底座。


    作為中國領(lǐng)先的計算產(chǎn)品服務(wù)提供商和中國AI服務(wù)器市場(chǎng)TOP3,寶德計算全新AI算力方案致力于為大模型的萬(wàn)千應用和服務(wù)夯實(shí)底座。


    寶德AI訓練服務(wù)器PR4910E+L40S

    大模型加速訓練利器




    大模型訓練需要海量數據的運算和處理,計算王者寶德AI訓練服務(wù)器PR4910E是不二之選。PR4910E支持10張全新發(fā)布的NVIDIA L40S GPU卡,同時(shí)采用2顆身懷七大算力神器的第四代英特爾®至強®可擴展處理器,最大可達60核心,為大模型訓練提供強有力的算力支撐。它具有13個(gè)PCIe x16 Gen5插槽,支持32個(gè) DIMM / DDR5內存插槽,支持最新的400Gb ETH和NDR IB高速智能網(wǎng)卡,以及 GPU Direct RDMA,最多支持24個(gè) NVMe SSD,而且采用CPU 直通設計,大幅降低 I/O 延遲,為大模型數據存儲和傳輸提供高效可靠的保證。此外,它采用整機模塊化設計,支持靈活切換 CPU 和 GPU 的異構拓撲結構,非常便于用戶(hù)的系統維護和管理。該產(chǎn)品已經(jīng)廣泛應用于大模型、人工智能、深度學(xué)習、神經(jīng)網(wǎng)絡(luò ),賦能醫學(xué)、材料、金融、科技等千行百業(yè)智能化轉型和應用。


    寶德AI服務(wù)器PR8908WG+ Gaudi®2

    大模型性?xún)r(jià)比之王




    以大模型算力性?xún)r(jià)比著(zhù)稱(chēng)的寶德AI服務(wù)器PR8908WG,采用第三代英特爾®至強®可擴展處理器,8U空間支持8顆OAM高速互聯(lián)的Gaudi®2 AI加速器,每顆Gaudi®2芯片配置96GB HBM高速內存,GPU與 GPU 之間互聯(lián)帶寬達到400GB/s,提供2.1Tbps的P2P互聯(lián)帶寬,支持全互聯(lián)拓撲,全面滿(mǎn)足大模型訓練的海量通信需求;擁有32個(gè)DDR4 DIMM插槽,支持24塊2.5英寸SAS/SATA熱插拔硬盤(pán)位,采用 CPU 直通設計,降低 I/O 延遲;它支持200Gb ETH和HDR高速智能網(wǎng)卡,支持GPU Direct RDMA,完美滿(mǎn)足集群和超大規模擴展應用。


    PR8908WG整機采用模塊化設計,獨立的GPU和CPU 熱量分區設計確保系統在最苛刻的工作負載下性能和穩定性不受影響,也非常方便用戶(hù)對AI算力設備的維護管理。它可以滿(mǎn)足AI不同場(chǎng)景下海量數據的計算和推理需求,特別適用于大模型訓練和推理、深度學(xué)習、自動(dòng)駕駛、智能城市、醫療健康、大數據、高性能計算 (HPC) 和虛擬現實(shí)等應用場(chǎng)景,幫助加速更多AI技術(shù)的落地和應用。


    寶德自研AI推理服務(wù)器PR2715E

    大模型應用的得力助手



    大模型上線(xiàn)開(kāi)放服務(wù)之時(shí),模型推理應用的工作負載將面臨更多的挑戰,寶德自研AI推理服務(wù)器PR2715E可以成為其落地應用的得力幫手。它具有極致性能、卓越能效和能打的顏值,專(zhuān)注于高性能計算推理、云計算和數據中心等算力需求。


    PR2715E采用2顆第四代英特爾®至強®可擴展處理器,提供強大的通用計算能力,支持DDR5、PCIe 5.0和HBM,性能提升高達50%;支持異構設計,可以支持8張單寬或3張雙寬GPU卡,擁有強勁的AI推理算力和安全性能。它有32個(gè)內存插槽,最大可支持8TB;它最大支持12個(gè)2.5 ”( 3.5”)和4個(gè)后置2.5 "SATA/SAS/NVMe熱插拔硬盤(pán),或24個(gè)2.5 ”SATA/SAS/NVMe 和2個(gè)后置2.5 ”SATA/SAS熱插拔硬盤(pán),支持內置1個(gè)M.2(NVMe/SATA),保障了整機性能的強勁可靠;此外,PR2715E具有智能散熱系統、支持液冷散熱,能夠進(jìn)一步幫助用戶(hù)降低TCO。


    寶德自研商用并行存儲系統PLStor GS9200

    大模型存力之基



    隨著(zhù)大模型規模的提升和落地應用,海量數據的指數級增長(cháng)勢必帶來(lái)存儲和處理這些數據的更多難題。因此,強大的存力成為大模型有效服務(wù)的基礎保障之一。寶德PLStor GS9200是一款面向大模型多應用場(chǎng)景,以性能為中心,具備高可靠、簡(jiǎn)單易用和豐富企業(yè)級功能等優(yōu)勢的領(lǐng)先并行存儲系統。其存儲集群支持無(wú)上限的大規模擴展,可以輕松擴展到EB級別,并能夠承載上萬(wàn)臺AI/異構算力服務(wù)器,滿(mǎn)足大容量存儲需求。


    寶德PLStor GS9200提供了業(yè)內領(lǐng)先的基于OS內核程序優(yōu)化設計的原生客戶(hù)端,以一客戶(hù)端對多臺存儲節點(diǎn)的方式并行讀寫(xiě)數據,支持RDMA技術(shù),整個(gè)系統能提供上TB/s級的吞吐帶寬。它采用存算融合的設計,可以整合計算節點(diǎn)內的存儲資源,構建全局命名空間的近線(xiàn)存儲池,實(shí)現靈活配置數量來(lái)擴展GPU/CPU計算資源和存儲資源,以滿(mǎn)足動(dòng)態(tài)擴展的業(yè)務(wù)需求。PLStor GS9200數據湖存儲支持塊、文件、對象、大數據等存儲協(xié)議,并且支持POSI/NFS/CIFS/HDFS/S3/Swift等多種協(xié)議互通,實(shí)現平臺高效管理,而且保證在數據安全性、高并發(fā)讀寫(xiě)、高空間利用率三者皆得,滿(mǎn)足不同場(chǎng)景下的數據安全存儲和訪(fǎng)問(wèn)需求。


    大模型發(fā)展如火如荼,成為新一輪科技革命和產(chǎn)業(yè)變革的重要驅動(dòng)力量,大模型競相上線(xiàn)開(kāi)放服務(wù)標志著(zhù)大模型應用時(shí)代即將到來(lái)。寶德計算將乘勢而上,繼續發(fā)揮技術(shù)優(yōu)勢和市場(chǎng)經(jīng)驗,打造先進(jìn)的AI全棧算力方案,助力推動(dòng)大模型的落地應用,為中國AI產(chǎn)業(yè)創(chuàng )新應用提供源源不斷的新動(dòng)力!

    熱門(mén)推薦
    ? RM新时代实业有限公司
  • RM新时代官网网址 RM新时代手机版下载 新时代RM|APP官网网址 RM新时代正规平台入口 RM新时代注册 RM新时代正规平台入口-百度知道 RM新时代平台 rm新时代跑路 rm新时代正规吗 RM新时代入口