AIGC加速和大模型群雄并起，在數據資源和算法生態(tài)的基礎上，無(wú)論是訓練還是推理，都離不開(kāi)大算力的支持，而且，隨著(zhù)大模型競賽的加劇AI算力需求正呈現指數級增長(cháng)，算力困局亟需破解。作為中國領(lǐng)先的計算產(chǎn)品方案提供商和中國AI服務(wù)器TOP3，寶德計算積極學(xué)習和吸收業(yè)界先進(jìn)的AI技術(shù)和產(chǎn)品，加速算力的產(chǎn)品化和市場(chǎng)化，為中國大模型群雄競技筑牢算力底座。

NVIDIA L40S GPU

NVIDIA L40S GPU基于 Ada Lovelace 架構，搭載142個(gè)第三代RT Core、568個(gè)第四代Tensor Core，18176個(gè)CUDA核心和行業(yè)領(lǐng)先的 48 GB GDDR6 顯存、864GB/秒帶寬，是適用于數據中心的強大而通用的GPU，尤其能夠為大語(yǔ)言模型 (LLM) 推理和訓練、圖形和視頻應用提供突破性的多負載加速。

在A(yíng)I訓練和推理工作負載中NVIDIA L40S GPU表現卓越，它能夠在LLM上提供高達6倍的GPT-3+ AI訓練速度和4倍的AI推理加速。而且采用Transformer 引擎逐層管理，無(wú)需 AI 框架或用戶(hù)干預即可自動(dòng)運行。而且，與上一代相比，L40S提供2倍以上的單精度浮點(diǎn) (FP32) 吞吐量，運算峰值增加了一倍，可大大加速工程仿真、科學(xué)模擬、物理計算等工作負載。

作為多模態(tài)生成式 AI 的首要平臺，NVIDIA L40S擁有同比上代 2倍加速的實(shí)時(shí)光線(xiàn)追蹤性能以及專(zhuān)用的編解碼引擎，提供更快的渲染速度和更高的每秒幀數 (FPS)，并顯著(zhù)降低延遲，有效加速AI 的音頻、語(yǔ)音、2D、視頻、虛擬和 3D 生成式 AI 應用程序，強力支持實(shí)時(shí)渲染、產(chǎn)品設計和3D內容創(chuàng )建等高保真的專(zhuān)業(yè)可視化工作負載。

作為NVIDIA OEM合作伙伴，寶德AI訓練和AI推理等系列服務(wù)器一直保持與NVIDIA 新一代GPU卡的及時(shí)測試適配和技術(shù)調優(yōu)，致力于為用戶(hù)各種AI創(chuàng )新應用和數字化內容開(kāi)發(fā)和創(chuàng )建提供更強大的算力。

寶德AI訓練服務(wù)器PR4910E/PR4910W

NVIDIA L40S GPU加持，寶德AI訓練服務(wù)器PR4910E將為大模型拉滿(mǎn)算力。它可以支持10張全高全長(cháng)雙寬的NVIDIA L40S GPU卡，同時(shí)采用2顆身懷七大算力神器的第四代英特爾®至強®可擴展處理器，最大可達60核心，為大模型訓練提供強有力的算力支撐。它具有13 個(gè)PCIe x16 Gen5插槽，支持32個(gè) DIMM / DDR5內存插槽，支持最新的400Gb ETH和NDR IB高速智能網(wǎng)卡，以及 GPU Direct RDMA，最多支持24個(gè) NVMe SSD，而且采用CPU 直通設計，大幅降低 I/O 延遲，為大模型數據存儲和傳輸提供高效可靠的保證。此外，它采用整機模塊化設計，支持靈活切換 CPU 和 GPU 的異構拓撲結構，非常便于用戶(hù)的系統維護和管理。

寶德AI訓練服務(wù)器PR4904E/PR4904W

值得一提的是，NVIDIA L40S GPU采用PCI-e4.0技術(shù)，可以兼容和支持第三代英特爾®至強服務(wù)器平臺，因此能夠幫助用戶(hù)合理利用和擴展已有算力基礎設施，并最終降低用戶(hù)的TCO。目前，除了PR4910E，能夠適配N(xiāo)VIDIA L40S GPU的寶德AI訓練服務(wù)器還有基于第三代英特爾®至強平臺的4U10卡服務(wù)器PR4910W、基于第四代/第三代英特爾®至強平臺、支持4卡的機塔互換式服務(wù)器PR4904E和PR4904W等，可以支持大模型用戶(hù)按需選擇和靈活配置，為其賽道競技強力助攻。