序號

名稱

基本技術(shù)參數(shù)

單位

數(shù)量

1

AI

服務(wù)器1

1,、機箱：≥4U

2、CPU：配置2顆CPU,。單顆CPU≥32核,，，主頻≥2.1GHz,，動態(tài)加速頻率≥4GHz,L3緩存≥160MB,，支持DDR5 4800MT/s，支持指令集AMX,，支持超線程技術(shù)

3,、內(nèi)存：DDR5,≥512G，單條≥64G,，主頻≥5600MHz

4,、固態(tài)硬盤：≥960G SSD*2，≥3.84TB Nvme SSD*4

5,、GPU:配置5塊GPU,。單塊GPU須滿足計算核心數(shù)≥10000，基礎(chǔ)頻率≥1440MHz,加速頻率≥2520MHz,，張量核心Tensor Core≥360個,，顯存容量≥48GB，顯存類型GDDR6,，帶寬≥860GB/s,，位寬≥380，二級緩存≥90MB,；算力性能FP32≥55TFLOPS,，F(xiàn)P16/BF16 ≥110TFLOPS，INT8/FP8≥230TFLOPS，支持ECC ,，TDP≥275W

6,、網(wǎng)卡：≥2*單卡雙25GE（含原廠多模模塊，模塊自適應(yīng)10/25G網(wǎng)絡(luò)）,，

2*100GE（含原廠多模模塊）≥100IB

7,、配備獨立陣列卡，配備12Gbps SAS磁盤陣列控制器,，帶2GB高速緩存,，帶電池保護，支持Raid 0/1/5/6/10

8,、電源：≥3000W*4

9,、其他：風(fēng)扇、供電模組須配備滿足≥8塊全高全寬GPU同時運行的配件,。

臺

1

2

AI

服務(wù)器2

1 機箱：機架式服務(wù)器≤4U,，功率≤6KW，配置標(biāo)準(zhǔn)滑軌,。

2 CPU ：配置≥4顆ARM架構(gòu)處理器,，單顆核數(shù)≥48,主頻≥2.6GHz。

3 GPU ：配置≥8個AI模組,，用于 AI 訓(xùn)練和推理任務(wù)，可提供統(tǒng)一的算力平臺支持,。AI模組規(guī)格要求：單卡顯存≥64GB,，單卡FP16算力≥313TFLOPS；顯存帶寬≥1600GB/s,；8路NPU通過HCCS Full mesh互聯(lián),，雙向互聯(lián)帶寬≥392GB/s。

4 內(nèi)存：配置≥1024GB DDR4內(nèi)存,。

5 系統(tǒng)盤：配置≥2塊480G SSD 硬盤,。

6 數(shù)據(jù)盤：≥4塊3.84TB NVME SSD 硬盤。

7 業(yè)務(wù)網(wǎng)卡：配置≥2個25G光口（含光模塊）,。

8 RAID 卡：配置 RAID 卡,，至少支持 RAID 0,1,5,6,10,50。

9 RAID卡電容：配置超級電容支持掉電保護,。

10電源：配置≥4塊2600W電源,，支持2+2冗余。

11兼容性： AI 訓(xùn)練芯片應(yīng)支持 TensorFlow ,、 PyTorch ,、 MindSpore 等 AI 框架。

12框架支持：提供國產(chǎn)化人工智能編程框架，支持動靜態(tài)圖結(jié)合,，支持自動微分,，支持端邊云全場景開發(fā)部署能力。

13框架接口：人工智能框架支持邊云協(xié)同,，提供統(tǒng)一的模型訓(xùn)練,、推理接口，支持端,、邊,、云等不同場景下的靈活部署，滿足醫(yī)院未來不同的部署需要,。

14開發(fā)套件：提供人工智能應(yīng)用軟件開發(fā)套件,，提供極簡易用、高性能的 API 和工具,，支持提供面向大規(guī)模特征檢索／聚類的不同行業(yè) SDK ,。

15開發(fā)工具：提供人工智能全流程開發(fā)工具鏈，可提供模型轉(zhuǎn)換工具,、模型訓(xùn)練工具,、自定義算子開發(fā)工具、應(yīng)用開發(fā)工具,、工程管理工具,、編譯工具、流程編排工具,、精度比對工具,、日志管理工具、性能分析工具,、設(shè)備管理工具等多種開發(fā)工具,。

16軟件驅(qū)動：提供驅(qū)動軟件，適配主流操作系統(tǒng),；提供張量編譯器,，支持計算圖解析、圖優(yōu)化,、圖編譯,；提供高性能算子庫，支持 C ANN 組件,、 NN 庫,、 CV 庫和 BLAS 庫等，提供高性能算子,。

17安全性：關(guān)鍵部件國產(chǎn)化要求,， CPU 符合安全可靠測評要求,。

必須滿足通過中國信息安全測評中心或者國家保密科技測評中心的測評。

18集群接口：配置200GE ROCE 接口,，支持組建低時延訓(xùn)練集群,。

19提供設(shè)備原廠三年維保服務(wù)并提供服務(wù)器原廠商和AI模組廠家售后服務(wù)的承諾函加蓋公章。

臺

1