DeepSeek/Qwen通義千問(wèn)-AI大模型國(guó)產(chǎn)顯卡信創(chuàng)GPU一體機(jī)集高端服務(wù)器、AI管理系統(tǒng)、高效能基礎(chǔ)模型、全流程AI工具鏈于一體的開(kāi)箱即用的AI解決方案。適用于科研院所、教育、政府、企業(yè)等用戶(hù)，有一定私域?qū)Ｓ兄R(shí)，希望快速構(gòu)建AI能力賦能文字處理、數(shù)據(jù)分析、科學(xué)研究等繁重業(yè)務(wù)，專(zhuān)為云端AI訓(xùn)練和推理設(shè)計(jì)，主要面向AI大規(guī)模深度學(xué)習(xí)場(chǎng)景。
通過(guò)持續(xù)的架構(gòu)創(chuàng)新和工藝迭代，已覆蓋從訓(xùn)練到推理、從邊緣到云端的產(chǎn)品矩陣，其國(guó)產(chǎn)化率的提升和生態(tài)體系的完善，為AI算力自主可控提供重要支撐。
適用于智慧城市、智慧醫(yī)療、天文探索、石油勘探、預(yù)測(cè)天氣、自動(dòng)駕駛等需要大AI算力的領(lǐng)域，有一定私域?qū)Ｓ兄R(shí)應(yīng)用于深度學(xué)習(xí)模型開(kāi)發(fā)和訓(xùn)練，可以更快的進(jìn)行視頻、圖像、語(yǔ)音、文字的AI模型訓(xùn)練和科學(xué)研究。
DeepSeek/Qwen-AI大模型國(guó)產(chǎn)顯卡信創(chuàng)GPU服務(wù)器產(chǎn)品優(yōu)勢(shì)：
- 適配DeepSeek、Qwen通義千問(wèn)、Llama等主流開(kāi)源大模型；能夠支持國(guó)內(nèi)外主流軟硬件生態(tài)和各種深度學(xué)習(xí)框架、算法模型和加速庫(kù)。
- 兼容CUDA生態(tài)，支持市場(chǎng)主流生態(tài)，生態(tài)應(yīng)用遷移迅速；支持FP32、FP16、INT8等多精度推理混合計(jì)算。
- 私有數(shù)據(jù)不出域，在保障數(shù)據(jù)安全的同時(shí)構(gòu)建業(yè)務(wù)智能體，解決敏感數(shù)據(jù)無(wú)法上云的痛點(diǎn)；
- 支持DeepSeek全系列滿(mǎn)血版模型的訓(xùn)練推理，顯著提升性能并降低部署成本。
DeepSeek/Qwen-AI大模型國(guó)產(chǎn)顯卡信創(chuàng)GPU服務(wù)器配置：
旗艦版：DeepSeek- 671B 滿(mǎn)血版/Qwen、Llama等
處理器：2*海光7390/7490
國(guó)產(chǎn)GPU顯卡：64G*8
內(nèi)存：64GB*16
硬盤(pán)：480G SSD *4+3.84T NVMe*4
網(wǎng)絡(luò)：配置RDMA網(wǎng)卡或IB網(wǎng)卡
•支持滿(mǎn)血版671B模型及蒸餾模型（需部署兩臺(tái)）
•大并發(fā)、性能強(qiáng)
•可靈活擴(kuò)展，支持大型企業(yè)規(guī)模化應(yīng)用
高配版：DeepSeek- 70B/Qwen、Llama等
處理器：2*海光7380/7480
國(guó)產(chǎn)GPU顯卡：32G*8
內(nèi)存：64GB*16
硬盤(pán)：480G SSD *2+3.84T NVMe*2
網(wǎng)絡(luò)：以太網(wǎng)/RDMA網(wǎng)卡
•支持精度FP16的70B模型及蒸餾模型
•低成本、私有化部署
•滿(mǎn)足客戶(hù)體驗(yàn)、小規(guī)模使用需求
標(biāo)準(zhǔn)版：DeepSeek- 32B/Qwen、Llama等
處理器：2*海光7380/7480
國(guó)產(chǎn)GPU顯卡：32G*4
內(nèi)存：32GB*8
硬盤(pán)：480G SSD*2+3.84T NVMe*2
網(wǎng)絡(luò)：以太網(wǎng)
邊緣版：DeepSeek-14B/Qwen、Llama等
處理器：X86處理器
國(guó)產(chǎn)GPU顯卡：32G*2
內(nèi)存：32GB*4 DDR4
硬盤(pán)：按需
網(wǎng)絡(luò)：以太網(wǎng)
• 支持中小參數(shù)蒸餾模型
• 低門(mén)檻上車(chē)，輕量化應(yīng)用
- 低噪音、可在政務(wù)、教育等辦公環(huán)境部署
軟件環(huán)境：
• 推理框架：VLLm
• 操作系統(tǒng)：Ubuntu、國(guó)產(chǎn)系統(tǒng)
