客服微信帝隆科技客服微信
首页 客户案例 关于帝隆

产品简介

HuaKun AT3500 G3 A

HuaKun AT3500 G3 A

天智·推理服务器

HuaKun AT3500 G3 A 采用8模组高效推理方式，提供强劲AI推理能力，在算力、内存带宽和互联能力方面具有优势，可广泛应用于生成式大模型推理，例如智能审核、智能尽调、智能风控、智能客服、智能问答、文案生成、知识沉淀等内容生成类场景。支持2.2 PFLOPS FP16算力和超大互联带宽，有效提升大模型推理效率。

产品特征

01超高算力密度

  • 支持4颗高性能国产自研鲲鹏920处理器
  • 搭载8颗昇腾AI模组，高效加速应用

02极致能效比

  • 高效能、低功耗的AI算力基础设施，节省运营费用
  • 高效节能系统散热风扇，降低系统散热能耗

03高速网络带宽

  • 8*200GE RoCE v2高速接口
  • 8路NPU通过HCCS Full mesh互联，双向互联带宽达392GB/s

产品规格

形态4U 机架式服务器
NPU8 * 昇腾910处理器
CPU4 * 鲲鹏920处理器
AI算力2.24 PFLOPS @FP16; 4.48 POPS @INT8
片上内存8 * 32GB，内存带宽0.8TB/s
内存32个 DDR4 插槽，最高 3200 MT/s；单根内存条容量支持 16 / 32 / 64 GB
本地存储8 * 2.5 SATA + 2 * 2.5 NVMe；或 4 * 2.5 SATA + 6 * 2.5 NVMe
RAID支持RAID 0 / 1 / 10 / 5 / 50 / 6 / 60
网络8 * 200GE QSFP接口直出，RoCE协议
PCIE槽位支持3个PCIe 4.0 X8 标准插槽
电源4个热插拔2.6kW电源模块，支持2+2冗余
供电200 ~ 240VAC，240VDC
散热方式风冷
风扇支持8个热拔插风扇模组，支持N+1冗余
工作环境温度5℃~35℃（41°F~95°F）
结构尺寸175mm(高)*447mm(宽)*790mm(深)
操作系统支持Ubuntu、CtyunOS、Culinux、EulerOS、openEuler、CentOS、Kylin V10等操作系统
模型支持支撑 DeepSeek-R1-671B(int8 量化版) 或更高规格版本运行
其他主机前面板提供故障诊断功能，具有对主机CPU/内存/硬盘/网卡/风扇/温度/电源等关键部件的故障诊断报警功能;
能够分别显示硬盘故障、系统运行故障、风扇及温度故障、网络故障。

相关资源

查看更多
【技术白皮书】天智HuaKun AT3500G3推理服务器技术白皮书 【彩页】天智HuaKun AT3500G3推理服务器