自定义 : 1. 规格：双路机架式服务器。 2. CPU:2*X86架构处理器，单颗处理器核心≥32核心，基本主频≥2.1GHz。 3. 内存:≥8*64GB DDR5-4800MHz内存，具备≥16个DDR5内存插槽。 4. 硬盘:≥2*480G SSD+2*8T 7.2K SATA硬盘。 5. RAID:≥1*SAS RAID卡，≥2G缓存。 6. GPU:每台服务器支持≥8张双宽GPU，配备至少9块GPU卡，每块GPU卡要求CUDA核心数≥16384、基本频率≥2.23GHz、≥24G GDDR6X显存、Shader Cores≥83 TFLOPS、Ray Tracing Cores≥191 TFLOPS，涡轮风扇。 7. 网卡:≥4个千兆网口+2个万兆光网口(含模块)。 电源:配置≥2000W 冗余电源。 8. 提供AI**管理软件功能。实现AI**的灵活调配管理。实现AI模块的统一调度、统一用户管理、统一文件管理、统一计费、统一监控、预警。提供佐证材料。 9.提供AI模型训练、转换、评估、预测、导出、在线推理等功能； 10.提供支持任意框架作业运行，支持单机单卡、单机多卡、多机多卡，支持多种框架的分布式建模训练功能，主要包括：Tensorflow单机多机；Pytorch单机多机分布式训练等，能够满足集群**监控；支持CPU、内存、GPU、网络带宽等**的实时状态显示；支持单节点的**实时监控；支持多维度**统计。提供佐证材料。 11. 提供在集群内所有服务器之间进行可视化界面组网。提供佐证材料。 12. 提供数据标注功能，包括个人标注和团队标注、标注任务审核。提供佐证材料。 13. 提供TensorFlow、Pytorch等常见深度学习框架和scikit-learn机器学习框架的使用功能。提供佐证材料。 14.提供50种以上常用算子组件，包括数据预处理、特征工程、统计分析、机器学习、深度学习六大类组件。提供佐证材料。 15.提供10种以上常用开源大模型，支持模型导入、导出功能。提供佐证材料。 16. 提供微调脚本和参数调优工具，支持故障自动检测，支持自动checkpoint断点续训，支持checkpoint存储加速功能。提供佐证材料。 17. 提供Jupyter lab及完整功能；支持与本地IDE互通功能。提供佐证材料。 18. 提供报表系统，能够对已完成作业、用户作业吞吐量、**使用统计和存储等进行统计，按用户、用户组、队列、时段等维度进行显示，能够生成统计报表，报表支持pdf、html和excel格式，支持导出报表功能。提供佐证材料。 19.提供管理功能：满足线下库房整机信息详细管理，包括整机物料名称、物料编码、类型、厂商、型号、序列号、批次、位置、货位编码、货位名称，供应商、资产编码，RFID标签编号，采购价格、采购员以及采购时间的管理，满足用户对线下整机的统计需求。 20.提供管理安全功能：产品服务器支持纳管设备，BMC固件登录密码托管功能，提升用户BMC密码管理的安全性与便捷性。 21.提供计算虚拟化、GPU虚拟化的统一的图形界面管理功能。 22.提供面向深度学习开发场景，能够实现从数据管理、模型开发、模型训练、模型管理、模型测试、模型推理、发布等管理功能。 23.需兼容现有利旧AI服务器，并提供统一管理和调度3台利旧AI服务器及一台管理节点功能，提供不少于3年的技术支持服务。 24.提供通过Docker快速创建计算环境功能：基于Kubernetes进行可移植容器的编排管理，计算环境隔离互不影响，内置各种AI框架镜像，包括 Tensorflow、pytorch、主流框架版本，兼容web开源镜像和用户自定义镜像。 25.提供文件存储管理功能，支持对文件、文件夹的上传、下载、复制、重命名、压缩解压、搜索、在线编辑等功能，支持视频、图片、音频在线查看；提供sftp工具数据上传功能。 26.提供数据权限管理功能，支持个人数据共享给其他用户、组或全局，支持个人存储空间配额管理，支持公共数据的访问权限管理，指定用户可见，支持数据防下载、可读/可写权限管理。 27.提供多存储对接功能，存储类型支持NFS、HDFS等，可同时多个存储对接。 28.提供持久卷管理功能，支持管理集群存储类，管理员可创建删除存储类，为不同用户组、场景分配存储类**；支持创建持久卷声明，****服务部署模式挂载持久卷声明进行；可对存储类的服务IP、共享目录、访问模式、总容量等信息进行配置。 29.提供单机\分布式训练任务，提供训练任务模板，可以提交Tensorflow、pytorch、PaddlePaddle等框架的单机\分布式训练作业；满足大模型训练容错，自动检测异常训练节点、出现异常节点自动业务迁移，自动加载断点重新发起任务；设置任务**配置的上下限，基于可用**大小动态伸缩任务**配置。 30.提供开发训练实例的监控、可视化信息查看，满足开发环境/训练任务下的**监控，包括CPU、内存、加速卡、网络I/O、磁盘I/O的实时监控，提供页面化的实时动态趋势图展示；支持开发环境/训练任务tensorboard、Visdom、Netscope可视化框架，用户可以通过页面化方式发起可视化服务。 31.提供推理服务编排，满足推理服务的在线编排能力，提供推理服务基于串行、条件分支、流量分支、融合分支编排的能力；用户可以通过可视化界面方式，查看到所有场景的服务编排图、服务流状、服务流中的服务组成情况。 32.提供业务**管理功能，支持数据集、镜像框架、算法、模型、应用的版本管理，针对不同数据资产提供元数据管理、版本分支查看，可对历史版本信息进行追溯，方便模型开发项目管理，开发成果展示，历史任务快速启动运行。 33.提供模型管理（训练）功能，提供模型版本管理功能，将训练生成的模型导入到模型仓库，记录模型训练过程中的环境信息、训练脚本、超参设置、模型评估信息等模型的元数据，方便历史回溯；存档模型可进行发布、共享，访问用户可进行模型测试、模型二次开发使用。 34.提供算法管理功能，提供算法版本管理功能，将开发调试好的算法对应的文件数据、基础环境信息、**配置、环境变量、启动命令等相关元数据统一记录，方便历史回溯，用户可基于算法版本进行二次开发、支持算法算法一键提交训练，支持算法的共享发布。 35.提供模型管理（推理）功能，支持训练模块或者第三方模型的统一版本管理，支持模型创建、查询、修改、共享的统一管理，支持纳管模型文件或模型部署包；支持模型资产的组内、集群共享。 36.提供应用管理功能，****商店中对用户自定义应用镜像、应用镜像、NGC镜像、**伙伴镜像等多来源应用进行管理；支持对应用进行详情查看、设置应用权限、转移所有权、删除等操作。 37.提供多厂家异构芯片纳管功能，基于不同应用场景和对计算能力需求，满足英伟达GPU、寒武纪MLU、高通、等芯片接入；异构加速卡与GPU可混合管理、统一分配和使用。 38.提供权限控制功能，支持基于角色、版本、用户等多维度对用户访问进行控制。;

自定义 : 要求：国产品牌；≥1颗X86架构处理器，≥16核22线程1.4GHz，最高频率不低于4.8GHz。运行内存≥32GB，存储容量≥1TB硬盘类型SSD。 屏幕类型：OLED,高分辨率(2K以上),高亮度(全屏>400nits),高屏占比(≥85%),高色域(100%sRGB) 屏幕尺寸：≥14英寸，分辨率≥3120x2080;