《银行科技研究社》（作者 木子剑 ） ：想要打好大模型的这场“战役”，得保证“兵精粮足”。在金融业，****银行正推进大模型体系化建设，在软、硬件上全面发力。
《银行科技研究社》发现，****近期或在加速建设大模型应用体系，多个相关项目的招标或中标公告接连发布。
****采购大模型软件产品，需具备较强的金融知识能力
据《银行科技研究社》了解，****近期发布多个关于大模型应用体系建设的项目招标公告，涉及算力、软件等相关产品采购。
11月12日，****发布2024年大模型应用体系建设项目高性能网络设备采购招标公告。据悉，该行根据大模型技术规划布局及建设实施要求，为满足开展大模型应用体系建设项目，建设大模型基础能力支撑，启动国产高性能网络设备采购。
11月8日，****发布大模型应用体系建设项目之大模型软件产品采购供应商征集公告，软件使用期限为1年。产品需满足信创要求，支持华为昇腾910系列信创GPU等多种算力产品；满足该行私有化部署需求，提供产品部署服务，支持与该行大模型训练与推理平台、应用创设平台等相关系统的集成对接；具备语言理解、内容生成、逻辑推理、代码生成、智能体和数学计算等通用大模型能力，具备较高的金融知识水平及技术水平；支持二次训练生成该行垂域大模型。
在大模型金融知识能力上，软件产品需支持基于金融文本进行金融领域相关的文本理解、复杂金融任务的推理与计算、金融专业文本的生成，包括金融意图识别、金融槽位识别、金融情绪识别等能力；具备金融领域的专业知识，具体包括金融学、经济学、****银行领域知识等。
****对大模型参数提出要求：技术需求方面，供应商需提供具备自有知识产权的千亿或相关系列百亿大模型。
可见，****此次采购的大模型软件产品，需在一定程度上同时满足通用能力和垂直领域的能力。
而在更早之前，****已围绕大模型应用体系建设项目，发布算力及配套产品采购公告。
****采购信创服务器、大模型训推平台、向量数据库、应用创设平台
10月12日，****发布2024年大模型应用体系建设项目信创算力采购之鲲鹏芯片服务器（含昇腾芯片）采购招标公告。公告介绍了所需的服务器详细配置，而供应商送货地点为**总行租赁机房/**总行租赁机房。11月11日，该项目采购结果公示，中标人为****。
9月25日，****发布大模型应用体系建设项目之配套产品采购供应商征集公告。该项目包含3个标包，分别为大模型训练与推理平台产品采购、向量数据库产品采购、大模型应用创设平台产品采购，这些产品均需满足信创要求。
其中，包件一-大模型训练与推理平台产品方面。产品需具备大模型全生命周期的能力。****采购该产品，旨在构建大模型一体化训推管理平台，实现异构算力纳管、大模型资产管理，一站式满足企业训练和使用大模型。
产品的功能需求包括数据管理、模型训练、模型服务、模型管理、平台管理、算力管理、**监控、**告警、**调度、外部集成。其中，模型训练上，支持断点续训、低代码微调、低代码强化、Notebook训练等；模型管理上，支持模型集成（支持自定义大模型服务的集成，至少支持1个主流商用大模型和2个开源大模型，开源大模型至少包括Qwen2和ChatGLM4）、模型压缩等。
****要求产品性能满足：在无缓存背景下，支持300个在线用户，页面响应时间在10s内；支撑600亿以上大模型服务，保障首字响应时间在1000毫秒以内，且有效输出达到99%以上。
包件二-向量数据库产品方面。****通过引入商用向量数据库，形成统一规范和管理体系以实现多场景下向量数据的存储、管理与检索，支撑后续大模型及知识库的应用场景建设。
包件三-大模型应用创设平台产品方面。产品需支持全业务场景提供标准化大模型应用开发和监控服务，实现对大模型业务场景的组合编排。
该产品的功能需求包括第三方系统对接；具备应用零代码编排能力；具备应用画布编排能力；具备发布管理能力；具备用户、角色及日志管理能力；具备智能体 调试及用户反馈采集能力；具备通用插件库管理能力及提供丰富的通用插件。
写在最后
据《银行科技研究社》了解，在大模型、生成式AI爆火之后，****近2年的年报或半年报中透露了大模型相关进展，但相比国有行或其他股份行，内容并不算多。
而近期****发布多个大模型项目招标公告，采购相关软、硬件产品，建设大模型应用体系，或意在加速大模型大范围落地、强化大模型赋能。
****银行从业人员，请私信《银行科技研究社》，可获取赠票1张。
换一批