江西省武宁县人民医院AI人工智能大模型采购项目竞价公告招标公告

一、项目信息 项目名称： ### AI人工智能大模型采购项目 项目编号：#################项目联系人及联系方式：丁加林#######**** 报价起止时间：####-##-## ##:## -####-##-## ##:## 采购单位： ### 供应商规模要求：- 供应商资质要求：- 供应商报价要求：报价含税 二、采购需求清单 商品名称 参数要求 购买数量 控制金额(元) 建议品牌 AI人工智能大模型 核心参数要求:商品类目: 行业应用软件开发服务; 描述: ### AI人工智能大模型性能参数;GPU服务器硬件:CPU型号≥#.#GHz; CPU个数≥#; 每个CPU核数≥##; 每个CPU线程数≥##; 内存≥## * ##GB; 系统盘≥# * ###GB; 数据盘≥# * #.##TB; 标配盘位数≥##; 电源≥#+#冗余电源; 接口≥#千兆电口; #万兆光口。含≥#张显卡，单显卡显存不低于##GB，半精度（FP##）算力不低于##.## TFLOPS。;GPU服务器功能:需实现软硬件一体化，自带跨平台大模型服务工具作为AI算力资源的管理平台，平台需支持主流开源大模型，提供模型管理、模型压缩、模型安全、 ### 署、模型训练等不同的阶段能力。;AI应用构建工具:应用构建工具应提供知识库管理，应用构建编排，应用调试和评估，应用发布，应用监控和运营，模型对接管理，数据运营功能。辅助单位简单快速的构建高质量的AI应用，通过自动化的评估、调优闭环实现效果持续迭代优化，以及AI辅助运营让整个AI应用的落地简化为数据运营，让应用效果持续提升。;系统要求:需要系统具备数据可视化及信息整合呈现能力，要求系统支持查看总览页，总览页需清晰展示算力池相关信息，包括但不限于算力资源总量、已使用量、剩余量等，并通过页面效果展示显卡已占用、未占用或者健康状况；能够展示统计模型服务调用情况，包括热门调用榜和失败调用榜、调用服务名称、调用次数；支持查看最近日期的操作日志。;大模型管理工具:预置国际国内的开源大语言模型数量不低于#个，来降低模型准备周期，参数量级至少要覆盖#B、#B、##B、##B、##B、###B；要求平台支持多种主流开源大模型管理，支持的模型类型包括但不限于：LLama系列、Qwen系列、DeepSeek-R#蒸馏系列模型。;数据集管理:支持数据集多版本管理，能对不同阶段、 ### 有效梳理与调用。同时，支持全面查看数据集信息，包含数据集数据量、数据集大小、创建时间等。数据预览功能，要求既能查看数据集内容摘要，从宏观上了解数据集概况，又能针对微调数据集查看详细的数据详情察。此外平台需支持一键训练操作，当确认数据集后，点击即可快速跳转到模型训练页面，即刻开启微调训练任务，提升训练流程的便捷性与效率。;AI 模型管理:平台支持多种 AI 模型，需要具备创建自定义模型的功能， ### 独立且统一的管理。同时，系统需支持从本地以及指定存储路径便捷地导入自定义模型。;模型创建:平台支持创建模型服务，支持选择模型类型和模型版本，支持指定算力池和单实例算力， ### 关和访问入口，支持指定实例数量， ### 署、多实例模型服务；支持设置温度、多样性、重复惩罚，支持设置自定义系统prompt。;模型训练:平台具备全面且专业的模型训练能力。要求平台支持对 LLama、Qwen 格式的模型开展二次预训练、全参微调以及 LoRA 微调训练。平台要提供基于主流分布式训练框架的微调和预训练能力。针对数据集的运用，需提供科学合理的数据集推荐配比，确保模型训练能达到最优效果。平台要提供向导式的训练配置，操作简单。;GPU资源动态调整:平台支持创建自定义模型服务时选择单实例算力分配方式，包括整卡分配和自由切分或不分配。且自由切分支持通过制定主机和GPU，并按算力百分比和显存大小分配算力。整卡切分支持选择算力规格。;实时监控AI训练任务:要求支持查看自定义服务列表，支持查看自定义服务详情、监控和日志。并支持查看推理服务的服务详情，支持查看HTTP调用量、QPS、GPU显存使用率、GPU使用率、CPU使用率、内存使用率监控趋势图，并支持通过日期时间过滤。;模型压缩:能压缩模型显存来降低资源消耗。支持创建模型压缩任务， ### 理量化任务， ### int#量化压缩，并提供对齐语数据集功能。;数据安全:单位数据隐私要求较高，平台支持通过模型加密技术来保障专属模型安全。支持创建模型加密任务， ### 动态加密， ### 安全，防止大模型泄露或被盗用。;云计算管理:为实现跨集群、 ### 的GPU算力统一管理能力，平台需要包含云计算管理软件，提供统一用户管理、监控告警能力，统一管理容器、大模型平台。要求支持创建租户操作并设置租户基本信息，包括名称、登#用户名、邮箱和设置密码等信息；可查看创建租户分配资源池信息，包括CPU占用率和内存占用率等信息， ### 络信息， ### 设置配额操作。;参数:（需要提供具备CNAS或CMA标识的第 ### 商公章证明）;平台安全: ### 理流程，包括紧急隔离、保留当前状态、恢复云主机、扫描病毒、 ### 络。并支持事前勒索病毒防护、事中检测疑似勒索可打自动对虚拟机打快照、 ### 理。;参数:（需要提供具备CNAS或CMA标识的第 ### 商公章证明）;平台纠错机制:支持内存ECC自动纠错机制，当扫描到物理主机的内存条出现ECC CE和UE错误时， ### 隔离并定位故障内存的槽位，减少硬件问题对业务的影响。;参数:（需要提供具备CNAS或CMA标识的第 ### 商公章证明）;模型服务质量验证:要求平台提供模型服务的在线体验页面，支持勾选#个模型服务同时问答，对比不同模型服务的回答内容准确率，支持查看当前问答的首token时延、吞吐量指标。;参数:（需要提供产品功能界面截图并加盖制造商公章佐证）;平台信创要求: ### 投产品使用的跨平台大模型工具为国产品牌，不依赖ollama等国外开源框架，要求AI算力平台产品的软件为完全自主研发，并提供相应的AI算力平台软件著作权登记证书。;参数:（需要提供计算机软件著 ### 商公章证明）;次要参数要求: #项 ######.## - 买家留言：- 附件： ### AI人工智能大模型性能参数.docx 三、收货信息 送货方式:送货上门 送货时间:工作日##:##-##:## 送货期限:竞价成交后#个工作日内 送货地址：江西省 九江市 武宁县 豫宁街道 ### 送货备注：- 四、商务要求 商务项目 商务要求