2025/05/20
本地部署智能体实施指南：硬件选型与上线验收
作者: 瀚铄智擎交付团队
本文用于指导本地/专网部署项目从“资源规划”到“上线放行”的完整实施过程。适用对象包括项目经理、平台工程师、采购评审、测试团队与运维值班团队。
1. 目标与适用范围
本指南解决三个核心问题：
- 硬件如何选，才能满足生产负载与合规约束。
- 上线前如何验证，才能避免“可演示不可生产”。
- 上线后如何治理，才能保证持续稳定运行。
适用范围：
- 本地机房部署。
- 专网隔离部署。
- 离线依赖或弱联网环境。
2. 硬件选型方法
2.1 需求输入模板
| 维度 | 必填项 | 说明 |
|---|---|---|
| 业务负载 | 峰值并发、日任务量、P95 时延目标 | 决定计算与调度规模 |
| 模型参数 | 主模型规模、上下文长度、量化策略 | 决定显存与内存配置 |
| 工具链依赖 | 工具数量、调用频率、数据体量 | 决定 I/O 与网络吞吐 |
| 合规要求 | 数据留存周期、审计频度、隔离级别 | 决定存储与归档方案 |
| 运维目标 | SLA、RTO、RPO | 决定冗余与备份策略 |
2.2 容量估算基线
推荐采用“单任务资源画像 × 峰值并发 × 安全系数”估算。
CPU核数 = 峰值并发 × 单任务CPU核占用 × 安全系数
GPU显存 = 峰值并发 × 单任务KV缓存显存 × 并行路由系数
存储容量 = 日增日志量 × 保留天数 + 模型与知识库容量 + 20% 裕量
说明：上述为示例口径，实际配置应以压测数据回填修正。
2.3 分层硬件架构
| 分层 | 核心组件 | 选型重点 | 常见风险 | 应对措施 |
|---|---|---|---|---|
| 推理层 | 模型服务、调度服务 | GPU 显存、PCIe 带宽、CPU 单核性能 | 显存抖动、队列堆积 | 量化、限流、弹性路由 |
| 数据层 | 知识库、日志、归档 | NVMe 性能、RAID、备份能力 | 日志突增写入抖动 | 分级存储、异步归档 |
| 控制层 | 网关、审计、配置中心 | 高可用、隔离、不可篡改 | 单点故障 | 双机热备、变更冻结 |
2.4 典型配置档位
| 档位 | 适用场景 | 配置建议 | 交付目标 |
|---|---|---|---|
| 试点档 | 单部门试运行 | 1 推理节点 + 1 控制节点 | 验证流程完整可用 |
| 标准档 | 多部门生产使用 | 2~4 推理节点 + 独立数据层 | 支撑日常稳定运行 |
| 高可用档 | 核心连续业务 | 同城双活或双机房 + 独立归档集群 | 满足高可用与审计要求 |
3. 部署实施流程
3.1 施工前准备
- 完成机房资源核查（功耗、散热、机柜容量）。
- 完成网络分区与访问矩阵评审。
- 建立离线制品仓与依赖包清单。
- 冻结基础版本（OS、驱动、中间件、模型）。
3.2 安装与联调步骤
- 节点初始化与基线加固。
- 推理服务、调度服务、工具网关部署。
- 日志与监控链路接入。
- 审计策略与权限策略下发。
- 业务流程联调与问题闭环。
3.3 部署验收中间产物
| 产物 | 责任角色 | 验收标准 |
|---|---|---|
| 资产清单 | 平台工程师 | 与合同一致 |
| 拓扑图 | 架构师 | 与实际部署一致 |
| 版本基线表 | 发布经理 | 可追溯可回滚 |
| 联调问题单 | 项目经理 | 闭环率 100% |
4. 上线验收框架
上线验收建议按“功能、性能、稳定性、合规、运维”五维度执行。
| 维度 | 验收目标 | 核心证据 |
|---|---|---|
| 功能 | 业务链路可执行且结果可核验 | 用例报告、流程回放 |
| 性能 | 时延与吞吐达到合同要求 | 压测报告、监控快照 |
| 稳定性 | 长时间运行无阻断故障 | 72 小时长稳记录 |
| 合规 | 数据与权限符合约束 | 审计记录、审批链 |
| 运维 | 故障处置与回滚可执行 | 演练记录、SOP 文档 |
5. 上线门禁（Go/No-Go）
| 门禁项 | 最低要求 | 处理规则 |
|---|---|---|
| 关键功能通过率 | 100% | 未达标直接 No-Go |
| 审计链完整率 | 100% | 未达标直接 No-Go |
| 高风险缺陷数 | 0 | 存在即冻结发布 |
| P95 时延 | 达到合同阈值 | 不达标整改重测 |
| 回滚演练成功率 | 100% | 失败则禁止上线 |
6. 指标口径与测试要求
6.1 核心指标
| 指标 | 定义 | 目标示例 | 采集方式 |
|---|---|---|---|
| 任务成功率 | 成功任务数/总任务数 | ≥ 98.5% | 任务台账聚合 |
| 工具调用成功率 | 成功调用次数/总调用次数 | ≥ 99.0% | 工具日志统计 |
| 端到端 P95 时延 | 提交到结果返回 95 分位 | ≤ 2.5s | APM + 网关日志 |
| 回滚成功率 | 回滚成功次数/回滚触发次数 | ≥ 99.5% | 演练与生产统计 |
| 审计链完整率 | 三层证据完整任务占比 | = 100% | 审计抽检脚本 |
6.2 测试场景
- 常态负载测试（1x）。
- 峰值负载测试（2x）。
- 脉冲冲击测试（3x 短时）。
- 异常注入测试（网络抖动、节点故障、工具超时）。
7. 故障演练与应急接管
| 演练项目 | 目标 | 时间要求 |
|---|---|---|
| 单节点故障 | 自动切换可用 | ≤ 5 分钟 |
| 发布回滚 | 按流程恢复旧版本 | ≤ 10 分钟 |
| 审计追溯查询 | 定位单任务全链路证据 | ≤ 3 分钟 |
| 备份恢复 | 恢复关键数据可用 | ≤ 30 分钟 |
应急接管必须遵循：
- 先隔离风险，再恢复服务。
- 先保留证据，再执行修复。
- 先回退到稳定版本，再进行根因修复。
8. 交付文档清单
- 架构设计说明书。
- 硬件与软件资产台账。
- 发布与回滚手册。
- 运维值守与告警手册。
- 上线验收报告与签署页。
- 故障复盘模板与整改追踪表。
9. 上线前 Checklist
- 硬件选型评审结论已签署。
- 关键路径功能测试通过率 100%。
- 性能指标达到合同阈值。
- 72 小时长稳测试完成并无阻断故障。
- 审计链完整率 = 100%。
- 回滚演练已验证并有记录。
- 运维交接培训已完成。
10. 结语
本地/专网部署的关键不在于“把服务启动起来”，而在于“把系统长期稳态运行起来”。将硬件选型与上线验收放在同一套方法中执行，可显著降低后期返工与运行风险，缩短从试点到生产的转化周期。