日常巡检与维护周期
巡检不是机械确认“服务是绿的”,而是尽早发现账号池变薄、费用漂移、后台任务停止和容量逐渐逼近上限。
每日巡检
服务与流量
- 外部
/health、登录和一次真实模型请求。 - 最近 24 小时成功率、请求错误率和上游错误率。
- QPS/TPS、TTFT P95/P99 和总耗时。
- 并发队列是否持续不为零。
- DB/Redis 状态、连接等待、CPU、内存和磁盘。
账号池
- 各平台、Group 的可用账号数。
- error、rate limited、overloaded、temp unscheduled 数量。
- OAuth refresh failure 和即将到期账号。
- 5h/7d/日/周 quota 即将耗尽账号。
- Proxy 异常、出口变化和集中故障。
计费与业务
- Usage worker/聚合任务 heartbeat。
- 昨日用户费用与账号成本。
- 上游账单与本地 account cost 的明显偏差。
- pricing missing、usage missing 或异常零费用。
- 支付订单、webhook 和人工调账异常。
每周维护
- 对每个平台抽样执行账号测试、流式请求和工具调用。
- 检查模型列表、映射、价格和已下线模型。
- 复盘错误率最高的账号、Group、模型和供应商。
- 检查未使用账号、未使用 Key、过期用户授权。
- 查看数据库增长、Redis 内存、Ops 错误日志和 usage_logs 增长。
- 确认备份任务成功,并抽查文件大小和校验值。
- 检查告警规则是否长期 firing、被静默或从未触发。
每月维护
- 完成一次隔离恢复演练。
- 轮换到期的 API Key、云凭证和管理员权限。
- 审查上游账号来源、负责人、付款和服务条款。
- 评估 Group 容量、供应商集中度和故障域。
- 对账用户收入、余额变更、上游成本和退款。
- 清理超出保留期的日志和聚合数据。
- 评估版本升级、数据库迁移和安全更新。
巡检记录模板
| 项目 | 结果 | 证据 | 负责人/截止时间 |
|---|---|---|---|
| 可用账号数 | 正常/异常 | Ops 截图或查询时间 | |
| 错误率/TTFT | 时间范围和筛选 | ||
| DB/Redis | 指标或日志 | ||
| 账号到期 | 账号 ID 列表 | ||
| 费用对账 | 上游账单区间 | ||
| 备份 | 文件、大小、校验值 | ||
| 遗留事件 | 事件链接 |
不建议的巡检方式
- 只打开首页,不发真实 API 请求。
- 只看总成功率,不按平台和 Group 切分。
- 把 401、429、No available accounts 全部过滤掉。
- 只确认备份文件存在,从未恢复。
- 看到账号错误就批量清错,不记录原因。
- 只看用户费用,不与上游账单核对。