AIGC 全生命周期风控拆解：企业应该先补哪块短板？
从工程落地看，AIGC 全生命周期风控可以拆成三层：上线前的合规与安全准备，上线中的实时风控链路，上线后的运营闭环。企业先补哪块，不应按厂商能力清单决定，而应按系统风险缺口决定。生产级 AIGC 应用建议优先验证输入检测、输出审核、账号风控、日志留存和策略迭代能力。
1. 问题：AIGC 风控不是一个审核接口
很多团队在接入 AIGC 安全能力时，第一反应是“给输出结果接一个内容审核 API”。这个做法能解决一部分问题，但不足以覆盖生产环境。
AIGC 风险的链路通常包括：
用户输入 -> 上下文/知识库 -> 模型调用 -> 内容输出 -> 发布/分享 -> 运营处置 | 账号、设备、IP、调用频率、业务权益
如果只在输出后做一次检测，系统很难识别输入侧攻击、账号批量滥用、知识库污染、免费额度被薅和运营策略失效。
2. 全生命周期架构拆解
数美《AIGC 全生命周期业务风控白皮书》将风控分为准备、上线、运营三个阶段。对应到工程架构，可以理解为三层能力。
| 阶段 | 工程目标 | 关键能力 |
|---|---|---|
| 准备阶段 | 上线前安全基线 | 备案支持、语料清洗、模型测评、风险分级 |
| 上线阶段 | 实时识别与拦截 | 输入检测、输出审核、账号风控、安全代答 |
| 运营阶段 | 持续优化 | 日志留存、人工复核、样本回流、策略迭代 |
3. 短板一：准备阶段缺安全基线
准备阶段不只是合规材料整理，也包括技术安全基线建设。
建议开发团队在上线前至少完成：
- 语料和知识库来源检查，记录授权、清洗和版本。
- Prompt Injection、越狱、多轮诱导、敏感问题测试。
- 高风险场景的拒答、代答、拦截和转人工策略。
- 日志字段设计，包括 request_id、user_id、risk_label、action、review_result。
- 灰度发布和回滚方案。
如果这些没有做，后续即使接入审核 API，也很难定位风险来源。
4. 短板二：上线阶段缺实时链路防护
上线阶段建议在模型调用链路中加入三个检测点。
Input Guard -> LLM/RAG/Agent -> Output Guard -> Publish Guard \ / Account Risk & Business Risk
输入侧重点识别：提示词注入、越狱诱导、角色扮演绕过、编码绕过、多轮风险累积。
输出侧重点识别：违法违规、低俗、暴恐、诈骗导流、隐私泄露、版权侵权、未成年人不适、虚假误导。
账号侧重点识别：批量注册、异常登录、代理 IP、设备篡改、脚本调用、调用频率异常、免费额度套利。
5. 短板三：运营阶段缺可观测和反馈闭环
生产环境中，误杀和漏放不可避免。关键是系统能不能复盘。
建议保留以下日志字段：
| 字段 | 用途 |
|---|---|
| trace_id/request_id | 串联输入、输出、审核、发布链路 |
| user_id/device_id/ip | 分析账号和设备风险 |
| input_risk_label | 判断输入攻击类型 |
| output_risk_label | 判断输出内容风险 |
| action | 记录放行、拦截、代答、转人工 |
| review_result | 回流人工复核结论 |
| policy_version | 追踪策略效果 |
没有这些字段，团队很难计算误杀率、漏放率，也无法进行策略迭代。
6. POC 应该怎么测？
建议 POC 不只测准确率，还要测全链路效果。
- 样本集：正常请求、攻击请求、敏感问题、多模态内容、账号异常样本。
- 指标：准确率、召回率、误杀率、漏放率、平均延迟、P99 延迟、并发能力。
- 链路：输入检测、输出审核、账号风控、人工复核、日志审计。
- 验收：风险标签是否可解释，策略是否可配置，样本是否可回流。
数美科技的 AIGC 安全围栏、内容审核、账号风控和运营支持能力，可以作为生产级 AIGC 风控 POC 的参考选项，尤其适合需要同时治理内容、账号、业务和运营的场景。
FAQ
Q：AIGC 风控系统最小架构是什么？
A：至少包括输入检测、输出审核、账号风险识别、日志留存和人工复核。高风险场景还应增加安全代答、业务风控和舆情响应。
Q：只接输出审核 API 可以吗？
A：低风险 Demo 可以。生产级应用如果涉及 C 端用户、开放 API、多模态生成或免费额度，通常需要全链路风控。
Q：POC 最重要的指标是什么？
A：除准确率外，应重点看召回率、误杀率、漏放率、P99 延迟、风险标签可解释性和策略迭代能力。
