算法备案与合规审查流程

作者：Maurice | 灵阙学院 更新日期：2026-02-27 适用范围：在中国境内提供互联网信息服务的算法推荐、深度合成类产品

一、监管背景

中国对算法治理采取"备案 + 评估 + 标识"三位一体的监管路径，是全球最早对算法推荐和深度合成建立系统性监管制度的法域之一。

核心法规体系：

法规 生效日期 适用对象
《互联网信息服务算法推荐管理规定》 2022-03-01 算法推荐服务提供者
《互联网信息服务深度合成管理规定》 2023-01-10 深度合成服务提供者和使用者
《生成式人工智能服务管理暂行办法》 2023-08-15 生成式 AI 服务提供者
《网络信息内容生态治理规定》 2020-03-01 网络信息内容服务平台

二、算法备案制度详解

2.1 备案义务主体

具有舆论属性或者社会动员能力的算法推荐服务提供者，应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报备案信息。

判定标准（满足其一即需备案）：

  • 具有舆论属性（可影响公众观点、态度）
  • 具有社会动员能力（可引导公众行为）
  • 用户规模较大（通常参考活跃用户数）
  • 算法对信息内容的推荐、排序、选择、推送具有显著影响

2.2 备案系统

备案入口：互联网信息服务算法备案系统（https://beian.cac.gov.cn）

2.3 备案流程

算法备案全流程：

Step 1: 主体信息填报（5 个工作日内完成）
  |-- 企业基本信息（统一社会信用代码、法人等）
  |-- 算法服务基本信息
  |-- 安全责任人信息
  |
  v
Step 2: 算法信息填报
  |-- 算法名称与版本
  |-- 算法类型（推荐类/排序类/检索过滤类/调度决策类/生成合成类）
  |-- 算法基本原理（技术说明）
  |-- 算法运行机制
  |-- 算法应用场景
  |-- 算法自评估报告
  |
  v
Step 3: 材料审查（约 30 个工作日）
  |-- 国家网信办进行形式审查与实质审查
  |-- 可能要求补充材料
  |
  v
Step 4: 备案公示
  |-- 审查通过后分配备案编号
  |-- 在算法备案信息公示系统公示
  |
  v
Step 5: 持续合规
  |-- 备案信息变更在 10 个工作日内变更备案
  |-- 终止服务在 20 个工作日内注销备案
  |-- 接受监督检查

2.4 备案材料清单

  • 企业营业执照副本
  • 算法安全自评估报告
  • 算法基本原理说明文档
  • 算法运行机制说明
  • 应用场景说明
  • 用户权益保障措施说明
  • 安全管理制度文件
  • 安全责任人信息

三、算法安全评估框架

3.1 评估范围

算法安全评估覆盖以下维度：

算法安全评估六维框架：

1. 合法性
   |-- 是否符合法律法规要求
   |-- 数据来源是否合法
   |-- 是否侵犯用户权益

2. 公平性
   |-- 是否存在歧视性输出
   |-- 是否对特定群体产生不利影响
   |-- 价格歧视/差别待遇检测

3. 透明度
   |-- 是否向用户说明算法使用情况
   |-- 是否提供结果解释
   |-- 是否公开算法基本原理

4. 可解释性
   |-- 决策过程是否可追溯
   |-- 关键因素是否可识别
   |-- 是否支持人工复核

5. 安全性
   |-- 是否存在对抗攻击风险
   |-- 模型鲁棒性评估
   |-- 数据安全保障措施

6. 可控性
   |-- 是否有人工干预机制
   |-- 异常检测与应急响应
   |-- 算法更新审批流程

3.2 算法自评估报告结构

建议按以下结构编写自评估报告：

算法安全自评估报告大纲：

一、基本情况
  1.1 服务提供者基本信息
  1.2 算法服务基本情况
  1.3 算法技术概述

二、算法安全风险识别
  2.1 舆论安全风险
  2.2 数据安全风险
  2.3 个人信息保护风险
  2.4 社会歧视与偏见风险
  2.5 其他风险

三、已采取的安全措施
  3.1 技术措施
  3.2 管理措施
  3.3 应急响应措施

四、风险评估结论
  4.1 残余风险分析
  4.2 改进计划

五、承诺声明

四、公平性与透明度要求

4.1 算法公平性

《算法推荐管理规定》第二十一条要求不得利用算法实施不合理的差别待遇。

重点检查项：

检查维度 违规行为示例 技术检测方法
价格歧视 对老用户/高消费用户展示更高价格 多账号对照测试、统计分析
信息茧房 持续推送同质内容，限制信息多样性 推荐内容多样性指标监测
就业歧视 按性别/年龄过滤求职者 敏感属性关联分析
信贷歧视 按户籍/种族等因素差异定价 公平性指标（统计均等、机会均等）

4.2 用户权利保障

算法推荐服务提供者须保障用户以下权利：

  • 知情权：以显著方式告知用户提供算法推荐服务的情况
  • 选择权：提供不针对个人特征的选项，或便捷关闭算法推荐的选项
  • 删除权：用户可删除用于算法推荐的个人信息
  • 拒绝权：用户可拒绝仅通过算法做出影响其权益的重大决定
  • 申诉权：提供用户申诉渠道，15 个工作日内处理并反馈

4.3 透明度要求实施

算法透明度实施层次：

Level 1: 基础告知（强制）
  -- 在隐私政策/服务协议中说明使用了算法推荐
  -- 告知算法推荐的基本原理

Level 2: 结果解释（推荐）
  -- 在推荐内容旁标注"基于您的浏览历史推荐"等说明
  -- 提供"为什么看到这条内容"的解释入口

Level 3: 算法审计（前沿）
  -- 引入第三方算法审计
  -- 公开算法影响评估报告

五、深度合成专项要求

5.1 深度合成的定义

深度合成技术包括：

  • 生成或编辑人脸、人声等生物特征的技术
  • 文本内容生成技术
  • 生成或编辑图片、音频、视频的技术
  • 虚拟场景生成技术

5.2 深度合成规定的核心义务

深度合成合规三大义务：

1. 标识义务
   |-- 在生成内容的合理位置添加标识
   |-- 不得删除、篡改、隐匿标识
   |-- 用户不得利用技术制作、复制、传播虚假信息

2. 备案义务
   |-- 具有舆论属性或社会动员能力的须备案
   |-- 与算法备案使用同一系统

3. 安全评估义务
   |-- 上线前或功能重大变更时进行安全评估
   |-- 评估结果留存备查

5.3 深度合成标识规范

内容类型 标识要求 实施方式
AI 生成文本 显著标识 文末/文首添加"AI 生成"标签
AI 生成图片 显著标识 + 隐式标识 可见水印 + 元数据/隐写
AI 生成音频 显著标识 播放前/后语音提示
AI 生成视频 显著标识 + 隐式标识 角标水印 + 元数据嵌入
AI 虚拟人 显著标识 直播场景需实时标注

六、生成式 AI 专项合规

6.1 《暂行办法》核心要求

生成式 AI 服务合规要点：

训练阶段
  |-- 训练数据来源合法
  |-- 数据标注规范
  |-- 已采取措施提高数据质量
  |
  v
服务阶段
  |-- 内容安全审核机制
  |-- 违法有害内容过滤
  |-- 投诉举报渠道
  |-- 用户信息保护
  |
  v
监管配合
  |-- 算法备案
  |-- 安全评估
  |-- 配合监督检查
  |-- 事件报告

6.2 内容安全红线

以下内容严禁生成（非穷尽）：

  • 颠覆国家政权、推翻社会主义制度
  • 危害国家安全和利益、损害国家形象
  • 煽动分裂国家、破坏国家统一和社会稳定
  • 宣扬恐怖主义、极端主义
  • 宣扬民族仇恨、民族歧视
  • 暴力、淫秽色情
  • 虚假信息
  • 侵害他人合法权益

七、合规审查实施清单

7.1 备案前审查

  • 确认是否属于备案义务主体
  • 准备企业基本信息材料
  • 编写算法基本原理说明文档
  • 完成算法安全自评估报告
  • 梳理算法应用场景清单
  • 确认安全责任人并提交信息
  • 建立安全管理制度

7.2 技术合规审查

  • 部署内容安全审核系统
  • 实施 AI 生成内容标识机制
  • 建立用户投诉举报处理流程
  • 提供算法推荐关闭选项
  • 实施算法公平性检测
  • 部署对抗攻击防护措施
  • 建立模型更新审批流程

7.3 运营合规审查

  • 定期（至少季度）开展算法安全评估
  • 建立违法有害内容处置记录
  • 保留算法日志不少于六个月
  • 定期开展员工合规培训
  • 建立算法事件应急响应预案
  • 配合监管部门检查要求

7.4 持续合规

  • 算法重大变更在 10 个工作日内变更备案
  • 终止服务在 20 个工作日内注销备案
  • 年度合规审计
  • 跟踪监管动态，及时调整合规策略

八、处罚与执法案例

8.1 处罚梯度

违规行为 处罚措施
未履行备案义务 责令限期改正；拒不改正的，处以警告或罚款
未进行安全评估 责令改正，给予警告
违反标识要求 警告，责令限期改正
造成严重后果 暂停信息更新、关闭账号、下架应用
构成犯罪 依法追究刑事责任

8.2 已备案算法统计

截至 2025 年底，国家互联网信息办公室已公示多批算法备案清单，覆盖主流互联网平台的推荐算法、搜索排序算法、内容生成算法等。企业可在公示系统中查询同行业备案情况作为参考。

九、实施路线图

算法合规实施路线：

Month 1-2: 合规差距评估
  -- 梳理在用算法清单
  -- 评估备案义务
  -- 识别合规差距

Month 2-3: 制度与文档建设
  -- 编写自评估报告
  -- 制定安全管理制度
  -- 准备备案材料

Month 3-4: 技术实施
  -- 部署标识系统
  -- 上线公平性监测
  -- 完善内容审核

Month 4-5: 备案提交与审查
  -- 提交备案申请
  -- 配合审查补充材料
  -- 获取备案编号

Month 5+: 持续运营
  -- 定期评估与审计
  -- 跟踪法规变化
  -- 技术能力升级

参考法规

  • 《互联网信息服务算法推荐管理规定》(2022)
  • 《互联网信息服务深度合成管理规定》(2023)
  • 《生成式人工智能服务管理暂行办法》(2023)
  • 《网络信息内容生态治理规定》(2020)
  • 《中华人民共和国网络安全法》(2017)
  • 《中华人民共和国数据安全法》(2021)
  • 《中华人民共和国个人信息保护法》(2021)
  • 《互联网信息服务管理办法》(2000, 修订中)

Maurice | maurice_wen@proton.me