算法治理第一关：算法备案监管现状与实务解读（上）

算法治理第一关：算法备案监管现状与实务解读（上）

6月20日，国家互联网信息办公室（以下简称“网信办”）发布了关于深度合成服务算法备案信息的公告，并公布了第一批深度合成服务算法的备案清单，其中百度、腾讯、讯飞等一众大厂均在清单之列。随着算法备案逐步进入合规视野，算法备案的监管现状、算法备案规范适用主体以及备案的具体流程等问题亟待梳理。本文拟分上下两篇，上篇主要解读算法备案的整体监管状况、实务流程，下篇则针对“具有舆论属性或者社会动员能力”的内涵展开分析与探讨。

01 算法备案的监管现状

2020年12月，中共中央印发了《法治社会建设实施纲要（2020-2025年）》，提出依法治理网络空间，完善法律制度，制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。2021年9月，网信办联合科学技术部等九个部门发布了《关于加强互联网信息服务算法综合治理的指导意见》，明确加强互联网信息服务算法安全治理的总体目标为：利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。其中监管体系完善意指要创新性地构建形成算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和涉算法违法违规行为处置等多维一体的监管体系。算法备案管理作为算法监管体系中的重要一环被首次提出。

此后，网信办联合工信部等部门先后就算法推荐类服务和深度合成类服务分别出台管理规定，即《互联网信息服务算法推荐管理规定》（以下简称《算法推荐规定》）与《互联网信息服务深度合成管理规定》（以下简称《深度合成规定》），要求具有舆论属性或者社会动员能力的算法推荐服务提供者、深度合成服务提供者和技术支持者履行算法备案义务。2023年7月13日出台的《生成式人工智能服务管理暂行办法》将于8月15日正式施行，其中再次强调提供具有舆论属性或者社会动员能力的生成式人工智能服务的主体应按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。在实践方面，自去年2月全国统一的“互联网信息服务算法备案系统”（https://beian.cac.gov.cn/#/index）面世以来，陆续有5批算法提供者、技术支持者完成了算法备案。

根据《算法推荐规定》，若违反规定中相关条款，未履行算法备案等义务的，可能需要承担的法律责任如下：

警告、通报批评，责令限期改正；

拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款

治安管理处罚

相关刑事责任

02 算法备案的主体及义务

根据《算法推荐规定》《深度合成规定》以及《生成式人工智能服务暂行管理办法》的相关规定，下述主体需要按照相应规定的要求履行算法备案义务。

由上表可见，相关规定对于备案主体的界定均为“具有舆论属性或者社会动员能力”，但并未明确其概念内涵。根据2018年11月30日施行的《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》（以下简称《安全评估规定》）第二条规定，“具有舆论属性或社会动员能力”的互联网信息服务包括以下情形：

（一）开办论坛、博客、微博客、聊天室、通讯群组、公众账号、短视频、网络直播、信息分享、小程序等信息服务或者附设相应功能；

（二）开办提供公众舆论表达渠道或者具有发动社会公众从事特定活动能力的其他互联网信息服务。

尽管《安全评估规定》对“具有舆论属性或者社会动员能力”的概念予以解释，但在实践中，仍然存在着诸多情形无法明确判断为是否“具有舆论属性或者社会动员能力”，我们会在下篇结合已经完成备案的算法具体展开分析。

为保障算法的有效治理以保护用户权益、净化网络环境，促进互联网信息服务健康发展，前述算法备案主体需履行一系列的合规义务，以满足符合监管规范、防范化解安全风险的需要，部分列举如下：

建立健全算法机制机理审核制度

定期审核评估算法模型

建立健全信息发布审核制度

进行科技伦理审查

建立数据安全保护制度

03 算法备案的内容

目前备案系统对于算法备案的内容填写主要包含主体信息、算法信息和产品及功能信息三个板块。

（一）主体信息填报

企业主要填写的内容包括主体基本信息、证件信息、法定代表人信息、算法安全责任人信息，并填写《算法备案承诺书》与《落实算法安全主体责任基本情况》。其中，《落实算法安全主体责任基本情况》要求主体就自身的算法安全专职机构设置和算法安全管理制度两方面进行具体阐述。算法服务提供者应设置算法安全专职机构并明确其职责分工、责任范围等事项以确保其切实落地。算法安全管理制度建设则至少应当包括算法安全自评估制度、算法安全监测制度、算法违法违规处置制度、算法安全事件应急处置制度、科技伦理审查制度等。

（二）算法信息填报

算法信息填报包括两个步骤：一是填写算法基础属性信息；二是填写算法详细属性信息。

算法基础属性信息部分，填报人员应根据实际情况填写算法的类型、名称等基本信息，若算法为“生成合成（深度合成）”类，则还需选择“服务提供者”或“服务技术支持者”填报角色。同时，填报人员需按照模板内容填写并上传《算法安全自评估报告》《拟公示内容》等附件。

算法详细属性信息部分，填报人员则需要根据实际情况填写算法数据、算法模型、算法策略和算法风险与防范机制等信息。

（三）产品及功能信息（或技术服务信息）填报

在产品及功能信息或填报技术服务方式时，“服务提供者”角色的填报人员需填报产品及功能信息，“服务技术支持者”角色的填报人员需填报技术服务方式。

“服务提供者”需要填写产品信息、产品的功能访问路径以及路径下的特定功能信息等内容。

“服务技术支持者”角色的填报人员需根据实际情况填写当前备案算法的技术服务方式信息，包括技术服务名称、技术访问方式、技术服务对象、技术服务频度等。

04 算法备案的具体流程

《算法推荐规定》第二十四、二十五条对于备案流程做出了较为详细的规定，具体流程如下图所示。

深度合成类算法的备案流程则以《算法推荐规定》为参考，在具体细节方面并没有进行过多赘述，仅就步骤层面作出简要示例，如下图所示。

在明确算法备案的整体监管状况和实务流程之后，企业可能对于自身是否属于“具有舆论属性或者社会动员能力”的相关算法服务提供者感到疑惑，下篇我们将基于当前已经完成备案的主体情况分析，为企业备案提供参考。

作者：王渝伟、周丹、陆钇潼