《互联网信息服务深度合成管理规定》（下文简称为《规定》）于2022年11月25日发布，标志着深度合成服务成为了我国算法治理中率先专门立法的算法服务类型。中共中央印发的《法治社会建设实施纲要（2020-2025年）》中提出完善网络信息服务方面的法律法规，制定完善算法推荐、深度伪造等新技术应用的规范管理办法。这一规章的出台将纲要提出的重要任务落地，凸显了深度合成技术在我国算法安全治理中的重要地位。

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。近年来，深度合成技术应用广泛、形式多样，在影视、传媒、教育等领域有大量应用形式，可实现特效制作、元宇宙场景、虚拟仿真教学等功能。随着各类商业化产品普及，深度合成的信息内容也在网络上大量涌现，越来越多的社会公众接触到了深度合成技术。《规定》确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。

一、规范深度合成服务的重要意义

深度合成服务是生成合成类算法的应用服务，属于我国《互联网信息服务算法推荐管理规定》中规定的生成合成类、排序精选类、检索过滤类、个性化推送类、调度决策类算法推荐服务中的一种。深度合成技术应用领域十分广泛，可以被用来生成和编辑文本、生成音乐、合成人声，如代替人创作诗歌和撰写词曲，自动生成伴奏音乐与合成歌声等。深度合成技术也可以被用来进行人脸生成、人脸替换、人脸操控，可被用来制作电影特效，或者生成以假乱真的人物视频。深度合成技术还可被用来进行图像生成、图像增强等，如2021年被广泛关注的FacePlay应用，只需要用户上传一张人脸照片，就可以生成不同服装场景的图片和视频。深度合成技术也极大地丰富了虚拟数字空间的信息内容，为更加多样化的传播行为提供了可能性。2021年10月，脸书宣布更名为“Meta”即元宇宙，即是利用深度合成技术创建虚拟世界，用户可以通过现实头戴设备与其他用户实现互动。

随着深度合成技术的开源开放、深度合成产品和服务的逐渐增多，深度合成内容制作的技术门槛越来越低，深度合成服务已经实现了公众化、平民化，普通人仅需要少量的图像、音频、视频、文本等样本数据，利用简便易用的深度合成工具，就能够模糊真实信息和虚假信息的边界。深度合成技术诞生之初，由于技术的不成熟，尚存在合成的视频中人物微表情不自然、图像边缘有锯齿等明显痕迹。但近年来在网络传播的深度合成视频内容，人物动作的逼真度、自然度，以及视频整体的清晰度、流畅度都可以达到以假乱真的水平，用户已经难以鉴别。

深度合成技术一旦被滥用，会造成巨大风险与实质性危害，可能给个人、企业造成肖像、名誉等人格和财产权益损害，也可能给社会秩序、国家政治稳定和安全造成巨大威胁。如将深度合成技术用于捏造国家政要言论、伪造公务人员虚假视频，可能给政治安全和国家安全带来重大危害。对个人与企业来说，深度合成技术的滥用也可能造成巨大权益损害。如企业高管被深度合成捏造视频篡改发言内容，可能造成市场恐慌，引发金融市场动荡。个人也可能被伪造虚假视频等，被用来向其亲友诈骗或者伪造不雅视频侵害其名誉权。

由此可见，深度合成技术的快速发展为数字时代发展带来了令人期待的可能性，但也带来了令人担忧的巨大风险。习近平总书记指出，“网络空间是亿万民众共同的精神家园。网络空间天朗气清、生态良好，符合人民利益。”规范和引导利用深度合成技术提供的互联网信息服务，最大限度地保护公民、企业合法权益，维护国家安全、政治稳定与社会公共秩序，促进技术向上向善造福社会，成为了立法立规的紧迫任务。

二、构建深度合成服务安全监管制度

《规定》共分为五章，分别从总则、一般规定、数据技术管理规范、监督检查与法律责任、附则等部分，构建了深度合成服务的安全监管制度。在中华人民共和国境内应用深度合成技术提供互联网信息服务的，适用本规定。

《规定》注重保障互联网信息内容安全，特别是新闻信息安全。规章对深度合成服务提供者提出了明确的要求。一是深度合成服务提供者要落实信息安全主体责任，加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核，一旦发现违法和不良信息，应当依法采取处置措施；二是针对深度合成信息内容的特殊性，深度合成服务提供者应当建立健全辟谣机制，并设置便捷的用户申诉和公众投诉、举报入口；三是深度合成服务提供者要履行对服务使用者的管理义务，包括进行真实身份认证，保证用户实名使用深度合成服务，以及提示服务使用者落实个人信息保护要求等。

《规定》与《互联网信息服务算法推荐管理规定》一脉相承，并提出了相辅相成的管理要求。具有舆论属性和社会动员能力的深度合成服务提供者仍要履行算法推荐服务的备案手续，深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能也要按规定开展安全评估。此外，《规定》针对深度合成数据和技术管理提出了更进一步的规范要求。第一，深度合成服务提供者和技术支持者都被纳入到了监管的对象中。这是由于深度合成服务不仅由服务提供者向公众提供，技术支持者也对深度合成服务产生重要影响。因此二者都需要对深度合成训练数据加强管理，并保障数据安全。同时，深度合成服务提供者提供人脸、人声等生物识别信息编辑功能，还要提示深度合成服务使用者履行个人信息保护义务，征得被编辑个人的单独同意。第二，深度合成服务提供者和技术支持者提供具有能够生成或者编辑人脸、人声等生物识别信息的，或生成或者编辑可能涉及国家安全、国家形象、国家利益和社会公共利益的特殊物体、场景等非生物识别信息的功能的模型、模板等工具的，应当依法自行或者委托专业机构开展安全评估。这是由于换脸、换声等视频可显著改变个人身份特征，具有较高的风险。同时，涉及到国家安全的如国家标志性场所、历史遗迹等，即使是非生物识别信息，也有可能被伪造而带来重大的安全风险。

三、规范深度合成服务保障网络空间清朗

针对深度合成服务带来的机遇与恶意使用带来的挑战，世界各国纷纷出台管理法律法规，探索对深度合成服务的依法治理。欧盟与美国均有相关立法考虑，同时加强打入数字水印、开发真伪鉴别等技术治理手段，要求互联网企业对平台内容进行自我审查，从源头打击网络虚假内容。

我国《规定》的重要特色，是基于深度合成服务技术性强的特点，从技术开发、模型训练、服务提供和使用等环节对深度合成服务提供者和技术支持者提出全面管理要求。一是要求添加深度合成隐式标识，确保信息内容的可追溯性。深度合成服务提供者对使用其服务生成编辑的信息内容，应当采取技术措施添加隐式标识，这既不影响用户的使用体验，也实现了深度合成信息内容的可追溯性。二是要求添加显著标识，确保信息内容传播的可感知性。对于可能会导致公众混淆或者误认的深度合成信息内容，深度合成服务提供者还应当添加显著标识，在合理位置、区域向公众进行提示，避免对公众产生误导，引起信息内容安全风险。三是明确法律责任，保证深度合成标识的可查验性。规章要求任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。这既要求深度合成标识在深度合成内容全生命周期存在，也要求深度合成服务提供者和技术支持者保证隐式标识和显著标识的鲁棒性，使得该标识不因压缩、传输等环节丢失，进一步通过技术手段压实主体责任。

深度合成技术展现了其强大的能量和可能性，加速应用已经成为现实趋势。但其带来效率和便利的同时，也带来了技术的伴生风险。深度合成服务从相继被纳入到《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》中监管，到出台专门的规章进行规制，显示出我国一方面引导深度合成技术良性发展，另一方面坚决打击利用深度合成服务制作传播违法不良信息、危害信息内容安全、社会公共利益和国家安全的行为。在合规前提下，深度合成技术创新发展，不断开拓应用场景，将形成对人工智能产业整体的带动效应，促进技术向上向善。

作者：时建中 中国政法大学副校长