深度解读《互联网信息服务深度合成管理规定》

党的十八大以来，以习近平同志为核心的党中央主动顺应信息发展潮流，高度重视互联网、发展互联网、治理互联网，推动网络空间主旋律和正能量更加高昂，网络综合治理体系日益完善，网络生态持续向好。党的二十大报告指出，“健全网络综合治理体系，推动形成良好网络生态”。在新一轮科技革命与产业变革中，深度合成技术为经济社会发展注入新动能，也带来新的治理难题。为加强深度合成服务治理，国家互联网信息办公室、工业和信息化部、公安部联合出台《互联网信息服务深度合成管理规定》（以下简称《规定》），并于2023年1月10日正式生效实施。《规定》聚焦前沿技术、着眼长远发展，系统规范深度合成服务，完善深度合成治理体系，筑牢技术安全屏障，维护风清气正网络生态，助力网信事业高质量发展。

聚焦技术发展前沿，推出首部专门规章

出台《规定》是深入贯彻落实党中央决策部署的重要举措。习近平总书记指出：“要坚持促进发展和依法管理相统一，既大力培育人工智能、物联网、下一代通信网络等新技术新应用，又积极利用法律法规和标准规范引导新技术应用。”中共中央印发的《法治社会建设实施纲要（2020-2025年）》明确提出制定完善对算法推荐、深度伪造等新技术应用的规范管理办法。《规定》的出台是贯彻落实党中央决策部署的重要举措，彰显依法管网、依法治网的精神内核。深度合成服务治理是我国网络综合治理的重要内容，《规定》作为我国首部针对深度合成服务的专门性部门规章，坚持安全与发展并重，将对新技术新应用的发展起到固根本、稳预期、利长远的积极作用。

出台《规定》是维护网络空间良好生态的现实需要。近年来，深度合成技术发展迅猛，在推动产业变革、丰富人民群众生活的同时，也给网络生态治理带来新风险新挑战。利用深度合成技术生成的虚假信息日益增多，滋生谣言、混淆视听，大幅削弱社会信任度。一些不法分子利用深度合成技术恶意制作违法有害信息，并通过社交网络发布、传播，诋毁他人名誉、侵犯个人隐私，或利用深度合成技术仿冒他人身份实施诈骗，严重扰乱网络传播秩序和社会秩序，危害公众利益、国家安全和社会稳定。这类违法有害信息，难以追溯制作源头，进一步增加网络内容管理的难度。为维护网络空间良好生态，《规定》针对深度合成技术带来的现实危害与潜在风险，提出科学化、精细化、体系化的治理要求，划定深度合成服务的“底线”和“红线”，推进深度合成技术依法依规有效利用。

出台《规定》是促进深度合成服务规范发展的有力保障。当前，深度合成技术已经成为全球信息领域创新的关键技术之一，特别是以生成型对抗网络（GAN）、扩散模型（Diffusion Model）、生成预训练变换模型（GPT）等为代表的深度合成技术快速发展，为虚拟人、人机交互、元宇宙等应用提供有力技术支撑，推动深度合成技术在教育、金融、医疗、服务等领域加速落地。为了让深度合成技术发展态势更加稳健、更好造福社会，《规定》在网络安全法、个人信息保护法等法律法规框架下，对使用深度合成技术提供互联网信息服务的情形提出专门性、具体性要求，确保新技术新应用“装好刹车再上路”，为促进深度合成服务规范发展提供法制保障。

安全与发展并重，着力破解治理难题

清晰界定管理范围，深度合成治理有的放矢。一是定边界。针对深度合成技术覆盖面广的特点，《规定》划定深度合成技术应用的管理范围，将深度合成技术界定为利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。二是理场景。针对深度合成应用形式多样化的特点，《规定》从应用形态的角度，囊括文本撰写、问答对话、语音转换、音乐生成、人脸操控、视频编辑、数字人物合成等正在广泛应用或具有发展前景的典型场景，以及相关技术分支和产品形态。三是谋长远。针对深度合成技术广泛融合的特点，着眼于元宇宙等场景，前瞻布局三维重建、数字仿真、沉浸式拟真等发展前景广阔但尚未深入应用的深度合成业态，提前储备、系统谋划，以更好应对未来形势和挑战。总的来说，《规定》立足抓重点、找要害、把方向，推动深度合成治理有的放矢，对症下药。

压实各方主体责任，深度合成治理多层推进。一是立足源头管理，明确技术支持者责任。技术支持者是深度合成服务的底层逻辑生产者，训练数据与合成模型决定深度合成内容的质量。《规定》要求技术支持者从技术源头上加强数据和算法管理，确保训练数据客观公正、合成模型安全可控，特别要防范在建模过程中引入歧视性观点或规则，带来安全隐患。二是体现过程管理，强化服务提供者责任。《规定》要求服务提供者应严格落实信息安全主体责任，体现向上向善的价值观，要在用户注册、信息发布、应急处置、技术保障等多环节中，全面落实全流程管理责任。三是聚焦结果管理，规范服务使用者责任。深度合成技术的使用门槛越来越低，技术的工具化促进服务的大众化。使用深度合成服务的组织和个人应主动承担起信息安全义务，不得利用深度合成服务从事侵犯个人隐私、制作传播虚假信息等违法违规活动。四是突出渠道管理，细化分发平台主体责任。互联网应用商店等应用程序分发平台应落实平台主体责任，主动核验应用程序的安全评估、备案等情况，发挥对深度合成应用的上线把关作用。

守正创新多措并举，深度合成治理标本兼治。一是摸底数，采取备案等审慎监管手段，有效兼顾安全与发展。《规定》紧密结合深度合成服务特点，要求具有舆论属性或者社会动员能力的深度合成技术支持者和服务提供者履行双主体备案义务。《规定》生效以来，多家企业积极进行备案咨询，落实备案要求，与监管部门共同完善深度合成备案流程和细节，体现出合作治理、多元治理的理念。二是可追溯，创新内容标识管理要求，解决证伪和识别难题。《规定》要求对深度合成信息内容添加不影响用户使用的标识，并保障标识的真实性和唯一性，以利于溯源追踪深度合成信息流向，及时阻断有害合成信息传播；同时要求在合理位置、区域进行显著标识，防止公众混淆或误认，提升公众识别合成内容的能力，降低利用合成信息进行造谣、诈骗等违法行为的风险。三是强认证，细化真实身份信息认证管理规范，保护用户个人信息。《规定》明确要求建立健全用户管理制度，严格落实对服务使用者的真实身份信息认证的主体责任，实行真实身份信息认证管理的多种方案，积极防范和应对个人信息滥采滥用等问题。

以人民为中心，加快深度合成治理落地见效

习近平总书记指出：“网信事业发展必须贯彻以人民为中心的发展思想，把增进人民福祉作为信息化发展的出发点和落脚点。”当前，我国网民规模已超10亿，形成了全球最为庞大的、生机勃勃的数字社会。为促进数字经济高质量发展，我们聚焦前沿、着眼长远、多措并举，加快深度合成服务治理，全方位构筑技术安全屏障。

坚持治本筑基，稳步推动深度合成服务监管落地。构建网信、电信、公安等监管机构依职权分工的监管协同机制，促进信息互通、工作联动和成果共享，纲举目张做好深度合成管理规定落地工作。制定配套实施细则，进一步深化管理要求，加快推进深度合成服务国家标准建设。持续开展境内深度合成信息服务备案工作，督促相关主体履行备案和评估义务。有序推进深度合成技术监管，及时发现违法问题，依法依规予以处置。

坚持多元共治，全面营造深度合成向上向善生态。全面推进企业落实主体责任，多方式、多渠道强化法律宣贯解读，明确企业责任落实要点，加快提升深度合成服务提供者、技术支持者等相关主体的道德伦理意识，严格遵守事中、事前、事后各项管理要求，推动企业积极创新治理手段，主动承担社会责任。加强宣传引导，提高深度合成安全防范意识，有效甄别违法违规合成内容，规避人身财产安全风险，形成全社会尊崇法治、践行法治的良好氛围。畅通用户投诉、举报渠道，确保以主流价值观为引领，形成全民共建共治共享的良好局面。

坚持规范发展，有力保障我国数字经济高质量发展。深度合成技术与互联网信息服务的深度融合，在变革互联网信息制作模式、智能生产新闻媒体内容、改善人机交互体验等方面产生巨大影响，将进一步加速推动数字化、网络化、智能化在更广领域实现更高质量、更深层次的发展。我们持续跟踪深度合成技术发展动态，强化数字技术伦理规范引导，坚持促进发展和监管规范两手抓，在发展中规范、在规范中发展，不断完善新技术新应用治理体系，依法保障数字经济健康发展。

发展永无止境，治理未有穷期。《规定》的出台标志着我国网络综合治理能力的进一步优化提升，但深度合成技术应用与治理尚处于起步阶段，在技术支撑和能力建设方面有待于进一步加强。我们将按照“体系布局、重点突出”的思路，坚持统筹安全与发展，积极探索总结治理经验，持续创新理念手段，不断提升深度合成治理水平，切实把健全网络综合治理体系作为贯彻落实党的二十大精神的重要任务，抓紧抓好、抓出成效，助力中国式现代化数字经济高质量发展，为网络强国建设作出更大贡献。