央广网北京1月28日消息 1月28日，国家互联网信息办公室发布关于《互联网信息服务深度合成管理规定(征求意见稿)》（下文简称“《规定(征求意见稿)》”）公开征求意见的通知。《规定(征求意见稿)》提出，深度合成服务提供者提供人脸生成、人脸替换、合成人声等深度合成服务的，应当使用显著方式对深度合成信息内容进行标识，向社会公众有效提示信息内容的合成情况。

《规定(征求意见稿)》共二十五条，从制定目的依据、适用范围和总体要求；深度合成服务提供者主体责任；深度合成信息内容标识管理制度；监督管理相关要求；法律责任、解释部门和施行日期等方面进行了明确。

（图片来源：国家互联网信息办公室网站）

《规定(征求意见稿)》明确，深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括但不限于：（一）篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术；（二）文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术；（三）音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术；（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术；（五）图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术；（六）三维重建等对虚拟场景进行生成或者编辑的技术。

《规定(征求意见稿)》指出，深度合成服务提供者提供以下深度合成服务的，应当使用显著方式对深度合成信息内容进行标识，向社会公众有效提示信息内容的合成情况：

（一）提供智能对话、智能写作等模拟自然人进行文本生成或者编辑服务的，在文本信息内容的稿源说明处等位置进行显著标识；

（二）提供合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务的，在音频信息内容的合理区域以语音说明等方式进行显著标识；

（三）提供人脸生成、人脸替换、人脸操控、姿态操控等虚拟人物图像、视频生成或者显著改变个人身份特征的编辑服务的，在图像、视频信息内容的明显位置进行显著标识；

（四）提供沉浸式拟真场景等生成或者编辑服务的，在虚拟场景信息内容的明显位置进行显著标识；

（五）提供其他具有生成或者显著改变信息内容功能的服务的，在文本、图像、音频或者视频、虚拟场景等的合理位置或者区域进行显著标识。

深度合成服务提供者提供前款规定之外的深度合成服务的，应当向深度合成服务使用者提供对深度合成信息内容进行显著标识的功能，并提示深度合成服务使用者可以对深度合成信息内容进行显著标识。

《规定(征求意见稿)》指出，深度合成服务提供者应当建立健全辟谣机制，发现深度合成信息服务使用者利用深度合成技术制作、复制、发布、传播虚假信息的，应当及时采取相应的辟谣措施，并将相关信息报网信等部门备案。

深度合成服务提供者还应建立健全算法机制机理审核、信息内容管理、从业人员教育培训等管理制度，具有与新技术新应用发展相适应的安全可控的技术保障措施。应当制定并公开管理规则和平台公约，并对使用者依法进行真实身份信息认证。加强内容管理，采取技术或者人工方式对输入数据和合成结果进行审核，并建立健全相关特征库。加强技术管理，定期审核、评估、验证算法机制机理。提供涉及生物识别信息或者可能涉及国家安全、社会公共利益的模型、模板等工具的，应当自行开展安全评估，预防信息安全风险。加强训练数据管理，确保数据处理正当、合法，采取必要措施保障数据和个人信息安全。

在监督管理方面，《规定(征求意见稿)》明确，互联网应用商店服务提供者应当对深度合成应用程序履行安全管理责任，依法依约核验安全评估、备案等情况，对违反国家有关规定的，及时采取不予上架、暂停上架或者下架等处置措施。深度合成服务提供者应当建立健全辟谣机制，设置便捷有效的用户申诉和公众投诉、举报入口；应当按照有关规定履行备案手续、标明备案编号；开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估；对网信部门依法实施的监督检查，应当予以配合，并提供必要的技术、数据等支持和协助。