安全419了解到，1月28日，国家互联网信息办公室发布关于《互联网信息服务深度合成管理规定（征求意见稿）》公开征求意见的通知，依据网安法、数安法、个保法等法律要求规范应用深度合成技术提供互联网信息服务的信息安全义务，意见反馈截止日期为2月28日。、
所谓深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。比如篇章生成、文本风格转换、问答对话等对文本内容进行生成或者编辑的技术；文本转语音、语音转换、语音属性编辑等对语音内容进行生成或者编辑的技术；音乐生成、场景声编辑等对非语音内容进行生成或者编辑的技术。也包括时下火热的人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等对图像、视频内容中人脸等生物特征进行生成或者编辑的技术；图像增强、图像修复等对图像、视频内容中非生物特征进行编辑的技术；三维重建等对虚拟场景进行生成或者编辑的技术。
《规定》对深度合成服务提供者主要提出下列要求：
落实信息安全主体责任，建立健全算法机制机理审核、用户注册、信息内容管理、数据安全和个人信息保护、未成年人保护、从业人员教育培训等管理制度，具有与新技术新应用发展相适应的安全可控的技术保障措施；
以显著方式提示深度合成服务使用者信息安全义务，并依法依约履行相应管理责任；
对深度合成服务使用者进行真实身份信息认证；
加强对深度合成信息内容的管理、审核；
加强深度合成技术管理，定期审核、评估、验证算法机制机理，对涉及生物识别信息或可能涉及国家安全、社会公共利益的工具自行开展安全评估，预防信息安全风险。；
加强训练数据管理，确保数据处理合法、正当，采取必要措施保障数据安全。训练数据包含涉及个人信息数据的，还应当遵守个人信息保护有关规定，不得非法处理个人信息；
在使用其服务所制作的深度合成信息内容中添加标识以实现可识别、追溯；
提供模拟自然人进行文本生成或者编辑服务，语音生成或者显著改变个人身份特征的编辑服务，虚拟人物图像、视频生成或者显著改变个人身份特征的编辑服务，提供沉浸式拟真场景等生成或者编辑服务及其他具有生成或者显著改变信息内容功能的服务，应当使用显著方式对深度合成信息内容进行标识；
建立健全辟谣机制；
按照《互联网信息服务算法推荐管理规定》有关规定履行备案手续；
开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。
前期，国家已出台《网络信息内容生态治理规定》、《互联网信息服务算法推荐管理规定》、《网络音视频信息服务管理规定》等相关规范性文件，在对生成合成类算法和利用深度学习、虚拟现实等新技术新应用制作音视频内容等的监管要求的基础上，出台具有系统性、针对性和可操作性的专门管理规定，将进一步厘清、细化深度合成技术的应用场景，明确深度合成服务提供者和使用者的信息安全主体责任。
京公网安备 11010802033237号
