换脸？合成？新规重拳整治乱象
发布时间:2024-09-14 | 发布者： 东东工作室 | 浏览次数： 次（原标题：换脸？合成？新规重拳整治乱象）
最近，国家互联网信息办公室，工业和信息化部和公安部联合发布了《互联网信息服务深度合成管理规定》，对深度合成做了相关规定，包括深度合成的内容，深度合成服务提供者的提示义务，辟谣机制的建立以及对于深度合成涉及到的相关生物信息要取得同意等。
深度合成技术的发家史
深度合成技术的发家史有点并不光彩，深度合成最开始出现是2017年，一男子利用AI换脸制作色情视频在外网发布。之后特朗普在任期间，由于其本身的社交属性，网络上出现了各种恶搞特朗普的AI换脸视频，至此，深度合成技术正式进入大众视野。这样不甚光彩的发家史使得深度合成技术一出生就仿佛带着原罪，席卷着伤害、侮辱、和虚假，人们担忧深度合成技术只会引来技术滥用和道德滑坡。
于是，在AI换脸带着色情视频席卷外网之时，社交媒体上为这种技术起了一个负向的名字“deepfake”，即“deep learning”和“fake”的合成词，利用AI的深度学习来做虚假之物，直译的话就会译为“深度造假”。但是该词在引入中国之时，有学者认为深度合成技术本身并无错，利用的好也可以推动社会发展，而且如果译为“深度造假”也会给学术研究蒙上污点，不利于AI技术的发展，于是便译为了更为中性的“深度合成”，这就是我们现在大规模使用的深度合成技术的命名由来了。
而从技术史来说，深度合成技术从图像合成技术发展而来，图像合成技术就是我们常说的PS技术，在简单的图像合成基础之上，利用各种方式让合成更加逼真。更学术一点来说，深度合成指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。我们所熟知的元宇宙场景构建，AI换脸换头，包括这段时间大火的ChatGPT，都属于深度合成技术。
根据清华大学人工智能研究院发布的《深度合成十大趋势报告2022》，互联网中深度合成视频的发布数量逐年上升，到了2021年已达24317条，其点赞数已超3亿。2021年虚拟偶像洛天依登上央视春晚舞台，虚拟偶像正式进入主流视野。在深度合成与现实生活联系愈加紧密的背景下，国家互联网信息办公室，中华人民共和国工业和信息化部和中华人民共和国公安部联合发布了《互联网信息服务深度合成管理规定》，专门规定互联网深度合成相关内容。下面，飒姐团队为大家介绍一下新规重点。
新规重点解读
什么是深度合成
规范深度合成，首先就要知道规范范围，在新规里，第二十三条专门用了一整条来解释深度合成技术：深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；
（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；
（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；
（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；
（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。
重点提示＋辟谣机制
深度合成技术和其他互联网技术最大的不同在于其极易混淆性，随着技术的进步，网友可能凭借一双肉眼很难判断出自己所接触到的到底是真是假，于是在本法中就专门列出两条来解决这个问题，一是重点提示，二是要有辟谣机制。
根据新规第十七条 深度合成服务提供者提供以下深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况：
（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务；
（二）合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务；
（三）人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务；
（四）沉浸式拟真场景等生成或者编辑服务；
（五）其他具有生成或者显著改变信息内容功能的服务。
深度合成服务提供者提供前款规定之外的深度合成服务的，应当提供显著标识功能，并提示深度合成服务使用者可以进行显著标识。
也就是说要在明显位置提示使用者这是合成的，防止被混淆。而一旦大面积的混淆出现，变成谣言怎么办呢？新规还专门规定了辟谣机制。
根据新规第十一条，深度合成服务提供者应当建立健全辟谣机制，发现利用深度合成服务制作、复制、发布、传播虚假信息的，应当及时采取辟谣措施，保存有关记录，并向网信部门和有关主管部门报告。俗话说造谣一张嘴，辟谣跑断腿。新规这一条就是把被造谣者的辟谣负担转接一部分给平台，平台作为一般来说较强势一方，要承担起一部分辟谣的责任。
取得同意
如果要让AI学习人脸或者人声，要征得别人的同意吗？新规明确地给出了答复：要。而且作为人脸、人声编辑功能的提供者，平台背负着提醒使用者的义务。
根据新规第十四条，深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。也就是说所有的生物信息被严格地保护，应当征得生物信息所有人的单独同意。
除了以上几点重点内容以外，新规还对深度合成的内容，范围等做出了规范。篇幅限制，飒姐团队在这里就不一一展开了，感兴趣的老友们可以直接翻来看看。
写在最后
《互联网信息服务深度合成管理规定》其实在今年一月份就开始发征求意见稿，并于本月正式对外发布，将于2023年1月10日起正式施行。该规定的实施是我国互联网管理向精细化前进的重要一步，在《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》的基础上对深度合成做出特别提示，值得各位读者注意。
本文系未央网专栏作者:肖飒 发表，内容属作者个人观点，不代表网站观点，未经许可严禁转载，违者必究！转载请标注：我爱技术网——换脸？合成？新规重拳整治乱象