一、问题的提出

新一代科技革命与产业变革深入演进，人工智能的发展更是如火如荼，在经济社会各个领域掀起革新浪潮，为智能化社会注入创新活水。深度合成技术作为人工智能领域的一项重要突破，已广泛应用于图像、视频、音频等创作过程，并在影视娱乐、在线教育、通讯社交、电子商务与内容营销等诸多生活场景中“大显身手”，不断丰富着虚拟数字空间的信息内容与用户体验，AI虚拟歌手“洛天依”、电商平台上的“智能客服”、电影后期“换脸”、在线营销中的虚拟形象等推动互联网发展进入“元宇宙时代”。与此同时，深度合成技术所带来的潜在风险与负面效应屡见不鲜。

本文将聚焦于深度合成技术所带来的种种社会风险与安全治理挑战，梳理分析各国为应对深度合成技术的负面效应而逐步形成的治理监管机制，并结合我国制度现状与现实需求，从多角度探讨如何完善深度合成技术的规制路径。

二、深度合成技术的应用风险与治理挑战

深度合成技术主要形式有人脸替换、人脸再现、人脸合成、语音合成等，这些技术商业化使用范围不断扩张，正向应用场景在不断丰富的同时，技术进步使得深度伪造门槛降低，这引发了人们的担忧。深度合成技术的滥用，一方面利用虚假信息，沦为了侵害他人合法权益和欺诈等犯罪活动的工具，另一方面，大量的虚假信息给公共信息安全带来了挑战，可能影响国家安全和社会稳定。

（一）生成和传播虚假信息

互联网中深度合成视频的数量逐年高速增长，制作的内容涉及丰富的领域，形式十分多元。与此同时，深度合成技术的不当使用可能产生大量的虚假信息，并通过互联网进行大规模的传播。特别是在热点事件的信息发布和追踪中，充斥着深度伪造的大量虚假信息，鱼目混珠之中难以发现真相，造成信息领域的混乱。这种“深度造假”技术的泛滥还可能导致公众形成“眼见不为实”的心理预期，结果是公众对公有机构和私有机构的信任度遭遇侵蚀。同时，深度合成技术的恶意伪造内容通常迎合大众猎奇心理，受年龄、教育水平等因素影响，不同群体对于虚假信息的敏感程度也不相同。其中未成年人处于价值观和意识形态形成的关键时期，较容易受到不良影响。

（二）影响社会和国家安全

深度合成技术制造的虚假信息，在社交媒体的加持之下，短时间内就可以在互联网上大规模的蔓延，受人关注的消息真假难辨，一瞬间就可能引爆舆论，如果再加上某些犯罪分子刻意引导，很可能会激化社会不同群体的矛盾。例如国外有重要政要的换脸视频网上能获得480余万次的浏览量，这种深度合成技术用于捏造国家政要言论，伪造公务人员虚假视频，这些虚假信息极大地干扰选举，扰乱外交和国际关系，一旦被极端组织利用，将形成新威胁、新挑战。如果煽动他人实施破坏社会公德、扰乱社会秩序的行为，教唆进行恐怖活动，将会危害国家安全、破坏民族团结，严重威胁社会安宁。

（三）损害他人合法权益

深度合成技术在没有当事人授权下非法使用，将会侵害到他人的合法权益。如在当事人没有授权下非法使用他人肖像“换声”“换脸”“姿态操控”，可能故意丑化或者恶搞当事人形象，侵犯他人的肖像权、名誉权、隐私权等合法权益。同时，犯罪团伙恶意收集个人信息，利用深度合成技术合成视频，造假后进行网络诈骗或者对受害人实施敲诈勒索，技术成为了犯罪者的工具。

三、应对深度合成技术负面效应的监管实践

针对深度合成技术的负面效应，世界各国努力出台监管规范以尽力跟上技术发展步伐带来的挑战。对此采取的措施包括将深度合成纳入法律规制的范围之内，例如美国的《2018年恶意伪造禁令法案》，欧盟对深度合成技术使用边界作出了严苛的规定，欧盟的《一般数据保护条例》也被称为“史上最严数据保护条例”。这些都是打击虚假信息，控制深度合成技术的使用的规制。

我国2021年开始实施的民法典人格权编中也明确规定，不论是否出于营利目的，均不得利用信息技术手段伪造他人肖像、声音。此外我国有关部门先后制定《网络音视频信息服务管理规定》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》，深度合成因其重要性和高风险程度成为我国算法治理中率先专门立法的算法服务类型。同时开展了“清朗·2022年算法综合治理”专项行动，打击违法算法应用行为，推进深度合成等算法应用的规范化和透明化。

四、应对深度合成技术治理挑战的完善路径

随着研究的深入，深度合成技术得到快速发展，自身更新升级迭代，和以往相比合成后的视频动作更加自然，更加贴近真实。视频整体更加清晰，流畅度也得到大幅提升，网络的很多视频实际上足以达到以假乱真水平，带来的技术伴生风险，需要继续优化完善。

（一）明确平台责任，完善配套法律制度体系

在保护深度合成技术良性发展的基础上，制订针对不良深度合成应用的配套法规、管理条例等，形成科学严密、有机衔接的法规制度体系，增强法规的针对性和实效性。在对加害人进行制裁之外，同时需要明确提供服务的应用相关方的法律责任，媒体平台和大众媒介应承担其相应的监管职责，阻止虚假信息通过平台扩散。

（二）发展对抗技术，倡导行业发展自律自治

在完善的配套法规政策出台之前，发挥产研界自律自治的作用。在技术层面加强研究，推动技术创新，在技术对抗领域不断发展进步，提升深度合成检测、溯源、鉴定等方面技术能力。促进科学与人文两种精神的充分融合与互补，促进技术的善用，防止滥用和恶用。行业相关组织可以牵头制定行业标准，达成共识，把握人工智能发展方向，促进深度合成技术健康发展。政府可提供简单的深度合成检测技术，方便民众可以自主检测相关简单的虚假合成视频。

（三）加强普及宣传，推动深度合成技术健康发展

在深度合成技术大量使用的今天，应当加大宣传普及力度，强化民众对深度合成技术基本的认知，能够明白其风险所在。被侵害者面对虚假信息要积极验证，拿起法律武器，提高全社会的防范意识和监督能力。在被动接受技术带来的两面效应外，发挥主观能动性，正确使用技术和预防技术风险也很重要。在落实法律法规的同时，要正向鼓励深度融合技术进步，继续在影视等领域发挥其正面作用。

（作者单位：南京审计大学法学院）