引言：深度合成作为人工智能时代的必然产物，持续冲击着“眼见为实”的传统观念，加之网络短视频的快速走红，为其提供了更好的发展舞台。虽然该技术的研发与应用能够不断激发人类的想象力和创造力，但同样暴漏出一些无法规避的安全隐患和风险问题。
一、深度合成技术的由来和演变
深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术 [1]。2014年，蒙特利尔大学提出了生成对抗网络（GAN），为深度合成技术的发展奠定了基础。2017年，一名为“deepfakes”的网友在社交媒体Reedit上分享了一条利用深度合成技术篡改人脸的成人视频，该技术的应用“形象”才逐步进入大众视野，还一度遭到了污名化的“理解”，被以偏概全地冠以“深度伪造（deepfake）”的名号，与利用AI换脸技术创作低俗或虚假视频画上了等号。但也正因此，人们开始重视这一技术的发展前景，随着该技术源代码的共享，越来越多的人参与其中，深度合成技术的发展终于开始步入正轨。2019年，基于深度合成技术的各类应用火爆社交网络，普通人也可以通过智能手机、电脑等设备，运用深度合成应用程序，轻易实现语音合成、AI换脸、人脸合成等内容，无论是抖音、B站都可以找到相关的教程，这一技术逐渐“平民化”、“普世化”，但其带来的隐性风险也越发凸显。直到2020年，迎来了商业化时代，深度合成技术也已经涉及到影视、娱乐、教育、医疗、社交、电商、科研、广告营销、艺术创作等多个领域，在AI换脸、人脸合成、语音合成、图像合成、视频合成、数字虚拟人等都有所应用。2021年“元宇宙”概念的爆发，为深度合成技术提供了更加宽广的应用场景，也加速了深度合成技术的发展。当前，深度合成技术的应用已经给公众带来了前所未有的数字体验，正在重塑人类生产、生活方式[2]。
二、“深度合成”引发的社会风险问题
当下，“深度合成”一键式操作在逐步替代过去基于专业知识的后期合成，这种“普世化”的模式必将产生大量难以界定的虚假信息，真实与虚拟的界限会变得越来越模糊，诸如诬陷、诽谤、诈骗、勒索等违法行为必将层出不穷，不断冲击政治信任、社会信任、媒体信任。
（一）阴谋乱国之恶
深度合成技术一旦滥用，最大的威胁将是影响国家安全。一是抹黑政治人物。通过深度合成伪造政治人物的负面虚假视频，抹黑其公众形象，因无法精准及时判断真假而造成难以挽回的公信力危机。二是破坏政治制度。美国众议院认为深度伪造技术已经威胁到美国的政治秩序和选举。如果有人恶意制作传播关于政府不公的虚假视频，极易激起民愤，轻则引发集会静坐、示威游行等行为，重则激起暴力事件，造成社会动荡，威胁政治系统的稳定性。三是滋生恐怖主义。极端组织如果利用深度合成技术制作虚假暴力恐怖视频，既可以大肆散播，在世界范围内引起恐怖主义浪潮，也可以借机吸纳极端分子，教唆制造恐怖活动。
（二）谋利毁誉之祸
深度合成技术极易引发以谋利为目的的违法行为，在导致经济损失的同时，也可能导致名誉和精神损害。自2019年以来，在世界各国都已经发生过伪造语音诈骗、伪造视频勒索、合成人脸造假、著作侵权等多起违法犯罪案件。一方面因为新技术突破了“眼见为实”的传统认知，被不法利用后催生出不少“灰色产业”，另一方面从损害企业或明星、高管等公众人物的名誉，逐步向着侵害普通人的个人权利转变，进而达到其非法目的。
（三）信任衰退之症
深度合成技术使人类的传播活动逐渐步入了“深度后真相”时代[3]。在当前“流量为王”的时代，虚假信息很容易借助短视频平台进行“病毒式传播”，大众对主流媒体和社会公众人物的信任将呈逐步衰退的症状，如果不能及时辟谣，这一病症必然加速恶化，无论是否出现“后真相”“反转”，信任裂痕都将难以修复。因恶得益，人必趋之；信而无益，人必弃之。当信任逐渐缺失，市场经济、政府公信力、社会风气、公共秩序、法律法规等方方面面，都将受到影响。
（四）律法不全之痼
深度合成技术因其高真实性、泛用性和快速进化性的特点，使得目前法律在举证和追责上存在困难。一方面犯罪分子利用这一技术制作虚假证据进行诬陷嫁祸或逃避法律追责，另一方面也导致现行法律无法对虚假信息制作者作出有效追责。
三、加强风险应对的意见建议
作为新生事物，不能简单地采用过去传统的方式，应注重完善整合、监管、引导、规制和发展的闭合链路。
（一）注重多维度体系化治理，发挥整合规范之功效
新的行为模式需要新的机制，在应对深度合成技术潜在风险时，不能仅仅依靠技术和法律法规，更重要的是社会各方的参与，构建一个多维度的治理体系。一是顺势整合发展环境，当前深度合成技术的应用逐渐趋于正向反馈，需求与应用场景“多点开花”，可以借此在空间上整合发展环境，提供可持续发展平台。二是持续完善法规政策，虽然我国自2019年11月起，先后出台了《网络音视频信息服务管理规定》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定（征求意见稿）》等文件，均对深度合成技术作出了不同程度的监管要求和规定，但面对技术的飞速发展，在时间上应该保持紧跟同步，甚至具备一定的前瞻性。
（二）加大技术研发力度，发挥检测追踪之功效
针对伪造的检测技术已经取得了一些突破，但目前仍然是“杯水车薪”，这也意味着更多的挑战和危机。一方面深度合成技术的进化会不断地促进检测技术的发展，提升负面虚假内容治理水平，另一方面可以增加溯源标识，从源头上区分真伪，起到追踪的功效。
（三）提升公众数字化媒介素养，发挥教育引导之功效
深度合成的部分虚假信息容易利用人们的认知偏见，捕获公众的注意力，并通过传播增强对这种虚假信息的信任度，让真实内容和合成内容的区分难度加大[4]。一方面应有针对性地注重相应课程的普及程度，不论是技术层面，还是行业层面、应用层面，都应该提升数字化媒介素养；另一方面新闻媒体应该发挥其正向引导和舆论监督作用，既可以促进技术的正向发展，也能够培塑大众对风险的应对能力。
结语
人们在享受技术带来的便捷时，也应当承受其风险，并注重学习如何规避这一风险。我们必须意识到，在当前智能化的时代，深度合成技术日渐成熟的同时，因为滥用和恶意使用而引发的社会风险问题也越发凸显。所以，应立足网络空间现状，加快法制化进程，提升公众数字化媒介素养，完善多维度治理体系，为技术的研发提供绿色可控、健康有序的可持续良性发展环境。
参考文献：
[1]国家网信办《互联网信息服务深度合成管理规定（征求意见）》
[2]深度合成十大趋势报告[R].北京：清华大学人工智能研究院、北京瑞莱智慧科技有限公司、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心，2022.
[3]姬德强.深度造假：人工智能时代的视觉政治[J].新闻大学，2020(07):1-16+121.
[4]陈冬梅.人工智能时代深度合成技术应用的风险及治理[J].辽宁行政学院学报，2020(05):76-79.
