全城热恋20140216技术，利用智能化算法（如Deepfake和GPT）自动生成的虚假信息内容，让“重现”甚至“复制”成为可能。

　　比如，如今让政客、明星深受其害的AI换脸（B站的明星恶搞、网站的恶意换脸等）视频，就是基于这一技术实现的。

　　深度伪造（Deepfakes)是深度学习（Deep Learning）与伪造（Fake）二者的组合词，一开始专指用基于人工智能尤其是深度学习的人像合成技术，随着技术的进步，深度伪造技术已经发展为包括视频伪造、声音伪造、文本伪造和微表情合成等多模态视频欺骗技术。[1]在2020年5月澳大利亚战略政策研究所发布的《深度伪造技术武器化》报告中详细介绍了七个常见的深度造假工具：换脸、重新投射、口型同步、动作传递、图像生成、音频生成、文字生成。

　　作为一种新技术，深度伪造技术在远程教育、游戏、影视制作、智能客服等诸多领域具有巨大的潜在价值，助推娱乐与文化交流产业发展。[2]比如，该项技术可应用于在电影制作中创建虚拟角色、视频渲染、声音模拟。借助这一手段，“复活”历史人物或已逝的亲朋好友，实现“面对面”沟通，创造了一种新型的交流方式已成为一种可能。[3]

　　▲图为韩国一位母亲通过虚拟现实、人工智能等技术，与去世了3年的女儿“再次”相见

　　但是，新技术往往伴着新的安全问题。基于深度学习的算法非常容易收到外部环境影响，如果有不法者恶意使用该技术，则可能带来新的安全挑战。计算机科学专家法里德就曾指出，但大多数情况下，社交媒体平台对如何处理这类非法内容、有害内容、不实信息、假新闻、选举篡改、非自愿的等内容都显得漫不经心，因为这些内容吸引眼球，能够增加流量并提高广告收入。[4]

　　除了社会化媒体阵地，它也在其他层面对国家和社会产生重要影响。2020年8月，美国会研究服务处发布《深度伪造与国家安全》和《人工智能与国家安全》两大报告，明确指出深度伪造已成为对手信息战的一部分，对手可利用深度造假技术对抗美国及其盟国，生成虚假新闻报告，影响公开披露的信息，瓦解公众信任等。

　　从反动、暴恐等影响国家安全的高危内容，到、等影响社会民生的风险内容，再到垃圾广告等影响企业业务和个人生活的内容等，深度伪造技术对个人隐私数据，经济利益、社会稳定和国家安全等造成了潜在威胁。[5]

　　面向个人隐私安全层面，当下，利用深度伪造技术构建的图像/视频换脸、语音诈骗等事件数见不鲜，相继出现了FakeApp，Faceswap等多个“一键式”内容合成（图像、视频、语音）应用程序，及至2019 年的“一键脱衣”软件AI DeepNude的横空出世，更加引起人们对这项技术的恐慌。

　　在Reddit上，像斯嘉丽·约翰逊（Scarlett Johansson）这样的女演员的脸被换到演员身上；此外，英国广播公司第四频道(Channel 4)在2020年播放了伊丽莎白女王(Queen Elizabeth)发表另类圣诞致辞的深度伪造电影，震惊了观众。可以看出，躲过狗仔镜头偷拍的政客、明星们，却躲不过深度伪造技术侵害自己隐私。至于普通百姓，更是无时无刻暴露在这种危险情况下。

　　▲据Deeptrace公司调研发现，目前在互联网伪造视频中涉及信息的占比高达9%

　　面向经济层面，深度伪造技术可以制作关于企业高层丑闻的假视频，进而打击企业的品牌形象，影响企业的经济利益；此外，也有一些不法分子，利用该项技术实施诈骗，据外媒报道，已经有诈骗犯利用相关技术伪造了英国某能源公司母公司首席执行官的声音，成功诱骗该公司高管将22万欧元汇入一个欺诈账户。

　　面向政治层面，深度伪造技术可以用来制作有关国家领导人言论的虚假视频，散布政治谣言。例如， 2019年初，Facebook上流传了一则特朗普批评比利时在气候变化问题上的立场的视频，事后被证实为假视频。

　　面向社会层面，深度伪造技术可能改变互联网用户的思考习惯，其最大危险是夸大了“说谎者的红利”，使每个人都质疑一切，使真理贬值。正如美国国会议员亚当·希夫(Adam Schiff)所解释的那样，“不仅假视频可能被当作真的，而且真实的信息也可能被当作假的”。

　　新形势下，由于数字信息来源多样、内容复杂、数量大、传播速度迅猛、以及对事实核查要求高，深度伪造技术的检测面临巨大挑战，亟需在技术层面进行创新突破。

　　要“发展第三代人工智能”，即以人类的安全为出发点，为人工智能提供了安全渗透、评估、加固、防火墙等方法，发展可信、可靠、可扩展的人工智能。

　　我们应对这一问题的方式是，建立了软生物识别模型。这些生物特征指的是像指纹、虹膜、面部。它没有那么独特，但其目的是捕捉微妙的面部表情、头部移动，这些每个个体独有的，但在假视频制作时被打乱了的特征。

　　常规而言，可通过伪造内容数据集对内容安全进行检测，基于伪造内容数据集完成对模型检测器的训练，以及基于生物信息不一致性等方式实现对伪造内容的判别。[6]

　　以闻海互联网开源数据平台为例，中科院旗下科技企业中科闻歌基于平台能力，集合国内多语种、跨模态，涵盖上亿个社交平台账号和十万家主流媒体信源的全方位数据体系。依托该平台，团队在内容生产、安全检测，深度伪造鉴别开展一系列工作。如针对视频人脸、画面进行嵌入式总体检测，辅助深度鉴伪，并可在图片视频的特征识别后，精准识别其背后场景和内容特点，进而对图片视频进行全网搜索，找寻其传播其传播范围和路径，进一步作用于视频篡改和拷贝监测。

　　可以预见的未来，深度伪造技术大概率将借助全球普及化的互联网实现快速传播，甚至被作为新一轮信息战的武器，影响着网络安全、数据安全、信息安全、隐私安全和国防安全。[7]

　　[1] 龙坤、马钺、朱启超. 深度伪造对国家安全的挑战及应对.《信息安全与通信保密》.2019年10月

　　[2] 顾钊铨、张川京、廖续鑫、田志宏.深度伪造技术的安全挑战与应对.《保密工作》.2020年9月

　　[3][6][7] 梁瑞刚、吕培卓、赵月、陈鹏、邢豪、张颖君、韩冀中、赫然、赵险峰、李 明、陈恺.视听觉深度伪造检测技术研究综述.《信息安全报告》.2020年3月

　　[4]“换脸”真相：“深度伪造”的网络狂欢和安全威胁.北京日报客户端.2019.09.09

　　[5]朱世强,王永恒.基于人工智能的内容安全发展战略研究.中国工程科学.2021年6月