作者：***
来源：《华东理工大学学报（社会科学版）》2022年第01期
[摘要] “深度伪造”是人工智能时代对“生物识别数据”进行伪造的一种新技术，即通过对“源数据”的学习，用特定人的声音、外貌和动作拼接出虚假的声音、图片或视频。这一技术的存在为社会生活提供了一定的便利，但同时也带来了一些风险，例如利用“深度伪造”技术合成情产物进行传播从而挑战个人隐私等。面对这些风险，不少国家和地区纷纷出台了相应的法律进行规制，以欧盟和美国为例，分别从“生物识别数据”保护的单一路径和“深度伪造”结合“生物识别数据”的双重保护路径对“深度伪造”带来的个人隐私风险进行限制。目前我国采取了与美国类似的双重规制路径，在“深度伪造”的隐私风险规制方面取得了一定进展，古诗江南
但是在滥用者惩罚、平台责任的平衡、行业自律规范等方面仍需要继续完善。
[关键词] 深度伪造 人工智能 风险规制 技术中立 生物性识别数据
[作者简介] 黄家星，南开大学法学院博士研究生，研究方向为国际经济法、数据法。
[中图分类号] D997.1
[文献標识码] A
[文章编号] 1008-7672（2022）01-0127-09
一、 “深度伪造”的技术逻辑与规制起点
“深度伪造”（deep fake），是一种基于“生成对抗网络”模型（GAN）实现的技术。它可以通过对“源数据”的学习，用特定人的声音、外貌和动作拼接出虚假的声音、图片或视频。
“深度伪造”的基础模型是GAN技术，其核心思想来源于博弈论中的“零和博弈”。简单
来说就是GAN包括一个生成模型和一个判别模型。判别模型用于判断一个给定的图片是不是真实的图片（从数据集里获取的图片），生成模型的任务是去创造一个看起来像真实图片一样的图片。这两个模型一起进行对抗训练：生成模型产生一张图片去欺骗判别模型，然后判别模型去判断这张图片是真是假，最终在这两个模型训练的过程中，两个模型的能力越来越强，最终达到稳态。①“深度伪造”在获取了大量原始图像数据后，利用神经网络算法对人的生物特征加以识别提取，通过不断对比验证，实现模仿对象和被模仿对象面部的完美嫁接。②在“对抗—辨别”模型的应用下（参见图1），“深度伪造”视频等产物的“真实性”被大幅度提升，很难单纯以肉眼辨别其真伪。
2023数九时间表一九二九 图1 “深度伪造”技术的逻辑流程
“深度伪造”技术的出现为日常生活提供了很多便利。例如，技术人员可以让已经故去的人物在电影中高质量地“重现”，此外大众还可以通过“一键换脸”等应用程序制作表情包、小视频等。但值得注意的是，“深度伪造”技术在为社会生活带来便利的同时，也为个人隐私带来了显而易见的风险：自己的照片如果被“移植”到情图片或视频中并被广泛传播，又当如何处理？国家是否应通过法律手段对“深度伪造”这一技术进行规制？
酥饺的做法最正宗的做法地下城剑魂加点 答案应当是肯定的。应用是人工智能的最终呈现。技术本身是客观存在的，并没有绝对的善恶之分，但技术的应用需要伦理道德规范来指导。数据和算法的互惠合作可以释放无限的价值和技术潜力，但对欠缺数据收集和算法处理技能的主体而言，数据和算法的紧密依存将会导致未知的“黑箱效应”，进而衍生出难以预估的安全风险。③当前，对“深度伪造”造成的个人隐私风险进行分析和规制，已经成为一个刻不容缓的课题。蒋大为个人资料简介及
二、 “深度伪造”对个人隐私的挑战
（一） “情报复”等应用对个人隐私的破坏
“深度伪造”应用对个人造成的隐私风险包括诸多方面，其中“情报复”是最为典型的风险类型之一。“情报复”并不是一个新概念，传统的“情报复”通常是指“某人把手中掌握的他人的不雅照片（或视频）放到网上公开展示，它多半是分道扬镳的前伴侣所为”。④传统的“情报复”手段往往基于在亲密关系中获得的一手个人隐私信息或图像。没有这些私密资料，即使一方试图采取“情报复”的手段也很难成功。
然而“深度伪造”技术的出现，使得“情报复”的手段更加丰富。实施“情报复”的一方
只要拥有对方的照片或视频（这些材料在社交网络极度发达的今天，即使是陌生人也很容易获取），就可以在“深度伪造”的帮助下制作在现实中并不存在的情照片或视频，实施“情报复”。
正如王利明教授所言，隐私权主要包括生活安宁和私人秘密两个方面①，而通过“深度伪造”进行情应用对个人隐私的破坏也主要表现于此。一方面，情应用产物在网络上的迅速传播对当事人的社会评价和正常生活秩序会造成显而易见的不良影响，破坏当事人的生活安宁;另一方面，“深度伪造”下的情应用产物主要使用了受害方的面部外表进行拼接而非直接使用个人私密材料，在这种情况下，是否侵犯了个人秘密似乎有所争议。但答案应当是肯定的。首先，私人秘密包括生理信息，而面部外表显然属于生理信息的范畴。个人在隐私权的保护下，有权决定何时、何处暴露自己的面部外表。在某一场合的公开展示并不能推断在所有场合进行传播的默示同意。其次，除面部特征之外，公开展示与受害方的面部进行拼接的裸露的身体部分也是对受害方私人秘密的侵犯。权利的行使和归属是在社会范围之内进行探讨的，真假难辨的拼接产物使受害方的身体隐私暴露于世（即使并不是受害方本人的身体），由此带来的和伤害则直接归属于受害方本身。因此，事实上的“虚假暴露”与公众眼中的“真实暴露”，则应以后者为准。
（二） 对特定人带来更大的隐私压力
“深度伪造”技术的使用有可能对特定人造成更大的风险和压力，其中包括但不仅限于女性、公众人物、特殊性取向者。在一份有关“深度伪造”的追踪报告中，2019年6月和7月在线显示了14698个“深度伪造”视频，该数量在七个月内增长了84%。其中绝大多数（96%）包含以女性为特的情内容。②“深度伪造”也给明星带来了巨大的隐私压力，2019年的“杨幂换脸朱茵视频”在短期内微博的阅读量就达到了1.1亿次，传播速度远比普通人的“一键换脸”视频快得多，其影响之广，可见一斑。另据不完全统计，遭遇“换脸”的明星至少还有刘亦菲、刘诗诗、赵丽颖等人。③
特定体由于其特定的身份标签，可能会“激发”制作者运用“深度伪造”技术的制作欲望。而当用这种应用程序“一键合成”的视频在互联网上被广泛传播后，其中“被露脸”的当事人不可避免地将会受到舆论、就业、人身安全等诸多方面的困扰，正常的生活秩序势必被打破。“深度伪造”对普通女性造成的压力在于，如果当一个人的名字在网络搜索结果中关联了“深度伪造”的情输出时，那么她可能会丢掉工作机会，进而影响其社会生活，降低安全感。①例如，印度女性作家Rana Ayyub发表了一篇具有挑衅性的报道后，网络上开始
流传一段以其为主角的“深度伪造”情视频，并在Facebook、Twitter和WhatsApp上广泛传播。随后Ayyub的家庭地址等个人信息被曝光在网上，她因此也收到了大量的威胁。Ayyub的生活和工作都受到了极大的影响，遭受了极大的精神折磨。②另一方面，虽然公众人物的隐私权范围受到一定限制，但这并不意味着公众人物的隐私权不应当受到保护。在不涉及公共利益的前提下，公众人物人格尊严、人身自由与生活安宁的隐私权同样应当受到法律的保护。女装品牌
（三） 传播的速度快与规制手段滞后间的矛盾
虽然“深度伪造”涉及的技术基础，例如“机器学习”“GAN模型”，对于计算机技术领域以外的非专业人士而言知识壁垒较高，但是相较而言“深度伪造”的应用程序却非常容易上手。如DeepFaceLab是“深度伪造”技术的一个开源软件工具包，所有人都可以查看源代码也能免费使用。它不仅安装简便而且使用方便，即使是初学者也可以顺利下载使用。可见应用程序的易操作性也为“深度伪造”应用的规模制作和快速传播提供了便利。
“深度伪造”所处的互联网技术背景环境是“深度伪造”技术发展的有力依托。与此同时，“深度伪造”的互联网传播应用背景环境决定了一旦“深度伪造”的应用结果被上传至网络，
传播速度将十分惊人，即使造成了不良影响也很难通过迅速地“下架”或使用其他方式及时消除不良影响。“深度伪造”应用结果的规模制作、快速传播和规制手段的滞后性之间的矛盾进一步加剧了“深度伪造”的传播风险和对隐私的破坏程度。
综上所述，“深度伪造”隐私风险主要基于互联网技术背景进行迅速传递，通常被用作“情报复”等手段，对个人隐私尤其是特定体的隐私造成威胁，且很难通过迅速有效的手段控制传播来降低影响。这一风险是人工智能发展带来的新社会问题，有必要在法律的框架下得到合理的规制，而目前各国也已经开始认识到“深度伪造”的隐私风险并着手制定规则加以约束。
三、 各国主要规制路径的选择
（一） 美国实践：“生物信息”保护与“深度伪造”直接规制的双路径
1. 既存规则体系简介
美国是最早开始对“深度伪造”进行规制的国家之一。目前，关于“深度伪造”隐私风险的规则主要分为以下三类：第一类，对“深度伪造”技术进行规制，包括《2019年深度伪造报
告法案》《2020年国防授权法案》《深度伪造责任法案》等;第二类，从“生物信息保护”的角度进行风险规制，包括伊利诺伊州在2008年颁布的《生物信息隐私法案》、得克萨斯州在2009年颁布的《生物识别信息获取使用法》等;第三类，从“深度伪造”造成的具体隐私风险（如情传播等）角度进行规制，包括加利福尼亚州《犯罪：欺骗性记录》、弗吉尼亚州2019年《非同意情法》修正案、《非法传播或出售他人影像》等。
2. 具体规则的安排与衔接
美国关于“深度伪造”的隐私风险规制策略内生于整体风险规制路径，经历了两个阶段的路径变迁：在2019年以前，美国对于“深度伪造”的规制，主要是通过对“生物识别数据”的保护来实现的;而在2019年以后，美国对于“深度伪造”的规制，主要是通过直接规制来实现的。
造成这一情况的原因主要在于“深度伪造”技术虽然从2014年开始就获得了技术上的突破，但是直到2017年才开始被广泛应用。相对而言，“生物识别数据”的保护问题出现得更早，所以相应地，对于“生物识别数据”的保护规制也出现得较早。因而在“深度伪造”风险出现时，最及时有效的规制手段，显然应当在既存规则中。但由于法律的滞后性，这一阶段
对“深度伪造”的规制存在诸多不完善之处。如伊利诺伊州在2008年颁布的《生物信息隐私法案》，其目的在于规范“生物标识符和信息的收集、使用、保护、处理、存储、保留和销毁”，但是却明确地将“照片”等形式排除在该法的限制范围之外。这样一来，使用照片进行“深度伪造”就无法得到有效的规制。
而在“深度伪造”被广泛应用并产生一系列问题后，美国选择以“深度伪造”为规制对象，反映了美国对“深度伪造”带来的巨大风险尤其是隐私风险的担忧，以及直面风险、消灭风险的决心。①《2019年深度伪造报告法案》《深度伪造责任法案》等直接以“深度伪造”为主要规制对象，采用了“定期报告”与“自我披露”等方式对“深度伪造”的应用进行监督，并通过具体制度设计，完成了与其他法律部门的衔接。
美国对个人隐私的保护主要体现在规制“深度伪造”情产物的传播上。例如，弗吉尼亚州2019年《非同意情法》修正案将“深度伪造”的情产物纳入非自愿情禁令的禁止范围。该法禁止“试图胁迫、骚扰或恐吓”他人传播裸体图像或视频，否则可能构成一级轻罪，最高可判处12个月监禁和2500美元。
发布评论