深度伪造与公民权利的冲突与平衡

摘要：深度伪造主要包括视频深度伪造、音频深度伪造和文本深度伪造等类型。作为一种新技术，深度伪造极易侵犯公民权利，与公民权利存在冲突。面对深度伪造与公民权利之冲突，域外国家和地区大都通过立法加以调整与规制度，以实现二者之间的平衡。在深度伪造与公民权利平衡方面，我国相关立法有所涉及，但检视整个立法，存在着诸多问题，难以起到平衡深度伪造与公民权利之冲突的作用。因此，有必要立足我国实际，借鉴、吸收域外国家和地区深度伪造立法的有益经验，不断完善我国规制深度伪造的相关立法。

关键词：深度伪造；公民权利；冲突；平衡

中图分类号：D924.34 文献标志码：A 文章编号：2095-2031（2024）04-0082-07

深度伪造（deepfake）是人工智能发展到一定历史阶段的产物。作为一种新技术，深度伪造合法应用，对社会发展、人类进步具有积极的正向作用，而违法应用则会严重侵害公民权利。一般认为，深度伪造技术违法应用始于2017年美国红迪网（Reddit）某知名女明星的色情换脸事件。之后，其他国家和地区也发生过类似的色情换脸事件，如印度女记者拉娜·阿尤布（Rana Ayyub）色情换脸事件等。2019年，我国网络平台上第一次出现了深度伪造产品，即“ZAO”软件制作的换脸视频。该换脸视频事件在我国引起了很大的轰动，也引起了有关部门的关注。从应用实践来看，深度伪造与公民权利保护之间存在着冲突，即极易侵害公民的名誉权、隐私权、声音权和表达自由权等权利，给公民造成极大的负面影响，甚至影响到相关公民的生产、生活、工作与学习等方面。因此，有必要对深度伪造与公民权利之冲突与平衡问题进行深人研究，以服务于我国深度伪造立法完善和我国公民权利保障，

一、深度伪造技术原理与类型

（一）深度伪造技术原理

“深度伪造技术是基于生成式对抗网络（GANS）的机器学习模型的人工智能技术，是人工智能技术发展到一定阶段的产物”。GANS算法搭载生成器与识别器两大神经网络。生成器负责复制原始数据集属性的视频片段，或者创建伪造声音、图片等数据；识别器则承担识别伪造数据的任务，生成器与识别器的网络在相同的声音数据集或者视频、图像上进行训练，生成器网络不断创建难以识别的新样本，识别器网络则对新样本进行识别，看其是否真实。如此循环，在两个网络之间相互不断改进。“基于每次迭代的结果，生成器网络不断进行调整，以创建越来越接近真实的数据。上述两个网络之间的竞争——通常是数千次甚至数百万次迭代——直到生成器提高其性能，使识别器无法再区分真实数据与伪造数据”。目前，“日益成熟的GANS算法完全可以支持图像、音频和视频样本的自动合成和伪造，将个体声音、微表情、肢体动作等生物标识和行为特征进行‘移花接木’，达到以假乱真的效果”。

（二）深度伪造技术的类型

目前，深度伪造技术有以下类型：

1.视频深度伪造技术。计算机视觉技术、互联网技术和图像获取技术对视频深度伪造技术的产生与发展起到了至关重要的作用。“计算机视觉技术的发展，开发出一种算法，可自动对图像中面部的标志特征进行绘制，进而产生出面部识别技术。互联网尤其是大量照片和视频分享平台的出现，使以互联网为基础的庞大视听数据库得以形成，为各种深度伪造视频提供了海量数据。图像获取能力技术的发展，使系统可自动检测伪造品”。总之，上述各种现代科技的发展，为视频深度伪造技术的产生与发展提供了强有力的技术支撑。

2.音频深度伪造技术，也称语音克隆技术、语音合成技术。音频深度伪造技术在世界范围内已经发展到很高水平，“只需采集到一个人的几句话，人工智能语音克隆软件就可以生成与目标人类语音非常相似的合成语音”。在众多领域中，音频深度伪造技术已经广泛应用，如苹果智能语音助手（Siri）、谷歌家庭（Goode Fanulies）等，利用音频深度伪造技术创建语音克隆产品，门槛较低且快捷、方便，音频深度伪造技术不仅提高了语音克隆体的质量，而且大大地增强了语音克隆体的可信度。

3.其他深度伪造技术。除视频、音频深度伪造技术外，还存在一些其他深度伪造技术，如文本伪造技术、微表情伪造技术等。“文本伪造是以自然语言处理技术为支撑的，先使用卷积神经网络从视频中识别并提取字幕，然后通过自然语言处理技术生成伪造文本。微表情伪造主要是利用图像合成技术，先将大量面部表情数据手动注释为相应的情绪，再根据39种面部微表情，从基础注释中判断出微表情特征组合所代表的情绪，进而实现对微表情的伪造”。

二、深度伪造与公民权利之冲突：侵害公民权利

深度伪造与公民权利之冲突主要表现为侵害公民权利，即深度伪造侵害公民的隐私权、信息权、名誉权、财产权等权利。

（一）侵害公民隐私权

“隐私是公民的私人生活安宁和不愿为他人知晓的秘密空间、秘密活动、私密信息”。隐私权则是公民维护其私人生活安宁以及对属于自己私人生活范畴的事项依法自由支配，并排斥他人非法干涉的权利。

深度伪造侵害公民隐私权，其中视频伪造（主角换脸，也称AI换脸、对公民隐私权侵害尤为剧烈。数据显示，“深度伪造视频超过90％为色情视频，受害者多为女性，多发布于色情网站”。例如，2019年4月，“一段以印度女作家Rana Ayyub为主角的深度伪造色情视频在网络上流传开来，Ayyub的家庭地址等个人信息在网络上被曝光，Ayyub收到了大量的强奸威胁信息，精神上受到了极大的折磨”。在该起“AI换脸”事件中，Ayyub的隐私权受到了严重侵害。一方面，将色情视频放在互联网上迅速传播，对当事人的社会评价与正常生活秩序造成了巨大负面影响，冲击了当事人的生活安宁；另一方面，色情视频将当事人的面部与他人裸露的身体深度伪造成为一体，使社会大众认为就是Ayyub的真实视频，由此给Ayyub带来的伤害与负面评价可想而知。“如果一个人的名字在网络搜索结果中关联了‘深度伪造’的色情输出时，那么她可能会丢掉工作机会，进而影响其社会生活，降低安全感”。

（二）侵害公民信息权

“个人信息是以电子或者其他方式记录的，能够单独或者与其他信息结合识别特定公民个人的各种信息，包括公民个人的姓名、出生日期、身份证件号码、生物识别信息、住址、电话号码、电子邮箱、健康信息、行踪信息等”。

为了深度伪造视频、照片与文本，实现某种目的，不法分子需要通过各种途径或者方法，甚至非法途径或者方法获取公民个人信息，这种获取公民信息的过程及之后对公民各种信息的利用，都会侵害公民个人信息权。如要实现“AI换脸”，必须进行人脸识别，即通过生物特征识别技术获取公民个人的生物特征识别信息，这是实现“AI换脸”的前提与基础。依据我国《民法典》及其他相关法律规定，公民依法享有个人信息决定权，他人使用公民个人的生物特征识别信息，必须经过公民的许可或者同意。但是，从已经发生的深度伪造“色情视频”的案（事）件来看，伪造者并没有取得相关视频资料所有者或者占有者的许可或者同意，而是通过不当或者非法途径获取，并加以深度伪造的，这种做法严重侵害了公民个人的信息权。

（三）侵害公民名誉权

名誉权是公民享有的社会对其自身属性和价值的正面评价以及对正面评价享有的保有和维护的权利。

近年来，利用深度伪造产品侵害他人名誉权案（事）件不断发生，如制作虚假视频，传播淫秽色情等。不法分子利用深度伪造将色情明星的脸与某特定女性的脸互换，伪造非常逼真的色情场景。例如，2017年12月，“在Reddit网站上，一位名为deepfake的用户发布了一段深度伪造色情视频，将好莱坞知名女演员盖尔·加朵的脸与某女色情明星互换。这是深度伪造技术第一次应用于色情场景之中，在世界范围内引起了巨大轰动”。研由于当下网络与自媒体的发达程度和传速速度，一旦深度伪造的色情视频或者图片在网络社交媒体上传播，其负面影响在短期内根本无法消除，其传播趋势也无法进行有效控制。因此，深度伪造、传播色情视频或者图片，极大地侵害了受害人的名誉权。

（四）侵害公民知情权与表达自由权

“知情权是公民依法享有的知道他应该知道的事情的权利，即知悉、获取各种信息的权利”。表达自由权是“公民依法享有的，以合法方式发表、公开、传播客观事实信息或者个人主观意见的自由权利”。

深度伪造阻断公民之间、公民与国家之间的沟通、对话渠道，侵害公民的知情权与表达自由权，导致公民难以了解、知悉事情的真相，更无法对自己关注的“焦点事件”或者“重要问题”发表自己的意见、看法。当前，某些个人或者机构利用深度伪造制造出以假乱真的“产品”，“向他人呈现另一种现实：一个真实的人在做一些他从未做过的事情，或者说一些他从未说过的话，从而通过这样的‘现实’欺骗不知情况的公众。”对于深度伪造的“产品”，在现有的识别技术条件下，公民不可能精准识别。因此，在深度伪造背景下，公民的知情权与表达自由权遭受侵害是显而易见的。

（五）侵害公民财产权

财产权是公民的基本权利，即宪法权利，它包括占有、使用、收益、处分四大权能，是社会生活中公民获得自由与实现经济利益的基础性权利。

目前，不法分子已开始通过深度伪造虚假音频、虚假视频，展示或提供虚假证据，实施敲诈勒索、诈骗等违法犯罪行为，且有不断扩大的趋势。

深度伪造侵害公民财产权主要有三种情形：一是身份盗窃；二是冒名顶替诈骗；三是网络勒索。例如，2019年，“一位英国能源公司董事长被深度伪造的语音电话所诈骗，诈骗者利用深度伪造的语音电话与该董事长进行交流，诈骗者的声音是该董事长非常熟悉的总公司首席执行官的声音，结果该董事长误认为诈骗者为总公司首席执行官，按照其要求将220000欧元转入诈骗者指定的银行账户，遭受巨额财产损失”。根据美国联邦调查局数据，“2019年，美国居民报告的网络勒索损失为1.07亿美元”，这还不包括勒索软件造成的损失。

此外，深度伪造还侵害公民肖像权、侵害公民声音权等权利，如“AI换脸”，无论是虚假新闻、虚假广告，还是色情视频，都可能侵害公民肖像权：利用音频深度伪造技术合成或者替换他人声音，显然妨害了公民个人对其声音的支配，侵害其声音权。

三、深度伪造与公民权利之平衡：域外立法考察

面对深度伪造与公民权利之冲突，域外国家和地区大都通过立法加强对深度伪造技术及其应用的规制，以实现深度伪造与公民权利之平衡。这里，主要对美国与欧盟规制深度伪造的立法进行考察。

（一）美国的深度伪造立法

面对深度伪造带来的各种社会问题，特别是深度伪造违法应用严重侵害公民权利问题，美国在立法上高度重视，并作出了积极应对。目前，美国联邦立法机构和各州立法机构针对深度伪造规制问题，已经提出或者颁布多项法案。

在联邦层面，参众两院先后提出了《2018年恶意伪造禁止法案》、2019年6月的《深度伪造问责法案》、2019年6月的《2020财年情报授权法案》和2019年7月的《2019年深度伪造报告法案》四个与深度伪造有关的法案。其中，《2019年深度伪造问责法案》规定，虚假记录必须满足以下要求：

1.标识数字水印。任何先进技术的虚假个人记录，只要包含移动视觉元素的，都应当嵌入数字水印，明确标识该记录在视听元素上有所改变。

2.视听信息披露。任何先进技术的虚假个人记录，只要包含视觉和音频元素，都应当包括以下内容：一是1条以上（包含本数）表达清晰的口头陈述表明，该记录的影像与声音经过修改，并对修改过程进行简要描述；二是在播放过程中，必须在底部标识清晰可见的文字陈述表明，该记录的声音与影像已经修改过，并对修改过程进行简要描述。

3.视觉信息披露。任何先进技术的虚假个人记录，如果只包含视觉元素，在视觉元素的整个持续时间内，应当在影像底部以清晰易读的文字表明，该影像已经修改过，并对修改程度进行简要描述。

4.音频信息披露，任何先进技术的虚假个人记录，如果只包含音频元素，在该记录的开端，应当以口头表述的方式表明，该记录的音频元素已经修改过，并对修改程度进行简要描述。如果该记录的时长超过两分钟，必须以口头陈述的方式，每间隔两分钟表明一次，该记录已经修改过，并对修改程度进行简要描述。

《2019年深度伪造报告法案》规定，该法案通过后，在200天以内及之后的每18个月，必须由美国国土安全部发布一份深度伪造报告，作为修改其他相关法律之依据。《2020年国防授权法案》要求，“在不迟于法案通过后180天，国务卿必须向各委员会通报国防部对‘深度伪造’操纵媒体内容的应对举措”。

在四部法案中，《2019年深度伪造报告法案》成为法律的可能性最大。由于内容设计过于激进，《2018年恶意伪造禁止法案》已经被暂时搁置。

在州层面，弗吉尼亚州于2014年通过《非同意色情法》，禁止以胁迫、骚扰、恐吓他人为目的，传播色情视频或者裸体图片。2019年，弗吉尼亚州对该法案进行修改，“将非经双方同意的作品范围扩大到虚假性视频、图像以及电脑制作的深度伪造产品，违反者可处不超过2500美元的罚金，或者最高12个月监禁。2019年7月1日，该法案生效实施，弗吉尼亚州成为美国第一个对深度伪造作出立法回应的州”。

2019年9月，德克萨斯州通过《关于制作虚假视频意图影响选举结果的刑事犯罪法案》，该法案是专门针对选举中的深度伪造问题制定的。2019年2月和10月，加利福尼亚州州长分别签署了《犯罪：欺骗性记录》和《选举：欺骗性的音频和视觉媒体》两部法案，两部法案分别禁止“深度伪造”用于色情传播和政治助选。其中，《选举：欺骗性的音频和视觉媒体》规定：“在2023年1月1日之前，禁止任何人、委员会或其他组织在选举前80日内，故意创建或者散布任何意图损害候选人声誉或者欺骗选民投票的，实质上具有欺骗性的音频或者视频。该法案规定了许多例外情形，以保障公民的表达自由”。

（二）欧盟的深度伪造立法

针对深度伪造带来的各种社会问题，欧盟没有制定专门性法律，而是将深度伪造作为“虚假信息”，通过现有的法律加以规制。

欧盟有关规制“虚假信息”的法律主要有：2018年4月的《应对线上虚假信息：欧洲方案》、2019年5月的《非个人数据自动流动条例》、2019年5月的《通用数据保护条例》和2019年6月的《网络安全法案》。

从上述立法来看，规制“深度伪造”的内容包括：协调欧盟各国开展对深度伪造的治理工作，该项工作由欧盟委员会负责；规制人工智能与机器学习技术，加强对各种类型数据的安全管理：禁止处理识别自然人的生物性数据，除非满足特殊条件：“算法可解释性”要求，即所有公民必须解释算法的自动决策过程：加强网络安全架构，增强对数据技术的掌控。

此外，根据欧盟委员会的相关要求，2018年9月，欧洲主要网络运营商发布《反虚假信息行为准则》，以赋予权力和共同治理为原则，将深度伪造纳入自律监管。发布《可依赖人工智能理论指南》，从伦理角度规范深度伪造应用，确定深度伪造应用的安全性与可靠性。

（三）美国、欧盟深度伪造立法比较

在规制“深度伪造”立法的方式上，美国与欧盟的不同点在于，它们采取了完全不同的两种方式：美国从联邦与州两个层面对“深度伪造”进行了专门立法；欧盟将深度伪造作为“虚假信息”纳入现有的法律或者法规体系中加以规制，没有制定专门性法律或者法规。

同时，美国深度伪造立法高度重视的是深度伪造的虚假性，欧盟规制深度伪造的重点则是个人生物识别信息的滥用。“欧盟应对深度伪造不如美国敏感和积极，但并非没有作为，欧盟主要借助现有的法律规范，其中主要是《通用数据保护条例》来对深度伪造进行回应，欧盟将深度伪造视为对个人生物识别信息的滥用，因而对深度伪造也遵循了传统的隐私权或者信息一数据治理路径”。

欧盟和美国对于利用“深度伪造”实施的犯罪行为，有着相近的定义，即伪造不实信息，并试图操纵这种信息以获得经济、政治利益或者造成损害。在规制方面，欧美都将“深度伪造”视同于不实信息，并制定相应的法律政策。

四、深度伪造与公民权利之平衡：中国的问题与解决

（一）我国深度伪造立法及存在问题

目前，我国与深度伪造有关的立法有三个层次：一是法律，主要有《中华人民共和国民法典》《中华人民共和国个人信息保护法》《中华人民共和国网络安全法》《中华人民共和国反电信网络诈骗法》等。二是司法解释，即《关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》（以下简称《解释》）。三是部门规章，主要有《App违法违规收集使用个人信息行为认定方法》（以下简称《认定方法》）、《网络信息内容生态治理规定》（以下简称《治理规定》）和《网络视频信息服务管理规定》（以下《管理规定》）等。

检视我国与深度伪造有关的立法，不难看出，在平衡深度伪造与公民权利冲突方面，仍存在着一些亟待解决的问题。

1.作为基本法，《民法典》的某些条款对深度伪造具有规制性，但《民法典》并非专门针对深度伪造，而且《民法典》规定的侵权行为方式并不包括深度伪造侵权行为。如《民法典》第1027条规定：“针对真人、真事或者特定人进行包含侮辱、诽谤内容的描述，侵害他人名誉权的，行为人应当承担民事责任”。但该条规定只适用于行为人发表的“文学、艺术作品”，并不适用于深度伪造产品，如“AI换脸”“合成声音”“合成图片”等。再如，《民法典》第1024条规定：“任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权”。在我国，一般认为，侮辱的方式为“言语侮辱、文字侮辱和暴力侮辱”；诽谤则为“故意捏造、散布虚构事实”，捏造意为“无中生有”，散布虚构事实的方式为“言语散布、文字散布”。也就是说，依据《民法典》第1024条规定和我国学界的一般观点，利用深度伪造产品，如“AI换脸”“合成声音”“合成图片”等，侮辱、诽谤他人，侵犯他人名誉权的行为，并不属于《民法典》规定的侮辱、诽谤行为方式之范畴。

《反电信网络诈骗法》是专门针对电信网络诈骗进行的立法，全文共七章，即总则、电信治理、金融治理、互联网治理、综合措施、法律责任和附则，共50条。该法条文未提及深度伪造及其产品危害性的预防与治理问题，仅有“互联网治理”一章中的个别条款与深度伪造有某种关联。总体来看，《反电信网络诈骗法》在规制深度伪造方面的作用不大，难以在深度伪造与公民权利冲突之平衡方面发挥关键性作用，其他的相关法律在平衡深度伪造与公民权利冲突方面存在的问题，与《反电信网络诈骗法》基本相同。

2.部门规章侧重于网络信息治理，位阶较低且不统一。在我国法律体系中，部门规章的位阶、效力层次比较低。同时，部门规章“法”出多门，制定主体比较多。例如，《认定方法》的制定主体为国家互联网信息办公室秘书局、工业和信息化办公厅和国家市场监督管理局办公厅，《治理规定》的制定主体为国家互联网信息办公室，《管理规定》的制定主体是国家互联网信息办公室、文化和旅游部、国家广播电视总局。因此，部门规章不论是从位阶、效力层次上，还是在立法的统一性上都存在一些问题，即存在着位阶、效力层次比较低，“法”出多门，立法不统一等问题。

3.我国尚未就深度伪造制定专门性法律或者法规。上述可知，域外国家和地区，特别是美国和欧盟大都通过制定专门性法律、法规，或者通过相关的解释、说明，将深度伪造纳入法律规制之范围，以平衡深度伪造与公民权利之冲突。检视我国现行立法，虽然个别法律、司法解释、部门规章对深度伪造有所涉及，但在平衡深度伪造与公民权利冲突方面所起作用有限。时至今日，我国尚未制定专门性法律或者法规对深度伪造加以规制，这与我国当前司法实践中平衡深度伪造与公民权利之冲突的现实要求极不相适应。因此，为了遏制深度伪造技术应用及其产品的网络传播等给公民权利带来的侵害，保持深度伪造与公民权利之间的平衡关系，我国有必要制定专门性法律或者法规，加强对深度伪造技术应用及其产品网络传播的规制，保障深度伪造技术应用及其产品网络传播的正向发展。

（二）中国深度伪造立法问题的解决

针对我国立法在平衡深度伪造与公民权利冲突中存在的问题，应当立足我国深度伪造与公民权利冲突的实际，借鉴、吸收域外国家和地区平衡深度伪造与公民权利冲突立法的有益经验，在我国法律体系框架内有针对性地加以解决。

1.针对《民法典》某些条款针对性不强，对深度伪造侵权行为方式无规定问题，可以通过以下方式解决：一是通过修正案的方式解决。例如，针对《民法典》第1024条规定的侮辱只包括“言语侮辱、文字侮辱和暴力侮辱”行为方式，诽谤只包括“言语散布、文字散布”行为方式，不包括深度伪造侵权行为问题，可以通过修正案将深度伪造侵权行为，如“AI换脸”“合成声音”“合成图片”等，纳人《民法典》规定的“侮辱、诽谤”行为方式之中。针对《民法典》第1027条的“侮辱、诽谤他人，侵害他人名誉权”的规定只限于行为人利用发表的“文学、艺术作品”侵权行为方式问题，可以通过修正案将利用深度伪造侵权行为，如“AI换脸”。合成声音”“合成图片”等，纳人《民法典》规定的侮辱、诽谤侵权行为方式之中。二是通过司法解释，将深度伪造侵权行为，如“AI换脸”“合成声音”“合成图片”等，纳入《民法典》规定的“侮辱、诽谤”侵权行为方式之中，解决《民法典》对“侮辱、诽谤”行为方式规定不全面问题。

2.针对部门规章侧重于网络信息治理，位阶较低，且不统一的问题，可以通过以下方式解决：一是对现有的部门规章进行清理、修改，增加规制深度伪造的相关条款，使部门规章规定的内容由侧重于网络信息治理转向网络信息治理与深度伪造规制两者兼顾。二是联合发布“规定”或者“意见”等规范性文件。与深度伪造规制相关的各机关、部门联合起来，对本机关、部门单独发布或者联合发布的相关规制网络信息的内部规章进行清理、修改，增加相关内容，整合成为一个统一的规范性文件（部门规章），实现规制深度伪造的部门规章在形式上和内容上的统一。三是制定规制深度伪造的专门性法律或者法规，提高立法的位阶，统一立法的内容与形式。这既是解决部门规章位阶低、形式与内容不统一问题的方法，也是解决我国没有规制深度伪造专门性法律或者法规问题的方法。

3.针对我国没有制定规制深度伪造的专门性法律或者法规问题，可以通过制定专门性法律或者法规的方式加以解决。具体做法为：由全国人民代表大会常务委员会牵头制定一部全国性的专门法律，或者由国务院牵头制定一部全国性的行政法规，对深度伪造加以规制，从根本上改变我国无规制深度伪造的专门性法律或者法规问题。专门性法律或者法规至少应当包括以下内容：

（1）总则。在该部分，主要对深度伪造技术的相关概念、类型进行规定和阐释；

（2）深度伪造产品生产者。在该部分，主要规定深度伪造产品生产者的类型、深度伪造产品生产者的权利与义务等；

（3）深度伪造产品的使用者。在该部分，主要规定深度伪造产品使用者的类型、深度伪造产品使用者的权利与义务等；

（4）深度伪造产品网络服务平台。在该部分，主要规定深度伪造产品网络服务平台的类型、深度伪造产品网络服务平台的权利与义务等；

（5）深度伪造的监督管理。在该部分，主要规定深度伪造监督管理的主体、监督管理主体的权利与义务，以及违反法定义务的法律后果等；

（6）法律责任。在该部分，主要规定深度伪造产品生产者、深度伪造产品服务平台、深度伪造产品使用者、深度伪造监督管理者违反法定义务承担法律责任的情形、法律责任的类型等。

责任编辑：熊佳莹