引言

近期，在ChatGPT带火的生成式人工智能话题下，AI换声、AI换脸又掀起一波浪潮。

4月，由网友结合最新技术制作的“AI孙燕姿”翻唱多首歌曲获得超百万的点击量，其热度之高连歌手孙燕姿都不禁感叹“人类无法超越AI”。

然而，AI底层技术上的突破不仅带来了更大程度的创新，同时也引发了更多法律上的问题。如AI孙燕姿是否侵犯了知识产权，是否侵犯了孙燕姿的人格权？又如在刑事领域，针对类似5月某犯罪分子借助AI换脸和拟声技术成功诈骗430万的犯罪风险，应如何进行规制？

本文将以人工智能背后的核心技术之一——“深度合成”为切入点，基于底层技术原理分析当前AI换声、AI换脸等应用背后隐藏的法律风险。同时结合最新的监管规定，对目前主要涉及深度合成技术的平台方提供合规建议。

深度合成技术及监管适用

1.关于深度合成技术

1.1概念

在现有的法律法规中，与深度合成技术关联最密切的是国家互联网信息办公室、工业和信息化部、公安部于2022年11月25日发布《互联网信息服务深度合成管理规定》（以下简称《深度合成管理规定》），该部门规章明确界定深度合成技术的概念，即“指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术”。同时，为了应对技术的飞速发展，其还进行了开放的列举式说明，涵盖了语音转换、人脸生成、图像生成等六大类别十几个方面， [1] 大致囊括了深度合成的前沿应用情形。

“概念+列举”的定义方式表达了监管对深度合成技术包容审慎的态度，其认为深度合成技术的核心是深度学习、虚拟现实等具有强技术性的算法，而功能式的列举可容纳未来的技术发展，外延可随着技术的发展不断拓宽。

1.2技术原理

深度合成技术依托于“生成式对抗网络”（Generative Adversarial Networks，GAN算法）和“自动编码器”（Autoencoders），通过对海量信息的搜集、存储和学习，来创造、模拟或合成新的内容。

以人脸替换为例，一个深度合成物的实现过程可以分为三个步骤：数据提取、数据训练和转换。 第一步数据提取 ，通常需要通过爬虫等形式收集公开的人脸图像以便训练算法模型。主流的方法是借助软件从公开的视频中提取源人物和目标人物的多角度图像并裁剪出脸部肖像，形成脸部结构和头部尺寸相似的人脸图像。 第二步是数据训练 ，即利用所收集的图像对人脸替换模型进行训练，模型训练通常用到两种技术，即“生成式对抗网络”和“自动编码器”。 最后一步是转换 ，即将合成的人脸图像插入视频素材中，最终形成换脸后的视频。

1.3基于深度合成技术的应用场景

目前，深度合成技术的应用主要分为人脸与声音两个模块，人脸的运用较之于声音更加广泛。在人脸的应用主要有人脸替换（即“换脸”，将某一个人的脸部图像“缝合”到另外一个人的脸上）、人脸再现（即改变某个人的脸部表情，如改变说话时的口型）及人脸合成（即创造出全新的人脸图像）。在声音上主要应用于语音合成，即可以将文字转化成接近真人的语调和节奏的声音。

除了前述单一类型图像或音频合成的应用，随着深度合成技术的不断成熟和日益复杂化，以及商业化需求的进化，更加有价值的是综合性的深度合成，即融合人脸、声音甚至体型。这种形式的发展方向最典型的就是“虚拟人”，如中国气象局华风气象传媒集团联合小冰公司共同创造的一位气象服务主播“冯小殊”，在多模型的训练下，他准确学习了人类的嘴部动作、眼部及脸部肌肉之间的协同关系，最终呈现出类似真人主播的效果。

2.监管适用

国内目前对深度合成技术的监管可以分为三个维度，一是针对深度合成技术的专门管理规定，二是人工智能领域的相关法律法规，三是对民法、刑法、行政法等的综合运用。

专门针对深度合成技术的法律法规目前仅有一部，即国家互联网信息办公室在2022年11月25日颁布的《深度合成管理规定》。这部规定加强了针对互联网信息服务深度合成的管理，明确深度合成数据处理环节、算法运行阶段、使用者行为全过程，提出更明确细化和更具有操作性的管理要求和合规指引。

深度合成作为一种人工智能生成技术，在广义上属于人工智能领域。我国尚未针对人工智能进行统一立法，主要是在《网络安全法》《数据安全法》《个人信息保护法》三部上位法的框架下进行细化、深化。如2019年发布的《网络音视频信息服务管理规定》和《网络信息内容生态治理规定》对人工智能在网络音视频领域的信息内容提出了监管要求，2022年发布的《互联网信息服务算法推荐管理规定》对算法推荐技术的应用提出了算法备案等要求，2023年发布的《科技伦理审查办法（试行）》（征求意见稿）和《生成式人工智能服务管理办法》(征求意见稿)对人工智能的伦理管理和生成式人工智能进行明确。

假若涉及到人格权侵权、知识产权等问题，《民法典》《著作权法》等相关法律也有条文对此进行规定，如《民法典》第一千零一十九条规定不得利用技术手段侵犯肖像权。当然，《刑法》作为最后的保护手段，亦有诸多罪名可规制利用AI深度合成技术犯罪的行为，比如当前实务中最常见的诈骗罪、帮助信息网络犯罪活动罪、故意传播虚假信息罪。

深度合成涉及的主要法律风险

深度合成技术在各个领域的加速应用已成为趋势，但在相关技术研究发展的同时，也须直面这项技术内核中的“伪造”与“欺骗”所带来的风险。在司法实践中，最常见的法律风险分别是知识产权侵权风险、人格权侵权风险和刑事犯罪风险，下文将从这三个角度展开论述。

1.知识产权角度：著作权侵权风险

深度合成技术的主要特点是可以通过深度学习、神经网络等机器学习技术，将现有的媒体信息(如文字、图片、视频等)按照制作者的要求合成为新的信息，从而产生全新的内容。因此，这些基于已受现有法律保护的素材而组成的新信息，往往涉及许多知识产权方面的纠纷和风险。例如，在深度合成图像的应用中，由于需要收集足够多的图像进行模型训练，如果制作者在生成图像中使用了他人持有著作权的作品进行模拟，它合成的内容可能与他人作品非常相似或存在相同的内容，如果未经合法授权，则生成的内容可能会被视为侵权。而相较于专利权和商标权，著作权又因为获取门槛低、覆盖范围广、行业参与主体多、侵权成本低等多种原因更容易产生纠纷。

在人工智能领域，利用数据作品进行创作的结果无非有三种情形，一是创作结果与原作品完全不同的全新作品；二是创作结果属于与原作品实质性相似的作品；三是创作结果属于在保留原作品基本表达基础上形成的具有独创性的新作品。基于深度合成技术中的加工特性，其应用多在对原作品进行修改和再创作，所以第三种改编情形最为常见，存在较高的侵犯改编权和侵犯保护作品完整权的风险。

1.1侵犯改编权

根据《著作权法》第十条规定，改编权即改变作品，创作出具有独创性的新作品的权利。一般认为，改编是在原作品基础上进行的再创作，但这种再创作受制于原作品，改编形成的新作品不是完全独立于原作品的新作品，而是使用了原作品的表达；改编的形式不以作品体裁、类型的变化为要件，既可以在原作品的基础上对作品进行同一文学、艺术形式范畴内的再创作，也可以采用不同的文学、艺术形式进行再创作，只要在利用原作品表达的基础上，创作出不同原作品的新作品，且这种改动体现了改编者的独创性，均属于改编行为。我国《著作权法》在判断独创性的标准上，采取的是作品除了必须是独立完成的之外，还必须具备一定的创造性。如果只是对公有领域中要素的简单堆叠，或是对他人作品单纯的复制，都没有进行智力上的创造，没有创作上的高度，则不具有独创性。

在深度合成技术的应用中，哪些行为是改编行为呢？以人脸替换为例，如果人脸替换视频制作者如果仅仅将视频片段中表演者的面部替换成了自己或他人的面部特征，并未涉及对原作品中相关要素的布局、顺序、台词以及内容的改动，也并未改变原作品视听作品这一类型的属性。那么，换脸视频制作者将短视频片段中表演者的面部特征进行替换的这一行为，不落入改编权所控制行为的范围。 但是如果该深度合成作品并非仅仅替换人脸，还被制作者通过剪辑、配音等复杂艺术加工手段进行了再创作，则很有可能因该加工行为该作品被赋予了独创性进而构成著作权法上的改编作品，从而产生侵犯改编权的法律风险。 如在上海美术电影制片厂有限公司与贝芽智能科技(苏州)有限公司侵害作品改编权纠纷一案中，被告在其公众微信号中发布《<金刚葫芦娃>01：神峰奇遇》等九篇文章，并配有葫芦娃图片。该形象图片与原告享有权利的“葫芦娃”作品类似，其故事的内容与原告的作品内容相比，相应内容经过了改编，但仍与原告故事情节构成实质性相似，法院认为被告的行为侵犯了原告对美术作品及电影作品所享有的改编权。

1.2侵犯保护作品完整权

根据《著作权法》第十条规定，保护作品完整权，即保护作品不受歪曲、篡改的权利。在司法实践中，对“歪曲、篡改”的判定标准一般为“损害作者声誉”。即对侵犯保护作品完整权的认定应包含三个层次的内容：第一，行为人采取了歪曲、篡改的手段对作品进行了改动；第二，该改动造成作者思想表达的不完整性；第三，由于作者思想的不完整，导致公众对作者评价降低，作者声誉受损。所以，并不是所有对作品的篡改都构成侵犯著作权人的保护作品完整权，除非篡改行为还损害了作者的声誉。 [2]

一般而言，利用深度合成技术进行AI换脸的制作者多是以娱乐为目的制作换脸视频，观看换脸视频的手中处于好奇、娱乐的目的对换脸技术逼真的效果所吸引，并不会因此而降低原著作权人的社会评价或者损害原著作权人的声誉。 但是假若制作者通过深度合成技术进行的再创作可能对作品的主题思想进行了歪曲，损害著作权人的声誉，例如将某正面人物形象替换为丑恶形象，就有较大可能涉嫌侵犯保护作品完整权。 如在高孝午与上海乐田餐饮管理有限公司等侵害保护作品完整权纠纷一案中，原告表示涉案权利作品所表达的思想，即用人物的小翅膀带动不了庞大身躯，但仍展翅高飞，来反映虽然梦想与现实是矛盾的，但永不放弃梦想的思想。即在涉案权利作品中，梦想与现实的矛盾表现为小翅膀和大身躯的强烈反差，永不放弃梦想表现为四肢向上，呈飞翔姿势。但被控侵权作品二将人物四肢向上展翅飞翔改为单腿落地，被控侵权作品三将人物四肢向上展翅飞翔改为单手倒立，被控侵权作品四将人物向上展翅飞翔改为一手向前，一手向上举有一圆形物品。法院认为上述改动严重违背了作者在原作品中的基础设定，实质上改变了作者在原作品中的思想，足以构成对原作品的歪曲和篡改，侵害了原告高孝午所对涉案权利作品所享有的保护作品完整权。

2.人身权利角度：人格权侵权风险

深度合成技术常被用来对自然人形象进行生成、处理、利用等，因而和个人的形象密切相关。而当深度合成模糊了真与假的边界，技术对人格权益的侵害风险不可不察。目前，深度合成技术所导致的人格权侵权中最常见的是对肖像权和名誉权的侵犯。

2.1肖像权侵权风险

根据《民法典》第1018条第二款的规定，肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。在司法实践中，肖像并不仅仅指人的面部特征，戴着口罩的脸、侧影、形体动作等等，只要能够识别特定自然人，都属于肖像权保护的范围。侵犯他人肖像权的方式有很多种，《民法典》第1019条第1款特别强调“利用信息技术手段伪造”这一方式。与此同时，在司法实践中，已经有多起被认定为利用信息技术手段伪造等方式侵害肖像权的案例。

如今年4月的王素萍与上海折耳根信息科技有限公司肖像权纠纷一案，被告运营“爱提词提词器”手机软件， 该软件未经原告许可使用原告发布在其抖音账号中的一条个人形象视频作为视频模板，供软件用户进行面部替换。 上海市浦东新区人民法院认为 被告将原告视频中的形象“换脸”后上架供其注册用户换脸使用，破坏了原告肖像的完整性，系利用信息技术手段伪造等方式侵害原告的肖像权，应当认定侵害了原告的肖像权。 法院要求被告在其运营的“爱提词提词器”手机软件首页显著位置刊登道歉声明向原告赔礼道歉，且发布期限不少于七日。

并且，随着技术的门槛逐步降低，实践中利用深度合成技术侵害他人肖像权的情况越来越普遍，利用技术手段伪造侵害他人肖像权的案例也越来越多，且极易出现批量案件，即多个主体基于类似事实起诉同一主体。 如根据威科先行法律数据库的裁判文书显示，2022年8月至2023年4月，上海鱼腥草信息科技有限公司就有27其涉及肖像权的诉讼。

2.2名誉权侵权风险

根据《民法典》第1024条，名誉是对民事主体的品德、声望、才能、信用等的社会评价。民事主体享有名誉权。任何组织或者个人不得以*辱侮**、*谤诽**等方式侵害他人的名誉权。在司法实践中， 只要行为人合成的视频可能导致他人评价降低，就涉嫌侵犯了他人的名誉权。如果通过深度合成技术，在AI换脸视频中呈现的肖像能让他人直观辨认出是某个人，并且视频的内容可能导致他人社会评价的降低，如色情裸露、辱骂、斗殴、吸毒等，都可能构成侵权。

在名誉权诉讼中，较为常见的是因对明星个人形象和名誉的严重破坏，涉嫌侵犯明星的名誉权。作为公众人物，明星所享有的名誉权保护范围相较于普通民众有所限缩，一般认为公众人物因其知名度获得了收益，因此对贬损名誉的行为有相对高一些的忍耐义务。即便如此，明星及经纪公司也会采取向侵权人及发布平台发送《律师函》的方式，要求删除视频、消除影响。

如果AI换脸视频的主观恶意较为明显，且严重影响明星声誉，如合成不雅视频、擦边裸露照片，则被认定构成名誉权侵权的可能性相对较高。并且，鉴于对明星个人形象和商业价值影响甚重，明星常较为积极地采取维权行动，且胜诉率相对较高。结合具体的实务判例来看，在这类名誉权侵权案件中，法院一般要求删除侵权内容，消除影响，赔礼道歉，同时赔偿金额从0元到十几万元不等。

3.刑事角度：违法犯罪风险

事实上，对图片、视频进行修改或替换的技术已经存在多年，如Photoshop这样的工具已经可以实现对图像进行实质性修改。但是随着人工神经网络的快速发展，使得深度伪造也迎来了迭代，尤其是生成对抗网络的提出，使得深度合成技术不仅训练所需的数据量下降，而且深度合成物的质量也比初代版本高。这意味着深度合成作为一种技术工具，其“虚构”、“伪造”的技术特性让它可以在很多领域发挥“从无到有”的创造性作用的同时也容易被滥用，并伴生诸多刑事法律风险，最常见的便是财产类犯罪。

结合实务案例看来，目前深度合成技术常常被用于电信网络诈骗中。在电信网络诈骗链条里，身份核验是一道绕不过的关卡，不法分子需要突破这个关卡，才能获取他人信任。基于强大的仿真能力，深度合成技术成为一把利器，运用深度合成技术的诈骗者可以通过伪造受害者朋友的视频、音频，在获取受害者的信任后实施诈骗行为。如在文首的包头诈骗案中，犯罪分子首先分析受害者朋友发布在网上的各类照片和视频信息，再通过骚扰电话录音，来提取他的声音，通过智能AI换脸和拟声技术，达到了以假乱真的效果，而后就佯装成好友，对受害者实施了诈骗，诈骗金额高达430万。

如果对利用深度合成技术的网络诈骗追根溯源， 掌握大量视频、音频等个人信息的企业发生个人信息泄露，将极有可能成为电信网络诈骗的潜在源头。即未落实网络安全义务的互联网公司在此类新型诈骗的执法活动中已经被视为规制对象之一。 《中华人民共和国反电信网络诈骗法》（以下简称《反电诈法》）明确规定，“公安机关办理电信网络诈骗案件，应当同时查证犯罪所利用的个人信息来源，依法追究相关人员和单位责任”，这实际上是通过立法方式，将近年来公安机关在打击电信网络诈骗的执法过程中的“一案双查”机制确立为法定程序。且北京市公安机关在“净网2021”行动中，除打击电信网络诈骗的犯罪行为外，还相继开展了网站安全监督检查、网站备案摸排整治、安全评估等行动，共清理违法有害信息408万条，关停违规账号19万个，行政查处违法违规企业2775家次。 因此，对提供深度合成技术的相关企业而言，如果未能在防范电信网络诈骗的事前和事中阶段做好源头治理，导致其存在个人信息泄露的风险，虽然因为其没有主观恶意等原因，难以被评价为诈骗罪的共犯，但是也可能违反《反电诈法》的风险防控义务，存在被相关机关问询、罚款的法律风险。

深度合成行为下，平台的责任承担

1.责任主体

为了推动监管精准有效落地，不同的法律法规基于立法目的和规范对象的不同，会依据不同的标准划分责任主体，关于深度合成技术也是如此。

在当前法律体系下，与深度合成行为最为密切的是《深度合成管理规定》，该规定明确规定了 深度合成服务提供者、深度合成服务技术支持者和深度合成服务使用者三类责任主体 。除此之外，人工智能领域的相关法律和《民法典》也对规定了一些主体的责任。在实践中，有的企业受上述法律法规的规制，但是却并非《深度合成管理规定》所明确的三类主体；有的企业可能属于三类主体的同时也是其他法律所规定的主体，情况不一而论。

具体而言，《深度合成管理规定》第二十三条定义了深度合成服务提供者、深度合成服务技术支持者和深度合成服务使用者三类主体。即：深度合成服务提供者，是指提供深度合成服务的组织、个人；深度合成服务技术支持者，是指为深度合成服务提供技术支持的组织、个人；深度合成服务使用者，是指使用深度合成服务制作、复制、发布、传播信息的组织、个人。同时也进一步厘清与细化了各责任主体的责任义务（主要针对深度合成服务技术支持者和深度合成服务提供者）。

除此之外，基于司法实践，在深度合成技术涉及的相关纠纷中，具有强大舆论影响力的网络媒介也需要承担一定的责任。它们在具体的情况下有不同的身份，有可能是《民法典》中的网络服务提供者，亦或是《网络安全法》中的网络运营者。

本文将涉及深度合成技术的平台分为两类，一类是提供深度合成技术、服务的平台，包括深度合成服务技术支持者和深度合成服务提供者，另一类是提供一般*服务性**的平台，即上述的具有强大舆论影响力的网络媒介。

2.提供深度合成技术、服务的平台

提供深度合成技术、服务的平台包括深度合成服务技术支持者和深度合成服务提供者，如含有换脸图像、换脸视频服务的应用软件。

2.1.需要承担的责任

对于本文第二部分中提及的刑事犯罪风险，一般而言，如果平台没有具体实施犯罪行为，亦没有犯罪的主观恶意，则风险较小。更多情况下，平台需要关注的是侵权责任。

在目前的监管下，如果相关平台涉及了侵权事件，当平台具有提供、识别深度合成技术的能力时，一般认为应采用过错推定责任原则，即推定深度合成服务技术支持者或深度合成服务提供者具有过错，如果不能证明自己没有过错，则需要承担侵权责任。 这是因为随着深度合成技术的研发和广泛应用，深度合成技术服务者和提供者就不再是单纯的技术中立者，它还承担着识别虚假信息、防止危害结果扩大等责任，义务也从“被动保护”向“主动保护”转变，这也对企业合规提出了更高的要求。

在具体的场景中，如果用户想要制作换脸视频，则需要通过软件应用商店或者小程序*载下**应用，随后上传一张或者多张能够显示其面部特征的正面照片，在软件提供的模板库中选取素材或者用户自己上传素材。换脸视频制作完成后用户可以选择上传到平台或者直接*载下**到自己的手机中。其中，最关键的步骤是平台所提供的深度合成技术进行换脸。如果平台模板库中的数据来源不合规，则有可能直接侵犯他人的肖像权（详见本文第二部分中的肖像权侵权风险）；如果用户上传的素材具有侵权的风险，若平台没有对深度合成的内容进行合理审核、加以标注等，则平台可能需要承担连带责任，有人格权侵权的法律风险。

2.2.合规建议

对于提供深度合成技术、服务的平台，我们从数据来源和用户服务两个板块提出合规建议：

一是数据来源的合规性。平台的图像、视频素材库中的内容应取得相关权利主体的授权，不得在未授权的情况下截取受著作权保护的作品作为素材，不得径自使用明星等公众人物的面部信息、声音信息等作为素材。同时，平台对于其获取的用户的人脸、人声等生物识别信息编辑功能时，应当提示深度合成服务使用者依法告知被编辑的个人，并取得其单独同意。否则可能涉及敏感个人信息的不当处理等问题。

二是在管理用户方面，在与用户确认提供服务时，应当要求用户提供真实身份信息。用户不提供真实身份信息的，不得为其提供相关服务。同时，平台应当指导用户科学认识和理性使用深度合成技术生成的内容（如在网页醒目位置张贴用户指引），不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。发现用户利用产品违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意诋毁、实施不正当的商业营销等，应当暂停或者终止向其提供服务。

3.其他提供一般*服务性**的平台

其他提供一般*服务性**的平台主要指具有一定影响力的互联网媒体或传播平台，如抖音、微博、哔哩哔哩。

3.1.需要承担的责任

提供一般*服务性**的平台的一般为互联网传播平台，用户将自己或他人制作的可能涉及侵权的图像、音频、视频等转发、分享到此类平台。 一般来说，此类平台并未利用深度合成技术去制作产品，也并未直接实施侵权行为，所以大概率不会涉及到直接侵权责任，但是这并不意味着无需承担任何责任，平台仍有可能因为间接侵权而需要承担连带责任。

间接侵权指并非直接实施侵权行为，而是通过对直接侵权行为的帮助、或者不作为来帮助、促进直接侵权行为的发生，并且扩大了侵权的损害后果。具体而言，视频平台对其平台中用户上传的视频有审查的义务和责任，因而，在换脸视频涉嫌侵权时，间接侵权行为人多为对自己平台中的视频具有事前审查义务的主体。如哔哩哔哩平台，其对用户上传的每一条视频均进行了事前审核，经审核用户视频内容中存在侵权嫌疑或者低俗内容时，将不会通过审核，进而该视频不会上传到平台中。假若哔哩哔哩后台审核后知道用户视频内容存在侵权，还帮助用户将其侵权视频上传到平台，虽然哔哩哔哩并非直接侵权行为人，但其帮助直接侵权行为人上传侵权视频，扩大了侵权视频传播扩散的范围，即扩大了侵权损害结果的发生，属于间接侵权行为人，有承担连带责任的法律风险。

3.2.合规建议

对于其他提供一般*服务性**的平台可能涉及的连带侵权责任的情况，我们提出如下合规建议：

一是基于“红旗原则”的适用，针对平台知道或应当知道用户利用其网络服务侵害他*权人**益的情况，平台应及时采取必要措施，避免与该网络用户承担连带责任。假若平台“明知”或“应知”侵权事实的存在，却对侵权内容不予理会，则应认定为主观上具有过错。更形象地说，当侵权事实如红旗一般显而易见时，平台就应尽到合理的注意义务。

在司法实践中，法院一般围绕平台是否履行合理的注意义务、侵权事实是否明显、应当具备的管理信息的能力、是否主动对作品进行了选择、编辑、推荐等各种因素，综合认定平台是否构成“应知”。例如，平台如果对深度合成的作品以设置榜单、目录、索引、描述性段落、内容简介等方式进行推荐，且公众可以在其网页上直接以*载下**、浏览或者其他方式获得的，法院则会容易认定网络服务提供商应知侵权行为的存在。因而， 建议在内容发布至平台前需经平台合理审查，平台除了采取机器审核外还应同时采用人工审核的方式，以便证明其在自身审核能力之内，已经对深度合成技术的内容尽到合理审核义务。如果平台能从深度合成的作品中直接获得经济利益的（如发布利用深度合成技术生成的广告），平台对其内容的审核应更加严格。

二是合理利用避风港原则，根据我国民法典相关规定， [3] 避风港原则的核心是“通知+删除”，即平台在发生侵权时，如果被告知侵权后及时删除侵权链接和内容，则在一定情况下可以适用避风港原则，不承担赔偿责任。因此， 建议平台设立高效便捷的投诉渠道，不能不合理地增加权利人的举证负担，以避免因无法及时收到投诉而需要面临的法律风险。 此外，收到投诉后，平台需要判断投诉方所发出的通知是否有效，《电子商务法》第42条规定，“通知应当包括构成侵权的初步证据”，《民法典》第1195条第1款要求在初步证据以外，权利人还需提供真实身份信息”，《最高人民法院关于审理涉电子商务平台知识产权民事案件的指导意见》则给出了更详细的通知要求。 [4] 但实践中更为常见的情形是投诉人仅提供身份证等真实身份信息和初步证据，面对该情况，建议平台在有足够处理能力的情况下，依然将通知视为有效通知进行处理。 与此同时，平台应采取积极措施，如删除、断开链接等。

结语

深度合成技术给人类社会带来了前所未有的颠覆和改变，不断推动商业社会的格局创新与价值重构。但人们在享受技术带来的便利的同时，也不得不面对技术滥用所带来的一系列问题，我们必须警惕深度合成技术给社会安全带来的风险以及给现有的法律体系造成的挑战，必须思考如何给深度合成技术系上“缰绳”的同时还能发挥新兴技术的优势以促进人类社会的发展。

[1]《互联网信息服务深度合成管理规定》第二十三条

本规定中下列用语的含义：深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。

[2]《北京市高级人民法院知识产权民事诉讼证据规则指引》

3.13 原告主张被告侵害其保护作品完整权的，应提供双方作品的比对，并指明歪曲、篡改之处，同时可以提供报刊、杂志、电台、电视台、互联网等媒体发布的相关评论性文章，相关行业评价组织发布的评分意见、用户评价留言等证据，证明前述歪曲、篡改损害了原告声誉。

[3]《民法典》第一千一百九十五条

网络用户利用网络服务实施侵权行为的，权利人有权通知网络服务提供者采取删除、屏蔽、断开链接等必要措施。通知应当包括构成侵权的初步证据及权利人的真实身份信息。

网络服务提供者接到通知后，应当及时将该通知转送相关网络用户，并根据构成侵权的初步证据和服务类型采取必要措施；未及时采取必要措施的，对损害的扩大部分与该网络用户承担连带责任。

权利人因错误通知造成网络用户或者网络服务提供者损害的，应当承担侵权责任。法律另有规定的，依照其规定。

第一千一百九十六条

网络用户接到转送的通知后，可以向网络服务提供者提交不存在侵权行为的声明。声明应当包括不存在侵权行为的初步证据及网络用户的真实身份信息。

网络服务提供者接到声明后，应当将该声明转送发出通知的权利人，并告知其可以向有关部门投诉或者向人民法院提起诉讼。网络服务提供者在转送声明到达权利人后的合理期限内，未收到权利人已经投诉或者提起诉讼通知的，应当及时终止所采取的措施。

[4]《最高人民法院关于审理涉电子商务平台知识产权民事案件的指导意见》第五条

知识产权权利人依据电子商务法第四十二条的规定，向电子商务平台经营者发出的通知一般包括：知识产权权利证明及权利人的真实身份信息；能够实现准确定位的被诉侵权商品或者服务信息；构成侵权的初步证据；通知真实性的书面保证等。通知应当采取书面形式。通知涉及专利权的，电子商务平台经营者可以要求知识产权权利人提交技术特征或者设计特征对比的说明、实用新型或者外观设计专利权评价报告等材料。