AI数字人直播带货的法律风险及应对

　　□  AI数字人引入直播电商带来的法律风险可以分为三类：侵权风险、直播内容违规风险、利用造假视频欺骗消费者的违法风险。现有法律和规范性文件的适用范围均限定在真人直播的场景，存在明显的法律漏洞，有必要尽快启动相关立法或修法工作，满足市场监管及司法审判的现实需要。

　　□  直播平台应严格核验直播间运营者及真人主播的身份信息，建立动态核验机制；严格落实相关规定的要求，核验智能生成合成内容是否包含法定标识；在发现AI数字人直播内容违法违规时，应当依法立即采取处置措施。

　　□  AI数字人直播涉及人工智能服务技术的开发者、服务者、使用者、直播间运营者、直播平台等诸多主体，涉及多个监管部门，有必要建立有工信、网信、公安、广电、市场监管等部门组成的综合监管机制。

　　近日，知名医生“张文宏”在短视频平台上带货一事引发关注。张文宏本人回应称，视频中的人物形象是利用AI（人工智能）合成的，其多次向平台投诉但屡禁不绝，希望相关部门加强监管，以保护消费者权益。

　　最近几年，AI数字人已经应用于直播电商行业并取得良好的商业效果，但滥用AI技术损害他人权益的行为时有发生，必须予以关注并加以遏制。

　　AI数字人引入直播电商带来的法律风险

　　随着AI技术日渐成熟，各大电商平台均不同程度地允许使用数字人直播。2020年，淘宝就宣布要重点扶持虚拟主播赛道。2023年，淘宝通过AI全时直播库推出了能够根据商家需求进行形象订制的数百位AI虚拟主播。京东言犀虚拟主播自2022年起已在上百家国货品牌直播间上岗，每日上播时长达6至24小时，转化率最高超40%。在2024年“618”期间，京东发起“总裁数字人直播”活动，18位知名企业的创始人、CEO、高管化身数字人下场直播。百度优选为商家提供慧播星生成的数字人超级主播，具有显著的降本增效优势。以抖音、快手为代表的短视频平台虽然态度较为谨慎，但均允许数字人直播。AI数字人直播带货在技术、个性化营销、创意和创新、成本控制等方面具备明显优势。AI数字人的引入已经对直播电商产生积极影响，并成为直播电商的发展趋势。

　　根据技术特征和有无真人现场参与，可以将数字人直播分为真人助播+数字人主播、真人驱动型数字人直播和完全智能驱动型数字人直播。根据数字人主播是否以真人形象为原型，可以将AI数字人分为两类：一类是真人形象的复刻（复制），即特定自然人的数字或者虚拟化身（分身），在一定程度上可以称为真人的数字生命，如京东推出的刘强东AI数字人。本文将其称为数字化身。另一类是与特定自然人形象无关，通过角色设计与形象塑造、建模与动画、渲染与优化、系统集成与调试等流程，利用计算机图形学、语音合成、表情捕捉、动作捕捉等一系列复杂的技术构建的虚拟数字人主播。本文将其称为虚拟主播。

　　AI数字人引入直播电商主要存在如下法律风险：第一，人工智能服务的提供者或者使用者超越许可范围，在制作和使用数字化身时侵害特定自然人的人格权益（包括但不限于肖像权、名誉权、荣誉权、个人信息权、声音权益）引发的侵权行为，有时还可能发生损害知识产权的侵权行为。第二，AI数字人的直播内容违反我国有关信息服务和网络安全的法律要求，尤其是直接违反《网络信息内容生态治理规定》的禁止性规范而引发的危害互联网管理秩序的违法、犯罪行为。第三，直播间运营者没有对AI数字人作出明确标注，导致消费者误以为是真人直播；以及AI数字人在直播带货过程中进行虚假、引人误解的宣传，或者发布虚假广告，欺骗、误导消费者，尤其是诱导老年人、未成年人等消费者购买明显不符合其实际需求的商品或者服务，由此引发的损害消费者知情权、自主选择权和公平交易权的侵权行为。

　　与AI数字人直播带货相关的法律风险是，一些人滥用深度伪造（Deepfake）技术制作、播出名人带货的造假视频欺骗消费者，谋取非法利益。深度伪造技术基于人类行为特征如面部、声音等合成图像、视频、音频，不仅直接侵害被仿冒者的人格权益，而且严重损害公众的人身安全和财产利益，扰乱社会公共秩序。前文所述仿冒张文宏形象的造假视频即属此类。

　　如上所述，AI数字人引入直播电商带来的法律风险可以分为三类：侵权风险、直播内容违规风险、利用造假视频欺骗消费者的违法风险。

　　AI数字人直播法律风险中的消费者权益保护难题

　　当AI数字人是自然人的数字化身时，人工智能服务的提供者或者使用者必须首先与该自然人签订许可使用合同，合同中有必要明确约定许可使用的人格权益及其他合法权益的范围。对于合同特别约定禁止使用的人格要素（如特定荣誉、职业身份），则不得复制于数字化身之上。对于部门规章和规范性文件明确提出的要求，人工智能服务的提供者和使用者必须予以落实。例如，《互联网信息服务深度合成管理规定》第十四条规定，深度合成服务提供者提供人脸、人声等生物识别信息编辑功能的，使用者应当依法告知被编辑的个人，并取得其单独同意。再如，《生成式人工智能服务管理暂行办法》第四条规定，使用生成式人工智能服务不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。如果人工智能服务的提供者和使用者违反相关规定，侵害特定自然人合法权益，应当承担侵权责任。

　　在使用AI数字人直播带货时，受到损害人数最多、损失最严重的群体是消费者。虽然《消费者权益保护法实施条例》《网络交易管理办法》将直播电商纳入监管，《网络直播营销管理办法（试行）》系统规定了直播电商相关当事人的权利、义务和责任，最高法《关于审理网络消费纠纷案件适用法律若干问题的规定（一）》亦从司法审判的角度对直播电商作出系统规定，但这些法律和规范性文件的适用范围均限定在真人直播的场景，无法规范AI数字人直播，存在明显的法律漏洞。

　　面对AI数字人直播的现状以及未来会在更大范围加以使用的趋势，有必要尽快启动相关立法或修法工作，弥补法律缺陷，满足市场监管及司法审判的现实需要。目前，可通过法律解释或者适用法律基本原则的方式，尽可能妥当地处理AI数字人直播引发的消费欺诈侵权纠纷，充分保护消费者合法权益。

　　AI数字人直播法律风险中的平台责任

　　在防范和应对AI数字人应用过程中的侵权违法行为方面，人工智能服务的提供者、使用者必须履行法定要求，直播平台则须担负起监管职责。人工智能服务的提供者和使用者，应当根据《互联网信息服务深度合成管理规定》第十六、十七条和《人工智能生成合成内容标识办法》第十二条规定，对使用其服务生成或者编辑的信息内容采取技术措施添加不影响用户使用的标识；对于提供仿声、人脸替换等深度合成服务，可能导致公众混淆或者误认的，则应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。网信办于2024年9月发布的《人工智能生成合成内容标识办法（征求意见稿）》明确规定，人工智能生成合成内容标识包括显示标识和隐式标识。虽然该办法尚未实施，但相关主体有必要预作安排与落实。

　　就直播平台而言，则应当落实主体责任，强化如下监管措施：第一，严格核验直播间运营者及真人主播的身份信息，并建立动态核验机制。第二，树立“以技术应对技术”的理念，不断提高技术水平，努力实现迅速发现并查处造假视频、违法违规直播内容的平台监管目标。第三，严格落实《互联网信息服务深度合成管理规定》和《人工智能生成合成内容标识办法》要求，核验人工智能生成合成内容是否包含法定标识。第四，不断完善信息内容生态治理机制，健全信息发布审核、实时巡查、应急处置等制度。在发现AI数字人直播内容违法违规时，应当依法立即采取处置措施。第五，建立健全AI数字人直播场景下的消费者权益保护制度，明确相关当事人保护消费者权益的义务，探索建立健全先行赔付等制度。第六，及时处理遭受造假视频损害的自然人的投诉，并向受害人反馈处理结果。

　　应对AI数字人直播的监管职责与执法依据

　　显然，AI数字人进入直播电商领域对监管部门提出了新的挑战，利用造假视频直播带货的欺诈行为屡禁不绝则表明相关监管工作尚未取得明显成效。AI数字人直播涉及人工智能服务技术的开发者、技术服务者、技术使用者、直播间运营者、直播平台等诸多主体，涉及多个监管部门，有必要建立有工信、网信、公安、广电、市场监管等部门组成的综合监管机制，协同配合，分工合作，共同落实监管职责。

　　其次，针对立法滞后、法律供给不足的问题，各行政监管部门应当尽快制定、完善AI数字人监管的部门规章或规范性文件，明确相关主体的义务与责任，为监管工作提供充分的执法依据。

　　再次，将以人为本、包容审慎、分类分级监管作为AI数字人监管的基本准则。根据《生成式人工智能服务管理暂行办法》的规定，我国强调对生成式人工智能服务实行包容审慎和分类分级监管。行政部门应当在AI数字人直播监管中落实上述要求，其中的包容审慎原则要求对AI数字人直播予以合理、适度的行政监管；分类分级监管则要求监管部门先针对AI数字人直播的应用场景进行精细化的风险评估，制定AI数字人的分类标准，以风险高低确定不同的监管方案；以人为本的原则要求行政监管应当保护人类对AI数字人的最终控制权，禁止其欺诈和操纵人类。

　　第四，严厉打击以造假视频直播带货为代表的AI技术滥用行为，严厉追究行为人的行政责任和刑事责任。

　　最后，制定规范指引，引导平台及其他主体规范经营。例如，浙江省市场监管局出台了《浙江省网络直播营销行为规范指引》，首次就AI数字人直播提出了要求，有效回应了人工智能时代直播营销行为面临的问题，避免数字人技术、深度伪造技术被无序滥用。江苏省市场监管局也推出了类似的规范指引。此类具有软法性质的行为规范对于强化平台责任、提高经营者守法经营意识具有积极效果，值得推广应用。

　　应当承认，AI数字人开发与应用企业以及直播平台对技术漏洞和应用风险的掌握优于行政监管部门，应当通过鼓励企业和行业组织承担社会责任，建立经营者守法、行业自律与政府监管相结合的共治体系，减轻行政监管压力，探索共建共治的AI数字人监管新局面。

　　（作者系对外经济贸易大学法学院教授、博导、消费者保护法研究中心主任，中国法学会消费者权益保护法学研究会常务理事）