AI张文宏带货:合成名人视频边界在哪?牵扯法律?(图)

近期，一段“张文宏带货”视频在网络上热传。 网络图 近期，一段“张文宏带货”视频在网络上热传。视频中的“张文宏”在介绍一种蛋白棒，其形象、口型、声音均与张文宏本人一致。据媒体报道，虽然该视频系AI合成，许多老人却信以为真并下单甚至转发，账号商品橱窗内显示蛋白棒售已售出一千余件。


网络图 近年来，通过AI合成技术假冒名人的事例时有发生。AI张文宏带货背后，为何老人会上当？合成名人视频的边界在哪？存在哪些法律风险？视频制作者、AI技术提供者、视频播放平台各有哪些责任？ 12月12日，澎湃新闻（www.thepaper.cn）记者采访了上海大邦律师事务所高级合伙人、律师游云庭，段和段律师事务所知识产权部合伙人、律师刘春泉，请他们谈一谈AI视频制作背后的法律问题。 上海大邦律师事务所高级合伙人、律师游云庭表示，在上述假冒张文宏带货的视频中，视频制作者和发布者未经本人允许使用张文宏的形象、声音“带货”，涉嫌侵犯张文宏相关的人身权利，具体包括姓名权、肖像权、声音权；此外，还涉嫌侵犯张文宏视频拍摄者的录像制作者权。对此，当事人可以提起民事诉讼进行维权；同时，视频平台也可以对发布者进行对应处罚。 游云庭介绍，上述行为主要对应《反不正当竞争法》中的虚假宣传，是一种民事侵权行为。如果商家确实卖的是蛋白棒，那么对消费者来说不构成诈骗。 同时，为商家提供深度合成服务的技术提供方也存在问题。为商家提供深度合成服务的技术提供方应当进行算法备案，对于生成的深度合成视频应当标识。“合成名人视频是全球人工智能服务商都应该注意风险的敏感点，也应该有相应的合规措施，服务商应当进行审查。”游云庭说。 段和段律师事务所知识产权部合伙人、律师刘春泉表示，从反网络诈骗角度来说，对这类AI假冒他人的治理防范，需要多重手段。首先，对于网络平台而言，网络平台要履行网络安全法等法定义务，对发布的内容要审核，要通过平台规则落实网信部门规章规定AI生成内容必须标注提示的规定。《互联网信息服务深度合成管理规定》第十七条规定：深度合成服务提供者提供深度合成服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。 刘春泉表示，另一方面，对于公众而言，对于非现场的语音电话、视频通话要注意甄别。需牢记诈骗都是借助前沿科技和热点诱骗人上当，不能轻信，凡是涉及钱款支出的老人一定要先联系子女，发现被骗要立即报警。 “像蝗灾一样 一次次害人！” 张文宏实在忍无可忍了！ 最近有网友发消息称，张文宏是不是带货了，家里老人信以为真，已经下单了。看看新闻Knews微信公众号也在今天上午的推送中报道过。(点击下图查看相关报道）


而经核实这个视频是AI合成的，目前，这段伪造的视频在账号内已不可见。 视频截图中，张文宏正在卖一种蛋白棒，而售卖页面显示，已售1266件，跟买有315人。虽然是张文宏的口型和声音，但稍微了解一点AI的年轻人，一眼就可以分辨，这是合成的视频。不过对于老年人来说，依然很具有迷惑性。





据上海交通大学计算机科学与工程系特聘教授俞凯介绍，从技术角度来说，目前用语音合技术来模仿他人声音并且对上口型生成视频的技术已经非常成熟，甚至仅用一张照片就能生成此类视频。对普通人来说，用照片生成的视频很容易辨别，但如果被制作视频的对象有大量公开资料的话，生成的视频无法做到实时互动，但单向播放足以以假乱真。





张文宏医生回应： 像蝗灾一样 一次次害人 看看新闻Knews记者今天联系到张文宏医生，他向记者表示：“这样的卖货账号不止一个，且一直不断在变，自己多次向平台投诉但屡禁不绝。”


张文宏丨上海华山医院感染科主任 国家传染病医学中心主任 事情已经有几个星期了，有很多不明真相的老百姓、特别是有些对AI（人工智能）不是很熟悉的、年纪比较大的市民，他们就会很容易相信。我看购买量在不同的地方好像都有不少，最多的有1000多的。我在发现这事后立即投诉过那个AI合成的视频，但是它的账号一直在换，自己最后也没精力了。这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。事实上，从平台投诉结果来看，我觉得最终也难以解决问题。 除了向平台方投诉，张文宏医生称自己也曾考虑过向警方报案，但对方的账号一直在不断变化看不见摸不到，就像幽灵一般难以描述，只能寄希望于相关部门能加强监管。他告诉看看新闻Knews：“报警总要有个对象对吧，现在报警报谁呢？他一天换一个账号，而且全是虚拟的，我向谁报警？！所以我认为，他侵犯的是消费者的利益，我觉得相应的部门应该来进行处理。” 消保委发声 今天，上海市消保委也对该事件严厉发声，表示未经当事人授权的AI合成带货行为，已经构成了对消费者的欺诈，呼吁监管部门严厉处罚。 上海市消保委副秘书长 唐健盛 实际上这根本就不是张文宏老师在带货，这完全是用AI（人工智能）做出来的，这类事情非常恶劣。首先这种做法其实已经构成了对消费者的欺诈，消费者如果说上当的，那么完全可以按照消费者权益保护法的规定，要求商家做出退一赔三，并且金额不足500元的要这个按照500元来赔。 此外，我们觉得相关的监管部门应该对这种恶劣的行为要采用非常严厉的方法进行处罚，因为这不仅仅是涉及到消费者权益，它其实还涉及到整个社会的良知跟道德。


靳东、黄晓明等都被躺枪！ 近年来，用AI剪辑冒充明星的案例屡见不鲜，在今年年初，静安法院宣判过一起假冒明星、名人视频进行诈骗钱财的案例。8名被告人被以诈骗罪，判处拘役4个月到3年有期徒刑，并处罚金。 而诈骗分子们最喜欢冒充的明星，则是不少阿姨妈妈们最喜欢的明星靳东。SMG新闻主播陶淳老师就在说法节目中举了一个例子。 陶淳说法 ，赞300 上海一位60多岁的张阿姨是靳东的忠实粉丝，机缘巧合下被拉入了一个名为“靳东明星”的粉丝群。从2022年2月开始，张阿姨就在群里不断地给“靳东”充值打赏。不久后，“靳东”还以恋爱的名义加上了张阿姨的微信，在张阿姨的眼里，东弟弟不仅是明星，更是一个会撒娇、会卖萌的理想恋人。恋爱中的张阿姨，先后向东弟弟转账近20万元，直到儿子报了警，她仍不愿相信自己的“偶像”怎么会是儿子口中的“诈骗犯”呢？ 原来所谓的“靳东”都是假的！是由一群平均年纪还不到30岁的女性犯罪团伙假冒的！这个团伙专门在短视频平台上发布“靳东”的视频，然后冒充靳东与这些姐姐、阿姨们网聊、网恋，最后以公益、网购、恋爱等各种理由索要钱款，骗取多名被害人共计31万余元。 上海静安法院对本案作出一审判决，以诈骗罪判处王某某等8名被告人有期徒刑三年到拘役四个月不等。其实这些骗子的手法并不高明，靳东的画面都是网上搜取的资料，声音也是合成的，熟悉短视频的人，很容易看出来是假冒的，就连靳东本人也多次发文澄清，提醒大家。为什么还是不断有人上当受骗呢？ 原来这些“假靳东”，专门瞄准喜爱靳东的中老年女性，利用他们的善心，打造一个关爱、体贴，充满温情的恋人形象，满足了被害人的内心情感需求，最终达到骗取钱财的目的。记住！凡是打着明星的名义，无论以是什么理由向你要钱的、让你转账的，都是诈骗！ 除了靳东，当红明星黄晓明也都深陷此类骗局之中……


去年11月，黄晓明在节目中坦言，看到了一段自己和刘亦菲为某品牌代言的视频，自己在活动现场极力推荐该品牌。而他本人对此竟然毫不知情，印象中从未担任过该品牌代言人，一时间感到恍惚，难辨真假。原来该视频是AI换脸生成的，包括人声也可以合成。 网络技术飞速发展 如今“眼见不一定为实” 信息网络时代要学会保护个人身份信息和生物信息、增强反诈意识、提高辨别能力。涉及网络转账交易行为时，务必通过回拨视频通话、线下见面、向对方家人验证等多种途径核验对方身份，不要未经核实随意转账汇款，以下的防骗小妙招一定要牢记：