在小程序中上传一张照片，“一键换脸”生成一段以自己为“主角”的新视频；培养一位自己喜爱的歌手的ai版，然后指挥它去唱歌；用言语简单描述自己希望看到的画面，自动生成一幅精美画作……曾经离我们很遥远的ai，如今正迅速进入到大众生活中。

这两日，随着“ai换脸”惹官司、“ai孙燕姿”引发版权争议等一连串热点事件的持续发酵，ai技术被推至舆论的风口浪尖。随着ai技术应用场景的日益丰富，其所带来的一系列法律风险也引发各方关注和担忧。在拥抱新技术的同时，一个问题不容回避：如何避免人工智能技术被滥用，让ai更好地造福于民？

(资料图片仅供参考)

你ai了我，还一笑而过？

林华（化名）是一名拥有几十万粉丝的短视频博主，日常喜欢在账号上发布一些国风造型短视频。2021年6月，她通过账号发布了一段短视频，视频中她以古风妆容、汉服造型出镜。但没过多久，她就在“ai视频换脸”微信小程序中发现含有该短视频中外部形象的视频要素合成模板。一般用户通过付费成为小程序会员后，上传个人照片，就可以将视频模板中的人脸替换为照片中的脸，生成一段新视频。林华以侵犯肖像权为由，将小程序的运营公司诉至南京江北新区法院。

法院审理认为，换脸后的新视频中，人物的面部特征发生变化，但对比原视频素材，仍能通过未被修改的衣着服饰、肢体动作及相应的场景细节识别出该身体形象对应的主体系原告。因此，无论是对于原视频中对应的身体形象，抑或是案涉视频要素模板和“ai换脸”后视频中对应的身体形象，原告均享有肖像权。被告未经原告同意，擅自将含有原告肖像的视频存储在小程序中作为可供用户选择使用的合成视频要素模板，系利用ai信息技术手段编造或者伪造他人肖像的行为，侵害了原告的肖像权。法院一审判决被告书面赔礼道歉并赔偿经济损失。

记者检索发现，由“ai换脸”引发的肖像权纠纷并非个例。去年12月，杭州互联网法院公布了一起同类案件。最终，法院判决被告app开发者向“被换脸者”赔礼道歉并赔偿损失共计5000元。

省法院民一庭法官秦岸东列举了“ai换脸”可能带来的三种法律风险：未经权利人同意进行换脸，可能侵害当事人的肖像权；如果ai换脸图片、视频涉及不雅行为，进行恶意丑化，可能侵害他人的名誉权；制作者未获授权制作ai换脸图片、视频，歪曲篡改原作品的主旨并提供给公众，可能侵害著作权人的信息网络传播权、保护作品完整权。“可以预见的是，随着技术的普及，应用门槛的降低，案件数量会不断增加。”

无独有偶，音乐领域也因为ai的介入掀起波澜——连日来，b站的年轻人们乐此不疲地收听由“ai孙燕姿”翻唱的周杰伦《半岛铁盒》，指挥“ai ladygaga”翻唱韩红的《天路》，尝试让“ai张学友”唱陈奕迅的《孤勇者》等等。在某平台上，“ai孙燕姿”翻唱《发如雪》的浏览量已超过百万。记者注意到，不少这类翻唱歌曲的创作者大多会列出免责声明，声称创作仅出于兴趣，不以此盈利。

省法院民三庭庭长汤茂仁分析认为，根据著作权法相关规定，以个人学习、研究或者欣赏为目的，使用他人已经发表的作品等合理使用情形下，可以不经著作权人或表演者同意，也不需要支付报酬。但是，利用明星音质进行ai模型训练做成仿真歌唱者演唱的音视频后，将其上传到网络平台依然可能构成侵权。“未经授权将此类ai歌曲上传至网络平台，势必会产生相当的流量和收益，同时会影响或损害歌曲版权人或原表演者对著作权或表演者权及其产生的收益，降低他们创作或表演的热情，涉嫌侵犯著作权法保护的著作权和表演者权，对整个行业也将带来极大冲击。”

低技术门槛催生应用乱象

从“一键换脸”到“ai歌手”，ai技术的应用场景越来越丰富，甚至呈现出泛滥趋势。

记者在微信搜索框输入“ai换脸”，搜索出的相关小程序多达80余个。排在置顶位置的小程序“换脸ai”，显示最近有1000余人使用过。点击进入小程序界面后，记者分别上传两张模板图片：变更前的模板图、需变更的人脸图。图片提交完成后不到1分钟，就免费生成了新图片。记者又尝试了另外5款“ai换脸”小程序，除了自定义图片换脸，还有表情包换脸、变年龄换脸、变性别换脸、照片修复翻新等。这些小程序中只有在首次进入界面时有弹窗提醒“使用者需严格遵守相关法律法规”，其余均无任何提示。

记者多次尝试发现，只要用户上传的人脸图像为无遮挡的正脸照，经过ai生成图片或视频的“换脸”效果都较为逼真，肉眼很难分辨是否经过技术处理。其中“换脸”视频只在生成界面有“视频由ai技术合成”“该内容仅供娱乐”字样水印，下载保存在手机相册后视频上并无任何水印，而“换脸”照片则是全程无水印。

在艺术圈名声大噪的“ai绘画”，玩法也是五花八门。在抖音平台的“ai绘画”功能中，共有多达55种特效模式可供选择。

而要“创作”一个ai歌手，门槛同样低得惊人。在某平台上随手搜索“ai歌手教程”，就能收获一系列手把手教学的“贴心服务”。具体的操作是将目标歌手的声音（从几分钟到几小时不等）灌入a程序提取纯净的人声，然后灌入b程序训练ai，ai完成对音色的1∶1克隆后，再植入到c程序，经过一系列处理后，就能被拿去“翻唱”其他歌曲了。

之所以能变得如此便捷，离不开deepfacelab、so-vits-svc这两大开源项目。国内某顶尖通讯公司程序员王柯（化名）告诉记者，目前市面上看到的绝大多数“ai换脸”程序主要由deepfacelab制作。其本质是一种将深度学习与计算机视觉相结合的合成技术，可以将一个人的面部特征转移到另一个人的面部，产生逼真的换脸效果。

所谓开源项目，即软件开发者公开其软件源代码，并允许其他人免费查看、修改和再分发这些代码的软件项目。得益于一批批程序员们对项目的不断升级和修补，复杂的ai软件如今变成一个普通人也容易上手的ai工具。“一台电脑，下载一个工具包，没有任何编程基础的小白也能轻松制作一个‘ai换脸’小程序。”王柯说，与“换脸”相比，声音模型对数据采集的要求更为苛刻，需要至少1个小时以上的原始素材，而且声音越优质、越干净，效果越好，“孙燕姿、周杰伦这些歌手的声音，市面上素材多、音质特点明显，更容易成为ai学习的对象。”

防止技术“作恶”，关键管住用技术的人

尽管目前由ai引发的司法案例还不是太多，但眼花缭乱的应用已经在给法律、监管甚至伦理出难题。

秦岸东说，如果越来越多经过ai“深度伪造”的视听证据进入诉讼，将会大大增加法院审查视听证据真实性的难度。他告诉记者，以往对视听证据真实性的认定，法院一般会在证据存在肉眼可见的瑕疵或者当事人有初步证据证明可能存在伪造、变造等情形下，启动司法鉴定程序鉴别真伪。ai的介入，将导致司法机关不得不更加频繁地启动司法鉴定，此举无疑将增加诉讼的时间成本和经济成本，“在ai‘深度伪造’泛滥情况下，法官甚至可能不敢采信视听证据，导致当事人的合法权利得不到保障。”

技术滥用引发的各种争议，也让从事ai技术研发的南京航空航天大学计算机学院副教授梁栋感到担忧：“当‘ai换脸’、虚拟人像等深度合成行为变得普及，一些不法之徒很可能利用ai做出违背伦理、触犯法律的事情，危害社会公共利益乃至国家安全。”

“技术是中立的，ai发展本身无可厚非，但发展技术的同时，如何规避相关风险，值得我们思考。”在梁栋看来，用技术手段加强对技术的监管，是一个思路。“这就好比计算机杀毒软件需要不断更新升级一样，随着‘ai换脸’技术仿真精度日益提升，我们的‘识别’能力也要不断升级，研发更为高级的‘换脸’检测技术。”

防止有人用技术作恶，关键是管住使用技术的人，把技术关进制度的笼子。去年年底，国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》，要求平台对于用户利用app生成的新内容要留有备案，以技术手段清晰标注该内容是智能生成的作品。今年4月11日，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》，提出不得利用生成内容损害他人形象、名誉以及知识产权等其他合法权益。

东南大学法学院副研究员徐珉川分析，这两个制度思路基本一致，即主要规制内容的生成行为，重点明确了网络服务提供商的责任。“这样的治理方案，偏向于一种应对形势快速发展的回应型规制措施，还不能覆盖到生成式人工智能从研发、应用再到消费领域等各个阶段的实践，只是事前预防性先上一个‘紧箍咒’。”他认为，合理看待ai技术可能带来的法律风险，首先要合理区分看待研发阶段、应用阶段的不同情况。如果在技术研发端过早进行较强的规制，可能会束缚住技术发展的“手脚”；但在技术应用阶段，特别是对于一些技术滥用行为，仍有加强规制的迫切性和必要性。他分析，整治当下“ai孙燕姿”“ai绘画”“ai换脸”等应用存在的乱象，应当明确网络平台承担的责任边界，“平台是内容传播流通的关键节点，应当由其加强对技术滥用行为的审查和管理。”

秦岸东持类似观点：“在网络时代，其非法使用造成的大规模传播可能对民事主体人格权造成极大伤害。”他建议，要进一步加强人格权司法保护，特别是网络服务提供者要承担相应的义务。比如，网络服务提供者如果未按照避风港规则在接到通知后采取必要措施，应对损害的扩大部分承担连带责任。

在徐珉川看来，随着人工智能的技术发展，生成式人工智能的研发、运用，特别是成果的海量生成、广泛传播将带来很多新问题，这些问题横跨多个领域，不仅仅涉及到著作权，还牵涉不正当竞争、市场监管、互联网服务管理等一系列制度性的设计和安排。“从数字法治的整体治理效果的角度看，学界、实务界、行政部门都要综合考虑各类法律法规的系统性协同治理。”

新华日报·交汇点记者 顾敏 陈月飞 王慧 陈珺璐 华夏

上观号作者：交汇点

关键词：