近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用场景范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能带来严重危害。

  总台记者经调查发现，网上“AI换脸”软件的获取很容易。利用此类软件的法律边界在哪里？怎么样才能做好事前监管？

  在网上，演示换脸软件使用方法及效果的教程比比皆是，其中不少“AI换脸”软件需要高价付费使用。

  记者根据搜索出来的结果联系到一名开发者，他向记者提供一段使用其软件实现换脸的示范视频双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频，肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。

  在其销售的网站上，该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起，生成全新“数字人”的视频。

  这一付费软件提供从初级（LV1）到超级（LV4）再到全套（LV5）的不同版本。以初级套餐来说，499元提供软件界面、视频指导、换脸模型等，如果花2888元，则可得到全套（LV5）等级的视频换脸模型。

  记者发现，该网站底部没有一点文字显示其已经过备案。卖家也十分谨慎，全程仅用文字交流。他表示，与初级（LV1）至超级（LV4）套餐相比，全套（LV5）版本迭代更多，能力更强，也能够理解为换脸效果更为逼真，同时，不但可以实现视频换脸，还支持直播换脸。

  记者进一步询问能否根据自己的需求换脸时，软件开发者表示：“想换什么样的脸拿素材训练就可以。”

  一位从事AI开发的技术人员表示，这意味着可能会有更多难以控制的风险。“集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来，就可以打造出一个完全崭新的数字人或者叫AI人，监管成本和难度高了好几个数量级。”

  北京嘉维律师事务所律师、IT法律专家赵占领表示，从事后打击的角度讲，刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说，如发生使用他人肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下，还应探讨如何能够做到有效的事前防范。

  例如，在《互联网信息服务深度合成管理规定》中要求，深度合成服务可能导致公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。

  《生成式人工智能服务管理办法（征求意见稿）》要求，利用生成式人工智能产品向公众提供服务前，应当按照有关规定向国家网信部门申报安全评估；要尊重他人合法利益；产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。

  浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为，从目前来说，如果能够有效落实标识的要求，形成有效的监管体系，可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。

  盘和林：当前“AI换脸”的标识监管体系还没有形成，要针对不标注的内容，通过技术的手段来辨别，并且对不标注的个人或者是单位组织要有具体的处罚措施、标准以及制度。

  北京嘉维律师事务所律师、IT法律专家赵占领认为，从长远来看，监管与处罚措施还需要随着技术发展不断“迭代”，才能形成立体有效的治理方案。

  互联网新闻信息服务许可证：3312017004 信息网络传播视听节目许可证：1104076

  近日，因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展，“换脸技术”的应用范围越来越广，技术的突破还使得换脸后的人物表情、动作细节更为逼真，一旦被不法分子利用，可能带来严重危害。

  总台记者经调查发现，网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里？如何做好事前监管？

  在网上，演示换脸软件使用方法及效果的教程比比皆是，其中不少“AI换脸”软件需要高价付费使用。

  记者根据搜索结果联系到一名开发者，他向记者提供一段使用其软件实现换脸的示范视频双视窗页面左侧是换脸之前的原始视频，右侧则是换脸之后的视频，肉眼来看，换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。

  在其销售的网站上，该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起，生成全新“数字人”的视频。

  这一付费软件提供从初级（LV1）到超级（LV4）再到全套（LV5）的不同版本。以初级套餐来说，499元提供软件界面、视频指导、换脸模型等，如果花2888元，则可得到全套（LV5）等级的视频换脸模型。

  记者发现，该网站底部没有任何文字显示其已经过备案。卖家也十分谨慎，全程仅用文字交流。他表示，与初级（LV1）至超级（LV4）套餐相比，全套（LV5）版本迭代更多，能力更强，也可以理解为换脸效果更为逼真，同时，不仅能轻松实现视频换脸，还支持直播换脸。

  记者进一步询问能否通过你自己的需求换脸时，软件开发者表示：“想换什么样的脸拿素材训练就可以。”

  一位从事AI开发的技术人员表示，这在某种程度上预示着可能会有更多难以控制的风险。“集成文生图、文生文，文生音频、文生视频、换脸，这样的功能结合起来，就可以打造出一个完全崭新的数字人或者叫AI人，监管成本和难度高了好几个数量级。”

  北京嘉维律师事务所律师、IT法律专家赵占领表示，从事后打击的角度讲，刑法中有关于诈骗罪的规定；民法典明确，公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说，如发生使用他人肖像进行诈骗的相关案例，不法分子能够在事后被法律约束与制裁。但在人工智能技术快速的提升的当下，还应探讨如何能做到有效的事前防范。

  例如，在《互联网信息服务深度合成管理规定》中要求，深度合成服务可能会引起公众混淆或者误认的，深度合成服务提供者应当在生成或者编辑的内容信息的合理位置、区域进行显著标识。

  《生成式人工智能服务管理办法（征求意见稿）》要求，利用生成式AI产品向公众提供服务前，应当按照有关法律法规向国家网信部门申报安全评估；要尊重他人合法利益；产品提供者应当对生成式AI产品的预训练数据、优化训练数据来源的合法性负责等。

  浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为，从目前来说，若能够有效落实标识的要求，形成有效的监督管理体系，可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。

  盘和林：当前“AI换脸”的标识监督管理体系还没形成，要针对不标注的内容，通过技术的手段来辨别，并且对不标注的个人或者是单位组织要有具体的处罚措施、标准及制度。

  北京嘉维律师事务所律师、IT法律专家赵占领认为，从长远来看，监管与处罚措施还需要随技术发展不断“迭代”，才能形成立体有效的治理方案。

上一篇：已定！全体大专以下恭喜啦！不限户籍直升本科今日正式开启！ 下一篇：东方财富软件使用教程(东方财富app手机版下载最新版本)