79元买30张「脸」，谁在甩卖AI换脸工具？

「核心提示」

近日，滥用AI换脸技术的诈骗犯罪层出不穷，连直播间也出现了换脸的假明星。这种情况下，有人却在社交平台上堂而皇之卖起“作案工具”，79元就可以买30个人脸模型。是谁在甩卖AI换脸工具？

作者 | 宋子豪

编辑 | 刘杨

自从5月底“AI诈骗正在全国爆发”登上热搜后，利用AI换脸技术的诈骗事件频繁发生。

近日，中国银河证券发布公告称：利用“AI合成技术”的诈骗手段或将逐步蔓延至证券行业。公告显示，某知名经济学家称，自己被人利用“AI换脸”等技术，通过视频、语音等方式联系投资者，骗取投资者信任，开展荐股活动。

此前已经有哈尔滨、福州等多地网警通报有关AI换脸的诈骗事件，有人10分钟被骗了430万。

而“AI换脸”诈骗猖獗的当下，社交平台上也涌现了一批推销“AI换脸教程”的账号。

这些账号发布的视频，主要内容都是人物手一挥就换了一张脸。视频还会同时搭配洗脑的音乐，简单的动作，以及“AI换脸教程、直播实时换脸、视频实时换脸、自定义换脸”等相关文字。

如果有用户在视频下面回复，他们就会在评论区引导，让用户加联系方式详谈。

这些账号背后的上传者，自称是自媒体时代的成功学导师，不断追逐热点，付费传授各种流量密码。

只不过，这一次的“AI换脸”尚处于监管灰色地带，参与其中的用户可能稍不留神，就从“知识付费”变成“今日说法”。

1、AI诈骗之后，“换脸”教程席卷平台

5月底，有不少网友发现，当红女星“杨幂”“迪丽热巴”亲自在某女装品牌直播间带货。她们互动热情，介绍专业，短时间引来大量网友围观。

但仔细看，主播的脸又不太像明星本人，如果主播扭头的幅度太大，居然会瞬间“显出原形”，变出另一张脸来。更有人在不同直播间同时看到多个“杨幂”“热巴”。一时间，“明星主播”分身有术，处处有“杨幂”，个个是“热巴”。

经过媒体曝光，人们才发现，原来部分直播间在未标识情况下，用AI换脸技术，让主播套上一张明星脸，误导消费者。

想起差点因为虚假的明星效应冲动消费，人们对AI换脸的魔力越发心有余悸。

视频换脸技术出现已久，早在2023年，一款名为“ZAO”的换脸App就曾红极一时，用户只要上传一张自己的正面照，就可以在电影角色的脸上套上自己的五官，与明星同台飙戏。

到了2023年年初，换脸应用程序Avatarify一度登上了App Store中国区应用免费榜榜首，但不到一个星期，该应用就被中国区App store下架。

这些软件的技术往往来自于DeepFake开源技术，依托大数据和人工智能深度学习机制，对既有视频或图片中的人物面部图像进行替换。

虽然当时的换脸技术还不够逼真，但已经能让一些短视频创作者吸引流量。

在2023年3月，TikTok上的某个视频账号就通过换脸技术，制作了换脸汤姆克鲁斯练习高尔夫、表演魔术、讲笑话等视频，发布没多久就收获了20多万粉丝。

当时，这种技术门槛较高。视频制作者宣称使用了开源的DeepFaceLab算法以及其他的视频编辑工具，通过将传统的视觉特效与DeepFake技术相结合，前后花了整整两个月的时间制作。此外，硬件上还需要使用一对NVIDIA RTX 8000 GPU训练AI模型，才能达到以假乱真的效果。

随着近两年来技术大爆发，不仅出现了几乎可以傻瓜式操作换脸的相关软件，逼真程度也一再上升，目前已经可以做到实时换脸，从而应用到上面提到的直播领域。

但是从娱乐领域到商业领域，AI换脸还处于灰色地带。

在此前的报道中，有法律人士认为，使用AI换脸技术时，应有显著标识，以免公众混淆。而未经明星同意使用其肖像直播带货，可能涉嫌多项侵权。

2023年3月，某短视频平台上的特效师通过把电视剧中男主角的脸换成自己的脸，合成与女明星亲吻的影像，并借此宣传售卖“特效换脸教程”，也引发了很大争议，并且该账号“特效合成师洪亮（收徒）”被平台封号15天。

目前短视频平台对于这类行为提出了规范。比如2023年5月9日，抖音发布“关于人工智能生成内容的平台规范暨行业倡议”，其中提到创作者应对人工智能生成内容进行显著标识，同时虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

而在政策监管上，今年1月生效的《互联网信息服务深度合成管理规定》也指出，提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。并要求任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识。

面对平台和监管部门的围追堵截，换脸明星以吸引流量的路子走不通。部分博主发现以身犯法不行，转身卖起了所谓的AI换脸课程。

2、79元就能“换”30张脸

此前，央视财经曝光“主播AI换脸明星进行直播”时提到，在网上购买一套AI实施换脸的模型需3.5万元。

只过了一个多月的时间，AI换脸的价格正在迅速平民化。如今，只需要79元，一个AI换脸套餐就能帮你换30张脸。

《豹变》在社交平台上搜到了有关“AI换脸教程，直播实时换脸，视频通话换脸”的相关视频，视频下方的商品