一款名为Avatarify，火爆全网的AI换脸软件，从2月底冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然“下架”，只用了不到一周的时间。

目前官方未给出具体下架原因，业界猜测该款软件可能涉及隐私安全等问题。

“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈，蚂蚁呀哈哈......”过去一周，在微信朋友圈、微博、抖音等社交媒体平台，相信不少人都被这个魔性的音乐配合着夸张扭动的变脸视频刷屏了。　　

然而这款名为Avatarify，火爆全网的AI换脸软件从2月底冲上苹果App Store免费榜第一，到3月2日凌晨从App Store中国区悄然“下架”，只用了不到一周的时间。目前官方未给出具体下架原因，业界猜测该款软件可能涉及隐私安全等问题。

因“蚂蚁呀嘿”特效火爆全网

最近，在某短视频社交平台上，一个叫作“蚂蚁呀嘿”的特效火了。许多网友都将自己的照片导入一款名为Avatarify的“变脸”软件中，照片会被算法驱动，变成一段跟着节奏晃动的视频。

根据蝉大师数据显示，制作该类短视频的Avatarify变脸软件一夜之间打败了抖音、拼多多、微信等一众大佬，并在2月25日强势登顶App Store总榜。

这款软件有多火？

据东方网，移动应用数据分析平台七脉数据显示，2月25日0点，Avatarify在中国区App Store的免费App榜单仅排名第65，而到了当日下午五点，Avatarify蹿升至免费榜第一名，并一直持续到3月1日。

直到3月5日，抖音#蚂蚁呀嘿#相关话题播放总量已超29亿次，特效被 785 万人使用。

据东方网，Avatarify的名称来源于“阿凡达”电影，创作者是一位开发工程师，最初只是因为疫情期间过于太无聊，才开发了这款变脸应用并将其开源。其实Avatarify早在去年7月就已经上线，但一直不温不火，直至”蚂蚁呀嘿“特效蹿红后，才带火了这款软件。

这款软件通过AI换脸技术让图片动起来，为网友带来新奇好玩的娱乐体验，同时，蚂蚁呀嘿短视频的灵魂在于BGM，为人物增加了反差效果，从马斯克、马化腾等科技公司大佬，吴京、甄子丹等演艺界明星，到蒙拉丽莎等世界名画，甚至猫猫狗狗们，都唱起了“蚂蚁呀嘿”。

软件运行的原理是将别人的脸套在自己的表情上进行实时驱动。用户只需要三步：导入手机里的人脸图片，选择视频模板，软件就能自动生成短视频，再一键保存即可。如果想要照片中的多人都动起来，根据抖音中大多数视频制作教程，则还需要一些剪辑软件加以辅助。

据中国商报，目前的换脸技术与国外一款开源的AI换脸软件deepfake极为相似。deepfake的核心技术是一种名为生成式对抗网络（GAN）的框架，该网络有两个模块，一个负责生成伪图，另一个负责鉴别生成图片的质量，通过“对抗博弈”的方式不断进化，达到以假乱真的水平。

从中国区App Store下架

就在一众网友玩的兴起的时候，3月2日，在火爆了不到一周后，Avatarify却悄然从App store下架了。

关于下架原因，目前官方并未说明。有网友表示，Avatarify只从中国区App Store下架，其余地区仍可正常下载，下架原因或与此前火爆一时的“ZAO”下架原因类似，涉及隐私安全等问题。但目前在App Store上，还有一批“蚂蚁呀嘿同款特效”的App。

实际上，Avatarify遇到的问题早就出现过。

早在2019年，一款名为“ZAO”的换脸社交软件在朋友圈刷屏，这款App由陌生人社交巨头陌陌开发，用户只需要一张正脸照，就可以替换影视作品或者小视频中的人物，生成以自己为主角的视频片段。

不过，这项技术在带来创新体验的同时，也存在被滥用甚至侵害他人权益等额外风险，这也是Avatarify和ZAO引发质疑的共同原因。

虽然ZAO曾在其官方微博发布声明称，没有采集任何个人生物识别特征、不会存储个人面部生物识别特征信息、使用ZAO不会产生支付风险等，但依然无法打消用户的疑虑，并引起了有关部门的关注。ZAO的口碑遭遇“滑铁卢”。

值得注意的是，由于Avatarify采用的是免费下载+内购的形式，用户若想在生成的动图及视频中去除水印、增加内存，则需要付费。据了解，此前Avatarify一周的使用价格为人民币18元，包年价格为253元，首周免费。对于这个价格与服务，用户的接受度并不高。

赚钱的反倒是网店。尽管Avatarify被突然下架，大众对“蚂蚁呀嘿”类视频需求并没有因此减弱。

据北京日报，目前在淘宝、闲鱼等平台上仍有这类视频的代制作服务。“很多人想用‘蚂蚁呀嘿’这样的视频上传抖音，但并不会花钱去买Avatarify，所以会托我们制作。”一位淘宝卖家表示，他们团队已经达到了10人，可以最快在30分钟内完成相关视频的制作，收费为一张9.9元。

AI换脸安全争议不可回避

据央视新闻，类似”蚂蚁呀嘿“这样的特效，也是存在相应风险的。

在采访中，演示人员为央视记者演示了如何利用深度合成中的表情操纵方法的安全漏洞攻击人脸识别系统。　

演示人员 张天奕：您现在看到的这段视频，就是利用深度合成中的表情操纵的方法生成的一段伪造的视频。就是说我们可以操纵一张图片，让它做出和右边这个视频一样的动作来。比如说点头、摇头、说话。可以用于攻击人脸识别系统的这种场景当中。

总台央视记者 杜思源：我们能看一下具体的攻击过程吗？　　

演示人员 张天奕：我们可以生成系统指令的这些，张嘴、点头、摇头之类的指定的动作，然后最终我们就可以冒充这个人完成了人脸验证的环节。

总台央视记者 杜思源：也就是说我们只需要这个人的一张照片，就可以冒充他，然后攻破这个系统。

演示人员 张天奕：是的。

对于Avatarify的下架，有网友表示：“技术是好技术，但是应该有正确的使用规范。在没有规范的前提下应当谨慎使用。”“AI换脸最怕的就是被不法分子利用。”

人脸识别应用中，还会产生哪些安全问题？

以子之矛，攻子之盾。从事人工智能安全研究的专业人员，用攻击去暴露风险，再演练出针对性的防御技术，为人脸识别筑起安全防线。除了技术本身的风险，人脸识别在应用的过程中，还会产生哪些值得关注的安全问题呢？

清华大学人工智能国际治理研究院副院长 梁正：主要是三个方面的问题，第一是对个人隐私的这方面的担忧，泄露的问题。第二是安全的问题，不管是在这个金融交易，还有一些像家居生活这样一些方面。第三个其实是被滥用的方面的这个担心。

目前，有许多用户出于人脸信息被泄露的顾虑，对这一技术感到不信任。专家表示，相关立法已经在重点关注人脸数据的采集和管理。

中国人民大学未来法治研究院副院长 丁晓东：正在制定的个人信息保护法草案的一个规定，主要是规制专业的这些信息收集人员他对于个人人脸信息的采集，事先就要获取对方的同意。你的处理过程的话，你必须也是要赋予当事人如果不同意，可以随时撤回；而且你这个数据处理的话不得超过必要的限度，要保证这个数据的安全。

清华大学人工智能国际治理研究院副院长 梁正：数据的这个存储，其实也是一个比较重要的问题。大家可能比较担心的，就是跟泄露相关的，是数据你到底存在了哪里，这个存放的话是不是有足够的安全保障，一些这种数据库，就是几乎是放在公网上，属于裸奔的这种状态，很容易就攻破。