AI换脸生成色情内容，我们能防得住技术作恶的人吗？

11月底，国家网信办、文旅部和广电总局等三部门联合发布了《网络音视频信息服务管理规定》，明确“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的……应当及时采取相应的辟谣措施”等针对换脸技术的新规定。

这也是国内第一个关于“AI换脸术”的监管措施，目的在于打击利用AI 技术制作的虚假音视频，控制此类“新型谣言”的传播。

此前，国内出现过几次AI换脸术风靡期。

“如何让杨幂拥有朱茵的演技？”

年初，一段借助AI换脸技术制作的94版《射雕英雄传》火了，黄蓉饰演者朱茵的脸被换脸技术“偷天换日”变成了杨幂的，虽然五官大不相同，但换脸后的表情、动作却很自然流畅。弹幕中不停有人感叹，“要是大幂幂有这样的演技就好了。”

（AI换脸视频“杨幂版黄蓉”）

这段视频来自B站，Up主名为“换脸哥”。利用换脸技术DeepFake，普通人经过简单的学习也能制作出真假难辨的换脸视频。9月，一款名为“ZAO”的App进一步将换脸技术“白菜化”，只需在手机上安装这款App，就可以在视频模版中一键“换脸”。

但在爆火的同时，ZAO被曝出不尊重用户隐私等问题；包括国外盛行的DeepFake换脸技术，自产生之日起就面临着技术滥用的困扰——公众担心有人可能使用几乎以假乱真的换脸技术，进行诈骗诽谤甚至制作色情视频。

实际上，后者已经被“广泛应用”了，包括斯嘉丽·约翰逊、艾玛·沃森在内的明星都成了这项技术的“受害者”。

面对这些因新技术蝶变而出现的新内容形势，国外和国内的监管随之而来。美国弗吉尼亚州先前对DeepFakes采取了行动，扩大了其“复仇色情法”的定义监管范畴。

但在不断更新的技术手段面前，此类规定能防住别有用心的人利用技术作恶吗？

人人都爱换脸术

现在，制作发布了杨幂-朱茵换脸视频的Up主“换脸哥”已经无法在B站搜索到。

但在B站搜索“换脸术”，仍有相当多视频，有不少是由换脸视频App“ZAO”直接生成的，也有专门做换脸视频的Up主上传的。

（B站的AI换脸视频 Up主：趋暗物质）

Up主“趋暗物质”就专做这类换脸视频。在他的视频中，有杨超越代替宋慧乔做女主的《浪漫满屋》，黑寡妇版的佟湘玉，李云龙版的《巴啦啦小魔仙》……这些视频的播放量都不低，在B站甚至形成了一个独特的创作者“流派”——鬼畜换脸派。

尽管从出场起就伴随着质疑，换脸术依然有着人们难以拒绝的独特魅力。

2017年年底，一位名叫“DeepFakes”的国外网友发布了用于换脸的一套算法，很快就被用于换脸视频的制作，这套算法也被称作“DeepFake”。从这时起，普通创作者拥有了一个成本低廉的换脸视频解决方案。

不久后，有人将DeepFake算法整合打包成一个软件，无需安装python等程序就可以直接运行，再次降低了换脸术的学习和使用成本。

7月，新京报曾报道有人利用此类软件牟利——缴纳398元的学费后，学员只要完成“链接到云硬盘、提取脸部数据、训练模型、换脸输出视频”四个步骤，就能实现AI换脸视频的制作。此外，店家还附赠600余部AI换脸制作的淫秽视频。

（淘宝上仍然有换脸视频的订制和教学服务）

8月底，换脸App ZAO上线，直接为用户省略了下载安装和学习训练的环节，使用成本也被降到无限接近于零。人们可以上传照片自动替换影视剧“名场面”中角色的脸部，很快就能得到一条AI制作的换脸视频。

ZAO的爆火没有持续太久，持续了一个星期就因为玩法过于单一而“失宠”。不过，ZAO还是将换脸技术的使用门槛降低到了手机美颜、P图的水平。制作一个换脸视频，再也不是什么难事。

但换脸技术带来的不仅仅是搞笑和娱乐性质的视频，色情和谣言视频也借此大行其道。这对人们的认知更是颠覆性的——“眼见为实”的传统观念，在高度发达的换脸技术面前也变得不可靠：你看到的东西，也可能是假的。

人们也开始意识到，AI换脸不仅仅是一个有趣的图像处理技术，对于社会生活的影响之大，是这项技术刚刚出现时人们远远想不到的。因此，技术越成熟，遭到平台和政府的监管也越多。

2019年7月初，弗吉尼亚州通过了一条有关色情禁令的法律修正案，禁止出售包括虚假创作在内的“处于裸体或脱衣状态的视频和图像。”弗吉尼亚也成为美国首批禁止传播计算机生成的色情内容的地区之一。

11月11日，国际互联网社交巨头推特也公布了打击DeepFake视频策略。其中包括了在涉嫌DeepFake的视频中进行特殊标注、添加真实新闻来源链接等措施。

此前不久，谷歌、Facebook和亚马逊等巨头纷纷赞助了检测DeepFake视频的研究项目，希望可以借助技术手段提前布局，在视频识别上领先一步。

人人都怕换脸术

单纯的换脸术并不让人过于担心，真正引起公众担忧的，是虚假视频+虚假音频的融合：目前可以做到AI换脸，也能实现AI合成声音（各个“AI主播”的出现就是一个例证），两者一旦更加深度地进行融合，对于目前的音视频鉴定技术将是一个巨大的考验。

（主持大会的AI主播 这已经是一个成熟技术 图源：36氪）

同时，也很难保证这种技术不被用于作恶——比如造谣、诈骗、制作色情视频和虚假新闻等等，人们更加难以分辨一段画面和声音都“无比真实”的视频是真是假，当事人的辟谣成本也将因此陡增。

“传统意义上‘真实’与‘虚假’的界线将被打破。”中国科学技术法学会李晟教授认为，DeepFake的真正问题正在于此。

有研究统计了超过1.4万个DeepFake视频，其中的96%包含色情元素。“大部分都是把女演员的脸，转移到色情明星的身体上。”网络安全公司Deep Trace Lab这样表示。从这个比例中也不难看出，DeepFake技术在大多数情况下没有用对地方。

这也是许多图像处理算法面临的伦理问题——超前的技术大大降低了潜在的作恶成本。

6月，号称可以“一键脱衣”的图片处理程序DeepNude（深度裸体）上线，一时间使用者众多，把服务器挤到无法登陆。

（DeepNude界面 图源：IT之家）

技术的滥用，给社会带来的只能是伤害，许多人特别是女性对此深感不安。

“人们滥用它的可能性太高了，我们不想这样赚钱。”不久后，开发者阿尔贝托只好在一片骂声中下线了这款程序，但恶果已经造成，那些被制作出来的图片已经流传到互联网的各个角落去了。

更令人感到不安的是虚假音视频的结合。

3月，犯罪分子成功模仿了一家英国能源公司母公司CEO的声音，欺骗了多位同事和合作伙伴，一天内诈骗了220000欧元（约173万元人民币）。

这个报道来自Deeptech深科技，为人们描述了一个更加“防不胜防”的虚拟合成技术作恶的场景。

在此次公布的《网络音视频信息服务管理规定》中，关于AI造假音视频的规定主要有四条。

在新的规定中，包括“按照国家有关规定开展安全评估”、“以显著方式予以标识”非真实音频信息、不得利用AI造假技术发布虚假新闻、部署AI造假音视频鉴别技术和健全辟谣机制等。

和国外同类管理规定相比，这套措施相对来说比较完善，既有安全评估等源头管理，又有鉴别技术和辟谣机制配套，对于防止滥用AI技术造假音视频干扰信息传播秩序很有帮助。

但对于AI造假技术在信息传播之外的应用，还需要更多配套的机制建设。

我们还能随便“换脸”吗？

5月，我国民法典人格权编草案二审稿提出，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。

“如果正式通过，这意味着即便没有营利目的和主观恶意，未经本人同意的AI换脸同样有可能构成侵权。”北京大学法学院副院长薛军分析道。

民法等司法体系的完善，也代表着AI生成音视频技术配套机制的健全。界定“换脸”等AI生成音视频技术是否侵权，也有了更加明确的成文规定。

它的影响将是多方面的。

可以预见的是，今后创作者对换脸技术的使用必将更加谨慎，需要警惕其中面临的肖像权风险。对于希望利用换脸技术牟取利益的人来说，这同样是一种震慑，特别是色情视频等黑产从业者。

从创业企业的角度来看，借助AI换脸、变声等新鲜玩法，可预见回报会十分有限。

当陌陌旗下的ZAO收割完一波流量之后，大大提高了人们对于换脸视频玩法和技术的门槛，除非在玩法和内容上有较大的突破，否则很难找到一个“爆点”。主打“换脸”玩法的产品，也将进入一个相对低潮期。

但良好的体制规则应当在限制技术作恶的同时，不去限制技术的进步。

（《速度与激情7》是如何补拍保罗·沃克镜头的）

在2015年上映的电影《速度与激情7》中，保罗·沃克的演员不幸车祸丧生。为了补拍他未完成的戏份，剧组收集了他生前拍摄的所有影像资料，由替身演员完成表演动作，一些细微的部分使用合成技术进行嫁接。这么一折腾，上映的时间错后了将近一年。

AI换脸技术能够提高计算机“换脸”时的效率，为影视制作降低时间成本。这是一个空前广阔的应用场景。将AI合成技术尽快用到正道上，才是一个“正经事”。

新技术的前景一定是光明的，特别是在日益完善的法规和监管之下。当年PhotoShop等修图App还没有普及时，人们也会惊叹那些经过Ps的照片是“假照片”，同样会担心有人借助这种技术作恶。

现在，Ps技术得到了人们的普遍了解和认可——当我们看一些过于离奇的照片时，第一反应是“照片肯定是P的”。

但目前，距离人们意识到“视频是‘P’的”还有很长一段路要走，保护人们的法律也还在完善的过程中。

当这些“基础设施”在精神和物质上建立起来，“换脸”等AI合成技术 ，也将由此走向新的起点。