如何识别AI生成的深度伪造图像?

作者: 澎湃新闻   日期:2024-05-11 11:53 阅读:0  来源:澎湃新闻  
分享到:
邮箱:

据澎湃新闻报道,肉眼分辨图片真假可以观察图中手指数量是否正常、眼神是否怪异、发丝看起来是否真实等。生成的照片通常存在光影瑕疵,缺乏曝光等照片基本参数。也可以观察牙齿清晰与否,缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

更高效的方法是用AI对抗AI。OpenAI宣布将推出一款工具,用于检测由AI图像生成器DALL-E 3创建的图像。微软开发了一种身份验证工具,可以分析照片或视频,并对其是否被操纵给出评分。

 深度伪造变得越来越容易,人们也越来越难以分辨真假。

生成式人工智能工具的兴起令欺骗性图片、视频和音频激增,如何识别AI生成的深度伪造图像?

像文生图工具DALL-E、Midjourney和文生视频工具Sora,只需要输入一个请求,系统就会输出图像和视频,深度伪造变得越来越容易,人们也越来越难以分辨真假。这些假图像可能看起来无害,但可以用来诈骗、操纵选举等。例如今年4月印度大选期间,两位宝莱坞演员批评印度总理莫迪的假视频就在网上疯传。

如何识别深度伪造?美联社给出了几个方法。在深度伪造早期,技术并不完美,经常会留下操纵迹象,例如照片中有6个手指的手、眼镜镜片形状不同等明显错误。但随着AI的进步,这种观察变得困难。咨询公司Latent Space Advisory创始人亨利·艾德尔(Henry Ajder)说,一些广为流传的建议,比如在深度伪造视频中寻找人们不自然的眨眼模式不再成立,不过仍有一些迹象可以寻找。一些人工智能深度伪造照片尤其是人物照片有一种电子光泽、“一种美学上的平滑效果”让皮肤看起来“非常光滑”。不过,艾德尔也表示,创造性的提示有时可以消除这种光滑效果以及其他AI操纵的迹象。

信也科技算法科学家吕强对澎湃科技(www.thepaper.cn)表示,要通过肉眼分辨图片是否为合成,可以重点观察图片中的细节,例如观察图片中的手指数量是否正常、眼神是否怪异、发丝看起来是否真实等,如果一个眼睛看前、一个眼睛看左就有问题。另外,生成的照片通常在光影上存在瑕疵,并缺乏照片基本参数,例如曝光等。

检查阴影和光线的一致性是识别方式之一,通常来讲,拍摄对象的焦点清晰,看起来栩栩如生,但背景中的元素可能没有那么逼真或被修饰过。如果图像中的公众人物做了一些看起来“夸张、不现实或不符合性格”的事,这也可能是深度伪造。此外,换脸是常见的深度伪造方法之一,据美联社报道,可以仔细观察脸部边缘,面部肤色与头部或身体的其他部位是否匹配。如果怀疑一个说话视频是深度伪造,可以观察嘴唇动作是否与音频完美匹配。艾德尔建议观察牙齿是清晰还是模糊、与现实生活中的样子是否一致。网络安全公司诺顿表示,算法可能还不够复杂,无法生成单个牙齿,因此缺乏单个牙齿的轮廓可能是辨别深度伪造的一个线索。

不过,人工智能发展迅速,大模型正在接受训练,以生产质量越来越高、缺陷越来越少的内容,所以不能保证这些建议在一年后仍然有效。更高效的方法是用AI对抗AI。吕强表示,利用AI的方式识别,首先需要构建一个包括真图和假图的训练数据集,再利用大模型学习两类图片的不同特征,例如用AI学习图片曝光细节,“一张很灰暗的图片出现了一张整体偏白的人脸,这张图片可能就是经过人脸替换的。但有些人对光线不敏感,人眼可能就识别不出来。”当大模型拥有了各类细节的识别能力后,“把这些能力汇总起来,就构成了一个真假图片的辨别矩阵,然后对矩阵结果打分,最终给出来一个真假图片的评判结果。”不过,他也表示,利用AI识别生成图片,算法复杂度并非难点,挑战在数据。“第一可能没有那么多假样本,第二要想让假样本覆盖到很多领域也有挑战。”

目前,微软开发了一种身份验证工具,可以分析照片或视频,并对其是否被操纵给出评分。OpenAI最近也宣布将推出一款工具,用于检测由AI图像生成器DALL-E 3创建的图像。OpenAI表示,在内部测试中,该工具在98%的时间内正确识别了DALL-E 3生成的图像,并且可以最小的影响处理常见修改,如压缩、裁剪和饱和度变化。此外,OpenAI还加入了一个包括谷歌、微软和Adobe在内的行业组织,并计划提供一个有助于追踪不同媒体来源的标准。芯片制造商英特尔的FakeCatcher则使用算法分析图像像素来确定真假。据CNN今年2月报道,Meta也在努力识别和标记共享在其平台上的由第三方工具创建的AI生成图像。

在国内,商汤数字水印技术可将特定信息嵌入到多模态的数字载体中,支持图像、视频、音频、文本等多模态数字载体,可以隐蔽嵌入水印信息,不影响原始内容质量和用户感知,同时抵御攻击,以免被删除或修改。商汤科技表示,数字水印技术可用于版权保护、防伪溯源等场景,在裁剪、压缩等不同程度干扰下,能保证超过99%的水印提取精度,且不会损失画质精度而影响数据质量。

 

版权声明
1. 未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。


2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。

版权声明
1. 未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。


2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。

新闻评论须知

· 请您文明上网、理性发言

· 尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任

· 您的留言只代表个人意见,不代表本站立场

· 天维网拥有管理笔名和留言的一切权利

· 您在天维网留言板发表的言论,天维网有权在网站内转载或引用

· 天维网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容

· 参与本留言即表明您已经阅读并接受上述条款

验证码:
×

查看所有评论  共( 条)

Click here

Advertising With Us