Photo: Screenshot / Facebook

据RNZ报道，海量的 "虚假新西兰新闻"账号正用误导性内容淹没社交媒体，其中甚至包括利用人工智能将Mt Maunganui山体滑坡遇难者的静态照片制作成动画的内容。

如今在脸书上，专门批量生产 AI 生成图片和视频的无良账号几乎无处不在--而且它们仍然成功欺骗了相当多的人。

本文作者在为澳联社进行的一项调查中发现，一个自称"NZ News Hub"（与主流媒体Newshub完全没关系）的脸书账号每周会发布几十、上百条帖子，这些帖子大量采用了RNZ、NZHerald、Stuff等媒体的正规新闻报道内容，同时配上粗制滥造的AI图片或视频。

其中一则帖子的视频令人不适：一名在Mt Maunganui山体滑坡中遇难的15岁女孩的静态照片"动"了起来，变成了她跳舞的视频。

该账号在简介中宣称："NZ News Hub 为您带来最新的新西兰新闻、突发新闻、时政、商业、体育和社区动态"，但账号页面上似乎并不包含任何原创报道。

比如在怀唐伊日当天，该账号发布了一条疑似总理Christopher Luxon在怀唐伊现场的视频，但属于AI制作的"一眼假"。

尽管如此，这个关注者不足5000人的账号仍然有为数众多的粉丝像对待真实新闻一样为它的内容点赞和评论。其粉丝群体中似乎还包括一些企业账号，甚至还有个别政客。

总理Christopher Luxton和财政部长Nicola Willis的一张静态照片被加工成视频。 Photo: Screenshot / Facebook

澳联社试图向该账号运营者寻求置评，但未获回应。

惠灵顿维多利亚大学人工智能与程序开发主管、高级讲师Andrew Lensen说，所谓"News Hub"这个账号上的图片显然都是人工智能生成的。

"这类账号的目标是尽可能获得更多的互动（点赞、评论、转发）以扩大热度和曝光率，这样就能够获得潜在的广告收入。"他在接受记者采访时说。

社交媒体上出现的由AI制作的洪灾虚假内容。 Photo: Screenshot / Facebook

AI工具的普及使得几乎任何人都能建立"假新闻作坊"，而科技巨头们却鲜有监管来遏制其泛滥。许多虚假图片都带有"SynthID"水印，表明它们是用谷歌的人工智能工具制作的--但前提是你必须知道如何找到这个水印。

陶朗加山体滑坡事故后出现的虚假照片。 Photo: Screenshot / Facebook

RNZ此前曾报道，造成6人遇难的Mt Maunganui山地滑坡也在网络上引发了一波AI内容泛滥的情况。

澳联社的另一项调查还发现，很多在社交媒体上传播的图片看起来与事故现场完全不符。

此外，关于遇难者的不实信息也在流传。

NZ News Hub利用 AI 将 15 岁遇难者Sharon Maccanico的照片制作成跳舞动画。 Photo: Screenshot / Facebook

警方此前向媒体提供的一张遇难者Sharon Maccanico的静态照片被该账号"视频化"，让这名15岁的女孩在轻快的音乐中做出几乎不可能完成的高难度动作舞蹈。

此外，NZ News Hub近期还多次转载RNZ报道的大量内容，同时配以误导性的AI信息。

其中一则帖子使用的是RNZ摄影记者拍摄的Luxon与财长Nicola Willis举行新闻发布会的静态照片，通过将照片进行视频处理，让两人在视频中看上去在讨论11月时的大选。

另一则帖子则引用了RNZ 记者Tim Brown近期关于陶朗加一对父母悼念自杀女儿的报道，却用 AI 将 RNZ 的照片动画化，使这对夫妇看起来在彼此微笑。Brown证实，RNZ 从未拍摄过这样的视频。

合法的照片往往会被用于制作带有误导的AI图像。 Photo: Screenshot / Facebook

许多图片确实带有 AI 的特征，但也有一些较难分辨。不过通常还是会有一些蛛丝马迹。

在一张声称显示警方应对奥克兰近期反移民抗议活动的图片中，"警察"制服明显错误，面部严重模糊和扭曲；另一张据称来自上月Mahurangi River溺水者搜救行动的图片中，"警察"制服背后的拼写为"POPFIL"，而图中的河流也与真实河道毫不相像。

甚至新西兰一种标志性鸟类--木鸽也未能在AI下幸免。RNZ 上周一篇关于这种本土鸟类撞窗风险的报道被转载，但配图却被莫名其妙地替换成了一只与实际木鸽完全不像的 AI 生成鸟类。

由AI生成的"木鸽"照片与事实完全不符。 Photo: Screenshot / Facebook

Lensen表示，有些AI图片可能是为了规避版权问题，避免直接剽窃正规新闻机构的视觉内容。

"传统新闻领域的信任危机本身就很严重了，而任何伪装成正规媒体的假新闻都会进一步加剧这种公信力的丧失。"Lensen说。

此外，还有很多虚假脸书账号会发布名人有关的内容，比如用"大爆料"等耸人听闻的标题来吸引点击，但实际却只是"标题党"。这类内容通常伴随着大量弹窗广告，并带有跳转到外部网站的链接，其目的是获取流量、吸引点击并最终实现盈利。

East Cape洪灾后出现的AI假照片。 Photo: Screenshot / Facebook

"NZ News Hub"绝非个例。几乎每一起重大新闻事件--无论是澳大利亚的鲨鱼袭击人类、还是委内瑞拉总统被捕、又或是查理·柯克遇刺等新闻，社交媒体上都会在事发后几分钟内就大量充斥着虚假新闻和图片。

据脸书账号透明度统计显示，很多此类账号实际上与新闻发生地没有任何关联，运营此类账号的国家也在海外，比如越南或马来西亚。

AI生成的照片往往无法很好地处理文字，比如上图中这张惠灵顿当地发布的所谓的"污染提示"。 Photo: Screenshot / Facebook

即便脸书可以打击这些账号，可能很快就会有新的模仿者出现。

目前已经有多个网站在传播与新西兰有关的虚假内容。当然，Tiktok、Instagram、X以及其他此类平台上的虚假照片和视频也处于泛滥状态。

这正是社交媒体平台整体衰败的迹象之一，作家Croy Doctorow将这种情况称为"屎化"（enshittification）。

Lensen表示，像NZ News Hub这类账号的做法恰恰说明了传统媒体在利用AI辅助报道时必须极为谨慎。

"随着AI生成的垃圾内容在互联网上日益泛滥，人们可能会开始重回成熟平台，将正规媒体视为可信的信息来源。但如果这些成熟的媒体本身也使用AI，那我们这个时代哪里还有真相可言？"

RNZ已经发布一套人工智能应用原则，并且， RNZ通常不会发布、播出或以其他方式故意传播由生成式人工智能创作的内容。

尽管NZ News Hub的许多内容已经被举报给脸书的母公司Meta，但截至本文成稿时，相关内容仍然存在。