【天维网综合报道】随着AI技术快速发展，家长在社交媒体上发布孩子照片所带来的风险正在增加。

所谓Deepfake，是指利用人工智能生成或修改图片、视频或音频，使虚假内容看起来像真实内容。

联合国儿童基金会（UNICEF）今年警告，利用AI工具对儿童照片进行修改并制作成色情内容的情况正在迅速增加。

其中一种方式被称为“AI脱衣（nudification）”，可以利用AI修改儿童正常照片中的衣物，制造出虚假的裸体或色情图片。

即使是一张普通的儿童生活照，也可能被AI工具制作成逼真的儿童性虐待材料。

而且，即使社交媒体账号设置为私人账户、好友全部都是认识的人，甚至用Emoji遮住孩子的脸，也不能完全消除照片被获取和滥用的风险。

除了AI色情Deepfake，儿童照片还可能泄露大量个人信息。

例如，照片背景中的特殊树木、围栏等环境特征可能暴露家庭住址；孩子穿着的运动队制服可能透露他们周末会在哪里活动；在游乐场、游泳池或海滩拍摄的视频，则可能暴露孩子经常活动的地点。

由于相关隐私风险，新西兰部分学校已经开始改变做法。

上个月，Palmerston North的Takaro School和Pāpāmoa Primary School宣布停止在Facebook发布学生照片，原因包括儿童隐私问题，以及照片上传互联网后，学校无法继续控制这些图片如何被使用。

与此同时，科技公司Hail向Newstalk ZB提供的一项研究显示，参与调查的学校中，有68%曾经在存在家长同意或隐私限制的情况下，意外发布过相关学生照片。

一旦儿童照片被上传互联网，就可能产生无法预料的后果，而儿童本身往往没有能力决定是否承担这些风险。

成年人可以自行评估风险并决定是否上传自己的照片，但儿童通常无法作出这样的选择。

在AI可以轻易修改和复制照片的时代，家长和学校应该更加谨慎考虑是否在社交媒体公开发布儿童的照片和视频。