OpenAI推AI图片检测工具,AI生成内容将被打上“认证水印”
作者: 澎湃新闻 日期:2024-05-08 16:57 阅读:0 来源:澎湃新闻
据澎湃新闻报道,人工智能巨头开始进一步考量如何保证AI生成内容的真实性。
当地时间5月7日,OpenAI发布一款图像检测分类器,能够区分非人工智能生成的图像和DALL-E 3生成的图像,能正确识别约98%的DALL-E 3生成图像。
OpenAI表示,该分类器还可以处理常见的修改,如压缩、裁剪和饱和度变化。不过,其他修改则会降低分类器的性能。同时,分类器在区分文生图大模型DALL-E 3与其他AI模型的生成内容方面性能也较低,在内部数据集上只标记了约5%-10%由其他AI模型生成的图像。
目前,该分类器仅向第一批测试者开放使用申请。
OpenAI的图像检测分类器界面
此外,OpenAI还提及了音频水印技术,不过目前仍处于研发阶段。OpenAI表示,增加防篡改水印,在音频数字内容上标记难以去除的隐形信号,也将确保数字内容的完整性。
OpenAI也强调,创建新技术目前是为了专门帮助识别由OpenAI自己的工具创建的内容,此外还要与其他公司一起采用、开发和推广一种开放标准,帮助人们验证用于创建或编辑多种数字内容的工具。
为此,OpenAI宣布加入C2PA(内容真实性联盟)指导委员会。据介绍,C2PA是一个被广泛采用的数字内容认证标准,由软件公司、相机制造商和在线平台等众多参与者开发和使用,可用于证明内容来自特定来源。微软、Meta、谷歌等也是C2PA指导委员会的成员。
OpenAI表示,今年早些时候就已开始在ChatGPT和OpenAI API中为由DALL-E 3创建和编辑的所有图片添加C2PA元数据。并且将会在Sora推出时,也为模型整合C2PA元数据。
据称,这些信息无法被轻易伪造或篡改,随着标准采用率的提高,可以覆盖内容的共享、修改和重新使用等环节。
近年来,随着生成式人工智能快速发展,AI内容愈发真实,AI换脸、AI变声等新型诈骗也层出不穷,确保数据安全和内容真实性也成为全球共识。中国相继出台《关于加强科技伦理治理的意见》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等多项法规和政策;4月23日,中央网信办再次强调要加强信息来源标注展示,使用AI等技术生成信息的,必须明确标注系技术生成。
版权声明
1. 未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。
2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。
版权声明
1.
未经《新西兰天维网》书面许可,对于《新西兰天维网》拥有版权、编译和/或其他知识产权的任何内容,任何人不得复制、转载、摘编或在非《新西兰天维网》所属的服务器上做镜像或以其他任何方式进行使用,否则将追究法律责任。
2. 在《新西兰天维网》上转载的新闻,版权归新闻原信源所有,新闻内容并不代表本网立场。
- 中国电商物流指数连续两个月环比上涨
- TikTok正式起诉美国政府,称封禁法案违宪
- 嫦娥六号探测器成功实施近月制动 顺利进入环月轨道飞行
- 不顾预警连年向财务公司超限存款,ST亿利40亿巨额资金出险
- 日本一些人启动新一轮所谓中国“债务陷阱”炒作,中国驻日本使馆回应
- 2023年全国广播电视和网络视听行业总收入同比增长13.74%
- 珠海有轨电车停运3年后拆除,专家建言“可替代交通方案”
- 对内容进行数字化升级,上海大光明电影院将焕新登场
- 94岁的巴菲特和伯克希尔·哈撒韦
- 全球多地挑战“苹果税” ,渠道费抽成争议何起?
· 请您文明上网、理性发言
· 尊重网上道德,承担一切因您的行为而直接或间接引起的法律责任
· 您的留言只代表个人意见,不代表本站立场
· 天维网拥有管理笔名和留言的一切权利
· 您在天维网留言板发表的言论,天维网有权在网站内转载或引用
· 天维网新闻留言板管理人员有权保留或删除其管辖留言中的任意内容
· 参与本留言即表明您已经阅读并接受上述条款
查看所有评论 共( 条)