微软打击深度伪造,为 AI 生成的图像和视频加上“身份证”

远洋
随着越来越多的“深度伪造”图像和视频出现,微软决定采取主动措施,确保其程序生成的AI艺术能够被识别出来。

本文来自IT之家,作者:远洋。

微软近期推出了多款基于人工智能的软件和服务,3月份该公司正式发布了Bing Image Creator,让用户可以用简单的文字提示来创作艺术作品。4月份,该公司又推出了Microsoft Designer的完整公测版,让用户可以用文字提示和AI模型来创建博客文章、网站等项目。

360截图16251112669372.png

然而,人们也担心AI生成的艺术作品可能被恶意利用,造成虚假信息的传播。随着越来越多的“深度伪造”图像和视频出现,微软决定采取主动措施,确保其程序生成的AI艺术能够被识别出来。今天,在微软Build 2023开发者大会上,该公司宣布将在未来几个月内增加一项功能,让任何人都能识别Bing Image Creator和Microsoft Designer生成的图像或视频片段是否是由AI生成的。

微软表示,“该技术使用密码学方法对AI生成的内容进行标记和签名,并附上有关其来源的元数据信息。微软一直是验证来源方法研发的领导者,并联合创立了Project Origin和内容来源和真实性联盟(C2PA)标准机构。微软的媒体来源验证将按照C2PA标准对生成内容进行签名和验证。”

微软表示,该功能将适用于其两款AI内容生成程序支持的“主要图像和视频格式”,但是没有公布具体支持哪些格式。IT之家此前曾报道,微软本月早些时候宣布Bing Image Creator现已支持100多种语言,该程序已经创造了超过2亿张图像。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论