魔高一尺道高一丈,Facebook微软牛津大学等联合围剿“换脸”伪造技术

魔高一尺道高一丈,Facebook微软牛津大学等联合围剿“换脸”伪造技术

Facebook表示,它正在与微软合作,人工智能合作伙伴关系和国际学术团队共同发起创建一个Deepfake Detection Challenge,这是一项开发更好的标记伪造视频工具的竞赛。

苹果、微软与谷歌、Facebook的商业模式护城河有何本质异同?
再谈Facebook和谷歌,平台还是聚合器?
Facebook“超主权货币”的苦恼
魔高一尺道高一丈,Facebook微软牛津大学等联合围剿“换脸”伪造技术插图
魔高一尺道高一丈,Facebook微软牛津大学等联合围剿“换脸”伪造技术插图(1)

加利福尼亚大学伯克利分校开发的Deepfake检测软件分析了头部倾斜和面部特征,以确定唐纳德特朗普总统的视频是伪造的。

Facebook表示,它正在与微软合作,人工智能合作伙伴关系和国际学术团队共同发起创建一个Deepfake Detection Challenge,这是一项开发更好的标记伪造视频工具的竞赛。

Facebook的首席技术官Mike Schroepfer 今天在一篇博客文章中说: “我们还资助研究合作和奖项,以帮助鼓励更多人参与。” “总的来说,我们投入了超过1000万美元资助这项全行业的努力。”

Deepfakes使用语音模仿和视频操作使其看起来好像很有名 – 特别是政治家 – 正在说操纵者想要他们说的话。例如,华盛顿大学的研究人员最近展示了一种在巴拉克奥巴马总统口中说话的技巧。

魔高一尺道高一丈,Facebook微软牛津大学等联合围剿“换脸”伪造技术插图(2)

视频处理已经引发了政治争议:5月份通过Facebook和Twitter广泛发布的一个这样的视频让众议院议长南希佩洛西在新闻发布会上显得酩酊大醉。专家表示,在导致2020年总统大选前的虚假宣传活动中,这个做法几乎肯定会发挥作用。

魔高一尺道高一丈,Facebook微软牛津大学等联合围剿“换脸”伪造技术插图(3)

幸运的是,研究人员已经开始研究检测深度缺陷的工具:6月,加州大学伯克利分校的计算机科学家展示了一种软件工具,该工具分析了特有的面部表情和头部动作,以区分真实视频和假货。

Facebook的挑战模仿其他人工智能竞赛,主题从常识推理到完成一个句子。Facebook将创建一个标准数据集,使用已经同意将他们的视频用于练习的付费演员。不会使用Facebook用户数据。下个月在韩国计算机视觉国际会议的工作会议期间将审核视频和挑战程序,并于12月发布,供团队参与。

参赛者将有一个排行榜,竞赛将由AI人工智能与媒体诚信指导委员会监督。Facebook和微软将与委员会以及WITNESS和其他组织一起代表公民社会,技术,媒体和学术研究。

学术合作伙伴包括伯克利,康奈尔科技,麻省理工学院,牛津大学,马里兰大学帕克分校和奥尔巴尼 – 纽约州立大学。

牛津大学教授Philip HS Torr在一份声明中表示,这类换脸的威胁并不仅限于美国。托尔说: “我相信我们迫切需要新的工具来检测和描述这些错误信息,所以我很高兴成为一项旨在围绕这些目标调动研究团体的倡议的一部分 – 既要在推动科学前沿的同时保持真理。”

0

COMMENTS

WORDPRESS: 0
DISQUS: 0