Top
首页 > 新闻 > 商界 > 正文

AI换脸让朱茵变杨幂引争议 阿里安全专家揭秘技术原理

近日,一则AI换脸的视频在网络上广为流传,引发广泛热议。视频中,《射雕英雄传》里朱茵饰演的角色,通过AI技术被换成了杨幂的脸,而且整个视频清晰、流畅,完全看不出来是换了脸。
发布时间:2019-02-28 10:39        来源:赛迪网        作者:向坤

近日,一则AI换脸的视频在网络上广为流传,引发广泛热议。视频中,《射雕英雄传》里朱茵饰演的角色,通过AI技术被换成了杨幂的脸,而且整个视频清晰、流畅,完全看不出来是换了脸。

1
图说:网络上流传的AI换脸视频,《射雕英雄传》中朱茵饰演的角色被换成了杨幂的脸

如此高阶的换脸技术也引来了网友的恐慌,“怎么实现的换脸?如果这一技术被用在其他地方,会怎么样?我会不会被别人假冒了都不知道?”对此,阿里安全图灵实验室高级算法专家觉奥在接受记者采访时表示,换脸技术并不新鲜,很久之前在影视制作中就有,是通过大量人工和计算机图形图像工具来实现,而现在由于技术的发展,纯用技术就能实现完美的换脸。

具体来说,觉奥指出,当前主流的换脸技术是基于深度学习模型的,其核心是一个“自动编码器”,具体而言,通过人脸检测技术,把视频中两个人,比如朱茵和杨幂的脸抓取下来,数量需要几千到几万张,之后训练这一个自动编码器和两个解码器,一个解码器生成朱茵,另一个生成杨幂,训练好以后,输入朱茵的脸就能生成杨幂的脸了。

这一技术的应用会引发何种问题?觉奥表示,除了换脸引发的道德和伦理问题,黑灰产利用AI换脸,是目前常见的一种攻击手段,“在人脸识别系统中,识别换脸的技术叫活体检测技术,这是一个攻防对抗技术,即用AI的手段来解决AI的攻击。”

2
图说:用户在体验阿里安全实验室带来的“实人认证-酒店入住核身”技术

举个例子,2017年11月下旬,阿里安全图灵实验室就发现,有犯罪团伙通过3D软件控制人脸照片进行攻击操作,共发起过几百次攻击,导致近百名受害人驾照分被盗刷。通过3D合成“假脸”认证账号注册或登陆后,黑灰产人员可在受害人毫不知情的情况下,用于黑卡虚假注册、刷单、薅羊毛、诈骗等不法行为。

阿里安全图灵实验室基于安全AI的方法来很好地解决这一攻击问题。“通过深度学习技术,训练模型,来通过两者的纹理、肤色、反光等特性的不同而识别出来。”觉奥表示,可实现在毫秒级时间内揪出假人脸,目前识别准确率达到99.9%。

“这几年,由于深度学习的迅猛发展,攻、防的技术都在不断进步,这是一个持续、动态对抗的过程,我们有信心和能力做好。”觉奥表示。

当前,无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,包括人脸识别系统,但一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。阿里安全图灵实验室于今年年初提出了安全AI的概念,包含AI本身的安全性、用AI手段去解决安全问题和强对抗场景下诞生的新一代AI,希望提升行业对这一领域的关注,并推动AI更好的发展。

合作站点
stat