专家解读AI换脸技术背后 被滥用有侵犯隐私之嫌
- 来源:互联网
- 作者:新华日报创意中心
- 编辑:陶笛
近期,社交媒体平台上一款名为“蚂蚁呀嘿”的特效火爆全网,许多网友都将自己的照片导入换脸软件Avatarify中,照片便可以被算法驱动,生成一段表情夸张扭曲且跟着节奏晃动的换脸短视频。
短短几天后,正如此前火爆一时的换脸软件ZAO一样,Avatarify被下架,许多人猜测下架原因是AI换脸可能涉及隐私问题。AI换脸技术的原理是什么?换脸是否会造成个人隐私泄露?带着网友的提问,《科技周刊》记者专访东南大学网络空间安全学院副教授宋宇波,为我们揭开AI换脸技术的秘密。
问:AI换脸技术背后的原理是什么?
宋宇波:最早实现换脸是通过修图(Photoshop)的方式实现的,不仅耗时耗力,其换脸效果也不佳。而目前比较流行的换脸软件,实际上是运用了生成式对抗网络(GAN)技术,这是深度学习模型中的一种。简单来说,就是机器通过事先采集大数据中的人脸表情特征,再结合换脸人本身的一些特征信息,通过“对抗博弈”的方式不断进化,最终生成我们所希望得到的换脸视频。这种方式不仅可以快速地实现自动换脸,其生成的图像也更逼真。
问:什么是生成式对抗网络?
宋宇波:尽管生成式对抗网络中包含“网络”一词,但它和我们通常所说的“互联网”并不是一回事,它本质上是一个数学算法。由于生成式对抗网络采用的是深度学习中的神经网络学习算法,故而保留了“网络”两个字。
生成式对抗网络框架通过让两个神经网络相互博弈的方式进行学习,其中一个是生成器,另一个是判别器。
值得注意的是,机器前期采集的喜怒哀乐等通用表情信息主要来源于大数据图库,而并非换脸人的个人表情信息。这也就意味着,利用对抗生成网络技术实现的换脸仅需要不多的个人人脸照片即可。该换脸技术诞生最初大概需要300-500张换脸人的图片,而随着近年技术的不断改进,现在仅仅需要3-5张相关照片就可以生成需要的换脸照片或者视频。
问:AI换脸是否存在个人隐私泄露风险?伪视频、伪图片能攻破人脸识别系统吗?
宋宇波:任何一种技术都存在两面性,如果单纯是为了搞笑消遣而制作换脸视频,本身并没有太多的危害,但如果这一技术被不法分子利用,则会产生极大危害。信息被滥用、个人生物识别特征被泄露等风险,是这类软件频繁引发质疑的一个重要原因。
对于政治人物或明星来说,将他们的脸移植到一些他们本不该出现的场景中,很有可能造成负面影响;而对于个人来说,目前许多金融场所都依赖于视频线上识别来进行身份核实,如果不法分子运用深度合成中的表情操纵方法生成伪视频,则很可能造成个人金钱损失。
2019年11月底,国家网信办、文旅部和国家广电总局等三个部门联合发布的《网络音视频信息服务管理规定》指出,利用基于深度学习、虚拟现实等新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;不得利用相关的音视频技术“侵害他人名誉权、肖像权、隐私权、知识产权和其他合法权益”。
就目前而言,通过App下载的换脸图片或者视频,由于计算量有限,其图像质量还比较差,仔细观察后还是存在面部不自然等问题。而那些图像质量高到可以欺骗人眼的换脸图片和视频,在相关检测算法的判别下通常也都会“原形毕露”,因此,普通用户不必过于担心人脸识别系统会被攻破。但随着技术的不断改进,未来这类软件很可能对我们的个人隐私造成较大威胁,因此我们也呼吁相关法规尽快出台。
- Armv9架构CPU内核Cortex-X925和A725发布
- 欧盟宣布成立人工智能办公室 对AI进行监管
- 中国移动:无人机咖啡配送首次落地试飞成功
- OpenAI CEO 阿尔特曼“捐赠誓言” 承诺未来捐出大部分财富
- 美光计划在日本建造新的DRAM工厂 预计2027年末投入运营
- 丰田展示适用于多种燃料的紧凑型发动机 多元化动力总成战略
韩国人是什么天生色色圣体吗?
廉颇年轻人的新时代偶像奥德彪,挣扎在非洲最穷的国家拉香蕉
事件 阿姨王丽现在知道谁是中国游戏圈的永恒挡箭牌了吧
廉颇二十多年后,“大宇双剑”成了大宇必须抛弃的东西
Marvin地狱之刃2:塞娜的传说 act 2024年5月21日
对马岛之魂 arpg 2024-05-16
黑帝斯2 act 2024-05-07
星刃 rpg 2024-04-26
百英雄传 rpg 2024-04-24
地平线:西之绝境 act 2024-03-21
最终幻想7:重生 rpg 2024-02-29
碧海黑帆 rpg 2024-02-16
-
开始游戏 进入官网
权力的游戏:凛冬将至
-
开始游戏 进入官网
原始传奇
-
安卓下载 进入官网
斗罗大陆(我唐三认可0.1折)
-
安卓下载 进入官网
补天志(0.1折摸金搬山卸岭)
-
安卓下载 进入官网
坦克兄弟连(0.1折疯狂千抽)
-
开始游戏 进入官网
我是大英雄
-
开始游戏 进入官网
猫狩纪0.1折
-
开始游戏 进入官网
火柴人觉醒
天选美女福利图赏 JK制服诱惑让人抵挡不住
日本美女Glico_happy福利图 喜欢胶衣丝袜展示好身材
3DM轻松一刻第1229期 要女友穿迷彩服是什么XP?
俄罗斯美女Cos《尼尔》2B美图 黑丝白丝性感至极
玩家点评 (0人参与,0条评论)
热门评论
全部评论