当前位置:经济频道首页 > 经济要闻 > 正文

换脸开门禁、模仿字迹写欠条 AI时代机器人是否会学坏?

2017-10-27 09:20:50    第一财经APP  参与评论()人

相较于AlphaGo Zero自我进化对人类的威胁,当下AI技术所存在的安全漏洞则更为触目惊心。

陌生人就能换脸攻破门禁系统闯入公司,一段合成的语音竟能对声纹识别系统实现“诱骗袭击”,3D打印机模仿真人笔迹写下的欠条难分真假,就连刚刚上市的iphone 8操作系统也被破解,黑客可以完全控制手机,盗取用户手机内的照片。

这些场景都真实的发生在GeekPwn2017国际安全极客大赛上。GeekPwn是主要关注智能生活的安全极客(黑客)赛事,这些“白帽子”不会恶意利用计算机系统或网络系统中安全漏洞,而是通过提示和公布等方式,促进漏洞的修补。

当智能无处不在无时不在,包括人工智能、物联网智能设备、基础设施安全系统问题也逐渐暴露,不同与传统IT安全攻防技术,AI时代的安全对抗已经从单纯的信息技术的比拼,上升到人工智能算法的较量。

行走的活体密码

在中国“刷脸”已经成为一件日常事务,从移动支付、解锁手机,到公司、学校、小区门禁,甚至到火车站乘车、公园领取厕纸都运用到了人脸识别技术,光环之下人脸识别的安全风险也频频遭到质疑。

在活动现场,毕业于浙江大学计算机专业的90后女黑客“tyy”仅仅两分半的时间,就利用设备漏洞,直接修改设备中的人脸信息,实现用任意人脸来“蒙骗”人脸识别系统,打开门禁。

“这个关于人脸识别的安全挑战,并不是针对AI技术层面的攻击,而是按照传统的方法控制设备,对设备进行攻击。”在赛后采访中tyy告诉第一财经。简单而言,所有的门禁设备都会连接网络,黑客只需要连入同一个网络,并入侵到门禁系统将用户的脸替换为自己的脸,就可以刷脸打开门禁。

如果这只是对设备和人脸识别的攻击,那么无需攻击设备,包括虹膜、声纹、指纹在内的不同生物特征识别技术同样面临风险。

在比赛现场来自百度安全实验室X-Lab的选手高树鹏针对生物密码进行攻击,通过复制测试者的生物密码信息解锁测试者的手机,而这一列举动并不需要对测试者的手机发起攻击。

为您推荐: