换脸开门禁、模仿字迹写欠条 AI时代机器人是否会学坏？(2)

在现场，选手选用了两款主流品牌的手机，其中一台测试指纹，另一台测试指纹+虹膜+人脸识别，选手通过让测试者使用伪装的接线板采集了指纹信息，通过让测试者戴上特制的VR眼镜采集了虹膜信息，通过测试者一张清晰的自拍照采集了人脸信息。最终除了指纹识别没有在规定时间25分钟内攻破外，虹膜和人脸识别都被破解。

高树鹏表示，生物识别其实并没有那么安全，因为生物信息是不可更换的。“只要复制下来就成功了一大半，剩下的就是把复制下来的信息重新制作出来，包括大家见得最少、公认安全性最高的静脉，其实也可以被攻破。”

这种化繁为简的身份验证方式所带来的潜在风险甚至比传统的密码技术更为严重。

“因为生物特征有一个特点就是不可逆，指纹一旦交出去，指纹没法改。”乐视云计算安全中心总经理、IDF 极安客实验室、益云社会创新中心联合创始人万涛告诉第一财经，这也意味着生物识别技术资料一旦泄露无可挽回。

AI伪造真人字迹以假乱真

除此之外AI还可以模仿人类笔迹，达到以假乱真的地步。来自中国金融认证中心选手使用使用AI机械臂成功复制中国科幻作家陈楸帆提供笔迹学习样本，写下一张真假难分的“欠条”。

事实上，由于个人书写习惯等因素影响，AI机械臂在学习过程中，需要学习和模仿字迹特有的笔触、线条宽度、书写习惯、字体倾斜程度等，才能成功复制人的书写笔迹。

据选手介绍，这种技术称之为GAN（生成对抗网络），会提前输入真的书写数据，让AI进行学习，随后利用生成算法来模拟生成一部分假数据，再把两个数据交由判别算法进行辨别，这个机器裁判就像人类笔迹鉴定专家，直到机器裁判都判断不出真假时训练才停止。

今年2月份，OpenAI 在发表的最新研究中就曾指出AI安全领域的另一大隐忧对抗样本。在图像识别问题中，攻击者将对抗样本输入机器学习模型，让机器在视觉上产生幻觉，从而让系统产生误判。