“奇点”将至，人工智能时代潜藏哪些风险(3)

上海市信息安全行业协会会长、众人科技董事长谈剑峰说：“每一种新技术都可能意味着新的个人权利让渡。比如从指纹解锁到人脸识别，手机厂商可能从收集用户指纹到收集用户脸部特征数据。生物特征是唯一特征，但这反而可能是不安全的。密码丢失后可以设置一个新的，但有大量生物特征信息的服务器一旦受到攻击，数据库被拿走，你不可能再有第二张脸。”谈剑峰表示，“鉴于目前还没有完全保险的方式来保证生物数据的安全，减少攻击面就变得非常重要，也就是说尽量少用生物数据，或仅仅将生物数据用在不太敏感的场合，不建议用于关键场合的身份认证、转账交易等。”

自动驾驶已是各大科技公司的兵家必争之地。然而跟手握方向盘的可操控相比，无人驾驶的潜在风险仍然令人担忧。

360公司安全技术人员表示，人工智能新型技术带来的安全潜在风险是多方位的：传感器风险，不法分子可能通过干扰让传感器失效，或者误导传感器，比如误导摄像头将车跑出路面；代码风险，人工智能算法的代码如果设计不周，可能让黑客有机会篡改实时代码，让结果出现偏差；产品风险，黑客可能远程挟持智能硬件或者植入恶意代码，可能对周围的人带来伤害。

加州大学伯克利分校计算机系教授宋晓冬说，她和同事研究发现，在实施一些技术干扰后，计算机在进行深度学习时容易被欺骗，比如一个“禁止停车”标志，可能被计算机解读为“限速”标志。

而对于人工智能用于医疗设备的安全问题，过去多年一直没有引起重视，2016年度美国食品药品监督管理局颁发的指南里开始提及。

显然，不能等到出现严重事件后才敲响警钟，之前等安全事件出现后再面对问题的教训已经够多，未雨绸缪才是正确选择。

没有网络安全就没有国家安全，而建设网络强国是一个长期的系统工程。

关于网络安全怎么保障，中国工程院院士沈昌祥建议用可信计算筑牢网络安全防线。“没有免疫系统的孩子只能生活在无菌状态，给计算机系统杀病毒、建防火墙，都是被动的，不解决根本问题，也是过时的。我们应该主动进行安全防护。”

据沈昌祥介绍，可信计算，是一种运算和防护并存的主动免疫的新计算模式，以密码为基因，实施身份识别、状态度量、保密存储等功能。及时识别“自己”和“非己”成分，从而破坏与排斥进入机体的有害物质，相当于为计算机信息系统培育了免疫能力。