360集团董事长兼首席执行官周鸿祎说，如今的网络攻击已实现了智能化、自动化，速度极快。“网络安全监控经常会发现一些网络攻击，发现后再去分析研究，拿出解决方案后还未实施，网络攻击已经过去了，而新的攻击已经开始。”

人工智能所依赖的传感器、训练数据和使用的开源软件等存在安全隐患。中国信息通信研究院日前发布的《人工智能白皮书》显示，人工智能产品和应用的研发主要基于谷歌、微软、亚马逊、脸谱、百度等科技巨头发布的人工智能学习框架和组件，而这些开源框架和组件缺乏严格的测试管理和安全认证，漏洞和后门易被恶意利用。

“有一种做法是‘数据投毒’，想办法在训练数据里混入一些不正常数据，训练出的人工智能系统就一定会犯错。软件只要是人写的，就一定有漏洞，比如1000行代码里就会有4个漏洞。” 周鸿祎说，由于漏洞不可避免，目前网络攻防很不均衡。“严格来说，传统大家常见的入侵检测、防火墙、杀毒软件这些技术，在抵御这种攻击上已经显得无能为力。”

“目前人工智能生态还未完全建立，尤其是在产业各个环节处于一个相对割裂的状态，这就意味着黑客有机可乘。” 蓝盾股份高级研究员、人工智能专家江纬说，人工智能所带来的安全风险还包括拒绝服务、信息泄露、系统劫持等，可导致识别系统出现漏判、误判，导致系统崩溃、被劫持，或使智能设备变成僵尸攻击工具等。

风险管控及治理体系亟待建设

“人工智能具有多学科综合、高度复杂的特征，我们需统筹谋划，稳步推进，把增强原创能力作为重点。”邬贺铨等专家表示，在继续加大人工智能研发应用力度、发挥人工智能应用潜力同时，要预判人工智能挑战，从技术、法律等方面“扬长避短”，防范风险。

相关报道: