“奇点”将至，人工智能时代潜藏哪些风险(4)

另外，中国工程院院士倪光南表示，由于目前我国大部分计算机所使用的操作系统等核心技术都不是自己研发的，所以在攻击面前往往会处于被动状态。比如勒索病毒，我们经常是在发现攻击之后才知道，而且发现了漏洞也得等别人给打补丁。未来要实现网络强国，就必须把核心技术特别是操作系统这类核心技术掌握在自己手里，使用自己的研发成果。

“奇点”加速驶近，人类如何安放自我

阿法元(AlphaGoZero)通过自我学习三天后就以100:0碾压人类眼中神一样的棋手阿法狗(AlphaGO)；谷歌和微软宣布正在研究用AI开发AI，特定任务AI甚至超越人类AI专家；基因编辑技术和纳米机器人或将帮助人类活到150岁……种种迹象表明，未来学家和科幻小说中那个神秘的“奇点”正在到来。

黑科技带领人类进入激动人心的崭新时空，同时也给人类带来恐慌：人会被机器取代吗？机器会统治人类吗？或者，最让人不安的就是人类自己？他们可能窃取他人隐私，攻击自动驾驶，劫持智能硬件，甚至成为利用基因技术制造“怪兽”的科学怪人？

迷人又危险的“奇点”加速驶近，人类该如何安放自我？

在科幻电影《我，机器人》中，机器人最终发展出高级智慧和独立思考，并试图控制、拘禁人类，进而成为人类的“机械公敌”。虽然当前人工智能技术离此尚远，但其可能带来的大规模失业，以及可能被用于网络及城市公共设施攻击的潜在威胁，已不是天方夜谭。相比于生物技术、核技术，目前人工智能领域受到的监管和规范很少，几乎处于空白，也容易忽略规划网络空间安全的整体战略布局。

作为负责任大国和在人工智能技术领域发展较快的国家，我国已率先开启了人工智能“社会治理”的探索实践。

今年4月，由工信部倡导，国内多家企业联合发布了《人工智能深圳宣言》，除了强调源头技术创新、建立技术标准外，也提出积极探讨人工智能技术发展与伦理道德的平衡点，让人工智能更好地服务于人类。7月，国务院颁布了《新一代人工智能发展规划》，明确提出“建立人工智能法律法规、伦理规范和政策体系，形成人工智能安全评估和管控能力”。