人工智能会不会带来世纪灾难？(3)

人类几千年走过来，无数人口惨遭战争荼毒，即使尸骨如山，即使血流成河，人类的记性到目前为止却看不出有多少长进。因此，中国的历史学家总结出了治乱无休止循环的“周期律”，现实政治中不乏热衷“大杀器”的领导人。

战争灾难的本质是什么？目前甚至连准确的定义都没有，更谈不上已经找到和平的钥匙。既然战争难以避免，我们人类就难以避免有人把先进武器运用于战争。

我对战争灾难的理解是：人类价值伦理及其催生的制度体系跟不上科技文明体系发展的节奏导致的悲剧。科技文明已经形成了高度健全的研发体系，就像汽车的发动机一样动力不断升级，而人类的价值体系却仍然被一些古老的法则所支配，就好比1.0版本的控制系统搭配10.0版的发动机，拖拉机的驾驶室搭配泰坦尼亚级巨轮，你坐在这样的巨轮上觉得安逸，其实只是因为暂时风平浪静没啥暗礁而已。

今天世界的大体安宁，一方面得益于科技文明爆发式增长创造的物质社会相对充裕，自然资源的稀缺性被暂时掩盖（科技可以创造一切的信念使很多人注意不到空气和水资源、动植物资源这几类核心资源的总量并没有随着科技快速增长的事实），另一方面则受益于核武器的可怕力量使大国之间不敢轻启战事。至于价值伦理体系严重滞后于科技文明体系的事实则仍无根本改观。

杨小刚先生的文章预期，当人工智能发展到一定程度，就像“不扩散核武器条约”一样，人类也会出台一个如何利用和开发人工智能的条约。

问题在于，核不扩散条约真的已经解决核危机了，还是仅仅暂时缓解？力量博弈下的妥协能否可以视作问题的解决？不同国家、民族、宗教之间的仇恨未解决，仅仅是担心一打架大家都得死伤惨重就放弃攻击，这种和平显然只是相对和平，也许在平衡打破的时候有人想动手，也许还有人丧心病狂就抱同归于尽的决心想动手。再说，核不扩散条约的公平性能获得多少国家认同？还有多少没进核俱乐部的国家还在梦想着拥有“大杀器”呢？仅仅二十年间，拥核国家不也从五个飙升到了八个吗？再给一百年会发展到多少个？

所以实际情况是，人类其实还没有解决核危机时，人工智能时代又到来了。1.0的驾驶室控制10.0的发动机已经疲于应付，20.0版的发动机又诞生了。