人工智能会不会带来世纪灾难？

图为章星球

新一轮人机大战落幕，中国围棋国手柯洁落泪，因为他无法接受以0：3的比分落败。

这一消息的讨论余热还没有退去，又一个关于人工智能（AI）的爆炸性消息传来。近日，Facebook在实验中让两个AI聊天机器人互相对话，发现机器人竟逐渐发展出人类无法理解的独特语言。看到此情景，研究人员不得不对其进行人工干预。

Facebook在研究报告中指出，机器人有时可以很好地胜任客服谈判的角色，甚至懂得使用“先假装而后承认”的对话策略。但是实验中机器人自行发展出新语言让人不安，人们或许可以从中一窥未来世界的样子。语言被认为是人类独有的技能。Facebook的聊天机器人的表现刷新了人们的认知。

作为人类，面对这样的消息，显然不能以“机器人是人制造的，最终还是受人控制”这样自欺欺人的逻辑来安慰。机器人有独立意识后，一旦它们在商量怎么摆脱人类的约束，人类该怎么办？

前几天，看到杨小刚先生在第一财经APP发表了《阿尔法狗炒股摸彩票一定能战无不胜吗？》，对人工智能会否给人类带来灾难表达了积极乐观的态度，我其实同意该文很多观点，如机器可能超越人类，但却无法取代人类；如应该为技术文明的飞跃欢呼，以及由此还可以引发人类终极话题的重新思考等。

这样的乐观当然是有强大理由的，因为人类毕竟在风雨跌撞中走过了几千年，拥有了今天的繁荣与自信。这篇文章倾向于相信这样一种哲学：人工再怎么发达，都不可能超越人类，世界虽然是客观存在，但人类所及只是人类思维的主观反映结果，如果有一种人类人工可以超越人类，则意味着其已经进入超验范畴，那就是人可以造神，而不是神造人了。

乐观的理由虽然不少，但我觉得悲观的理由也可以找出一箩框。而且这种“乐观”很大可能会建立在巨大灾难的基础上，即表现为所谓风雨过后的“彩虹”，至于“彩虹“之前的“暴风雨”会是怎样烈度的肆虐，从人类有过的无数次的战争灾难来看，我想没有人会愿意身处那个“彩虹”之前的“暴风雨中”吧。

人类历史几千年的真实经验就是，科技的飞跃每每伴随着灾难的升级，每一次“彩虹”之前的“风雨”，都可能是动辄千万计的生灵席卷其中。