人工智能会不会带来世纪灾难？(4)

杨小刚文章说到：人工智能最可怕之处不在于其本身，而是制造者—----人本身。

我恰恰从这段话看到了不乐观。首先，在人工智能协助下，一个人可以拥有巨大的毁灭力量，这一刻是一定会随着科技的爆发而到来的。人工智能从某种功能和片面属性上超越人类，是已经不断发生的事实，没有发生甚至也不可能发生的应该是整体超越人类，尤其是价值判断能力方面，比如机器人能不能进化到怀疑杀死某个人的指令是否合乎道德？人工智能的危险就在于科学家可能不会优先去研究如何创造机器人的价值判断能力，而会片面发展人工智能的技术能力直至这种片面能力可以让个别人拥有远超常人的力量。尤其战争和恐怖活动的需要更会刺激这种研究偏向于优先发展人工智能的破坏能力。

但是，能够制约这种力量的力量，人类的道德价值系统，我认为从目前的现状来看，未来几十上百年都不会有根本的改观，有些人指望“道德风险意识”能抑制能人的疯狂，但这显然是很难保障的，因为学科的分工决定了一个卓越的科学家不一定是道德和伦理方面高度理性自觉的人，甚至偏偏还就是一些非常偏执疯狂的人。

当然，世界上总是偏执疯狂与理性自觉的人都有，关键要看工具掌握在谁手中，用来干什么。

这恰恰也是很难乐观的事，这种工具说白就是一种权力，权力能不能就掌握在正义者手里，从来都是打不了包票的事。尽管当今世界大多数的“大杀器”是掌握在“负责任”的领导者手里，但显然也有很大几率落入到无良政客手里。要想最大几率避免工具落入无良政客手里，显然需要公民权利对公共权力的有效选择与制约，但这对当今世界显然还是一件任重道远的事，还远未达到可以乐观的地步。

除了权利与权力关系的再造，要想尽可能地降低人工智能带给人类灾难的几率，我还想提一种古老的智慧，那就是来自《易经》和孔夫子的“知崇履卑”观念。《易？大传》上说“知崇礼卑，崇效天，卑法地。”我的理解就是，要以认识世界为目的，而不是以改造世界为目的。认识是天，行动是地。求知要放开思路，大胆思考，行动或应用则要谨慎小心，如履薄冰，诚惶诚恐，三思后行。

回到人工智能研究与开发，就应该将研究目标优先定在通过人工智能研究认识人类自身，也就是从高科技层面回到苏格拉底“认识自己”这个古老命题，是要通过模仿和再现人类智慧来认识人类自身，最核心则是将人工智能的价值判断能力放在主攻方向，通过人工智能研究再现人类的价值判断能力这一目标如能实现，则即使人工智能有朝一日进化到超越人类，也会因为拥有价值判断能力和道德意识而选择不与人类为敌。我们或许可以总结出如下两条：