人工智能会不会带来世纪灾难？(5)

一：如果人工智能不能在价值和道德意识方面超越人类，单纯的功能超越不能视为超越了人类。

二：如果人工智能进化到价值和道德意识方面也超越人类，那么人工智能多半不会与人类为敌，而可能与人类和平相处。

但是，我是比较怀疑第二条的，我相信人工智能在功能上片面地极大地超越人类是大几率事件，而人类落后的伦理体系导致的冲突随时可能再次打开潘多拉的宝盒。灾难与否，不取决于我们的乐观与悲观态度，而取决于人类自己的选择。历史一旦成为历史都是必然，但一切历史在发生之际却都是偶然。也许我们这一代有幸逃过战争灾难，但我们真的要为子孙后代祈福并做点什么才好，让权利有效制约权力，才能让工具最小几率落入丧心病狂者手里，这或许是我们最迫切需要做的一件事吧。（作者为深圳市马洪基金会智库百人会会员）