江晓原：人工智能是人类正在玩的最危险的火

斯蒂芬·霍金、比尔·盖茨和伊隆·马斯克等人，早就呼吁世人警惕人工智能的盲目研发，特别是要警惕军事用途人工智能的研发，认为这有可能“唤出魔鬼”。马斯克更明确表示，“我们需要十分小心人工智能，它可能比核武器更危险”。我认为，人类现在正在玩的最危险的火有两把，即基因工程和人工智能，其中更危险的就是人工智能，但是很多人并没有认识到这一点。

一、近期威胁：大规模失业、军事化用途

第一，大规模失业。当下，人工智能在中国的发展速度十分迅猛，大多数人对这样“弯道超车”的现象持乐观态度，但我认为这未必是好事，其结果很可能是替发达国家承担“趟地雷”的任务。人工智能在工业上的大规模使用，导致工作岗位被机器人所取代，社会迎来一大批失业人群。虽然大部分的工作由人工智能完成，其创造的财富也会不断增长，但是却会迎来新的社会财富分配问题。若大部分失业者所得财富仅略少于少数工作者一点，势必会挫伤工作者的积极性;若财富分化悬殊，小部分工作者所得财富远高于多数失业者，必将导致失业群体的不满，激化社会矛盾。

第二，军事化用途。将人工智能用于生产更高效率的杀人武器，比如无人机，以前攻击目标是由人来做出决定的，但现在人工智能技术下生产的无人机，追求的是不再需要人来指出攻击目标即可自动判定目标执行攻击，这无疑是将杀人的权力让渡给一个机器。而杀人的罪责到底是由制造机器的厂家承担还是机器的归属人来承担，这些问题都还未有相应法律法规作为规范。最近马斯克等116人联名呼吁“不要研发杀人的机器人”，声音更大了。

在这个问题上各大国都处在被劫持的状态。人们常说“落后就要挨打”，其暗含的逻辑就是“先进可以打人”，先进的国家可以欺压落后的国家，即使各国不希望制造杀人武器，但又不得不制造杀人武器，因为谁也不想落后，谁也不愿挨打。

实际上人工智能军事化的危害性，并不在于其导致伤亡人数的多少，战争也不会因为其导致伤亡较少而变得就可取。在此，推荐一部美国的纪录片《零日》，影片中美国和以色列为了破坏伊朗的核计划联合研发了一种超级病毒。事实上，这种超级病毒就是一种幽灵般的人工智能，它感染了伊朗的网络之后，会自动寻找和识别特定的目标——离心机的控制器。由于病毒设计巧妙，它在当时几乎无法被侦测出来，而且它也不会去破坏和干扰除了离心机之外的任何别的机器，所以刚开始它隐蔽得很好。然而，美国人偷笑的时间并没多久，这种超级病毒还是被发现了。不仅被发现了，而且被破解了。这就意味着伊朗及其盟友，也获得了这种超级病毒。人工智能的军事化应用当然比原子弹能造成的伤亡要小，但其破坏性一样不容小觑。