许成钢：为什么用大数据、人工智能去建立计划经济是行不通的

因此，结论性的意见就是你没有办法训练源于人自身的原始偏好和动物性而产生出来的目标行为。今天我们见到的可以深度学习的人工智能，实际上只限于训练模仿人在已知的环境里的行为。因为，你是靠已知的环境下收集的数据训练的。例子就包括在市场中的消费行为、在自由环境里参加讨论的那些人的社会行为，以及比如说面对一个知音者或一群知音者，音乐家的表演行为。你收集到的行为实际上是有限的，是限定在已有制度里的，你拿这个来训练你的机器人，机器人会模仿在这个状态是什么样，一旦脱离了训练的环境，没有原始动力的人工智能实际上是没有办法的。

人工智能能干什么？

到底人工智能能干什么？能干的事非常非常多。刚才我们讲的是它不能干什么，它能干的事儿就是它可以规划，也可以执行。但是它能够规划和能够执行的事的前提必须是，你的目标是清楚规定的。

因此，人工智能会有非常大的革命，它产生在所有你能想象的、能明确规定目标任务的，这些领域它就能干。比如说下棋，下棋计算过程很复杂，但目标很简单，就是赢了对方，但是人类碰到的事不是那么简单。还有开车、开飞机、开船等等，甚至根据设计制造产品，甚至成体系地设计产品，只有规定的目标就行。在全面自动化的情况下，无人的工厂内，激励机制自然也就消失了。

另一方面，当做与人有关的工作的时候，它可以是非常好的助理，它可以是非常好的助教、助理研究院员、金融分析师、医生助理、律师助理、军事参谋。为什么都是助理？因为它没有办法代替人。最近在美国做了个实验，让机器人去经济学做助教，在不见面的前提下，一个学期过去之后，学生分不出来哪个是真人哪个是机器。但是它必须是助教不能是教授，因为有大量的重要地信息这个机器它没有办法知道。

因此，在最乐观的情况下，整体来说，如果你有明确规定的狭窄的的目标来执行，机器人都会做，包括战争，这是一个严重争议的问题。在最乐观的情况下，人工智能最终可以规划和执行企业和军事任务。

在这里我就想回到咱们最大的主题上，我想强调一下：第一，经济任务和军事任务和本质任务不同，因为军事任务的目的简单——打胜仗，而经济任务的目的说不清楚了，经济任务的目的是国民福利，不是经济增长。什么叫国民福利？指全体国民的感觉合在一起，连我们人也搞不清，所以没有可能使机器做。另外一个，企业治理和国民经济本质是不同的。因为企业追求利润，而国民经济追求国民福利。