我们可以让机器比自己更聪明吗

人工智能技术让我们对未来产生了激动不已又忐忑不安的心理。人类历史上每经历一次技术革命，结果都是人类面对日益强大的机器。以往人类可以操控这些机器，用来征服自然，但这一次人类的自信心有点动摇，因为机器会学习了，可能一生下来就比人类聪明，而且比人类学得更快更好。最重要的是，机器会有独立的意识吗?

5月下旬在乌镇，机器人阿尔法狗完胜世界排名第一的围棋天才柯洁，终结了机器与人类之间最复杂的智力游戏博弈。之后阿尔法狗之父、DeepMind公司创始人得米斯·哈萨比斯( Demis Hassabis)接受了第一财经的独家专访，我特意问了他有关机器会不会产生独立意识的问题。

问：今天，你谈到很多自我学习，从我们这些围棋爱好者来观察，有一些棋招很有创意又出其不意，你认为在不远的将来独立学习机制会产生独立的动机吗？机器在计算的时候有其自我目的吗？

答：是的，这是个好问题。我认为在设计系统的时候要给它们定个目标。就像AlphaGo的目标不是开车或是干其他的，它只知道我们给它定的目标，那就是赢得围棋比赛。所以我认为在可预见的将来，人工智能系统会被设计成实现设计者既定目标的工具。怎么去实现目标，也可以让机器来学习。一般说来，我认为这些系统都会竭尽所能去实现我们设定的目标。

问：所以你认为不远的未来机器总是会服从和实现人类设定的目标吗？

答：是的，AlphaGo不能自己设定自己的目标，所以你只能另外设计一种机器去做设定的工作。

问：是因为你不让它们做吗？是因为你把它们设定成不能为自己做事还是它们没有能力为自己做事？

答：对，这是后者。我们目前设计的这个系统不具备这样的能力。所以也许能想出这种设计，但我们认为这一点现在还不是很有用处，因为我们是想设计在一些领域可以帮助人类专家的工具。如果只是个工具，那还是让人类专家去设定目标。这正是我们现阶段在研发的系统。

而《未来简史》的作者尤瓦尔·赫拉利认为机器与人类最大的区别，正是机器有智能，但没有自我意识，而人类有智能与意识。但是如果我们相信人类的自我意识也是大脑的一种功能、一种生物机制，它最终也是可能被模仿出来的。DeepMind的最新论文提出了一种新的神经网络：符号-概念神经网络，模仿人类文字和视觉获取的方式，建立起视觉-文字-概念的模型。利用符号指令，能够建立起从简单到复杂的概念分层体系，从而理解更加抽象的概念。这项技术正在证明，机器通过无监督的学习，有可能产生类似于人的思考。