美国防部副部长：没人类授命，人工智能不得自行消灭任何目标(2)

对于美国不开发“广义的”人工智能系统的限制,一些业内人士提出了异议。例如,汉森机器人公司的CEO戴维·汉森认为,如果一个国家限制自己,不去开发“广义的”人工智能系统的话,就会激励敌人开发更为复杂的超出控制的自适应机器,以获得压倒性优势。

人工智能与其它技术相比,有可能成为更加强大也更加赚钱的技术行业,因为它能够给制造商带来惊喜,能够提供他们从未想到的问题解决方法。不过,这也使得人工智能技术更加危险,尤其是超出控制的人工智能系统可能会造成意想不到的严重问题。

牛津大学的学者安德斯·桑德伯格认为,对于自主系统的控制非常困难,其原因并非它的任性和渴望自由,而是因为人们所创造的是复杂的自适应技术系统。事实上,当前流行的创造人工智能系统的最为有效方法不是一行又一行地编写智能程序,而是创造一台“学习机器”,同时给它提供大量的数据资料,使它能够像一个小孩一样通过反复体验和尝试去学习。可是,让这样的系统正确理解如何学习和如何做出决定是非常困难的,更谈不上预计它们未来的行动。

对于美国的敌人力图在人工智能领域获得压倒性优势的问题,沃克相信美国的创造性和道德观念会取得优势,“和美国人一起工作的美国人工智能机器会战胜那些压制人民创造潜能的极权主义者所设计的人工智能系统”。不过他承认并不能保证如此,说这是一场竞赛,必须等待,看竞赛如何开展,必须非常谨慎。

（原标题：美国国防部副部长沃克论人工智能改变战争）