卫报评马斯克呼吁禁止机器人参战：无异于劝说饮料商不榨橙汁

关于116名人工智能和机器人领域的专家发布公开信，要求禁止“杀手机器人”（killer robots），一个回应是：你们难道不应该早点想到吗？

特斯拉CEO马斯克（Elon Musk）是呼吁禁止杀手机器人的专家之一。“我们没有太多时间准备了”，公开信中说，“一旦这个潘多拉的魔盒被打开，就很难再次关上。”但是，这样的系统可以说早已存在了，例如BAE等开发的Taranis“无人作战飞机”（UAV, Unmanned Aerial Vehicle ），三星制造的SGR-A1哨戒炮,已经部署在韩国国界。无人坦克也已经正在研发中，而人类对致命性无人机的控制只是何种程度的问题。

然而，杀手机器人一直在精神上与我们同在，只不过是以机器人的形式。Karel Čapek 1920年在科幻舞台剧“RUR”（Rossum’s Universal Robots，罗梭的万能工人）中创造了“robot”这个词（在捷克语中的意思是“劳动者”）。他创造的类人机器人，由与剧名同名的一家工厂制造，他们反叛人类，并最终灭亡人类。从 Cybermen 到终结者（Terminator），此类的故事层出不穷。

没有机器人启示录正在逼近的背景，甚至很难去思考马斯克等人签署的公开信所提出的问题。即使人类的灭亡不是处在生死攸关，我们知道的是这些机器可能导致失控，其结果是《机械战警》中OCP公司的机器人警察。

这样的暗示似乎总是引出一些有关致命武器的严肃话题。好吧，所以一个机器人世界末日大决战可能并不完全是空想的，但这些故事，以及它们造成的深刻的人类的恐惧，最终都是娱乐性质的。尽管如此，类似这样的辩论，将科幻电影描述的技术的好和坏两极化，伴随带来的意义在于，只要我们避免真正坏的那些技术，剩下的都是好的。

法律专家对这个问题的认识无疑更加复杂。一方面，他们关心机器人伦理方面的更广泛、而且越来越紧迫的问题；另一方面，这些问题关乎现代战争的性质，以及其商品化。

我们可以怎样令自主技术系统更加安全，更符合道德规范？避免机器人对人类造成伤害是Isaac Asimov的《我，机器人》（I, Robot）这部作品所探讨的问题，这是一部短篇故事集。这部作品对后世造成如此深远的影响，其中提出的阿西莫夫“机器人三定律”现在仍经常被讨论，其认识度几乎像牛顿的运动三定律一般。具有讽刺意味的是，阿西莫夫写的故事主要是关于这么动机正确的定律如何被环境破坏。