江晓原：人工智能是人类正在玩的最危险的火(3)

在人工智能这件事情上，资本在其背后的推动是很明显的，策划出阿尔法狗下棋的商业炒作之后，更多的资本流向了人工智能的行业。但是资本的增值是盲目的，而且不计后果的，关于这一点重温马克思的教导很有意义。我现在对资本的恐惧要比对权力的恐惧大得多，资本比权力更可怕是因为资本其实非常盲目。

我提出一些激进的反对人工智能的观点，主张就人工智能不可逆转的发展形势及时思考。我认为，现在不能盲目赞美人工智能，歌颂人工智能的美好，我们应该在媒体上多进行关于人工智能的伦理方面的探讨，至少能引起各界对人工智能这方面问题的注意。在某些领域中，可以考虑保留低级的人工智能，保留人工智能的某些初级应用。要认识到这个东西就像魔鬼一样。我们尽量设法对某些指标性的东西加以明确，如各国约定在全球范围普遍内不允许做某些事，这样有可能延长人类文明。(江晓原系上海交通大学讲席教授、科学史与科学文化研究院院长)

原标题：《必须正视人工智能的威胁》

第一财经获授权转载自“探索与争鸣杂志”微信公众号