李彦宏：不担心人工智能会控制人类，安全是百度的第一天条

澎湃新闻记者 姚晓岚 发自贵阳 来源：澎湃新闻

李彦宏  视觉中国 资料图

5月26日，在2018年中国国际大数据产业博览会上，百度董事长李彦宏发表《为了一个更美好的AI时代》主题演讲，话题围绕对人工智能（AI）的担心展开。

李彦宏表示，“我不担心人工智能会控制人类，但并不是没有担心。”

他表示，在今年全国“两会”时有自己被问得最多的是无人车什么时候量产。当时他称今年7月份无人车就可以量产，现在已至5月，还剩下一个多月时间，他有期望、有焦虑、有担心，“不是担心这个车量产不了下不了线，我在担心这个车是不是租购的安全。”

对此，李彦宏表示，对于百度而言，安全是自动驾驶最最重要的一个方向，是百度的第一天条，“什么东西都可以错，但是这个东西不能错。一旦错，一旦出事，就有可能使得整个技术的推进停滞一年到两年。更重要的是，人的安全是最最宝贵的，是我们最看中的，我们不能够在这方面容忍错误。”

视频展示的情景是，百度无人车在转弯调头时，旁边跑出来一只小狗，无人车正确在小狗面前停下来，让其过去之后才接着开。

李彦宏对此表示，这其实是一个比较难的东西，无人车在高速公路、封闭公路上快速行驶其实是相对安全的，路况比较简单。而在开放城市道路上，有人，有各种各样预想不到的事情，车能不能很好控制自己，是一个非常难的问题，要解决了这个问题，车才能真正变成无人车，才能够自动驾驶。

李彦宏称，百度不是造车的，而是一个完全开放的平台，“我们的技术通过开放源代码、开放数据，让所有想造无人车的生产厂商能够从中获益。”

他表示，从代码的开放到后来量产，中间又增加了很多新代码，其中接近50%的代码是为了安全而增加，“真的要量产了，真的要下线进入商用，真的要载人了，我们不能让它错，所以大量的经历放在了安全上，要符合车规。”

李彦宏坦言，在两三年前，他无法想象到今年可以看到没有驾驶位、没有方向盘的车能够在一些封闭的场景中使用。他相信，这种状态会越来越好，不仅仅是像百度这样的公司在推进无人车在车层面技术的演进，还有一个很重要的方向，是政府在推动基础设施方面的演进——越来越多地在道路上布置各种各样的传感器，让车可以更低的成本、更高的精确度识别各种各样的障碍物和交通规则。

李彦宏认为，无人车不是某一个公司单方面的努力，而是方方面面的巨大生态，“而它的这种演进，我觉得中国最有希望，因为它在很多很多基础设施的建设上都是在全世界是超前的。”

对于人工智能时代，李彦宏认为有四个需要共同遵循的理念和规则。

第一，人工智能的最高原则是安全可控。“一辆无人车如果被黑客攻击了，它有可能变成一个杀人武器，这是绝对不允许的，我们一定要让它是安全的，是可控的。”

第二，需要认真思考如何能够在新时代让所有企业、所有人能够平等获取AI的技术和能力，而不仅仅是少数大公司的专利；如何能够防止在人工智能时代因为技术的不平等导致人们在生活、工作各个方面变得越来越不平等。

第三，希望通过人工智能、个性化推荐，能教人学习，让人变成更好的人。

第四，因为人工智能，劳动不再成为人们谋生的手段，而是变成人的一种需求，“你想工作，你想去创新，你想去做创造，所以你才去工作，这是AI的终极理想，我们要为人类带来更多自由和可能。”

李彦宏在最后表示，AI的使命不是替代人，而是让技术忠诚于人类，服务于人类，让人类的生活变得更美好。

相关报道: