诚信问题是人工智能容易引发的另一个问题，从事直播工作的网络红人乔碧罗一直使用一种基于人工智能的换脸算法修饰脸部，给观众留下了人美声甜的印象。但在几个月前的一次直播中，其用来修饰脸部的滤镜和图片偶然被关闭，直播画面中出现了“萝莉”变“大妈”的一幕，引发人们对于应用人工智能带来欺诈问题的热议。

第三，安全。人工智能应用的功能虽然强大，但前提是确保安全，尤其是当人工智能应用于与人身安全直接相关的领域，如自动驾驶、医疗、工业控制等，安全应当被置于首要地位。2018年末和2019年初，波音公司两驾737 Max客机连续坠毁，失事原因很可能是由于飞机自动驾驶系统在错误的信号下判断飞机有失速风险，选择降低机头，使飞机俯冲。此过程中，驾驶员曾尝试拉起飞机，但自动驾驶系统没有将操控权交还驾驶员，仍旧控制飞机使其继续俯冲，最终酿成惨剧。这两起重大的空难迫使我们去思考人工智能的安全风险。

第四，决策过程模糊。人工智能的决策过程通常较为复杂，对使用者来说，该决策过程就像黑盒，很难知晓其决策的逻辑和依据。这也使得人们对人工智能做出的决策是否可信产生担忧。

第五，管控。管控能力不足是很多企业在应用人工智能时都会遇到的问题。人工智能发展的过程具备动态和自适应的特征，针对传统静态流程的管控方法可能并不适用。有银行曾经利用人工智能进行小额贷款审批，结果发现其智能算法将部分小额贷款发放至不具备偿付能力的用户手中，给银行带来财务和声誉的损失。全球尚未形成一套适用于人工智能领域的治理框架，相关的治理原则、方法和控制还在进一步研究。

相关报道: