危机源于谷歌与美国军方合作的一个机器学习项目——Maven项目。谷歌在该项目中向美国国防部提供用于机器学习应用的TensorFlow API接口，以帮助军事分析人员检测图像中的物体。

截至美国当地时间5月14日，谷歌已有十几名员工正式因这一项目向谷歌请辞，以抗议公司继续参与军方的Maven项目。同时，学术界有364名人工智能专业人士也联名上书，反对谷歌。

争议焦点：Maven项目

2017年4月，美国军方提出Maven项目。Maven的目标是“加快国防部整合大数据和机器学习”，也被美国国防部称为算法战争跨功能团队（AWCFT：Algorithmic Warfare Cross-Functional Team）。据《华尔街日报》的报道，美国国防部在2017年人工智能相关领域的花费为74亿美元。

Maven的首要任务是帮助美国国防部有效地处理来自全球各地的海量的视频资料。美国国防部每天收集到数量庞大的无人机飞行画面，但人类图像分析师远远跟不上视频数量的增长。因此，国防部希望能利用机器学习来识别无人机镜头中的车辆和其他物体，从而减轻分析人员的负担。在自身资源不足的情况下，国防部转向了学界与业界的人工智能专家合作。

在这一争议项目中，谷歌提供的TensorFlow是一款人工智能领域里的免费开放软件，也是谷歌人工智能战略的关键。它为机器学习工程师提供了进行数据排序和训练算法的框架，并且在整个行业中被广泛使用。

“我们长期与政府机构合作为其提供技术解决方案。这个特定项目是国防部的试点项目，提供开源的TensorFlow API，可以帮助其识别未分类数据中的对象。”谷歌发言人曾就这次合作评论到。

根据国防部的说法，Maven利用最先进的计算机视觉技术，能够自动检测和识别无人机全动态摄像机捕获的38种物体。这种技术目前已经部署在法律执行和军事应用中，用来识别汽车和人等基本物体。

但新技术并非总能带来便利，已经有研究人员发出警告，人工智能技术可能会以不易察觉的方式产生重大偏见。例如，ProPublica新闻网站就曾在一份报道中指出，美国警方用于预测囚犯再度犯法可能性的算法经常表现出种族歧视倾向。

相关报道: