人工智能带来的科学革命：给科学家打下手，比博士生还高效(4)

打开黑箱的尝试已经演变成了一门新的学科。有些人试图窥探“黑箱”里到底发生了什么。华盛顿大学的马尔科·里贝罗（Marco Ribeiro），想要通过不断调整输入值，观察到底是哪些变化影响到了输出。譬如，不断调整一段电影评论文字，让一个文本分析的人工智能鉴定其评价是正面的还是负面的。而谷歌的研究员桑德拉拉杨（Mukund Sundararajan）则并非随机调整输入值，而是引入了一个空白干扰，一步步向目标值渐变，以观察输出值特定的“跳跃”变化轨迹。

另一些研究者则想绕开黑箱，开发一些效果媲美深度学习，但透明度更高的框架。微软的里奇·卡鲁阿纳（Rich Caruana）就被深度学习“坑”过。1990年代，他刚从卡内基梅隆大学毕业，加入了一个通过机器学习帮助肺炎患者的团队。通常来讲，普通的肺炎病患更宜在家休养，避免交叉感染，而那些带有哮喘等复杂病情的病患则应立即住院治疗。神经网络学习了78家医院提供的症状和结果数据后，出现了一个很难解释的漏洞：它建议那些带哮喘症状的病患回家。

为了绕开神经网络，卡鲁阿纳回到统计学中线性回归的老路，来寻找灵感。1980年代就存在的广义加性模型（GAM）不仅能处理简单的线性回归，也能通过复杂的计算，将更复杂的数据进行拟合。卡鲁阿纳运用机器学习方法升级了GAM。在图像和声音处理上，神经网络占有绝对优势。但针对所有能放进表格里的数据，升级版的GAM表现得都不差。最重要的是，这中间的运算都是透明的。

用GAM跑了一遍肺炎的记录，卡鲁阿纳终于找出了当年的漏洞是如何产生的：那些患上肺炎的哮喘病患常规上会被医院安排进重症监护病房，重点治疗，而人工智能只看到了病人病情的迅速好转，因此建议病人回家。

最后，还有一部分研究者即不想法设法窥探黑箱的内部，也不会绕开黑箱。他们专心让“深度学习”更深度，也许，这样就离黑箱的真相更近了一步。