我们在研究大数据和过去的数据的时候，你无法剔除原来犯过的错误，机器学了，它也是剔不出来的。这不光表现在我们的临床病例，还表现在学术论文上，学术论文每年都会有一些撤稿的论文，换句话说，那是后来被检验出来是错误的，但这些撤稿的论文机器都学进去了，它是无法撤除的。按照机器学习的理论，它自动建立起了知识模型，它的错误的模型已经在里面了，已经形成支撑结构了，你很难给它剔出来，因为人不知道它是怎么建立起来的。所以这就让我们感觉把机器学习当成了科学算命，就像那个黑盒子，不知道它怎么进去的，不知道它怎么出来的。

你不知道结果的可信性，你就无法判断这个结果在临床上是不是可以使用，这是目前AI最大的一个风险。所以我们要研究到底在医疗上采用什么样的方式去建立AI模型，这是当下科学界最紧迫的一个议题。

第一财经：那你觉得当前的AI技术能够在医疗界哪些领域应用呢

卢清君：目前在一些浅显的模型上是可以做的，比如一些临床路径和常规的诊疗方案，就像大众指导、简单的医学知识咨询，因为这些知识我们是可以通过行业专家共识、行业标准以及一些国际规范等来建立疾病模型，AI可以摈弃那些错误的数据。但另一些深度学习领域，比如临床病例，很多都没有经过数据清洗。

所以在医疗的AI应用上，我不太建议从深度学习做起，不应该从过去发生的案例来进行深度学习，而是应该从我们已经确定的知识结构开始，这是两个方向。中国科学院的几名院士也提出，目前的AI深度学习不适合在医疗上应用。

相关报道: