ZohaibAkhtar

盖茨访谈里,没人回答的那部分

译自英文。 阅读英文原文

比尔·盖茨说自己对 AI 改变了看法的那次访谈,我看了。大部分都在意料之中。能力来得比他想的快。生物恐怖,网络安全,就业。但有一个抱怨反复出现,比那些吓人的部分更久地留在我心里。他一再说,我们眼下有的,只是没有标准的自愿审查。公司自己给自己的作业打分,至于这场考试到底该考什么,压根没人写下来过。

他说这话时,几乎像在下战书。我一边看,一边想:这场考试长什么样,我其实知道。不是所有领域。只是医学,我出身的这一行。

关于医院,有件怪事,从来没人停下来想过。你可以在一座从没去过的城市走进一家医院,把性命交给素不相识的人,还觉得理所当然。为什么?这些人没有一个是因为看起来聪明才被信任的。每个人都走过一整条链条:考试,住院医师培训,一位要求他们把每条医嘱的理由都大声讲出来的主治医生,一场在同行面前把他们的错误拆开细看的病例讨论会。医学是在造成了大量伤害之后,才慢慢学到:看起来能干,算不上标准。于是它改以问责为标准,信任也就水到渠成。

所以,当盖茨问标准该是什么样时,我不认为答案非得凭空发明。至少在医学上,可以直接借过来。

从最简单的测试开始。如果一个系统会影响患者的诊疗,就把同一个问题问它两遍。如果它给出两个不同的答案,光这一点就足以终止谈话。这门槛听起来低得离谱。可如今大多数医疗 AI 都迈不过去。

然后问它为什么,像主治医生那样问为什么。要的不是一段听上去头头是道的话,而是真正的依据:哪个数值,哪个阈值,什么证据。如果推理过程无从检验,也就无从反驳,而无从反驳的东西,根本不该靠近患者。

再来是错误率,由别人来测,用系统从没见过的数据来测。这不过是药品审批的本能。没人会只听厂家的一面之词,现在也不该破这个例。

当系统学到新东西时,而这些系统会一直学下去,这正是它们存在的意义,新的行为得先等着。它在后台静默运行,记录下自己本来会怎么做,再由人来决定它能不能“转正”。医学早就这样要求自己了。有希望的结果要等临床试验,临床试验要等指南。这很慢,但也正因为如此,你家药柜里的药才不会要你的命。

反对的理由永远是创新。一向如此。但我认为,这种反对把两件不同的工作混为一谈。一个在一千万份记录里寻找无人归纳过的规律的 AI,尽可以放开手脚,因为大部分时候出错,本来就是假设的意义所在。需要套上缰绳的,是对眼前这一位患者采取行动的 AI。两件工作,两套规则,中间隔一道门,只有经过审查才能打开。盖茨谈到要监控那些能设计危险分子的模型时,说的几乎是同一个道理。这对整个行业来说几乎没有成本。可不知为何,至今仍然没人去做。

说到这里,我想谨慎一点,不越出自己的边界。网络武器或生物安全领域对应的清单是什么,我毫无头绪。那不是我的领域,而且我越来越怀疑那些样样都精通的人。但我注意到,每当盖茨说出“标准”这个词,大家都郑重点头,却没有一个人动笔写下什么。在我这一隅,这份清单是写得出来的。大部分就在上面,四百来个词而已。

顺便说一句,我写这些,并不是出于对这项技术的恐惧。我每天都用它做东西,而我投身这份工作,正是因为见过医疗来迟时会发生什么。我知道那要付出什么代价。正因如此,标准才至关重要。要让 AI 在医院、监管机构和法院掌控的那些地方,真正大规模地帮到人,最快的办法,就是有人公开展示负责任是什么样子,摆在能被检验的地方。医学大约一个世纪前就写好了这本手册。只差有人把它捡起来。

来源:《大西洋月刊》访谈。 ((Z))