盖茨访谈中无人回应的那一部分

我看了比尔·盖茨说自己改变了对 AI 看法的那次访谈。大部分内容都在意料之中。能力来得比他预想的快。生物恐怖、网络安全、就业。但有一个抱怨反复出现，它在我心里停留的时间，比那些吓人的部分还要久。他一再说，我们现在有的只是没有标准的自愿审查。公司自己给自己的作业打分，而这场考试到底该考什么，根本没人写下来过。

他说这话时，几乎像是在下战书。看着看着，我一直在想：我其实知道那场考试是什么样子。不是对所有领域。是对医学，我受训的领域。

关于医院，有一件奇怪的事，从没有人停下来注意过。你可以在一座从未去过的城市走进一家医院，把性命交给完全陌生的人，还觉得这很正常。为什么？这些人没有一个是因为看起来聪明才被信任的。他们每一个人都走过一条链条。考试，住院医师培训，一位让他们把每一条医嘱的理由都大声讲出来的主治医生，一场在同行面前把他们的错误拆开来剖析的病例讨论会。医学在造成大量伤害之后，才慢慢学到：看起来能干，不是标准。它转而把问责定为标准，信任便从另一头自然生出来了。

所以，当盖茨问标准会是什么样子时，我不认为答案必须凭空发明。至少在医学领域，你可以借用。

从最简单的测试开始。如果一个系统要影响患者身上发生的事，就把同一个问题问它两遍。如果它给了你两个不同的答案，光凭这一点，对话就该结束了。这听起来是一个低得离谱的门槛。如今大多数医疗 AI 都跨不过去。

然后问它为什么，像主治医生问为什么那样。不是要一段听起来合理的话，而是要真正的依据。哪个数值，哪个阈值，什么证据。如果推理过程无法被检验，就无法被反驳，而无法被反驳的东西，根本不该靠近患者。

然后是错误率，由别人来测，用系统从未见过的数据。这不过是药品审批的本能。没有人会听信制造商的一面之词，现在也不该开这个头。

而当系统学到新东西时，这些系统会不断学习，这正是它们存在的意义，新的行为要先等着。它静默运行，记录下自己本来会怎么做，再由一个人决定它能否转正。医学早就这样要求自己了。一个有希望的结果要等临床试验，临床试验要等指南。这很慢，而这也正是你的药柜不会要你命的原因。

反对意见永远是创新。永远都是。但我认为这种反对把两份不同的工作混成了一份。一个在一千万份记录里搜寻无人归纳过的规律的 AI，应该被允许放开手脚，因为大多数时候出错，正是假设的用处所在。需要拴上缰绳的，是对眼前这一个患者采取行动的 AI。两份工作，不同的规则，中间一道门，只有经过审查才会打开。盖茨在谈到监控那些能设计危险分子的模型时，提出的几乎是同一个观点。这对整个行业来说几乎没有成本。可不知为何，至今仍然没人去做。

在这里，我想对自己能说到哪一步保持谨慎。网络武器或生物安全领域对应的清单是什么，我毫无概念。那不是我的领域，而且我越来越怀疑那些同时精通所有领域的人。但我注意到，每当盖茨说出“标准”这个词，所有人都郑重地点头，却没有人写下任何东西。在我所在的这个角落，这份清单是写得出来的。大部分就在上面，大约四百个词。

另外说一句，我写这篇文章，并不是因为害怕这项技术。我每天都在用它做东西，而我投身这项工作，正是因为见过医学来得太迟时会发生什么。我知道那要付出什么代价。这正是标准之所以重要的原因。要让 AI 真正、大规模地帮到人们，在医院、监管机构和法院所掌控的那些地方，最快的途径就是有人公开展示负责任是什么样子，放在能被检验的地方。医学大约一个世纪前就写好了这本手册。只是需要有人把它拿起来。

来源：《大西洋月刊》访谈。 ((Z))