比爾蓋茲訪談中，沒有人回答的那個部分

我看了比爾蓋茲說自己對 AI 改變想法的那段訪談。大部分內容都在預料之中。能力來得比他想的更快。生物恐怖攻擊、網路攻擊、就業。但有一個抱怨一再出現，而它在我心裡停留的時間，比那些嚇人的部分更久。他一直說，我們現在有的，只是沒有標準的自願審查。這些公司自己批改自己的作業，而且根本沒有人寫下這場考試到底該考什麼。

他說這話的口氣，幾乎像在下戰帖。看著看著，我一直在想：我其實知道那場考試長什麼樣子。不是對所有領域。是對醫學，我受訓的領域。

關於醫院，有一件奇怪的事，沒有人停下來注意。你可以在一座從沒去過的城市走進一家醫院，把性命交給完全陌生的人，卻覺得很正常。為什麼？那些人沒有一個是因為看起來聰明才被信任。他們每一個人都走過一整條養成的鏈。考試、住院醫師訓練、一位要他們把每一道醫囑的理由大聲說出來的主治醫師、一場在同儕面前把他們的錯誤逐一拆解的討論會。醫學在造成大量傷害之後，緩慢地學到：看起來有能力，不是一個標準。於是它改以問責作為標準，而信任就從另一端自然產生了。

所以，當蓋茲問標準應該是什麼樣子時，我不認為答案必須憑空發明。至少在醫學上，你可以借用。

從最簡單的測試開始。如果一個系統會影響病人身上發生的事，就把同一個問題問它兩次。如果它給你兩個不同的答案，光是這一點就該結束這場對話。這聽起來是低得荒謬的門檻。如今大多數醫療 AI 都跨不過去。

接著問它為什麼，就像主治醫師問為什麼那樣。不是要一段聽起來合理的文字，而是要真正的依據。哪個數值、哪個閾值、什麼證據。如果推理無法被檢視，就無法被反駁，而你無法反駁的東西，沒有資格靠近病人。

然後是錯誤率，由別人來量，用系統從沒看過的資料。這不過是藥物審查的直覺。沒有人會只聽製造商的一面之詞，現在也不該開始這麼做。

而當系統學到新東西時（這些系統會一直學下去，這正是它們的意義所在），新的行為要先等著。它在背景默默執行，記錄它原本會怎麼做，再由一個人決定它能不能畢業。醫學早就這樣對待自己。一個有希望的結果要等臨床試驗，臨床試驗要等指引。這很慢，但這也是你家藥櫃不會害死你的原因。

反對的理由永遠是創新。永遠都是。但我認為這個反對意見把兩種不同的工作混為一談。一個在一千萬筆紀錄中搜尋沒有人歸納過的模式的 AI，應該被放手讓它亂跑，因為大部分時候是錯的，正是假說存在的目的。需要拴上牽繩的，是那個對眼前這一位病人採取行動的 AI。兩種工作，不同的規則，中間有一道門，只有在審查之後才會打開。蓋茲對於監控那些能設計出危險分子的模型，也提出幾乎相同的論點。這對產業來說幾乎不花任何成本。不知為何，至今仍然沒有人在做。

在這裡，我想小心別越界。我完全不知道網路武器或生物安全對應的清單是什麼。那不是我的領域，而且我已經越來越懷疑那些對每個領域都同時說得頭頭是道的人。但我注意到，每當蓋茲說出「標準」這個詞，大家都嚴肅地點頭，卻沒有人寫下任何東西。在我所在的這個角落，這份清單是寫得出來的。大部分內容就在上面，大約四百字。

而且說真的，我寫這篇文章，並不是因為害怕這項技術。我每天都用它來打造東西，而我投入這份工作，正是因為醫學來得太晚時會發生的那些事。我知道那要付出什麼代價。這正是標準之所以重要的原因。要讓 AI 真正、大規模地幫助人，在那些由醫院、主管機關和法院掌控的地方，最快的路，是有人在公開、可以被檢驗的地方，展示「可問責」長什麼樣子。醫學大約一百年前就寫好了這套劇本。只是得有人把它拿起來用。

來源：The Atlantic 訪談。 ((Z))