ZohaibAkhtar

文章

分享

蓋茲訪談裡,沒人回答的那一段

譯自英文。 閱讀原文

我看了比爾蓋茲說自己對 AI 改觀的那段訪談。大部分內容都在意料之中。能力來得比他想的快。生物恐攻、網路攻擊、就業。但有一個抱怨反覆出現,而且在我心裡停留得比那些嚇人的部分更久。他一再說,我們現在只有自願審查,而且沒有標準。這些公司自己改自己的作業,根本沒有人寫下這場考試到底要考什麼。

他說這話的語氣,幾乎像在下戰帖。我一邊看一邊想:那場考試長什麼樣子,我其實知道。不是每個領域都知道。是醫學,我受訓的領域。

關於醫院,有件怪事,很少有人停下來想。你可以在一座從沒去過的城市走進醫院,把性命交給素不相識的人,而且覺得再正常不過。為什麼?這些人沒有一個是因為看起來聰明才得到信任的。每一個人都走過一整條養成之路。考試、住院醫師訓練、一位要他們把每一道醫囑的理由大聲講出來的主治醫師、一場在同儕面前把他們的錯誤逐條拆解的討論會。醫學在造成大量傷害之後,才慢慢學到:看起來有能力,算不上標準。於是它改以問責為標準,信任也就隨之而來。

所以,當蓋茲問標準該長什麼樣子,我不認為答案非得從零發明不可。至少在醫學上,可以直接借用。

先從最簡單的測試開始。如果一套系統會左右病人接下來的遭遇,就把同一個問題問它兩次。如果它給出兩個不同的答案,光這一點就足以結束對話。這門檻聽起來低得荒謬。如今大多數醫療 AI 卻都跨不過。

接著問它為什麼,就像主治醫師問為什麼那樣。不是要一段聽起來頭頭是道的文字,而是要真正的依據。哪個數值、哪個閾值、什麼證據。推理如果無法檢視,就無法反駁,而你無法反駁的東西,沒有資格靠近病人。

再來是錯誤率,由別人來量,用的是系統從沒見過的資料。這不過是藥物審查的本能。沒有人會只聽藥廠的一面之詞,現在也不該開這個先例。

當系統學到新東西時(這些系統會一直學下去,這本來就是它們存在的意義),新的行為要先等著。它在背景默默執行,記錄自己本來會怎麼做,再由人來決定它能不能畢業。醫學早就這樣要求自己。一個有希望的結果要等臨床試驗,臨床試驗要等指引。這很慢,但也正因為這樣,你家藥櫃裡的藥才不會要了你的命。

反對的理由永遠是創新。每次都是。但我認為這種反對,把兩種不同的工作混為一談。如果一個 AI 是在一千萬筆紀錄裡,找尋還沒有人歸納出來的模式,就該放手讓它去闖,因為大部分時候是錯的,本來就是假說的用途。真正需要拴住的,是那個要對眼前這一位病人採取行動的 AI。兩種工作,兩套規則,中間隔著一道門,審查過了才打開。蓋茲談到監控那些能設計出危險分子的模型時,也提出幾乎一樣的論點。這對產業來說幾乎不花什麼成本。不知為何,至今還是沒人做。

在這裡,我想小心別說過了頭。網路武器或生物安全對應的清單該是什麼,我完全不知道。那不是我的領域,而且對那些同時精通每個領域、什麼都說得頭頭是道的人,我已經越來越存疑。但我注意到,每當蓋茲說出「標準」兩個字,大家都神情凝重地點頭,卻沒有人動筆寫下任何東西。在我這個小角落,這份清單是寫得出來的。大部分就在上面,大約四百字。

順帶一提,我寫這篇並不是因為害怕這項技術。我每天都用它來做東西,而我會投入這份工作,正是因為見過醫療來得太晚會發生什麼事。我知道那要付出什麼代價。也正因如此,標準才這麼重要。要讓 AI 在醫院、主管機關和法院掌控的地方,真正大規模地幫助人,最快的路,就是有人站出來,在公開、可以被檢驗的地方,示範「可問責」是什麼樣子。醫學大約一百年前就寫好了這套劇本。只差有人把它拿起來用。

來源:The Atlantic 訪談。 ((Z))