Gates 인터뷰에서 아무도 답하지 않는 부분
Zohaib Akhtar영어 원문을 번역했습니다. 원문 보기
Bill Gates가 AI에 대한 생각을 바꿨다고 말하는 인터뷰를 보았습니다. 대부분은 예상할 만한 내용입니다. AI의 능력이 그가 생각한 것보다 빨리 찾아왔다는 것. 생물테러, 사이버, 일자리. 하지만 한 가지 불만이 계속 되풀이되었고, 그것은 무서운 대목들보다 더 오래 제 마음에 남았습니다. 그는 지금 우리에게 있는 것이라곤 기준 없는 자발적 검토뿐이라고 거듭 말합니다. 기업들이 자기 숙제를 스스로 채점하고, 그 시험이 애초에 무엇이어야 하는지 적어 둔 사람조차 없다는 것입니다.
그는 거의 도전장을 내밀듯 그 말을 합니다. 그리고 그 장면을 보면서 저는 계속 생각했습니다. 나는 그 시험이 어떤 모습인지 실제로 알고 있다고. 모든 분야에 대해서는 아닙니다. 제가 수련한 분야, 의학에 대해서입니다.
병원에는 아무도 멈춰서 알아차리지 않는 이상한 점이 있습니다. 한 번도 가 본 적 없는 도시의 병원에 걸어 들어가 생면부지의 사람들에게 목숨을 맡기면서도, 그게 아무렇지 않게 느껴집니다. 왜일까요? 그 사람들 중 누구도 똑똑해 보여서 신뢰받는 것이 아닙니다. 한 사람 한 사람이 모두 하나의 사슬을 거쳐 왔습니다. 시험, 전공의 수련, 모든 처방의 이유를 소리 내어 설명하게 만든 지도 전문의, 동료들 앞에서 자기 실수가 낱낱이 해부되는 컨퍼런스. 의학은 천천히, 그리고 숱한 피해를 치른 뒤에야, 유능해 보이는 것은 기준이 될 수 없다는 것을 배웠습니다. 대신 책임을 기준으로 삼았고, 신뢰는 그 결과로 따라 나왔습니다.
그러니 Gates가 기준이란 어떤 모습이냐고 물을 때, 저는 그 답을 무에서 만들어 낼 필요는 없다고 생각합니다. 적어도 의학에서는 빌려 올 수 있습니다.
가장 단순한 시험부터 시작해 봅시다. 어떤 시스템이 환자에게 일어날 일에 영향을 미치려 한다면, 같은 질문을 두 번 해 보십시오. 서로 다른 두 답을 내놓는다면, 그것만으로 대화는 끝나야 합니다. 터무니없이 낮은 기준처럼 들립니다. 오늘날 대부분의 의료 AI는 그 기준을 넘지 못합니다.
그다음에는 지도 전문의가 묻듯 이유를 물으십시오. 그럴듯하게 들리는 문단이 아니라 실제 근거를. 어떤 수치, 어떤 임계값, 어떤 증거인지. 추론을 검토할 수 없다면 그에 반대할 수도 없고, 반대할 수 없는 것은 환자 곁에 있을 자격이 없습니다.
그다음은 오류율입니다. 다른 누군가가, 시스템이 한 번도 본 적 없는 데이터로 측정한 오류율. 이것은 그저 신약 승인의 본능입니다. 제조사의 말을 그대로 믿는 사람은 없고, 이제 와서 그러기 시작해서도 안 됩니다.
그리고 이런 시스템은 앞으로도 계속 배울 것이고 그게 바로 이 시스템들의 핵심인데, 시스템이 무언가를 새로 배우면 그 새로운 행동은 일단 기다립니다. 조용히 돌아가면서 자기가 했을 일을 기록하고, 그것을 졸업시킬지는 사람이 결정합니다. 의학은 이미 스스로에게 이렇게 합니다. 유망한 결과는 임상시험을 기다리고, 임상시험은 진료 지침을 기다립니다. 느립니다. 그리고 그것이 바로 당신의 약상자가 당신을 죽이지 않는 이유이기도 합니다.
반론은 언제나 혁신입니다. 늘 그렇습니다. 하지만 저는 그 반론이 서로 다른 두 가지 일을 하나로 뭉뚱그린다고 생각합니다. 아무도 체계화하지 않은 패턴을 찾아 천만 건의 기록을 뒤지는 AI는 마음껏 날뛰게 둬야 합니다. 대부분 틀리는 것이 바로 가설의 존재 이유이기 때문입니다. 고삐가 필요한 것은 눈앞의 환자 한 명에게 행동하는 AI입니다. 두 가지 일, 서로 다른 규칙, 그리고 검토를 거친 뒤에야 열리는 둘 사이의 문. Gates도 위험한 분자를 설계할 수 있는 모델을 감시하는 문제에 대해 거의 같은 이야기를 합니다. 업계에는 거의 아무 비용도 들지 않을 일입니다. 그런데 어쩐 일인지 아직도 이루어지지 않고 있습니다.
여기서 제가 말할 수 있는 범위는 조심스럽게 지키고 싶습니다. 사이버 무기나 생물보안에 해당하는 목록이 무엇인지 저는 전혀 모릅니다. 제 분야가 아니고, 저는 모든 분야에 한꺼번에 능통한 사람을 의심하게 되었습니다. 하지만 Gates가 기준이라는 말을 꺼낼 때마다 모두가 심각하게 고개를 끄덕이고, 아무도 아무것도 적지 않는다는 것이 눈에 띕니다. 제가 있는 세계의 한구석에서는 그 목록을 쓸 수 있습니다. 대부분은 위에, 400단어 남짓으로 적혀 있습니다.
그리고 덧붙이자면, 저는 이 기술을 두려워하는 사람으로서 이 글을 쓰는 것이 아닙니다. 저는 매일 이 기술로 무언가를 만들고, 의학이 늦게 도착할 때 무슨 일이 벌어지는지 알기에 이 일을 시작했습니다. 그 대가가 무엇인지 압니다. 바로 그래서 기준이 중요합니다. AI가 병원과 규제 당국과 법원이 통제하는 곳에서, 대규모로, 실제로 사람들을 돕게 되는 가장 빠른 길은 누군가가 책임 있는 모습이 어떤 것인지, 검증할 수 있는 공개된 자리에서 보여 주는 것입니다. 의학은 약 한 세기 전에 그 플레이북을 썼습니다. 누군가 그것을 집어 들기만 하면 됩니다.
출처: The Atlantic 인터뷰. ((Z))