Ta część wywiadu z Gatesem, na którą nikt nie odpowiada

Obejrzałem wywiad, w którym Bill Gates mówi, że zmienił zdanie na temat AI. Większość jest taka, jak można się było spodziewać. Możliwości pojawiły się szybciej, niż sądził. Bioterroryzm, cyberbezpieczeństwo, praca. Ale jeden zarzut wciąż powracał i został ze mną dłużej niż te straszne fragmenty. Gates powtarza, że na razie mamy tylko dobrowolną ocenę bez żadnych kryteriów. Firmy same sobie wystawiają oceny i nikt nawet nie zapisał, na czym miałby polegać test.

Mówi to niemal jak wyzwanie. A ja, oglądając, wciąż myślałem: przecież ja wiem, jak taki test wygląda. Nie dla wszystkiego. Dla medycyny, dziedziny, w której się kształciłem.

Oto dziwna rzecz w szpitalach, nad którą nikt się nie zastanawia. Można wejść do szpitala w mieście, w którym nigdy się nie było, oddać swoje życie w ręce zupełnie obcych ludzi i uważać to za coś normalnego. Dlaczego? Żadnej z tych osób nie ufa się dlatego, że wydaje się bystra. Każda z nich przeszła przez cały łańcuch. Egzaminy, rezydentura, starszy lekarz, który kazał jej na głos uzasadniać każde zlecenie, konferencja, na której jej błędy rozbiera się na czynniki pierwsze przy kolegach. Medycyna nauczyła się, powoli i po wyrządzeniu ogromnych szkód, że sprawianie wrażenia kompetentnego nie jest żadnym standardem. Standardem uczyniła więc rozliczalność, a zaufanie przyszło jako jej skutek.

Kiedy więc Gates pyta, jak miałyby wyglądać kryteria, nie sądzę, żeby odpowiedź trzeba było wymyślać od zera. Przynajmniej w medycynie można ją pożyczyć.

Zacznijmy od najprostszego możliwego testu. Jeśli system ma wpływać na to, co dzieje się z pacjentem, zadajcie mu to samo pytanie dwa razy. Jeśli da dwie różne odpowiedzi, już samo to powinno zakończyć rozmowę. Brzmi to jak absurdalnie nisko zawieszona poprzeczka. Większość dzisiejszej medycznej AI jej nie przeskakuje.

Potem zapytajcie go, dlaczego, tak jak pyta starszy lekarz. Nie o akapit, który brzmi rozsądnie, ale o rzeczywistą podstawę. Która wartość, jaki próg, jakie dowody. Jeśli rozumowania nie da się zbadać, nie da się też z nim polemizować, a coś, z czym nie można polemizować, nie ma czego szukać przy pacjencie.

Potem odsetek błędów, zmierzony przez kogoś innego, na danych, których system nigdy nie widział. To zwykły odruch znany z dopuszczania leków do obrotu. Nikt nie wierzy producentowi na słowo i nikt nie powinien zaczynać teraz.

A kiedy system nauczy się czegoś nowego, a te systemy będą się uczyć dalej, bo na tym polega cały ich sens, nowe zachowanie czeka. Działa po cichu, zapisuje, co by zrobiło, a człowiek decyduje, czy je dopuścić. Medycyna już robi to sama sobie. Obiecujący wynik czeka na badanie kliniczne, badanie czeka na wytyczne. To powolne, ale to także powód, dla którego domowa apteczka was nie zabija.

Zawsze pada argument o innowacjach. Zawsze. Ale myślę, że ten argument zlewa dwa różne zadania w jedno. AI, która przeszukuje dziesięć milionów rekordów w poszukiwaniu wzorców, których nikt nie skodyfikował, powinna móc działać bez ograniczeń, bo właśnie po to są hipotezy, żeby przez większość czasu się mylić. Smyczy potrzebuje AI, która działa wobec jednego pacjenta, tego, którego ma przed sobą. Dwa zadania, różne zasady i drzwi między nimi, które otwierają się dopiero po przeglądzie. Gates mówi niemal to samo o monitorowaniu modeli, które potrafią projektować niebezpieczne cząsteczki. Kosztowałoby to branżę prawie nic. A jakimś cudem wciąż się tego nie robi.

Chcę uważać na granice własnych kompetencji. Nie mam pojęcia, jak wygląda analogiczna lista dla broni cybernetycznej czy bezpieczeństwa biologicznego. To nie moja dziedzina, a nabrałem podejrzliwości wobec każdego, kto swobodnie porusza się we wszystkich dziedzinach naraz. Zauważam jednak, że kiedy Gates mówi o kryteriach, wszyscy poważnie kiwają głowami i nikt niczego nie zapisuje. W moim zakątku świata tę listę da się spisać. Większość z niej jest powyżej, w mniej więcej czterystu słowach.

I gwoli ścisłości: nie piszę tego jako ktoś, kto boi się tej technologii. Codziennie buduję z jej pomocą, a zająłem się tą pracą z powodu tego, co się dzieje, kiedy medycyna przychodzi za późno. Wiem, ile to kosztuje. Właśnie dlatego kryteria mają znaczenie. Najszybsza droga do tego, żeby AI naprawdę pomagała ludziom, na dużą skalę, w miejscach, które kontrolują szpitale, regulatorzy i sądy, wiedzie przez to, że ktoś pokaże, jak wygląda rozliczalność, publicznie, tam, gdzie można to sprawdzić. Medycyna napisała ten podręcznik mniej więcej sto lat temu. Wystarczy, że ktoś po niego sięgnie.

Źródło: wywiad dla The Atlantic. ((Z))