Та частина інтерв’ю Гейтса, на яку ніхто не відповідає

Я подивився інтерв’ю, у якому Білл Гейтс каже, що змінив думку щодо ШІ. Здебільшого там те, чого й варто було очікувати. Можливості з’явилися швидше, ніж він думав. Біотероризм, кіберзагрози, робочі місця. Але одна скарга постійно поверталася, і вона не відпускала мене довше, ніж страшні частини. Він раз у раз повторює, що зараз у нас є лише добровільна перевірка без жодних критеріїв. Компанії самі виставляють собі оцінки за домашнє завдання, і ніхто навіть не записав, яким має бути іспит.

Він каже це майже як виклик. І, дивлячись на це, я весь час думав: я справді знаю, який вигляд має такий іспит. Не для всього. Для медицини, галузі, в якій я навчався.

Ось дивна річ про лікарні, над якою ніхто не замислюється. Ви можете зайти до лікарні в місті, де ніколи не бували, довірити своє життя цілковитим незнайомцям, і це здається нормальним. Чому? Жодній із цих людей не довіряють через те, що вони здаються розумними. Кожна з них пройшла через ланцюг. Іспити, резидентура, старший лікар, який змушував уголос обґрунтовувати кожне призначення, конференція, на якій їхні помилки розбирають на очах у колег. Медицина повільно і ціною величезної шкоди засвоїла, що здаватися компетентним ще не стандарт. Натомість стандартом вона зробила підзвітність, а довіра з’явилася вже як наслідок.

Тож коли Гейтс питає, якими могли б бути критерії, я не думаю, що відповідь треба вигадувати з нуля. Принаймні в медицині її можна позичити.

Почніть із найпростішого тесту. Якщо система впливатиме на те, що станеться з пацієнтом, поставте їй те саме питання двічі. Якщо вона дасть дві різні відповіді, одного цього має бути досить, щоб завершити розмову. Звучить як абсурдно низька планка. Більшість медичного ШІ сьогодні її не долає.

Потім спитайте її, чому, як це робить старший лікар. Вимагайте не абзац, який звучить переконливо, а справжню підставу. Яке значення, який поріг, які докази. Якщо хід міркувань не можна перевірити, з ним не можна й посперечатися, а тому, з чим не можна посперечатися, не місце біля пацієнта.

Далі частота помилок, виміряна кимось іншим, на даних, яких система ніколи не бачила. Це той самий інстинкт, що й під час допуску ліків на ринок. Ніхто не вірить виробникові на слово, і нема чого починати тепер.

А коли система навчиться чогось нового, а ці системи вчитимуться й далі, у цьому весь їхній сенс, нова поведінка чекає. Вона працює непомітно, записує, що зробила б, і людина вирішує, чи готова вона до справжньої роботи. Медицина вже робить це сама з собою. Перспективний результат чекає на клінічне випробування, випробування чекає на клінічну настанову. Це повільно, і саме тому ваша домашня аптечка вас не вбиває.

Заперечують завжди інноваціями. Завжди. Але, як на мене, це заперечення змішує дві різні роботи в одну. ШІ, який шукає в десяти мільйонах записів закономірності, яких ніхто не формалізував, має право працювати без жодних обмежень, бо гіпотези для того й існують, щоб здебільшого виявлятися хибними. Короткий повідець потрібен саме ШІ, який діє щодо одного пацієнта перед ним. Дві роботи, різні правила, і двері між ними, що відчиняються лише після перевірки. Гейтс говорить майже те саме про моніторинг моделей, здатних проєктувати небезпечні молекули. Галузі це майже нічого не коштувало б. І чомусь цього досі не роблять.

Тут я хочу не виходити за межі своєї компетенції. Я гадки не маю, яким був би такий список для кіберзброї чи біобезпеки. Це не моя галузь, і я став з підозрою ставитися до будь-кого, хто вільно почувається в усіх сферах одразу. Але я помічаю: коли Гейтс вимовляє слово «критерії», усі поважно кивають, і ніхто нічого не записує. У моєму куточку світу цей список можна написати. Більша його частина вже вище, приблизно в чотирьохстах словах.

І, якщо це щось важить, я пишу це не як людина, що боїться цієї технології. Я працюю з нею щодня і прийшов у цю справу через те, що буває, коли медицина приходить запізно. Я знаю, якою ціною це обходиться. Саме тому критерії так важливі. ШІ найшвидше почне справді допомагати людям, масштабно, там, де все контролюють лікарні, регулятори й суди, якщо хтось покаже, який вигляд має підзвітність, публічно, там, де це можна перевірити. Медицина написала ці правила гри приблизно сто років тому. Комусь треба просто взяти їх до рук.

Джерело: інтерв’ю The Atlantic. ((Z))