החלק בראיון של גייטס שאף אחד לא עונה עליו

צפיתי בראיון שבו ביל גייטס אומר ששינה את דעתו על בינה מלאכותית. רובו צפוי. היכולות הגיעו מהר יותר ממה שחשב. טרור ביולוגי, סייבר, מקומות עבודה. אבל תלונה אחת חזרה שוב ושוב, והיא נשארה איתי יותר זמן מהחלקים המפחידים. הוא חוזר ואומר שכל מה שיש לנו כרגע הוא בדיקה וולונטרית בלי קריטריונים. החברות בודקות לעצמן את שיעורי הבית, ואף אחד עוד לא כתב מה בכלל אמור להיות המבחן.

הוא אומר את זה כמעט כמו אתגר. ותוך כדי צפייה חשבתי כל הזמן: אני דווקא יודע איך המבחן הזה נראה. לא לכל דבר. לרפואה, התחום שבו הוכשרתי.

הנה הדבר המוזר בבתי חולים, שאף אחד לא עוצר לשים לב אליו. אפשר להיכנס לבית חולים בעיר שמעולם לא ביקרתם בה, למסור את החיים שלכם לזרים גמורים, וזה מרגיש נורמלי. למה? אף אחד מהאנשים האלה לא זוכה באמון כי הוא נראה חכם. כל אחד מהם עבר שרשרת. מבחנים, התמחות, רופא בכיר שחייב אותו להצדיק כל הוראה בקול, ישיבה שבה הטעויות שלו מפורקות לגורמים מול עמיתיו. הרפואה למדה, לאט ואחרי הרבה מאוד נזק, שלהיראות מסוגל זה לא סטנדרט. במקום זה היא הפכה את האחריותיות לסטנדרט, והאמון בא כתוצאה.

אז כשגייטס שואל איך קריטריונים אמורים להיראות, אני לא חושב שצריך להמציא את התשובה יש מאין. ברפואה, לפחות, אפשר לשאול אותה.

נתחיל מהמבחן הפשוט ביותר האפשרי. אם מערכת עומדת להשפיע על מה שקורה למטופל, שואלים אותה את אותה שאלה פעמיים. אם היא נותנת שתי תשובות שונות, זה לבדו צריך לסיים את השיחה. זה נשמע כמו רף נמוך עד אבסורד. רוב הבינה המלאכותית הרפואית היום לא עוברת אותו.

אחר כך שואלים אותה למה, כמו שרופא בכיר שואל למה. לא בשביל פסקה שנשמעת סבירה, אלא בשביל הבסיס האמיתי. איזה ערך, איזה סף, אילו ראיות. אם אי אפשר לבחון את הנימוק, אי אפשר לחלוק עליו, ולמשהו שאי אפשר לחלוק עליו אין מה לחפש ליד מטופל.

אחר כך שיעור הטעויות, כשמישהו אחר מודד אותו, על נתונים שהמערכת מעולם לא ראתה. זה פשוט האינסטינקט של אישור תרופות. אף אחד לא מסתפק במילה של היצרן, ואין סיבה להתחיל עכשיו.

וכשהמערכת לומדת משהו חדש, והמערכות האלה ימשיכו ללמוד, זו כל המטרה שלהן, ההתנהגות החדשה מחכה. היא רצה בשקט, רושמת מה הייתה עושה, ואדם מחליט אם היא מסיימת את תקופת המבחן. הרפואה כבר עושה את זה לעצמה. תוצאה מבטיחה מחכה לניסוי, הניסוי מחכה להנחיה. זה איטי, וזו גם הסיבה שארון התרופות שלכם לא הורג אתכם.

הטענה הנגדית היא תמיד החדשנות. תמיד. אבל אני חושב שהטענה הזו מערבבת שני תפקידים שונים לאחד. בינה מלאכותית שסורקת עשרה מיליון רשומות בחיפוש אחר דפוסים שאף אחד עוד לא העלה על הכתב צריכה לקבל רשות להשתולל, כי לטעות רוב הזמן זה בדיוק התפקיד של השערות. הבינה המלאכותית שפועלת על המטופל האחד שעומד מולה, היא זו שצריכה רצועה. שני תפקידים, כללים שונים, ודלת ביניהם שנפתחת רק אחרי בדיקה. גייטס אומר כמעט את אותו הדבר על ניטור המודלים שמסוגלים לתכנן מולקולות מסוכנות. זה היה עולה לתעשייה כמעט כלום. ואיכשהו זה עדיין לא קורה.

אני רוצה להיזהר כאן לגבי גבולות הידע שלי. אין לי מושג מה הרשימה המקבילה לנשק סייבר או לביטחון ביולוגי. זה לא התחום שלי, ונעשיתי חשדן כלפי מי שמדבר בשטף על כל תחום בבת אחת. אבל אני שם לב שכשגייטס אומר את המילה קריטריונים, כולם מהנהנים ברצינות ואף אחד לא כותב כלום. בפינה שלי בעולם, את הרשימה אפשר לכתוב. רובה נמצא למעלה, בערך בארבע מאות מילים.

ואגב, אני לא כותב את זה כמי שמפחד מהטכנולוגיה. אני בונה איתה כל יום, ונכנסתי לעבודה הזו בגלל מה שקורה כשהרפואה מגיעה מאוחר מדי. אני יודע כמה זה עולה. בדיוק בגלל זה הקריטריונים חשובים. הדרך המהירה ביותר שבה בינה מלאכותית תעזור לאנשים באמת, בקנה מידה רחב, במקומות שבתי חולים, רגולטורים ובתי משפט שולטים בהם, היא שמישהו יראה איך נראית אחריותיות, בפומבי, במקום שאפשר לבדוק. הרפואה כתבה את המדריך הזה לפני כמאה שנה. מישהו רק צריך להרים אותו.

מקור: הראיון ב-The Atlantic. ((Z))