Bagian dari wawancara Gates yang tidak dijawab siapa pun

Saya menonton wawancara saat Bill Gates mengatakan bahwa ia telah berubah pikiran tentang AI. Sebagian besar isinya sudah bisa ditebak. Kemampuannya datang lebih cepat dari perkiraannya. Bioterorisme, siber, pekerjaan. Namun ada satu keluhan yang terus muncul, dan keluhan itu melekat di benak saya lebih lama daripada bagian-bagian yang menakutkan. Ia terus mengatakan bahwa yang kita miliki saat ini hanyalah tinjauan sukarela tanpa kriteria. Perusahaan-perusahaan menilai PR mereka sendiri, dan belum ada yang menuliskan seperti apa seharusnya ujiannya.

Ia mengatakannya hampir seperti sebuah tantangan. Dan saat menontonnya, saya terus berpikir: saya sebenarnya tahu seperti apa ujian itu. Bukan untuk semua hal. Untuk kedokteran, bidang tempat saya dididik.

Inilah hal aneh tentang rumah sakit yang jarang disadari orang. Anda bisa masuk ke rumah sakit di kota yang belum pernah Anda kunjungi dan menyerahkan nyawa Anda kepada orang-orang yang sama sekali asing, dan itu terasa biasa saja. Mengapa? Tidak satu pun dari mereka dipercaya karena tampak pintar. Setiap orang dari mereka melewati sebuah rantai. Ujian, residensi, seorang dokter penanggung jawab yang memaksa mereka menjelaskan alasan setiap instruksi dengan lantang, sebuah konferensi tempat kesalahan mereka dibedah di depan rekan sejawat. Kedokteran belajar, perlahan dan setelah menimbulkan banyak sekali celaka, bahwa tampak cakap bukanlah standar. Kedokteran lalu menjadikan akuntabilitas sebagai standarnya, dan kepercayaan lahir dengan sendirinya dari situ.

Jadi, ketika Gates bertanya seperti apa kriteria itu, menurut saya jawabannya tidak harus diciptakan dari nol. Setidaknya di dunia kedokteran, jawabannya bisa dipinjam.

Mulailah dari ujian yang paling sederhana. Jika sebuah sistem akan memengaruhi apa yang terjadi pada seorang pasien, ajukan pertanyaan yang sama kepadanya dua kali. Jika ia memberi dua jawaban yang berbeda, itu saja seharusnya sudah mengakhiri pembicaraan. Kedengarannya seperti standar yang luar biasa rendah. Sebagian besar AI medis saat ini tidak bisa melewatinya.

Lalu tanyakan alasannya, seperti seorang dokter penanggung jawab menanyakan alasan. Bukan untuk satu paragraf yang terdengar masuk akal, melainkan untuk dasar yang sebenarnya. Nilai yang mana, ambang batas yang mana, bukti apa. Jika penalarannya tidak bisa diperiksa, penalaran itu tidak bisa dibantah, dan sesuatu yang tidak bisa Anda bantah tidak pantas berada di dekat pasien.

Lalu tingkat kesalahannya, diukur oleh pihak lain, pada data yang belum pernah dilihat sistem itu. Ini sekadar naluri yang sama dengan persetujuan obat. Tidak ada yang menerima begitu saja klaim produsen, dan tidak seorang pun boleh mulai melakukannya sekarang.

Dan ketika sistem itu mempelajari sesuatu yang baru, dan sistem-sistem ini akan terus belajar, memang itulah inti keberadaannya, perilaku barunya harus menunggu. Perilaku itu dijalankan diam-diam, mencatat apa yang akan dilakukannya, dan seorang manusia memutuskan apakah ia layak lulus. Kedokteran sudah melakukan ini pada dirinya sendiri. Hasil yang menjanjikan menunggu uji klinis, uji klinis menunggu pedoman. Prosesnya lambat, dan itu juga alasan lemari obat Anda tidak membunuh Anda.

Keberatannya selalu inovasi. Selalu begitu. Namun menurut saya keberatan itu mencampuradukkan dua pekerjaan yang berbeda menjadi satu. AI yang menyisir sepuluh juta rekam medis untuk mencari pola yang belum pernah dikodifikasi siapa pun seharusnya dibiarkan berlari bebas, karena hipotesis memang ada untuk lebih sering salah. AI yang bertindak atas satu pasien di hadapannyalah yang perlu dikekang. Dua pekerjaan, aturan yang berbeda, dan sebuah pintu di antara keduanya yang hanya terbuka setelah ditinjau. Gates menyampaikan poin yang hampir sama tentang pemantauan model yang bisa merancang molekul berbahaya. Biayanya bagi industri nyaris nol. Entah mengapa, hal itu tetap belum dilakukan.

Saya ingin berhati-hati soal batas jangkauan saya di sini. Saya sama sekali tidak tahu seperti apa daftar yang setara untuk senjata siber atau biosekuriti. Bukan bidang saya, dan saya makin curiga pada siapa pun yang fasih di semua bidang sekaligus. Namun saya memperhatikan bahwa ketika Gates mengucapkan kata kriteria, semua orang mengangguk dengan serius dan tak seorang pun menuliskan apa pun. Di sudut dunia saya, daftar itu bisa ditulis. Sebagian besarnya ada di atas, dalam sekitar empat ratus kata.

Dan sebagai catatan, saya tidak menulis ini sebagai orang yang takut pada teknologi. Saya membangun dengannya setiap hari, dan saya masuk ke pekerjaan ini karena apa yang terjadi ketika pertolongan medis datang terlambat. Saya tahu harganya. Justru itulah sebabnya kriteria itu penting. Cara tercepat agar AI benar-benar membantu orang, dalam skala besar, di tempat-tempat yang dikendalikan rumah sakit, regulator, dan pengadilan, adalah dengan adanya seseorang yang menunjukkan seperti apa akuntabilitas itu, di depan publik, tempat hal itu bisa diperiksa. Dunia kedokteran menulis buku panduan itu sekitar seabad lalu. Seseorang hanya perlu mengambilnya.

Sumber: wawancara The Atlantic. ((Z))