Gates röportajının kimsenin yanıtlamadığı kısmı
İngilizceden çevrilmiştir. Orijinalini okuyun

Bill Gates'in yapay zeka konusunda fikrini değiştirdiğini söylediği röportajı izledim. Çoğu tahmin edeceğiniz gibi. Yetenekler düşündüğünden hızlı geldi. Biyoterör, siber tehditler, istihdam. Ama dönüp dolaşıp aynı yakınmaya geliyordu ve bu yakınma aklımda, korkutucu kısımlardan daha uzun süre kaldı. Şu anda elimizdeki tek şeyin, hiçbir ölçütü olmayan gönüllü bir inceleme olduğunu söyleyip duruyor. Şirketler kendi ödevlerini kendileri notluyor ve sınavın ne olması gerektiğini bile kimse yazıya dökmüş değil.
Bunu neredeyse bir meydan okuma gibi söylüyor. İzlerken aklımdan hep şu geçti: O sınavın neye benzediğini aslında biliyorum. Her şey için değil. Tıp için, yetiştiğim alan için.
Hastanelerle ilgili, kimsenin durup fark etmediği tuhaf bir şey var. Hiç gitmediğiniz bir şehirde bir hastaneye girip hayatınızı tamamen yabancı insanlara teslim edebiliyorsunuz ve bu size normal geliyor. Neden? Bu insanların hiçbirine akıllı göründükleri için güvenilmiyor. Her biri bir zincirden geçerek geldi. Sınavlar, uzmanlık eğitimi, verdikleri her istemi yüksek sesle gerekçelendirmelerini isteyen bir sorumlu hekim, hatalarının meslektaşlarının önünde didik didik edildiği toplantılar. Tıp, yavaş yavaş ve pek çok zarara yol açtıktan sonra, yetkin görünmenin bir standart olmadığını öğrendi. Bunun yerine hesap verebilirliği standart yaptı ve güven de kendiliğinden ardından geldi.
Bu yüzden Gates ölçütlerin neye benzeyeceğini sorduğunda, cevabın sıfırdan icat edilmesi gerektiğini düşünmüyorum. En azından tıpta ödünç alınabilir.
Akla gelebilecek en basit testle başlayın. Bir sistem bir hastanın başına gelecekleri etkileyecekse, ona aynı soruyu iki kez sorun. İki farklı cevap veriyorsa, bu tek başına konuşmayı bitirmeli. Kulağa gülünç derecede düşük bir çıta gibi geliyor. Bugün tıptaki yapay zekanın çoğu bu çıtayı aşamıyor.
Sonra, bir sorumlu hekimin sorduğu gibi, nedenini sorun. Makul görünen bir paragraf değil, gerçek dayanağı isteyin. Hangi değer, hangi eşik, hangi kanıt. Gerekçe incelenemiyorsa ona itiraz edilemez ve itiraz edemeyeceğiniz bir şeyin bir hastanın yanında işi yoktur.
Sonra hata oranı: başkası tarafından, sistemin hiç görmediği veriler üzerinde ölçülmüş olarak. Bu, ilaç onayındaki içgüdünün ta kendisi. Kimse üreticinin sözüyle yetinmiyor ve şimdi yetinmeye başlamamalı.
Ve sistem yeni bir şey öğrendiğinde, ki bu sistemler öğrenmeye devam edecek, varlık sebepleri de bu, yeni davranış bekletilir. Sessizce çalışır, devrede olsa ne yapacağını kayda geçirir ve mezun olup olmayacağına bir insan karar verir. Tıp bunu zaten kendine uyguluyor. Umut vadeden bir sonuç klinik çalışmayı bekler, klinik çalışma da kılavuzu. Yavaştır ve ecza dolabınızın sizi öldürmemesinin nedeni de budur.
Karşı çıkanlar hep inovasyonu öne sürer. Her seferinde. Ama bence bu itiraz iki farklı işi tek bir işmiş gibi bulanıklaştırıyor. Kimsenin kodlamadığı örüntüler için on milyon kaydı tarayan bir yapay zekanın dizginsiz çalışmasına izin verilmeli, çünkü çoğu zaman yanılmak zaten hipotezlerin işi. Dizgin gereken ise karşısındaki tek bir hasta üzerinde harekete geçen yapay zekadır. İki iş, farklı kurallar ve aralarında yalnızca incelemeden sonra açılan bir kapı. Gates de tehlikeli moleküller tasarlayabilen modellerin izlenmesi konusunda neredeyse aynı şeyi söylüyor. Bu, sektöre neredeyse hiçbir maliyet getirmez. Nedense hâlâ yapılmıyor.
Burada kendi sınırlarım konusunda dikkatli olmak istiyorum. Siber silahlar ya da biyogüvenlik için eşdeğer listenin ne olduğu hakkında hiçbir fikrim yok. Benim alanım değil ve her alanda aynı anda akıcı konuşabilen herkesten şüphelenir oldum. Ama Gates “ölçüt” kelimesini söylediğinde herkesin ciddiyetle başını salladığını ve kimsenin bir şey yazmadığını fark ediyorum. Benim dünyamın bu köşesinde liste yazılabilir. Büyük kısmı yukarıda, yaklaşık dört yüz kelimede.
Bu arada şunu da söyleyeyim, bunu teknolojiden korkan biri olarak yazmıyorum. Her gün onunla bir şeyler inşa ediyorum ve bu işe, tıp geç kaldığında olanlar yüzünden girdim. Bunun bedelini biliyorum. Ölçütlerin önemli olmasının nedeni de tam olarak bu. Yapay zekanın insanlara gerçekten, büyük ölçekte, hastanelerin, düzenleyicilerin ve mahkemelerin kontrol ettiği yerlerde yardım etmesinin en hızlı yolu, birinin hesap verebilirliğin neye benzediğini herkesin önünde, denetlenebileceği bir yerde göstermesidir. Tıp bu kılavuzu yaklaşık bir asır önce yazdı. Birinin onu alıp kullanması yeter.
Kaynak: The Atlantic röportajı. ((Z))