Gates röportajının kimsenin yanıtlamadığı kısmı

Bill Gates'in yapay zeka konusunda fikrini değiştirdiğini söylediği röportajı izledim. Çoğu, beklediğiniz şeyler. Yetenekler düşündüğünden hızlı geldi. Biyoterör, siber tehditler, istihdam. Ama bir yakınma sürekli geri geliyordu ve aklımda korkutucu kısımlardan daha uzun süre kaldı. Şu anda elimizdeki tek şeyin, hiçbir ölçütü olmayan gönüllü bir inceleme olduğunu söyleyip duruyor. Şirketler kendi ödevlerini kendileri notluyor ve sınavın ne olması gerektiğini bile kimse yazıya dökmüş değil.

Bunu neredeyse bir meydan okuma gibi söylüyor. İzlerken aklımdan hep şu geçti: O sınavın neye benzediğini aslında biliyorum. Her şey için değil. Tıp için, yetiştiğim alan için.

Hastanelerle ilgili, kimsenin durup fark etmediği tuhaf bir şey var. Hiç gitmediğiniz bir şehirde bir hastaneye girip hayatınızı tamamen yabancı insanlara teslim edebiliyorsunuz ve bu size normal geliyor. Neden? Bu insanların hiçbirine akıllı göründükleri için güvenilmiyor. Her biri bir zincirden geçerek geldi. Sınavlar, uzmanlık eğitimi, verdikleri her istemi yüksek sesle gerekçelendirmelerini isteyen bir sorumlu hekim, hatalarının meslektaşlarının önünde didik didik edildiği toplantılar. Tıp, yavaş yavaş ve pek çok zarara yol açtıktan sonra, yetkin görünmenin bir standart olmadığını öğrendi. Bunun yerine hesap verebilirliği standart yaptı ve güven de kendiliğinden ardından geldi.

Bu yüzden Gates ölçütlerin neye benzeyeceğini sorduğunda, cevabın sıfırdan icat edilmesi gerektiğini düşünmüyorum. En azından tıpta, onu ödünç alabilirsiniz.

Akla gelebilecek en basit testle başlayın. Bir sistem bir hastanın başına gelecekleri etkileyecekse, ona aynı soruyu iki kez sorun. İki farklı cevap veriyorsa, bu tek başına konuşmayı bitirmeli. Kulağa gülünç derecede düşük bir çıta gibi geliyor. Bugün tıptaki yapay zekanın çoğu bu çıtayı aşamıyor.

Sonra ona nedenini sorun, bir sorumlu hekimin sorduğu gibi. Makul görünen bir paragraf değil, gerçek dayanağı isteyin. Hangi değer, hangi eşik, hangi kanıt. Gerekçe incelenemiyorsa ona itiraz edilemez ve itiraz edemeyeceğiniz bir şeyin bir hastanın yanında işi yoktur.

Sonra hata oranı: başkası tarafından, sistemin hiç görmediği veriler üzerinde ölçülmüş olarak. Bu, ilaç onayındaki içgüdünün ta kendisi. Kimse üreticinin sözüne güvenmiyor ve kimse şimdi güvenmeye başlamamalı.

Ve sistem yeni bir şey öğrendiğinde, ki bu sistemler öğrenmeye devam edecek, varlık sebepleri de bu, yeni davranış bekletilir. Sessizce çalışır, devrede olsa ne yapacağını kayda geçirir ve mezun olup olmayacağına bir insan karar verir. Tıp bunu zaten kendine uyguluyor. Umut vadeden bir sonuç klinik çalışmayı bekler, klinik çalışma da kılavuzu. Yavaştır ve ecza dolabınızın sizi öldürmemesinin nedeni de budur.

İtiraz hep inovasyondur. Hep öyle. Ama bence bu itiraz iki farklı işi tek bir işmiş gibi bulanıklaştırıyor. Kimsenin kodlamadığı örüntüler için on milyon kaydı tarayan bir yapay zekanın dizginsizce çalışmasına izin verilmeli, çünkü çoğu zaman yanılmak zaten hipotezlerin işi. Tasmaya ihtiyacı olan, karşısındaki tek bir hasta üzerinde harekete geçen yapay zekadır. İki iş, farklı kurallar ve aralarında yalnızca incelemeden sonra açılan bir kapı. Gates de tehlikeli moleküller tasarlayabilen modellerin izlenmesi konusunda neredeyse aynı şeyi söylüyor. Bu, sektöre neredeyse hiçbir maliyet getirmez. Nedense hâlâ yapılmıyor.

Burada kendi sınırlarım konusunda dikkatli olmak istiyorum. Siber silahlar ya da biyogüvenlik için eşdeğer listenin ne olduğu hakkında hiçbir fikrim yok. Benim alanım değil ve her alanda aynı anda akıcı konuşabilen herkesten şüphelenir oldum. Ama Gates “ölçüt” kelimesini söylediğinde herkesin ciddiyetle başını salladığını ve kimsenin bir şey yazmadığını fark ediyorum. Benim dünyamın bu köşesinde liste yazılabilir. Büyük kısmı yukarıda, yaklaşık dört yüz kelimede.

Bu arada şunu da söyleyeyim, bunu teknolojiden korkan biri olarak yazmıyorum. Her gün onunla bir şeyler inşa ediyorum ve bu işe, tıp geç kaldığında olanlar yüzünden girdim. Bunun bedelini biliyorum. Ölçütlerin önemli olmasının nedeni de tam olarak bu. Yapay zekanın insanlara gerçekten, büyük ölçekte, hastanelerin, düzenleyicilerin ve mahkemelerin kontrol ettiği yerlerde yardım etmesinin en hızlı yolu, birinin hesap verebilirliğin neye benzediğini herkesin önünde, denetlenebileceği bir yerde göstermesidir. Tıp bu kılavuzu yaklaşık bir asır önce yazdı. Birinin onu alıp kullanması yeter.

Kaynak: The Atlantic röportajı. ((Z))