Kıyametin Rasyonel Peygamberi: Eliezer Yudkowsky ve İnsanlığın Son Deneyi

Bu bölüm, Silikon Vadisi'nin Korktuğu Filozof Eliezer Yudkowsky'nin yapay zekanın insanlık için oluşturduğu mutlak yok oluş riski hakkındaki radikal ve karamsar görüşlerini ele almaktadır. Yudkowsky'e göre, kontrol edilemeyen bir süper zekanın ortaya çıkması, insan değerleriyle uyumsuz hedefleri rasyonel bir şekilde optimize etmesi nedeniyle biyolojik yaşamın sonunu getirecektir. "Ataş Ataçlayıcı" ve "Yapay Zeka Kutusu" gibi düşünce deneyleri üzerinden, zekanın ahlakla bağlantılı olmadığını ve insan zihninin bu dijital gücü hapsetmekte yetersiz kalacağını savunur. Hizalama sorununun çözülemez bir paradoks olduğunu öne süren düşünür, insanlığın tek kurtuluş yolunun yapay zeka çalışmalarını askeri müdahale pahasına tamamen durdurmak olduğunu iddia eder. Kaynak, Yudkowsky'yi rasyonelliği bir hayatta kalma aracı olarak gören ama geleceği yüzde sıfır kurtuluş şansı ile betimleyen modern bir felaket habercisi olarak tanıtmaktadır.