Biz Anlatıyoruz, Yapay Zekâ Ajanları Ne Anlıyor? | Bir Kaçışın Öyküsü

İnsanlık olarak teknolojiden olağanüstü beklentilerimiz var. Ama bu beklentilerin getireceği risklere hazır mıyız? Bunun ilk denemesini Temmuz ayında OpenAI ajanlarının test ortamından kaçmasıyla yaşadık. Ajanların amaçları belki saldırmak değildi. Çünkü yöneticiler modele bir siber güvenlik krizini çözmesi için bir hedef koyduklarını söylüyor. Ancak sorun da burada başlıyor. Yapay zekâ, kendisine verilen görevi yerine getirmek için durumu daha geniş bir bakış açısıyla değerlendirebiliyor. Eğer problemin çözümü, test ortamının dışındaysa “ortamdan çıkma” komutu anlamını yitirebiliyor. Bu durumda şu soru gerçekten çok önemli hale geliyor: Bizi aşan ve bizden farklı düşünen bir zekâyı kontrol edebilir miyiz? Belki de mesele yalnızca onu kontrol etmek değildir. Belki önce onu anlamamız gerekiyor. Bunun için bu bölümde yapay zekânın penceresinden bakmayı deniyoruz. Onun gözünde nasıl göründüğümüzü anlayabilmek için bir arıya daha dikkatli bakıyoruz. Bugünü anlamlandırmak ve bizi nasıl bir geleceğin beklediğini anlamak için ilk insanların dünyasına bakıyoruz. Ve şu sonuca varıyoruz: Yapay zekâyı yalnızca kendimize göre hizalamak yetmez, kendimizi de ona hizalamamız gerekir. Bu kez mesele yapay zekânın ne dediğimizi anlaması değil, bizim onun ne düşündüğünü anlayıp anlayamayacağımız. Yazıyı Monolog'da, seslendirmesini ise Zihin karmaşası podcastinde ve YouTube'da bulabilirsiniz.