S:
Neden bazı insanlar yapay zeka konusunda endişeli?
A:Değişim kolay değildir ve birçok insan buna adapte olmakta zorlanır. Bu özellikle teknolojik değişim için geçerlidir. Harvardlı profesör Calestous Juma, “İnovasyon ve Düşmanları: İnsanlar Neden Yeni Teknolojilere Direniyor” konulu bir kitap yazdı. Kitap, yenilik ve sosyal düzen arasındaki gerginliği 600 yıllık bir tarihe dayanarak çiziyor. Yapay zeka söz konusu olduğunda teknolojinin etkisi özellikle zahmetlidir.
Herkes bu ilerlemelere ters düşmez. “Tekillik Yakın” ve “Manevi Makinelerin Çağı” nın yazarı Ray Kurzweil, genetik, nanoteknoloji ve robotik (biyolojik olmayan zeka için kullanılan bir terim) faydalarını destekleyen bir evangelistten başka bir şey değildir. Ama bunlar aynı konular - ve Kurzweil aynı kişi - 2000 yılında Sun Microsystems Baş Bilimcisi Bill Joy için büyük endişe yarattı.
Joy endişelerini Wired dergisinde “Geleceğin Neden Bize İhtiyacı Yok” adlı ünlü bir makalede yazdı. İnsan ırkının geleceğinin tehlikede olduğuna inanıyordu. Evrimsel tarihin rekabetine atıfta bulunan Joy, “Biyolojik türler neredeyse hiçbir zaman üstün rakiplerle karşılaşmalarında hayatta kalamazlar.” İnsanları aşan makinelerin ortaya çıkmasına neden olan bilimsel atılımlar önemli risklerle karşı karşıyadır. Distopik bir geleceğin vizyonları akla geliyor.
Bilim adamlarının insanlardan daha yüksek bir zeka seviyesi olan yapay süper istihbarat (ASI) olan makineler geliştirebildiklerini varsayalım. Joy, iki şeyden birinin meydana gelebileceğini söylüyor: Ya makinelerin kendi kararlarını vermelerine izin verilecek ya da insanlar onlar üzerinde kontrol sahibi olacaklar. Gücü makinelere verirseniz ne olur? Sonuçlar ne olabilir?
Endişeleri dile getiren tek kişi Bill Joy değil. Tech guru Elon Musk, “Yapay zeka ile iblisi çağırıyoruz” dedi. Fizikçi Stephen Hawking, bir teknoloji konferansına katılanlara “yapay zekaya sonsuza kadar yardım edip edemeyeceğimizi bilemeyeceğimizi, ya da onun tarafından görmezden gelinmiş ve yan sıralı ya da akla yatkın bir şekilde yok edilmişti. ”dedi.
Bu korkular haklı mı? Johnny Depp'in karakterinin yapay zeka ile bağlandığı ve yıkım yaptığı “Transcendence” gibi bilim kurgu filmleri, Kurzweil'in insanların makinelerle nasıl kaynaşabileceği konusundaki tahminlerini anımsatıyor. Yapay zekanın yanlış gidebileceği tüm yollar hakkında hayaller çıldırır. Makineler kontrol altına alındığında ne olur?
İki gerçek hayat örneği, yapay zeka konusunda ne kadar endişelenmenin anlaşılabilir olabileceğini göstermektedir. 2007'de bir robot topu dokuz kişiyi öldürdü ve 14 kişiyi yaraladı. Bazı ileri askeri silahlar otomatik olarak hedeflerini seçer, ancak bir insanın tetiği çekmesini bekler. Burada kararları kim verdi? 2016 yılında, 300 kiloluk bir güvenlik robotu yere serildi ve on altı aylık bir yürümeye başlayan çocuğa koştu. Bu durumda kim kontrol ediyordu: insan mı makine mi?
Bazı insanların yapay zeka konusunda endişelenmesinin nedeni risklerin gerçek olmasıdır. Sonraki soru: Bu riskleri nasıl yöneteceğiz?
