S:
Neden bazı şirketler modern yapay zeka sistemlerine "insan geri besleme kontrolleri" eklemeyi düşünüyor?
A:En yeni AI teknolojisi ile çalışan bazı şirketler, bu sistemler için insan kontrolleri başlatmak için çalışıyor, makine öğrenimi ve derin öğrenme araçlarına doğrudan insan gözetimi sağlıyor. Bu şirketler de küçük oyuncular değil - Google'ın DeepMind ve Elon Musk'un OpenAI'si, yapay zeka gelişmeleri hakkında pratik yapan büyük şirketlere iki örnektir. Bunu göz önünde bulundurarak, sonuçlar farklıdır - örneğin, DeepMind, halka önemli veriler sağlama konusundaki isteksizliğinden dolayı tartışmalara konu olurken, OpenAI yapay zekayı kontrol etme konusundaki çalışmaları hakkında çok daha açıktır .
Bill Gates gibi konuya dikkat çeken Gates bile, bir şekilde insan kontrolünün ötesine geçebilecek yapay bir süper istihbaratın ortaya çıkmasından endişe duyan birçok kişiden biri olduğunu söylüyor. Musk da “hileli yapay zeka” olasılığı hakkında endişe verici bir dil ortaya koydu.
Muhtemelen şirketlerin yapay zekaya insan kontrolleri uygulamak için çalışmasının en acil nedeni - bazı teknolojik tekilliklerin insanların artık kontrol edemediği süper güçlü bir teknoloji ile sonuçlanacağı fikri. İnsan hırslarının başlangıcından beri, ister dizginler ve koşum takımları olan atlar, ister yalıtılmış kablolardaki elektrik ya da herhangi bir kontrol mekanizması olan olsun, sahip olduğumuz güçleri kontrol edebileceğimizden emin olmak için araçlar yerleştirdik. kontrol doğası gereği insani bir işlevdir ve bu nedenle yapay zeka gerçek işlevselliğe yaklaştıkça insanlar bu gücü kontrol altında tutmak için kendi doğrudan kontrollerini uygularlar.
Ancak, süper akıllı robot korkusu, şirketlerin makine öğrenimine ve yapay zeka projelerine insan kontrollerini uygulamalarının tek nedeni değildir. Bir diğer önemli neden makine sapmasıdır - yapay zeka sistemlerinin genellikle söz konusu verileri nasıl değerlendirdikleriyle sınırlı olduğu fikridir - böylece sistemdeki doğal önyargıları artırırlar. Makine öğrenimi ile uğraşan profesyonellerin çoğu, insan kullanıcı gruplarını aynı şekilde tedavi edemeyen BT sistemleri hakkındaki korku hikayelerini anlatabilir - ister cinsiyet ister etnik eşitsizlik olsun, ister sistemin insan toplumlarımızın nüanslarını gerçekten anlayamaması ve insanlarla nasıl etkileşim kurduğumuz.
Bir anlamda, insan kontrolleri sistemlere koyabiliriz çünkü çok güçlü olmalarından korkarız - ya da dönüşümlü olarak, yeterince güçlü olmadıklarından korkarız. İnsan kontrolleri, daha fazla hassasiyet sağlamak için makine öğrenimi veri setlerini hedeflemeye yardımcı olur. Bilgisayarın kendi başına öğrenemeyeceği fikirlerini güçlendirmeye yardımcı olurlar, çünkü model yeterince sofistike değildir, çünkü AI yeterince ilerlememiştir veya bazı şeyler sadece insanın bilişinde yatmaktadır. Yapay zeka bazı şeyler için harikadır - örneğin, ödül ve puan tabanlı bir sistem, yapay zekanın son derece karmaşık tahta oyunu “Git” te bir insan oyuncuyu yenmesine izin verdi - ancak diğer şeyler için bu teşvik tabanlı sistem tamamen yetersiz.
Kısacası, yapay zeka projelerinin nasıl çalıştığına insan kullanıcıları doğrudan dahil etmek için birçok zorlayıcı neden var. En iyi yapay zeka teknolojileri bile kendi başlarına çok düşünebilir - ancak duygular ve sosyal gelenekler gibi şeyleri işleyebilen gerçek bir biyolojik insan beyni olmadan, büyük resmi insan olarak göremezler.
Yetenekli bir makine öğrenimi şirketi , iş ve konu uzmanlarının ve makine öğrenimi geliştiricilerinin büyük iş sorunlarını çözme becerilerine sahip bir karışımı ile bu dengeyi kurmaya yardımcı olabilir.
