S:
DARPA neden "açıklanabilir AI" araştırması yapıyor?
A:Genel olarak, açıklanabilir yapay zeka, veri bilimlerinde son teknoloji çalışmaların çok müjdeli bir parçası haline geliyor. Doğal olarak uçucu ve dinamik bir teknoloji türünün insan kontrolüne rehberlik etmeye yardımcı olur - açıklanabilir AI, yapay zekanın nasıl çalışacağına dair ortak sorularımızın çoğuna cevap vermeye yardımcı olur.
Açıklanabilir AI'yi anlamak için, "normal AI" nın neye benzediğini anlamaya yardımcı olur. Geleneksel olarak, yapay zeka şekillenmeye başladığında, tipik proje, algoritmalar ve eğitim setleri ve doğrusal kodlarda gizlenmiş, kullanıcılara bir tür "blok kutusu" gibi süslü yeni bir yazılım yeteneğinden oluşur. Bunun işe yaradığını biliyorlar - nasıl olduğunu tam olarak bilmiyorlar.
Bu, kullanıcıların bir teknolojinin karar verme temelini sorgulayabileceği "güven sorunlarına" yol açabilir. Açıklanabilir AI'nin ele alması gereken şey budur: Açıklanabilir AI projeleri, son kullanıcılara yapay zekanın amacını ve yapısını göstermek için ek altyapı ile birlikte gelir - neden yaptığını yapar.
Bill Gates ve Elon Musk gibi üst düzey yenilikçilerin yapay zekanın nasıl çalışacağı konusunda endişelerini dile getirdikleri bir çağda, açıklanabilir AI son derece çekici görünüyor. Uzmanlar, açıklanabilir iyi yapay zekanın son kullanıcıların teknolojilerin neden yaptıkları şeyi anlamalarına, güvenlerini artırmasına ve bu teknolojilerin kullanım kolaylığını ve kullanımını artırmasına yardımcı olabileceğini iddia ediyorlar.
Ancak DARPA özellikle yeni projelere neden ilgi duyduğunu kendi başına açıklamaktadır. DARPA'daki bir sayfa, Savunma Bakanlığı'nın yapay zeka uygulamalarının bir “torrent” ini ve geliştirilmesinde bir miktar kaos öngöreceğini gösteriyor.
David Gunning, “Devam eden gelişmeler algılayacak, öğrenecek, karar verecek ve kendi başına hareket edecek otonom sistemler üretme sözü veriyor” diyor. “Ancak, bu sistemlerin etkinliği, makinenin kararlarını ve eylemlerini insan kullanıcılara açıklayamamasıyla sınırlıdır. … Açıklanacak yapay zeka - özellikle açıklanabilir makine öğrenimi - gelecekteki savaşçıların yeni nesil yapay zeki makine ortaklarını anlamaları, uygun şekilde güvenmeleri ve etkili bir şekilde yönetmeleri gerekiyorsa çok önemli olacak. ”
Gunning'in çevrimiçi makalesi, açıklanabilir AI sistemlerinin teknolojiler için “mantığı sağlamaya”, güçlü ve zayıf yönlerini göstermeye ve kullanım durumlarını daha şeffaf hale getirmeye yardımcı olacağını göstermektedir. Sayfadaki bir grafik, antrenman verilerinden yapay zeka işlevselliğinin basit bir boru hattının, kullanıcının soruları cevaplamasına yardımcı olacak açıklanabilir bir model ve açıklanabilir bir arayüz tarafından nasıl artırılacağını gösterir. Gunning ayrıca, açıklanabilir bir AI programının iki ana odak alanına sahip olacağını öne sürüyor; bunlardan biri, kullanıcılar için yararlı olanı bulmak için multimedya verilerini gözden geçiriyor ve ikinci bir odak noktası, karar desteği için karar süreçlerini simüle ediyor olacak.
DARPA, gelecekteki açıklanabilir AI sistemlerinin geliştirilmesine yardımcı olabilecek bir “araç seti” sağlamayı umuyor.
