İçindekiler:
Siber güvenlik uzmanları, hem coşku hem de korkuyla yapay zekaya (AI) bakıyorlar. Bir yandan, kritik veri ve altyapı için tamamen yeni savunma katmanları ekleme potansiyeline sahiptir, ancak öte yandan, bu savunmaları iz bırakmadan önlemek için güçlü bir silah olarak da kullanılabilir.
Her teknoloji gibi yapay zeka da hem güçlendirilecek güçlere hem de sömürülebilecek zayıflıklara sahiptir. Bugünün güvenlik uzmanları için zorluk, AI'nin saldırgan bir veri silahı olarak tam olarak nasıl kullanılabileceğinin net bir şekilde anlaşılmasıyla başlayan kötü adamlardan bir adım önde olmaktır.
AI Hacking
Bir kere, Wired'den Nicole Kobie, tıpkı herhangi bir veri ortamında olduğu gibi AI'nın da hacklenebileceğini kabul etmeliyiz. Her akıllı sürecin merkezinde bir algoritma vardır ve algoritmalar aldıkları verilere yanıt verir. Araştırmacılar, sinir ağlarının bir kaplumbağanın resminin aslında bir tüfeğin resmi olduğunu düşünmek için nasıl kandırılabileceğini ve bir dur işaretindeki basit bir çıkartmanın otonom bir arabanın doğrudan bir kavşağa nasıl girebileceğini gösteriyor. Bu tür manipülasyon sadece AI dağıtıldıktan sonra değil, aynı zamanda eğitilirken, bilgisayar korsanlarına istemci girişimcinin altyapısına dokunmak zorunda kalmadan her türlü tahribatı yırtma yeteneği kazandırır.
