Gelişen teknolojiyle birlikte gerçeğinden ayırt edilmesi imkansız hale gelen yapay zeka ürünü yüzler, milyon dolarlık vurgunlara kapı aralıyor; peki bu sahteciliği tespit etmenin bir yolu var mı?
Hong Kong’da yaşanan ve bir finans çalışanının 25 milyon dolarını kaybetmesine neden olan olay, yapay zeka destekli dolandırıcılıkta gelinen tehlikeli noktayı gözler önüne serdi. Mühendislik şirketi Arup’taki meslektaşlarıyla bir toplantıda olduğunu sanan çalışan, aslında ekranın karşısında tamamen yapay zeka tarafından yaratılmış "deepfake" karakterlerle konuşuyordu. Uzmanlar, bu tür saldırıların maliyetinin önümüzdeki yıl sadece ABD'de 40 milyar doları bulabileceğini öngörüyor.
Algoritmalar neden insanlardan daha gerçekçi duruyor?
Yapay zeka modelleri, binlerce insan yüzünün matematiksel ortalamasını baz alarak "hipergerçekçi" karakterler üretiyor. Bu yüzler, gerçek insanlardan çok daha simetrik ve kusursuz olduğu için beynimiz tarafından güven verici ve tanıdık olarak kodlanıyor. Avustralya Ulusal Üniversitesi'nden Doçent Amy Dawel ve ekibinin yaptığı çalışma, insanların bu yüzleri tespit etmede başlangıçta oldukça başarısız olduğunu kanıtladı. Araştırmaya katılanların yapay zeka yüzlerini doğru tanımlama oranı, eğitim öncesinde yüzde 41 gibi düşük bir seviyede kaldı.
Eğitimle tespit yeteneği nasıl gelişiyor?
Bilim insanları, katılımcılara küçük detayları aramayı öğretmek yerine yüzü bir bütün olarak değerlendirmelerini sağlayan yeni bir yöntem uyguladı. Bir saatlik bütüncül değerlendirme eğitimi sonrasında, yapay zeka yüzlerini tespit etme başarısı yüzde 81’e kadar yükseldi. Uzmanlara göre, insanların doğal içgüdülerini kullanarak "bütünsel işleme" yapmaları, karmaşık yapay zeka algoritmalarını deşifre etmede en etkili savunma hattı olabilir. Ancak teknoloji hızla evrimleştiği için bu durum, gelecekte de sürecek bitmek bilmeyen bir kedi-fare oyununa dönüşmüş durumda.
