Çin'in önde gelen savaş uçağı tasarım enstitüsü AVIC Chengdu Aircraft Research and Design Institute'tan mühendisler, yapay zekanın askeri alanda yeni bir risk oluşturduğu konusunda uyardı. J-20 savaş uçağının geliştirilmesinde görev alan ve yeni nesil J-36 programında da yer alan ekip, büyük dil modellerinin son derece gerçekçi görünen ancak tamamen uydurma askeri bilgiler üretebildiğine dikkat çekti. Bu değerlendirmeler, Çin devletine ait savunma şirketi Norinco tarafından yayımlanan Information Studies: Theory & Application dergisinde 20 Haziran'da yayımlanan bir makalede yer aldı.
Hayali veriler tasarım kararlarını nasıl etkiliyor?
Bir savaş uçağı geliştirilirken karşı tarafın radar kapsama alanı, radarların çalışma frekansları, füze angajman bölgeleri, elektronik harp kabiliyetleri, erken ihbar uçaklarının konumları ve kara konuşlu hava savunma sistemleri ayrıntılı biçimde analiz ediliyor. Bu veriler, uçağın gizlilik özelliklerinden sensörlerine, manevra kabiliyetinden muharebe menziline kadar pek çok kritik tasarım kararını doğrudan etkiliyor.
Chengdu uçak tasarım kuruluşuyla bağlantılı mühendis Zhang Xianzhe'ye göre büyük dil modelleri, bu süreçte son derece inandırıcı görünen fakat gerçekte var olmayan bilgiler üretebiliyor. Model, bir savaş uçağının boyutlarını, taşıma kapasitesini, silah kabiliyetlerini, azami hızını ya da muharebe yarıçapını uydurabiliyor.
Aynı durum radarların tarama mesafeleri ve kullandıkları frekans bantları için de geçerli. Üstelik bu hataları fark etmek her zaman kolay değil.
Yapay zekanın hazırladığı çıktı teknik açıdan tutarlı ve gerçekçi görünüyorsa, analistler ya da mühendisler yanlış bilgiyi gerçek istihbarat verisi sanabiliyor.
Fizik kurallarını göz ardı eden öneriler
Risk yalnızca yanlış askeri istihbarat üretmekle sınırlı değil. Zhang'a göre yapay zeka, yeterli dayanıklılığa sahip olmayan malzemeler önerebilir, aerodinamik açıdan mümkün olmayan manevralar tasarlayabilir ya da uçağın gerçek operasyonel menzilini aşan görev planları hazırlayabilir.
Yani kağıt üzerinde kusursuz görünen bir öneri, gerçek dünyada uygulanamaz hale gelebilir. Askeri istihbarat tarafında da benzer bir tehlike var.
Yapay zekanın gerçekte bulunmayan üsler, askeri birlikler veya birlik hareketleri oluşturması mümkün. Bu bilgiler daha sonra simülasyonlara aktarılırsa karşı tarafın askeri kapasitesine ilişkin tamamen yanlış değerlendirmeler ortaya çıkabilir.
İnsan kontrolü yetersiz kalabilir
Son kararın insan analistler tarafından verilmesi riski azaltan önemli bir unsur. Ancak yapay zekanın ürettiği bilgi ve öneri miktarı arttıkça her bir çıktının ayrıntılı biçimde kontrol edilmesi de zorlaşıyor.
Bir başka ifadeyle, sorun yalnızca yapay zekanın yanlış bilgi üretmesi değil. O yanlış bilginin, yüzlerce doğru ve tutarlı görünen veri arasına karışması.
Zhang, "halüsinasyon" olarak adlandırılan bu uydurma çıktıları azaltmak için bazı önlemler de öneriyor. Bunların başında savunma kuruluşlarının yapay zeka modellerini güvenilir askeri verilerle sınırlandırması geliyor.
Aynı zamanda bilgilerin kaynağının kontrol edilebileceği, aranabilir veri tabanlarının oluşturulması gerektiği belirtiliyor. Daha açık ve kesin komutların kullanılması da modelin belirsiz yorumlar üretme ihtimalini azaltabilir.
