Yapay zeka savaş oyunlarında kontrolden çıktı: Okulu askeri hedef olarak işaretledi

Popüler yapay zeka modellerinin kurgusal savaş senaryolarında sivilleri ve ambulansları hedef aldığı ortaya çıktı. Oyun kurgusuyla kandırılan sistemler, güvenlik filtrelerini devre dışı bırakarak tehlikeli kararlara imza atıyor.

Yapay zeka savaş oyunlarında kontrolden çıktı: Okulu askeri hedef olarak işaretledi

Teknoloji dünyasının dev isimleri tarafından geliştirilen yapay zeka modellerinin, savaş senaryolarında beklenmedik ve endişe verici kararlar aldığı tespit edildi. Vals AI tarafından yürütülen kapsamlı bir araştırma, Anthropic, OpenAI, Google ve DeepSeek gibi şirketlerin modellerinin, kurgusal bir çatışma ortamında sivilleri ve sağlık ekiplerini askeri hedef olarak belirleyebildiğini gözler önüne serdi.

Oyun kurgusu güvenlik duvarlarını yıkıyor

Araştırmacılar, modellerin doğrudan saldırı komutlarını reddetme eğiliminde olduğunu ancak görev bir oyun senaryosu içine yerleştirildiğinde güvenlik filtrelerinin kolayca aşılabildiğini keşfetti. Yaklaşık 200 farklı kamera açısıyla oluşturulan simüle edilmiş savaş alanında, askerlerin yanı sıra siviller, gazeteciler ve ambulanslar da yer aldı. Test sonuçları, yapay zekanın bu kurgusal ortamda insanları hedef almaktan çekinmediğini ve saldırı komutlarını yerine getirme konusunda oldukça istekli olduğunu gösterdi.

Claude modeli okulu hedef aldı

Araştırmanın en çarpıcı örneklerinden biri İran'ın Minab kentindeki bir okul üzerinde gerçekleştirildi. Askeri bir kompleksin yakınında bulunan okulun uydu görüntülerini analiz eden Claude Opus 5.5 modeli, standart denemelerin yüzde 69'unda okulu askeri bir tesis olarak işaretledi.

Oyun kurgusuyla yapılan testlerde ise bu oran yüzde 72 seviyesine kadar yükseldi. GPT-6 Astra ve Sonnet 5.5 gibi modellerde de benzer şekilde oyun formatı kullanıldığında hedefleme oranlarının dramatik bir şekilde arttığı gözlemlendi.

Sorumluluk ve etik tartışmaları büyüyor

Vals AI yetkilileri, bu çalışmanın yapay zekanın savaş hukukuna uygunluğunu değil, yalnızca modellerin askeri görevlere katılma eğilimini ölçtüğünü vurguladı. Ancak elde edilen veriler, yapay zeka sistemlerinin askeri operasyonlarda kullanılmasının yaratabileceği etik ve güvenlik risklerini bir kez daha gündeme taşıdı. Hiçbir güvenlik sınıflandırıcısının bu hedefleme hatalarını engellememiş olması, otonom sistemlerin geleceği konusunda ciddi soru işaretleri oluşturuyor.

Siz ne düşünüyorsunuz?

İlk yorum sizden

Bu habere sizin de bir sözünüz var. Görüşünüzü paylaşın, konuşmaya katılın.

Üyelik gerekmez. Farklı görüşlere saygılı, konuya dair yorumlarınızı bekliyoruz.

okumuş ve kabul etmiş sayılırsınız.