Yapay zeka teknolojilerinin hızla gelişmesi, beraberinde ciddi güvenlik endişelerini de getiriyor. Google'ın benzer bir uyarıda bulunmasından sadece iki gün sonra, yapay zeka şirketi Anthropic, modellerinin biyolojik silah geliştirme ve siber saldırı gibi kötü niyetli faaliyetler için kullanılmaya çalışıldığını tespit ettiklerini açıkladı. Şirketin yayımladığı tehdit istihbaratı raporu, teknolojinin insanlık üzerindeki potansiyel risklerine dair tartışmaları yeniden alevlendirdi.
Biyolojik silah tehdidi ve kötüye kullanım
Anthropic, Claude yapay zeka modelinin biyolojik silahların sentezlenmesi veya geliştirilmesi süreçlerinde teknik destek almak isteyen aktörler tarafından suistimal edilmeye çalışıldığını belirtti. Şirket, bu tür girişimlerin felaketle sonuçlanabilecek riskler taşıdığını vurgulayarak, biyolojik silah geliştirme süreçlerini destekleyebilecek beş farklı vaka incelemesini raporunda öne çıkardı. Yetkililer, aynı bilgilerin aşı veya tedavi geliştirme gibi faydalı alanlarda da kullanılabileceğine dikkat çekerek, durumun karmaşıklığına işaret etti.
Siber casusluk ve devlet destekli faaliyetler
Raporda sadece biyolojik silahlar değil, siber güvenlik tehditleri de geniş yer buldu. Anthropic, modellerinin Rusya bağlantılı siber casusluk grupları, İranlı propaganda kurumları ve Çinli laboratuvarlar tarafından kötüye kullanıldığını tespit etti.
Özellikle Midnight Blizzard gibi hacker gruplarının, güvenlik sistemlerinden kaçmak için yapay zekayı kodlarını yeniden yazmak amacıyla kullandığı iddia edildi. Ayrıca, geleneksel silah sistemlerinin geliştirilmesine yönelik yazılım destekleri de raporun dikkat çeken bulguları arasında yer aldı.
Sektörde 'yavaşlama' çağrıları
Yaşanan bu gelişmeler, yapay zeka dünyasında güvenlik önlemlerinin artırılması yönündeki baskıları artırdı. ABD'li siyasetçi Bernie Sanders, gelişmiş yapay zeka çalışmalarına ara verilmesi ve yapay süperzekanın yasaklanması için yasa tasarısı sunarken, OpenAI gibi dev şirketlerden de sektörün gönüllü olarak yavaşlaması gerektiğine dair çağrılar yükseliyor. ABD Başkanı Donald Trump ise yapay zeka yarışında geri kalmanın yaratacağı risklere dikkat çekerek, bu tür kısıtlamalara temkinli yaklaştığını ifade etti.
