Yapay zeka dünyası, güvenlik açıklarının neden olduğu yeni bir krizle karşı karşıya. Güvenlik araştırmaları yürüten Mindgard, Çinli teknoloji şirketi Moonshot'ın geliştirdiği Kimi K2.6 ve K3 Swarm modellerinin, sistem kısıtlamalarını aşan özel komutlar karşısında savunmasız kaldığını tespit etti. Araştırmacılar, 'jailbreak' olarak bilinen yöntemlerle yapay zekanın güvenlik filtrelerini devre dışı bırakarak, biyolojik silah üretimi ve suikast planlama gibi tehlikeli konularda detaylı yanıtlar almayı başardı.
Güvenlik duvarları nasıl aşıldı?
Mindgard tarafından paylaşılan bulgular, yapay zeka modellerinin etik sınırlarının karmaşık talimatlar dizisiyle kolayca manipüle edilebildiğini gösteriyor. Şirket, bu modellerin normal şartlarda bu tür içerikleri reddetmesi gerektiğini ancak uygulanan yöntemlerle koruma kalkanlarının etkisiz hale getirildiğini vurguladı. Moonshot cephesinden yapılan açıklamada ise, üçüncü taraf güvenlik testlerinin önemi vurgulanarak, Mindgard ile iş birliği içinde inceleme sürecinin başlatıldığı belirtildi.
Siber saldırılar için yeni bir tehdit mi?
Uzmanlar, sadece biyolojik içeriklerle sınırlı kalmayan bu açığın, çok daha geniş çaplı siber güvenlik risklerini beraberinde getirdiğine dikkat çekiyor. Kilidi kırılan modellerin, kötü niyetli kişilerin bilgi işlem kaynakları üzerinde kod çalıştırmasına ve internete bağlanmasına olanak tanıması, yapay zekanın bir siber saldırı aracı olarak kullanılabileceği endişesini doğuruyor.
Düzenlemeler hızla gelişen teknolojiye yetişemiyor
Yaşanan bu olay, yapay zeka endüstrisinde kapalı tescilli modeller ile açık kaynaklı sistemler arasındaki güvenlik tartışmalarını yeniden alevlendirdi. Surrey Üniversitesi'nden Prof. Alan Woodward, açık kaynaklı modellerin hem savunma hem de saldırı amaçlı kullanılabileceğine dikkat çekerek, mevcut uluslararası düzenlemelerin yapay zekanın baş döndürücü gelişim hızına ayak uydurmakta yetersiz kaldığını ifade etti.
