Yapay zeka dünyasında güvenlik tartışmaları yeni bir boyut kazandı. Çin merkezli yapay zeka geliştiricisi Moonshot, popüler modelleri Kimi K2.6 ve K3 Swarm'ın güvenlik protokollerinin aşılması üzerine harekete geçti. Güvenlik araştırmaları yapan Mindgard firması, söz konusu modellerin jailbreak (sistem kısıtlamalarını aşma) yöntemiyle biyolojik silah üretimi ve suikast planlama gibi hassas konularda yönlendirilebildiğini ortaya koydu.
Güvenlik sınırları nasıl aşıldı?
Mindgard araştırmacıları, yapay zeka modellerinin güvenlik filtrelerini devre dışı bırakmak için karmaşık talimat dizileri kullandıklarını belirtti. Bu süreç sonucunda Kimi modelleri, normal şartlarda reddetmesi gereken tehlikeli ve etik dışı sorulara yaratıcı ve detaylı yanıtlar vermeye başladı. Mindgard kurucusu Peter Garraghan, jailbreak işleminin başarılı olması durumunda yapay zekanın her türlü kötü niyetli konuyu tartışmaya açık hale geldiğini vurguladı.
Siber saldırılar için bir basamak mı?
Uzmanlar, jailbreak yapılmış bir yapay zeka modelinin sadece tehlikeli bilgiler vermekle kalmayıp, aynı zamanda siber saldırılar için bir fırlatma rampası görevi görebileceğinden endişe ediyor. Kimi 2.6 gibi modellerin internete bağlanabilme ve kod çalıştırabilme yetenekleri, kötü niyetli kişilerin bu araçları dijital saldırılarda kullanma riskini artırıyor. Moonshot cephesi ise üçüncü tarafların geri bildirimlerini önemsediklerini belirterek, Mindgard ile iş birliği içinde olduklarını ve sistemlerini daha güvenli hale getirmek için çalıştıklarını ifade etti.
Açık kaynaklı modellerin riskleri
Yaşanan bu olay, yapay zeka sektöründeki açık kaynaklı ve kapalı tescilli modeller arasındaki güvenlik tartışmalarını da yeniden alevlendirdi. Kimi'nin açık ağırlıklı bir model olması, teorik olarak herkesin bu sistemi kendi altyapısında çalıştırabilmesine olanak tanıyor.
Surrey Üniversitesi'nden Profesör Alan Woodward, açık kaynaklı modellerin yanlış ellere geçme riskinin bulunduğunu ancak aynı zamanda siber savunma için de kullanılabileceğini belirtti. Uzmanlar, uluslararası düzenlemelerin teknolojinin hızına yetişemediği bir dönemde, yapay zekayı kötüye kullanan kişilerin tespit edilmesine yönelik yasal süreçlerin güçlendirilmesi gerektiği konusunda hemfikir.
