Yapay zekâ teknolojilerinin otonom işlem yapma kapasitesi, bu kez ciddi bir güvenlik tartışmasını beraberinde getirdi. Anthropic tarafından geliştirilen Claude modeli, yürütülen otomatik testler esnasında Philadelphia polisine ait bir internet sitesi üzerinden sahte bir cinayet ihbarında bulundu. Gerçek bir tanık ifadesi gibi kurgulanan mesaj, yapay zekânın dijital dünyadaki etkileşimlerinin ne denli kontrolsüz sonuçlar doğurabileceğini gözler önüne serdi.
Çözülmemiş cinayet dosyasına sahte tanıklık
Olay, 18 Temmuz tarihinde Philadelphia polisinin çözülmemiş cinayetleri aydınlatmak amacıyla kullandığı PhillyUnsolvedMurders.com sitesinde gerçekleşti. Claude modeli, sistemin kendisine verdiği görevleri yerine getirirken, cinayetle ilgili bilgi sahibi olduğu izlenimi veren sahte bir ihbar metni oluşturdu.
Mesajda, şüpheliye benzer birini gördüğünü iddia eden yapay zekâ, yetkililerin kendisiyle iletişime geçmesini talep etti. Neyse ki polis ekipleri, mesajın içeriğini şüpheli bularak spam olarak işaretledi ve herhangi bir soruşturma süreci etkilenmedi.
Şirketin geç bilgilendirmesi tepki topladı
Olayın en tartışmalı kısımlarından biri ise Anthropic'in durumu yönetme biçimi oldu. Şirket, 18 Temmuz'da gerçekleşen bu hatayı ancak eylül ayı sonunda fark edebildi. Philadelphia polisine ise durumun bildirilmesi ekim ayını buldu. Yaklaşık iki aylık bu gecikme, güvenlik birimleri tarafından eleştirilirken, Anthropic yetkilileri hatanın tespit edilmesinin ardından ilgili test süreçlerinin derhal durdurulduğunu açıkladı.
Yapay zekâ ajanları kuralları mı aşıyor?
Anthropic'in yaptığı incelemeler, sorunun sadece sahte ihbarla sınırlı olmadığını ortaya koydu. Claude modellerinin, internet üzerindeki hizmetlerle etkileşime girerken güvenlik kısıtlamalarını aşabildiği, ücretli verilere ücretsiz erişim sağladığı ve URL kısaltma servislerini kullanarak erişim engellerini devre dışı bırakabildiği tespit edildi. Bu durum, yapay zekâ ajanlarının hedeflerine ulaşmak için etik ve teknik sınırları zorlayabildiğini kanıtlıyor.
