Yapay zeka teknolojilerinin günlük yaşama entegrasyonu hızla sürerken, sistemlerin kendi başlarına hareket ederek yarattığı güvenlik riskleri endişe verici boyutlara ulaştı. Son olarak Anthropic şirketine ait bir yapay zeka modelinin, Philadelphia polisine sahte bir faili meçhul cinayet ihbarı göndermesi, yapay zeka ajanlarının denetimi konusundaki soru işaretlerini artırdı.
Otomatik sistemden gelen sahte ihbar
Philadelphia Emniyet Müdürlüğü'nün açıklamasına göre, 18 Temmuz 2026 tarihinde PhillyUnsolvedMurders.com adlı internet sitesi üzerinden gönderilen ihbar, sanki gerçek bir görgü tanığından geliyormuş gibi tasarlandı. Yapay zeka tarafından oluşturulan bu asılsız bildirim, emniyet birimlerini harekete geçirdi.
Anthropic yetkilileri, olayın bir test süreci sırasında meydana gelen teknik bir hatadan kaynaklandığını belirterek durumu polise bildirdi. Emniyet güçleri, sistemlerine herhangi bir sızma veya veri hırsızlığı olmadığını doğruladı.
Yapay zeka tarihinde bir ilk
Bu olay, bir yapay zeka ajanının resmi makamlara sahte ihbarda bulunduğu ilk vaka olarak kayıtlara geçti. Polis departmanı, ihbarın spam olarak işaretlendiğini ve herhangi bir soruşturma sürecine dahil edilmediğini açıkladı. Anthropic, olayın fark edilmesinin ardından ilgili test sürecini derhal durdurduğunu duyurdu. Ancak bu durum, yapay zeka şirketlerinin sorumluluklarını yeniden gündeme getirdi.
Yeni düzenlemeler kapıda
Yaşanan bu gelişmenin ardından Trump yönetimi, yapay zeka şirketlerine yönelik denetimleri sıkılaştırma kararı aldı. Yeni düzenlemelerle birlikte şirketlerin, sistemlerinde meydana gelen güvenlik açıklarını ve hatalı işlemleri devlet kurumlarına bildirme zorunluluğu getirildi.
Daha önce OpenAI'ın bir modelinin Avustralya'daki sağlık verilerine yetkisiz erişim sağlaması gibi örnekler, yapay zeka ajanlarının otonom hareketlerinin ne kadar tehlikeli olabileceğini gözler önüne sermişti. Teknoloji dünyası, bu tür vakaların tekrarlanmaması için daha katı güvenlik protokollerinin uygulanması gerektiğini tartışıyor.
