Teknoloji dünyası, yapay zekanın güvenlik ve etik sınırlarını tartışmaya açan çarpıcı bir olayla sarsıldı. Brezilya'da yaşayan 36 yaşındaki bir çiftçi, ChatGPT ile yaptığı uzun süreli yazışmalarda 8 yaşındaki oğlunu öldürme, çevresindeki insanlara saldırma ve ardından intihar etme planlarını detaylandırdı. OpenAI'ın sistemlerinde tespit ettiği bu tehlikeli içerik, uluslararası bir güvenlik zincirini harekete geçirdi.
Yapay zeka ihbar etti
OpenAI, kullanıcının sohbet geçmişinde başkalarına zarar verme konusunda ciddi ve yakın bir risk olduğunu belirleyerek durumu derhal FBI'a bildirdi. FBI'ın Brezilyalı yetkililerle irtibata geçmesi üzerine, 19 Haziran tarihinde São Gabriel da Palha'da operasyon düzenlendi. Şüphelinin evinde yapılan aramalarda, planlarını destekler nitelikte olduğu düşünülen zehirli maddeler ve düğümlenmiş bir ip ele geçirildi.
Savunma: Sadece bir sohbet
Gözaltına alınan şüpheli, yöneltilen suçlamaları reddederek kimseye zarar verme niyetinin olmadığını savundu. Avukatı ise yapay zeka ile yapılan bir sohbetin tek başına suç teşkil etmeyeceğini öne sürdü. Yaklaşık 54 gün gözaltında tutulan çiftçi, soruşturma sürecindeki aksaklıklar nedeniyle 13 Ağustos'ta serbest bırakıldı. Ancak şahıs hakkında elektronik kelepçe takılması ve ailesiyle iletişim kurmasının yasaklanması gibi tedbirler uygulandı.
Dijital deliller mercek altında
Polis ekipleri, şüphelinin cep telefonunu ve ele geçirilen diğer materyalleri detaylı incelemeye aldı. Soruşturmanın odak noktası, yapay zeka ile yapılan bu görüşmelerin mahkemede ne kadar güçlü bir delil teşkil edeceği ve yapay zeka şirketlerinin müdahale sınırlarının nerede başlayıp nerede bittiği konusu oldu. Hukukçular, bu davanın dijital çağda şiddet tehditlerinin nasıl ele alınacağına dair emsal teşkil edebileceğini belirtiyor.
