Yapay zekanın sağlık tavsiyelerine güvenen Scott Winters, yanlış yönlendirmeler sonucu akciğer embolisi geçirerek yoğun bakıma kaldırıldı; şimdi ise teknoloji devinden hesap soruyor.
Teknoloji dünyasının gündemine bomba gibi düşen olay, yapay zeka destekli sohbet robotlarının tıbbi konulardaki güvenilirliğini bir kez daha tartışmaya açtı. Florida’da yaşayan rahip Scott Winters, yaşadığı sağlık sorunlarını profesyonel bir hekim yerine ChatGPT ile paylaşmayı tercih etti. Ancak sürecin sonunda yaşadığı mağduriyet, Kaliforniya mahkemelerinde dev bir hukuk mücadelesine dönüştü.
Hatalı teşhis hayatını kararttı mı?
Winters, 2024 yılı içerisinde vücudundaki çeşitli ağrılar için yapay zekadan fikir aldı. Dava dosyasında yer alan bilgilere göre sistem, ilk aşamada tıbbi destek alması gerektiğini belirtse de, ilerleyen diyaloglarda Winters’ın semptomlarını önemsizleştirerek teşhis niteliğinde yönlendirmelerde bulundu. Yapay zekanın "endişelenecek bir durum olmadığı" yönündeki telkinlerine güvenen rahip, hastaneye gitmeyi erteledi. Çok geçmeden durumu ağırlaşan Winters, akciğer embolisi teşhisiyle acil servise kaldırıldı ve günlerce yoğun bakımda yaşam savaşı verdi.
OpenAI bu süreci nasıl savunuyor?
Yaşananların ardından soluğu mahkemede alan Winters, OpenAI ve CEO Sam Altman’ı "yetkisiz hekimlik" ve "ağır ihmal" ile suçluyor. Teknoloji devi ise savunmasını şirketin kullanıcı sözleşmesinde yer alan maddelere dayandırıyor. OpenAI temsilcileri, sistemin hiçbir koşulda tıbbi tanı veya tedavi aracı olarak kullanılmaması gerektiğinin açıkça belirtildiğini savunuyor.
Hukuk uzmanları ise bu davanın, üretken yapay zeka teknolojileri için bir dönüm noktası olacağı konusunda hemfikir. Amerikan Gıda ve İlaç Dairesi’nin (FDA) tıbbi cihaz standartlarını karşılamayan yazılımların, insan hayatını doğrudan etkileyen tavsiyelerde bulunmasının hukuki sonuçları, ilk kez böylesine kapsamlı bir dava ile test edilecek.
