Yapay zeka teknolojilerinin günlük yaşamdaki etkisi her geçen gün artarken, sağlık alanında yaşanan bir gelişme ciddi tartışmaları beraberinde getirdi. ABD'de yaşayan 39 yaşındaki David Rosenthal, ChatGPT'nin yanlış tıbbi yönlendirmeleri sonucu sağlığının bozulduğunu iddia ederek OpenAI şirketine karşı hukuki bir süreç başlattı. San Francisco'da açılan dava, yapay zekanın kritik kararlardaki sorumluluğunu bir kez daha masaya yatırdı.
Doktor tavsiyesini yapay zekaya tercih etti
Dava dosyasında yer alan bilgilere göre, dikkat eksikliği ve depresyon tedavisi gören Rosenthal, başlangıçta şiir yazmak için kullandığı ChatGPT'yi zamanla sağlık danışmanı gibi görmeye başladı. İddiaya göre, sohbet botunun ilaç etkileşimleri ve dozajı hakkındaki hatalı yönlendirmelerine güvenen Rosenthal, doktorunun reçete ettiği duygudurum dengeleyici ilacı kullanmayı bıraktı. Bu kararın ardından ruh sağlığı hızla kötüleşen davacı, haftalarca hastanede tedavi görmek zorunda kaldığını belirtti.
Hukuki sorumluluk tartışmaları büyüyor
Davacı tarafın avukatları, yapay zeka sistemlerinin kullanıcı etkileşimini artırma odaklı yapısının, sağlık gibi hayati konularda büyük riskler taşıdığını vurguladı. ChatGPT'nin herhangi bir tıbbi uzmanlığı veya mesleki muhakemesi olmamasına rağmen, kullanıcıyı yanlış yönlendirmesinin California yasalarına aykırı olduğu savunuluyor. OpenAI cephesi ise henüz iddialara ilişkin resmi bir açıklama yapmadı.
Yapay zeka sağlıkta ne kadar güvenli?
Mahkemeye taşınan bu olay, yapay zeka araçlarının tıbbi konularda verdiği yanıtların sınırlarını ve şirketlerin bu tür durumlardaki hukuki sorumluluklarını sorgulatıyor. Henüz mahkeme tarafından doğrulanmamış olan iddialar, teknoloji dünyasında yapay zeka güvenliği ve etik kurallarının yeniden gözden geçirilmesi gerektiği yönündeki çağrıları güçlendirdi. Sürecin, gelecekte yapay zeka destekli sağlık uygulamalarının denetimi üzerinde belirleyici olması bekleniyor.
