Teknolojinin hukuk dünyasındaki kullanımı tartışmaları beraberinde getirirken, ABD'den gelen bir karar yapay zekanın sınırlarını bir kez daha gözler önüne serdi. New Mexico Eyalet Yüksek Mahkemesi, bir cinayet davasının temyiz sürecinde ChatGPT'den yardım alan avukat Stephen Aarons hakkında disiplin cezasına hükmetti.
Hayali tanıklar ve çarpıtılmış içtihatlar
Avukat Aarons, hazırladığı resmi temyiz dilekçesinde yapay zekanın sunduğu verileri yeterince denetlemediğini itiraf etti. Yapılan incelemelerde, dilekçenin içeriğinde gerçekte var olmayan tanık ifadelerinin yer aldığı ve mevcut yargı içtihatlarının tamamen çarpıtıldığı tespit edildi. Mahkeme heyeti, avukatın sunduğu belgelerin hukuki geçerliliğini doğrulamadan resmi makamlara iletmesini büyük bir ihmal olarak değerlendirdi.
5 bin dolarlık ceza ve mesleki yasak
Mahkemeye saygısızlık suçlamasıyla yargılanan Aarons, New Mexico Barosu Müşteri Koruma Fonu'na 5 bin dolar ödemeye mahkum edildi. Ayrıca, devam eden soruşturma süreci sonuçlanana kadar avukatın eyalet yüksek mahkemesinde müvekkil temsil etmesi yasaklandı. Sanık için ise mahkeme tarafından yeni bir avukat atandı.
Teknoloji dünyasında halüsinasyon riski
Olayın ardından açıklamalarda bulunan Aarons, yapay zekanın bu denli yanıltıcı bilgiler üretebileceğini öngöremediğini belirterek pişmanlığını dile getirdi. Uzmanlar, yapay zeka modellerinin kendinden emin bir dille yanlış bilgi üretmesi olarak tanımlanan halüsinasyon riskine karşı uyarıyor. OpenAI verilerine göre, yapay zeka sistemlerinin hata yapma oranının yüzde 33 ile yüzde 48 arasında değişebilmesi, hukuk gibi hassas alanlarda insan denetiminin önemini bir kez daha kanıtlıyor.
