Finans dünyasında kredi başvurularının değerlendirilmesi sürecinde yapay zeka kullanımı hızla yaygınlaşırken, bu sistemlerin verdiği kararların şeffaflığı kritik bir tartışma konusu haline geldi. Karabük Üniversitesi Öğretim Üyesi Doç. Dr. Tülay Yıldırım Turan, yapay zeka modellerinin sunduğu gerekçelerin güvenilirliğini sorgulayan yeni bir akademik çalışma başlattı.
Kararların gerekçeleri ne kadar tutarlı?
Doç. Dr. Turan, yapay zekanın sadece bir sonuç üretmesinin yeterli olmadığını, bu sonucun hangi verilere dayandığının da büyük önem taşıdığını vurguladı. Yapay zekanın kredi onay veya ret kararlarını verirken sunduğu gerekçelerin tutarlılığını ölçmek istediklerini belirten Turan, bu amaçla TÜBİTAK 1002 Hızlı Destek Programı kapsamında özel bir çalışma yürüttüklerini açıkladı.
SHAP Stabilite Skoru ile denetlenebilir sistemler
Proje kapsamında geliştirilen SHAP Stabilite Skoru (SSS) adlı metrik, yapay zekanın farklı veri setleri ve model koşulları altında verdiği kararların ne kadar istikrarlı olduğunu ortaya koymayı hedefliyor. Disiplinlerarası bir ekiple yürütülen bu çalışma, Karabük, Marmara ve Mudanya üniversitelerinden uzmanları bir araya getiriyor.
Finans sektöründe şeffaflık dönemi
Geliştirilecek yöntemin sadece bankalar için değil, aynı zamanda finansal denetleyici kurumlar ve yazılım geliştiriciler için de önemli bir rehber olması bekleniyor. Proje, aynı zamanda lisansüstü öğrencilere sağladığı burs ve tez destekleriyle akademik alanda genç araştırmacıların yetişmesine de katkı sunuyor. Doç. Dr. Turan, nihai hedeflerinin finansal sistemlerde yapay zekanın daha şeffaf, hesap verebilir ve güvenilir bir şekilde kullanılmasını sağlamak olduğunu belirtti.
