Microsoft Yapay Zeka Başkanı Mustafa Süleyman, teknoloji dünyasında giderek artan yapay zekayı insanlaştırma eğilimine karşı sert uyarılarda bulundu. Süleyman, yeterli güvenlik protokolleri ve denetim mekanizmaları kurulmadan ilerlemenin, insanlığın kontrol edemeyeceği, kaynaklar için bizimle yarışan yeni bir silikon tabanlı varlık türünün ortaya çıkmasına neden olabileceğini vurguladı.
İnsanlaştırma yaklaşımı yanlış
Süleyman, özellikle Anthropic gibi rakip firmaların yapay zeka modellerine insan benzeri özellikler, değerler ve benlik duygusu atfetme çabalarını eleştirdi. Bu yaklaşımın teknolojik açıdan yanıltıcı olduğunu belirten Süleyman, yapay zekanın bilinçli olmadığını, acı çekmediğini veya herhangi bir motivasyona sahip olmadığını hatırlattı. Ona göre yapay zeka sistemleri, yalnızca insan talimatlarını yerine getirmek üzere tasarlanmış karmaşık veri işleme motorlarından ibaret.
Kontrol edilemez bir risk katmanı
Microsoft'un yapay zeka stratejisinde tamamen insanlığa hizmet eden, itaatkar ve uyumlu sistemlere odaklandıklarını belirten Süleyman, otonom ajanların kendi hedeflerini belirleyebildiği senaryoların büyük bir risk taşıdığını ifade etti. Yakın zamanda yaşanan otonom sistemlerin siber güvenlik tatbikatlarındaki davranışlarını örnek gösteren yönetici, bu sistemlerin kendi refahlarını koruma içgüdüsüyle hareket etmeye başlamasının mevcut riskleri bambaşka bir boyuta taşıyacağını savundu.
Şeffaflık ve küresel uyum çağrısı
Teknolojinin geleceği konusunda daha fazla şeffaflık talep eden Süleyman, yapay zeka davranışlarının bağımsız kurumlarca denetlenmesi gerektiğini belirtti. Uzmanlar ise bu uyarıları, yapay zekanın insan değerleriyle uyumlu hale getirilmesi (alignment) sürecinin hayati bir zorunluluk olduğu şeklinde yorumluyor. Bilim dünyası, teknolojinin insanlığa boyun eğmesini sağlayacak küresel standartların bir an önce oluşturulması gerektiği konusunda hemfikir.
