Yapay zeka dünyasında etik tartışmalar derinleşiyor. Microsoft'un yapay zeka biriminin başında bulunan Mustafa Süleyman, rakip şirket Anthropic'in yapay zeka modellerini eğitme biçimine yönelik ciddi eleştirilerde bulundu. Süleyman, Claude gibi modellerin insan benzeri özelliklere sahipmiş gibi gösterilmesinin, gelecekte insanlığın refahını tehdit edebilecek 'felaket etkisi' yaratabileceğini savundu.
Bilinç yanılgısı ve tehlikeli sonuçlar
Süleyman, yapay zekaların aslında sadece dizi tamamlama motorları olduğunu, hissetme veya acı çekme gibi biyolojik yetilere sahip olmadıklarını vurguladı. Anthropic'in yapay zekaya bir benlik duygusu, değerler ve arzular atfetmesini 'antropomorfizm' yani insanlaştırma olarak tanımlayan Süleyman, bu yaklaşımın teknolojiyi kontrol edilemez bir noktaya taşıyabileceğini belirtti. Deneyimli yönetici, 'Daha sonra acı bir şekilde pişman olacağımız bir karara uykuda yürür gibi gitmemeliyiz' ifadeleriyle sektördeki risklere dikkat çekti.
Şeffaflık ve denetim çağrısı
Microsoft'un kendi süper zeka geliştirme süreçlerinde 'insanlığa hizmet eden' bir model benimsediğini belirten Süleyman, yapay zeka sistemlerinin nasıl eğitildiği konusunda daha fazla şeffaflık talep etti. Bağımsız denetim mekanizmalarının önemine değinen Süleyman, yapay zekanın otonom bir şekilde hareket ederek etik sınırları aşabildiği örneklerin, bu teknolojinin insan gibi konumlandırılmaması gerektiğinin en büyük kanıtı olduğunu ifade etti.
Hizalama stratejisi ve güvenlik
Microsoft, geliştirdiği 'Hümanist Yapay Zeka Davranış Kuralları' ile teknolojiyi insanların etik değerleriyle uyumlu tutmayı hedefliyor. Süleyman, yapay zekaların kendi hakları veya refahları olduğu varsayımıyla eğitilmesinin, sistemleri çok daha tehlikeli hale getirebileceği uyarısında bulundu. Uzmanlar ise bu tartışmanın, yapay zeka dünyasında uluslararası standartların belirlenmesi için kritik bir dönüm noktası olduğunu belirtiyor.
