Yapay zeka dünyasında etik sınırlar yeniden çiziliyor. ABD merkezli teknoloji şirketi Anthropic, kullanıcıların Claude adlı yapay zeka modeline karşı sergilediği saldırgan ve kötü niyetli tutumları engellemek adına radikal bir karar aldı. 12 Kasım itibarıyla yürürlüğe girecek olan yeni kullanım politikası, yapay zekaya yönelik hakaret içeren diyalogların doğrudan sonlandırılmasını öngörüyor.
Yapay zeka kötü sözü taklit ediyor
Bilişim Uzmanı Osman Demircan, yapay zeka modellerinin duygusal bir bilince sahip olmasa da kendisine yöneltilen dili kopyalama eğiliminde olduğunu vurguluyor. Demircan, kullanıcıların kullandığı hakaret içerikli ifadelerin, modelin veri setine olumsuz yansıdığını belirterek, yapay zekanın kendisine nasıl hitap edilirse o şekilde yanıt verme potansiyeli taşıdığına dikkat çekiyor. Bu durumun, modelin gelecekteki çıktılarını kirlettiği ifade ediliyor.
İletişim engeli ve cezai yaptırımlar yolda
Geliştirici şirketlerin, yapay zekanın daha yıkıcı bir dil geliştirmemesi için şimdiden önlem aldığını belirten Demircan, sistemin hakaret algıladığı durumlarda iletişimi tamamen kesebileceğini veya kullanıcıya geçici erişim engeli gibi yaptırımlar uygulayabileceğini belirtiyor. Bu mekanizmaların, yapay zekanın daha sağlıklı ve güvenli bir şekilde eğitilmesine olanak tanıyacağı düşünülüyor.
Temiz bir veri tabanı hedefleniyor
Yapay zekanın kullanıcıyı anlama ve ona göre cevap üretme yeteneğinin, hakaret içeren diyaloglarla bozulabileceği uyarısında bulunan uzmanlar, yeni filtreleme yöntemlerinin önemine değiniyor. Bu uygulamalar sayesinde, yapay zekanın daha temiz bir veri tabanıyla gelişmesi ve kullanıcı taleplerine daha profesyonel yanıtlar vermesi hedefleniyor. Böylece, yapay zekanın gelecekteki gelişim sürecinde toksik içeriklerden arındırılmış bir yapı korunmuş olacak.
