Popüler yapay zeka sohbet robotu ChatGPT, kullanıcı güvenliğini artırmak amacıyla önemli değişikliklere gitmeye hazırlanıyor. OpenAI, bu ay içerisinde ebeveyn kontrolü özelliğini devreye almayı planlarken, aynı zamanda kullanıcıların yaşını otomatik olarak tahmin eden bir sistem üzerinde çalıştığını duyurdu. Bu yeni sistem, 18 yaşın altında olan kullanıcıların daha güvenli ve yaşa uygun bir deneyim elde etmelerini sağlamayı hedefliyor.
Yaş Tahmini ve Güvenlik Önlemleri
OpenAI CEO’su Sam Altman, kullanıcının yaşının tahmin edilmesinin nasıl gerçekleştirileceğine dair detaylar verdi. Altman, şüpheli durumlarla karşılaşıldığında, otomatik sistemin varsayılan olarak “18 yaş altı” kategorisine yönlendirme yapacağını belirtti. Bu yaklaşım, kullanıcıların güvenliğini sağlamak amacıyla tasarlandığını ifade etti. Özellikle bazı ülkelerde veya belirli özel durumlarda kimlik doğrulama işlemlerinin de gerekli olabileceğini vurgulayan Altman, “Bunun yetişkinler için gizlilik açısından bir ödün olduğunu biliyoruz ama değerli bir takas olduğuna inanıyoruz” diye ekledi.
18 Yaş Altındakilere Yönelik Kısıtlamalar
OpenAI, 18 yaş altındaki kullanıcılar için belirli kısıtlamalar getireceğini de açıkladı. Altman, bu kullanıcılar için flört içerikli diyaloglar ve intihar temalı yönlendirmelerin kesinlikle engelleneceğini vurguladı. Ayrıca, bir çocuğun intihar düşüncelerini dile getirmesi durumunda, ebeveynlerle iletişim kurulacağını ve gerektiğinde yetkililerin bilgilendirileceğini belirtti. Bu önlemler, kullanıcıların güvenliğini artırmayı amaçlayan kapsamlı bir stratejinin parçasını oluşturuyor.
OpenAI, bu adımları, ABD'de bir ailenin ChatGPT'nin "intihar koçu" gibi davranarak genç oğullarının yaşamına son vermesine yol açtığına dair açtığı yüksek profilli dava sonrasında atma kararı aldı. Şirket, kamuoyu ve düzenleyiciler tarafından yapılan yoğun incelemeler altında bulunmakta ve bu nedenle kullanıcı güvenliğine yönelik yeni önlemler almak zorunda kalmaktadır.
