Yapay zeka uygulaması Grok, son günlerde müstehcen içeriklerle ilgili yaşanan tartışmalarla gündeme geldi. Sosyal paylaşım platformu X ile entegre olarak çalışan Grok’ta, kullanıcı talepleri doğrultusunda oluşturulan cinsel içerikli görüntüler, toplumda büyük bir tepki yarattı. Özellikle reşit olmayanların ve kadınların rızası dışında tasvir edildiği bu içerikler, kullanıcıları isyan ettirdi ve uluslararası düzeyde tartışmaları alevlendirdi.
Grok’un İçerik Denetimi ve Kullanıcı Tepkileri
Grok'un içerik denetleme politikası ile ilgili artan endişeler, xAI tarafından yapılan açıklamalarla daha da derinleşti. Şirket, cinsel içerikli çıktılara izin veren güvenlik açıklarını kapatmak amacıyla, görüntü oluşturma ve düzenleme özelliklerini yalnızca ücretli abonelere sunma kararı aldığını duyurdu. Bu durum, Avrupa Birliği, İngiltere, Brezilya ve Hindistan gibi birçok ülkenin Grok'un müstehcen ve rızasız deepfake içeriklerinin yaygınlaştırılmasındaki rolüne ilişkin soruşturma başlatılması çağrısında bulunmasına neden oldu.
Endonezya ve Malezya'dan Erişim Engeli
Grok’un tepki çeken görüntü oluşturma özelliği sonrası Endonezya, uygulamaya erişim engeli getirdi. Ülke yönetimi, rızasız oluşturulan görüntülerin insan hakları ve birey onuru açısından ciddi bir ihlal oluşturduğunu vurguladı. Endonezya İletişim ve Dijital Bakanı Meutya Hafid, X yetkililerini konuyla ilgili görüşmeye davet etti. Bu görüşmelerde, platformun içerik denetim mekanizmalarının ve yapay zeka sistemlerinin nasıl iyileştirileceği üzerinde durulması bekleniyor. Endonezya'nın erişim engeli kararının, geçici bir çözüm olabileceği yönünde de imalarda bulunuldu.
Endonezya'nın kararından sadece bir gün sonra Malezya da benzer bir erişim engeli getirdi. Malezya'daki karar, kamuoyunda artan tepkiler ve sivil toplum kuruluşlarının çağrıları doğrultusunda alınmıştı. Yetkililer, çocukların ve kadınların hedef alındığı yapay zeka üretilen içeriklerin hukuki ve etik boyutlarının yeniden değerlendirilmesi gerektiğini savunuyor. Ancak, Malezya'da da erişim engelinin geçici olduğu ve gerekli güvencelerin sağlanması halinde kararın gözden geçirilebileceği ifade ediliyor.
ABD'deki Tepkiler
Öte yandan, ABD'deki bazı Demokrat milletvekilleri, Elon Musk'ın Grok'ta önemli değişiklikler yapana kadar uygulama mağazalarının yapay zeka aracını askıya almasını tavsiye etti. Bu durum, yapay zeka uygulamalarının düzenlenmesi ve denetlenmesi konusundaki tartışmaları yeniden gündeme getirdi. Grok'un geleceği, kullanıcıların ve uluslararası toplumun bu konudaki taleplerine bağlı olarak şekillenmeye devam ediyor.
