OpenAI, Çinli bir grup kullanıcının, ChatGPT'yi sosyal medya gözetimi yapmak için kullanılan bir yapay zeka aracının kodunu düzenleyip hata ayıklamak amacıyla kullanmaya çalıştığını açıkladı. Bu, şirketin benzer bir durumu ilk kez tespit etmesi oldu.
Şirket, Cuma günü yaptığı açıklamada, bu grubun ChatGPT’yi, Çin karşıtı söylemleri izlemek için X, Facebook, YouTube, Instagram ve diğer platformlarda kullanılacak bir yazılımın satış tanıtımlarını oluşturması amacıyla yönlendirdiğini belirtti. Operasyon, özellikle Çin'deki insan hakları ihlalleri ile ilgili protestoları tespit etmeye yönelikti ve elde edilen verilerin Çin hükümetine iletilmesi hedefleniyordu.
OpenAI yaptığı açıklamada, bu ağın Çin iş saatlerine uygun bir şekilde çalışan, modellerini Çince talimatlarla yönlendiren ve manuel komutlar kullanarak büyük bir çeşitlilikte veri oluşturan ChatGPT hesaplarından oluştuğunu belirtti. "Operatörler, tespit ettikleri verilerin Çin elçiliklerine ve Amerika Birleşik Devletleri, Almanya ve Birleşik Krallık gibi ülkelerdeki protestoları izleyen istihbarat ajanslarına gönderildiğini iddia ederek modellerimizi kullandılar, " dedi şirket.
OpenAI'den Ben Nimmo, şirketin ilk kez böyle bir yapay zeka aracını ortaya çıkardığını ve "Tehdit aktörleri, AI modellerimizi kullanma şekilleri nedeniyle internetteki diğer aktivitelerine dair ipuçları bırakabiliyor, " şeklinde açıklamada bulundu.
Sosyal medya izleme aracının kodunun, Meta’nın açık kaynaklı Llama modelinin bir versiyonuna dayandığı iddia ediliyor. Ayrıca, grup ChatGPT’yi kullanarak, Çinli müşterileri adına oltalama e-postaları yazdığına dair bir yılsonu performans raporu hazırlamış.
OpenAI, bu faaliyetlerin etkisini değerlendirmenin, açık kaynaklı modellerin operatörlerinin de dahil olduğu çeşitli paydaşlardan alınacak verilerle mümkün olacağını belirtti.
Ayrıca, OpenAI, geçtiğimiz günlerde ChatGPT’yi, Çinli siyaset bilimci ve muhalif Cai Xia’yı eleştiren sosyal medya paylaşımları oluşturmak amacıyla kullanan bir hesabı yasakladığını duyurdu. Aynı grup, ABD’ye eleştirilerde bulunan İspanyolca makaleler de üreterek, bunları Latin Amerika'daki "ana akım" haber kuruluşlarına yayınlamış ve çoğunlukla bir birey ya da Çinli bir şirket adına yayımlamış.
