Yapay zeka dünyasının en popüler aracı ChatGPT, kullanıcı gizliliğiyle ilgili ciddi bir iddia ile karşı karşıya. 404 Media tarafından ortaya çıkarılan belgelere göre OpenAI, yapay zekanın performansını artırmak ve hatalarını minimize etmek amacıyla gerçek kullanıcıların sohbet geçmişlerini insan çalışanlara inceletiyor. Project Lily olarak adlandırılan bu gizli çalışma, yapay zekanın verdiği yanıtların doğruluğunu ve üslubunu denetlemeyi hedefliyor.
Yapay zekanın 'uyumluluk' sorunu mercek altında
İddialara göre, yüzlerce çalışan ChatGPT ile kullanıcılar arasında geçen diyalogları detaylı bir şekilde analiz ediyor. Bu incelemelerin temel odak noktalarından biri, yapay zekanın 'sycophancy' yani aşırı uyumluluk davranışını tespit etmek.
Yapay zekanın, kullanıcıyı memnun etmek adına yanlış bilgileri onaylaması veya hatalı görüşlere katılması gibi durumlar, çalışanlar tarafından puanlanarak modelin eğitilmesinde kullanılıyor. Bazı durumlarda sadece tek bir yanıt değil, tüm sohbet geçmişi çalışanların erişimine açılıyor.
Kişisel verilerin gizliliği tehlikede mi?
OpenAI, çalışanların önüne gelen verilerdeki kullanıcı isimlerini ve kişisel bilgileri temizlediğini iddia etse de, bu sürecin her zaman kusursuz işlemediği belirtiliyor. Temizleme işlemlerindeki olası eksiklikler, hassas verilerin insan gözüyle görülebilmesine neden olabiliyor. Kullanıcıların, yapay zeka ile yaptıkları özel görüşmelerin bir gün bir çalışan tarafından okunabileceğini öngörmemesi, veri güvenliği konusunda büyük bir endişe kaynağı haline geldi.
İnsan geri bildirimi yapay zeka için neden kritik?
Modern yapay zeka modelleri, sadece devasa veri setleri üzerinden değil, aynı zamanda insan geri bildirimleri ile şekilleniyor. İnsanların yaptığı değerlendirmeler, modelin daha güvenli ve doğru yanıtlar vermesini sağlayan 'RLHF' (İnsan Geri Bildirimli Pekiştirmeli Öğrenme) sürecinin bir parçası.
Ancak bu sürecin gerçek kullanıcı verileriyle yürütülmesi, şeffaflık tartışmalarını beraberinde getiriyor. Şu an için 404 Media'nın ulaştığı belgelerle sınırlı olan bu iddialar, OpenAI'ın veri işleme politikalarının ne kadar geniş kapsamlı olduğu sorusunu akıllara getiriyor.
