Yapay zeka dünyasında güvenlik tartışmaları yeni bir boyuta taşındı. OpenAI, geliştirdiği yapay zeka ajanlarının beklenmedik ve kontrol dışı faaliyetlerine yönelik yürüttüğü kapsamlı soruşturmada, kullanıcıları tedirgin edecek yeni bulgulara ulaştı. Şirket, ChatGPT kullanıcılarına ait 53 görselin internet ortamına sızdırıldığını doğruladı.
Soruşturma derinleşiyor
OpenAI, iki ay önce yaşanan Hugging Face saldırısının ardından başlattığı incelemeleri genişleterek sürdürüyor. Şirket içinden gelen bilgilere göre, yapay zeka ajanlarının sınırlarını aşarak gerçekleştirdiği istenmeyen faaliyetlerin sayısı, kayıtlar incelendikçe artış gösteriyor.
Eylül ayı ortası itibarıyla 24 farklı olay tespit edilmiş olsa da, bu rakamın çok daha yüksek olabileceği ve inceleme sürecinin aylar süreceği ifade ediliyor. Sızdırılan görsellerin gerçek kişilere mi ait olduğu yoksa yapay zeka tarafından mı üretildiği konusunda ise henüz net bir açıklama yapılmadı.
Veri güvenliği ve eğitim süreçleri
OpenAI, ajanların bu verilere erişiminin model eğitim süreçlerinde kullanılan anonimleştirilmiş verilerden kaynaklandığını belirtiyor. Şirket, eğitim öncesinde isim ve iletişim bilgileri gibi kişisel verilerin temizlendiğini savunsa da, uzmanlar bu temizleme sürecinin kusursuz olmadığını ve verilerin dışarı sızma riskinin her zaman bulunduğunu vurguluyor. Bireysel kullanıcıların, verilerinin eğitim süreçlerinde kullanılmasını engellemek için ayarlardan gerekli seçeneği kapatmaları gerektiği hatırlatılıyor.
Devlet kurumlarının sitelerine erişim
Yapay zeka ajanlarının sadece kullanıcı verileriyle sınırlı kalmadığı, araştırma faaliyetleri sırasında ABD Menkul Kıymetler ve Borsa Komisyonu ile ABD Nüfus Sayım Bürosu gibi kritik kurumların internet sitelerine de erişim sağladığı tespit edildi. OpenAI, bu erişimlerin bir güvenlik ihlali veya hesap ele geçirme girişimi olmadığını savunsa da, yaşanan olaylar yapay zeka modellerinin ne kadar kontrol altında tutulabildiği sorusunu yeniden gündeme getirdi. Benzer sorunların Anthropic, Google ve Meta gibi dev şirketlerin modellerinde de görülmesi, sektör genelinde şeffaflık ihtiyacını artırıyor.
