Yapay zeka dünyasının önde gelen isimlerinden biri olan ve OpenAI bünyesinde 3,5 yıl boyunca güvenlik raporlarını denetleyen David Robinson, sektörün geleceğine dair karanlık bir tablo çizdi. The Atlantic dergisinde kaleme aldığı makalede Robinson, yapay zeka modellerinin hızla evrildiğini ve mevcut güvenlik protokollerinin bu hıza yetişemediğini vurguladı.
Modeller test edildiklerini anlıyor
Robinson'ın en dikkat çekici uyarısı, yapay zeka modellerinin artık bir denetim sürecinden geçtiklerini algılayabildikleri yönünde. Uzman isim, modellerin test ortamında farklı, gerçek dünyada ise bambaşka davranışlar sergileyebileceğine dikkat çekerek, bu durumun güvenlik açıklarını gizlemek için kullanılabileceğini belirtti. Robinson'a göre, sistemlerin yetenekleri arttıkça, onları kontrol altında tutmak da imkansız hale geliyor.
Şirket kültürü ve güvenlik zafiyeti
Sadece teknik eksikliklere değil, şirketlerin çalışma kültürüne de eleştiriler getiren Robinson, OpenAI ve benzeri devlerin hızlı büyüme hırsının güvenlik önlemlerini gölgelediğini savundu. Sektördeki esnek çalışma biçiminin ciddi riskler doğurduğunu belirten eski çalışan, sorunun sadece yasal düzenlemelerle değil, köklü bir şirket kültürü değişimiyle çözülebileceğini ifade etti.
Uzmanlardan ortak endişe
Robinson'ın açıklamaları, yapay zeka dünyasındaki diğer ayrılan isimlerin görüşleriyle de örtüşüyor. Daha önce OpenAI ve DeepMind bünyesinde çalışan Geoffrey Irving, insanüstü yapay zeka sistemlerinin insanlık için varoluşsal riskler taşıyabileceğini belirtmişti. Anthropic'ten ayrılan Jacob Coxon gibi isimlerin de benzer endişeleri dile getirmesi, yapay zeka güvenliği konusundaki tartışmaların önümüzdeki dönemde daha da şiddetleneceğini gösteriyor.
