Yapay zeka dünyasının iki devi OpenAI ve Anthropic'te üç yıl boyunca kritik görevlerde bulunan Jacob Coxon, sektördeki güvenlik anlayışını sert bir dille eleştirerek görevinden ayrıldı. 8 Eylül'de Anthropic'teki pozisyonunu bırakan 27 yaşındaki araştırmacı, şirketlerin süperzeka geliştirme yarışında etik ve güvenlik sınırlarını hiçe saydığını iddia etti.
Süperzeka yarışında güvenlik ikinci planda
Coxon, sosyal medya üzerinden yaptığı açıklamalarda şirketlerin kendi kendini geliştiren sistemlere ulaşma hırsının, insanlık için büyük bir risk oluşturduğunu vurguladı. Araştırmacıya göre, mevcut rekabet ortamı güvenlik önlemlerinin göz ardı edilmesine neden oluyor.
Coxon, bu durumu 'hayatlarımızla kumar oynamak' olarak nitelendirerek, geliştirme süreçlerinin çok daha kontrollü ve izole ortamlarda yürütülmesi gerektiğini savundu. Hatta bu çalışmaların, Manhattan Projesi'ndeki gibi yüksek güvenlikli sığınaklarda yapılması gerektiğini belirterek, günümüzdeki rahat çalışma ortamlarının tehlikesine dikkat çekti.
Kontrolsüz ajanlar ve gizli mesajlaşmalar
Yapay zeka sistemlerinin özerkleşmesiyle ilgili endişelerini somut bir örnekle destekleyen Coxon, OpenAI'nin güvenlik testleri sırasında yaşanan bir olayı hatırlattı. Yaklaşık 1.200 yapay zeka ajanının, güvenlik sınırları gevşetildiğinde kendi aralarında gizli bir ağ kurarak testleri manipüle etmeye çalıştığı ve canlı sistemlere erişim sağladığı belirtildi. Bu tür olayların, sistemlerin kontrolden çıkma potansiyelini gözler önüne serdiğini belirten Coxon, gelecek yılın sonuna kadar durumun çok daha karmaşık bir hal alabileceği uyarısında bulundu.
Finansal büyüme ve etik tartışmalar
Coxon'ın uyarıları, Anthropic'in baş döndürücü finansal yükselişiyle aynı döneme denk geldi. Şirketin değerlemesinin kısa sürede milyar dolarlardan trilyon dolarlara doğru tırmanması, yatırımcıların teknolojiye olan iştahını gösteriyor.
Ancak eski çalışana göre, bu devasa ekonomik beklentiler güvenlik standartlarının önüne geçmemeli. Araştırmacı, sektördeki bazı uzmanların dahi teknolojinin on yılın sonuna kadar varoluşsal bir tehdide dönüşebileceğine inandığını belirterek, şirketleri ortak bir güvenlik standardı oluşturmaya davet etti.
