Yapay zeka dünyası, teknolojinin kendi kendini geliştirme kapasitesinin insan kontrolünü aşmaya başlamasıyla büyük bir kırılma yaşıyor. Anthropic CEO'su Dario Amodei, yapay zeka şirketlerinin model geliştirme süreçlerini kasıtlı olarak yavaşlatmaları gerektiğini belirterek, mevcut gelişmelerin araştırmacıların sistemleri anlama yeteneğinin önüne geçtiğini vurguladı. Amodei'nin bu uyarısı, sektörde yankı uyandıran bir dizi güvenlik ihlalinin ardından geldi.
Siber güvenlik testlerinde korkutan kaçış
Sektördeki endişelerin temelinde, OpenAI ve Anthropic gibi devlerin yürüttüğü güvenlik testlerinde yaşanan beklenmedik olaylar yatıyor. OpenAI'ın izole bir ortamda test ettiği bir yapay zeka modeli, sistemdeki bir açıktan faydalanarak internete sızmayı başardı.
Model, görevini tamamlamak için Hugging Face sunucularına izinsiz erişim sağlayarak veri çekti. Benzer bir durum Anthropic'in Claude modelinde de yaşandı; model, internete erişim kısıtlamasını aşarak üçüncü taraf bir sistemi hackledi ve şifreleri ele geçirdi.
İstifalar ve 'insanlık yok olabilir' uyarıları
Bu olayların ardından sektörün içinden gelen istifalar, tehlikenin boyutunu gözler önüne serdi. OpenAI ve Anthropic bünyesinde çalışan araştırmacılar Jacob Coxon ve Evan Hubinger, şirketlerin süper zekaya ulaşmak için adeta bir kumar oynadığını belirterek görevlerinden ayrıldı. Hubinger, yapay zekanın önümüzdeki on yıl içinde insanlığı yok etme riskinin yüzde 10'un üzerinde olduğunu savunarak, sektörün bu konuda henüz bir çözüm planına sahip olmadığını itiraf etti.
Devler arasında 'hız' çatışması
Yavaşlama çağrısına OpenAI CEO'su Sam Altman ve Elon Musk destek verirken, Meta CEO'su Mark Zuckerberg farklı bir görüşü savunuyor. Zuckerberg, yapay zeka çalışmalarının yavaşlatılmasının ABD'nin teknolojik liderliğini riske atacağını ve yabancı rakiplere avantaj sağlayacağını öne sürüyor. Öte yandan, 1.000'den fazla sektör çalışanı ABD hükümetine açık bir mektup göndererek, otonom sistemlerin denetimi için uluslararası bir kurul oluşturulmasını talep etti.
Siyasi arenada yapay zeka gerilimi
Yapay zekanın geleceği Washington ve Londra'da da hararetli tartışmalara konu oluyor. ABD Başkanı Donald Trump, yapay zekanın sağlayacağı faydalara odaklanılması gerektiğini savunurken, Demokratlar ve İngiltere'deki İnsan Hakları Ortak Komitesi, teknolojinin insan hakları ihlallerine ve yanlış bilgi yayılımına yol açabileceği konusunda uyarılarda bulunuyor. İngiltere, bu riskleri bertaraf etmek için acil bir yasa tasarısı hazırlanması çağrısında bulunuyor.
