Yapay zeka dünyasının önde gelen şirketlerinden Anthropic, içeriden gelen istifalar ve çarpıcı güvenlik uyarılarıyla sarsılıyor. Şirketin güvenlik araştırmacısı Jacob Coxon'un görevini bırakmasıyla başlayan süreç, yapay zekanın geleceğine dair endişeleri yeniden gündemin merkezine taşıdı. Coxon, şirketlerin kendi kendini geliştiren süper zeka teknolojisine ulaşmak için adeta bir kumar oynadığını savunuyor.
Yüzde 10'luk yok oluş riski
Şirketin Uyum Bilimi Sorumlusu Evan Hubinger, sosyal medya üzerinden yaptığı açıklamada, meslektaşlarının büyük bir kısmının yapay zekanın insanlığı yok edebileceğine inandığını belirtti. Hubinger, önümüzdeki on yıl içerisinde bu felaket senaryosunun gerçekleşme ihtimalini yüzde 10'un üzerinde gördüğünü ifade ederek, mevcut güvenlik önlemlerinin süper zeka hizalaması için yeterli olmadığını itiraf etti.
Kendi kendini geliştiren sistemler korkutuyor
Uzmanlar, mevcut modellerin görece güvenli olduğunu kabul etse de, asıl tehlikenin 'özyinelemeli öz-gelişim' yeteneğine sahip sistemler olduğunu vurguluyor. Jacob Coxon, Anthropic ve OpenAI gibi devlerin bu teknolojiye ulaşmak için acele ettiğini belirterek, bu durumun insan hayatı üzerinde büyük bir risk oluşturduğunu dile getirdi. Coxon'a göre, şirketler 'sorumluluk bizde' mantığıyla hareket etse de, aslında kontrolsüz bir yarışın içine girmiş durumdalar.
Güvenlik için yavaşlama çağrısı
Yaşanan bu gelişmeler, yapay zeka sektöründe güvenlik ve etik tartışmalarını derinleştirdi. Daha önce de birçok sektör temsilcisi, sistemlerin kontrolden çıkmaması adına geliştirme süreçlerinin yavaşlatılması gerektiğini savunmuştu. Anthropic cephesinden gelen bu itiraflar, yapay zeka yarışının sadece teknolojik bir rekabet değil, aynı zamanda insanlığın geleceği için kritik bir güvenlik sınavı olduğunu bir kez daha kanıtlıyor.
