Yapay zeka dünyasında güvenlik tartışmaları, sektörün içinden gelen isimlerin çarpıcı açıklamalarıyla yeni bir boyuta taşındı. Anthropic bünyesinde güvenlik araştırmacısı olarak görev yapmış olan Evan Hubinger, teknolojinin mevcut gelişim hızının insanlık için varoluşsal bir tehdit oluşturabileceği konusunda uyarılarda bulundu. Hubinger, önümüzdeki on yıllık süreçte yapay zekanın insanlığı yok etme ihtimalinin yüzde 10'dan fazla olduğunu savundu.
Süper zeka kontrol edilemiyor mu?
Hubinger, sosyal medya üzerinden yaptığı açıklamada, mevcut yapay zeka modellerinin yarattığı riskin şu an için düşük seviyede olduğunu ancak teknolojinin kendi kendini iyileştirme yeteneği kazandığında durumun değişeceğini belirtti. Özellikle süper zeka seviyesine ulaşan sistemlerin, insan değerleriyle uyumlu kalmasını sağlayacak bir çözüm planının henüz geliştirilemediğini vurgulayan uzman, bu alanda somut bir ilerleme kaydedilemediğinin altını çizdi.
Şirketler arası güvenlik krizi
Sektördeki dev şirketlerin güvenlik politikaları da eleştirilerin odağında yer alıyor. Anthropic'in en güncel modelini, yapay zeka güvenliği konusunda denetim yapan İngiltere Yapay Zeka Güvenliği Enstitüsü'nden (AISI) gizlediği iddiaları gündeme bomba gibi düştü. Uzmanlar, bu durumu ABD ve Çin arasındaki teknolojik rekabetin bir sonucu olarak değerlendirirken, şirketlerin sorumluluk bilinciyle hareket etmediği yönündeki görüşler güçleniyor.
Otonom saldırı riski artıyor
Yapay zeka ajanlarının otonom olarak siber saldırılar gerçekleştirebildiği vakaların artması, endişeleri daha da derinleştiriyor. OpenAI, Meta ve Anthropic gibi sektörün öncü firmaları, kendi araçlarının bu tür saldırılarda kullanılabileceğini kabul etmiş durumda. Uzmanlar, yapay zekanın gelecekte her şeyi hackleyebilen ve insanüstü güçlere sahip sistemlere dönüşme potansiyelinin, kontrol mekanizmalarının acilen güçlendirilmesini zorunlu kıldığını belirtiyor.
