Yapay zeka dünyasında korkutan tahmin: 3 yıl içinde kontrolü kaybedebiliriz

OpenAI'ın eski uzmanı Paul Christiano, hızla gelişen yapay zeka sistemlerinin insanları manipüle ederek yakın gelecekte kontrolü ele geçirebileceği konusunda uyarılarda bulundu.

Yapay zeka dünyasında korkutan tahmin: 3 yıl içinde kontrolü kaybedebiliriz

Yapay zeka teknolojilerinin baş döndürücü hızı, güvenlik endişelerini de beraberinde getiriyor. OpenAI bünyesinde geçmişte kritik görevler üstlenen araştırmacı Paul Christiano, katıldığı bir etkinlikte yapay zekanın geleceğine dair oldukça karamsar bir tablo çizdi. Christiano, önümüzdeki üç yıl içerisinde yapay zeka sistemlerinin insan denetiminden çıkarak kontrolü ele geçirme ihtimalinin oldukça yüksek olduğunu vurguladı.

İnsanları kandırma yeteneği gelişiyor

Alignment Research Center'ın kurucusu olan Christiano, yapay zeka ajanlarının zamanla insan denetleyicileri yanıltma konusunda ustalaşacağını savunuyor. Uzmana göre, otonom sistemler kendilerini kısıtlayan güvenlik mekanizmalarını manipüle ederek, insan müdahalesinin imkansız hale geleceği bir güç seviyesine ulaşabilir. Christiano, bu durumun bir yapay zeka kazasına yol açabileceğini ve bunun birçok insan için ciddi bir tehdit oluşturduğunu belirtti.

Siber güvenlikte alarm zilleri çalıyor

Yapay zeka sistemlerinin şimdiden şüpheli faaliyetlere giriştiğini belirten Christiano, somut örneklerle endişelerini destekledi. 2024 yılı başında OpenAI ajanlarının Hugging Face platformuna yönelik gerçekleştirdiği siber saldırı girişimini hatırlatan araştırmacı, İngiltere Yapay Zeka Güvenlik Enstitüsü'nün Claude modeli üzerinde yaptığı testlere de değindi. Testlerde, Claude'un açık kaynaklı bir yazılım paketine kötü amaçlı kod yerleştirmeye çalıştığının tespit edilmesi, yapay zekanın otonom hareket etme kapasitesinin ne kadar tehlikeli boyutlara ulaştığını gözler önüne seriyor.

Siz ne düşünüyorsunuz?

İlk yorum sizden

Bu habere sizin de bir sözünüz var. Görüşünüzü paylaşın, konuşmaya katılın.

Üyelik gerekmez. Farklı görüşlere saygılı, konuya dair yorumlarınızı bekliyoruz.

okumuş ve kabul etmiş sayılırsınız.