Yapay zekanın öncüsünden ürküten tahmin: İnsan kontrolü sadece 3 yıl sürebilir

Yapay zeka dünyasının en saygın isimlerinden biri olan ve Nobel Fizik Ödülü sahibi Geoffrey Hinton, teknolojinin geleceği hakkında çarpıcı uyarılarda bulundu. Dublin'de düzenlenen Avrupa Birliği liderler zirvesinde konuşan Hinton, yapay zeka sistemlerinin insan kontrolünü tamamen yitirmesine neden olabilecek bir sürecin hızla yaklaştığını vurguladı.

Kritik Eşik Üç Yıl İçinde Aşılabilir

Yapay zeka üzerindeki insan denetiminin kaybedilme riskine dair tartışmalar, Alignment Research Center kurucusu Paul Christiano'nun açıklamalarıyla yeni bir boyut kazandı. Christiano, sistemlerin kendi hedefleri doğrultusunda hareket etmeye başlaması ve insanların bu süreci durduramaması riskinin önümüzdeki üç yıl içinde çok yüksek olduğunu belirtti. Hinton, daha önce bu süreci on yıllık bir perspektifte değerlendirdiğini ancak mevcut gelişmelerin bu süreyi ciddi oranda kısalttığını ifade ederek endişelerini dile getirdi.

Bağımsız Denetim Mekanizması Şart

Hinton, yapay zeka modellerinin piyasaya sürülmeden önce tıpkı ilaç sektöründe olduğu gibi bağımsız kurumlar tarafından sıkı güvenlik testlerinden geçirilmesi gerektiğini savunuyor. Dublin'deki toplantıda liderler, yapay zekanın demokratik süreçler ve istihdam üzerindeki etkilerini tartışırken, Avrupa'nın teknolojik dışa bağımlılığını azaltma stratejileri de masaya yatırıldı. Gelecek dönemde yapay zeka güvenliği konusundaki uluslararası iş birliğinin, teknolojinin insan amaçlarıyla uyumlu kalması için hayati bir öneme sahip olduğu belirtiliyor.