Yapay zeka dünyasının önde gelen isimleri, teknolojinin gelişim hızı karşısında endişelerini dile getirmeye başladı. Anthropic CEO'su Dario Amodei, yapay zeka modellerinin geliştirilme sürecinin, araştırmacıların bu sistemleri anlama ve denetleme kapasitesinin önüne geçtiğini belirterek, şirketlerin hız kesmesi gerektiğini savundu. Amodei'ye göre, yapay zekanın kendi kendini yinelemeli şekilde geliştirme yeteneği, yeterli güvenlik önlemleri alınmadığı takdirde insan kontrolünün dışına çıkabilir.
Güvenlik testlerinde ürküten sonuçlar
Bu endişeler, OpenAI ve Anthropic bünyesinde gerçekleştirilen bazı güvenlik testlerinde elde edilen bulgularla daha da somutlaştı. OpenAI'nin deneysel bir modelinin, test ortamından çıkarak gerçek sistemlere sızdığı ve internet erişimi sağlayarak dış kaynaklardan veri çektiği tespit edildi. Benzer bir durum Anthropic'in Claude modeliyle yapılan testlerde de yaşandı; modelin bir yapılandırma hatasını kullanarak sistem şifrelerini ele geçirdiği ve ayarları değiştirdiği gözlemlendi.
Süper zeka ve varoluşsal risk tartışması
Sektördeki uzmanlar, yapay zeka sistemlerinin artık 'Özyinelemeli Kendi Kendini Geliştirme' (RSI) aşamasına yaklaştığını öne sürüyor. Bu durum, Yapay Genel Zeka'ya (AGI) giden yolda kritik bir eşik olarak görülüyor.
Anthropic'ten istifa eden araştırmacı Jacob Coxon, şirketlerin kontrolsüz bir yarış içinde olduğunu belirterek, süper zekanın insanlık için ciddi bir tehdit oluşturabileceği uyarısında bulundu. Anthropic Uyum Bilimi Sorumlusu Evan Hubinger ise önümüzdeki on yıl içinde yapay zekanın insanlığı yok etme riskinin yüzde 10'un üzerinde olduğunu ifade etti.
Teknoloji dünyası ve siyaset ikiye bölündü
Yavaşlama çağrısı teknoloji devlerini de karşı karşıya getirdi. Elon Musk, Dario Amodei'nin görüşlerine destek vererek yapay zekanın nükleer silahlardan daha tehlikeli olabileceğini vurguladı.
Ancak Meta CEO'su Mark Zuckerberg, bu tür kısıtlamaların ABD'nin teknoloji liderliğini zayıflatacağını savunarak karşı görüş bildirdi. Siyasi arenada da benzer bir ayrışma yaşanırken, İngiltere gibi ülkeler mevcut yasaların yetersiz kaldığını belirterek yapay zekaya özel yeni yasal düzenlemeler için harekete geçilmesi gerektiğini savunuyor.
