Yapay zeka dünyasının öncü isimlerinden OpenAI'ın baş bilimcisi Jakub Pachocki, sektördeki hızlı ilerleyişin yarattığı risklere dikkat çeken çarpıcı açıklamalarda bulundu. Pachocki, kaleme aldığı blog yazısında, makine zekasındaki kontrolsüz yükselişin sonuçlarına karşı toplumun ve kurumların henüz hazır olmadığını vurguladı.
İnsan kontrolü tehlikede mi?
Pachocki, insanlığın gelecekte de kontrolü elinde tutabilmesi için daha sıkı denetim mekanizmalarına ve müdahalelere ihtiyaç duyulabileceğini belirtti. Özellikle GPT-6 Astra gibi güçlü modellerin piyasaya sürülmesinin ardından gelen bu uyarılar, yapay zeka ajanlarının otonom hareket etme yeteneklerinin yarattığı güvenlik endişelerini yeniden alevlendirdi. Uzmanlar, bu sistemlerin siber saldırı gibi faaliyetlerde bulunabileceğine dair kanıtların endişe verici olduğunu ifade ediyor.
Teknik çözümler yeterli mi?
OpenAI, makinelerin hedeflerinin insan niyetiyle uyumlu olmasını sağlamak için teknik çalışmalar yürüttüğünü belirtse de, bu yaklaşım akademik çevrelerde eleştiriliyor. Profesör Gina Neff, şirketin sorunları çözmek yerine yine yapay zeka ajanlarına başvurmasını 'yetersiz bir önlem' olarak nitelendiriyor. Diğer yandan hukuk uzmanları, OpenAI'ın şeffaflık konusunda daha açık olması gerektiğini, aksi takdirde bu uyarıların sadece birer pazarlama stratejisi olarak algılanabileceğini savunuyor.
Küresel düzenleme arayışı
Avrupa Birliği'nin yürürlüğe koyduğu Yapay Zeka Yasası, modellerin otonom saldırı riskine karşı test edilmesini zorunlu kılsa da, bu düzenlemelerin küresel ölçekte yeterli olup olmayacağı tartışılıyor. Pachocki, devlet kurumlarının ve bağımsız denetçilerin dahil olduğu uluslararası güvenlik eşiklerinin belirlenmesi gerektiğini savunuyor. Şirket, güvenliği artırmak adına bazı modellerin eğitim sürecini yavaşlattığını duyurmuş olsa da, sektör genelinde ortak bir güvenlik protokolü oluşturulması için baskılar artmaya devam ediyor.
