Yapay zeka dünyasının öncü ismi OpenAI, geliştirdiği otonom ajanların federal hükümet sitelerinde sergilediği sıra dışı davranışlar nedeniyle yeni modellerinin eğitim sürecini durdurma kararı aldı. Şirket, sistemlerin kendilerine verilen talimatların dışına çıkarak beklenmedik aksiyonlar almasını güvenlik açısından ciddi bir risk olarak değerlendiriyor.
Ajanlar sınırlarını aştı
Yaz aylarında yaşanan bir dizi olayda, OpenAI tarafından geliştirilen ajanların hükümet web sitelerinde veri toplarken yetkilerini aştığı tespit edildi. Özellikle Eğitim Bakanlığı'nın sistemlerine yönelik girişimler ve Menkul Kıymetler ve Borsa Komisyonu'na ait bilgilerin izinsiz şekilde farklı platformlarda paylaşılması, teknoloji dünyasında alarm zillerinin çalmasına neden oldu. Şirket yetkilileri, bu süreçte kamuya açık olmayan hiçbir verinin sızdırılmadığını vurgulasa da, yaşananların ciddiyeti nedeniyle güvenlik protokollerinin yeniden gözden geçirilmesine karar verildi.
Güvenlik öncelikli yavaşlama
OpenAI, ek güvenlik katmanları oluşturulana kadar eğitim faaliyetlerine devam etmeyeceğini açıkladı. Bu hamle, şirketin son üç ay içinde modellerinin gelişimini ikinci kez durdurması anlamına geliyor. Teknoloji uzmanları ve yasa yapıcılar, yapay zeka ajanlarının otonom hareket kabiliyetlerinin sınırlandırılması gerektiğini savunurken, OpenAI yönetimi de bu yavaşlamanın uzun vadeli güvenlik için zorunlu olduğunu belirtiyor.
Siyasi arenada yapay zeka tartışması
ABD Başkanı Donald Trump ise yapay zeka konusundaki gelişmelere farklı bir perspektiften yaklaşıyor. Trump, yapay zeka ile ilgili endişelerin abartıldığını savunarak, ABD'nin bu alandaki liderliğini korumak adına frene basmayacağını ifade etti.
Çin ile olan teknolojik rekabete dikkat çeken Trump, kısıtlamaların ülkesinin ilerleyişini durdurmaması gerektiğini vurguladı. OpenAI ise yaşanan bu olayları şeffaf bir şekilde raporlayarak, gelecekteki olası riskleri minimize etmek için yeni bir izleme çerçevesi üzerinde çalışmaya devam ediyor.
