Yapay zekâ dünyasında, modellerin öğrenme kapasitesini kökten değiştirecek çığır açıcı bir yöntem geliştirildi. Google araştırmacıları, ChatGPT, Gemini ve Claude gibi büyük dil modellerinin en büyük handikaplarından biri olan 'yıkıcı unutma' sorununa, insan beyninin çalışma prensiplerinden esinlenen bir çözüm getirdi. Artık yapay zekâ modelleri, tıpkı insanlar gibi 'uyuyarak' öğrendiklerini pekiştirecek.
Yapay zekâ için uyku vakti
Günümüzde kullanılan yapay zekâ modelleri, etkileşim sırasında yeni veriler işlese de bu bilgiler genellikle kalıcı hafızaya tam anlamıyla entegre edilemiyor. Modellerin yeni bilgileri kalıcı olarak öğrenmesi için yeniden eğitilmeleri gerekiyor; ancak bu süreçte model, daha önce öğrendiği bilgilerin bir kısmını kaybedebiliyor.
Google'ın geliştirdiği yeni sistem, yapay zekânın çalışma düzenini 'uyanıklık' ve 'uyku' olmak üzere iki evreye ayırıyor. Uyanıklık evresinde model aktif olarak veri toplarken, uyku evresinde ise bu verileri işleyerek kalıcı hafızaya aktarıyor.
Eskileri unutmadan yenileri öğrenmek
Google'ın bu yeni yaklaşımında, 'Mixture of Experts' (MoE) adı verilen uzmanlaşmış bir yapı kullanılıyor. Bu sistem sayesinde yapay zekâ, mevcut bilgilerini silmek yerine, yeni verileri hafızasının özel bölümlerine yerleştiriyor. Uyku aşaması, geçici bellekteki bilgilerin düzenlenip kalıcı alanlara taşınmasını sağlarken, sistemin bir sonraki öğrenme süreci için temizlenmesine olanak tanıyor. Böylece model, eski yeteneklerini koruyarak sürekli gelişebiliyor.
Yapay zekâ rüya görerek kendini eğitiyor
Sistemin en dikkat çekici yanı ise 'rüya görme' aşaması. İnsan beyninin uyku sırasında anılar arasında bağlantı kurması gibi, yapay zekâ da bu evrede kendi kendine yeni eğitim senaryoları üretiyor. İnsan müdahalesine gerek kalmadan, öğrendiği farklı bilgi alanlarını birleştiren model, kendi performansını test ederek eksiklerini kapatıyor. Bu sayede yapay zekâ, dışarıdan bir veri girişi olmadan kendi kendini geliştirebilen bir yapıya kavuşuyor.
Testlerde rakiplerini geride bıraktı
Google'ın yeni yöntemi, özellikle nadir dillerin öğrenilmesi ve uzun metinlerin analizi gibi zorlu görevlerde büyük başarı gösterdi. BABILong testinde 10 milyon token uzunluğundaki metinlerde kusursuz bir performans sergileyen sistem, GPT-4 ve Titans gibi dev modelleri geride bırakmayı başardı. SQuAD ve sürekli ön eğitim testlerinde elde edilen yüksek başarı oranları, yapay zekânın 'uyku' ile çok daha verimli ve kalıcı bir öğrenme sürecine girebileceğini kanıtlıyor.
