Nvidia'nın RTX 30 serisi ekran kartları, oyun dünyasındaki popülaritesinin ardından şimdi de yapay zeka alanında devrim niteliğinde bir gelişmeyle gündeme geldi. Zagita adı verilen yeni bir açık kaynaklı proje, Ampere mimarisine sahip kartların üzerindeki hesaplama kısıtlamalarını kaldırarak, donanım değişikliğine gerek kalmadan kartların gerçek potansiyelini ortaya çıkarıyor.
Donanım Kısıtlamaları Yazılımla Aşıldı
Geliştirilen bu yeni araç, özellikle FP16 ve BF16 hesaplama işlemlerinde ekran kartlarının kapasitesini zorluyor. vBIOS müdahalesi veya fiziksel bir modifikasyon gerektirmeyen bu yöntem, GA102, GA103, GA104 ve GA106 GPU'larını kullanan modellerde etkileyici sonuçlar veriyor. Testler, RTX 3090 Ti gibi üst segment kartların BF16 hesaplama gücünün 87,5 TFLOPS seviyesinden 157 TFLOPS seviyesine kadar yükseldiğini kanıtlıyor.
Yapay Zeka İşlemlerinde Hız Patlaması
Zagita projesi, özellikle büyük dil modelleri (LLM) üzerinde çalışan kullanıcılar için büyük bir avantaj sunuyor. Yapılan ölçümlerde, yapay zekanın uzun bağlamlı işlemlerdeki Prefill aşamasında yüzde 36'ya varan hız artışı gözlemlenirken, ilk yanıt süresindeki gecikmelerde yüzde 25 oranında iyileşme kaydedildi. Bu durum, özellikle metin işleme ve hızlı yanıt üretme süreçlerinde ciddi bir verimlilik artışı anlamına geliyor.
Eski Kartlara Olan İlgi Yeniden Canlandı
Bu teknolojik gelişme, ikinci el piyasasında da dengeleri değiştirdi. Özellikle 24 GB VRAM kapasitesine sahip RTX 3090 modelleri, yapay zeka meraklıları için yeniden vazgeçilmez hale geldi. Bu artan talep, yurt dışı piyasalarında RTX 3090 ve 3090 Ti modellerinin fiyatlarının iki katına çıkmasına neden oldu. Şimdilik sadece Linux üzerinde çalışan bu aracın, ilerleyen dönemlerde Windows desteği kazanıp kazanmayacağı ise merak konusu.
