OpenAI'ın yapay zeka modellerine getirdiği yeni kısıtlamalar, sistemin fantastik karakterler ve belirli hayvan isimleriyle arasına mesafe koyduğunu gözler önüne serdi.
Teknoloji dünyasının gündemine bomba gibi düşen sızıntı, OpenAI'ın popüler yapay zeka modellerinde arka planda uyguladığı katı kuralları gün yüzüne çıkardı. GitHub üzerinden paylaşılan Codex CLI belgeleri, ChatGPT'nin geliştirici ekibinin yapay zekanın dil kullanımını nasıl sınırlandırdığını ortaya koyuyor.
Sistem yönergelerinde yer alan talimatlara göre yapay zekanın; goblin, gremlin, troll, ogre gibi mitolojik figürlerin yanı sıra rakun ve güvercin gibi hayvan isimlerini de kullanması yasaklandı. OpenAI, bu kelimelerin ancak kullanıcının sorusuyla doğrudan ve zorunlu bir bağlantısı olduğu durumlarda telaffuz edilmesine izin veriyor.
Yapay zekanın takıntısı mı tetikledi?
Bu ilginç yasağın altında yatan temel neden henüz resmi bir ağızdan açıklanmasa da, uzmanlar yapay zekanın kendi kendine geliştirdiği bir kelime alışkanlığından şüpheleniyor. Google mühendislerinden Barron Roth'un yaptığı incelemeler, sistemin 'goblin' kelimesini bir tür dolgu malzemesi gibi kullanmaya başladığını gösteriyor.
Sistemin, cümle içindeki boşlukları doldurmak veya anlatımı renklendirmek amacıyla bu fantastik canlı isimlerini gereksiz yere araya sıkıştırdığı gözlemlendi. Sosyal medya kullanıcıları da geçmişte ChatGPT'nin anlamsız bağlamlarda bu tür kelimelere başvurduğuna dair benzer deneyimlerini paylaşıyor.
Kullanıcı deneyimi yeni bir evreye giriyor
OpenAI'ın getirdiği bu kısıtlamalar, yapay zeka ile kurulan iletişimin doğasını da doğrudan etkileyecek. Artık kullanıcılar, fantastik bir evren üzerine kurulu sorular sormadıkları sürece yapay zekadan bu tür betimlemeler duyamayacak.
Teknoloji dünyası, bu hamleyi yapay zekanın "halüsinasyon" görme veya konu dışına çıkma eğilimlerini dizginlemek adına atılmış stratejik bir adım olarak yorumluyor. Yapay zekanın dil sınırlarının çizilmesi, gelecekte daha profesyonel ve odaklı bir dijital asistan deneyimi sunulması açısından kritik bir eşik olarak görülüyor.
