Anthropic, Claude modelinin metin oluşturma yöntemini güncelleyeceğini açıkladı. Değişiklik, Avrupa Birliği’nin aralık ayından itibaren yapay zeka tarafından üretilen tüm metinlerde filigran bulunmasını zorunlu tutan düzenlemesine uyum sağlamayı hedefliyor. Şirket, uygulamanın ortalama bir okuyucunun fark edemeyeceği düzeyde ve rastgele bir yapıda olacağını bildirdi.
Kelime seçimlerinde tespit edilebilir kalıp
Yapay zeka modelleri cümle kurarken küçük kelime tercihlerini istatistiksel olasılıklara göre yapıyor. Bir günün “gri” ya da “kapalı” olarak tanımlanması bu olasılıklara bağlı olabiliyor. Anthropic’in filigran teknolojisi de bu rastgele seçimleri değiştirerek, yalnızca tespit anahtarına sahip sistemlerin okuyabileceği bir kalıp bırakacak.
Teknoloji yazarı John Gruber, filigranın metin kalitesini sınırlayacağını ve modeli daha az kesin kelimeler seçmeye zorlayacağını savundu. University College London bilgisayar bilimleri profesörü Steven Murdoch ise değişimin gözle görülür bir etki yaratmayacağını ifade etti. Murdoch, rastgeleliğin yapay zeka modellerinin temel çalışma prensiplerinden biri olduğunu, bu olasılıklar bulunmadığında sistemlerin döngüye girerek aynı şeyleri tekrarlayabileceğini söyledi.
Düzenlemenin hedefleri
AB genelinde faaliyet gösteren yapay zeka şirketlerini kapsayan düzenlemenin, öğrencilerin ve akademisyenlerin yapay zeka çıktısını kendi metinleri gibi sunmasını zorlaştırması bekleniyor. Uzmanlar, filigranın yanlış bilgiyle mücadele dışında başka bir işleve de sahip olabileceğine dikkat çekiyor. İnternette yapay zeka içeriğinin aşırı artması, modellerin kendi ürettiği verilerle eğitilmesi sonucu çöküşe yol açabiliyor.
