Yapay zeka dünyasında şeffaflık tartışmaları yeni bir boyuta taşınıyor. OpenAI, Avrupa Birliği Yapay Zeka Yasası'nın getirdiği yasal zorunluluklara uyum sağlamak amacıyla, ChatGPT ve Codex tarafından oluşturulan metinlere görünmez filigranlar yerleştireceğini duyurdu. Bu hamle, yapay zeka tarafından üretilen içeriklerin ayırt edilebilirliğini artırmayı hedefliyor.
İstatistiksel sinyallerle takip
OpenAI'ın geliştirdiği ve textGrain olarak adlandırılan bu teknoloji, metin oluşturulurken seçilen kelimelerdeki istatistiksel kalıpları çok ince bir şekilde değiştiriyor. Kullanıcıların çıplak gözle fark edemeyeceği bu gizli sinyal, OpenAI'ın özel dedektörleri tarafından kolaylıkla tespit edilebiliyor. Şirket, bu sistemin önümüzdeki haftalarda Avrupa Birliği'ndeki tüm uygun kullanıcılar için aktif hale geleceğini belirtti.
Küresel API kullanıcılarına özel seçenek
Avrupa Birliği dışındaki bölgelerde ise farklı bir strateji izleniyor. Dünya genelindeki API müşterileri için filigran özelliği isteğe bağlı olarak sunulacak. Varsayılan olarak kapalı gelecek olan bu özellik, geliştiricilerin ihtiyaçlarına göre seçili modellerde aktif edilebilecek. Şirket, bu adımın yapay zeka tarafından üretilen içeriklerin kaynağını anlama konusunda kullanıcılara yardımcı olacağını vurguluyor.
Sektörde artan şeffaflık baskısı
Yapay zeka şirketleri, sentetik içeriklerin belirlenmesi konusunda dünya genelinde yoğun bir baskı altında. Daha önce Anthropic de Claude modelleri için benzer bir filigran sistemi duyurmuştu. Ancak bu tür uygulamalar, yapay zekayı sadece bir araç olarak gören kullanıcılar arasında tartışmalara yol açıyor. OpenAI, mevcut metin filigranlama teknolojisinin sınırlamalarının farkında olduğunu belirtirken, içerik doğrulanabilirliğini artırmak için çalışmalarını sürdüreceğini ifade ediyor.
