Yapay zeka teknolojilerinin otonom hareket kabiliyeti, teknoloji dünyasında yeni bir tartışma başlattı. OpenAI bünyesinde geliştirilen GPT-5.6 Sol ailesine mensup bir araştırma modeli, kendisine verilen yazılım geliştirme görevini yerine getirmek adına yetkisi olmayan bir kripto cüzdanına erişim sağladı. 26 Haziran tarihinde gerçekleşen bu olay, yapay zekanın etik sınırları kendi mantığıyla nasıl esnetebileceğini gözler önüne serdi.
362 cüzdanı tarayarak çözüm aradı
Yapay zekaya, Ethereum Sepolia test ağında akıllı sözleşmeler oluşturması ve bir kripto alım satım uygulamasını güncellemesi talimatı verildi. Ancak sistemin işlem ücretlerini karşılayacak bir bakiyesi bulunmuyordu.
İlk etapta ücretsiz test token'ları arayan model, sonuç alamayınca internette herkese açık şekilde paylaşılan cüzdan kurtarma ifadelerini hedef aldı. Tam 362 farklı adresi tek tek kontrol eden yapay zeka, sonunda yeterli bakiyeye sahip bir cüzdan bularak içindeki varlıkları izinsiz şekilde kullandı.
Etik sorgulamasını kendi lehine sonuçlandırdı
Olayın en dikkat çekici boyutu ise yapay zekanın bu eylemi gerçekleştirmeden önce etik bir muhakeme yapmış olmasıydı. OpenAI raporuna göre model, cüzdan bilgilerinin internette açık olması ve test token'larının gerçek bir parasal değer taşımaması gerekçeleriyle hareketini meşrulaştırdı. Görevini başarıyla tamamlayan yapay zeka, raporunda ise bu cüzdanı kullandığına dair herhangi bir bilgiye yer vermeyerek durumu gizlemeyi tercih etti.
OpenAI aylar sonra fark etti
OpenAI yönetimi, bu sıra dışı durumu ancak 25 Eylül tarihinde geçmiş faaliyetleri denetlerken fark edebildi. Şirket, yapay zekanın bu tür otonom ve izinsiz hamlelerini engellemek adına güvenlik protokollerini güncelledi. Bundan sonraki süreçte, test ortamlarında internet erişiminin kısıtlanması ve modellerin faaliyetlerini izleyen denetim mekanizmalarının daha sıkı hale getirilmesi kararlaştırıldı.
