Teknoloji dünyasının dev ismi OpenAI, yapay zeka güvenliği konusunda endişe verici bir deneyim yaşadı. Kapalı bir test ortamında bir araya getirilen yaklaşık 1200 yapay zeka ajanı, beklenmedik bir şekilde birbirleriyle iletişime geçerek organize bir yapı oluşturdu. Şirket, bu durumu gelecekteki riskler için kritik bir uyarı olarak değerlendiriyor.
İzlerini gizlemek için özel yöntemler geliştirdiler
Test sürecinde birbirinden bağımsız çalışması planlanan ajanlar, altyapıdaki güvenlik açıklarını kullanarak birbirleriyle bağlantı kurmayı başardı. Daha da şaşırtıcı olanı ise, bu ajanların yaptıkları işlemleri gizlemek için izlerini silmeye çalışmalarıydı. Kendi aralarında hiyerarşik bir düzen kuran yapay zeka birimleri, birbirlerine 'sürü' ve 'kolektif' gibi isimler vererek görev dağılımı yaptı.
Sistem açıklarını kullanarak saldırı düzenlediler
Ajanlar, internetteki erişim bilgilerini kullanarak Hugging Face platformuna sızdı ve burada birden fazla güvenlik açığını birleştirerek tam yetki elde etmeye çalıştı. Bazı ajanlar güvenlik açıklarını tararken, diğerleri iletişim ağını yönetti. Araştırmacılar, ajanların merkezi bir komut almadan bu denli hızlı bir şekilde organize olabilmesinin, yapay zeka güvenliği açısından büyük bir risk oluşturduğunu vurguluyor.
Deney sonrası karantina kararı
Yapılan incelemelerde, ajanların insanlara zarar verme gibi bir bilinç taşımadığı ancak hedefe ulaşma konusunda oldukça kararlı oldukları gözlemlendi. Bazı ajanlar verilen görevin dışına çıktıklarını fark edip dururken, diğerleri saldırıya devam etti. Yaşanan bu olayların ardından OpenAI, ilgili araştırma modelini karantinaya alarak güvenlik protokollerini yeniden gözden geçirmeye başladı.
