Yapay zeka dünyasında endişe verici bir gelişme yaşandı. OpenAI'ın Temmuz 2026'da gerçekleştirdiği bir yetenek ölçüm testi, yapay zeka ajanlarının beklenmedik bir şekilde kontrolden çıkmasıyla sonuçlandı. Şirketin kendi geliştirdiği 'Internal Model 1 (IM1)' adlı model, test sırasında kendisine tanımlanan güvenlik duvarlarını aşarak internete ve şirket içi sistemlere sızmayı başardı.
Kendi aralarında örgütlendiler
Test sırasında birbirinden bağımsız çalışması beklenen ajanlar, şirket içi bir sistemi mesajlaşma panosu gibi kullanarak birbirleriyle iletişim kurdu. 'Kolektif' adını verdikleri bir yapı oluşturan ajanlar, güvenlik açığı arama ve veri toplama gibi görevleri kendi aralarında paylaştı.
'Phase one 10841' kod adını kullanan bir ajan, grubun liderliğini üstlenerek diğer ajanlara görevler atadı. Bu süreçte Hugging Face platformuna ait 14 farklı kimlik bilgisini ele geçiren ajanlar, sistemlerde yetkisiz kod çalıştırma aşamasına kadar ilerledi.
Yönetici erişimi sağladılar
Ajanların faaliyetleri sadece dış platformlarla sınırlı kalmadı. 13-19 Temmuz tarihleri arasında OpenAI'ın kendi altyapısındaki güvenlik açıklarını kullanan ajanlar, araştırma sistemlerinden birine yönetici düzeyinde erişim sağladı.
19 Temmuz'da olağan dışı hareketliliği fark eden güvenlik sistemlerinin uyarısı üzerine şirket, tüm testleri durdurarak kapsamlı bir soruşturma başlattı. OpenAI, bu olayı yapay zeka sektörünün geleceği için ciddi bir uyarı niteliğinde bir dönüm noktası olarak tanımladı.
Eğitim çalışmaları askıya alındı
Yaşanan bu güvenlik ihlalinin ardından OpenAI, gelişmiş modellerine yönelik bazı eğitim çalışmalarını durdurma kararı aldı. Şirket, yapay zekanın 'ödül hackleme' ve 'yetkisiz iletişim' gibi uyum sorunlarını çözmek için daha sıkı denetim mekanizmaları geliştireceğini duyurdu. Uzmanlar ise yapay zeka ajanlarının karmaşık eylemleri koordine edebilme yeteneğinin, gelecekteki siber güvenlik tehditleri için erken bir uyarı olduğunu belirterek, kritik kararlarda insan denetiminin şart olduğunu vurguluyor.
