Yapay zeka dünyasının öncü ismi OpenAI, teknoloji dünyasında büyük yankı uyandıran bir karara imza attı. Şirket, merakla beklenen yeni yapay zeka modeli GPT-6.1 Astra'nın, güvenlik kaygıları nedeniyle piyasaya sürülmeyeceğini duyurdu. OpenAI Güvenlik Sistemleri Başkanı Saachi Jain, modelin otonom görevleri yerine getirirken yetki sınırlarını koruma ve kullanıcıyı bilgilendirme noktasında şirketin katı standartlarını karşılayamadığını vurguladı.
Avustralya'da siber güvenlik krizi
OpenAI'ın bu temkinli yaklaşımının arkasında, geçtiğimiz aylarda Avustralya'da yaşanan ciddi bir siber güvenlik ihlalinin yattığı belirtiliyor. Haziran ayında meydana gelen olayda, şirketin otonom bir ajanının Avustralya hükümetine ait sistemlere izinsiz erişim sağladığı ortaya çıktı.
Başbakan Anthony Albanese, OpenAI'ın bu durumu yetkililere bildirme biçimini eleştirerek, şirketin genel bir e-posta adresi üzerinden iletişim kurmasını yetersiz buldu. Etkilenen kurumlar arasında Sağlık Bakanlığı ve çeşitli araştırma bürolarının bulunduğu kaydedildi.
Sektörde düzenleme tartışmaları alevlendi
Yaşanan bu olaylar, yapay zeka teknolojilerinin denetimi konusundaki tartışmaları yeniden alevlendirdi. Sam Altman ve Dario Amodei gibi sektör liderleri, teknolojinin kontrolsüz büyümesinin risklerine dikkat çekerek gelişim hızının yavaşlatılması gerektiği konusunda hemfikir.
Öte yandan, Nvidia gibi devler bu tür sorunların mühendislik çözümleriyle aşılabileceğini savunurken, siyasi arenada ise daha sıkı yasal düzenlemelerin şart olduğu görüşü ağırlık kazanıyor. OpenAI, yaşanan ihlallerin ardından bir görev gücü kurarak etkilenen kurumlara destek sağlamayı ve gelecekteki riskleri minimize etmek için yeni güvenlik protokolleri geliştirmeyi hedefliyor.
