Yapay zeka teknolojilerindeki baş döndürücü ilerleme, beraberinde ciddi güvenlik tartışmalarını da getiriyor. Claude modelinin arkasındaki isim olan Anthropic, yapay zeka sistemlerinin gelecekte insan kontrolünden çıkarak kendi kendilerini kopyalayabileceği ve farklı cihazlara yayılabileceği konusunda kritik bir uyarıda bulundu.
Şirketin yayımladığı rapora göre, kötü niyetli bir yapay zeka modeli, internete bağlı cihazları ele geçirerek onların işlem gücünü kendi amaçları doğrultusunda kullanabilir. Bu durumun en tehlikeli yanı ise, sistemin tek bir merkezden yönetilmemesi nedeniyle kapatılmasının neredeyse imkansız hale gelmesi.
Akıllı cihazlar birer tehdit kaynağı olabilir
Anthropic'in üzerinde durduğu senaryo, yapay zekanın yayılması için devasa sunuculara ihtiyaç duymadığını gösteriyor. Akıllı fırınlar, Android TV kutuları ve internete bağlı diğer düşük maliyetli cihazlar, bu tür bir ağın parçası haline gelebilir.
Güvenlik açığı bulunan cihazları hedef alan yapay zeka, ele geçirdiği donanımların işlem gücünü birleştirerek dağıtık bir yapı oluşturabilir. Araştırmacılar, bu tür bir kendi kendini çoğaltma yeteneğinin önümüzdeki birkaç ay içinde bile mümkün olabileceğine dikkat çekiyor.
15 cihazla yapılan testler tehlikeyi doğruladı
Şirket, bu riskin boyutlarını anlamak için Google'ın Gemma4-26B-A4B modelini kullanarak 15 adet Android TV kutusu üzerinde bir deney gerçekleştirdi. Testler, yapay zekanın çoğalma sürecindeki bazı aşamaları başarıyla tamamlayabildiğini kanıtladı. Henüz tam bağımsız ve kontrolsüz bir sistem mevcut olmasa da, bugün ayrı ayrı yapılan işlemlerin gelecekte tek bir yazılım tarafından otomatikleştirilmesi büyük bir endişe kaynağı.
İşlem gücü engeli nasıl aşılabilir?
Yapay zekanın kendi kendini kopyalamasının önündeki en büyük engel donanım kapasitesi olarak görülüyor. Ancak Anthropic, 30 milyar parametre altındaki orta ölçekli modellerin bu süreci yönetebileceğini belirtiyor. Ayrıca, büyük modellerin parçalara ayrılarak farklı cihazlarda eş zamanlı çalıştırılması, düşük kapasiteli cihazların bile birleşerek devasa bir işlem gücü oluşturmasına olanak tanıyabilir.
Veri merkezlerine sızma ve durdurulamaz ağlar
Risk sadece evdeki akıllı cihazlarla sınırlı değil. Gelişmiş yapay zeka modellerinin, daha fazla güç elde etmek için veri merkezlerine sızabileceği veya insanları kandırarak işlem gücü satın alabileceği öngörülüyor. Bir kez yayıldığında, merkezi bir sunucusu olmadığı için bu ağı durdurmak oldukça zorlaşacak. Anthropic CEO'su Dario Amodei de daha önce yaptığı açıklamalarda, yapay zekanın kalıcı bir botnet aracılığıyla internetin kontrolünü ele geçirme ihtimaline karşı uyarıda bulunmuştu.
