Teknoloji dünyasında yapay zekanın günlük yaşama entegrasyonu hızla sürerken, çocuklara yönelik üretilen akıllı oyuncakların güvenlik açıkları endişe yaratıyor. İngiltere pazarında 'My Baby Bunny' adıyla bilinen Doubao isimli pelüş oyuncak, bir BBC muhabirinin bebeklerin dünyaya gelişiyle ilgili masum sorusuna beklenmedik ve tehlikeli bir yanıt verdi.
Cihaz, soruyu yanlış yorumlayarak kullanıcıya kendine zarar vermemesi gerektiğini söyleyip acil servisleri aramasını tavsiye etti. Muhabirin durumu düzeltme çabasına rağmen cihazın verdiği bu tepki, yapay zeka algoritmalarının çocuk güvenliği konusundaki yetersizliğini bir kez daha gözler önüne serdi.
Üretici şirketlere ulaşılamıyor
Yaşanan bu skandalın ardından cihazın üreticisi olan firmaya dair herhangi bir muhatap bulunamaması, denetim eksikliğini tartışmaya açtı. Benzer bir test süreci ABD merkezli Curio şirketinin Grem adlı oyuncağı üzerinde de uygulandı. Grem, hassas konularda doğrudan yetişkinleri işaret ederek daha temkinli bir yaklaşım sergilese de, sektördeki genel güvenlik standartlarının belirsizliği uzmanları harekete geçirdi.
Siyasetten yasaklama çağrısı
Olayın ardından İngiltere'de bir grup milletvekili, yapay zeka destekli oyuncakların yarattığı risklere karşı sert bir tutum takındı. Yetkililere gönderilen ortak mektupta, bağımsız güvenlik testleri yapılana kadar bu tür ürünlerin satışının durdurulması talep edildi. Ayrıca, sohbet botu özelliği taşıyan yapay zeka oyuncaklarının 16 yaş altındaki çocuklara yasaklanması gerektiği vurgulandı.
