Twitter'ın resim kırpma aracı ırkçı mı?

Dünyanın en büyük sosyal medya platformlarından Twitter'ın, otomatik resim kırpma özelliğinin siyahları ve erkekleri görüntülerden çıkaran sorunlu bir algoritmaya sahip olduğu ortaya çıktı. Twitter bugün açıkladığı araştırmada "Bir görüntünün nasıl kırpılacağının kararını en iyi kullanıcılar verir" dedi ve bu sorunu kabul etti. Siyahların yüzleri hariç gönderilerdeki resim önizlemeleri hakkında geçen yıl gelen kullanıcı şikayetleri sonrasında, Twitter’ın yapay zeka uygulaması olan ‘’makine öğrenimi’’ araştırmacılarından üçü, sistemi test etti. Otomatik resim kırpma özelliğinin yüzde 8 kadınlar lehine, yüzde 4 beyaz yanlısı çalıştığı ortaya çıktı. Şikayetlerde Twitter’ın mesaj içinde tıklanarak orijinal boyutunun görüldüğü resimlerin küçülmüş önizlemelerinde beyaz bireylerin ya da kadınların tercih edildiği öne sürülüyordu. Örneği aşağıdaki resimlere tıklayarak görebilirsiniz https://twitter.com/bascule/status/1307446234655809536 Twitter'daki denemelerden birinde önizleme, orijinal fotoğrafta yer alan eski Başkan Barack Obama yerine, sürekli Cumhuriyetçiler'in Senato'daki lideri Mitch McConnell'ı seçiyordu. Araştırmacılar, "Makine öğrenimine dayalı kırpma, kullanıcı faaliyetini ortadan kaldırıyor ve kullanıcının kendi kimliğini ve değerlerini ifade etmesini kısıtlıyor. Bunun yerine görüntünün hangi bölümünün en ilginç olduğu konusunda kuralcı bir bakış empoze ettiği için temelden kusurludur" ifadelerini kullandı. 2018'de Microsoft ve Massachusetts Teknoloji Enstitüsü'ndeki araştırmacılar tarafından yapılan çalışmalar ve daha sonra ABD hükümetinin araştırması, yüz analiz sistemlerinin beyaz olmayan kişileri beyazlardan daha sık yanlış tanımladığını bulmuştu. Amazon, 2018'de kadınlara karşı önyargı gösteren bir yapay zeka işe alım aracını kullanmayı bıraktı.