Sosyal medya platformu Twitter, otomatik resim kırpma özelliğinin siyahları ve erkekleri görüntüden çıkaran sorunlu bir algoritmaya sahip olduğunu kabul etti. Twitter, bugün açıkladığı yeni araştırmada, "Bir görüntünün nasıl kırpılacağının kararını en iyi kullanıcılar verir’’ ifadesini kullandı.
Siyahların yüzleri hariç gönderilerdeki resim önizlemeleri hakkında geçen yıl gelen kullanıcı şikayetleri sonrasında, Twitter’ın yapay zeka uygulaması olan ‘’makine öğrenimi’’ araştırmacılarından üçü, sistemi test etti.
Otomatik resim kırpma özelliğinin yüzde 8 kadınlar lehine, yüzde 4 beyaz yanlısı çalıştığı ortaya çıktı.
Şikayetlerde Twitter’ın mesaj içinde tıklanarak orijinal boyutunun görüldüğü resimlerin küçülmüş önizlemelerinde beyaz bireylerin ya da kadınların tercih edildiği öne sürülüyordu.
Twitter'daki denemelerden birinde önizleme, orijinal fotoğrafta yer alan eski Başkan Barack Obama yerine, sürekli Cumhuriyetçiler'in Senato'daki lideri Mitch McConnell'ı seçiyordu.
Araştırma, görüntü arka planları ve göz rengiyle ilgili sorunlar da dahil olmak üzere pek çok olası nedene işaret etti, ancak hiçbirinin bahane olmadığı belirtildi.
Araştırmacılar, "Makine öğrenimine dayalı kırpma, kullanıcı faaliyetini ortadan kaldırıyor ve kullanıcının kendi kimliğini ve değerlerini ifade etmesini kısıtlıyor. Bunun yerine görüntünün hangi bölümünün en ilginç olduğu konusunda kuralcı bir bakış empoze ettiği için temelden kusurludur" ifadelerini kullandı.
Twitter bu soruna karşı son zamanlarda mobil uygulamalarında fotoğrafları kırpmadan göstermeye başladı ve bu yöntemi genişletmeye çalışıyor.
Araştırmacılar ayrıca otomatik kırpma özelliğinin, ‘’erkek bakış açısı’’ olarak tanımlanan kadınların vücutlarını kafaları yerine tercih edip-etmediğini de değerlendirdiler; ancak böyle bir örnek bulamadılar.
Araştırma, bulguların yüz tanıma ve metin analizinde tanımlanan demografik eğilimler dahil olmak üzere yapay zeka sistemlerinden kaynaklı, görüntüde eşit olan farklılıkların bir başka örneği olduğunu belirtti.
2018'de Microsoft ve Massachusetts Teknoloji Enstitüsü'ndeki araştırmacılar tarafından yapılan çalışmalar ve daha sonra ABD hükümetinin araştırması, yüz analiz sistemlerinin beyaz olmayan kişileri beyazlardan daha sık yanlış tanımladığını bulmuştu. Amazon, 2018'de kadınlara karşı önyargı gösteren bir yapay zeka işe alım aracını kullanmayı bıraktı.
