Twitter ve Zoom’da ‘’ırkçı’’ algoritma sorunu; Twitter’dan özür geldi

Sosyal medya kullanıcıları, fotoğraf önizlemelerini kesen algoritma ağındaki sorunu keşfetti. Twitter’ın farklı ten renklerine sahip insanları nasıl gösterdiği konusundaki tutarsızlıklara rastlayan kullanıcılar, algoritmaların ırkçılık ve cinsiyetçilik gibi önyargıları ortaya çıkarıp çıkarmadığı konusunda yeni bir tartışma konusu ortaya attı. Kullanıcıların bu özelliğin otomatik olarak siyah tonlu yüzler yerine beyaz yüzlere odaklandığını fark etmesinin ardından Twitter sözcüsü, ‘’Irkçı’’ algoritma için özür diledi.

‘’IRKÇI’’ PROBLEM İLK OLARAK ZOOM’DA KEŞFEDİLDİ

Eğitim teknolojisi araştırmacısı Colin Madland, görüntülü arama programı olan ‘’Zoom’’ üzerinde görüşme yaptığı siyahi bir kişinin kafasını kırptığını ve sistemin insan yüzü olarak algılayamadığını duyurdu. Zoom üzerinde bunu fark eden Madland, görüşme yaptığı kişiye ait ikinci bir fotoğraf kombinasyonunu Twitter’da yayımladı ve fotoğraf önizlemesinde sorun yaşandığını farketti.

Olayın ardından kullanıcılar, Kriptografi mühendisi Tony Arcieri’nin gönderdiği ve en çok paylaşılan tweet’lerden birinde Twitter, eski ABD Başkanı Barack Obama’nın da yer aldığı karma bir fotoğrafın önizlemesi olarak yalnızca Cumhuriyetçi senatör Mitch McConnell’in yüzünü gösterdi.

TWİTTER SÖZCÜSÜ SORUNU KABUL ETTİ

Yaşanan ‘’Irkçı’’ olayın ardından Twitter sözcüsü Liz Kelley, şirketin sorunu kabul ettiğini ve yaşanan aksaklığın düzeltilmesi için çalıştıklarını belirtti. Liz Kelley Twitter üzerinden ‘’Ekibimiz, modeli göndermeden önce önyargı testi yaptı ve testlerimizde ırk veya cinsiyet önyargısına dair kanıt bulamadı. Ancak bu örneklerden, daha fazla analiz yapmamız gerektiği açıktır. Bu konuyu araştırıyoruz, öğrendiklerimizi ve hangi adımları attığımızı paylaşmaya devam edeceğiz’’ açıklamasını yaptı.

Öte yandan, problemin yaşandığı bir diğer uygulama Zoom ise konuyla alakalı henüz özür dilemedi.