Suç verilerini araştıran bir yapay zeka, bir sonraki hafta işlenecek suçların yerini yüzde 90’a varan doğrulukla tahmin etti. İnsan hakları örgütleri, benzeri sistemlerin önyargıları ve ırkçılığı artırmasından endişeli.
Başrolünü Tom Cruise’un oynadığı ‘Minority Report’ (Azınlık Raporu), bazı teknolojik aygıtlar sayesinde cinayetleri önceden farkedip engelleyen bir polis merkezi odağında yaşanan gelişmelerin anlatıldığı bir film. Steven Spielberg’in yönettiği 2002 yapımı filmde, sistemin hatası nedeniyle bu özel birimin acar komiserini oynayan Cruise’un hayatının nasıl da altüst olduğu anlatılır. Film, güvenlik birimlerinin hayallerini süsleyen bir yapıyı anlatırken hak ihlallerinden endişelenen insanların tüylerini diken diken eden gerçekleri gözler önüne serer. Anlı şanlı polis komiserinin hayatının güvenlik sisteminin bir açığı nedeniye bir anda altüst olması ironisi üzerinden, bu tür yapılardaki hataların sonuçlarının ölümcül olduğu mesajı verilir.
FİLM GERÇEK Mİ OLUYOR?
Şimdi bilim dünyası Chicago Üniversitesi’nde hazırlanan bir yazılımın sonuçlarını tartışıyor. Ishanu Chattopadhyay ve meslektaşları, 2014’ten 2016’nın sonuna kadar ABD’nin en çok suç işlenen şehirlerinden Chicago’daki tarihsel suç verilerini analiz ettiler. Ardından oluşturdukları yapay zeka merkezli bir yazılım, şehirdeki suçların yerini ve oranını bir hafta önceden yüzde 90’a varan doğrulukla bir hafta önceden tahmin etti.
SUÇ İŞLENME POTANSİYELİ YÜKSEK BÖLGELER
Önceki verileri analiz eden sistem, yaklaşık 300 metrelik karelere bölünmüş şehir genelinde belirli suçların meydana gelme olasılığını öngördü. Aynı zamanda, benzer bir suç düzeyine sahip başka yedi büyük ABD şehri için veriler üzerinde denemeler yapıldı. Yapay zekânın ürettiği sonuçlar güvenlik birimleri açısından tatmin edici bulunsa da, bu çaba, ırksal ve sınıfsal önyargıları artıracağı tartışmalarını da körükledi. Zira eş zamanlı olarak, Chicago Polisi’nin, kurban veya fail olarak bir silahlı saldırıya karışma riski en yüksek olduğu düşünülen kişilerin bir listesini oluşturan gizli bir algoritmayı denediği ortaya çıktı. Algoritmanın ve listenin ayrıntıları başlangıçta gizli tutuldu, ancak baskılar ve hukuki girişimler sonunda yayınlandığında, şehirdeki 20 ila 29 yaş arasındaki ‘siyah’ erkeklerin yüzde 56’sının listede yer aldığı ortaya çıktı.
‘SİSTEM KUSURSUZ DEĞİL’
Yazılımı geliştiren Chattopadhyay, ortaya koyduğu modelde kullanılan verilerin de önyargılı olacağını kabul ediyor, ancak önyargının etkisini azaltmak için çaba sarf edildiğini ve yapay zekanın şüphelileri değil, yalnızca potansiyel suç alanlarını tespit ettiğini söylüyor. Yazının başında kısaca değindiğimiz filme atıfta bulunarak, ‘’Bu Azınlık Raporu değil. Kolluk kuvvetlerinin kaynakları sonsuz değil. Program, bu kaynakları en veriml şekilde kullanmak amacıyla hazırlandı. Cinayetlerin nerede olacağını bilseniz harika olmaz mı?’’ diyor.
Chattopadhyay, yapay zeka tahminlerinin, doğrudan polis kaynaklarını olay bölgelerinde istihdam etmek yerine, şehri yöneten politikacıları bilgilendirmek için kullanmanın daha güvenli olabileceğini söylüyor. Bilim insanları, diğer araştırmacıların da sonuçları araştırabilmesi için çalışmada kullanılan verileri ve algoritmayı herkese açık olarak yayınladı.
‘POLİSİN ÖNYARGISINI DA BELİRLEDİ’
Araştırmacılar elde edilen verileri, önyargının polisleri etkilediği alanları tespit etmek için de kullandılar. Bu amaçlar Chicago’daki farklı sosyoekonomik düzeylere sahip mahallelerde suçların ardından tutuklananların sayısını analiz ettiler. Sonuçta, daha zengin bölgelerdeki suçların, daha fakir bölgelerde olduğundan daha fazla tutuklamayla sonuçlandığını ggösterdi. Yani polis, zenginlere karşı işlenen suçlarda daha ‘acımasız’, fakirlere karşı işlenen suçlarda ise daha ‘toleranslı’ davranıyordu.
ABD’DE SİYAHLAR, AVRUPA’DA GÖÇMENLER
ABD’de ayrımcılık özellikle siyahlar, Latin kökenliler ve fakirlere yönelik gözlenirken, benzer programların kullanıldığı Avrupa ülkelerinde de, göçmenlere ve azınlıklara yönelik oluyor. Ülkelere göre değişmekle birlikte Fransa’da Magrip ve Afrika kökenliler, İngiltere’de Karayip ve Güney Asyalılar, Belçika’da Afrika ve Magrip kökenliler’in yoğun yaşadığı bölgeler, bunun yanında gelir ortalaması düşük semtler ile ağırlıkta farklı ülkelerde göçmen gruplarının yaşadığı bölgelerin suç potansiyeli yüksek görülüyor.
