Gizmodo, makine öğrenimi yoluyla tahmine dayalı polislik (bu nedenle adı Geolitica olarak değiştirildi) konusunda uzmanlaşmış bir yazılım şirketi olan PredPol’e yönelik The Markup ile birlikte yaptığı araştırmaların ardındaki veri toplama sürecine derinlemesine bir bakış yayınladı .
PredPol’ün algoritmasının mevcut suç raporlarına dayalı tahminler yapması gerekiyor. Bununla birlikte, suçlar her yerde eşit olarak bildirilmediğinden, kolluk kuvvetlerine sağladığı okumalar, her alan hakkında raporlamadaki önyargıları kopyalayabilir. Polis bunu nerede devriye gezeceğine karar vermek için kullanırsa, daha büyük bir varlığa ihtiyaç duymayan aşırı polislik alanlarıyla sonuçlanabilir.
Gizmodo ve The Markup bölgeleri değerlendirdiğinde, PredPol’ün yazılımının artan devriyeler için hedeflediği yerlerin “daha çok Siyahlara, Latinlere ve federal ücretsiz ve indirimli haklara hak kazanacak ailelere ev sahipliği yapma olasılığının daha yüksek olduğunu buldular. Öğle yemeği programı.”
İzlenen 38 kolluk kuvvetinden 23’ü artık PredPol müşterisi değil
Polis taktikleri suç ve tutuklama verilerini içerecek şekilde geliştikçe, bu taktiklerin beyaz olmayan toplulukları nasıl etkilediği konusunda tarihsel bir eşitsizlik oldu. Gizmodo’nun analizinde işaret ettiği gibi, 1990’larda New York’ta araştırmacılar, yöntemlerin suçu basitçe başka alanlara kaydırmadan azalttığını buldular.
PredPol’ün algoritması akademisyenler tarafından bir kereden fazla incelenmiş ve eleştirilmiştir. Vice, ACLU Utah’ın yönetim kurulu üyesi olan Suresh Venkatasubramanian’ın 2019’da alıntıladığı gibi:
“Bu veriler polis faaliyetlerinin bir yan ürünü olarak toplandığından, tahminler temel alınarak yapılmıştır. Venkatasubramanian’ın çalışma notları, bu verilerden öğrenilen kalıpların tamamı gelecekteki suç örnekleriyle ilgili değil. “Bu anlamda, öngörücü polislik uygun bir şekilde adlandırılıyor: gelecekteki suçları değil, gelecekteki polisliği tahmin ediyor.”
Yine de bu kadar kapsamlı bir soruşturma yapılmadı. Bu araştırma, web üzerinden erişilebilen kamuya açık verilerden alınan rakamları kullandı. Gizmodo ve The Markup’a göre, Los Angeles Polis Departmanı’nın web sitesinden bağlantılı güvenli olmayan bir bulut veritabanı buldular. Bu veriler, birkaç yıl öncesine uzanan milyonlarca tahmin içeriyordu.
Sözde bireysel suçları tahmin etmenin yanı sıra, The Verge tarafından hazırlanan 2018 tarihli bir rapor, PredPol’ün kurucusu Jeff Brantingham’ın, çete bağlantılı suçları tahmin etmek için yazılımı kullanma konusunda Pentagon tarafından finanse edilen araştırmasını inceledi. Eski California-Los Angeles Üniversitesi antropoloji profesörü, platformu oluşturmak için Irak’taki savaş alanı zayiatlarını tahmin etmeye yönelik daha önceki araştırmaları uyarladı ve “Kısmi Bilgiyle Çete Suçları Sınıflandırması için Kısmen Üretken Sinir Ağları” başlıklı makale, etik sonuçlarla ilgili endişeleri dile getirdi. /p>
Eleştirmenler, bu yaklaşımın yarardan çok zarar verebileceğini söyledi.
Bunu bilgisayara bağladığınızda, her suç çete bağlantılı olacak,” dedi aktivist Aaron Harvey The Verge’e.
Bazı algoritmalara güvenmek bazı endüstriler için sihir yapabilir, ancak etkileri bir anda gelebilir. gerçek insan maliyeti. Kötü veriler veya yanlış parametrelerle, polislikten daha az endişe verici durumlarda bile işler hızla ters gidebilir. Zillow’un bir avantaj sağlayacağını düşündüğü “fiyatlandırma modelleri ve otomasyona” rağmen yüz milyonlarca dolar kaybettikten sonra kısa süre önce ev değiştirme operasyonunu kapatmak zorunda kalmasından başkasına bakmayın.
Genel olarak, Gizmodo ve The Markup’s raporlama, tahmine dayalı algoritmaların bilmeden hedef aldıkları insanları ne kadar önemli ölçüde etkileyebileceğinin iyi bir değerlendirmesidir. Gizmodo’nun beraberindeki analizi, ilgili veri içgörülerini sağlarken, okuyuculara bu önlemlere sahne arkası bir bakış sunar. Rapor, izlenen 38 kolluk kuvvetinden 23’ünün, suç önleme kaynaklarının dağıtımına yardımcı olmak için başlangıçta kaydolmasına rağmen artık PredPol müşterisi olmadığını gösteriyor. Belki de her iki tarafta şeffaflık ve güven inşa eden yöntemler kullanarak, kolluk kuvvetleri, bunun gibi parçalara yol açan teknolojiye daha az zaman harcayabilir ve bu da tam tersi yaklaşımı vurgular.
