Facebook anlaşmazlıkları, yapay zekasının nefret söylemini veya şiddeti tutarlı bir şekilde tespit edemediğini bildiriyor

Facebook dürüstlükten sorumlu başkan yardımcısı Guy Rosen Pazar günkü blog yazısında, platformda nefret söyleminin yaygınlığının son üç yılda yüzde 50 düştüğünü ve “nefret söylemiyle mücadele etmek için kullandığımız teknolojinin yetersiz ve ilerlememizi kasten yanlış tanıttığımız” yanlıştı.

“Platformumuzda, kullanıcılarımız veya reklamverenlerimiz de nefret görmek istemiyoruz ve bunu kaldırma çalışmalarımız konusunda şeffafız” diye yazdı Rosen. “Bu belgelerin gösterdiği şey, dürüstlük çalışmamızın çok yıllı bir yolculuk olduğudur. Hiçbir zaman mükemmel olamayacak olsak da ekiplerimiz sürekli olarak sistemlerimizi geliştirmek, sorunları belirlemek ve çözümler oluşturmak için çalışıyor.”

Gönderinin, Wall Street Journal’da Pazar günü yayınlanan bir makaleye yanıt olduğu ortaya çıktı. Saldırgan içeriği platformdan uzak tutmakla görevli Facebook çalışanları, şirketin bunu güvenilir bir şekilde tarayabileceğine inanmıyor.

WSJ raporu, şirket içi belgelerin iki yıl önce Facebook’un insan incelemecilerin nefret söylemi şikayetlerine odaklanma süresini azalttığını ve şikayet sayısını azaltan başka düzenlemeler yaptığını gösterdiğini belirtiyor. Bu da, WSJ’ye göre, Facebook’un yapay zekasının şirketin kurallarını uygulamada olduğundan daha başarılı olduğu görüntüsünün yaratılmasına yardımcı oldu.

Bir Facebook çalışanlarından oluşan ekip, Mart ayında şirketin otomatik sistemlerinin WSJ’nin bildirdiğine göre, sosyal platformda nefret söylemi görüşlerinin yüzde 3 ila 5’ini oluşturan ve şiddet ve kışkırtmaya karşı kurallarını ihlal eden tüm içeriğin yüzde 1’inden azını oluşturan gönderileri kaldırıyordu.

Bunun yerine şirketin, insanların platformda gerçekte gördüğü nefret söyleminin yaygınlığına ve bunun çeşitli araçlar kullanarak bunu nasıl azalttığına odaklanmanın daha önemli bir önlem olduğuna inandığını söyledi. Facebook’taki bir içeriğin her 10.000 görünümü için, beş nefret söylemi görüntüsü olduğunu iddia etti. Rosen, “Yaygınlık, insanların hangi içeriği ihlal ettiğini, çünkü onu kaçırdığımızı söylüyor” diye yazdı. “İlerlememizi en objektif şekilde bu şekilde değerlendiriyoruz, çünkü en eksiksiz resmi sağlıyor.”

Ancak WSJ tarafından elde edilen dahili belgeler, bazı önemli içerik parçalarının Facebook’un tespitinden kaçabildiğini gösterdi. insanları yaralanmış gösteren araba kazaları ve trans çocuklara yönelik şiddetli tehditler.

WSJ, ihbarcı Frances Haugen tarafından sağlanan dahili belgelere dayanarak Facebook hakkında bir dizi rapor hazırladı. Kongreden önce, şirketin Instagram platformunun gençler üzerindeki olumsuz etkisinin farkında olduğunu söyledi. Facebook, dahili belgelere dayanarak raporlamaya itiraz etti.