2019’un sonunda, ağdaki zararları önlemekle görevli bir grup Facebook çalışanı, önümüzdeki yılı tartışmak için bir araya geldi. Adına Civic Summit’te liderler, yaklaşan küresel seçimlere karşı gelişmiş koruma sağlamak için kaynakları nereye yatıracaklarını ve nereye yapmayacaklarını açıkladılar. Facebook, şirkette standart hale gelen bir hamleyle dünya ülkelerini katmanlara ayırmıştı.
Brezilya, Hindistan ve Amerika Birleşik Devletleri en yüksek öncelik olan “sıfır katman”a yerleştirildi. Facebook, ağı sürekli olarak izlemek için “savaş odaları” kurdu. Ağ etkinliğini analiz etmek için gösterge panoları oluşturdular ve yerel seçim yetkililerini herhangi bir sorun konusunda uyardılar.
Almanya, Endonezya, İran, İsrail ve İtalya birinci kademeye yerleştirildi. Onlara, Facebook kurallarının uygulanması ve doğrudan seçim döneminin dışındaki uyarılar için bazı kaynaklar hariç, benzer kaynaklar verilecek.
İkinci aşamada 22 ülke eklendi. Facebook’un “gelişmiş operasyon merkezleri” dediği savaş odaları olmadan gitmek zorunda kalacaklardı.
Dünyanın geri kalanı üçüncü katmana yerleştirildi. Facebook, içerik moderatörleri tarafından kendilerine iletilmişse, seçimle ilgili materyalleri inceler.
Belgeler, farklı ülkelere sağlanan içerik denetleme kaynaklarında önemli farklılıklar olduğunu gösteriyor
Sistem, Menkul Kıymetler ve Borsa Komisyonu’na yapılan açıklamalarda açıklanıyor ve Frances Haugen’in hukuk müşaviri tarafından düzeltilmiş biçimde Kongre’ye sunuluyor. Platformer ve The Verge dahil olmak üzere bir haber kuruluşları konsorsiyumu, Kongre tarafından alınan redakte edilmiş versiyonları elde etti. Bazı belgeler The Wall Street Journal’da daha önceki haberlerin temelini oluşturdu.
Dosyalar, şirketin dahili araştırmasını, kullanıcıların güvenliğini ve refahını artırmaya yönelik çabalarını ve mücadelelerini anlatan çok sayıda belge içerir. daha genç bir kitle için alakalı kalmak. Facebook çalışanlarının kamu yararına olan konular hakkındaki bilgilerindeki boşlukların ve daha fazla bilgi edinme çabalarının farkında olma derecesini vurgularlar.
Ancak bir tema diğerlerinden daha fazla öne çıkıyorsa, bu, herkese açık olmayan veya dış incelemeye tabi olmayan kriterlere göre farklı ülkelere sağlanan içerik denetleme kaynaklarındaki önemli farklılıklardır. Facebook’un anavatanı Amerika Birleşik Devletleri ve sosyal istikrarsızlık nedeniyle siyasi şiddet açısından yüksek risk altında olduğu düşünülen diğer ülkeler için Facebook, kamu söylemini korumak üzere tasarlanmış gelişmiş bir hizmetler paketi sunar: hizmeti ve topluluk standartlarını resmi dillere çevirmek; bu dillerdeki nefret söylemini ve yanlış bilgileri tespit etmek için yapay zeka sınıflandırıcıları oluşturmak; ve viral içeriği analiz etmek ve aldatmacalara ve şiddete teşviklere 7/24 esasına göre hızlı bir şekilde yanıt vermek için ekipler oluşturmak.
Nefret söylemini ve diğer zararları tespit etmeye yönelik makine öğrenimi sınıflandırıcıları mevcut değildir. Gerçek kontrol ortakları mevcut değil. Savaş odaları asla açılmaz.
Düzenli bir şirket için, piyasa koşullarına göre kaynakları farklı şekilde tahsis etmek pek tartışmalı değildir. Ancak Facebook’un sivil söylemdeki kilit rolü göz önüne alındığında – bazı ülkelerde internetin yerini alıyor – eşitsizlikler endişe kaynağı.
Yıllardır dünyanın dört bir yanındaki aktivistler ve kanun koyucular, şirketi içerik denetleme yaklaşımındaki eşitsizlik nedeniyle eleştiriyor. Ancak Facebook Belgeleri, Facebook’un nerede daha yüksek standartta bakım sağladığı ve nerede sağlamadığı konusunda ayrıntılı bir inceleme sunuyor.
Farklılıklar arasında:
Facebook, geçen yıl en yüksek risk altındaki ülkeler olan Myanmar, Pakistan ve Etiyopya’da yanlış bilgi sınıflandırıcılarından yoksundu. Ayrıca, kanlı bir iç çatışmanın ortasında olan Etiyopya’da nefret söylemi sınıflandırıcılarından da yoksundu. Aralık 2020’de, ülkelere dil uzmanlarını yerleştirme çabası, on “birinci kademe” ülkenin yalnızca altısında ve ikinci kademe ülkenin yalnızca altısında başarılı olmuştu.
Facebook’un insan hakları politikası direktörü Miranda Sissons, kaynakları bu şekilde tahsis etmenin Birleşmiş Milletler’in İş ve İnsan Hakları Rehber İlkelerinde önerilen en iyi uygulamaları yansıttığını söyledi.
Kariyerli bir insan hakları aktivisti ve diplomat olan Sissons, 2019’da Facebook’a katıldı. Bu, şirketin “risk altındaki ülkeler” olarak adlandırdığı, sosyal uyumun azaldığı yerler için yaklaşımını geliştirmeye başladığı yıldı. ve Facebook’un ağının ve güçlendirme yetkilerinin şiddete teşvik riski taşıdığı yerler.
Facebook,
Tehdit gerçektir: Facebook Belgelerindeki diğer belgeler, o yıl Hindistan’da oluşturulan yeni hesapların nasıl hızla bir nefret söylemi ve yanlış bilgi dalgasına maruz kalacağını detaylandırmayı seçtiğinde karmaşık istihbarat operasyonları yürütebilir. Facebook’un tavsiyelerine uydular. (New York Times bu araştırmayı Cumartesi günü detaylandırdı.) Ve Facebook’un içerik denetimine en çok yatırım yaptığı Amerika Birleşik Devletleri’nde bile, belgeler, çalışanların platformdaki yanlış bilgi seliyle ne kadar boğulduğunu yansıtıyor. 6 Ocak Capitol saldırısı. (Washington Post ve diğerleri bu kayıtları hafta sonu açıkladı.)
Belgeler, Facebook’un istediği zaman karmaşık istihbarat operasyonları yürütebileceğini gösteriyor. “Hindistan’daki düşmanca zarar ağları” hakkında tarihsiz bir vaka çalışması, Rashtriya Swayamsevak Sangh veya RSS – milliyetçi, Müslüman karşıtı bir paramiliter örgüt – ve onun kışkırtıcı ve yanıltıcı içerik yaymak için grupları ve sayfaları kullanmasını inceledi.
Ancak soruşturma, Facebook’un büyük ölçüde kör olduğunu belirtti: “Hintçe ve Bengalce sınıflandırıcıların olmaması, bu içeriğin çoğunun hiçbir zaman işaretlenmediği veya harekete geçirilmediği anlamına geliyor.”
Bir çözüm, RSS hesaplarını cezalandırmak olabilir. Ancak grubun Hindistan’ın milliyetçi hükümetiyle olan bağları, bunu hassas bir teklif haline getirdi. Yazarlar, “Siyasi hassasiyetler göz önüne alındığında bu grubun belirlenmesi için henüz bir aday göstermedik” dedi.
Facebook, aynı zamanda sosyal ağların en büyüğü olmasına rağmen, dürüstlük çabalarına benzerlerinden daha fazla harcama yapıyor. Sissons bana ideal olarak şirketin topluluk standartlarının ve AI içerik denetleme yeteneklerinin Facebook’un faaliyet gösterdiği her ülkenin dillerine çevrileceğini söyledi. Ancak Birleşmiş Milletler bile yalnızca altı resmi dili desteklemektedir; Sissons, Facebook’un 70’den fazla gönderiyi anadili olarak yöneten kişilere sahip olduğunu söylüyor.
Facebook’un katmanlarının yatırımlarını sınırladığı ülkelerde bile, şirketin sistemlerinin düzenli olarak dünyayı siyasi istikrarsızlık veya artan şiddet risklerine karşı taradığını söyledi. şirketin uyum sağlayabilmesidir. Yeni nefret söylemi sınıflandırıcılarının eğitimi gibi bazı projeler pahalıdır ve aylar sürer.
“Bunlar kolay değiş tokuşlar değil.”
Şirket, Mayıs 2019’da “İnsan İncelemesinin Değerini En Üst Düzeye Çıkarma” başlıklı notunda, içerik moderatörlerinin üzerindeki yükü azaltma umuduyla nefret söylemi bildiren kullanıcılara yeni engeller çıkaracağını duyurdu. Ayrıca, gönderiyi çok az kişinin gördüğü veya bildirilen sorunun ciddi olmadığı durumlarda, raporları çözmeden otomatik olarak kapatacağını söyledi.
Notun yazarı, incelemecilerin yüzde 75’inin nefret söylemi raporlarının Facebook’un topluluk standartlarını ihlal etmediğini ve gözden geçirenlerin zamanının proaktif olarak daha kötü ihlalleri aramak için harcanmasının daha iyi olacağını söyledi.
Fakat harcamalar konusunda da endişeler vardı. Yazar, “Önden yüklemeli uygulama çalışmaları nedeniyle [üçüncü taraf içerik denetimi] inceleme bütçemizin açıkça önünde ilerliyoruz ve bütçeyi karşılamak için kapasiteyi (verimlilik iyileştirmeleri ve doğal geri kazanım yoluyla) azaltmak zorunda kalacağız” diye yazdı. “Bu, yıl sonuna kadar izleyici kapasitesinde gerçek düşüşler gerektirecek ve bu da ödünleşimleri zorlayacak.”
Ayrıca, kademe sisteminin belirlediği yüksek riskli ülkelerde çalışanlar kaynaklarının zorlandığını gördüler.
“Bunlar kolay değiş tokuşlar değil” diyor. “Risk altındaki ülkelerdeki düşmanca söylemleri sürdürülebilir bir şekilde yönetmek” başlıklı not. (Facebook bu ülkeleri “ARC” olarak kısaltıyor.)
“ARC’leri desteklemek, kriz müdahalesi açısından ekip için de yüksek bir maliyet getiriyor.
Ancak her şey bir öncelik olamaz ve takaslar gerçekten de zordur.
“Geçici şiddet yerine … devam eden şiddete sahip ülkeler için sınıflandırıcılar oluşturmaya öncelik vermeliyiz” deniyor. “İkinci durumda, bunun yerine hızlı yanıt araçlarına güvenmeliyiz.”
Temel düzeyde kimsenin neler olup bittiğinden tam olarak emin olmadığına dair yaygın bir algı
Yüzlerce belgeyi inceledikten ve bunlar hakkında mevcut ve eski Facebook çalışanlarıyla görüştükten sonra, şirket içindeki büyük bir işçi grubunun şirket, kapsamı, ölçeği ve karmaşıklığı bakımından baş döndürücü çeşitli sistemler kullanarak platformun en kötü suistimallerini özenle dizginlemeye çalışıyor. ABD ve Hindistan’ın yükselen sağcı otoriterliği ve Donald Trump ve Narendra Modi gibi bireysel figürlerin şiddeti teşvik etme gücü bu platformda başlamadı. ve istikrarsızlık hafife alınmamalıdır.
Yine de Facebook’un büyüklüğü karşısında bir kez daha hayret etmemek elde değil; nasıl çalıştığını anlamanın şaşırtıcı karmaşıklığı, onu işletmekle görevli kişiler için bile; risk altındaki ülkelerin “iş akışı” gibi sistemlerin opak doğası; ve Myanmar’da olduğu gibi her şeyin şiddetle kontrolden çıktığı durumlarda hesap verme sorumluluğu eksikliği.
Facebook Belgelerindeki en etkileyici belgelerden bazıları aynı zamanda en sıradan belgelerdir: bir çalışanın veya bir diğeri, Facebook’un bu girdiyi buna değiştirmesi veya bu zararı bu büyüme ölçüsü pahasına azaltması durumunda ne olabileceğini yüksek sesle merak ediyor.
Çalışanlar istifa edip bunları basına sızdırıyor. İletişim ekibi bulguları inceler ve kasvetli bir blog yazısı yazar ve Yapılacak Daha Çok İş Var olduğunu onaylar.
Kongre homurdanıyor. Facebook adını değiştiriyor. Katmanlar halinde düzgün bir şekilde düzenlenmiş dünya ülkeleri nefeslerini tutuyor.
Platformer, Casey Newton
Bu sütun, Big Tech hakkında günlük bir bülten olan Platformer ile birlikte yayınlandı. ve demokrasi. Abone olun.
