Salı günü, Facebook muhbiri Frances Haugen, Facebook’un son yıllardaki en zorlu kongre oturumlarından biri olmayı vaat eden bir Senato Ticaret alt komitesinin önüne çıkıyor. The Wall Street Journal’dan bir dizi bomba habere kaynak olarak hizmet ettikten sonra Haugen, Instagram’ın dahili Facebook raporlarından yola çıkarak en genç kullanıcıları üzerindeki zihinsel sağlık etkileriyle ilgili endişeleriyle Pazar günü halka açıldı.
Sonuç, çocuk güvenliğine yeni bir odak noktası oldu – Facebook için özellikle hassas bir nokta. Şirket, Instagram’ın genç kızlarda vücut sorunlarını alevlendirdiği iddialarına itiraz etti, ancak zararlı içeriğin algoritmik olarak güçlendirilmesiyle ilgili daha geniş endişeleri reddetmek daha zordu. Geçen haftaki bir duruşmada, Senatör Richard Blumenthal (D-CT), genç bir kız gibi görünen kukla bir hesap oluşturduktan sonra kendi personelinin yeme bozuklukları ve kendine zarar verme ile ilgili Instagram gönderileriyle bombalandığı bir testin sonuçlarını paylaştı. Bugünkü duruşmada, Haugen’in şirketin kararlarıyla ilgili doğrudan tanıklığıyla aynı konulara odaklanması bekleniyor.
Bu yayını, duruşma sırasında olan her şeyle güncelleyeceğiz – milletvekillerinden gelen her soru, her önemli alıntı ve Haugen’den her yeni bilgi.
Richard Blumenthal (D-CT), Facebook’un “karları insanların önüne nasıl koyduğunu” anlattı. Platformun algoritmik beslemelerinin genç kullanıcılarındaki güvensizlikleri nasıl artırabileceğini kaydetti.
Umarım güvenli algoritma diye bir şey olup olmadığını tartışırız, dedi Blumenthal.
Blumenthal ayrıca Facebook CEO’su Mark Zuckerberg‘i de aradı. Wall Street Journal’ın çocuk güvenliği konusundaki son ifşaatları adına tanıklık etmek üzere Kongre’ye dönmek. Facebook, Haugen’in iddialarının çoğuna şiddetle itiraz etti, ancak bunu küresel güvenlik şefi Antigone Davis veya halkla ilişkiler lideri Nick Clegg gibi vekiller aracılığıyla yaptı.
“Sorumluluk almak ve liderlik göstermek yerine, Bay Zuckerberg denize açılıyor,” dedi Blumenthal.
Sen. Marsha Blackburn (R-TN), duruşma sırasındaki ilk sözlerinde Facebook’un iş modelini ele aldı. “Facebook, çocukların platformlarında güvenliğini artırmak için önemli değişiklikler yapmakla ilgilenmiyor, en azından bu, gönderilerde göz küresi kaybetmeye veya reklam gelirlerini düşürmeye yol açacağı zaman değil” dedi. “Parayı takip edin.”
Geçen haftaki “finsta” tartışmasını takip eden Blackburn, Facebook’un aktif kullanıcı sayılarını artırmanın bir yolu olarak bu özel hesaplara göz yumduğunu söylüyor.
Haugen, ayrıca yasa koyucuları “kapalı tasarım”ın üstesinden gelmek için şirkete daha fazla şeffaflık getirmeye teşvik etti.
“Teşvikler değişene kadar sorumsuz,” dedi Haugen. “Facebook değişmeyecek.”
Ama aynı zamanda hükümetin müdahale etmesi durumunda sorunun çözülebileceğine dair iyimserlik de gösterdi. “Bu sorunlar çözülebilir. Haugen, daha güvenli, ifade özgürlüğüne saygılı bir sosyal medyanın mümkün olduğunu söyledi. “Facebook değişebilir, ancak bunu kendi başına yapmayacağı açık.”
Facebook’un iş modelinin dışında, Haugen, Facebook’un işini zorlaştıran birkaç yapısal sorun belirledi. şirket skandallara tepki verecek. “Facebook, işe almakta zorlandığı bir döngüde sıkışıp kaldı. Bu, projelerde yetersiz personel bulunmasına neden oluyor, bu da skandallara neden oluyor ve bu da daha sonra işe alınmasını zorlaştırıyor,” dedi Haugen.
“Facebook’ta gördüğüm bir davranış şekli, sorunların genellikle çok az sayıda personele sahip olmasıydı. daha iyi tespit sistemlerine sahip olmaktan zımni bir caydırıcılık olduğunu. Örneğin, karşı casusluk ekibinde çalıştım ve herhangi bir zamanda ekibimiz bildiğimiz vakaların yalnızca üçte birini halledebilirdi. Basit bir dedektör bile yapsaydık, muhtemelen daha fazla vakamız olacağını biliyorduk.”
Haugen, Facebook’un etkileşim sayılarının, hizmetlerini geliştirmede genellikle belirleyici faktör olduğuna da dikkat çekti.
Düz olması amaçlanmıştır. Tek taraflı sorumluluk yoktur” dedi. “Metrikler kararı verir.”
Pazar 60 Dakika mülakatında Haugen, Facebook’un Sivil Dürüstlük grubunun nasıl çalıştığını anlattı. 2020 cumhurbaşkanlığı seçimlerinden sonra feshedildi. Bu süreçler daha sonra ABD Capitol’deki 6 Ocak ayaklanmaları sırasında acil bir karar olarak eski haline getirildi. Sen. Amy Klobuchar (D-MN), Haugen’e Facebook’un neden bütünlük grubunu dağıtmaya karar verdiğini sordu.
“Facebook yanlış bir seçimi vurguluyor,” dedi Haugen Klobuchar’a. “Seçimden önce uygulanan güvencelerin ifade özgürlüğünü kapsadığını söylediler.”
Sen. John Thune (R-SD) daha önce İletişim Ahlakı Yasası’nın 230. Bölümünü değiştirmek için bir yasa çıkarmıştı. Salı günü Thune, Haugen’e bu yasada yapılacak bir değişikliğin Facebook’u algoritmalarını kullanıcı zararını azaltacak şekilde değiştirmeye teşvik edip edemeyeceğini sordu.
“Bence uygun bir gözetimimiz olsaydı ya da Bölüm 230’da reform yapsaydık. Facebook’u kasıtlı sıralama kararlarının sonuçlarından sorumlu yaparlarsa, gençlerin daha fazla anoreksiya içeriğine maruz kalmasına neden olduğu için katılım temelli sıralamadan kurtulacaklarını düşünüyorum.
Jerry Moran (R-KS), Haugen, bu reformlar “çok karmaşık” olabilse de, algoritmalarla ilgili Bölüm 230 reformunu desteklemektedir. onların algoritmaları ve Facebook, kamu güvenliği üzerinde büyüme, viralite ve tepkiselliğe öncelik vermek için yaptığı seçimlerde ücretsiz bir geçiş yapmamalı ”dedi. “Şu anda kârlarını bizim güvenliğimizle ödüyorlar.”
Duruşmanın ana temalarından biri, komite üyelerinin buna gerçek yasaları geçirerek yanıt vermek istemesiydi. Cambridge Analytica duruşmalarından sonra oldu.
Haugen ile yaptığı soruların ardından, Sen. Ed Markey (D-MA), bu duyguyu katı çatışmacı terimlerle ifade etti:
Mark Zuckerberg’e mesajım şu: Gizliliğimizi ihlal etme, toksik içeriği teşvik etme ve onları avlama zamanınız çocuklar ve gençler bitti. Kongre harekete geçecek. Bizimle çalışabilirsiniz veya çalışmayabilirsiniz ama şirketinizin çocuklarımıza, ailelerimize ve demokrasilerimize zarar vermesine daha fazla izin vermeyeceğiz. Teşekkürler, Bayan Haugen. Harekete geçeceğiz.
Haugen’in en tutarlı noktası, Facebook’u optimize etmenin öngörülemeyen şekillerde kullanıcı zararına yol açmasıdır – bu nedenle Sen.
Haugen, Facebook’un şu anda yılda yaklaşık 40 milyar dolar kâr ettiğini söyledi. (Aslında son kazançlara bakarsanız daha da yüksek.)
“Bugün bahsettiğim değişiklikler Facebook’u kârsız bir şirket yapmaz,” dedi komiteye. “Gülünç derecede karlı bir şirket olmazdı… İnsanlar Facebook’ta daha az içerik tüketirdi ama Facebook yine de karlı olurdu.”
Sen. Ted Cruz (R-TX), Haugen’i işitme sorularında yinelenen bir temaya yönlendirdi: Facebook’ta iddia edilen siyasi sansür. Haugen soruyu nazikçe yöneltti. Birinden bir makaleyi paylaşmadan önce okumasını istemek gibi özelliklere atıfta bulunarak, “Savunduğum şeylerin çoğu fikir pazarında kazananları ve kaybedenleri seçmek değil, amplifikasyon mekanizmalarını değiştirmekle ilgili” dedi. /p>
“Bu sürtüşme gibi küçük eylemler, iyi fikirlerin ve kötü fikirlerin seçilmesini gerektirmez; sadece platformu daha az gergin, daha az reaktif hale getiriyorlar. Ve Facebook’un dahili araştırması, bu küçük eylemlerin her birinin platformdaki yanlış bilgileri, nefret söylemini ve şiddeti teşvik eden içeriği önemli ölçüde azalttığını söylüyor.”
Sen’in sorgusunda.
“Bu içeriğin tanıtımına hangi faktörlerin girdiğine ilişkin istatistikler de dahil olmak üzere, platformdaki en popüler içeriği ifşa etmek, Facebook’un neye odaklandığımızı nasıl seçtiği, gerçekliğimizi nasıl şekillendirdiği konusunda bugün sahip olduğumuzdan çok daha fazla şeffaflığa neden olur” dedi. Haugen, “Facebook’un duvarların arkasına saklanarak ve gölgelerde faaliyet gösterdiği bir davranış kalıbı” olarak nitelendiriyor.
Sen. Rick Scott (R-FL), sosyal ağlardan daha fazla şeffaflık gerektiren VERİ Yasasına atıfta bulundu. Haugen, şeffaflığın tek başına Facebook’un içeriğin algoritmik sıralamasıyla ilgili sorunları çözeceğinden kuşkulu görünüyordu – insanlara kronolojik olarak sıralanmış veya etkileşime dayalı bir besleme seçme seçeneği sunulsaydı, yine de “daha bağımlılık yapan seçeneği seçebileceklerini” söyledi.< /p>
Haugen, Sen’e anlattı. Todd Young (R-IN), algoritmik bir uzman olarak kendi bakış açısıyla Facebook’un dağılmasına karşıydı. “Facebook’un içine baksanız bile … etkileşime dayalı sıralamadaki sorunların kendilerini tekrar ettiğini görüyorsunuz. Buradaki sorunlarımız, algoritmaların, AI’nın tasarımı ve AI’nın zeki olmadığı fikri ile ilgili ”dedi. “Facebook ve Instagram’ı birbirinden ayırırsanız, reklam harcamalarının çoğu Instagram’a gidecek ve Facebook dünya çapında yaşamları tehlikeye atan bu Frankenstein olmaya devam edecek; ancak şimdi onu finanse edecek para kalmayacak.”
Sen.
Haugen şüpheciydi. “Şu anda yapılandırılmış olan Facebook’un aşı yanlış bilgisini durdurma yeteneğine sahip olduğuna inanmıyorum çünkü kendilerinin asla içeriğin yüzde 10 ila 20’sinden fazlasını alamayacağını söyledikleri yapay zeka sistemlerine aşırı derecede bağımlılar” dedi.
Sen. Ed Markey (D-MA) Kongre’nin çocukları Instagram gibi sitelerde kendilerini birbirleriyle karşılaştırmaya teşvik eden nicel geri bildirimleri yasaklayıp yasaklamayacağını sordu. Haugen, yorumlar gibi nitel metrikleri kaldırmadan, sadece Beğenileri veya diğer nicel ölçümleri kaldırmanın çok etkili olmadığını çünkü çocukların popülerliği ölçmek için yorumları kullanabildiklerini söyledi. “Genç kızlar zekidir,” dedi. Ancak çocukları hedef alan reklamların yasaklanmasını “güçlü bir şekilde teşvik etti”.
Duruşma, Haugen’in sansür ile güvenlik veya mahremiyet ile gözetim gibi konulardaki “yanlış seçimler” hakkında bazı sözleriyle sona erdi. “Bize bu yanlış seçimler hakkında soru sorulması, gerçek çözümler şirketlerin içinde gizlendiğinde ne olduğunun bir göstergesidir” dedi. “Teknolojilerin bilgisayar merkezli değil insan merkezli olması için halkın ihtiyaç duyduğu bilgilere sahip olduğundan emin olmak için SEC veya Kongre gibi meşru kanallar aracılığıyla öne çıkacak daha fazla teknoloji çalışanına ihtiyacımız var.”
.
