Bir yılı aşkın bir süredir, Hakaretle Mücadele Birliği araştırmacısı Daniel Kelley, Roblox’ta korkunç bir toplu çekimin yeniden yaratımlarını buluyor ve her baktığında daha fazlasını bulduğunu söylüyor. Kelley, The Verge’e bunun üç kez olduğunu söyledi: önce Ocak 2020’de, ardından tekrar Mayıs 2021’de. En son olay, rahatsız edici içeriğin nasıl bildirileceğine ilişkin bir sunum hazırlarken 13 Ağustos’ta gerçekleşti.
“ Kelley, son olaydan sonra Twitter’da bir kez, “Roblox’ta ‘Christchurch’ aramak ve çok küçük çocuklara yönelik bir oyun platformunda 2019 Christchurch cami çekimlerinin yeni bir rekreasyonunu bulmamak istiyorum.”
50’den fazla kişinin ölümüne neden olan cami saldırısı, son yıllarda gerçekleştirilen en şiddetli dini nefret eylemlerinden biri olarak kınandı. Saldırının ardından Başbakan Jacinda Ardern, olayı “Yeni Zelanda’nın en karanlık günlerinden biri” olarak nitelendirdi.
“‘Roblox’taki her oyun, başlı başına potansiyel bir sosyal platformdur”
The Verge doğruladı Kelley’nin bulgusu, “Christchurch” için basit bir metin araması yoluyla çekime odaklanan iki farklı Roblox deneyiminin yerini tespit etti. Her iki oda da iki yüzden fazla ziyaret kaydetti.
Roblox proaktif olarak terörist içeriği izler, ancak Kelley tarafından işaretlenen senaryolar gözden kaçmış gibi görünüyor. Yorum için ulaşılan Roblox, platformun kitlesel çekimlerin yeniden yaratılmasına karşı agresif bir şekilde moderatörlük yaptığı konusunda ısrar etti.
“Bu deneyimi, dikkatimize sunulduktan hemen sonra Roblox’tan kaldırdık ve ihlal etmekten sorumlu kullanıcıyı askıya aldık. Topluluk Kuralları, ”dedi bir şirket temsilcisi bir açıklamada. “Irkçılığa, ayrımcı konuşmaya veya trajik olaylarla ilgili içeriğe müsamaha göstermeyiz. Sürekli aktif olan ve titizlikle ve proaktif bir şekilde uyguladığımız sıkı bir güvenlik ve izleme sistemimiz var.”
Şirket, genel bir durum olduğundan, Christchurch saldırısına ilişkin referansların otomatik metin aramaları yoluyla engellenmesinin özellikle zor olduğunu söyledi. filtre ayrıca şehre yapılan referansları da engeller. Temsilci, “Bu durumda proaktif tespitimiz, coğrafi konuma (Yeni Zelanda’nın en büyük şehri) atıfta bulunulmasına izin veren ancak politikalarımızı ihlal eden kullanımları dengelemek için insan incelemesini içeriyor,” diye devam etti temsilci.
Sorunun bir kısmı şundan kaynaklanıyor: Roblox’un büyüklüğü – hızlı ve benzeri görülmemiş büyümenin sonucu. Oyun şu anda günlük 40 milyondan fazla kullanıcıya sahip ve bu da manuel olarak taranamayacak kadar büyük, kullanıcı tarafından oluşturulan odaların taşmasına neden oluyor. Kullanıcıların kendi senaryolarını ve alanlarını oluşturmalarına dayanan oyunun dağıtık yapısı, izlemeyi özellikle zorlaştırıyor.
Roblox, oyunun oynandığını iddia eden bir dosyada Kasım ayında halka arz başvurusunda bulundu. ABD’de 16 yaşın altındaki çocukların yarısından fazlası. Şirket şu anda yaklaşık 45 milyar dolar değerinde.
Aynı halka arz dosyası, topluluk moderasyonu sorunlarını iş için potansiyel bir risk olarak özellikle belirtiyor. Dosyada, “İş modelimizin başarısı, çocukların deneyimlemesi için güvenli bir çevrimiçi ortam sağlama yeteneğimize bağlıdır” deniyor. “Güvenli bir ortam sağlamaya devam edemezsek, işimiz ciddi şekilde zarar görecek.”
Bir aşırılık araştırmacısı olarak Kelley, Roblox’un işinin sağlığı konusunda daha az endişeli ve platformun bundan daha fazla endişesi var. radikalleşme için bir vektör olabilir.
“Roblox’taki her oyun potansiyel olarak kendi içinde bir sosyal platformdur ve potansiyel olarak nefret dolu ideolojilerle flört eden veya tamamen meşgul olan her yaştan oyuncuya sığınma sağlayabilir çevrimiçi, ”diyor Kelley. “Nefret dolu ideolojilere saygı gösterilmesine izin veren her alan … bu ideolojilerin normalleşmesine ve yayılmasına katkıda bulunur.”
Adi Robertson bu makaleye haber vererek katkıda bulundu.
