Trong hơn một năm, nhà nghiên cứu Daniel Kelley của Liên đoàn Chống phỉ báng đã tìm ra những sáng tạo lại của một vụ xả súng hàng loạt kinh hoàng trên Roblox – và mỗi khi anh ấy nhìn, anh ấy nói rằng anh ấy tìm được nhiều thứ hơn. Kelley nói The Verge nó đã xảy ra ba lần: lần đầu tiên vào tháng 1 năm 2020, sau đó một lần nữa vào tháng 5 năm 2021. Sự cố gần đây nhất xảy ra vào ngày 13 tháng 8, khi anh ấy đang chuẩn bị một bài thuyết trình về cách báo cáo nội dung vi phạm.
“Tôi muốn một lần,” Kelley nói trên Twitter sau sự cố cuối cùng, “để tìm kiếm ‘Christchurch’ trên Roblox và không tìm thấy một trò chơi mới nào về bắn súng ở nhà thờ Hồi giáo Christchurch năm 2019 trên nền tảng trò chơi nhắm đến trẻ em rất nhỏ. “
Vụ xả súng ở nhà thờ Hồi giáo khiến hơn 50 người thiệt mạng, đã bị lên án là một trong những hành động bạo lực nhất vì thù hận tôn giáo được thực hiện trong những năm gần đây. Sau vụ nổ súng, Thủ tướng Jacinda Ardern đã gọi nó “Một trong những ngày đen tối nhất của New Zealand.”
The Verge xác nhận phát hiện của Kelley, xác định vị trí hai Roblox trải nghiệm tập trung vào việc chụp ảnh thông qua một tìm kiếm văn bản đơn giản cho “Christchurch”. Cả hai phòng đều có hơn hai trăm lượt truy cập.
Roblox chủ động theo dõi nội dung khủng bố, nhưng các kịch bản do Kelley gắn cờ dường như đã bị trượt. Tiếp cận để nhận xét, Roblox nhấn mạnh rằng nền tảng này đang tích cực kiểm duyệt chống lại việc tái tạo các vụ xả súng hàng loạt.
“Chúng tôi đã nhanh chóng xóa trải nghiệm này khỏi Roblox sau khi nó được chúng tôi chú ý đến và đình chỉ người dùng có trách nhiệm vi phạm Quy tắc cộng đồng của chúng tôi, ”đại diện công ty cho biết trong một tuyên bố. “Chúng tôi không dung thứ cho sự phân biệt chủng tộc, lời nói phân biệt đối xử hoặc nội dung liên quan đến các sự kiện bi thảm. Chúng tôi có một hệ thống giám sát và an toàn nghiêm ngặt liên tục hoạt động và chúng tôi thực thi nghiêm túc và chủ động. ”
Công ty cho biết các tham chiếu đến vụ bắn súng ở Christchurch đặc biệt khó bị chặn thông qua các tìm kiếm văn bản tự động, công ty cho biết, vì bộ lọc catchall cũng sẽ chặn các tham chiếu đến thành phố. “Trong trường hợp này, việc phát hiện chủ động của chúng tôi bao gồm việc xem xét của con người để cân bằng việc cho phép các tham chiếu đến vị trí địa lý (thành phố lớn nhất của New Zealand) nhưng không sử dụng vi phạm chính sách của chúng tôi,” người đại diện tiếp tục.
Một phần của vấn đề bắt nguồn từ Robloxkích thước tuyệt đối – kết quả của sự phát triển nhanh chóng và chưa từng có. Tro choi hiện tự hào có hơn 40 triệu người dùng hàng ngày, dẫn đến lượng phòng do người dùng tạo quá lớn nên không thể quét theo cách thủ công. Cấu trúc phân tán của trò chơi, dựa vào việc người dùng tạo ra các kịch bản và không gian của riêng họ, khiến việc theo dõi trở nên đặc biệt khó khăn.
Roblox đệ trình lên công khai vào tháng 11, yêu cầu bồi thường trong một hồ sơ rằng trò chơi đã được chơi bởi hơn một nửa số trẻ em dưới 16 tuổi ở Mỹ. Công ty hiện được định giá khoảng 45 tỷ USD.
Cùng một hồ sơ IPO đặc biệt gọi các vấn đề kiểm duyệt của cộng đồng như một rủi ro tiềm ẩn đối với doanh nghiệp. “Sự thành công của mô hình kinh doanh của chúng tôi phụ thuộc vào khả năng của chúng tôi trong việc cung cấp một môi trường trực tuyến an toàn cho trẻ em trải nghiệm”, hồ sơ viết. “Nếu chúng tôi không thể tiếp tục cung cấp một môi trường an toàn, hoạt động kinh doanh của chúng tôi sẽ bị ảnh hưởng nghiêm trọng.”
Là một nhà nghiên cứu chủ nghĩa cực đoan, Kelley ít lo lắng hơn về sức khỏe của Robloxcủa doanh nghiệp, và lo lắng hơn rằng nền tảng này có thể trở thành vật trung gian cho quá trình cực đoan hóa.
“Mỗi trận đấu trên Roblox là một nền tảng xã hội tiềm năng và có khả năng là nơi ẩn náu cho những người chơi ở mọi lứa tuổi đang tán tỉnh hoặc tham gia đầy đủ vào các hệ tư tưởng thù hận trực tuyến, ”Kelley nói. “Mọi không gian cho phép tôn vinh các hệ tư tưởng thù hận … đều góp phần vào việc bình thường hóa các hệ tư tưởng này và sự lan truyền của chúng.”
Adi Robertson đã đóng góp báo cáo cho bài báo này.
.
