Vào tháng 5, tôi đã viết ở đây rằng vấn đề an toàn cho trẻ em trên các nền tảng công nghệ còn tồi tệ hơn chúng ta đã biết. MỘT học tập xáo trộn từ tổ chức phi lợi nhuận Thorn phát hiện ra rằng phần lớn trẻ em Mỹ đã sử dụng ứng dụng nhiều năm trước khi chúng được cho là – và hoàn toàn một phần tư trong số chúng cho biết chúng đã có những tương tác tình dục rõ ràng với người lớn. Điều đó thúc đẩy các nền tảng thực hiện công việc tốt hơn trong cả việc xác định người dùng trẻ em của dịch vụ của họ và bảo vệ họ khỏi sự lạm dụng mà họ có thể tìm thấy ở đó.
Instagram hiện đã tạo ra một số những bước đi đầy hứa hẹn theo hướng đó. Hôm qua, công ty nói rằng nó sẽ:
- Đặt tài khoản ở chế độ riêng tư theo mặc định cho trẻ em từ 16 tuổi trở xuống
- Ẩn tài khoản của thanh thiếu niên khỏi những người lớn có hành vi đáng ngờ, chẳng hạn như bị những đứa trẻ khác chặn liên tục
- Ngăn các nhà quảng cáo nhắm mục tiêu đến trẻ em bằng các quảng cáo dựa trên sở thích. (Có bằng chứng cho thấy tất cả các quảng cáo về hút thuốc, giảm cân và cờ bạc đều được hiển thị cho thanh thiếu niên)
- Phát triển các công cụ AI để ngăn người dùng chưa đủ tuổi đăng ký, xóa các tài khoản hiện có của trẻ em dưới 13 tuổi và tạo các phương pháp xác minh độ tuổi mới
Công ty cũng nhắc lại kế hoạch xây dựng phiên bản Instagram dành cho trẻ em, điều này đã thu hút sự lên án từ… có nhiều người.
Rõ ràng, một số điều này rơi vào tình trạng “khoan đã, họ đã không làm điều đó rồi à?” lãnh thổ. Và bàn tay của Instagram được cho là đã bị ép buộc bởi sự giám sát ngày càng nhiều về cách trẻ em bị bắt nạt trên ứng dụng, đặc biệt là ở Vương quốc Anh. Nhưng như báo cáo của Thorn cho thấy, hầu hết các nền tảng đã thực hiện rất ít việc xác định hoặc xóa người dùng chưa đủ tuổi – đó là công việc khó khăn về mặt kỹ thuật và bạn có cảm giác rằng một số nền tảng có vẻ như tốt hơn là họ không nên biết.
Vì vậy, chúc mừng Instagram vì đã nghiêm túc thực hiện thách thức và xây dựng hệ thống để giải quyết nó. Đây là Olivia Solon tại NBC News nói chuyện với người đứng đầu chính sách công của Instagram, Karina Newton (không liên quan), về những gì công ty đang xây dựng:
Newton nói: “Tìm hiểu tuổi của mọi người trên internet là một thách thức phức tạp. “Thu thập giấy tờ tùy thân không phải là câu trả lời cho vấn đề vì đây không phải là giải pháp công bằng, bình đẳng. Quyền truy cập phụ thuộc rất nhiều vào nơi bạn sống và bạn bao nhiêu tuổi. Và mọi người không nhất thiết muốn cung cấp ID của họ cho các dịch vụ internet ”.
Newton cho biết Instagram đang sử dụng trí thông minh nhân tạo để hiểu rõ hơn về độ tuổi bằng cách tìm kiếm các tín hiệu dựa trên văn bản, chẳng hạn như nhận xét về sinh nhật của người dùng. Cô nói, công nghệ này không cố gắng xác định tuổi bằng cách phân tích khuôn mặt của mọi người trong ảnh.
Đồng thời, các phóng viên vẫn dễ dàng xác định các vấn đề an toàn trên nền tảng này chỉ bằng một số thao tác tìm kiếm đơn giản. Đây là Jeff Horwitz hôm nay trong Tạp chí Phố Wall:
Đánh giá cuối tuần bởi Tạp chí Phố Wall hệ thống đề xuất và thực thi dựa trên AI hiện tại của Instagram đã nêu bật những thách thức mà phương pháp tiếp cận tự động của nó phải đối mặt. Được nhắc với thẻ bắt đầu bằng # #preteen, Instagram đã đề xuất các bài đăng được gắn thẻ #preteenmodel và #preteenfeet, cả hai đều có các nhận xét đồ họa đôi khi là những người có vẻ ngoài là nam giới trưởng thành trên các bức ảnh có các cô gái trẻ.
“Được nhắc với thẻ bắt đầu bằng # #pretuổi teen, Instagram đã đề xuất các bài đăng được gắn thẻ #prengười mẫu tuổi teen và #preteenfeet, cả hai đều đưa ra các bình luận đồ họa đôi khi từ những người có vẻ là nam giới trưởng thành trên các bức ảnh có các cô gái trẻ. “https://t.co/HRclDZnNBp
– Jeff Horwitz (@JeffHorwitz) Ngày 27 tháng 7 năm 2021
Instagram đã xóa cả hai thẻ bắt đầu bằng # sau khỏi tính năng tìm kiếm của mình sau các truy vấn từ Tạp chí và cho biết các nhận xét không phù hợp cho thấy lý do tại sao họ bắt đầu tìm cách chặn các tài khoản người lớn đáng ngờ tương tác với trẻ vị thành niên.
Bỏ qua các thẻ bắt đầu bằng # có vấn đề, điều quan trọng nhất mà Instagram đang làm vì sự an toàn của trẻ em là ngừng giả vờ rằng trẻ em không sử dụng dịch vụ của họ. Tại quá nhiều dịch vụ, chế độ xem đó vẫn là mặc định – và nó đã tạo ra các điểm mù mà cả trẻ em và động vật ăn thịt đều có thể dễ dàng điều hướng. Instagram hiện đã xác định một số trong số này và cam kết công khai loại bỏ chúng. Tôi muốn thấy các nền tảng khác làm theo ở đây – và nếu không, họ nên chuẩn bị để giải thích tại sao.
Tất nhiên, tôi cũng muốn thấy Instagram làm được nhiều hơn thế. Nếu bước đầu tiên các nền tảng thừa nhận rằng họ có người dùng chưa đủ tuổi, thì bước thứ hai là xây dựng các biện pháp bảo vệ bổ sung cho họ – những biện pháp bảo vệ vượt ra ngoài sự an toàn về thể chất và cảm xúc của họ. Ví dụ, các nghiên cứu đã chỉ ra rằng thanh thiếu niên đáng tin hơn và có khả năng tin những câu chuyện sai sự thật hơn người lớn, và họ có thể có nhiều khả năng phát tán thông tin sai lệch hơn. (Điều này có thể giải thích tại sao TikTok đã trở thành một ngôi nhà phổ biến cho thuyết âm mưu.)
Giả sử như vậy, một nền tảng thực sự an toàn cho những người trẻ tuổi cũng sẽ đầu tư vào sự lành mạnh của môi trường thông tin của nó. Như một phần thưởng, một môi trường thông tin lành mạnh sẽ tốt hơn cho người lớn và nền dân chủ của chúng ta.
“Khi bạn xây dựng cho liên kết yếu nhất hoặc bạn xây dựng cho người dễ bị tổn thương nhất, bạn sẽ cải thiện những gì bạn đang xây dựng cho từng người”, Julie Cordua, Giám đốc điều hành của Thorn, nói với tôi vào tháng 5. Bằng cách thừa nhận thực tế – và xây dựng liên kết yếu nhất – Instagram đang làm gương tốt cho các đồng nghiệp của mình.
Đây là hy vọng họ làm theo – và tiến xa hơn.
Chuyên mục này đã được đồng xuất bản với Người khai thác, bản tin hàng ngày về Công nghệ lớn và nền dân chủ.
.
