Microsoft đã phát hành một công cụ mới để xác định những kẻ săn mồi trẻ em, những người chăm sóc trẻ em bị lạm dụng trong các cuộc trò chuyện trực tuyến. Project Artemis, dựa trên một kỹ thuật mà Microsoft đã sử dụng trên Xbox, giờ đây sẽ được cung cấp cho các công ty trực tuyến khác có chức năng trò chuyện. Nó đến vào thời điểm mà nhiều nền tảng đang đối phó với những kẻ săn mồi trẻ em nhắm vào trẻ em bị lạm dụng tình dục bằng cách bắt chuyện trong các cửa sổ trò chuyện.
Artemis hoạt động bằng cách nhận ra các từ và mẫu lời nói cụ thể và gắn cờ các tin nhắn đáng ngờ để người điều hành xem xét. Người điều hành sau đó xác định xem có nên leo thang tình hình bằng cách liên hệ với cảnh sát hoặc các quan chức thực thi pháp luật khác. Nếu người điều hành tìm thấy yêu cầu khai thác tình dục trẻ em hoặc hình ảnh lạm dụng trẻ em, Trung tâm quốc gia về trẻ em mất tích và bị bóc lột sẽ được thông báo để có biện pháp xử lý tiếp theo.
Đôi khi chúng ta la hét vào các nền tảng – và có sự lạm dụng trên mọi nền tảng có trò chuyện trực tuyến – nhưng chúng ta nên hoan nghênh họ vì đã đưa ra các cơ chế, theo lời của ông Cord Cordua, CEO của tổ chức công nghệ phi lợi nhuận Thorn, hoạt động để ngăn chặn lạm dụng tình dục trực tuyến của trẻ em. Nếu ai đó nói, ‘oh chúng tôi không có sự lạm dụng thì tôi sẽ nói với họ,‘, bạn có đang tìm kiếm không?
Vào tháng Mười Hai, Thời báo New York thấy rằng nền tảng trò chuyện trực tuyến là cơ sở săn bắn màu mỡ người chải chuốt nạn nhân của họ bằng cách kết bạn với họ và sau đó tự ám chỉ mình vào một cuộc sống trẻ con, cả trực tuyến và tắt. Hầu hết các nền tảng chính đang đối phó với một số biện pháp lạm dụng của những kẻ săn mồi trẻ em, bao gồm cả Microsoft Live Xbox Live. Năm 2017, với tư cách là Thời đại lưu ý, một người đàn ông là bị kết án 15 năm tù vì đã đe dọa trẻ em bị hãm hiếp và giết người qua trò chuyện Xbox Live.
Phát hiện lạm dụng tình dục trẻ em trực tuyến và các chính sách để xử lý nó có thể rất khác nhau giữa các công ty, với nhiều công ty liên quan đến các vi phạm quyền riêng tư tiềm ẩn, các Thời đại báo cáo. Năm 2018, Facebook đã công bố một hệ thống để bắt những kẻ săn mồi xem xét liệu có ai đó nhanh chóng liên lạc với nhiều trẻ em và tần suất chúng bị chặn. Nhưng Facebook cũng có quyền truy cập vào nhiều dữ liệu hơn về người dùng của mình so với các nền tảng khác.
Theo Thorn, công cụ Microsoft rất quan trọng, bởi vì nó có sẵn cho bất kỳ công ty nào sử dụng trò chuyện và giúp thiết lập một tiêu chuẩn công nghiệp cho việc phát hiện và giám sát các động vật ăn thịt sẽ như thế nào, giúp phát triển các công cụ phòng ngừa trong tương lai. Trò chuyện rất khó theo dõi tình trạng lạm dụng trẻ em tiềm năng vì có thể có quá nhiều sắc thái trong một cuộc trò chuyện, Cordua nói.
Những kẻ săn mồi trẻ em có thể ẩn nấp trong các phòng chat trực tuyến để tìm nạn nhân giống như họ ngoại tuyến, nhưng với quyền truy cập ngay lập tức hơn nhiều, Elizabeth Jeglic, giáo sư tâm lý học tại Đại học Tư pháp hình sự John Jay ở New York, người đã nói viết rộng rãi về bảo vệ trẻ em khỏi lạm dụng tình dục trực tuyến, đặc biệt, thực hành chải chuốt thường tinh tế. Trong vòng 30 phút, họ có thể nói chuyện tình dục với một đứa trẻ, cô nói. Người trực tiếp gặp khó khăn hơn khi tiếp cận với một đứa trẻ, nhưng trực tuyến một kẻ săn mồi có thể đi vào, kiểm tra vùng nước và nếu nó không hoạt động, hãy tiếp tục và chuyển sang nạn nhân tiếp theo.
Nó không dừng lại với một nền tảng, Cordua cho biết thêm. Họ đã cố gắng cách ly đứa trẻ và sẽ theo dõi chúng trên nhiều nền tảng, vì vậy chúng có thể có nhiều điểm khai thác, cô nói. Một kẻ săn mồi có thể yêu cầu một đứa trẻ cho một bức ảnh, sau đó đáp ứng nhu cầu về video, làm tăng mức độ của nội dung tình dục. Một đứa trẻ cảm thấy tội lỗi và sợ hãi, và đây là lý do tại sao kẻ săn mồi đi ngang qua các nền tảng: nó có thể nói ‘oh tôi biết tất cả bạn bè của bạn trên Facebook, nếu bạn không gửi cho tôi một video tôi sẽ gửi bức ảnh đầu tiên đó cho mọi người ở trường trung học cơ sở của bạn. ‘
Artemis đã phát triển được hơn 14 tháng, Microsoft cho biết, bắt đầu vào tháng 11 năm 2018 tại Cuộc thi Hackathon đa ngành của Microsoft 360 360, trực tiếp được hai nhóm bảo vệ trẻ em đồng tài trợ, Liên minh toàn cầu WePROTECT và Liên minh nhân phẩm trẻ em. Một nhóm bao gồm Roblox, Kik, Thorn và Nhóm Gặp gỡ đã làm việc với Microsoft trong dự án. Nó được lãnh đạo bởi Hany Farid, người đã phát triển Công cụ PhotoDNA để phát hiện và báo cáo hình ảnh khai thác tình dục trẻ em trực tuyến.
Tuy nhiên, một số chi tiết về cách thức hoạt động của công cụ Artemis trong thực tế là không rõ ràng và có khả năng thay đổi tùy thuộc vào nền tảng nào đang sử dụng nó. Nó không nói rõ liệu Artemis có làm việc với các chương trình trò chuyện sử dụng mã hóa đầu cuối hay không, hoặc sẽ thực hiện các bước nào để ngăn chặn tiềm năng PTSD trong số những người điều hành.
Thorn sẽ điều hành chương trình và xử lý cấp phép và hỗ trợ để đưa các công ty tham gia lên tàu, Microsoft nói.
Cordua nói trong khi Artemis có một số hạn chế ban đầu – hiện tại nó chỉ hoạt động bằng tiếng Anh – công cụ này là một bước tiến lớn theo đúng hướng. Vì mỗi công ty sử dụng công cụ này có thể tùy chỉnh nó cho đối tượng của riêng mình (các cuộc trò chuyện trên nền tảng chơi game rõ ràng sẽ khác với các công cụ trên ứng dụng xã hội), sẽ có nhiều cơ hội để điều chỉnh và tinh chỉnh cách thức hoạt động của công cụ. Và, cô ấy nói, nó về các nền tảng thời gian tránh xa các thực hành thất bại trong việc tự trị an và hướng tới sự chủ động trong việc ngăn chặn và lạm dụng trẻ em.
Trong bài đăng trên blog của mình, Microsoft cho biết thêm, công cụ Artemis không phải là thuốc chữa bách bệnh mà là bước đầu tiên để phát hiện ra sự chải chuốt trẻ em trực tuyến của những kẻ săn mồi tình dục.
Bước đầu tiên là chúng ta cần phải xác định rõ hơn về việc này đang diễn ra ở đâu, thì Cord Cordua nói. Tuy nhiên, tất cả các công ty lưu trữ bất kỳ cuộc trò chuyện hoặc video nào đều phải thực hiện việc này hoặc họ đồng lõa trong việc cho phép lạm dụng trẻ em trên nền tảng của họ.
