Twitter đang tìm hiểu lý do tại sao bản xem trước ảnh của nó có vẻ ưu tiên khuôn mặt trắng hơn khuôn mặt da đen

Twitter đang tìm hiểu lý do tại sao mạng thần kinh mà nó sử dụng để tạo bản xem trước ảnh dường như chọn hiển thị khuôn mặt của người da trắng thường xuyên hơn khuôn mặt của người da đen.

Một số người dùng Twitter đã chứng minh vấn đề này vào cuối tuần, đăng ví dụ về các bài đăng có khuôn mặt của người Da đen và khuôn mặt của người da trắng. Bản xem trước của Twitter cho thấy khuôn mặt người da trắng thường xuyên hơn.

Thử nghiệm không chính thức bắt đầu sau khi một người dùng Twitter cố gắng đăng về một vấn đề mà anh ta nhận thấy trong tính năng nhận dạng khuôn mặt của Zoom, đó là không hiển thị khuôn mặt của đồng nghiệp Da đen trong các cuộc gọi. Khi đăng lên Twitter, anh ấy nhận thấy rằng khuôn mặt trắng của anh ấy cũng đang ưu ái hơn khuôn mặt của đồng nghiệp Da đen.

Người dùng phát hiện ra rằng thuật toán xem trước cũng chọn các nhân vật hoạt hình không phải Da đen.

Khi nào Twitter lần đầu tiên bắt đầu sử dụng mạng nơ-ron để tự động cắt ảnh xem trước, các nhà nghiên cứu máy học giải thích trong một bài đăng trên blog cách họ bắt đầu với tính năng nhận dạng khuôn mặt để cắt hình ảnh, nhưng lại thấy thiếu, chủ yếu là do không phải tất cả các hình ảnh đều có khuôn mặt:

Trước đây, chúng tôi sử dụng tính năng nhận diện khuôn mặt để tập trung chế độ xem vào khuôn mặt nổi bật nhất mà chúng tôi có thể tìm thấy. Mặc dù đây không phải là một phương pháp phỏng đoán phi lý, nhưng phương pháp này có những hạn chế rõ ràng vì không phải tất cả các hình ảnh đều chứa các khuôn mặt. Ngoài ra, máy dò khuôn mặt của chúng tôi thường bỏ sót khuôn mặt và đôi khi phát hiện nhầm khuôn mặt khi không có khuôn mặt nào. Nếu không tìm thấy khuôn mặt nào, chúng tôi sẽ tập trung chế độ xem vào trung tâm của hình ảnh. Điều này có thể dẫn đến hình ảnh xem trước bị cắt xén một cách vụng về.

Giám đốc thiết kế Twitter Dantley Davis đã tweet rằng công ty đang điều tra mạng lưới thần kinh, khi ông tiến hành một số thí nghiệm phi khoa học với các hình ảnh:

Liz Kelley của nhóm truyền thông Twitter đã tweet hôm Chủ nhật rằng công ty đã kiểm tra sự thiên vị nhưng không tìm thấy bằng chứng về sự thành kiến ​​về chủng tộc hoặc giới tính trong thử nghiệm của mình. “Rõ ràng là chúng tôi còn phải phân tích nhiều hơn nữa,” Kelley đã tweet. “Chúng tôi sẽ mở nguồn công việc của mình để những người khác có thể đánh giá và nhân rộng.”

Giám đốc công nghệ của Twitter, ông Parag Agrawal đã tweet rằng mô hình này cần “cải tiến liên tục”, nói thêm rằng ông “háo hức học hỏi” từ các thử nghiệm.