Phần mềm dự thi của ExamSoft có vấn đề về nhận diện khuôn mặt

Gabe Teninbaum, một giáo sư tại Trường Luật Đại học Suffolk, đang kêu gọi ExamSoft sửa một lỗi nghiêm trọng với phần mềm làm bài thi của mình: không nhận dạng được khuôn mặt. Đó là một vấn đề có thể khiến người dự thi bị trì hoãn – hoặc cấm họ bắt đầu hoàn toàn kỳ thi – và theo báo cáo, nó tác động không cân đối đến những người có tông màu da sẫm.

Phần mềm của ExamSoft ghi lại học sinh trong khi họ hoàn thành các bài kiểm tra từ xa và theo dõi các dấu hiệu không trung thực trong học tập. Báo cáo của Teninbaum giải quyết một tính năng ExamSoft được gọi là ExamID, nhằm mục đích xác minh rằng người dự thi có đúng như họ nói hay không. Lần đầu tiên một sinh viên đăng nhập vào cổng thông tin bài kiểm tra của họ, họ tải lên một bức ảnh của chính họ (“hình ảnh cơ bản” của họ); Sau đó, họ được nhắc chụp một bức ảnh tự sướng khác trước khi bắt đầu các bài kiểm tra trong tương lai, phần mềm này sẽ kiểm tra ảnh gốc của họ.

Nghiên cứu đã tìm thấy rằng các thuật toán nhận dạng khuôn mặt luôn gây ra nhiều lỗi trong việc xác định khuôn mặt Da đen hơn so với các thuật toán nhận dạng khuôn mặt. Và trong khi những nghiên cứu đó không tập trung vào ExamSoft cụ thể, nó dường như không phải là một ngoại lệ. Trở lại vào tháng 9, nhiều thí sinh không phải là người da trắng đã nói với Thời báo New York rằng phần mềm không thể xác định chúng do “ánh sáng kém” – một vấn đề mà Teninbaum, người có làn da sáng, không thể tái tạo.

Đầu mùa thu này, Teninbaum bắt đầu tìm cách sửa chữa. Anh ấy tin rằng những sai sót như vậy gây thêm căng thẳng quá mức cho một khoảng thời gian vốn đã căng thẳng. “Đây là những sinh viên chuẩn bị tham gia một kỳ thi đòi hỏi sự cố gắng cao với rất nhiều điều trên mạng và điều đó rất không được hoan nghênh,” Teninbaum nói trong một cuộc phỏng vấn với The Verge.

“Bất cứ lúc nào bạn bước vào một kỳ thi, bạn chỉ muốn tập trung vào kỳ thi,” anh nói thêm. “Bạn không muốn cảm thấy như bạn có thêm những thách thức này.”

Teninbaum cũng tin rằng quang học quan trọng; các trường học nợ những sinh viên yếu thế khi không dựa vào một loại phần mềm được cho là phân biệt đối xử. Ông nói: “Sinh viên xứng đáng cảm thấy rằng cơ sở giáo dục của họ đang làm những gì có thể để bảo vệ quyền, lợi ích và phẩm giá của họ.

Trong của anh ấy báo cáo, sắp ra mắt trong Tạp chí Người máy, Trí tuệ nhân tạo và Luật, Teninbaum vạch ra cách giải quyết mà anh ấy đã tìm thấy.

Ông gợi ý rằng các trường học nên gán cho mỗi học sinh một hình ảnh đường cơ sở, chung chung giống hệt nhau. Sau đó, ông đề xuất, họ nên yêu cầu ExamSoft kích hoạt “nhận dạng hoãn lại”, một tính năng được tích hợp trong phần mềm cho phép sinh viên tiếp tục làm bài kiểm tra ngay cả khi nhận dạng không thành công. Tính năng này về cơ bản bị ẩn – nó không được đề cập ở bất kỳ đâu trên trang web của ExamSoft (ít nhất, không phải tôi có thể tìm thấy). Chỉ ExamSoft mới có thể bật nó lên.

Song song với nhau, những chỉnh sửa này sẽ khiến ExamSoft nhận dạng sai mọi người dự thi. Nhưng họ vẫn có thể tiếp tục các bài kiểm tra của mình – ExamSoft sẽ gửi ảnh tự chụp đến trường sau đó và giáo viên hướng dẫn có thể xác minh thủ công mọi người. “Chúng tôi biết học sinh của mình là ai,” Teninbaum nói. “Chúng tôi có thể đảm bảo học sinh đúng như những gì họ nói và tránh để học sinh phải đối mặt với những loại thử thách này.”

Ông cũng gợi ý rằng ExamSoft làm cho tính năng “nhận dạng trả chậm” có thể truy cập được cho khách hàng. “Người báo cáo kêu gọi ExamSoft xây dựng tính năng này thành một tính năng mà qua đó các tổ chức có thể chỉ cần bật / tắt, do đó bỏ qua ExamID cho đến khi công nghệ này phát triển thành một công nghệ không phân biệt đối xử,” báo cáo của anh ấy viết.

Teninbaum hy vọng những thay đổi đó sẽ kéo dài sau đại dịch COVID-19 và có thể giúp học sinh cảm thấy thoải mái hơn khi tham gia các lớp học từ xa. Ông nói: “Đây sẽ là một vấn đề ngày càng gia tăng khi mọi người ngày càng có nhiều mạng hơn để học tập.

Mặc dù vậy, anh ấy chỉ khắc phục một phần của vấn đề. Học sinh đã trải qua một phạm vi nấc cụt với phần mềm tiến sĩ của ExamSoft. Trên 3.000 những người đã sử dụng nền tảng này để tham gia kỳ thi thanh của California vào tháng 10 đã bị gắn cờ video của họ vì có khả năng vi phạm quy tắc – gần 36% người đăng ký đã tham gia kỳ thi trực tuyến. Người dùng đã báo cáo sự cố âm thanh và các trục trặc kỹ thuật khác.

Một nhóm sáu thượng nghị sĩ Hoa Kỳ – bao gồm Richard Blumenthal, Elizabeth Warren và Corey Booker – đã viết một bức thư ngỏ cho ExamSoft vào tháng 12, nêu bật những tác hại có thể xảy ra đối với học sinh da màu và học sinh khuyết tật, trong số nhiều mối quan tâm khác.

ExamSoft đã không trả lời ngay lập tức yêu cầu bình luận.