Microsoft sẽ không bán nhận dạng khuôn mặt để cảnh sát cho đến khi Quốc hội thông qua luật riêng tư mới

Microsoft đã theo dõi các đối thủ cạnh tranh Amazon và IBM trong việc hạn chế cách thức cung cấp công nghệ nhận dạng khuôn mặt cho các bên thứ ba, đặc biệt là các cơ quan thực thi pháp luật. Công ty nói rằng hiện tại họ không cung cấp công nghệ cho cảnh sát, nhưng hiện tại, họ nói rằng họ sẽ không làm như vậy cho đến khi có luật liên bang quy định làm thế nào nó có thể được triển khai một cách an toàn và không vi phạm quyền tự do dân sự.

IBM cho biết đầu tuần này nó sẽ hoàn toàn chấm dứt mọi hoạt động bán hàng, phát triển và nghiên cứu về công nghệ gây tranh cãi. Amazon vào thứ Tư cho biết họ sẽ ngừng cung cấp cho cảnh sát trong một năm để cho Quốc hội có thời gian đưa ra các quy định mạnh mẽ hơn để điều chỉnh việc sử dụng đạo đức của công nghệ nhận dạng khuôn mặt.

Chủ tịch Microsoft Brad Smith đã lặp lại một cách chặt chẽ nhất lập trường của Amazon, vào thứ năm để phác thảo cách tiếp cận mới của công ty đối với nhận dạng khuôn mặt: không loại trừ rằng một ngày nào đó họ sẽ bán công nghệ cho cảnh sát mà gọi cho quy định trước.

Vì kết quả của các nguyên tắc mà chúng tôi đã áp dụng, chúng tôi không bán công nghệ nhận dạng khuôn mặt cho các sở cảnh sát ở Hoa Kỳ ngày nay, Smith Smith kể lại Các bài viết washington. Tuy nhiên, tôi nghĩ rằng đây là một thời điểm thực sự kêu gọi chúng ta lắng nghe nhiều hơn, để tìm hiểu thêm và quan trọng nhất là phải làm nhiều hơn nữa. Do đó, chúng tôi đã quyết định rằng chúng tôi sẽ không bán nhận dạng khuôn mặt để sở cảnh sát tại Hoa Kỳ cho đến khi chúng tôi có một luật quốc gia ở vị trí đất trong nhân quyền mà sẽ chi phối công nghệ này “.

Smith cho biết Microsoft cũng sẽ “đưa ra một số yếu tố xem xét thêm để chúng tôi đang xem xét sử dụng tiềm năng khác của công nghệ mà đi thậm chí xa hơn những gì chúng ta đã có.” Điều đó dường như cho thấy Microsoft vẫn có thể cung cấp nhận dạng khuôn mặt cho các nhóm nhân quyền để chống lại nạn buôn người và các hành vi lạm dụng khác, như Amazon cho biết họ sẽ tiếp tục làm với nền tảng Rekognition của mình.

Giữa cuộc biểu tình đang diễn ra trên khắp nước Mỹ và trên thế giới chống lại phân biệt chủng tộc và cảnh sát tàn bạo và một cuộc trò chuyện quốc gia về bất công chủng tộc, ngành công nghiệp công nghệ cao được reckoning với vai trò riêng của mình trong việc cung cấp các cơ quan thực thi pháp luật với không được kiểm soát, công nghệ có khả năng phân biệt chủng tộc thiên vị.

Nghiên cứu có cho xem hệ thống nhận dạng khuôn mặt, do được đào tạo sử dụng các bộ dữ liệu gồm hầu hết là nam giới da trắng, gặp khó khăn đáng kể trong việc xác định những người da tối màu và thậm chí xác định giới tính của những người đó. Các nhà nghiên cứu trí tuệ nhân tạo, các nhà hoạt động và các nhà lập pháp có nhiều năm báo động về việc bán công nghệ cho cảnh sát, cảnh báo không chỉ chống lại sự thiên vị chủng tộc, mà cả vi phạm nhân quyền và quyền riêng tư vốn có trong một công nghệ có thể góp phần vào sự gia tăng của các quốc gia giám sát.

Trong khi Microsoft trước đây đã bán các sở cảnh sát truy cập vào công nghệ như vậy, công ty đã thực hiện một cách tiếp cận nguyên tắc hơn kể từ đó. Năm ngoái, Microsoft từ chối truy cập thực thi pháp luật California để công nghệ nhận dạng khuôn mặt của nó ra khỏi mối quan tâm đối với các vi phạm nhân quyền. Nó cũng thông báo rằng nó sẽ không còn đầu tư vào các công ty bên thứ ba phát triển công nghệ trở lại vào tháng 3, sau những cáo buộc rằng một công ty khởi nghiệp của Israel đã đầu tư vào Microsoft để cung cấp công nghệ cho chính phủ Israel vì đã theo dõi người Palestine. (Microsoft sau đó đã tuyên bố rằng cuộc điều tra nội bộ của họ đã phát hiện ra rằng công ty AnyVision, không có trước đây và hiện không cung cấp chương trình giám sát hàng loạt ở Bờ Tây, tuy nhiên họ đã thoái vốn khỏi công ty.)

Microsoft đã là người ủng hộ chính sách quy định của liên bang, trong đó sẽ ra lệnh sử dụng các hệ thống như vậy và những biện pháp bảo vệ nào sẽ được áp dụng để bảo vệ quyền riêng tư và bảo vệ chống phân biệt đối xử. Bản thân Smith đã từng bày tỏ công khai mối lo ngại về sự nguy hiểm của nhận dạng khuôn mặt không được kiểm soát kể từ ít nhất 2018. Nhưng công ty cũng đã bị bắt gặp vào năm ngoái khi cung cấp bộ dữ liệu nhận dạng khuôn mặt của hơn 10 triệu khuôn mặt, bao gồm cả hình ảnh của nhiều người những người không biết và không đồng ý với việc tham gia của họ trong tập dữ liệu. Công ty rút dữ liệu ngoại tuyến chỉ sau một Thời báo tài chính cuộc điều tra.

Theo Liberties Union Dân sự Mỹ (ACLU), Microsoft, gần đây nhất là năm nay, luật pháp được hỗ trợ tại California điều đó sẽ cho phép các sở cảnh sát và các công ty tư nhân mua và sử dụng các hệ thống như vậy. Đó là sau luật ở San Francisco, Oakland, California, thành phố khác cấm sử dụng công nghệ của cảnh sát và chính phủ năm ngoái. Hóa đơn, AB 2261, thất bại tuần trước, trong một chiến thắng cho ACLU và liên minh của 65 tổ chức đã cùng nhau chiến đấu với nó.

Matt Cagle, luật sư về quyền tự do dân sự và công nghệ của ACLU với chi nhánh ở Bắc California, đã đưa ra tuyên bố này vào thứ Năm liên quan đến quyết định của Microsoft:

Khi ngay cả các nhà sản xuất nhận dạng khuôn mặt từ chối bán công nghệ giám sát này vì nó rất nguy hiểm, các nhà lập pháp không còn có thể phủ nhận các mối đe dọa đối với quyền và tự do của chúng ta. Quốc hội và cơ quan lập pháp trên toàn quốc phải nhanh chóng ngăn chặn việc sử dụng luật pháp đối với việc nhận diện khuôn mặt và các công ty như Microsoft nên làm việc với cộng đồng dân quyền – chứ không phải chống lại điều đó – để biến điều đó thành hiện thực. Điều này bao gồm ngăn chặn các nỗ lực hiện nay của pháp luật trước rằng sẽ hợp pháp hóa và mở rộng việc sử dụng an nhận dạng khuôn mặt ở nhiều quốc gia trên toàn quốc.

Nó không nên đưa ra những vụ giết người cảnh sát của George Floyd, Breonna Taylor, và quá nhiều người dân đen khác, trăm ngàn người tham gia xuống đường, tàn bạo tấn công thực thi pháp luật chống lại người biểu tình và các nhà báo, và việc triển khai giám sát quân sự cấp thiết bị về các cuộc biểu tình do các nhà hoạt động xã hội đen lãnh đạo cho các công ty này để đánh thức thực tế hàng ngày của cảnh sát giám sát đối với các cộng đồng Đen và Nâu. Chúng tôi hoan nghênh các công ty này cuối cùng hành động – càng ít và muộn nhất là nó có thể được. Chúng tôi cũng kêu gọi các công ty này đến công việc để mãi mãi đóng cửa trên chương bẩn thỉu của Mỹ trên-lập chính sách của các cộng đồng Đen và Nâu, bao gồm các công nghệ giám sát mà không tương xứng làm hại họ.

Không có công ty ủng hộ hóa đơn nên được thực hiện nghiêm túc trừ khi cộng đồng bị ảnh hưởng nhiều nhất nói rằng đó là giải pháp phù hợp.