web analytics

Amazon cấm cảnh sát sử dụng nền tảng nhận diện khuôn mặt 11/06/2020

(KDTT) – Gã “khổng lồ” thương mại điện tử Amazon đã công bố lệnh cấm  với thời hạn một năm về việc cho phép cảnh sát sử dụng nền tảng nhận dạng khuôn mặt Rekognition đã từng gây nhiều tranh cãi trước đó.

Việc này xuất hiện chỉ hai ngày sau khi IBM (Tập đoàn Công nghệ máy tính đa quốc gia) cho biết họ sẽ không còn cung cấp, phát triển hoặc nghiên cứu công nghệ nhận dạng khuôn mặt nữa.

“Chúng tôi đang thực hiện lệnh cấm một năm về việc để cảnh sát sử dụng công nghệ nhận dạng khuôn mặt của Amazon”, Amazon cho biết. Hãng cũng hy vọng lệnh cấm một năm này có thể cho Quốc hội Mỹ đủ thời gian để thực hiện các quy tắc phù hợp và sẵn sàng giúp đỡ nếu được yêu cầu.

Amazon ra lệnh cấm cảnh sát sử dụng công nghệ nhận dạng khuôn mặt trong một năm. (Ảnh: Internet)

Joy Buolamwini – nhà nghiên cứu tại MIT Media Lab, và Timnit Gebru – thành viên của Microsoft Research đã phát hiện ra lỗ hổng trong công nghệ nhận diện khuôn mặt của Amazon. Buolamwini và Gebru là đồng tác giả của một bài báo nhờ đã tìm thấy tỷ lệ lỗi cho hệ thống nhận dạng khuôn mặt từ các công ty công nghệ lớn là IBM và Microsoft. Họ đã xác định được những cá nhân có làn da sẫm màu có tỷ lệ lỗi cao hơn hàng chục điểm phần trăm so với khi xác định các cá nhân có làn da trắng. Theo báo cáo từ The New York Times, vấn đề này một phần nằm ở các bộ dữ liệu được dùng để quản trị hệ thống.

Trong một nghiên cứu riêng năm 2019, Buolamwini và đồng tác giả Deborah Raji đã phân tích công nghệ Rekognition và thấy rằng hệ thống của Amazon cũng có những vấn đề nghiêm trọng tương tự trong việc xác định giới tính của những người da màu, cũng như nhầm lẫn phụ nữ da màu đối với nam giới. Đáng nói là hệ thống đã làm việc với tỷ lệ lỗi gần như bằng 0 khi phân tích hình ảnh của những người có làn da sáng hơn.

Amazon đã cố gắng che giấu những lỗi này, nhưng Buolamwini đã đăng một phản hồi dài và chi tiết cho Medium, theo đó: “Cách tiếp cận của Amazon cho đến nay vẫn là từ chối, làm chệch hướng và trì hoãn. Chúng tôi không thể tin vào việc Amazon sẽ tự cung cấp những công nghệ chưa được kiểm soát hay chưa được kiểm chứng cho cảnh sát hoặc các cơ quan chính phủ.” Phát hiện của cô và Raji sau đó được hỗ trợ bởi một nhóm gồm hàng chục nhà nghiên cứu AI, họ đã viết một bức thư ngỏ nói rằng Rekognition là sự thiếu sót và không nên được sử dụng để thực thi pháp luật.

Một hệ thống nhận dạng khuôn mặt được sử dụng rộng rãi hơn là Clearview AI, công ty hiện đang phải đối mặt với một số vụ kiện cá nhân sau khi xâm nhập các trang mạng xã hội để chụp ảnh và xây dựng cơ sở dữ liệu hơn 3 tỷ ảnh cá nhân, sau đó bán cho cơ quan nhà nước.

Minh họa bởi Alex Castro. (Ảnh: The Verge)

Amazon phải đối mặt với sự chỉ trích liên tục trong nhiều năm qua vì đã bán quyền truy cập vào Rekognition cho sở cảnh sát từ các nhà hoạt động, các tổ chức dân quyền như ACLU (Liên đoàn Tự do Dân sự Mỹ) và các nhà lập pháp, bên cạnh những hoài nghi về tính hiệu quả của công nghệ này. Tất cả đều đưa ra quan ngại về việc thiếu sự giám sát công nghệ này trong khi nó được sử dụng trong các cuộc điều tra và sự thiên vị, bất công khiến nó không đáng tin cậy và là cơ hội cho sự phân biệt đối xử cũng như các hành vi lạm dụng khác.

Sau những lo ngại về công nghệ này vào năm 2018, Andrew Jassy – giám đốc của AWS (Công ty nền tảng điện toán đám mây của Amazon) cho biết, công ty vẫn sẽ tiếp tục bán dữ liệu cho cảnh sát. Tuy nhiên, với các báo cáo của truyền thông, cũng như nghiên cứu của Buolamwini, nhiều đối tác đã bắt đầu ngừng hợp đồng với Amazon .

Theo KDPT