Liên hợp quốc cảnh báo về việc phân biệt chủng tộc do AI 01/12/2020

(KDTT) – Nhiều chuyên gia của Liên hợp quốc (LHQ) cho biết, các quốc gia cần phải có phương án chống lại định kiến sắc tộc và đảm bảo việc thu thập dữ liệu của họ qua các phương tiện trí tuệ nhân tạo (AI) không củng cố cho các hành vi phân biệt chủng tộc.

Lập hồ sơ chủng tộc không phải là điều mới nhưng việc sử dụng các công nghệ được xem như công cụ mang lại tính khách quan và công bằng hơn trong việc lập chính sách đang làm cho vấn đề trở nên tồi tệ hơn. Đáng nói là điều này ngày càng xuất hiện ở nhiều nơi.

Chuyên gia nhân quyền người Jamaica, Verene Shepherd, nói với AFP: “Có một nguy cơ lớn là các công nghệ AI sẽ tái tạo và củng cố những thành kiến, làm trầm trọng thêm hoặc dẫn đến các hành vi phân biệt đối xử”.

Các chuyên gia về quyền của Liên Hợp Quốc cho biết các quốc gia cần phải làm nhiều hơn nữa để chống lại việc phân biệt chủng tộc, đồng thời cảnh báo rằng các chương trình trí tuệ nhân tạo như nhận dạng khuôn mặt và lập chính sách dự đoán có nguy cơ củng cố hành vi phân biệt sắc tộc. (Ảnh: IEEE Spectrum).

Được biết Verene Shepherd là một trong 18 chuyên gia độc lập thành lập Ủy ban Liên hợp quốc về Xóa bỏ phân biệt chủng tộc (CERD), đã công bố hướng dẫn về cách các quốc gia trên toàn thế giới nên làm để chấm dứt nạn phân biệt chủng tộc bằng cơ quan thực thi pháp luật.

Ủy ban chấp hành đã theo dõi sự tuân thủ của 182 quốc gia ký kết Công ước quốc tế về xóa bỏ mọi hình thức phân biệt chủng tộc, đã nêu lên mối quan ngại đặc biệt về việc sử dụng các thuật toán AI cho cái gọi là “chính sách dự đoán” và “đánh giá rủi ro”.

Shepherd cảnh báo: “Thông tin lịch sử về một khu phố có thể phản ánh cách thực thi các chính sách ở đó liệu có thành kiến về chủng tộc hay không. Những dữ liệu như vậy sẽ làm tăng thêm nguy cơ phân biệt sắc tộc trong cùng một khu phố, do đó có thể dẫn đến nhiều vụ bắt giữ hơn, tạo ra sự nguy hiểm không đáng có”.

Khi trí tuệ nhân tạo và các thuật toán sử dụng dữ liệu lịch sử sai lệch, các dự đoán lập hồ sơ của chúng sẽ phản ánh điều đó.

Các khuyến nghị của CERD cũng liên quan đến việc sử dụng ngày càng nhiều công nghệ giám sát và nhận dạng khuôn mặt trong việc lập chính sách.

Shepherd cho biết Ủy ban đã nhận được một số khiếu nại về việc xác định sai bởi những công nghệ như vậy, đôi khi gây ra hậu quả nghiêm trọng, tuy nhiên không cung cấp ví dụ cụ thể.

Vấn đề ngày một trầm trọng hơn với vụ bắt giữ nhầm người ở Detroit vào đầu năm nay. Một người đàn ông Mỹ gốc Phi, Robert Williams, được xác định là nghi phạm trộm cướp dựa trên một thuật toán sai lầm.

Các nghiên cứu khác nhau cho thấy các hệ thống nhận dạng khuôn mặt được phát triển ở các nước phương Tây kém chính xác hơn nhiều trong việc phân biệt các khuôn mặt da sẫm màu hơn, có lẽ vì chúng dựa vào cơ sở dữ liệu chứa nhiều khuôn mặt nam giới da trắng.

Verene Shepherd – một trong 18 chuyên gia độc lập thành lập Ủy ban Liên hợp quốc về Xóa bỏ phân biệt chủng tộc (CERD), đã công bố hướng dẫn về cách các quốc gia trên toàn thế giới nên làm để chấm dứt nạn phân biệt chủng tộc bằng cơ quan thực thi pháp luật. (Ảnh: Yahoo News).

Shepherd nói: “Chúng tôi đã có những khiếu nại về việc xác định sai như vậy, và đặt ra câu hỏi công nghệ này đến từ đâu, ai đang tạo ra chúng và những mẫu nào chúng đang sử dụng trong hệ thống của mình. Đó là một mối quan tâm thực sự”.

CERD đang kêu gọi các quốc gia chỉnh đốn các công ty tư nhân phát triển, đang bán hoặc vận hành hệ thống hồ sơ thuật toán trong việc thực thi pháp luật.

Các quốc gia có trách nhiệm đảm bảo rằng các hệ thống này tuân thủ luật nhân quyền quốc tế, nhấn mạnh tầm quan trọng của tính minh bạch trong thiết kế và áp dụng.

Ủy ban nhấn mạnh rằng công chúng nên được thông báo khi các hệ thống như vậy đang được sử dụng và cho biết chúng hoạt động như thế nào, bộ dữ liệu nào đang được sử dụng và những biện pháp bảo vệ nào được áp dụng để ngăn chặn việc lạm dụng quyền.

Shepherd cho biết năm 2020 là một năm được đánh dấu bởi căng thẳng chủng tộc gia tăng ở nhiều nơi trên thế giới, và đây là thời điểm thích hợp để trình bày các hướng dẫn mới.

Bà nói, Ủy ban “hy vọng rằng sự tăng cường và toàn cầu hóa của Black Lives Matter (một phong trào hoạt động quốc tế, bắt nguồn từ cộng đồng người Mỹ gốc Phi, chiến dịch chống lại bạo lực và phân biệt chủng tộc có hệ thống đối với người da đen) và các chiến dịch khác kêu gọi sự phân biệt chủng tộc sẽ khiến các khuyến nghị trở nên quan trọng hơn nữa”.

MINH HẠ