Công nghệ có đang ngày càng “dung túng” cho việc phân biệt chủng tộc? 28/10/2020

(KDtT) – Theo trang The Atlantic, thanh thiếu niên dành phần lớn thời gian trong ngày để vào mạng, điều này đặc biệt dễ gây ra ảnh hưởng xấu do phải thường xuyên tiếp cận với những nội dung phân biệt đối xử. Đây hẳn là một câu chuyện đáng lo ngại trong thời đại mà công nghệ gần như đang làm chủ cuộc sống của con người.

Tháng trước, người dùng Twitter đã phát hiện ra một ví dụ đáng lo ngại về sự thiên vị trên nền tảng này. Một thuật toán phát hiện hình ảnh được thiết kế để tối ưu hóa các bản xem trước đã cắt các khuôn mặt người da màu thay cho khuôn mặt người da trắng. Twitter đã xin lỗi với lý do thuật toán này bị lỗi, nhưng sau đó sự cố này vẫn không biến mất.

Các hành vi phân biệt chủng tộc trong công nghệ có thể không phải lúc nào cũng “trắng trợn” như vậy, nhưng hầu như đều không thể tránh khỏi. Các bị cáo người da màu có nhiều khả năng bị kết án bất công hoặc bị coi là tái phạm trong tương lai, không chỉ bởi các thẩm phán, mà còn bởi một thuật toán kết án.

Nghiên cứu cho thấy là việc phân biệt đối xử sẽ ảnh hưởng đến sức khỏe của tất cả các lứa tuổi. Đặc biệt với thanh thiếu niên da màu, phân biệt đối xử có thể làm thay đổi biểu hiện gen trong suốt cuộc đời họ. (Ảnh: The Atlantic)

Các thuật toán “cố tình” từ chối đưa ra các phương pháp điều trị cho các bệnh nhân da màu và gốc Tây Ban Nha đang ốm yếu, trong khi nó lại được phân phối cho bệnh nhân da trắng ít bệnh tật hơn. Những ví dụ như thế này rất nhiều.

Rõ ràng, những lỗi này đều có hệ thống, kéo dài sự bất bình đẳng trong các công nghệ dự đoán, thường được gọi là “sai lệch thuật toán”. Nói cách khác, chúng là những biểu hiện của phong trào chống chế độ dân chủ da màu ở Mỹ mà công nghệ là thứ “dung túng” nhiều nhất.

Tiếp xúc thường xuyên, liên tục với các thành kiến trong công nghệ tự động chắc chắn định hình cách mỗi người nhìn nhận bản thân và hiểu biết của mình về thế giới. Và ở mỗi lứa tuổi, chúng sẽ ảnh hưởng theo một cách khác nhau.

Quan trọng là, những thành kiến về thuật toán có thể tác động tâm lý lâu dài lên thanh thiếu niên, nhiều người trong số họ dành hầu hết thời gian kể từ khi thức dậy để lên mạng. Một nghiên cứu của Trung tâm Nghiên cứu Pew năm 2018 cho thấy 95% thanh thiếu niên có quyền truy cập vào điện thoại thông minh và 45% tự mô tả mình đang vào mạng “gần như liên tục”. Đặc biệt, theo cùng một nghiên cứu, thanh thiếu niên gốc Tây Ban Nha dành nhiều thời gian trực tuyến hơn các bạn đồng trang lứa da trắng của họ. Và việc Mỹ chuyển sang hình thức học từ xa trong đại dịch, thanh thiếu niên có khả năng dành nhiều thời gian hơn trên Internet so với trước đây.

Nghiên cứu cho thấy là việc phân biệt đối xử sẽ ảnh hưởng đến sức khỏe của tất cả các lứa tuổi. Và đối với thanh thiếu niên da màu, phân biệt đối xử có thể sẽ khiến giấc ngủ, kết quả học tập và lòng tự trọng của họ bị ảnh hưởng, thậm chí nặng hơn có thể làm thay đổi biểu hiện gen trong suốt cuộc đời.

Phân biệt chủng tộc theo thuật toán thường hoạt động như một loại vi phạm công nghệ — những hành vi được che đậy “mỏng manh”, có định kiến thường xảy ra mà kẻ xâm lược không có ý định làm tổn thương bất kỳ ai. Nhưng sự đa dạng của thuật toán khác với sự hiểu biết của con người theo một số cách. Ví dụ, ý định của một người có thể khó xác định, nhưng các thuật toán “thấm nhuần” thành kiến có thể làm tình trạng xấu đi theo cấp số nhân.

Một số mô hình phổ biến, chẳng hạn như mạng nơ-ron, phức tạp đến mức ngay cả các kỹ sư thiết kế chúng cũng phải vật lộn để giải thích chính xác cách chúng hoạt động. Hơn nữa, tần suất xảy ra từ vi phạm công nghệ có thể cao hơn nhiều so với trong đời thực do lượng thời gian thanh thiếu niên dành cho các thiết bị cũng như tính chất tự động lặp đi lặp lại của các hệ thống được lập trình. Và mọi người đều biết rằng ý kiến của con người là chủ quan, nhưng các thuật toán hoạt động dưới vỏ bọc của tính khách quan, điều này che khuất sự tồn tại của chúng và cho phép sử dụng chúng một cách hợp pháp.

Thanh thiếu niên da màu không phải là những người duy nhất có nguy cơ bị phân biệt chủng tộc do máy tính tạo ra. Sống trong một thế giới được kiểm soát bởi các thuật toán phân biệt đối xử có thể tách biệt thanh niên da trắng khỏi những người bạn da màu. Ví dụ, thuật toán lọc nội dung của TikTok có thể hướng thanh thiếu niên đến các video khá giống với hành vi, lối sống của họ. Điều này có nguy cơ làm giảm khả năng đồng cảm của thanh thiếu niên và tước đi cơ hội phát triển các kỹ năng, kinh nghiệm cần thiết.

Được biết, thanh thiếu niên da màu trải qua trung bình năm trường hợp phân biệt chủng tộc trở lên mỗi ngày, phần lớn trong số đó xảy ra trực tuyến và do đó được trung gian bởi các thuật toán.

Các cách thức cực đoan trên các nền tảng xã hội như YouTube có thể đẩy người dùng xuống các lỗ hổng bởi các video được thiết kế nhằm khiến người trẻ tuổi cực đoan hóa và truyền cảm hứng cho họ thực hiện hành vi bạo lực trong thế giới thực.

Trước khi có internet, các bậc cha mẹ có thể giúp con cái mình tránh các ảnh hưởng xấu bằng cách giám sát nơi chúng đến và những gì chúng làm. Nhưng ngày nay, họ không thể nhìn thấy “phần chìm” của các nền tảng xã hội phổ biến, chẳng hạn như YouTube, Facebook hay Reddit, chúng giống như một “kẻ xa lạ” có thể nắm lấy bàn tay của một thanh thiếu niên rồi hướng dẫn họ ngày càng lún sâu hơn vào những cực đoan trên internet.

Bỏ qua tuổi tác là một cách tiếp cận sai lầm vì thiếu niên có tâm lý khác với người lớn. Đến tuổi trưởng thành, nếu như chúng ta đã xác định được mình cần làm gì, nên làm gì, thì thế hệ thanh thiếu niên vẫn đắm chìm sâu trong quá trình tìm ra họ là ai và họ phù hợp với nơi nào trên thế giới. Đồng thời, não của thanh thiếu niên “vẫn đang phát triển và sợ hãi ít hơn người lớn”, điều này khiến chúng tò mò hơn, nhưng cũng bốc đồng và dễ tham gia vào các hành vi nguy hiểm.

Hơn nữa, các trường hợp chấn thương do phân biệt chủng tộc có tác động lâu dài hơn khi trải qua ở tuổi thanh thiếu niên, thời kỳ mà các cấu trúc thần kinh đang bị quấn lại và dễ bị tác động bởi môi trường, hoàn cảnh nhất.

Các thuật toán định hình sự phát triển một cách mạnh mẽ, và dường như chúng đang xã hội hóa cả một thế hệ. Mặc dù các quy định của chính phủ Hoa Kỳ hiện không tính đến các tác động dựa trên độ tuổi của các thuật toán, nhưng vẫn có tiền lệ để xem xét độ tuổi khi thiết kế chính sách truyền thông: Ví dụ: khi Ủy ban Truyền thông Liên bang bắt đầu điều chỉnh quảng cáo trên TV dành cho trẻ em vào những năm 1990, các chính sách dựa trên sự khác biệt về nhận thức và cảm xúc được ghi nhận đầy đủ giữa trẻ em và người lớn. Dựa trên ý kiến đóng góp từ các nhà phát triển, nhà khoa học dữ liệu và những người ủng hộ thanh niên, các chính sách của thế kỷ 21 về quyền riêng tư dữ liệu và thiết kế thuật toán cũng có thể được xây dựng dựa trên nhu cầu cụ thể của thanh thiếu niên. Thay vào đó, nếu tiếp tục hạ thấp hoặc bỏ qua những cách mà thanh thiếu niên dễ bị phân biệt chủng tộc theo thuật toán, thì những tác hại có thể sẽ ảnh hưởng đến cả các thế hệ sau.

THÚY HIỀN