Thiên lệch trong AI là khi một hệ thống AI cho kết quả tốt hơn hoặc xấu hơn một cách có hệ thống với một nhóm người nào đó, mà sự khác biệt ấy không có lý do chính đáng. Ví dụ: phần mềm lọc hồ sơ ưu tiên ứng viên nam, công cụ nhận diện khuôn mặt nhận sai người da sẫm màu nhiều hơn, chatbot mặc định "bác sĩ" là đàn ông và "y tá" là phụ nữ.
Máy không có ác ý. Nó học từ dữ liệu do con người tạo ra trong quá khứ, và dữ liệu đó mang theo dấu vết của những bất công, thói quen, khoảng trống trong xã hội. Bài này giải thích bốn nguồn chính gây thiên lệch, vài trường hợp đã được công bố rộng rãi, vì sao sửa không đơn giản, và người dùng bình thường nên để ý điều gì.
Máy học định kiến bằng cách nào
Một mô hình học máy tìm quy luật trong dữ liệu để dự đoán. Nếu trong mười năm qua công ty chủ yếu tuyển kỹ sư nam, dữ liệu sẽ cho thấy "hồ sơ được tuyển" thường có đặc điểm của nam giới. Mô hình không biết đó là hệ quả của định kiến cũ; nó chỉ thấy đó là quy luật và học theo. Thậm chí khi đã xoá cột giới tính, mô hình vẫn có thể suy ra từ dấu hiệu gián tiếp như tên câu lạc bộ thể thao, trường nữ sinh, khoảng trống nghỉ sinh trong lý lịch.
Mô hình ngôn ngữ lớn học từ lượng chữ khổng lồ trên mạng. Trên mạng, cách người ta viết về các nhóm người không cân bằng: có nhóm được nhắc nhiều, có nhóm gần như vắng mặt, có khuôn mẫu lặp đi lặp lại. Mô hình hấp thụ cả những khuôn mẫu ấy cùng với kiến thức. Các hãng sau đó tinh chỉnh để giảm bớt, nhưng phần gốc vẫn còn đó và có thể lộ ra ở những câu hỏi không ai lường trước.
Nói ngắn gọn: AI giống một tấm gương phóng đại. Nó phản chiếu xã hội đã tạo ra dữ liệu, và vì được dùng ở quy mô lớn, một định kiến nhỏ trong dữ liệu có thể thành quyết định ảnh hưởng hàng nghìn người.
Bốn nguồn gây thiên lệch thường gặp
Người làm AI thường chia nguồn thiên lệch thành vài nhóm. Bảng dưới gom lại bốn nhóm dễ hiểu nhất, kèm ví dụ giả định để bạn hình dung.
| Nguồn | Nghĩa là gì | Ví dụ giả định |
|---|---|---|
| Dữ liệu lịch sử | Dữ liệu ghi lại quyết định cũ vốn đã không công bằng | Mô hình xét duyệt vay học từ hồ sơ cũ nên dè dặt với một vùng từng bị từ chối nhiều |
| Dữ liệu thiếu đại diện | Một nhóm có quá ít mẫu nên mô hình học kém về họ | Nhận dạng giọng nói tốt với giọng Hà Nội, sai nhiều hơn với giọng miền Tây hay người dân tộc thiểu số nói tiếng Việt |
| Cách gán nhãn | Người gán nhãn mang định kiến riêng | Người chấm bình luận "độc hại" đánh dấu phương ngữ là thô tục |
| Mục tiêu tối ưu | Thứ mô hình được dạy để tối đa hoá không trùng với công bằng | Hệ gợi ý tối đa lượt xem nên đẩy nội dung giật gân về một nhóm người |
Trong thực tế, một hệ thống thường dính nhiều nguồn cùng lúc. Vì vậy câu hỏi "AI này có thiên lệch không" gần như luôn có câu trả lời là có ở mức nào đó; câu hỏi đúng hơn là lệch về phía ai, lệch bao nhiêu, và hậu quả ra sao.
Những trường hợp đã được công bố rộng rãi
Công cụ tuyển dụng thử nghiệm của Amazon. Năm 2018, hãng tin Reuters đưa tin Amazon đã bỏ một công cụ chấm hồ sơ thử nghiệm vì nó hạ điểm hồ sơ có dấu hiệu là của phụ nữ. Công cụ học từ hồ sơ nộp vào công ty trong khoảng mười năm, giai đoạn ngành công nghệ chủ yếu là nam.
Nghiên cứu Gender Shades. Năm 2018, Joy Buolamwini và Timnit Gebru công bố nghiên cứu cho thấy một số hệ thống thương mại phân loại giới tính qua ảnh khuôn mặt sai nhiều nhất với phụ nữ có làn da sẫm màu và chính xác nhất với nam giới da sáng. Nghiên cứu này thúc đẩy các hãng cải thiện dữ liệu và công bố kết quả theo nhóm.
Tranh luận về công cụ đánh giá nguy cơ tái phạm. Năm 2016, nhóm phóng viên ProPublica phân tích một công cụ chấm điểm nguy cơ tái phạm dùng ở một số toà án Mỹ và cho rằng nó lệch theo chủng tộc. Nhà phát triển phản bác, và giới nghiên cứu chỉ ra rằng có nhiều định nghĩa "công bằng" khác nhau mà không thể thoả mãn tất cả cùng lúc.
Điểm chung. Cả ba trường hợp đều được phát hiện nhờ có người bên ngoài kiểm tra kết quả theo từng nhóm. Nếu chỉ nhìn độ chính xác trung bình, các hệ thống này trông đều khá tốt.
Vì sao sửa thiên lệch không đơn giản
Cách sửa đầu tiên người ta nghĩ tới là xoá thông tin nhạy cảm như giới tính, dân tộc, tuổi khỏi dữ liệu. Như đã nói ở trên, việc này thường không đủ vì các đặc điểm khác vẫn mang tín hiệu gián tiếp. Địa chỉ nơi ở, trường học, sở thích có thể tiết lộ nhiều hơn người ta nghĩ.
Cách thứ hai là bổ sung dữ liệu cho nhóm thiếu đại diện. Cách này có ích nhưng tốn kém, và với nhiều nhóm, dữ liệu đơn giản là không có sẵn. Tiếng Việt là một ví dụ: lượng văn bản tiếng Việt chất lượng trên mạng nhỏ hơn rất nhiều so với tiếng Anh, chưa kể tiếng của các dân tộc thiểu số ở Việt Nam.
Khó nhất là chuyện định nghĩa. Công bằng nghĩa là tỉ lệ được chọn bằng nhau giữa các nhóm, hay tỉ lệ sai bằng nhau, hay mỗi cá nhân được đánh giá chỉ dựa trên năng lực? Các nhà nghiên cứu đã chứng minh rằng trong nhiều tình huống, những định nghĩa này mâu thuẫn nhau về mặt toán học. Chọn định nghĩa nào là lựa chọn giá trị của con người, không phải bài toán kỹ thuật thuần tuý. Đây cũng là lý do bàn về thiên lệch luôn kéo theo bàn về trách nhiệm và minh bạch.
Thiên lệch trong mô hình ngôn ngữ trông như thế nào
Với chatbot, thiên lệch thường kín đáo hơn so với phần mềm chấm điểm. Một vài dạng hay gặp:
- Khuôn mẫu nghề nghiệp: khi kể chuyện, mô hình hay mặc định giám đốc là nam, thư ký là nữ, trừ khi được dặn khác.
- Lệch văn hoá: câu trả lời về ẩm thực, lễ nghi, luật lệ mặc định theo bối cảnh phương Tây, dù người hỏi bằng tiếng Việt.
- Chất lượng không đều theo ngôn ngữ: cùng câu hỏi, trả lời bằng tiếng Anh thường chi tiết và chính xác hơn bằng tiếng Việt.
- Lệch vùng miền: mô hình hiểu tiếng Việt chuẩn sách vở tốt hơn phương ngữ, tiếng lóng địa phương, cách viết không dấu.
- Lệch quan điểm: với chủ đề còn tranh cãi, cách đặt vấn đề có thể nghiêng về góc nhìn phổ biến trong dữ liệu tiếng Anh.
- Lệch trong ảnh: công cụ tạo ảnh khi được yêu cầu vẽ "một người thành công" có thể ra hình mẫu rất hẹp về tuổi, giới, màu da.
Những dạng này không phải lúc nào cũng xuất hiện, và các hãng liên tục điều chỉnh. Vì vậy cách tốt nhất là tự thử với chính tình huống của bạn, nhất là khi kết quả sẽ được dùng để quyết định điều gì đó liên quan đến người khác.
Ai chịu trách nhiệm kiểm tra thiên lệch
Nhà phát triển mô hình có trách nhiệm đầu tiên: đo kết quả theo từng nhóm trước khi phát hành, công bố giới hạn đã biết, cho phép nhà nghiên cứu độc lập kiểm tra. Nhiều hãng lớn hiện có công bố tài liệu mô tả mô hình, trong đó có phần thiên lệch, dù mức chi tiết rất khác nhau.
Doanh nghiệp đưa AI vào quyết định về con người (tuyển dụng, cho vay, chấm thi, xét hồ sơ) có trách nhiệm thứ hai, nặng không kém: kiểm tra trên chính dữ liệu và người dùng của mình, vì một mô hình công bằng ở nước này có thể lệch ở nước khác. Người quản lý cần biết cách tự kiểm tra; trang AI Lãnh Đạo có bài riêng về chuyện này.
Nhà nước và xã hội đóng vai trò đặt luật chơi. Một số khung pháp lý về AI trên thế giới xếp các hệ thống dùng trong tuyển dụng, giáo dục, tín dụng vào nhóm rủi ro cao và yêu cầu kiểm tra chặt hơn. Cuối cùng là người dùng: mỗi lần bạn báo lại một câu trả lời lệch lạc, bạn góp thêm một mẫu dữ liệu giúp hệ thống được sửa.
Người dùng bình thường nên làm gì
Bạn không cần biết lập trình để giảm tác hại của thiên lệch trong công việc hằng ngày. Vài thói quen đơn giản:
- Khi nhờ AI viết mô tả, kể chuyện, tạo ảnh có người, đọc lại xem có khuôn mẫu nào về giới, tuổi, vùng miền mà bạn không muốn không.
- Đổi vai để thử: hỏi cùng một câu nhưng đổi tên, đổi giới, đổi quê quán của nhân vật, xem câu trả lời có khác một cách vô lý không.
- Với chủ đề gắn với Việt Nam, yêu cầu rõ bối cảnh Việt Nam và đối chiếu với nguồn trong nước.
- Không dùng AI làm người quyết định cuối cùng khi việc đó ảnh hưởng đến cơ hội của người khác, như chấm bài, lọc hồ sơ, xét khen thưởng.
- Khi đưa dữ liệu về người thật vào AI để phân tích, che tên và thông tin cá nhân trước.
- Gặp câu trả lời lệch lạc rõ ràng, dùng nút phản hồi của công cụ để báo lại.
Thiên lệch không biến mất hẳn được, cũng như định kiến trong xã hội không biến mất hẳn. Nhưng hiểu cơ chế giúp bạn không ngây thơ tin rằng "máy thì khách quan", và cũng không vội kết luận rằng AI là xấu xa.
Câu hỏi thường gặp
Thiên lệch và thiên kiến có phải là một không?
Trong tiếng Việt hai từ này hay dùng lẫn. Thiên kiến thường chỉ lối nghĩ tắt trong đầu con người, còn thiên lệch trong AI chỉ sự sai lệch có hệ thống trong kết quả của máy. Hai thứ liên quan vì thiên kiến của con người đi vào dữ liệu rồi thành thiên lệch của máy.
AI có thể hoàn toàn khách quan không?
Không. Mọi hệ thống AI đều do con người chọn dữ liệu, chọn mục tiêu, chọn cách đánh giá, và mỗi lựa chọn đó đều mang giá trị. Điều có thể làm là đo, công bố, và giảm thiên lệch ở những chỗ có hậu quả lớn.
Mô hình AI nói tiếng Việt có kém công bằng hơn với người Việt không?
Thường thì chất lượng tiếng Việt thấp hơn tiếng Anh vì dữ liệu ít hơn, và hiểu biết về bối cảnh Việt Nam mỏng hơn. Đó là một dạng thiên lệch theo ngôn ngữ. Mức chênh khác nhau giữa các mô hình và thay đổi qua các phiên bản, nên nên tự thử với việc của mình.
Có cách nào biết một công cụ AI đã được kiểm tra thiên lệch chưa?
Bạn có thể tìm tài liệu mô tả mô hình hoặc báo cáo an toàn mà hãng công bố, xem có phần đánh giá theo nhóm người không. Với công cụ dùng trong tuyển dụng hay tín dụng, có thể hỏi thẳng nhà cung cấp về cách họ kiểm tra và kết quả.
Thiên lệch trong AI có vi phạm pháp luật không?
Tuỳ nơi và tuỳ hậu quả. Nhiều nước có luật chống phân biệt đối xử áp dụng cho quyết định tuyển dụng, cho vay, bất kể quyết định do người hay máy đưa ra. Quy định cụ thể ở Việt Nam bạn nên kiểm văn bản hiện hành hoặc hỏi luật sư.
Xoá cột giới tính khỏi dữ liệu có đủ để AI hết thiên lệch không?
Thường là không đủ. Mô hình vẫn có thể suy ra giới tính hay nhóm người từ các thông tin gián tiếp như tên, trường học, sở thích, khoảng trống trong lý lịch. Cần đo kết quả theo nhóm sau khi huấn luyện mới biết thiên lệch còn hay không.