Trí tuệ nhân tạo thường được mô tả như một công cụ có khả năng xử lý dữ liệu nhanh, nhận diện mẫu và hỗ trợ con người đưa ra quyết định. Tuy nhiên, khả năng tính toán không đồng nghĩa với sự khách quan tuyệt đối. Một hệ thống AI có thể đưa ra kết quả không công bằng ngay cả khi không được lập trình để phân biệt đối xử. Nguyên nhân có thể nằm trong dữ liệu dùng để huấn luyện, cách đặt mục tiêu, phương pháp đánh giá hoặc bối cảnh mà hệ thống được triển khai.
Thiên lệch thuật toán vì thế không phải là vấn đề chỉ dành cho các kỹ sư. Nó liên quan đến doanh nghiệp, cơ quan quản lý, nhà cung cấp công nghệ và cả người sử dụng cuối cùng. Khi AI tham gia sàng lọc hồ sơ, phân loại nội dung, hỗ trợ chăm sóc khách hàng, đánh giá rủi ro hoặc phân bổ nguồn lực, một sai lệch nhỏ trong thiết kế cũng có thể ảnh hưởng đến nhiều người. Nhận diện vấn đề từ sớm là điều cần thiết để AI trở thành công cụ hỗ trợ, thay vì biến các bất bình đẳng sẵn có thành quyết định tự động.
Thiên lệch thuật toán bắt đầu từ đâu?
Thiên lệch thuật toán là tình trạng kết quả của một hệ thống có xu hướng bất lợi hoặc thiếu chính xác đối với một nhóm người, một loại dữ liệu hoặc một hoàn cảnh nhất định. Khái niệm này không chỉ nói đến ý định của người xây dựng hệ thống. Một mô hình có thể được phát triển với mục tiêu trung lập nhưng vẫn tạo ra kết quả lệch vì dữ liệu đầu vào không đầy đủ hoặc vì tiêu chí tối ưu chưa phản ánh đúng nhu cầu thực tế.
Dữ liệu huấn luyện là một nguồn rủi ro quan trọng. Nếu dữ liệu trong quá khứ phản ánh sự mất cân bằng, mô hình có thể học lại những khuynh hướng đó. Chẳng hạn, một bộ dữ liệu về hình ảnh, văn bản hoặc hồ sơ người dùng có thể đại diện nhiều hơn cho một số nhóm, ngôn ngữ, khu vực hoặc điều kiện sống. Khi gặp các trường hợp ít xuất hiện trong dữ liệu, hệ thống có thể nhận diện kém hơn. Vấn đề không nhất thiết nằm ở một mẫu dữ liệu riêng lẻ mà có thể xuất hiện do toàn bộ quá trình thu thập, gắn nhãn, làm sạch và lựa chọn dữ liệu.
Cách gắn nhãn cũng có thể tạo ra sai lệch. Nhãn dữ liệu thường do con người hoặc quy trình do con người thiết kế tạo ra. Những khái niệm như nội dung gây hại, mức độ phù hợp, độ tin cậy hay chất lượng đôi khi phụ thuộc vào ngữ cảnh và cách diễn giải. Nếu người gắn nhãn không có đủ thông tin về nhóm người, ngôn ngữ hoặc tình huống được đánh giá, kết quả có thể không phản ánh đầy đủ thực tế.
Một nguyên nhân khác là mục tiêu tối ưu của hệ thống. Khi doanh nghiệp yêu cầu AI tối đa hóa tốc độ, giảm chi phí hoặc tăng tỷ lệ dự đoán đúng trên một chỉ số duy nhất, hệ thống có thể bỏ qua những giá trị quan trọng khác. Một mô hình đạt độ chính xác trung bình cao vẫn có thể hoạt động kém với một nhóm nhỏ. Vì vậy, chỉ nhìn vào một con số tổng hợp chưa đủ để kết luận rằng hệ thống đang vận hành công bằng.
Vì sao kết quả AI cần được xem xét theo bối cảnh?
Không có một định nghĩa đơn giản duy nhất về sự công bằng cho mọi ứng dụng AI. Trong một số trường hợp, người triển khai có thể quan tâm đến việc các nhóm khác nhau có tỷ lệ bị từ chối tương đương hay không. Trong trường hợp khác, điều quan trọng hơn là hệ thống có đưa ra mức độ chính xác tương tự cho các nhóm hay không. Những tiêu chí này không phải lúc nào cũng có thể đạt đồng thời, đặc biệt khi dữ liệu, mục tiêu và mức độ rủi ro của từng nhóm khác nhau.
Do đó, đánh giá AI phải gắn với mục đích sử dụng. Một công cụ gợi ý nội dung giải trí và một hệ thống hỗ trợ quyết định trong lĩnh vực có ảnh hưởng lớn đến quyền lợi của con người không thể được kiểm tra theo cùng một cách. Với ứng dụng có rủi ro thấp, một kết quả sai có thể chỉ gây bất tiện. Với ứng dụng liên quan đến việc tiếp cận dịch vụ, cơ hội việc làm, tài chính hoặc các quyền lợi thiết yếu, sai lệch có thể dẫn đến hậu quả nghiêm trọng hơn và cần cơ chế kiểm soát chặt chẽ hơn.
Bối cảnh còn bao gồm người dùng và điều kiện vận hành. Một mô hình được thử nghiệm tốt trong môi trường này chưa chắc phù hợp với môi trường khác, bởi ngôn ngữ, thói quen, thiết bị, chất lượng dữ liệu và quy trình làm việc có thể thay đổi. Khi hệ thống được đưa vào sử dụng, dữ liệu mới cũng có thể khác với dữ liệu ban đầu. Đây là lý do việc kiểm tra không nên dừng lại ở thời điểm phát hành.
Những dấu hiệu cần lưu ý khi sử dụng AI
Dấu hiệu đầu tiên là kết quả có sự chênh lệch lặp lại giữa các nhóm hoặc các điều kiện sử dụng. Chênh lệch không phải lúc nào cũng chứng minh hệ thống có thiên lệch, nhưng là tín hiệu cần tìm hiểu. Tổ chức có thể so sánh tỷ lệ lỗi, tỷ lệ bỏ sót và tỷ lệ cảnh báo sai theo những nhóm phù hợp với mục đích sử dụng, đồng thời xem xét xem dữ liệu của nhóm nào đang bị thiếu hoặc có chất lượng thấp hơn.
Dấu hiệu thứ hai là người dùng khó giải thích tại sao hệ thống đưa ra một kết quả. Không phải mọi mô hình đều có thể cung cấp lời giải thích đơn giản, nhưng quy trình vận hành vẫn cần cho biết dữ liệu nào được sử dụng, giới hạn của kết quả là gì và con người phải làm gì khi phát hiện sai. Một thông báo chung chung rằng AI đã đánh giá không thể thay thế cho trách nhiệm kiểm tra.
Dấu hiệu thứ ba là hệ thống được dùng ngoài phạm vi ban đầu. Một công cụ được thiết kế để hỗ trợ tham khảo có thể dần trở thành căn cứ chính cho quyết định nếu người sử dụng quá tin vào kết quả tự động. Khi đó, rủi ro không chỉ đến từ mô hình mà còn đến từ quy trình tổ chức. Việc phân định rõ AI có quyền đề xuất đến đâu và ai chịu trách nhiệm quyết định là điều rất quan trọng.
Ngoài ra, những phản hồi bất thường từ người dùng cũng cần được xem xét nghiêm túc. Một cá nhân nhận thấy hệ thống thường xuyên hiểu sai ngôn ngữ, tên riêng, giọng nói, hình ảnh hoặc hoàn cảnh của mình có thể đang cung cấp tín hiệu về vấn đề dữ liệu. Kênh tiếp nhận phản hồi phải đủ dễ tiếp cận để người bị ảnh hưởng có thể báo lỗi, yêu cầu xem xét và nhận được câu trả lời phù hợp.
Cách giảm thiên lệch trong toàn bộ vòng đời AI
Giảm thiên lệch nên bắt đầu trước khi xây dựng mô hình. Đội ngũ phát triển cần xác định rõ hệ thống dùng để làm gì, ai có thể bị ảnh hưởng và những quyết định nào không nên giao hoàn toàn cho máy. Việc lập bản mô tả dữ liệu cũng hữu ích, trong đó ghi nhận nguồn dữ liệu, phạm vi đại diện, cách thu thập, các bước xử lý và những giới hạn đã biết. Nếu không hiểu dữ liệu đến từ đâu, rất khó đánh giá kết quả một cách có trách nhiệm.
Trong giai đoạn phát triển, dữ liệu nên được kiểm tra theo nhiều chiều thay vì chỉ đo tổng số mẫu. Cần xem xét sự phân bố của các nhóm liên quan, chất lượng nhãn, dữ liệu bị thiếu và những trường hợp có thể gây nhầm lẫn. Việc mời những người có nền tảng chuyên môn và trải nghiệm khác nhau tham gia kiểm thử có thể giúp phát hiện các tình huống mà một nhóm phát triển thuần kỹ thuật dễ bỏ qua.
Đánh giá mô hình cũng cần dùng nhiều chỉ số và nhiều tập kiểm tra. Một kết quả trung bình tốt không đủ để bảo đảm hiệu quả cho mọi trường hợp. Các bài kiểm tra nên bao gồm tình huống thông thường, tình huống hiếm gặp và những đầu vào dễ bị hiểu sai. Khi phát hiện chênh lệch, đội ngũ cần tìm nguyên nhân cụ thể thay vì vội điều chỉnh mô hình theo một công thức có sẵn. Đôi khi giải pháp phù hợp là bổ sung dữ liệu, thay đổi quy trình, giới hạn phạm vi sử dụng hoặc yêu cầu con người kiểm tra thêm.
Sau khi triển khai, hệ thống cần được giám sát liên tục. Dữ liệu thực tế có thể thay đổi, người dùng có thể tìm ra cách sử dụng mới, còn mục tiêu của tổ chức cũng có thể được điều chỉnh. Việc ghi nhận phiên bản mô hình, thời điểm cập nhật, thay đổi trong dữ liệu và các sự cố phát sinh giúp tổ chức truy nguyên khi có vấn đề. Với các quyết định quan trọng, nên duy trì khả năng chuyển sang quy trình thủ công hoặc tạm dừng tự động hóa nếu hệ thống có dấu hiệu hoạt động bất thường.
Vai trò của con người không chỉ là kiểm tra lần cuối
Con người thường được nhắc đến như một lớp kiểm duyệt cuối cùng, nhưng vai trò đó chỉ hiệu quả khi người kiểm duyệt có đủ thông tin, thời gian và quyền hạn. Nếu nhân viên chỉ nhìn thấy một điểm số hoặc một khuyến nghị mà không biết mức độ tin cậy, họ có thể chấp nhận kết quả theo thói quen. Ngược lại, nếu phải tự kiểm tra mọi kết quả nhưng không có hướng dẫn, quy trình sẽ chậm và thiếu nhất quán.
Một quy trình hợp lý cần quy định khi nào con người được quyền bác bỏ đề xuất của AI, cách ghi nhận lý do bác bỏ và trường hợp nào phải chuyển cho cấp chuyên môn. Người sử dụng cũng cần được đào tạo về giới hạn của mô hình, nguy cơ phụ thuộc quá mức vào tự động hóa và cách xử lý dữ liệu nhạy cảm. Đào tạo không nhằm biến mọi nhân viên thành chuyên gia máy học, mà giúp họ biết lúc nào nên tin, lúc nào cần kiểm chứng và lúc nào phải dừng quy trình.
Minh bạch cũng cần được hiểu theo hướng thực tế. Không phải lúc nào người dùng cũng cần biết toàn bộ mã nguồn hay công thức toán học của mô hình. Điều quan trọng hơn là họ biết hệ thống đang làm gì, dựa trên loại dữ liệu nào, có thể sai ở đâu, kết quả được dùng vào quyết định nào và họ có cơ chế yêu cầu xem xét hay không. Những thông tin này giúp người bị ảnh hưởng và người vận hành cùng nhận diện trách nhiệm rõ ràng hơn.
Sử dụng AI công bằng là một quá trình liên tục
Thiên lệch thuật toán không thể được xử lý chỉ bằng một lần làm sạch dữ liệu hoặc một tuyên bố rằng hệ thống đã được kiểm tra. Công bằng trong AI là kết quả của nhiều lớp công việc, từ xác định mục tiêu, thiết kế dữ liệu, xây dựng mô hình đến triển khai, giám sát và tiếp nhận phản hồi. Mỗi lớp đều có thể tạo ra rủi ro, nhưng cũng là một cơ hội để phát hiện và điều chỉnh sai lệch.
Đối với cá nhân, cách sử dụng thận trọng bắt đầu từ việc không xem câu trả lời hoặc khuyến nghị của AI là sự thật cuối cùng. Người dùng nên kiểm tra thông tin quan trọng, cung cấp bối cảnh đầy đủ khi phù hợp và báo cáo những lỗi lặp lại. Đối với tổ chức, điều cần thiết là xây dựng quy trình có trách nhiệm thay vì chỉ mua một công cụ rồi giao toàn bộ quyết định cho nó.
AI có thể giúp con người xử lý công việc hiệu quả hơn, nhưng giá trị của công nghệ không chỉ được đo bằng tốc độ hay khả năng tự động hóa. Một hệ thống đáng tin cậy còn phải có giới hạn rõ ràng, có cơ chế kiểm tra và có người chịu trách nhiệm khi kết quả gây ảnh hưởng. Nhận diện thiên lệch không làm giảm tiềm năng của AI. Ngược lại, đó là điều kiện để công nghệ được triển khai thận trọng, minh bạch và phù hợp hơn với sự đa dạng của đời sống.
