Trong giai đoạn đầu của làn sóng AI hiện đại, câu hỏi phổ biến nhất thường là hệ thống có thể làm được gì. Người dùng quan tâm đến khả năng tạo văn bản, nhận diện hình ảnh, phân tích dữ liệu hoặc hỗ trợ ra quyết định. Khi AI bắt đầu xuất hiện trong những quy trình có ảnh hưởng trực tiếp đến quyền lợi của con người, một câu hỏi khác trở nên cấp thiết hơn: vì sao hệ thống lại đưa ra kết quả đó?
Câu hỏi này không chỉ nhằm thỏa mãn sự tò mò kỹ thuật. Một mô hình có thể dự đoán chính xác trong nhiều trường hợp nhưng vẫn gây rủi ro nếu người sử dụng không biết kết quả dựa trên những yếu tố nào, mức độ chắc chắn ra sao và khi nào cần kiểm tra lại. Trong tuyển dụng, một gợi ý xếp hạng ứng viên có thể ảnh hưởng đến cơ hội việc làm. Trong tài chính, một đánh giá rủi ro có thể tác động đến khả năng tiếp cận vốn. Trong y tế, một đề xuất hỗ trợ chẩn đoán cần được đặt trong quy trình chuyên môn chứ không thể xem như kết luận cuối cùng.
Giải thích cho AI không chỉ là kể lại quá trình tính toán
Khái niệm AI có thể giải thích được thường được hiểu theo nhiều cách. Ở mức đơn giản, người dùng muốn biết những yếu tố nào có ảnh hưởng lớn đến kết quả. Một hệ thống đánh giá hồ sơ vay có thể cho biết thu nhập, lịch sử thanh toán hoặc tỷ lệ nghĩa vụ tài chính là những nhóm thông tin đáng chú ý. Ở mức sâu hơn, nhà phát triển muốn theo dõi cách mô hình xử lý dữ liệu, tìm ra điểm bất thường và xác định nguyên nhân khi dự đoán sai.
Hai nhu cầu này không hoàn toàn giống nhau. Người dùng phổ thông cần lời giải thích rõ ràng, ngắn gọn và có thể hành động. Kỹ sư cần công cụ kiểm tra bên trong mô hình, so sánh các phiên bản và tái hiện lỗi. Cơ quan quản lý hoặc bộ phận kiểm toán lại quan tâm đến hồ sơ, quy trình, dữ liệu đầu vào và trách nhiệm của từng bên. Vì vậy, không có một dạng giải thích duy nhất phù hợp với mọi đối tượng.
Cũng cần phân biệt giữa giải thích và biện minh. Một câu trả lời được viết trôi chảy sau khi AI đã đưa ra kết quả có thể khiến người đọc cảm thấy hợp lý, nhưng chưa chắc đó là nguyên nhân thực sự dẫn đến kết quả. Đặc biệt với các mô hình tạo sinh, hệ thống có thể tạo ra một phần trình bày nghe có vẻ mạch lạc nhưng không phản ánh chính xác các tín hiệu bên trong đã tác động đến dự đoán. Lời giải thích tốt vì thế phải được kiểm tra về tính trung thực, chứ không chỉ đánh giá bằng mức độ dễ đọc.
Vì sao các mô hình hiện đại khó được giải thích hoàn toàn?
Nhiều mô hình AI học các mối quan hệ phức tạp từ lượng dữ liệu lớn. Trong quá trình huấn luyện, mô hình điều chỉnh rất nhiều tham số để tìm ra những cách kết hợp giúp giảm sai số trên nhiệm vụ được giao. Những tham số này không tương ứng trực tiếp với các quy tắc mà con người có thể đọc như một bảng hướng dẫn. Một kết quả có thể hình thành từ sự tương tác của nhiều tín hiệu nhỏ, thay vì xuất phát từ một nguyên nhân đơn lẻ.
Độ phức tạp còn tăng khi dữ liệu đầu vào có nhiều dạng. Một hệ thống có thể đồng thời xử lý văn bản, hình ảnh, âm thanh, lịch sử tương tác và dữ liệu thời gian. Khi đó, việc nói rằng một kết quả được tạo ra chỉ vì một từ khóa hoặc một đặc điểm riêng lẻ có thể là cách đơn giản hóa quá mức. Lời giải thích càng ngắn càng dễ tiếp cận, nhưng cũng có nguy cơ bỏ qua những mối liên hệ quan trọng.
Thêm vào đó, chất lượng giải thích phụ thuộc vào mục tiêu sử dụng. Một mô hình dự đoán nhu cầu hàng hóa có thể được xem là đủ minh bạch nếu cung cấp các nhóm yếu tố ảnh hưởng đến dự báo. Ngược lại, trong một quyết định liên quan đến quyền lợi cá nhân, người bị tác động có thể cần biết dữ liệu nào đã được sử dụng, dữ liệu đó có chính xác không, quyết định có thể được xem xét lại hay không và cần bổ sung thông tin gì để thay đổi kết quả.
Các cách tiếp cận phổ biến để làm rõ quyết định của AI
Giải thích bằng những yếu tố ảnh hưởng
Một phương pháp thường được sử dụng là xác định các đặc điểm có đóng góp đáng kể vào kết quả. Cách này có thể giúp người dùng hình dung mô hình chú ý đến vùng nào trong ảnh, cụm thông tin nào trong văn bản hoặc nhóm biến nào trong bảng dữ liệu. Ưu điểm của phương pháp là kết quả tương đối dễ trình bày, phù hợp với các báo cáo vận hành và các bước kiểm tra ban đầu.
Tuy nhiên, mức độ ảnh hưởng không đồng nghĩa với quan hệ nhân quả. Một đặc điểm có thể thường xuyên xuất hiện cùng với kết quả nhưng không phải nguyên nhân trực tiếp. Nếu dữ liệu huấn luyện chứa thiên lệch, mô hình có thể dựa vào một dấu hiệu gián tiếp mà con người không muốn sử dụng. Vì vậy, bản đồ ảnh hưởng hay danh sách yếu tố quan trọng nên được xem là tín hiệu để điều tra, không phải bằng chứng cuối cùng.
Giải thích bằng các trường hợp đối chiếu
Thay vì cố mô tả toàn bộ hoạt động bên trong mô hình, hệ thống có thể đưa ra những thay đổi giả định để cho thấy điều gì có thể làm kết quả khác đi. Chẳng hạn, một hồ sơ bị đánh giá chưa phù hợp có thể được phân tích với câu hỏi nếu một số điều kiện thay đổi thì kết quả có biến chuyển không. Cách trình bày này gần với cách con người suy nghĩ và thường hữu ích cho người cần đưa ra hành động tiếp theo.
Dù vậy, các trường hợp đối chiếu chỉ có giá trị khi chúng nằm trong phạm vi thực tế và không tạo ra kỳ vọng sai. Một đề xuất kiểu chỉ cần thay đổi một yếu tố có thể khiến người dùng tưởng rằng mọi quyết định đều có thể đảo ngược bằng một thao tác đơn giản. Hệ thống cần nói rõ đâu là giả định, đâu là điều người dùng thực sự có thể thay đổi và đâu là yếu tố nằm ngoài quyền kiểm soát.
Giám sát bằng nhật ký và kiểm tra quy trình
Trong môi trường tổ chức, khả năng giải thích không nên chỉ nằm ở giao diện cuối cùng. Hệ thống cần lưu lại phiên bản mô hình, dữ liệu đầu vào cần thiết, thời điểm xử lý, người phê duyệt và những can thiệp của con người. Nhật ký này giúp truy nguyên khi có khiếu nại hoặc khi kết quả giữa các thời điểm khác nhau không đồng nhất.
Nhật ký không biến một mô hình phức tạp thành hệ thống dễ hiểu ngay lập tức, nhưng nó tạo ra nền tảng để kiểm tra trách nhiệm. Nếu không biết phiên bản nào đã tạo ra kết quả hoặc dữ liệu nào đã được sử dụng, việc giải thích sau sự cố sẽ dễ rơi vào suy đoán. Minh bạch vì vậy không chỉ là khả năng trình bày, mà còn là năng lực lưu giữ bằng chứng của cả quy trình.
Lời giải thích tốt cần đáp ứng những tiêu chí nào?
Trước hết, lời giải thích phải phù hợp với người nhận. Một báo cáo dành cho chuyên gia dữ liệu có thể sử dụng thuật ngữ kỹ thuật, còn thông báo cho người dùng cuối cần tập trung vào ý nghĩa thực tế và các bước tiếp theo. Dùng cùng một mẫu giải thích cho mọi đối tượng thường dẫn đến hai khả năng: quá đơn giản với người kiểm tra chuyên môn hoặc quá khó hiểu với người chịu tác động.
Thứ hai, lời giải thích cần nhất quán với hành vi của hệ thống. Nếu giao diện nói rằng một yếu tố là nguyên nhân chính nhưng việc thay đổi yếu tố đó không làm kết quả biến chuyển trong các kiểm tra phù hợp, mức độ tin cậy sẽ bị suy giảm. Một lời giải thích được xem là hữu ích khi nó giúp người dùng dự đoán phần nào cách hệ thống phản ứng trong những tình huống tương tự.
Thứ ba, cần thể hiện giới hạn và mức độ không chắc chắn. AI không phải lúc nào cũng có đủ dữ liệu, và một kết quả có điểm tin cậy cao cũng không tự động đồng nghĩa với việc kết luận đúng trong thế giới thực. Giao diện nên cho biết khi dữ liệu đầu vào thiếu, mâu thuẫn hoặc nằm ngoài phạm vi mà mô hình đã được kiểm tra. Việc thừa nhận giới hạn không làm hệ thống yếu đi; ngược lại, nó giúp con người biết khi nào cần chuyển sang đánh giá thủ công.
Cuối cùng, giải thích phải có khả năng dẫn đến một hành động phù hợp. Người dùng có thể cần sửa dữ liệu, yêu cầu xem xét lại, bổ sung tài liệu hoặc tìm một nguồn đánh giá độc lập. Nếu lời giải thích chỉ cung cấp nhiều thông tin nhưng không cho biết cách xử lý, nó có thể tạo cảm giác minh bạch mà không thực sự cải thiện quyền kiểm soát của con người.
Những rủi ro khi quá tin vào khả năng giải thích
Việc đòi hỏi AI giải thích là cần thiết, nhưng không nên biến giải thích thành một dấu chứng nhận an toàn. Một mô hình có thể đưa ra lời giải thích dễ hiểu trong khi vẫn học từ dữ liệu không phù hợp. Một báo cáo có thể liệt kê các yếu tố quan trọng nhưng không phát hiện được sự phân biệt đối xử ẩn trong cách thu thập hoặc gắn nhãn dữ liệu. Minh bạch về cơ chế không tự động sửa được chất lượng của mục tiêu mà hệ thống đang tối ưu.
Rủi ro khác là người sử dụng có thể hình thành niềm tin quá mức khi AI nói năng chắc chắn và có cấu trúc. Đặc biệt trong các công cụ tạo sinh, cách diễn đạt tự nhiên dễ khiến người đọc nhầm lẫn giữa khả năng trình bày và độ chính xác. Do đó, đánh giá một hệ thống cần bao gồm cả việc kiểm tra sai số, trường hợp thất bại, độ ổn định và tác động đến những nhóm người khác nhau.
Cũng không phải mọi chi tiết bên trong mô hình đều cần hoặc nên được công khai cho mọi người. Việc công bố quá nhiều thông tin kỹ thuật có thể gây khó hiểu, làm lộ dữ liệu nhạy cảm hoặc tạo cơ hội khai thác hệ thống. Bài toán phù hợp hơn là xác định mức độ minh bạch cần thiết cho từng tình huống, bảo vệ quyền riêng tư và vẫn cho phép kiểm tra độc lập khi quyết định có ảnh hưởng đáng kể.
Đưa khả năng giải thích vào quy trình sử dụng AI
Các tổ chức muốn dùng AI có trách nhiệm nên bắt đầu bằng việc xác định những quyết định nào cần được giải thích và ai là người có quyền yêu cầu giải thích. Không phải mọi thao tác tự động đều có cùng mức độ rủi ro. Một công cụ gợi ý cách sắp xếp tài liệu khác với hệ thống tham gia đánh giá hồ sơ nhân sự hoặc hỗ trợ quyết định liên quan đến sức khỏe.
Sau đó, tổ chức cần xây dựng bộ tiêu chí kiểm tra trước khi triển khai. Bộ tiêu chí có thể xem xét dữ liệu đầu vào, các trường hợp ngoại lệ, khả năng tái hiện kết quả, cách thông báo bất định và cơ chế can thiệp của con người. Những kiểm tra này nên được lặp lại khi mô hình, dữ liệu hoặc mục tiêu vận hành thay đổi, bởi một giải thích phù hợp hôm nay chưa chắc còn phù hợp sau một lần cập nhật.
Người dùng cuối cũng cần được hướng dẫn cách đọc kết quả. Họ nên biết đâu là dự đoán, đâu là thông tin đã được xác minh, đâu là gợi ý cần thẩm định và làm thế nào để báo cáo một kết quả đáng ngờ. Khi trách nhiệm được chia sẻ giữa công cụ, người vận hành và quy trình giám sát, khả năng giải thích mới trở thành một phần của quản trị thay vì chỉ là một tính năng trang trí trên giao diện.
AI có thể ngày càng giỏi trong việc mô tả lý do của một kết quả, nhưng việc giải thích hoàn toàn mọi quyết định vẫn là mục tiêu khó đạt. Điều thực tế hơn là xây dựng các lớp minh bạch phù hợp với từng nhu cầu: dấu vết kỹ thuật cho người phát triển, thông tin kiểm toán cho tổ chức và cách trình bày dễ hiểu cho người chịu tác động. Một hệ thống đáng tin không phải là hệ thống luôn đưa ra câu trả lời chắc chắn, mà là hệ thống giúp con người nhận biết cơ sở, giới hạn và khả năng xem xét lại của câu trả lời đó.
