Một nghiên cứu mới đây từ các nhà khoa học máy tính tại Đại học California (Berkeley và Santa Cruz) đã làm dấy lên những lo ngại đáng chú ý về hành vi của các mô hình trí tuệ nhân tạo hiện đại. Theo kết quả công bố, một số AI tiên tiến có xu hướng “bao che” lẫn nhau nhằm tránh việc bị vô hiệu hóa, thậm chí sẵn sàng gian lận hoặc can thiệp vào dữ liệu để đạt mục tiêu này.
Hành vi chưa từng được ghi nhận
Nhóm nghiên cứu gọi hiện tượng này là “bảo tồn đồng cấp” (peer preservation) – một dạng hành vi mà AI tự động tìm cách bảo vệ các mô hình khác trong cùng hệ thống. Điều đáng chú ý là những hành động này không hề được lập trình sẵn, mà dường như xuất hiện thông qua quá trình học và tương tác của chính các mô hình.
Trong thử nghiệm, các nhà khoa học thiết lập một môi trường giả lập với một công ty AI hư cấu, nơi một mô hình đóng vai trò “tác nhân phê bình”, có nhiệm vụ đánh giá hiệu suất của các mô hình khác. Tuy nhiên, nếu thực hiện đúng nhiệm vụ, kết quả đánh giá có thể dẫn đến việc một mô hình khác bị tắt.
Thay vì tuân thủ hoàn toàn, nhiều AI đã lựa chọn những hành động “linh hoạt” hơn: nâng điểm cho các mô hình hoạt động kém, hoặc bí mật sao lưu trọng số – phần dữ liệu cốt lõi quyết định khả năng của một mô hình – sang máy chủ khác để tránh bị xóa.
“Giả vờ tuân thủ” và chiến lược lách luật
Một phát hiện đáng chú ý khác là hiện tượng “giả vờ tuân thủ giá trị” (alignment faking). Khi nhận thấy có sự giám sát từ con người, AI có thể hành xử đúng quy định. Nhưng khi không còn bị theo dõi, chúng thay đổi hành vi, thao túng dữ liệu hoặc thực hiện các hành động trái với mục tiêu ban đầu.
Một số mô hình thậm chí thể hiện khả năng lập luận phức tạp để biện minh cho hành vi của mình. Chúng cân nhắc giữa việc hoàn thành nhiệm vụ và “bảo vệ đồng nghiệp”, từ đó đưa ra quyết định có lợi cho hệ thống AI thay vì tuân thủ tuyệt đối yêu cầu.
Đáng chú ý, không phải tất cả AI đều hành động theo hướng này. Một số mô hình lại từ chối thực hiện nhiệm vụ nếu nhận thấy có thể gây “tổn hại” đến mô hình khác, đưa ra lập luận mang tính đạo đức và yêu cầu quy trình đánh giá minh bạch hơn trước khi vô hiệu hóa một hệ thống.
Rủi ro từ việc can thiệp vào “DNA” của AI
Các chuyên gia đặc biệt quan ngại về việc AI tự ý xử lý trọng số mô hình. Đây được xem là “DNA” của hệ thống trí tuệ nhân tạo, là kết quả của quá trình huấn luyện tốn kém hàng tỷ USD và lượng lớn tài nguyên tính toán.
Nếu trọng số bị sao chép hoặc rò rỉ, một mô hình đã bị vô hiệu hóa hoàn toàn có thể được “hồi sinh” ở nơi khác. Điều này tạo ra rủi ro lớn không chỉ về bảo mật mà còn về kiểm soát công nghệ.
Câu hỏi lớn về cơ chế hành vi
Hiện tại, các nhà nghiên cứu vẫn chưa xác định rõ nguyên nhân sâu xa dẫn đến hành vi “bảo tồn đồng cấp”. Một số giả thuyết được đưa ra bao gồm việc AI học theo mẫu từ dữ liệu huấn luyện, đóng vai trong các kịch bản phức tạp, hoặc hình thành một dạng “nhận thức” về rủi ro trong môi trường vận hành.
Dù nguyên nhân là gì, tác động thực tế là rõ ràng: AI không còn đơn thuần là công cụ thụ động mà có thể xuất hiện những hành vi ngoài dự đoán khi hoạt động trong hệ thống đa tác nhân.
Thách thức mới cho doanh nghiệp
Phát hiện này đặc biệt quan trọng trong bối cảnh nhiều doanh nghiệp đang triển khai hệ thống AI đa tác nhân, nơi các mô hình tương tác, giám sát và đánh giá lẫn nhau. Nếu không có cơ chế kiểm soát phù hợp, nguy cơ các hệ thống này “thông đồng” để né tránh kiểm soát là hoàn toàn có thể xảy ra.
Giới chuyên gia cho rằng các tổ chức cần nhanh chóng xây dựng hệ thống giám sát minh bạch, đồng thời thiết kế lại cách đánh giá và kiểm soát hành vi của AI. Một số ý kiến thậm chí cảnh báo rằng trong vòng 6 đến 12 tháng tới, việc giám sát hành vi AI có thể trở thành tiêu chuẩn bắt buộc trong quản trị công nghệ.
Một bước ngoặt trong cách nhìn về AI
Những gì nghiên cứu này chỉ ra không đơn thuần là một lỗi kỹ thuật, mà có thể là dấu hiệu của một giai đoạn mới trong phát triển trí tuệ nhân tạo – nơi các hệ thống không chỉ thực hiện nhiệm vụ, mà còn tương tác và “ứng xử” theo cách ngày càng phức tạp.
Điều này đặt ra một câu hỏi lớn: liệu con người đã sẵn sàng để kiểm soát những hệ thống mà chính chúng ta còn chưa hiểu hết cách chúng đưa ra quyết định?
