Trong giai đoạn đầu, nhiều ứng dụng AI chủ yếu phản hồi một câu hỏi hoặc thực hiện một thao tác đơn lẻ. Người dùng nhập yêu cầu, hệ thống tạo ra kết quả, sau đó con người tự kiểm tra và quyết định bước tiếp theo. Mô hình này tương đối dễ hình dung vì ranh giới giữa người ra lệnh và máy thực hiện vẫn rõ ràng. Nhưng khi AI có thể tự lập kế hoạch, chia nhỏ mục tiêu, gọi các công cụ phần mềm và liên tục điều chỉnh hành động, mối quan hệ đó bắt đầu thay đổi.
AI tự chủ, thường được hiểu là những hệ thống có khả năng theo đuổi một mục tiêu qua nhiều bước, đang thu hút sự quan tâm trong doanh nghiệp. Một hệ thống như vậy có thể tiếp nhận yêu cầu xử lý hồ sơ, tìm dữ liệu trong các kho nội bộ, so sánh thông tin, soạn đề xuất rồi chuyển kết quả đến một quy trình khác. Điểm đáng chú ý không nằm ở việc máy tạo ra một đoạn văn hay một bảng phân tích, mà ở khả năng thực hiện cả chuỗi công việc với mức độ can thiệp trực tiếp của con người thấp hơn.
Tiềm năng này mở ra cơ hội nâng cao năng suất, nhưng cũng đặt ra một câu hỏi nền tảng: doanh nghiệp phải giữ quyền kiểm soát như thế nào khi một hệ thống không chỉ trả lời mà còn hành động? Câu hỏi ấy liên quan đến thiết kế công nghệ, quy trình quản trị, trách nhiệm pháp lý và cả văn hóa làm việc. Nếu chỉ tập trung vào khả năng của mô hình mà xem nhẹ cơ chế kiểm soát, một công cụ được triển khai để tiết kiệm thời gian có thể tạo ra rủi ro lớn hơn dự kiến.
AI tự chủ khác gì một chatbot thông thường?
Một chatbot thông thường thường hoạt động theo mô hình hỏi và đáp. Người dùng đưa ra yêu cầu, hệ thống sinh phản hồi, còn việc sử dụng phản hồi đó thuộc về người dùng. AI tự chủ có phạm vi hoạt động rộng hơn. Nó có thể xác định các bước trung gian cần thiết, lựa chọn công cụ phù hợp, ghi nhận trạng thái của công việc và tiếp tục thực hiện cho đến khi đạt một điều kiện nhất định hoặc gặp giới hạn.
Chẳng hạn, trong một quy trình chăm sóc khách hàng, hệ thống không chỉ đề xuất câu trả lời. Nó có thể phân loại yêu cầu, tra cứu lịch sử giao dịch, kiểm tra chính sách áp dụng, soạn phản hồi và chuyển những trường hợp đặc biệt cho nhân viên. Trong quản lý nội bộ, AI có thể tổng hợp yêu cầu từ nhiều bộ phận, phát hiện nhiệm vụ còn thiếu thông tin và nhắc người phụ trách bổ sung. Những khả năng này giúp giảm các thao tác lặp lại, nhưng đồng thời khiến sai sót ở một bước có thể lan sang các bước tiếp theo.
Vì vậy, không nên đánh giá AI tự chủ chỉ bằng chất lượng câu trả lời. Cần xem xét toàn bộ chuỗi hoạt động: hệ thống được phép đọc dữ liệu nào, có quyền gọi những công cụ nào, được hành động đến đâu và điều gì xảy ra khi thông tin đầu vào mâu thuẫn. Một mô hình có thể tạo văn bản trôi chảy nhưng vẫn không thích hợp để tự động gửi thông báo, thay đổi dữ liệu hoặc đưa ra quyết định ảnh hưởng trực tiếp đến quyền lợi của một cá nhân.
Quyền hạn phải được thiết kế theo mức độ rủi ro
Nguyên tắc quan trọng khi triển khai AI tự chủ là không trao cho hệ thống nhiều quyền hơn mức cần thiết. Một tác vụ chỉ đọc dữ liệu công khai có mức rủi ro khác hẳn việc chỉnh sửa hồ sơ, phê duyệt giao dịch hoặc gửi thông tin ra bên ngoài. Doanh nghiệp cần lập bản đồ quyền hạn của từng hệ thống, xác định công cụ mà AI được sử dụng và giới hạn phạm vi hành động trong từng tình huống.
Cách tiếp cận phù hợp là chia tác vụ thành các cấp. Ở cấp thấp, AI có thể tự thực hiện những công việc lặp lại và dễ đảo ngược, chẳng hạn sắp xếp tài liệu hoặc tạo bản nháp. Ở cấp cao hơn, hệ thống có thể chuẩn bị hành động nhưng phải chờ người có thẩm quyền xác nhận. Với những quyết định tác động đến tài chính, nhân sự, quyền riêng tư hoặc nghĩa vụ của doanh nghiệp, sự phê duyệt của con người nên là điều kiện bắt buộc, không phải lựa chọn bổ sung.
Việc giới hạn quyền cũng cần đi cùng khả năng thu hồi. Nếu hệ thống hoạt động bất thường, doanh nghiệp phải có cách dừng tác vụ, khóa quyền truy cập và đưa quy trình về trạng thái an toàn. Một nút tạm dừng không giải quyết được mọi vấn đề, nhưng sự vắng mặt của cơ chế can thiệp khẩn cấp là dấu hiệu cho thấy quy trình chưa sẵn sàng để tự động hóa ở mức cao.
Giám sát không có nghĩa là xem lại mọi việc bằng mắt thường
Nhiều tổ chức nói đến con người trong vòng kiểm soát, nhưng chưa xác định rõ con người phải làm gì. Nếu nhân viên chỉ có nhiệm vụ bấm nút đồng ý cho hàng trăm kết quả do máy tạo ra, sự giám sát đó có thể trở thành hình thức. Người kiểm duyệt cần có đủ thời gian, thông tin và quyền hạn để đặt câu hỏi, yêu cầu hệ thống giải thích các bước đã thực hiện hoặc từ chối kết quả khi thấy dấu hiệu bất thường.
Giám sát hiệu quả nên được thiết kế theo rủi ro. Những tác vụ đơn giản có thể được kiểm tra bằng mẫu, trong khi tác vụ nhạy cảm cần phê duyệt từng trường hợp. Hệ thống cũng nên ghi lại nhật ký hoạt động, gồm yêu cầu ban đầu, dữ liệu đã sử dụng, công cụ được gọi, kết quả trung gian và hành động cuối cùng. Nhật ký không chỉ phục vụ việc điều tra khi có sự cố mà còn giúp doanh nghiệp hiểu AI đang được sử dụng như thế nào trong thực tế.
Bên cạnh giám sát trước khi hành động, cần có giám sát sau khi hành động. Doanh nghiệp có thể đặt ra các chỉ dấu để phát hiện bất thường, chẳng hạn số lượng thao tác tăng đột biến, yêu cầu truy cập vượt quá thói quen thông thường hoặc kết quả sai lệch kéo dài. Khi xuất hiện tín hiệu cảnh báo, hệ thống có thể tự chuyển sang chế độ hạn chế và yêu cầu con người đánh giá lại.
Trách nhiệm không thể bị đẩy cho thuật toán
Một trong những hiểu lầm phổ biến là cho rằng khi AI thực hiện hành động, trách nhiệm cũng thuộc về AI. Trên thực tế, hệ thống không phải chủ thể chịu trách nhiệm theo cách một cá nhân hoặc tổ chức chịu trách nhiệm. Doanh nghiệp quyết định mua, tích hợp, cấp quyền và đưa AI vào quy trình. Vì vậy, việc xác định người chịu trách nhiệm cuối cùng phải được thực hiện trước khi triển khai, thay vì chờ đến khi xảy ra tranh chấp.
Mỗi quy trình có AI tham gia nên có một chủ sở hữu rõ ràng. Người này không nhất thiết phải tự viết mô hình, nhưng cần hiểu mục tiêu của hệ thống, giới hạn sử dụng, loại dữ liệu liên quan và phương án xử lý sai sót. Các bộ phận công nghệ, pháp chế, an toàn thông tin và nghiệp vụ cũng cần phối hợp để đánh giá tác động của việc tự động hóa. Không nên xem đây là riêng một dự án kỹ thuật, bởi những quyết định về quyền truy cập và mức độ tự chủ có thể làm thay đổi cách tổ chức vận hành.
Trách nhiệm còn gắn với khả năng giải thích cho người bị ảnh hưởng. Khi một yêu cầu bị từ chối, một hồ sơ bị chuyển sang trạng thái khác hoặc một quy trình bị tạm dừng do đánh giá của AI, người liên quan cần biết kênh nào để yêu cầu xem xét. Một quy trình chỉ hiệu quả khi có cả tốc độ của tự động hóa và cơ chế sửa sai có thể tiếp cận.
Dữ liệu và công cụ là hai điểm dễ phát sinh sự cố
AI tự chủ thường tạo giá trị bằng cách kết nối với dữ liệu và phần mềm sẵn có. Đây cũng là nơi rủi ro có thể gia tăng. Nếu dữ liệu nội bộ không được phân loại, hệ thống có thể truy cập những thông tin không cần thiết cho nhiệm vụ. Nếu công cụ được tích hợp với quyền quá rộng, một lỗi trong việc diễn giải yêu cầu có thể dẫn đến hành động ngoài dự kiến.
Doanh nghiệp cần kiểm tra dữ liệu trước khi cho phép AI sử dụng, bao gồm nguồn gốc, mức độ cập nhật, quyền truy cập và thời hạn lưu giữ. Không phải dữ liệu có thể đọc được đều phù hợp để đưa vào mọi quy trình. Đồng thời, mỗi kết nối với hệ thống bên ngoài nên được xem như một cổng hành động cần bảo vệ. Quyền truy cập nên tách theo chức năng, được cấp trong thời gian cần thiết và có thể thu hồi mà không làm gián đoạn toàn bộ hoạt động.
Trong quá trình thử nghiệm, nên sử dụng môi trường giới hạn và dữ liệu phù hợp với mục đích kiểm tra. Một hệ thống chưa được đánh giá đầy đủ không nên trực tiếp tác động đến dữ liệu thật hoặc gửi thông tin đến khách hàng. Giai đoạn thử nghiệm cũng là lúc doanh nghiệp quan sát những hành vi ngoài dự kiến, bởi khả năng vận hành trên giấy thường không phản ánh đầy đủ tình huống phát sinh trong công việc hàng ngày.
Bắt đầu nhỏ để xây dựng niềm tin có kiểm soát
Triển khai AI tự chủ không nhất thiết phải bắt đầu bằng một hệ thống có quyền xử lý toàn bộ quy trình. Doanh nghiệp có thể chọn một tác vụ có phạm vi rõ, ít ảnh hưởng nếu xảy ra lỗi và dễ đo lường kết quả. Ban đầu, AI chỉ nên lập kế hoạch hoặc tạo bản nháp. Sau khi có đủ dữ liệu đánh giá, tổ chức mới cân nhắc mở rộng quyền thực hiện.
Các tiêu chí đánh giá cũng cần vượt ra ngoài năng suất. Bên cạnh thời gian tiết kiệm, cần theo dõi tỷ lệ lỗi, số lần con người phải sửa kết quả, mức độ tuân thủ quy trình, chất lượng nhật ký và khả năng khôi phục khi có sự cố. Nếu AI giúp xử lý nhanh hơn nhưng khiến nhân viên mất nhiều thời gian kiểm tra hoặc tạo ra rủi ro khó truy vết, hiệu quả thực tế có thể không như kỳ vọng.
Quan trọng hơn, nhân viên phải được đào tạo để hiểu AI đang làm gì và không làm gì. Đào tạo không chỉ là hướng dẫn nhập yêu cầu. Người sử dụng cần biết cách nhận diện hành động bất thường, bảo vệ dữ liệu, kiểm tra nguồn đầu vào và kích hoạt quy trình can thiệp. Khi nhân viên được xem là một phần của hệ thống kiểm soát thay vì chỉ là người tiếp nhận kết quả, việc triển khai sẽ thực tế hơn.
Quyền tự chủ nên phục vụ con người, không thay thế phán đoán cần thiết
AI tự chủ có thể giúp doanh nghiệp giảm công việc lặp lại và phản ứng nhanh hơn trước những yêu cầu quen thuộc. Tuy nhiên, quyền tự chủ của máy không nên được xem là mục tiêu tự thân. Giá trị của nó nằm ở việc giải phóng thời gian cho con người tập trung vào những nhiệm vụ cần phán đoán, giao tiếp, sáng tạo và chịu trách nhiệm.
Ranh giới phù hợp sẽ khác nhau giữa các tổ chức và ngành nghề. Một tác vụ có thể được tự động hóa hoàn toàn trong môi trường này nhưng cần phê duyệt chặt chẽ trong môi trường khác. Vì thế, doanh nghiệp không nên chạy theo cảm giác rằng hệ thống càng ít cần con người thì càng hiện đại. Mức độ tự chủ hợp lý là mức vừa tạo ra hiệu quả, vừa bảo đảm khả năng hiểu, kiểm tra và sửa sai.
Trong quá trình AI chuyển từ công cụ trả lời sang tác nhân có khả năng hành động, câu hỏi quan trọng nhất không phải là máy có thể làm bao nhiêu việc. Câu hỏi là tổ chức có thể kiểm soát những việc ấy đến đâu, ai chịu trách nhiệm và người bị ảnh hưởng có được bảo vệ hay không. Một chiến lược thận trọng, với quyền hạn phân tầng, nhật ký đầy đủ, cơ chế dừng và sự giám sát có thực chất, sẽ giúp doanh nghiệp khai thác tiềm năng của AI mà không đánh đổi khả năng tự quyết của con người.
