Trong giai đoạn đầu của làn sóng AI tạo sinh, phần lớn người dùng tương tác với một hệ thống theo cách khá đơn giản: đặt câu hỏi, nhận câu trả lời rồi tự mình quyết định bước tiếp theo. Tác nhân AI, thường được gọi là AI agent, mở rộng mô hình này. Thay vì chỉ phản hồi một yêu cầu đơn lẻ, tác nhân có thể phân tích mục tiêu, chia công việc thành nhiều bước, sử dụng các công cụ được cấp quyền và điều chỉnh hành động dựa trên kết quả nhận được.
Khả năng đó khiến tác nhân AI trở nên hữu ích trong nhiều tình huống, từ sắp xếp thông tin, hỗ trợ nghiên cứu đến tự động hóa một quy trình trong doanh nghiệp. Tuy nhiên, mức độ tự hành càng cao thì yêu cầu về quyền hạn, giám sát và trách nhiệm càng lớn. Một hệ thống có thể tự lập kế hoạch cũng có thể chọn cách thực hiện không phù hợp, hiểu sai mục tiêu hoặc gây ra hậu quả nếu được kết nối với dữ liệu và công cụ quan trọng.
Tác nhân AI khác gì một chatbot thông thường?
Chatbot thông thường chủ yếu tạo phản hồi dựa trên nội dung người dùng cung cấp và ngữ cảnh mà hệ thống có thể tiếp cận. Nó có thể viết email, giải thích một khái niệm hoặc đề xuất ý tưởng, nhưng việc gửi email, cập nhật hồ sơ hay thực hiện giao dịch thường vẫn cần con người làm bước cuối.
Tác nhân AI được thiết kế để hướng tới một mục tiêu rộng hơn. Hệ thống có thể bắt đầu bằng việc xác định yêu cầu, sau đó lập danh sách nhiệm vụ cần hoàn thành. Nếu được tích hợp với lịch làm việc, kho tài liệu, công cụ tìm kiếm hoặc phần mềm quản lý, tác nhân có thể lần lượt gọi các công cụ đó. Sau mỗi bước, nó đánh giá kết quả, tìm thêm thông tin khi cần và tiếp tục cho tới khi hoàn thành mục tiêu hoặc gặp điều kiện phải dừng.
Ranh giới giữa chatbot và tác nhân AI không phải lúc nào cũng tuyệt đối. Một chatbot có thể được bổ sung khả năng gọi công cụ, còn một tác nhân có thể vẫn cần con người phê duyệt ở nhiều điểm. Điểm khác biệt quan trọng nằm ở mức độ hệ thống được phép tự quyết định và tự thực hiện hành động, chứ không chỉ ở tên gọi của sản phẩm.
Một tác nhân AI thường vận hành qua những thành phần nào?
Thành phần đầu tiên là mục tiêu. Một yêu cầu như “chuẩn bị bản tổng hợp cuộc họp” vẫn còn khá rộng. Để thực hiện, hệ thống cần hiểu bản tổng hợp phải dựa trên tài liệu nào, dành cho ai, có cấu trúc ra sao và thời hạn hoàn thành là khi nào. Mục tiêu càng rõ, khả năng đánh giá kết quả càng tốt.
Tiếp theo là khả năng lập kế hoạch. Tác nhân có thể chia mục tiêu thành các nhiệm vụ nhỏ, chẳng hạn thu thập tài liệu, xác định nội dung chính, đối chiếu thông tin, soạn bản nháp và kiểm tra lại trước khi trình người dùng. Một số hệ thống có thể lập kế hoạch lại nếu một công cụ không phản hồi hoặc dữ liệu đầu vào chưa đầy đủ.
Thành phần thứ ba là công cụ. Công cụ có thể là chức năng tìm kiếm, hệ thống đọc tệp, cơ sở dữ liệu nội bộ, phần mềm lịch hoặc một ứng dụng nghiệp vụ. Việc sử dụng công cụ giúp tác nhân làm được nhiều việc hơn so với chỉ tạo văn bản, nhưng đồng thời mở rộng bề mặt rủi ro. Một lỗi trong bước gọi công cụ có thể tạo ra thay đổi thật trên hệ thống bên ngoài.
Cuối cùng là bộ nhớ và cơ chế phản hồi. Tác nhân có thể cần nhớ các thông tin trong một phiên làm việc hoặc tham chiếu những dữ liệu đã được phép lưu trữ. Sau mỗi hành động, hệ thống cần biết kết quả có đạt yêu cầu hay không. Nếu không có cơ chế kiểm tra, tác nhân dễ tiếp tục một kế hoạch sai chỉ vì giả định ban đầu không đúng.
Giá trị thực tế của khả năng tự hành
Trong công việc tri thức, nhiều quy trình không quá khó ở từng bước riêng lẻ nhưng tốn thời gian vì phải chuyển qua lại giữa nhiều công cụ. Tác nhân AI có thể hỗ trợ nối các bước này. Ví dụ, một nhóm có thể giao cho tác nhân nhiệm vụ tìm các tài liệu liên quan trong kho nội bộ, tóm tắt nội dung, sắp xếp theo chủ đề và tạo bản nháp để nhân viên kiểm tra.
Trong chăm sóc khách hàng, tác nhân có thể phân loại yêu cầu, tra cứu thông tin đã được phê duyệt và đề xuất câu trả lời. Trong quản lý công việc cá nhân, nó có thể gom các nhiệm vụ chưa hoàn thành, xác định việc ưu tiên theo quy tắc do người dùng đặt ra và đề xuất lịch thực hiện. Trong nghiên cứu, tác nhân có thể giúp lập danh sách câu hỏi, tổ chức tài liệu và chỉ ra những điểm cần đọc kỹ hơn.
Những ví dụ này cho thấy giá trị của tác nhân không nhất thiết nằm ở việc thay thế hoàn toàn con người. Lợi ích rõ ràng hơn thường là giảm công việc lặp lại, rút ngắn thời gian chuyển đổi giữa các ứng dụng và hỗ trợ người dùng nhìn thấy toàn bộ quy trình. Con người vẫn có thể giữ vai trò xác định mục tiêu, đánh giá chất lượng và chịu trách nhiệm với quyết định cuối cùng.
Vì sao tự hành cũng tạo ra rủi ro?
Rủi ro đầu tiên là hiểu sai mục tiêu. Một yêu cầu ngắn có thể chứa nhiều giả định mà người dùng cho là hiển nhiên. Nếu tác nhân không hỏi lại và tự chọn cách diễn giải, nó có thể hoàn thành đúng những bước đã chọn nhưng vẫn tạo ra kết quả không đúng mong muốn. Với công việc ít quan trọng, sai lệch này chỉ gây mất thời gian. Với dữ liệu nhạy cảm hoặc quy trình quan trọng, hậu quả có thể lớn hơn.
Rủi ro thứ hai đến từ dữ liệu không đáng tin cậy. Tác nhân có thể gặp tài liệu cũ, nội dung mâu thuẫn hoặc thông tin được viết theo cách dễ gây nhầm lẫn. Khả năng tự động tổng hợp không đồng nghĩa với khả năng xác nhận mọi dữ kiện. Nếu hệ thống dùng dữ liệu sai để lập kế hoạch rồi tiếp tục thực hiện nhiều bước, sai sót ban đầu có thể lan rộng.
Rủi ro thứ ba là quyền hạn vượt quá nhu cầu. Một tác nhân chỉ cần đọc tài liệu để tạo bản tóm tắt không nên mặc nhiên có quyền chỉnh sửa hoặc xóa tài liệu. Tương tự, một hệ thống hỗ trợ soạn email không nhất thiết phải được phép gửi thư mà không cần phê duyệt. Nguyên tắc cấp quyền tối thiểu giúp giới hạn thiệt hại khi hệ thống hiểu sai yêu cầu hoặc bị tác động bởi dữ liệu độc hại.
Ngoài ra, cần lưu ý nguy cơ “nhiễm” chỉ dẫn từ nội dung mà tác nhân đọc được. Một trang web, tệp đính kèm hoặc đoạn văn có thể chứa yêu cầu giả mạo nhằm khiến hệ thống bỏ qua mục tiêu ban đầu, tiết lộ dữ liệu hoặc thực hiện hành động ngoài phạm vi. Vì vậy, tác nhân không nên coi mọi chỉ dẫn xuất hiện trong dữ liệu đầu vào là mệnh lệnh có hiệu lực.
Con người nên kiểm soát tác nhân như thế nào?
Biện pháp đầu tiên là phân loại hành động theo mức độ ảnh hưởng. Những việc như sắp xếp ghi chú hoặc tạo bản nháp có thể được tự động hóa ở mức cao hơn. Ngược lại, gửi thông tin ra bên ngoài, thay đổi dữ liệu quan trọng, phê duyệt chi phí hoặc đưa ra quyết định ảnh hưởng đến quyền lợi của người khác nên cần bước xác nhận rõ ràng.
Người dùng cũng nên yêu cầu tác nhân trình bày kế hoạch trước khi thực hiện nhiệm vụ có nhiều bước. Bản kế hoạch không bảo đảm hệ thống sẽ đúng, nhưng giúp con người nhận ra cách hiểu của tác nhân và phát hiện quyền hạn không cần thiết. Với các tác vụ nhạy cảm, nên yêu cầu hệ thống nêu nguồn dữ liệu đã sử dụng, kết quả của từng công cụ và những điểm còn chưa chắc chắn.
Giới hạn phạm vi làm việc cũng rất quan trọng. Có thể giới hạn tác nhân trong một thư mục, một nhóm tài liệu, một khoảng thời gian hoặc một loại thao tác cụ thể. Những giới hạn này cần được thiết lập ngay từ đầu thay vì chờ đến khi xảy ra sự cố. Hệ thống cũng nên có nhật ký hoạt động để người dùng biết tác nhân đã làm gì, vào thời điểm nào và dựa trên thông tin nào.
Cuối cùng, cần có cơ chế dừng và khôi phục. Người dùng phải có khả năng ngắt tác vụ đang chạy, thu hồi quyền truy cập và khôi phục thay đổi nếu công cụ hỗ trợ điều đó. Một tác nhân đáng tin cậy không chỉ là hệ thống hoàn thành nhiều việc, mà còn là hệ thống cho phép con người can thiệp khi kế hoạch đi sai hướng.
Cách bắt đầu sử dụng tác nhân AI một cách thận trọng
Người mới sử dụng nên bắt đầu với những nhiệm vụ có kết quả dễ kiểm tra và chi phí sai sót thấp. Có thể giao cho tác nhân việc phân loại tài liệu không nhạy cảm, lập danh sách công việc hoặc tạo bản nháp để xem cách hệ thống lập kế hoạch. Sau mỗi lần sử dụng, nên kiểm tra tác nhân đã làm đúng mục tiêu chưa, có dùng dữ liệu ngoài phạm vi hay không và có bước nào cần con người giữ lại.
Không nên chỉ đánh giá tác nhân bằng một lần chạy thành công. Một quy trình đáng tin cậy cần được thử với những tình huống thiếu dữ liệu, thông tin mâu thuẫn và yêu cầu mơ hồ. Người dùng cũng nên xác định trước điều kiện dừng, các hành động bắt buộc phải xin phép và loại dữ liệu không được đưa vào hệ thống.
Điều quan trọng là xem tác nhân như một cộng sự phần mềm có khả năng hành động, không phải một người có phán đoán độc lập và luôn hiểu đúng ngữ cảnh. Nó có thể nhanh, hữu ích và linh hoạt, nhưng vẫn phụ thuộc vào dữ liệu, công cụ, quy tắc và quyền hạn được thiết lập. Trách nhiệm cuối cùng không tự động chuyển sang hệ thống chỉ vì hệ thống đã thực hiện phần lớn công việc.
Tác nhân AI sẽ tiếp tục xuất hiện trong nhiều sản phẩm và quy trình quen thuộc. Câu hỏi đáng quan tâm không chỉ là tác nhân có thể làm được bao nhiêu việc, mà còn là nó được phép làm gì, trong điều kiện nào và ai có thể kiểm tra kết quả. Khi khả năng tự hành được đặt cạnh quyền hạn tối thiểu, nhật ký minh bạch, bước phê duyệt phù hợp và cơ chế dừng, tác nhân AI có cơ hội trở thành công cụ hữu ích hơn thay vì một nguồn rủi ro khó kiểm soát.
