Trong một thời gian dài, cách phổ biến nhất để sử dụng trí tuệ nhân tạo là đặt câu hỏi và nhận câu trả lời. Người dùng cung cấp yêu cầu, mô hình tạo ra văn bản, hình ảnh hoặc mã nguồn, sau đó con người kiểm tra và quyết định bước tiếp theo. Mô hình tương tác này vẫn hữu ích, nhưng đang xuất hiện một hướng phát triển khác: AI tác nhân, hay agentic AI, có khả năng chia một mục tiêu thành nhiều nhiệm vụ, lựa chọn công cụ phù hợp, thực hiện các bước tuần tự và điều chỉnh kế hoạch khi kết quả trung gian không như dự kiến.
Điểm đáng chú ý của AI tác nhân không chỉ nằm ở việc mô hình tạo ra câu trả lời dài hơn. Thay đổi quan trọng hơn là hệ thống được đặt trong một vòng lặp hành động. Nó có thể đọc dữ liệu được cho phép, gọi một ứng dụng, kiểm tra kết quả, đưa ra quyết định ở phạm vi đã định và tiếp tục công việc. Vì vậy, khi đánh giá một hệ thống như vậy, câu hỏi không còn chỉ là “câu trả lời có đúng không”, mà còn là “hệ thống đã làm gì, dựa trên quyền nào, theo trình tự nào và hậu quả sẽ ra sao nếu một bước bị hiểu sai”.
AI tác nhân khác gì chatbot thông thường?
Chatbot thông thường chủ yếu phản hồi dựa trên nội dung người dùng gửi trong một lượt tương tác hoặc trong một ngữ cảnh được thiết lập trước. Nếu muốn thực hiện nhiều công việc, người dùng thường phải tự chia nhỏ yêu cầu, kiểm tra từng kết quả và chuyển đầu ra của bước này sang bước tiếp theo. AI tác nhân được thiết kế để đảm nhận một phần hoạt động điều phối đó.
Chẳng hạn, với một yêu cầu chuẩn bị báo cáo, hệ thống tác nhân có thể xác định cần thu thập dữ liệu nào, truy cập các nguồn nội bộ được cấp quyền, lọc thông tin, sắp xếp thành cấu trúc, phát hiện phần còn thiếu rồi tạo bản nháp. Một hệ thống khác có thể tiếp nhận yêu cầu hỗ trợ khách hàng, tra cứu chính sách, kiểm tra trạng thái đơn hàng và đề xuất phương án xử lý. Trong cả hai trường hợp, mô hình ngôn ngữ chỉ là một thành phần. Hệ thống còn cần bộ nhớ làm việc, cơ chế lập kế hoạch, công cụ kết nối dữ liệu và lớp kiểm soát quyền hạn.
Không phải mọi quy trình tự động hóa đều là AI tác nhân. Một chuỗi quy tắc cố định, trong đó mỗi điều kiện luôn dẫn tới một hành động đã định, có thể tự động xử lý công việc nhưng không nhất thiết có khả năng lập kế hoạch linh hoạt. AI tác nhân thường được nhận diện qua khả năng diễn giải mục tiêu ở mức cao, lựa chọn giữa nhiều phương án, sử dụng công cụ và phản hồi theo tình trạng thực tế của nhiệm vụ. Tuy nhiên, ranh giới này không tuyệt đối. Nhiều sản phẩm trên thị trường kết hợp quy trình cố định với mô hình AI để tận dụng ưu điểm của cả hai cách tiếp cận.
Một tác nhân AI được cấu thành như thế nào?
Thành phần đầu tiên là mục tiêu và phạm vi nhiệm vụ. Mục tiêu càng mơ hồ, hệ thống càng có nhiều khả năng tự diễn giải theo hướng không phù hợp. Một yêu cầu như “xử lý các hồ sơ tồn đọng” chưa cho biết hồ sơ nào được ưu tiên, điều kiện hoàn tất là gì, trường hợp nào cần chuyển cho con người và hành động nào bị cấm. Do đó, thiết kế tác nhân không thể chỉ bắt đầu từ một câu lệnh hướng dẫn. Nó phải bắt đầu từ việc mô tả rõ đầu vào, đầu ra, giới hạn và tiêu chí dừng.
Thành phần thứ hai là khả năng lập kế hoạch. Hệ thống có thể phân tích nhiệm vụ lớn thành các bước nhỏ, chẳng hạn thu thập thông tin, đối chiếu, tính toán, soạn thảo và xin phê duyệt. Việc chia nhỏ giúp theo dõi tiến độ và xác định lỗi nằm ở đâu. Dù vậy, kế hoạch do mô hình tạo ra không nên được xem là đúng mặc định. Một bước tưởng như hợp lý vẫn có thể dựa trên dữ liệu thiếu, hiểu sai thuật ngữ hoặc giả định không được phép sử dụng.
Thành phần thứ ba là các công cụ. Công cụ có thể là hệ thống tìm kiếm nội bộ, phần mềm quản lý công việc, kho dữ liệu, ứng dụng tính toán hoặc một giao diện lập trình. Khi được kết nối với công cụ, tác nhân không chỉ nói về việc cần làm mà có thể tạo ra thay đổi trong thế giới bên ngoài. Chính khả năng này làm tăng giá trị của hệ thống, đồng thời cũng làm tăng rủi ro. Một câu trả lời sai có thể được sửa trong lượt trao đổi sau, nhưng một giao dịch gửi nhầm, một bản ghi bị thay đổi hoặc một thông báo được phát đi có thể gây hậu quả khó đảo ngược.
Cuối cùng là cơ chế ghi nhớ và quan sát. Tác nhân cần biết những gì đã xảy ra trong nhiệm vụ hiện tại, kết quả của từng công cụ, các lỗi gặp phải và bước tiếp theo. Nếu lưu trữ quá ít, hệ thống có thể lặp lại sai lầm hoặc mất bối cảnh. Nếu lưu trữ quá nhiều, dữ liệu không cần thiết có thể làm tăng rủi ro về riêng tư và khiến việc kiểm tra trở nên khó khăn. Vì vậy, bộ nhớ của tác nhân cần được thiết kế theo mục đích, thời hạn lưu giữ và quyền truy cập cụ thể.
Lợi ích thực tế nằm ở đâu?
AI tác nhân phù hợp nhất với những quy trình có nhiều bước lặp lại nhưng vẫn cần một mức độ linh hoạt nhất định. Trong công việc văn phòng, tác nhân có thể hỗ trợ phân loại yêu cầu, tổng hợp tài liệu, chuẩn bị lịch làm việc hoặc theo dõi các đầu việc chưa hoàn tất. Trong phát triển phần mềm, nó có thể đọc mô tả lỗi, kiểm tra mã nguồn liên quan, đề xuất thay đổi và chạy các bài kiểm thử được phép. Trong chăm sóc khách hàng, tác nhân có thể xử lý những trường hợp đơn giản, đồng thời chuyển các tình huống nhạy cảm cho nhân viên.
Giá trị của hệ thống không chỉ là tiết kiệm thời gian. Khi được triển khai đúng, tác nhân có thể làm cho quy trình nhất quán hơn bằng cách nhắc lại các bước kiểm tra, ghi nhận lịch sử xử lý và phát hiện thông tin còn thiếu. Nó cũng có thể giúp con người tập trung vào những quyết định cần phán đoán, thay vì dành phần lớn thời gian cho việc tìm kiếm và chuyển dữ liệu giữa các ứng dụng.
Tuy nhiên, không nên đo hiệu quả bằng số lượng tác vụ mà hệ thống hoàn thành. Một tác nhân hoàn thành nhiều thao tác nhưng thường xuyên chọn sai mục tiêu, tạo ra hồ sơ khó kiểm tra hoặc buộc nhân viên sửa lại kết quả thì chưa chắc đã mang lại lợi ích. Các tiêu chí cần xem xét gồm độ chính xác, thời gian xử lý, khả năng truy nguyên, tỷ lệ phải chuyển cho con người, số hành động bị từ chối và mức độ nghiêm trọng của sai sót.
Rủi ro lớn nhất là quyền hành động
Với chatbot, rủi ro thường tập trung ở nội dung được sinh ra. Với AI tác nhân, rủi ro mở rộng sang hành động. Mô hình có thể chọn nhầm công cụ, truyền sai tham số, hiểu một yêu cầu hợp lệ theo cách quá rộng hoặc tiếp tục thực hiện sau khi điều kiện ban đầu đã thay đổi. Nếu quyền của tác nhân không được giới hạn, một lỗi nhỏ trong nhận định có thể lan sang nhiều hệ thống.
Nguyên tắc quan trọng là cấp quyền tối thiểu cần thiết. Tác nhân chỉ nên được đọc những dữ liệu phục vụ nhiệm vụ, sử dụng những công cụ cần thiết và thực hiện những thao tác đã được xác định trước. Quyền đọc không nên tự động đi kèm quyền sửa; quyền tạo bản nháp không nên đồng nghĩa với quyền gửi hoặc công bố. Những hành động có tác động tài chính, pháp lý, nhân sự hoặc ảnh hưởng trực tiếp đến khách hàng thường cần một điểm phê duyệt của con người.
Cũng cần phân biệt giữa việc yêu cầu con người kiểm tra và việc thiết kế một điểm kiểm soát có ý nghĩa. Nếu nhân viên phải duyệt hàng trăm thao tác tương tự trong thời gian ngắn, họ có thể hình thành thói quen chấp thuận mà không xem xét thực chất. Điểm can thiệp của con người nên xuất hiện ở những bước có rủi ro cao, khi thông tin mâu thuẫn hoặc khi hệ thống không đạt mức tin cậy đã định. Màn hình phê duyệt cũng cần cho thấy dữ liệu đầu vào, hành động dự kiến và lý do hệ thống đưa ra đề xuất.
Thiết kế và vận hành cần đi cùng nhau
Một trong những sai lầm phổ biến là coi việc xây dựng tác nhân chỉ là lựa chọn mô hình và viết một câu lệnh hướng dẫn. Trên thực tế, phần khó thường nằm ở kiến trúc xung quanh mô hình. Doanh nghiệp cần lập danh sách công cụ, phân loại dữ liệu, xác định chủ sở hữu từng nguồn thông tin và quy định rõ ai chịu trách nhiệm khi hệ thống đưa ra hành động sai.
Trước khi đưa vào sử dụng, tác nhân nên được thử nghiệm với các tình huống bình thường, tình huống thiếu dữ liệu và tình huống có yêu cầu mâu thuẫn. Cần kiểm tra cả những cách sử dụng không đúng dự kiến, chẳng hạn người dùng cố tình đưa chỉ dẫn nhằm vượt qua giới hạn của hệ thống hoặc đưa vào tài liệu chứa nội dung gây nhiễu. Kết quả thử nghiệm không nên chỉ là một điểm số tổng hợp. Nhật ký thực thi cần cho biết tác nhân đã nhận đầu vào nào, chọn kế hoạch nào, gọi công cụ ra sao, bị từ chối ở bước nào và kết thúc vì lý do gì.
Sau khi triển khai, việc giám sát vẫn cần tiếp tục. Dữ liệu thay đổi, quy trình nội bộ thay đổi và công cụ kết nối có thể được cập nhật. Một tác nhân hoạt động ổn định trong môi trường thử nghiệm có thể biểu hiện khác khi gặp khối lượng công việc lớn hoặc các trường hợp hiếm. Cơ chế dừng khẩn cấp, giới hạn số lần gọi công cụ và khả năng hoàn tác là những thành phần nên được tính đến ngay từ đầu, thay vì chỉ bổ sung sau một sự cố.
Con người vẫn giữ vai trò định hướng
AI tác nhân không thay thế việc xác định trách nhiệm. Người dùng và tổ chức vẫn phải quyết định nhiệm vụ nào phù hợp để giao cho máy, mức tự chủ đến đâu và trường hợp nào bắt buộc có phê duyệt. Một hệ thống càng có khả năng hành động rộng thì yêu cầu về quản trị, đào tạo và kiểm toán càng cao.
Cách tiếp cận thận trọng là bắt đầu từ một quy trình hẹp, có đầu ra dễ kiểm tra và hậu quả sai sót có thể giới hạn. Trong giai đoạn đầu, tác nhân có thể chỉ đọc dữ liệu và tạo đề xuất, chưa được phép thay đổi hệ thống. Khi các chỉ số vận hành ổn định, phạm vi hành động mới được mở rộng từng bước. Mỗi lần mở rộng cần đi kèm điều kiện rõ ràng, cơ chế theo dõi và phương án quay lại trạng thái trước đó.
Sự phát triển của AI tác nhân cho thấy trí tuệ nhân tạo đang chuyển từ một công cụ tạo nội dung sang một lớp phần mềm có thể tham gia vào quy trình công việc. Cơ hội lớn nằm ở khả năng phối hợp thông tin, công cụ và các bước xử lý vốn bị chia cắt. Nhưng để biến cơ hội thành giá trị bền vững, tổ chức không thể chỉ quan tâm đến việc tác nhân làm được bao nhiêu việc. Câu hỏi quan trọng hơn là nó được phép làm gì, ai có thể kiểm tra, sai sót được phát hiện như thế nào và con người có thể lấy lại quyền kiểm soát ở thời điểm nào.
