Trong giai đoạn đầu của làn sóng AI tạo sinh, phần lớn người dùng tương tác với mô hình bằng cách đặt câu hỏi rồi nhận lại một câu trả lời. Cách sử dụng này vẫn hữu ích, nhưng nó đặt phần lớn công việc vào tay con người: người dùng phải chia nhỏ nhiệm vụ, tìm dữ liệu, kiểm tra kết quả, thao tác trên từng phần mềm và quyết định bước tiếp theo. AI tác nhân đang xuất hiện như một hướng phát triển khác, trong đó hệ thống không chỉ tạo nội dung mà còn cố gắng hoàn thành một mục tiêu qua nhiều bước liên tiếp.
Một AI tác nhân có thể nhận yêu cầu ở mức tổng quát, phân tích công việc, lập kế hoạch, sử dụng các công cụ được cấp quyền, quan sát kết quả rồi điều chỉnh cách làm. Chẳng hạn, thay vì chỉ viết một bản tóm tắt, hệ thống có thể tìm tài liệu trong kho nội bộ, đối chiếu các phiên bản, phát hiện phần còn thiếu, tạo bản nháp và gửi cho người phụ trách duyệt. Điều quan trọng không nằm ở việc mô hình trả lời dài hơn, mà ở khả năng kết nối suy luận với hành động trong một quy trình có mục tiêu.
AI tác nhân khác gì chatbot thông thường?
Chatbot truyền thống thường hoạt động theo mô hình yêu cầu và phản hồi. Người dùng đặt câu hỏi, hệ thống đưa ra câu trả lời, sau đó cuộc trao đổi kết thúc hoặc tiếp tục bằng một yêu cầu mới. Mỗi bước thường do con người điều khiển. Nếu muốn hoàn thành một công việc phức tạp, người dùng phải liên tục hướng dẫn mô hình về việc cần làm tiếp theo.
AI tác nhân vẫn có thể trò chuyện, nhưng cuộc trò chuyện chỉ là một phần của hệ thống. Thành phần cốt lõi là mục tiêu, bộ nhớ ngữ cảnh, khả năng lập kế hoạch, công cụ và cơ chế quan sát kết quả. Mô hình có thể chia nhiệm vụ lớn thành các bước nhỏ, xác định thông tin cần thu thập, lựa chọn công cụ phù hợp và kiểm tra xem hành động vừa thực hiện có đưa công việc tiến gần đến mục tiêu hay không.
Sự khác biệt này không có nghĩa mọi hệ thống có khả năng gọi công cụ đều là tác nhân hoàn toàn tự chủ. Có những hệ thống chỉ thực hiện một chuỗi lệnh được định trước, trong khi những hệ thống khác có thể tự lựa chọn bước đi trong phạm vi rộng hơn. Vì vậy, nên xem tính tác nhân như một phổ liên tục. Ở một đầu là trợ lý phản hồi đơn giản, ở đầu kia là hệ thống có thể tự điều phối nhiều tác vụ và chỉ yêu cầu con người can thiệp tại các điểm quan trọng.
Cấu trúc cơ bản của một AI tác nhân
Mục tiêu và bối cảnh
AI tác nhân cần biết mình đang cố gắng đạt được điều gì, giới hạn của nhiệm vụ là gì và tiêu chí nào được dùng để xác định kết quả đạt yêu cầu. Một mục tiêu mơ hồ như xử lý công việc khách hàng tốt hơn có thể khiến hệ thống hành động thiếu nhất quán. Mục tiêu càng cụ thể, chẳng hạn phân loại yêu cầu, tra cứu chính sách tương ứng và đề xuất câu trả lời để nhân viên duyệt, thì việc kiểm soát càng dễ hơn.
Bối cảnh cũng quan trọng không kém. Hệ thống cần phân biệt thông tin nào đến từ người dùng, thông tin nào lấy từ dữ liệu nội bộ và thông tin nào chỉ là giả định tạm thời. Nếu không có sự phân biệt này, tác nhân có thể sử dụng một dữ kiện cũ hoặc một câu trả lời chưa được xác nhận như thể đó là sự thật chắc chắn.
Bộ lập kế hoạch và bộ nhớ
Bộ lập kế hoạch giúp tác nhân chuyển mục tiêu thành chuỗi hành động. Một kế hoạch tốt không nhất thiết phải dài. Trong nhiều trường hợp, kế hoạch càng gọn và có điểm kiểm tra rõ ràng thì càng dễ giám sát. Hệ thống có thể bắt đầu bằng việc thu thập dữ liệu, tiếp tục phân tích, tạo sản phẩm trung gian rồi chờ phê duyệt trước khi thực hiện bước có tác động lớn.
Bộ nhớ của tác nhân cũng có nhiều dạng. Có thể là ngữ cảnh của phiên làm việc hiện tại, lịch sử tương tác với một khách hàng hoặc thông tin được lưu lâu dài về quy trình. Việc ghi nhớ giúp hệ thống tránh lặp lại câu hỏi, nhưng đồng thời tạo ra vấn đề về quyền riêng tư và tính chính xác. Một thông tin sai nếu được lưu lại có thể ảnh hưởng đến nhiều quyết định sau đó. Vì vậy, bộ nhớ không nên được xem là kho lưu trữ vô điều kiện mà cần có thời hạn, nguồn gốc và cơ chế chỉnh sửa.
Công cụ và quyền hạn
Khả năng sử dụng công cụ là điểm khiến AI tác nhân trở nên hữu ích trong môi trường thực tế. Công cụ có thể là hệ thống tìm kiếm nội bộ, phần mềm quản lý công việc, cơ sở dữ liệu, lịch làm việc hoặc nền tảng phân tích. Tuy nhiên, mỗi công cụ cũng là một cánh cửa dẫn tới dữ liệu và hành động thật. Việc kết nối quá rộng có thể biến một lỗi trong câu trả lời thành lỗi trong vận hành.
Do đó, quyền hạn cần được thiết kế theo nguyên tắc tối thiểu cần thiết. Tác nhân có thể được phép đọc dữ liệu của một dự án nhưng không được xóa hồ sơ. Nó có thể tạo đề xuất thanh toán nhưng không được tự phê duyệt. Nó có thể soạn thư cho khách hàng nhưng không được gửi nếu nội dung chứa cam kết pháp lý hoặc tài chính. Ranh giới này giúp doanh nghiệp hưởng lợi từ tự động hóa mà không trao cho hệ thống quyền lực vượt quá nhu cầu.
Những ứng dụng thực tế có giá trị
Trong chăm sóc khách hàng, AI tác nhân có thể tiếp nhận yêu cầu, xác định chủ đề, tìm thông tin trong tài liệu chính sách, kiểm tra lịch sử tương tác và chuẩn bị phương án xử lý cho nhân viên. Giá trị của hệ thống không chỉ là trả lời nhanh mà còn nằm ở việc giảm số lần nhân viên phải chuyển đổi giữa nhiều phần mềm. Khi vấn đề phức tạp hoặc có dấu hiệu nhạy cảm, tác nhân có thể chuyển hồ sơ cho người có chuyên môn thay vì cố xử lý đến cùng.
Trong vận hành nội bộ, tác nhân có thể theo dõi các yêu cầu đang chờ, phát hiện nhiệm vụ gần đến hạn, tổng hợp trạng thái từ nhiều nhóm và đề xuất thứ tự ưu tiên. Với công việc nghiên cứu, hệ thống có thể sắp xếp tài liệu, đối chiếu khái niệm, xác định câu hỏi chưa được giải đáp và tạo bản nháp cho nhóm chuyên môn xem xét. Trong phát triển phần mềm, tác nhân có thể hỗ trợ phân tích lỗi, đề xuất thay đổi, chạy các bước kiểm tra được cho phép và ghi lại kết quả.
Tuy nhiên, không phải công việc nào cũng nên giao cho tác nhân. Những nhiệm vụ liên quan đến quyền lợi cá nhân, quyết định tuyển dụng, tín dụng, y tế hoặc nghĩa vụ pháp lý cần mức độ giám sát cao hơn. Tác nhân có thể hỗ trợ thu thập và trình bày thông tin, nhưng quyết định cuối cùng cần thuộc về người có trách nhiệm, có đủ năng lực và có khả năng giải thích cơ sở của quyết định đó.
Rủi ro lớn nhất nằm ở chuỗi hành động
Một câu trả lời sai có thể được con người phát hiện ngay khi đọc. Một chuỗi hành động sai lại nguy hiểm hơn vì lỗi có thể lan qua nhiều bước trước khi xuất hiện. Nếu tác nhân hiểu sai mục tiêu, nó có thể tìm sai dữ liệu, lập kế hoạch dựa trên dữ liệu đó và thực hiện một hành động tưởng như hợp lý. Mỗi bước riêng lẻ có thể không quá bất thường, nhưng kết quả cuối cùng vẫn gây thiệt hại.
Rủi ro khác đến từ dữ liệu không đáng tin cậy và hướng dẫn ẩn trong tài liệu mà tác nhân đọc được. Một văn bản bên ngoài có thể chứa nội dung khiến hệ thống thay đổi mục tiêu hoặc tiết lộ thông tin không nên tiết lộ. Vì vậy, dữ liệu được đưa vào quy trình phải được phân loại theo nguồn, mức độ tin cậy và quyền sử dụng. Tác nhân cũng cần được hướng dẫn để xem nội dung trong tài liệu là dữ liệu cần phân tích, không mặc nhiên là mệnh lệnh điều khiển nó.
Quyền truy cập quá rộng là một rủi ro mang tính hệ thống. Nếu tác nhân có thể đọc toàn bộ kho dữ liệu, gửi thư không cần duyệt và chỉnh sửa hồ sơ trực tiếp, một sự cố nhỏ có thể ảnh hưởng đến nhiều bộ phận. Thiết kế an toàn cần bao gồm phân quyền, giới hạn tốc độ, nhật ký hành động, cơ chế hoàn tác và các điểm dừng bắt buộc trước thao tác nhạy cảm.
Cách triển khai thận trọng trong doanh nghiệp
Bước đầu tiên không nên là chọn một mô hình mạnh nhất, mà là chọn một quy trình có phạm vi rõ, dữ liệu tương đối ổn định và chi phí sai sót có thể kiểm soát. Doanh nghiệp có thể bắt đầu bằng tác nhân chỉ đọc dữ liệu và tạo đề xuất. Sau khi quy trình được quan sát đủ lâu, quyền thực hiện một số hành động đơn giản mới được mở rộng dần.
Mỗi hành động của tác nhân nên gắn với người chịu trách nhiệm. Nhật ký cần cho biết hệ thống đã nhận mục tiêu nào, sử dụng dữ liệu nào, gọi công cụ nào và tạo ra kết quả ra sao. Khi xảy ra sự cố, doanh nghiệp phải có khả năng truy ngược để biết lỗi đến từ dữ liệu, mô hình, công cụ hay quy tắc phân quyền. Nếu chỉ nhìn vào câu trả lời cuối cùng, việc cải thiện hệ thống sẽ rất khó.
Cũng cần xây dựng bộ tiêu chí đánh giá phù hợp với công việc. Tốc độ là một yếu tố, nhưng không thể là tiêu chí duy nhất. Doanh nghiệp nên xem xét độ chính xác, tỷ lệ cần con người sửa lại, mức độ tuân thủ quyền truy cập, khả năng giải thích, số lần tác nhân thực hiện hành động không cần thiết và cách hệ thống phản ứng khi thiếu dữ liệu. Các tình huống bất thường phải được kiểm tra riêng, bởi hiệu quả trung bình có thể che giấu những lỗi hiếm nhưng nghiêm trọng.
Nhân viên cũng cần được tham gia vào quá trình thiết kế. Họ là người hiểu các ngoại lệ, bước kiểm tra không được ghi trong tài liệu và những tác động khó nhìn thấy từ bên ngoài. Nếu AI tác nhân được đưa vào chỉ như một công cụ cắt giảm thao tác mà không thay đổi quy trình trách nhiệm, nhân viên có thể phải dành nhiều thời gian hơn để sửa lỗi hoặc giám sát một hệ thống khó hiểu.
Tương lai của AI tác nhân cần được xây dựng quanh sự kiểm soát
AI tác nhân có tiềm năng thay đổi cách con người làm việc với phần mềm. Thay vì mở từng ứng dụng và thực hiện từng thao tác, người dùng có thể mô tả mục tiêu, sau đó theo dõi một hệ thống điều phối các bước phù hợp. Nhưng giá trị của hướng phát triển này không nằm ở mức độ tự chủ cao nhất. Một tác nhân tốt là tác nhân biết khi nào có thể tự xử lý, khi nào cần hỏi lại, khi nào phải dừng và khi nào cần chuyển việc cho con người.
Trong thời gian tới, cuộc cạnh tranh giữa các sản phẩm AI có thể không chỉ xoay quanh khả năng tạo văn bản hay trả lời câu hỏi. Khả năng làm việc đáng tin cậy trong quy trình, phối hợp với con người, bảo vệ dữ liệu và phục hồi sau lỗi sẽ trở thành yếu tố quan trọng hơn. Doanh nghiệp cũng cần tránh tư duy giao toàn bộ một quy trình cho máy ngay từ đầu. Cách tiếp cận bền vững hơn là phân tách nhiệm vụ, giới hạn quyền, kiểm tra kết quả và mở rộng tự động hóa dựa trên bằng chứng thực tế.
AI tác nhân vì thế nên được nhìn nhận như một lớp điều phối mới giữa con người, dữ liệu và phần mềm. Nó có thể giúp công việc liền mạch hơn, nhưng chỉ phát huy đúng giá trị khi được đặt trong một kiến trúc trách nhiệm rõ ràng. Công nghệ càng có khả năng hành động, yêu cầu về thiết kế an toàn, minh bạch và giám sát càng phải được đặt lên trước sự tiện lợi ngắn hạn.
