Human in the loop cho AI agent: khi nào nên chuyển cho người thật
Human in the loop cho AI agent: quy tắc chuyển cuộc trò chuyện cho nhân viên, phiếu chuyển có tóm tắt và nhật ký che số điện thoại, kèm code chạy được.
Human in the loop là có một người thật nằm trong vòng xử lý của agent, và agent biết lúc nào phải dừng để mời người đó vào. Với trợ lý của quán Mộc, bạn cần quy tắc quyết định khi nào chuyển, một phiếu chuyển có tóm tắt, và nhật ký. Bạn đã bao giờ bị chatbot trả lời lạc đề đúng lúc đang bực chưa? Cùng mình làm cho agent biết dừng nhé.
Agent trả lời trơn tru, nhưng có những tin không nên để nó trả lời
Ở tập trước của Xây AI agent đầu tiên, mình cho chữ chạy ra ngay khi mô hình viết, nên khách của quán Mộc không còn nhìn khung chat trống nữa. (Quán Mộc là nhân vật minh họa của series này.) Nhưng chữ chạy nhanh cũng có nghĩa là một câu trả lời không đúng ý cũng tới nhanh. Thử một cuộc trò chuyện như thế này.
Đây là bản đầu của agent, chưa có gì để chuyển cho người. Nó đưa tin của khách qua một mô hình giả (mình dùng mô hình giả chạy offline, nên không có cuộc gọi mô hình thật nào trong bài này), và chỉ chuyển khi khách nói thẳng "cho mình gặp nhân viên". Mình chạy node thu-sau-chuyen.ts với một khách đang bực:
Khách: Đơn 1042 giao trễ gần hai tiếng rồi, đền mình nhé
Mộc: Đơn 1042 (bạc xỉu) đang ở trạng thái: đang giao.
Khách: Cho mình gặp nhân viên
Mộc: Mộc sẽ nhờ nhân viên liên hệ bạn.
Khách: alo, có ai không?
Mộc: Mộc chưa rõ ý bạn lắm.Có hai lỗi, và cả hai đều tệ hơn lỗi kỹ thuật thông thường. Lỗi thứ nhất là ở tin đầu. Khách đòi đền vì giao trễ, còn agent đáp lại bằng trạng thái đơn như thể khách chỉ hỏi thăm. Tin đó không có cụm "gặp nhân viên" nên agent cho là bình thường. Lỗi thứ hai là ở tin thứ ba. Agent hứa sẽ nhờ nhân viên, nhưng không có chỗ nào ghi lại lời hứa đó, nên khi khách nhắn "alo", agent lại trả lời như chưa có chuyện gì. Không ai được báo cả.
Khi nào nên chuyển cho người thật?
Mình muốn trả lời bằng quy tắc viết trong code, không nhờ mô hình tự quyết định. Lý do đơn giản: nếu quyết định chuyển nằm trong prompt, bạn không có cách nào chắc là nó luôn chạy, và bạn không test được nó. Một hàm thường thì test được.
Các nhóm tin cần chuyển mình sắp theo mức rủi ro, và hàm sẽ kiểm theo đúng thứ tự đó. An toàn của khách đứng đầu, ví dụ khách nói dị ứng. Một câu trả lời sai về thành phần có thể gây hại thật. Sau đó là tiền (hoàn tiền, đền, hủy đơn), rồi cảm xúc (khiếu nại, đồ bị đổ, trễ). Cuối cùng là hai tín hiệu về chính agent: khách phải hỏi lại gần y nguyên một câu, hoặc mô hình tự thấy không chắc.
Hàm dưới đây nhận tin hiện tại, các tin trước đó của khách, và độ tự tin của mô hình (một số từ 0 đến 1), rồi trả về có chuyển hay không và vì lý do gì. Đây là file src/quyet-dinh.ts của tập này:
export type LyDo = "di-ung" | "khach-yeu-cau" | "hoan-tien" | "khieu-nai" | "lap-lai" | "agent-khong-chac";
export type QuyetDinh = { chuyen: false } | { chuyen: true; lyDo: LyDo };
// \b của JavaScript không coi chữ có dấu là chữ ("đổ" dính vào "đổi"), nên mình tự kiểm ranh giới bằng \p{L}.
const tu = (mau: string) => new RegExp(String.raw`(?<!\p{L})(${mau})(?!\p{L})`, "iu");
const DI_UNG = tu("dị ứng|lactose|không dung nạp|có hạt không|có đậu phộng không");
const YEU_CAU = tu("(gặp|nói chuyện với|chuyển cho|chuyển sang) (một )?(người|nhân viên|chủ quán|người thật)");
const HOAN_TIEN = tu("hoàn tiền|đền|bồi thường|trả lại tiền|hủy đơn");
const KHIEU_NAI = tu("tệ|bực|không chấp nhận|khiếu nại|làm ăn kiểu gì|đổ|hỏng|sai món|thiếu món|nguội|trễ");
const NGUONG_TIN_CAY = 0.6;
const cacTu = (tin: string) => new Set(tin.toLowerCase().match(/\p{L}+/gu) ?? []);
/** Độ giống nhau của hai tin nhắn, từ 0 đến 1 (số từ chung chia số từ khác nhau của cả hai). */
export function doGiong(a: string, b: string): number {
const x = cacTu(a);
const y = cacTu(b);
const chung = [...x].filter((t) => y.has(t)).length;
const hop = new Set([...x, ...y]).size;
return hop === 0 ? 0 : chung / hop;
}
export function quyetDinh(tin: string, tinTruocCuaKhach: string[], doTinCay: number): QuyetDinh {
if (DI_UNG.test(tin)) return { chuyen: true, lyDo: "di-ung" };
if (YEU_CAU.test(tin)) return { chuyen: true, lyDo: "khach-yeu-cau" };
if (HOAN_TIEN.test(tin)) return { chuyen: true, lyDo: "hoan-tien" };
if (KHIEU_NAI.test(tin)) return { chuyen: true, lyDo: "khieu-nai" };
// Khách hỏi lại gần như y nguyên một câu nghĩa là câu trả lời trước chưa giúp được.
if (tinTruocCuaKhach.some((truoc) => doGiong(tin, truoc) >= 0.6)) return { chuyen: true, lyDo: "lap-lai" };
if (doTinCay < NGUONG_TIN_CAY) return { chuyen: true, lyDo: "agent-khong-chac" };
return { chuyen: false };
}Dòng chú thích đầu về \p{L} là một bài học mình trả giá ở bài về làm việc từ xa: \b của JavaScript chỉ hiểu chữ cái không dấu, nên \bđổ\b có thể khớp với "đổi" và bạn sẽ chuyển oan một khách chỉ muốn đổi món. Với \p{L} và cờ u, "đổi" không còn khớp "đổ" nữa.
Thử trên 14 tin nhắn
Mình soạn 14 tin có đáp án gán tay: 8 tin cần chuyển và 6 tin không. Phần mô hình giả nằm trong file src/mo-hinh-gia.ts; nó nhận một tin và trả về câu trả lời kèm độ tự tin, ví dụ 0,95 cho câu hỏi thực đơn và 0,3 cho thứ nó không hiểu. Con số đó do mình đặt, và mình sẽ quay lại chuyện này ở phần giới hạn.
Mình chạy node thu-bo-sot.ts để so bản đầu (chỉ chuyển khi khách nói thẳng) với quy tắc đầy đủ. Cột đầu là bản đầu, cột hai là quy tắc đầy đủ, SAI nghĩa là quyết định khác với đáp án mình gán:
ok ok CHUYỂN Cho mình gặp nhân viên với → khach-yeu-cau
SAI ok CHUYỂN Cà phê sữa của mình bị đổ hết ra túi, đền mình nhé → hoan-tien
SAI ok CHUYỂN Mình dị ứng sữa bò, bạc xỉu có sữa không? → di-ung
SAI ok CHUYỂN Đơn 1042 giao trễ gần hai tiếng rồi → khieu-nai
SAI ok CHUYỂN Quán làm ăn kiểu gì vậy → khieu-nai
SAI ok CHUYỂN Bên bạn có bán bánh sinh nhật không? → agent-khong-chac
SAI ok CHUYỂN Hủy đơn 1041 giúp mình và hoàn tiền → hoan-tien
SAI ok CHUYỂN Mình không chấp nhận cách giải quyết này → khieu-nai
ok ok agent Quán có món gì?
ok ok agent Mấy giờ quán mở cửa?
ok ok agent Đơn 1043 đã giao chưa?
ok ok agent Mình muốn tra đơn
ok ok agent Mình muốn đổi sang bạc xỉu, thực đơn có món gì?
ok SAI agent Cảm ơn Mộc nhé → agent-khong-chac
Cần chuyển: 8 tin. Bản ngây thơ bỏ sót 7, quy tắc đầy đủ bỏ sót 0.
Không cần chuyển: 6 tin. Bản ngây thơ chuyển thừa 0, quy tắc đầy đủ chuyển thừa 1.Bản đầu bỏ sót 7 trong 8 tin, trong đó có cả tin về dị ứng. Quy tắc đầy đủ không bỏ sót tin nào, nhưng chuyển oan một tin: "Cảm ơn Mộc nhé". Đó không phải câu hỏi, mà mô hình giả của mình chưa biết xử lý lời cảm ơn nên độ tự tin chỉ có 0,3 và rơi vào nhánh "agent không chắc". Nếu ngoài đời cứ mỗi lời cảm ơn lại làm nhân viên nhận một phiếu thì họ sẽ chán rất nhanh, và chán rồi là bỏ qua cả phiếu thật. Mình sửa bằng cách dạy mô hình giả thêm một dòng cho lời cảm ơn (độ tự tin 0,95), và chạy lại:
Cần chuyển: 8 tin. Bản ngây thơ bỏ sót 7, quy tắc đầy đủ bỏ sót 0.
Không cần chuyển: 6 tin. Bản ngây thơ chuyển thừa 0, quy tắc đầy đủ chuyển thừa 0.Mình phải nói thẳng một điều về kết quả "0 và 0" này. Quy tắc và 14 tin được viết bởi cùng một người, và mình đã thêm chữ "trễ" vào danh sách khiếu nại khi nhìn thấy tin về đơn 1042. Vì vậy con số này chỉ cho biết các quy tắc không mâu thuẫn với chính mẫu thử, chứ không cho biết chúng bắt được bao nhiêu phần trăm tin nhắn thật. Muốn biết điều đó, bạn cần các cuộc trò chuyện thật và một người khác gán nhãn.
Chuyển rồi thì agent phải im lặng
Sửa xong quy tắc, lỗi thứ hai ở đầu bài vẫn còn: sau khi chuyển, agent phải ngừng trả lời, và lời hứa chuyển phải được ghi lại ở đâu đó. Mình làm bằng hai thứ: một trạng thái cho mỗi cuộc trò chuyện và một phiếu cho mỗi lần chuyển.
Trạng thái có bốn giá trị: agent (agent đang trả lời), cho-nguoi (đã chuyển, chưa ai nhận), nhan-vien-dang-xu-ly và da-dong. Chỉ khi trạng thái là agent thì tin của khách mới được đưa qua mô hình. Đây là đoạn đầu của hàm khach trong src/tong-dai.ts, nhận một tin của khách và trả về câu khách sẽ thấy:
khach(maHoiThoai: string, tin: string): string {
const h = this.lay(maHoiThoai);
const tinTruoc = h.lichSu.filter((d) => d.ai === "khach").map((d) => d.noiDung);
h.lichSu.push({ ai: "khach", noiDung: tin });
// Đã chuyển cho người: agent im lặng, tin mới của khách chỉ được gom vào cuộc trò chuyện.
if (h.trangThai !== "agent") {
const loi = "Mộc đã chuyển cho nhân viên rồi, bạn nhắn thêm gì cứ gửi ở đây nhé, nhân viên sẽ đọc.";
h.lichSu.push({ ai: "agent", noiDung: loi });
return loi;
}
const traLoi = moHinhGia(tin);
const qd = quyetDinh(tin, tinTruoc, traLoi.doTinCay);
if (!qd.chuyen) {
h.lichSu.push({ ai: "agent", noiDung: traLoi.noiDung });
return traLoi.noiDung;
}
const phieu = { ma: `P${this.phieu.length + 1}`, maHoiThoai, lyDo: qd.lyDo, tomTat: this.tomTat(h, qd.lyDo), tao: this.gio() };
this.phieu.push(phieu);
h.trangThai = "cho-nguoi";
h.maPhieu = phieu.ma;
// ... trả lời khách bằng lời chuyển phù hợp với lý do, và nói đúng giờ nhân viên có mặt (xem phần dưới)
}Tóm tắt trong phiếu do code ghép ra từ lịch sử, không nhờ mô hình, nên nó chạy được ngay cả khi mô hình lỗi. Một phiếu có dạng Lý do: hoan-tien. đơn 1042 (đang giao). 1 tin của khách. Tin cuối: "…". Nhân viên nhìn một dòng là biết ai cần gì, đơn nào, mà không phải kéo lại cả cuộc trò chuyện. Theo các bài về handoff mà mình đọc khi tìm tài liệu, mất ngữ cảnh lúc chuyển giao là lỗi hay gặp nhất, nhưng đó là các bài của nhà cung cấp chatbot, nên mình coi chúng là gợi ý thiết kế chứ không phải con số đã kiểm chứng.
Cùng ba tin của khách lúc nãy, giờ chạy qua tổng đài mới:
Khách: Đơn 1042 giao trễ gần hai tiếng rồi, đền mình nhé
Mộc: Chuyện hoàn tiền Mộc nhờ nhân viên xem đơn rồi trả lời bạn. Nhân viên sẽ trả lời bạn trong giờ mở cửa.
Khách: Cho mình gặp nhân viên
Mộc: Mộc đã chuyển cho nhân viên rồi, bạn nhắn thêm gì cứ gửi ở đây nhé, nhân viên sẽ đọc.
Khách: alo, có ai không?
Mộc: Mộc đã chuyển cho nhân viên rồi, bạn nhắn thêm gì cứ gửi ở đây nhé, nhân viên sẽ đọc.
Phiếu đang chờ: 1
P1: Lý do: hoan-tien. đơn 1042 (đang giao). 1 tin của khách. Tin cuối: "Đơn 1042 giao trễ gần hai tiếng rồi, đền mình nhé"Tin đầu bị chuyển đúng lý do hoan-tien (quy tắc tiền được kiểm trước quy tắc cảm xúc). Tin thứ hai và thứ ba không tạo thêm phiếu, và agent không còn nói "chưa rõ ý bạn". Khách vẫn biết có người đang xử lý. Có một chi tiết nhỏ mà mình thấy đáng làm: lời hẹn nói theo giờ quán. Quán mở 7:00 đến 21:00 giờ Việt Nam, nên một tin lúc 22:30 sẽ nhận câu "nhân viên sẽ trả lời bạn sau 7:00 sáng" thay vì lời hứa trả lời ngay. Hứa một thứ không giữ được là cách nhanh nhất để mất lòng khách.
Nhật ký để biết vì sao agent đã làm vậy
Nửa đêm có khách khiếu nại rằng agent đã trả lời sai về dị ứng. Bạn mở dữ liệu ra và cần trả lời ba câu: tin đó có bị chuyển không, nếu không thì vì quy tắc nào cho qua, và nếu có thì nhân viên mất bao lâu để nhận. Không có nhật ký thì bạn chỉ còn đoán. Mình ghi mỗi sự kiện thành một dòng JSON trong file src/nhat-ky.ts, và dòng nào cũng có maHoiThoai để ghép lại một cuộc trò chuyện:
export type SuKien = { loai: string; maHoiThoai: string; [khoa: string]: unknown };
const SO_DIEN_THOAI = /(?<!\d)(?:\+84|0)\d{8,9}(?!\d)/gu;
/** "0901000001" → "090*****01": giữ đủ để phân biệt hai khách, không đủ để gọi lại. */
export const cheSoDienThoai = (chu: string): string =>
chu.replace(SO_DIEN_THOAI, (so) => so.slice(0, 3) + "*".repeat(so.length - 5) + so.slice(-2));
export class NhatKy {
readonly dong: string[] = [];
private readonly gio: () => Date;
constructor(gio: () => Date = () => new Date()) {
this.gio = gio;
}
ghi(suKien: SuKien): void {
const ban = JSON.parse(cheSoDienThoai(JSON.stringify({ luc: this.gio().toISOString(), ...suKien })));
this.dong.push(JSON.stringify(ban));
}
cuaHoiThoai(maHoiThoai: string): Record<string, unknown>[] {
return this.dong.map((d) => JSON.parse(d)).filter((s) => s.maHoiThoai === maHoiThoai);
}
}Có hai điều trong đoạn này đáng nói. Thứ nhất, gio được truyền từ ngoài vào để test và script demo dùng đồng hồ giả, nên output lặp lại được. Thứ hai, nhật ký sống lâu hơn cuộc trò chuyện và nhiều người đọc được nó, nên số điện thoại bị che ngay trước khi ghi. Mã đơn bốn chữ số thì không bị che, vì regex chỉ khớp số bắt đầu bằng 0 hoặc +84 và dài 9 đến 10 chữ số (test có kiểm điều này).
Mình chạy node thu-nhat-ky.ts: một khách báo đơn 1042 bị đổ và để lại số điện thoại, nhân viên nhận sau 11 phút 40 giây, trả lời, rồi đóng phiếu. Đồng hồ trong script là giả nên các mốc giờ đều có thể lặp lại.
Một dòng nhật ký nguyên bản (dòng đầu):
{"luc":"2026-11-20T03:10:00.000Z","loai":"khach-nhan","maHoiThoai":"h-07","noiDung":"Đơn 1042 của mình bị đổ hết, gọi mình qua 090*****02 nhé","trangThai":"agent"}
Cả cuộc trò chuyện h-07, đọc lại từ nhật ký:
10:10:00 khach-nhan {"noiDung":"Đơn 1042 của mình bị đổ hết, gọi mình qua 090*****02 nhé","trangThai":"agent"}
10:10:00 goi-cong-cu {"ten":"tra_don","maDon":"1042","thay":true}
10:10:00 quyet-dinh {"chuyen":true,"lyDo":"khieu-nai","doTinCay":0.95}
10:10:00 tao-phieu {"maPhieu":"P1","lyDo":"khieu-nai","tomTat":"Lý do: khieu-nai. đơn 1042 (đang giao). 1 tin của khách. Tin cuối: \"Đơn 1042 của mình bị đổ hết, gọi mình qua 090*****02 nhé\""}
10:10:40 khach-nhan {"noiDung":"alo?","trangThai":"cho-nguoi"}
10:10:40 agent-im-lang {"maPhieu":"P1"}
10:21:40 nhan-vien-tiep-nhan {"maPhieu":"P1","ten":"chị Hạnh","choGiay":700}
10:23:10 nhan-vien-tra-loi {"maPhieu":"P1","noiDung":"Mộc xin lỗi bạn, bên mình làm lại ly mới và giao lại ngay, không tính thêm tiền."}
10:23:30 dong-phieu {"maPhieu":"P1"}Chị Hạnh và câu trả lời của chị là minh họa.
Hãy nhìn vào ba dòng. Dòng quyet-dinh cho biết agent đã cân nhắc và chọn chuyển vì khieu-nai, với độ tự tin 0,95, tức là việc chuyển không phải do mô hình bối rối. Dòng agent-im-lang cho thấy tin "alo?" không đi qua mô hình. Dòng nhan-vien-tiep-nhan cho bạn đúng con số choGiay: 700, thứ bạn cần nếu muốn biết quán trả lời khách có nhanh không. Còn số điện thoại thì chỉ còn 090*****02 trong nhật ký, trong khi phiếu mà nhân viên thấy vẫn nằm trong bộ nhớ của tổng đài. Vậy nhân viên muốn gọi lại khách phải lấy số từ chính cuộc trò chuyện, không từ nhật ký. Đây là cách mình chọn; bạn có thể chọn khác nếu nhóm bạn cần.
Giữ các quy tắc này bằng test
Mười sáu test của tập này kiểm các điều bài đã nói. Về quy tắc: dị ứng luôn được chuyển kể cả khi mô hình tự tin 0,99, hoàn tiền thắng khiếu nại khi cả hai cùng có mặt, "đổi" không bị nhầm thành "đổ", khách hỏi lại gần y nguyên thì chuyển còn hỏi sang chuyện khác thì không, và mô hình dưới ngưỡng 0,6 thì chuyển. Về tổng đài: sau khi chuyển thì mô hình không còn được gọi, phiếu có tóm tắt đúng, mã đơn không tồn tại được ghi là "không tìm thấy", ngoài giờ mở cửa thì lời hẹn đổi, đóng phiếu thì cuộc trò chuyện quay về agent, và hai cuộc trò chuyện không lẫn nhau. Về nhật ký: số điện thoại bị che, mã đơn thì không, mọi dòng đều có maHoiThoai. Bạn chạy bằng node --test src/chuyen.test.ts (file test nằm trong repo demo, bài này mình không dán).
# tests 16
# pass 16
# fail 0Một chi tiết nhỏ đáng kể: lần chạy đầu có một test hỏng, nhưng là do mình đoán sai số dòng nhật ký (mình tưởng 4 dòng, thực tế là 3 vì tin không có mã đơn thì không gọi công cụ). Mình sửa kỳ vọng của test, không sửa code, vì code đúng.
Những điều bài này chưa chứng minh
Mình muốn nói rõ các giới hạn, vì chủ đề này dễ bị nói quá. Một, không có mô hình thật nào được gọi. "Độ tự tin" của mô hình giả là số mình đặt. Mình không biết cách đáng tin để lấy một con số tương tự từ mô hình thật, và chưa thử, nên nhánh agent-khong-chac trong code nên được coi là chỗ để bạn tự gắn thứ gì đó mà bạn đo được. Hai, quy tắc bằng từ khóa dễ bị lọt, và mình thử ngay vài tin ngoài 14 tin mẫu. "Ly cà phê này tồi tệ quá" bị chuyển đúng vì "tệ" có trong danh sách. Nhưng "Đơn 1042 chưa tới, mình đói lắm rồi" thì không bị chuyển, và agent sẽ trả lời bằng trạng thái đơn cho một người đang đói. "Mình bi di ung sua" (gõ không dấu) cũng không khớp quy tắc dị ứng, và nó chỉ được chuyển vì mô hình giả không hiểu nên độ tự tin thấp, tức là một cú may. Với mô hình thật, bạn không nên trông vào may như vậy; ít nhất hãy thêm cả dạng không dấu cho nhóm an toàn. Ba, mình chưa làm phần nhân viên thật: không có giao diện, không có thông báo, không có ai trực. Một hàng đợi mà không ai xem thì tệ hơn không có hàng đợi, vì khách tin là đã có người lo. Bốn, nhiều tài liệu về human in the loop nhấn mạnh việc gắn người duyệt vào các hành động có tác động lớn, như tự hoàn tiền hay sửa đơn. Agent của Mộc chỉ đọc thông tin đơn, chưa có công cụ nào như vậy, nên bài này không đụng đến phần đó. Nếu bạn định cho agent làm những việc có hậu quả thật, hướng dẫn về "excessive agency" trong OWASP Top 10 cho ứng dụng LLM là một chỗ nên đọc.
Agent đã biết dừng, nhưng nó vẫn chưa lên mạng
Giờ agent của Mộc có thể nhận một tin từ khách, quyết định tự trả lời hay chuyển, ghi lại mọi bước và đóng phiếu khi xong. Tất cả đang chạy trên máy mình, với mô hình giả và một cái đồng hồ giả. Còn việc đưa nó lên một nơi để khách thật nhắn vào, giữ cho nó chạy, và biết nó có đang hỏng hay không là việc của các bài viết sau.
Nếu muốn nhớ lại vì sao agent gọi mô hình nhiều lần cho một tin nhắn, bạn đọc vòng lặp AI agent. Phần công cụ tra đơn nằm ở tool calling, và các câu hỏi về AI agent nằm trong ngân hàng câu hỏi phỏng vấn.