HappyCall · kết quả thí nghiệm   tiến độ

Tiến độ hàng đợi

Đếm theo trạng thái trong queue/state; ETA = số job còn lại × trung vị thời gian các job đã xong trên máy đó (không có ETA khi chưa job nào xong). Job chưa có trạng thái đều tính là queued, kể cả job worker sẽ từ chối hoặc bỏ qua (code hoặc data đã ghim không còn khớp) vì những job đó không để lại trạng thái; ok gồm cả job đã ingest. Cập nhật lúc 2026-10-22 05:16 UTC.

zephyrus · 35/68 đã chạy xong

queued 31 · running 2 · ok 33 · failed 2 · ETA ~4h 07m

đang chạy: e2_phobert_v2_seg_cross_ce_real_frozenemb_lr2e5 seed 2026 trên zephyrus, bắt đầu 2026-10-22 05:15 UTC (đã 1m)

đang chạy: e2_mmbert_base_cross_ce_real_frozenemb_lr1e5 seed 42 trên zephyrus, bắt đầu 2026-10-22 04:55 UTC (đã 21m)

legion · 0/14 đã chạy xong

queued 14 · running 0 · ok 0 · failed 0

Giải thích nhãn

6 intent (thứ tự ưu tiên)

Khi nhiều intent cùng khớp, intent đứng trước thắng: omi_intent_repeat > callback > relationship > nlu_fallback > negate > affirm. Ví dụ bên dưới do người viết tự đặt, không lấy từ data thật.

NhãnTênĐịnh nghĩaVí dụ (bot → khách)
omi_intent_repeatYêu cầu nhắc lạiKhách muốn bot nhắc lại (“nói lại”, “gì cơ”, “nghe không rõ”), hoặc “alo” khi đang chờ người nghe hoặc không nghe rõ.Bot: “Hợp đồng của anh sẽ đến hạn vào ngày mười lăm.”
Khách: “Chị nói lại giúp tôi với.”
callbackHẹn gọi lạiKhách hay người nghe máy bảo gọi lại, hẹn gọi lại hoặc cho số khác để liên hệ. Chỉ báo bận hoặc chỉ nêu giờ mà không bảo gọi lại thì không phải callback.Bot: “Em xin phép trao đổi vài phút được không ạ?”
Khách: “Giờ anh đang bận, chiều gọi lại nhé.”
relationshipNgười thân, không phải chủ hợp đồngNgười nghe máy không phải người bot cần gặp và nói rõ mình là ai (người nhà, bạn, đồng nghiệp, “nghe máy giùm”). Chỉ báo người đó vắng mà không xưng mình là ai thì không phải relationship.Bot: “Em muốn gặp anh Nam, anh có phải anh Nam không ạ?”
Khách: “Anh là em trai, anh ấy đi vắng rồi.”
nlu_fallbackKhông hiểu / lạc đềCâu khách không trả lời điều bot hỏi: lạc đề, câu méo do ASR, hỏi ngược, phàn nàn, nghi lừa đảo, hỏi về tiền hay thủ tục; kể cả khi mở đầu bằng “dạ / ừ” rồi nói chuyện khác, hoặc chỉ có từ đệm khi bot đang xin một thông tin cụ thể.Bot: “Anh xác nhận giúp em thông tin hợp đồng nhé?”
Khách: “Mà tháng này phải đóng bao nhiêu tiền vậy em?”
negatePhủ nhậnKhách phủ nhận, không đồng ý hoặc sửa điều bot nói (không phải người đó, nhầm số, chưa nhận, sai thông tin); không nhớ / không muốn cho thông tin; hỏi xác nhận để làm gì; bận hay vắng mà không bảo gọi lại.Bot: “Thông tin hợp đồng của mình có chính xác không ạ?”
Khách: “Không, sai rồi em ơi.”
affirmĐồng ýKhông rơi vào 5 nhãn trên và câu có từ xác nhận rõ điều bot hỏi (“đúng rồi”, “có”, “nhận rồi”, “tôi nghe đây”); “dạ / ừ” đứng một mình chỉ là affirm khi bot hỏi có/không hoặc hỏi danh tính.Bot: “Anh là chủ hợp đồng đúng không ạ?”
Khách: “Dạ đúng rồi em.”

Ranh giới hay nhầm — quy tắc v2 (data lv2)

Các split

Cách đọc cột

Xếp hạng phương pháp

Hai bảng chính chỉ đo trên phần test QC model chưa từng thấy: clean = test_clean (bỏ cặp bot+KH trùng train), reply-unseen = test_reply_unseen (câu KH không có trong train, mức chặt nhất). Lựa chọn dựa trên dev + test. STT xếp theo dev recall@p85; ngưỡng và temperature chỉ khớp trên dev, không bao giờ chỉnh theo test. Số liệu là trung bình ± độ lệch chuẩn qua seed. Khi tỉ lệ lớp ở test khác dev, precision test có thể thấp hơn 0.85. Hàng tham chiếu (STT 0; nhãn cứng không có xác suất nên recall@p85 là recall fallback thường) luôn ghim ở đầu cả hai bảng, kể cả khi sắp xếp cột; ứng viên đánh STT từ 1. Bảng cuối trang là dev và test_full, dữ liệu liên quan train, chỉ để đối chiếu. Cột Data: v1 là nhãn gốc, v2 là nhãn train và QC đã relabel (method đuôi _lv2), v2_1 là nhãn train/dev theo spec với QC giữ nguyên v1 (đuôi _lv21); STT, baseline và ô tô đậm tính riêng trong từng bản, dùng bộ lọc Data để xem một bản. Tạo lúc 2026-10-22 05:16 UTC.

STTModel_NameBackbone Threshold DataHọMáySeedn_effParamsLatency ms clean Accuracyclean Macro_Preclean Macro_Recclean Macro_F1clean Weighted_F1clean FB recallclean FB precisionreply-unseen Accuracyreply-unseen Macro_Prereply-unseen Macro_Recreply-unseen Macro_F1reply-unseen Weighted_F1reply-unseen FB recallreply-unseen FB precisionclean fb→negateclean fb→affirmclean false fbTrạng tháiPhân tích
0 e0_prod_sft_hard_none_qc_v16 tham chiếu · provenance: unknown Qwen-2B-Chat (SFT generative)N/A (CausalLM) v1referencezephyrus 1 1 2.0 B (reported) ~1,715 ms (reported) 93.71%86.69%90.36%87.68%93.65%70.41%83.13%93.55%86.21%91.91%88.04%93.55%78.16%85.00%17.35%9.18%0.92%ok –
0 e0_prod_sft_hard_none_qc_v16_lv2 tham chiếu · provenance: unknown Qwen-2B-Chat (SFT generative)N/A (CausalLM) v2referencezephyrus 1 1 2.0 B (reported) ~1,715 ms (reported) 93.58%83.83%90.99%85.94%93.57%70.33%77.11%93.32%83.21%92.18%85.74%93.37%76.83%78.75%17.58%8.79%1.24%oktest_informed –
0 e0_prod_sft_hard_none_qc_v16_lv21 tham chiếu · provenance: unknown Qwen-2B-Chat (SFT generative)N/A (CausalLM) v2_1referencezephyrus 1 1 2.0 B (reported) ~1,715 ms (reported) 93.71%86.69%90.36%87.68%93.65%70.41%83.13%93.55%86.21%91.91%88.04%93.55%78.16%85.00%17.35%9.18%0.92%ok –
1 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr2e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.016 v1encoderzephyrus 1 1 86M 11.3 ms 90.56%87.03%82.13%83.22%90.90%82.65%54.73%88.87%86.42%80.67%81.48%89.33%85.06%52.86%3.06%12.24%4.40%okp85_not_met –
2 e2_xlmr_base_cross_ce_real_frozenemb_lr4e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.023 v1encoderzephyrus 1 1 86M 11.1 ms 90.56%74.84%81.79%76.74%91.01%82.65%55.10%88.87%72.99%80.16%74.81%89.50%83.91%52.52%0.00%12.24%4.33%okp85_not_met –
3 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr4e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.011 v1encoderzephyrus 1 1 86M 11.9 ms 89.94%77.52%78.83%77.46%90.34%82.65%51.59%88.33%74.58%76.75%74.77%88.83%86.21%50.68%2.04%14.29%4.99%okp85_not_met –
4 e2_xlmr_base_cross_wcesqrt_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE trọng số căn nghịch tần suất · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.021 v1encoderzephyrus 3 3 86M 16.1 ms 90.38% ±0.2778.15% ±2.9183.03% ±3.0779.82% ±2.9390.85% ±0.2184.35% ±1.5653.17% ±2.2388.67% ±0.1675.95% ±3.4281.46% ±4.0677.76% ±3.6389.27% ±0.1586.21% ±1.9951.41% ±1.591.02%12.93%4.79%okp85_not_met –
5 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.061 v1encoderzephyrus 3 3 111M 24.8 ms 90.46% ±0.5981.26% ±0.4887.10% ±1.8883.07% ±0.8891.01% ±0.4985.71% ±1.0250.93% ±3.2888.87% ±0.7879.76% ±0.6586.83% ±2.2781.88% ±1.0889.59% ±0.6488.51% ±1.1549.18% ±3.421.70%10.88%5.34%cần sửap85_not_met –
6 e2_xlmr_base_cross_ce_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035 v1encoderzephyrus 3 3 86M 10.8 ms 90.83% ±0.0979.78% ±3.4582.64% ±0.7080.54% ±1.8191.16% ±0.0682.99% ±3.5856.89% ±0.5889.28% ±0.1977.73% ±3.5681.12% ±0.7278.61% ±1.9189.70% ±0.1584.67% ±4.0455.39% ±0.582.72%12.24%4.05%cần sửap85_not_met high
7 e2_xlmr_base_cross_logitadjust_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE điều chỉnh logit theo prior (τ=1) · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035 v1encoderzephyrus 3 3 86M 14.7 ms 90.23% ±0.6876.57% ±1.4084.10% ±2.5078.73% ±1.6090.84% ±0.6285.37% ±4.1250.92% ±2.6088.49% ±0.7374.71% ±1.4482.83% ±2.8476.87% ±1.6889.28% ±0.6787.36% ±3.0449.04% ±2.101.70%11.22%5.30%okp85_not_met –
8 e2_me5_base_cross_ce_real_frozenemb_lr2e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.023 v1encoderzephyrus 1 1 86M 11.6 ms 90.25%76.27%79.25%77.21%90.71%82.65%53.29%88.56%73.18%76.78%74.29%89.17%83.91%51.05%4.08%10.20%4.66%okp85_not_met –
9 e2_me5_base_cross_ce_real_frozenemb_lr1e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.088 v1encoderzephyrus 1 1 86M 11.3 ms 90.01%77.11%82.56%78.85%90.48%87.76%53.75%88.03%74.76%80.55%76.51%88.65%87.36%51.01%2.04%8.16%4.86%okp85_not_met –
10 e2_me5_base_cross_ce_real_frozenemb_lr4e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.028 v1encoderzephyrus 1 1 86M 11.6 ms 90.81%83.13%82.94%82.32%91.17%85.71%55.63%89.18%81.15%81.36%80.33%89.65%87.36%53.52%3.06%10.20%4.40%okp85_not_met –
11 e2_xlmr_base_khonly_ce_real_frozenembXLM-R base · chỉ câu KH · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.076 v1encoderzephyrus 3 3 86M 8.5 ms 90.38% ±0.7481.00% ±1.2081.57% ±2.9680.52% ±2.2590.70% ±0.6282.99% ±3.1256.10% ±4.0988.69% ±0.9278.14% ±2.0579.83% ±3.8578.01% ±3.2189.12% ±0.7985.44% ±3.5154.13% ±3.961.02%15.65%4.22%okp85_not_met –
12 e2_mmbert_base_cross_ce_real_frozenemb_lr4e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.075 v1encoderzephyrus 1 1 111M 51.6 ms 90.44%79.18%82.40%79.90%91.01%84.69%50.30%89.10%77.26%81.25%78.17%89.80%88.51%49.68%2.04%12.24%5.38%okp85_not_met –
13 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr1e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.026 v1encoderzephyrus 1 1 86M 12.9 ms 90.07%86.82%78.80%80.02%90.41%84.69%53.90%88.49%86.28%80.60%81.30%88.95%86.21%52.45%1.02%13.27%4.66%okp85_not_met –
14 e2_xlmr_base_cross_ce_real_frozenemb_lr1e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.123 v1encoderzephyrus 1 1 86M 10.2 ms 90.44%76.08%78.27%76.72%90.70%77.55%56.72%88.87%73.29%75.93%74.08%89.23%79.31%55.20%2.04%18.37%3.81%okp85_not_met –
15 e2_mmbert_base_cross_ce_real_frozenemb_lr1e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.120 v1encoderzephyrus 2 2 111M 23.9 ms 90.47% ±0.2276.81% ±1.5882.68% ±0.8078.75% ±0.6890.88% ±0.2380.61% ±2.8955.08% ±1.0189.10% ±0.4375.07% ±1.1481.45% ±0.8277.08% ±0.4189.64% ±0.4383.91% ±3.2553.93% ±1.572.55%13.78%4.24%cần sửap85_not_met –
16 e2_visobert_cross_ce_real_frozenemb_lr2e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.093 v1encoderzephyrus 1 1 86M 11.8 ms 89.57%75.59%80.75%77.25%90.05%78.57%52.03%87.95%73.67%79.39%75.40%88.57%81.61%50.71%5.10%15.31%4.66%okp85_not_met –
17 e2_visobert_cross_ce_real_frozenemb_lr4e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.066 v1encoderzephyrus 1 1 86M 16.3 ms 89.27%78.87%84.39%80.57%89.89%80.61%48.17%87.49%77.22%83.88%79.24%88.28%82.76%46.75%2.04%16.33%5.58%okp85_not_met –
18 e1_tfidf_svmcal_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · SVM calibrated · train thật, nhãn v1 TF-IDF0.123 v1tfidfzephyrus 1 1 119,328 5.4 ms 89.64%82.90%81.31%81.05%90.12%85.71%50.91%87.80%80.90%79.65%79.03%88.40%87.36%49.35%5.10%7.14%5.32%okp85_not_met –
19 e1_tfidf_logreg_balanced_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg cân bằng lớp · train thật, nhãn v1 TF-IDF0.256 v1tfidfzephyrus 1 1 119,328 3.6 ms 87.97%74.52%84.17%77.30%88.59%81.63%46.51%85.57%72.59%82.91%75.28%86.39%82.76%44.17%5.10%8.16%6.04%okp85_not_met –
20 e1_tfidf_logreg_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật, nhãn v1 TF-IDF0.125 v1tfidfzephyrus 1 1 119,328 3.6 ms 88.34%78.74%79.88%78.23%88.99%84.69%46.63%86.03%76.31%78.05%75.89%86.88%86.21%44.38%4.08%8.16%6.24%okp85_not_met –
21 e2_visobert_cross_ce_real_frozenemb_lr1e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.232 v1encoderzephyrus 1 1 86M 11.1 ms 89.08%73.85%79.41%75.71%89.44%71.43%52.24%87.34%71.87%77.75%73.76%87.83%72.41%50.40%8.16%17.35%4.20%okp85_not_met –
22 e1_tfidf_logreg_ce_synth1x_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật + synth ×1, nhãn v1 TF-IDF0.234 v1tfidfzephyrus 1 1 135,678 3.6 ms 88.40%77.19%79.37%77.44%88.88%79.59%48.75%86.49%74.98%77.74%75.39%87.06%81.61%47.97%7.14%10.20%5.38%oktest_informedp85_not_met –
– e2_mdeberta_cross_ce_real_frozenemb_lr1e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 –– v1encoder 0 1 lỗi 0 N/A N/A N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/Afailed –
– e2_mdeberta_cross_ce_real_frozenemb_lr2e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 –– v1encoder 0 1 lỗi 0 N/A N/A N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/Afailed –
– e2_mdeberta_cross_ce_real_frozenemb_lr4e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 microsoft/mdeberta-v3-baseargmax v1encoderzephyrus 1 1 86M 29.1 ms 23.81%3.97%16.67%6.41%9.16%N/AN/A26.63%4.44%16.67%7.01%11.20%N/AN/A100.00%0.00%0.00%cần sửainfeasible –
– e2_videberta_cross_ce_real_frozenemb_lr1e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmax v1encoderzephyrus 1 1 86M 25.7 ms 23.81%3.97%16.67%6.41%9.16%N/AN/A26.63%4.44%16.67%7.01%11.20%N/AN/A100.00%0.00%0.00%cần sửainfeasible –
– e2_videberta_cross_ce_real_frozenemb_lr2e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmax v1encoderzephyrus 1 1 86M 26.8 ms 23.81%3.97%16.67%6.41%9.16%N/AN/A26.63%4.44%16.67%7.01%11.20%N/AN/A100.00%0.00%0.00%cần sửainfeasible –
– e2_videberta_cross_ce_real_frozenemb_lr4e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmax v1encoderzephyrus 1 1 86M 31.6 ms 23.81%3.97%16.67%6.41%9.16%N/AN/A26.63%4.44%16.67%7.01%11.20%N/AN/A100.00%0.00%0.00%cần sửainfeasible –
1 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5_lv21mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v2_1 jhu-clsp/mmBERT-base0.053 v2_1encoderzephyrus 1 1 111M 22.4 ms 90.68%83.61%82.07%82.32%91.04%76.53%53.57%89.41%81.90%81.01%80.72%89.89%80.46%52.24%7.14%14.29%4.27%okp85_not_met –

Số sau ±: độ lệch chuẩn mẫu (ddof=1) giữa các seed của cùng phương pháp, tính bằng điểm phần trăm. Ví dụ 84.10 ±0.37 = trung bình 84.10 qua các seed, các seed thường lệch nhau khoảng 0.4 điểm. Đây là độ dao động do seed, không phải khoảng tin cậy trên test: với cỡ test hiện tại, chênh vài điểm vẫn có thể là nhiễu (xem bootstrap). Ô không có ± là run 1 seed hoặc baseline. Cột Seed là số seed n của từng hàng.

Nền xanh đậm = tốt nhất cột, tính cả baseline (cao nhất; thấp nhất với clean fb→negate, clean fb→affirm, clean false fb, latency); hoà thì tô tất cả. Chữ xanh kèm ▲ = ứng viên vượt baseline nhưng chưa tốt nhất. Params không tô.

Precision theo từng intent

Cùng thứ tự và cùng cách tính trung bình ± độ lệch chuẩn qua seed; test_clean đứng đầu.

STTModel_NameBackboneThresholdData clean Affirm_Preclean Negate_Preclean Fallback_Preclean Callback_Preclean Relation_Preclean Repeat_Prereply-unseen Affirm_Prereply-unseen Negate_Prereply-unseen Fallback_Prereply-unseen Callback_Prereply-unseen Relation_Prereply-unseen Repeat_Pre
0 e0_prod_sft_hard_none_qc_v16 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v1 96.56%89.28%83.13%94.67%94.03%62.50%96.38%90.20%85.00%94.59%93.94%57.14%
0 e0_prod_sft_hard_none_qc_v16_lv2 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v2 96.56%90.27%77.11%92.00%97.01%50.00%96.24%91.04%78.75%91.89%98.48%42.86%
0 e0_prod_sft_hard_none_qc_v16_lv21 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v2_1 96.56%89.28%83.13%94.67%94.03%62.50%96.38%90.20%85.00%94.59%93.94%57.14%
1 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr2e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.016v1 95.40%92.31%54.73%94.44%85.29%100.00%94.51%91.69%52.86%94.37%85.07%100.00%
2 e2_xlmr_base_cross_ce_real_frozenemb_lr4e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.023v1 95.69%93.97%55.10%89.33%87.69%27.27%94.91%93.85%52.52%89.19%87.50%20.00%
3 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr4e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.011v1 94.75%93.31%51.59%95.77%89.71%40.00%93.78%92.78%50.68%95.71%89.55%25.00%
4 e2_xlmr_base_cross_wcesqrt_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE trọng số căn nghịch tần suất · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.021v1 95.95% ±0.1792.63% ±0.5953.17% ±2.2392.43% ±3.1287.13% ±2.4147.62% ±17.1795.16% ±0.4092.05% ±0.6851.41% ±1.5992.32% ±3.1686.95% ±2.4437.78% ±20.37
5 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.061v1 96.18% ±0.3093.86% ±0.9250.93% ±3.2893.05% ±3.4088.45% ±2.4465.08% ±7.2795.71% ±0.4193.52% ±0.8849.18% ±3.4292.95% ±3.4488.28% ±2.4758.89% ±8.39
6 e2_xlmr_base_cross_ce_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035v1 95.85% ±0.4091.77% ±0.6756.89% ±0.5892.70% ±0.7087.31% ±1.6854.17% ±19.0995.07% ±0.3891.11% ±0.7455.39% ±0.5892.60% ±0.7187.12% ±1.7045.08% ±19.55
7 e2_xlmr_base_cross_logitadjust_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE điều chỉnh logit theo prior (τ=1) · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035v1 96.38% ±0.3792.66% ±0.6250.92% ±2.6093.59% ±2.0690.11% ±2.1935.73% ±2.1595.80% ±0.3892.08% ±0.6949.04% ±2.1093.50% ±2.0989.96% ±2.2327.86% ±2.58
8 e2_me5_base_cross_ce_real_frozenemb_lr2e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.023v1 96.63%90.32%53.29%91.89%85.51%40.00%96.19%89.79%51.05%91.78%85.29%25.00%
9 e2_me5_base_cross_ce_real_frozenemb_lr1e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.088v1 95.93%91.55%53.75%89.19%89.39%42.86%94.82%91.11%51.01%89.04%89.23%33.33%
10 e2_me5_base_cross_ce_real_frozenemb_lr4e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.028v1 95.88%92.37%55.63%93.15%86.76%75.00%95.04%92.04%53.52%93.06%86.57%66.67%
11 e2_xlmr_base_khonly_ce_real_frozenembXLM-R base · chỉ câu KH · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.076v1 95.11% ±0.1891.66% ±1.2556.10% ±4.0991.48% ±0.7190.53% ±1.4761.11% ±9.6294.24% ±0.3690.97% ±1.4254.13% ±3.9691.37% ±0.7290.38% ±1.4947.78% ±13.47
12 e2_mmbert_base_cross_ce_real_frozenemb_lr4e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.075v1 96.17%93.37%50.30%95.65%89.55%50.00%95.72%93.18%49.68%95.59%89.39%40.00%
13 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr1e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.026v1 95.01%92.15%53.90%91.78%88.06%100.00%94.10%91.56%52.45%91.67%87.88%100.00%
14 e2_xlmr_base_cross_ce_real_frozenemb_lr1e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.123v1 94.69%92.78%56.72%88.61%90.32%33.33%93.68%92.24%55.20%88.46%90.16%20.00%
15 e2_mmbert_base_cross_ce_real_frozenemb_lr1e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.120v1 95.81% ±0.0591.40% ±0.8455.08% ±1.0195.75% ±1.9686.36% ±4.2936.43% ±9.0995.35% ±0.0990.98% ±0.9453.93% ±1.5795.69% ±1.9986.72% ±3.5527.78% ±7.86
16 e2_visobert_cross_ce_real_frozenemb_lr2e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.093v1 95.63%90.14%52.03%94.20%84.06%37.50%94.96%89.85%50.71%94.12%83.82%28.57%
17 e2_visobert_cross_ce_real_frozenemb_lr4e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.066v1 95.51%91.55%48.17%94.29%86.57%57.14%94.65%91.14%46.75%94.20%86.57%50.00%
18 e1_tfidf_svmcal_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · SVM calibrated · train thật, nhãn v1 TF-IDF0.123v1 95.37%91.09%50.91%91.67%93.33%75.00%94.34%90.29%49.35%91.55%93.22%66.67%
19 e1_tfidf_logreg_balanced_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg cân bằng lớp · train thật, nhãn v1 TF-IDF0.256v1 94.66%91.82%46.51%87.84%86.30%40.00%93.35%91.07%44.17%87.67%85.92%33.33%
20 e1_tfidf_logreg_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật, nhãn v1 TF-IDF0.125v1 95.14%90.53%46.63%91.43%88.71%60.00%94.01%89.63%44.38%91.30%88.52%50.00%
21 e2_visobert_cross_ce_real_frozenemb_lr1e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.232v1 94.77%89.75%52.24%89.19%83.82%33.33%93.79%89.44%50.40%89.04%83.58%25.00%
22 e1_tfidf_logreg_ce_synth1x_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật + synth ×1, nhãn v1 TF-IDF0.234v1 94.39%89.77%48.75%91.55%88.71%50.00%93.16%88.78%47.97%91.43%88.52%40.00%
– e2_mdeberta_cross_ce_real_frozenemb_lr1e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 ––v1 N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/A
– e2_mdeberta_cross_ce_real_frozenemb_lr2e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 ––v1 N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/A
– e2_mdeberta_cross_ce_real_frozenemb_lr4e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 microsoft/mdeberta-v3-baseargmaxv1 N/A23.81%N/AN/AN/AN/AN/A26.63%N/AN/AN/AN/A
– e2_videberta_cross_ce_real_frozenemb_lr1e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 N/A23.81%N/AN/AN/AN/AN/A26.63%N/AN/AN/AN/A
– e2_videberta_cross_ce_real_frozenemb_lr2e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 N/A23.81%N/AN/AN/AN/AN/A26.63%N/AN/AN/AN/A
– e2_videberta_cross_ce_real_frozenemb_lr4e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 N/A23.81%N/AN/AN/AN/AN/A26.63%N/AN/AN/AN/A
1 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5_lv21mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v2_1 jhu-clsp/mmBERT-base0.053v2_1 95.88%90.19%53.57%95.59%91.43%75.00%95.45%90.21%52.24%95.52%91.30%66.67%

Recall theo từng intent

STTModel_NameBackboneThresholdData clean Affirm_Recclean Negate_Recclean Fallback_Recclean Callback_Recclean Relation_Recclean Repeat_Recreply-unseen Affirm_Recreply-unseen Negate_Recreply-unseen Fallback_Recreply-unseen Callback_Recreply-unseen Relation_Recreply-unseen Repeat_Rec
0 e0_prod_sft_hard_none_qc_v16 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v1 96.75%92.75%70.41%95.95%86.30%100.00%95.98%92.80%78.16%97.22%87.32%100.00%
0 e0_prod_sft_hard_none_qc_v16_lv2 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v2 96.56%91.41%70.33%98.57%89.04%100.00%95.84%91.55%76.83%98.55%90.28%100.00%
0 e0_prod_sft_hard_none_qc_v16_lv21 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v2_1 96.75%92.75%70.41%95.95%86.30%100.00%95.98%92.80%78.16%97.22%87.32%100.00%
1 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr2e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.016v1 94.82%83.94%82.65%91.89%79.45%60.00%92.94%82.71%85.06%93.06%80.28%50.00%
2 e2_xlmr_base_cross_ce_real_frozenemb_lr4e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.023v1 94.72%84.72%82.65%90.54%78.08%60.00%92.94%83.57%83.91%91.67%78.87%50.00%
3 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr4e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.011v1 95.33%79.53%82.65%91.89%83.56%40.00%93.91%77.81%86.21%93.06%84.51%25.00%
4 e2_xlmr_base_cross_wcesqrt_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE trọng số căn nghịch tần suất · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.021v1 93.81% ±0.1084.54% ±1.4384.35% ±1.5692.34% ±0.7883.11% ±2.0960.00% ±20.0091.74% ±0.2183.29% ±1.2686.21% ±1.9993.52% ±0.8084.04% ±2.1550.00% ±25.00
5 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.061v1 94.48% ±0.1682.99% ±2.3585.71% ±1.0289.19% ±1.3583.56% ±4.9486.67% ±11.5592.71% ±0.2981.65% ±2.6188.51% ±1.1590.28% ±1.3984.51% ±5.0883.33% ±14.43
6 e2_xlmr_base_cross_ce_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035v1 94.45% ±0.1285.66% ±1.5082.99% ±3.5891.44% ±0.7881.28% ±2.8560.00% ±0.0092.66% ±0.2484.63% ±1.6684.67% ±4.0492.59% ±0.8082.16% ±2.9350.00% ±0.00
7 e2_xlmr_base_cross_logitadjust_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE điều chỉnh logit theo prior (τ=1) · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035v1 93.74% ±0.6183.85% ±0.9185.37% ±4.1291.89% ±1.3583.11% ±2.0966.67% ±11.5591.60% ±0.8382.61% ±1.0187.36% ±3.0493.06% ±1.3984.04% ±2.1558.33% ±14.43
8 e2_me5_base_cross_ce_real_frozenemb_lr2e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.023v1 93.10%87.05%82.65%91.89%80.82%40.00%90.86%86.17%83.91%93.06%81.69%25.00%
9 e2_me5_base_cross_ce_real_frozenemb_lr1e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.088v1 93.40%84.20%87.76%89.19%80.82%60.00%91.27%82.71%87.36%90.28%81.69%50.00%
10 e2_me5_base_cross_ce_real_frozenemb_lr4e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.028v1 94.52%84.72%85.71%91.89%80.82%60.00%92.80%83.29%87.36%93.06%81.69%50.00%
11 e2_xlmr_base_khonly_ce_real_frozenembXLM-R base · chỉ câu KH · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.076v1 94.08% ±0.7684.46% ±2.0782.99% ±3.1291.89% ±1.3582.65% ±3.1653.33% ±23.0992.06% ±1.0483.19% ±2.3185.44% ±3.5193.06% ±1.3983.57% ±3.2541.67% ±28.87
12 e2_mmbert_base_cross_ce_real_frozenemb_lr4e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.075v1 94.42%83.94%84.69%89.19%82.19%60.00%92.94%82.71%88.51%90.28%83.10%50.00%
13 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr1e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.026v1 94.62%82.12%84.69%90.54%80.82%40.00%92.80%81.27%86.21%91.67%81.69%50.00%
14 e2_xlmr_base_cross_ce_real_frozenemb_lr1e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.123v1 94.21%86.53%77.55%94.59%76.71%40.00%92.38%85.59%79.31%95.83%77.46%25.00%
15 e2_mmbert_base_cross_ce_real_frozenemb_lr1e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.120v1 93.96% ±0.3685.36% ±1.2880.61% ±2.8991.22% ±0.9684.93% ±5.8160.00% ±0.0092.24% ±0.2084.29% ±1.4383.91% ±3.2592.36% ±0.9885.92% ±5.9850.00% ±0.00
16 e2_visobert_cross_ce_real_frozenemb_lr2e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.093v1 93.40%85.23%78.57%87.84%79.45%60.00%91.41%84.15%81.61%88.89%80.28%50.00%
17 e2_visobert_cross_ce_real_frozenemb_lr4e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.066v1 92.89%84.20%80.61%89.19%79.45%80.00%90.58%83.00%82.76%90.28%81.69%75.00%
18 e1_tfidf_svmcal_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · SVM calibrated · train thật, nhãn v1 TF-IDF0.123v1 94.11%82.12%85.71%89.19%76.71%60.00%92.38%80.40%87.36%90.28%77.46%50.00%
19 e1_tfidf_logreg_balanced_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg cân bằng lớp · train thật, nhãn v1 TF-IDF0.256v1 93.60%75.65%81.63%87.84%86.30%80.00%91.41%73.49%82.76%88.89%85.92%75.00%
20 e1_tfidf_logreg_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật, nhãn v1 TF-IDF0.125v1 93.50%79.27%84.69%86.49%75.34%60.00%91.27%77.23%86.21%87.50%76.06%50.00%
21 e2_visobert_cross_ce_real_frozenemb_lr1e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.232v1 93.81%83.94%71.43%89.19%78.08%60.00%91.97%83.00%72.41%90.28%78.87%50.00%
22 e1_tfidf_logreg_ce_synth1x_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật + synth ×1, nhãn v1 TF-IDF0.234v1 93.91%79.53%79.59%87.84%75.34%60.00%92.38%77.52%81.61%88.89%76.06%50.00%
– e2_mdeberta_cross_ce_real_frozenemb_lr1e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 ––v1 N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/A
– e2_mdeberta_cross_ce_real_frozenemb_lr2e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 ––v1 N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/A
– e2_mdeberta_cross_ce_real_frozenemb_lr4e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 microsoft/mdeberta-v3-baseargmaxv1 0.00%100.00%0.00%0.00%0.00%0.00%0.00%100.00%0.00%0.00%0.00%0.00%
– e2_videberta_cross_ce_real_frozenemb_lr1e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 0.00%100.00%0.00%0.00%0.00%0.00%0.00%100.00%0.00%0.00%0.00%0.00%
– e2_videberta_cross_ce_real_frozenemb_lr2e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 0.00%100.00%0.00%0.00%0.00%0.00%0.00%100.00%0.00%0.00%0.00%0.00%
– e2_videberta_cross_ce_real_frozenemb_lr4e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 0.00%100.00%0.00%0.00%0.00%0.00%0.00%100.00%0.00%0.00%0.00%0.00%
1 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5_lv21mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v2_1 jhu-clsp/mmBERT-base0.053v2_1 94.62%85.75%76.53%87.84%87.67%60.00%92.94%85.01%80.46%88.89%88.73%50.00%

F1 theo từng intent

STTModel_NameBackboneThresholdData clean Affirm_F1clean Negate_F1clean Fallback_F1clean Callback_F1clean Relation_F1clean Repeat_F1reply-unseen Affirm_F1reply-unseen Negate_F1reply-unseen Fallback_F1reply-unseen Callback_F1reply-unseen Relation_F1reply-unseen Repeat_F1
0 e0_prod_sft_hard_none_qc_v16 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v1 96.65%90.98%76.24%95.30%90.00%76.92%96.18%91.48%81.44%95.89%90.51%72.73%
0 e0_prod_sft_hard_none_qc_v16_lv2 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v2 96.56%90.84%73.56%95.17%92.86%66.67%96.04%91.29%77.78%95.10%94.20%60.00%
0 e0_prod_sft_hard_none_qc_v16_lv21 tham chiếu Qwen-2B-Chat (SFT generative)N/A (CausalLM)v2_1 96.65%90.98%76.24%95.30%90.00%76.92%96.18%91.48%81.44%95.89%90.51%72.73%
1 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr2e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.016v1 95.11%87.92%65.85%93.15%82.27%75.00%93.72%86.97%65.20%93.71%82.61%66.67%
2 e2_xlmr_base_cross_ce_real_frozenemb_lr4e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.023v1 95.20%89.10%66.12%89.93%82.61%37.50%93.91%88.41%64.60%90.41%82.96%28.57%
3 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr4e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.011v1 95.04%85.87%63.53%93.79%86.52%40.00%93.84%84.64%63.83%94.37%86.96%25.00%
4 e2_xlmr_base_cross_wcesqrt_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE trọng số căn nghịch tần suất · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.021v1 94.87% ±0.1088.39% ±0.5465.20% ±1.7492.36% ±1.2785.05% ±1.4253.03% ±18.3793.42% ±0.2487.44% ±0.4264.39% ±1.1292.89% ±1.3085.44% ±1.4542.96% ±22.37
5 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.061v1 95.32% ±0.1488.07% ±1.3063.86% ±2.8491.05% ±1.6785.88% ±2.8674.24% ±8.4494.18% ±0.2287.17% ±1.5063.20% ±3.1191.57% ±1.7186.29% ±2.9268.89% ±10.18
6 e2_xlmr_base_cross_ce_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035v1 95.14% ±0.1788.61% ±0.7667.48% ±0.9892.06% ±0.4084.15% ±1.0755.79% ±10.3193.85% ±0.1787.74% ±0.8566.95% ±1.3392.59% ±0.4084.53% ±1.0945.98% ±10.47
7 e2_xlmr_base_cross_logitadjust_real_frozenembXLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE điều chỉnh logit theo prior (τ=1) · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.035v1 95.04% ±0.4488.03% ±0.4063.79% ±3.1992.73% ±1.6986.46% ±1.9046.34% ±3.5793.65% ±0.5387.09% ±0.4662.82% ±2.5093.28% ±1.7386.89% ±1.9437.52% ±4.87
8 e2_me5_base_cross_ce_real_frozenemb_lr2e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.023v1 94.83%88.65%64.80%91.89%83.10%40.00%93.45%87.94%63.48%92.41%83.45%25.00%
9 e2_me5_base_cross_ce_real_frozenemb_lr1e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.088v1 94.65%87.72%66.67%89.19%84.89%50.00%93.01%86.71%64.41%89.66%85.29%40.00%
10 e2_me5_base_cross_ce_real_frozenemb_lr4e5multilingual-E5 base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 intfloat/multilingual-e5-base0.028v1 95.19%88.38%67.47%92.52%83.69%66.67%93.90%87.44%66.38%93.06%84.06%57.14%
11 e2_xlmr_base_khonly_ce_real_frozenembXLM-R base · chỉ câu KH · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.076v1 94.59% ±0.3487.90% ±1.4366.84% ±2.5791.68% ±0.8186.38% ±1.6255.72% ±14.9993.13% ±0.5086.90% ±1.6566.16% ±2.5992.20% ±0.8386.81% ±1.6542.86% ±20.76
12 e2_mmbert_base_cross_ce_real_frozenemb_lr4e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.075v1 95.29%88.40%63.12%92.31%85.71%54.55%94.31%87.63%63.64%92.86%86.13%44.44%
13 e2_phobert_v2_seg_cross_ce_real_frozenemb_lr1e5PhoBERT-v2 base (tách từ underthesea) · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 vinai/phobert-base-v20.026v1 94.81%86.85%65.87%91.16%84.29%57.14%93.44%86.11%65.22%91.67%84.67%66.67%
14 e2_xlmr_base_cross_ce_real_frozenemb_lr1e5XLM-R base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 FacebookAI/xlm-roberta-base0.123v1 94.45%89.54%65.52%91.50%82.96%36.36%93.03%88.79%65.09%92.00%83.33%22.22%
15 e2_mmbert_base_cross_ce_real_frozenemb_lr1e5mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 jhu-clsp/mmBERT-base0.120v1 94.87% ±0.1688.28% ±1.0865.42% ±0.2493.43% ±1.4485.49% ±0.8545.00% ±7.0793.77% ±0.0687.51% ±1.2065.62% ±0.1794.00% ±1.4786.18% ±1.2635.38% ±6.53
16 e2_visobert_cross_ce_real_frozenemb_lr2e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.093v1 94.50%87.62%62.60%90.91%81.69%46.15%93.15%86.90%62.56%91.43%82.01%36.36%
17 e2_visobert_cross_ce_real_frozenemb_lr4e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.066v1 94.18%87.72%60.31%91.67%82.86%66.67%92.57%86.88%59.75%92.20%84.06%60.00%
18 e1_tfidf_svmcal_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · SVM calibrated · train thật, nhãn v1 TF-IDF0.123v1 94.74%86.38%63.88%90.41%84.21%66.67%93.35%85.06%63.07%90.91%84.62%57.14%
19 e1_tfidf_logreg_balanced_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg cân bằng lớp · train thật, nhãn v1 TF-IDF0.256v1 94.13%82.95%59.26%87.84%86.30%53.33%92.37%81.34%57.60%88.28%85.92%46.15%
20 e1_tfidf_logreg_ce_real_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật, nhãn v1 TF-IDF0.125v1 94.32%84.53%60.14%88.89%81.48%60.00%92.62%82.97%58.59%89.36%81.82%50.00%
21 e2_visobert_cross_ce_real_frozenemb_lr1e5ViSoBERT · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 uitnlp/visobert0.232v1 94.29%86.75%60.34%89.19%80.85%42.86%92.87%86.10%59.43%89.66%81.16%33.33%
22 e1_tfidf_logreg_ce_synth1x_baseTF-IDF câu KH (char 1-5, word 1-2-gram) + câu bot (char 2-4) · LogReg · train thật + synth ×1, nhãn v1 TF-IDF0.234v1 94.15%84.34%60.47%89.66%81.48%54.55%92.77%82.77%60.43%90.14%81.82%44.44%
– e2_mdeberta_cross_ce_real_frozenemb_lr1e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 ––v1 N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/A
– e2_mdeberta_cross_ce_real_frozenemb_lr2e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 ––v1 N/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/AN/A
– e2_mdeberta_cross_ce_real_frozenemb_lr4e5mDeBERTa-v3 · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 microsoft/mdeberta-v3-baseargmaxv1 0.00%38.47%0.00%0.00%0.00%0.00%0.00%42.06%0.00%0.00%0.00%0.00%
– e2_videberta_cross_ce_real_frozenemb_lr1e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 1e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 0.00%38.47%0.00%0.00%0.00%0.00%0.00%42.06%0.00%0.00%0.00%0.00%
– e2_videberta_cross_ce_real_frozenemb_lr2e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 0.00%38.47%0.00%0.00%0.00%0.00%0.00%42.06%0.00%0.00%0.00%0.00%
– e2_videberta_cross_ce_real_frozenemb_lr4e5ViDeBERTa · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 4e-05, 4 epoch · train thật, nhãn v1 Fsoft-AIC/videberta-baseargmaxv1 0.00%38.47%0.00%0.00%0.00%0.00%0.00%42.06%0.00%0.00%0.00%0.00%
1 e2_mmbert_base_cross_ce_real_frozenemb_lr2e5_lv21mmBERT base · câu bot + câu KH ghép cặp · full fine-tune, đóng băng embedding · CE · lr 2e-05, 4 epoch · train thật, nhãn v2_1 jhu-clsp/mmBERT-base0.053v2_1 95.25%87.92%63.03%91.55%89.51%66.67%94.18%87.54%63.35%92.09%90.00%57.14%

Dev và test_full (dữ liệu liên quan train — không dùng làm số chính)

dev là tập chọn ngưỡng và xếp STT; test_full (full) chứa cả cặp QC trùng train, nên hai tập này lạc quan hơn test thật. Chỉ để đối chiếu; baseline không có dev nên hiện N/A.

Precision theo từng intent (dev và test_full)

Recall theo từng intent (dev và test_full)

F1 theo từng intent (dev và test_full)

Nền xanh đậm = tốt nhất cột, tính cả baseline (cao nhất; thấp nhất với clean fb→negate, clean fb→affirm, clean false fb, latency); hoà thì tô tất cả. Chữ xanh kèm ▲ = ứng viên vượt baseline nhưng chưa tốt nhất. Params không tô.

Phân tích theo mức ảnh hưởng

MứcMethodRunKết luận
highe2_xlmr_base_cross_ce_real_frozenembe2_xlmr_base_cross_ce_real_frozenemb_seed13_0a1472e9On dev, xlm-roberta-base cross-encoder with frozen embeddings beats every TF-IDF baseline on the same data/format/decode: fallback recall 0.975 +- 0.002 vs 0.943 (svmcal), precision 0.893 +- 0.030 vs 0.852, missed fallbacks 6-7 vs 15, fallb

Cảnh báo registry