Trả lời nhanh: LLM (mô hình ngôn ngữ lớn) là bộ máy sinh văn bản, chưa phải sản phẩm. Chatbot là ứng dụng trò chuyện có giao diện, luồng hội thoại, dữ liệu và quy tắc. Chatbot có thể chạy bằng LLM hoặc bằng kịch bản cố định. Một LLM có thể phục vụ nhiều chatbot và nhiều ứng dụng không phải chat.
Điểm chính
- LLM là thành phần mô hình. Chatbot là hệ thống hoàn chỉnh gồm giao diện, bộ nhớ hội thoại, kết nối dữ liệu và kiểm soát.
- Chatbot không nhất thiết dùng LLM. Nhiều chatbot chăm sóc khách hàng đời cũ chạy theo kịch bản hoặc nhận diện ý định.
- LLM không tự biết dữ liệu nội bộ của bạn. Muốn chatbot trả lời đúng tài liệu công ty, cần thêm tầng truy xuất.
- Lỗi của LLM (bịa thông tin) trở thành lỗi của doanh nghiệp khi chatbot nói với khách hàng.
Mục lục
- Khác biệt cốt lõi: mô hình và sản phẩm
- Một chatbot dùng LLM gồm những tầng nào?
- Bảng so sánh LLM và chatbot theo tiêu chí
- Chatbot không dùng LLM có còn tồn tại không?
- Cùng một câu hỏi, ba hệ thống trả lời ra sao?
- Khi nào chọn LLM trực tiếp, khi nào cần chatbot?
- Rủi ro khác nhau khi mô hình trở thành chatbot
- Những hiểu nhầm thường gặp
- Câu hỏi nên đặt trước khi mua hoặc xây
- Câu hỏi thường gặp
Khác biệt cốt lõi: mô hình và sản phẩm
Cách nhanh nhất để phân biệt là hỏi: “Thứ này nhận đầu vào gì và người dùng cuối chạm vào đâu?”
LLM nhận một chuỗi token (đơn vị văn bản đã mã hoá) và dự đoán token tiếp theo, lặp lại cho đến khi ra hết câu trả lời. Bản thân nó không có cửa sổ chat, không nhớ bạn là ai, không biết hôm nay là ngày nào và không đọc được file của bạn. Nếu cần nền tảng khái niệm, bạn xem bài mô hình ngôn ngữ lớn hoạt động ra sao.
Chatbot là phần mềm hội thoại. Nó có giao diện (web, Zalo, Messenger, ứng dụng ngân hàng), có luồng xử lý và thường có kết nối đến hệ thống nghiệp vụ. Phần lõi sinh câu trả lời của nó có thể là LLM, nhưng cũng có thể là cây kịch bản. Theo một khảo sát học thuật, trước khi LLM xuất hiện, chatbot chủ yếu dựa trên quy tắc hoặc dùng kỹ thuật xử lý ngôn ngữ tự nhiên để cố hiểu câu hỏi của người dùng.
Tóm lại: LLM là động cơ, chatbot là chiếc xe. Động cơ không chở được ai nếu thiếu khung gầm, vô lăng và phanh. Ngược lại, có những chiếc xe chạy bằng động cơ khác.
Một chatbot dùng LLM gồm những tầng nào?
Khi doanh nghiệp nói “chatbot AI”, thứ họ mua hoặc xây thường có bốn tầng. LLM chỉ là tầng dưới cùng.

Tầng 1: giao diện và kênh
Đây là nơi khách hàng gõ chữ hoặc nói. Tầng này quyết định chuyện rất thực tế: tin nhắn dài bị cắt ở đâu, có gửi được ảnh hoặc file không, có nút chuyển sang nhân viên không. Hai chatbot dùng cùng một LLM vẫn cho trải nghiệm khác hẳn nếu giao diện khác.
Tầng 2: điều phối, bộ nhớ và quy tắc
LLM gọi qua API thường không nhớ lượt hỏi trước. Chatbot phải tự ghép lịch sử hội thoại vào mỗi lần gọi, và lịch sử đó bị giới hạn bởi độ dài cửa sổ ngữ cảnh. Tầng này cũng chứa chỉ dẫn vai trò như “bạn là nhân viên tư vấn bảo hiểm, không báo giá ngoài bảng”, gọi là system prompt. Ngoài ra còn có bộ lọc đầu vào và đầu ra, giới hạn chủ đề, và điều kiện chuyển cho người.
Tầng 3: dữ liệu và công cụ
LLM chỉ biết những gì có trong dữ liệu huấn luyện đến một thời điểm nhất định. Để trả lời về chính sách đổi trả hiện hành hoặc tình trạng đơn hàng, chatbot cần được nối với tài liệu hoặc hệ thống nghiệp vụ. Cách phổ biến cho tài liệu là truy xuất rồi đưa đoạn liên quan vào câu hỏi, đã có bài riêng về RAG cho doanh nghiệp. Với dữ liệu động như tồn kho hay trạng thái vận đơn, chatbot gọi API của hệ thống đó.
Tầng 4: LLM
Tầng này nhận toàn bộ văn bản đã ghép ở các tầng trên và sinh câu trả lời. Bạn có thể đổi LLM này sang LLM khác mà không đổi giao diện. Đó là lý do cùng một công ty có thể thay nhà cung cấp mô hình sau vài tháng mà khách hàng không thấy gì khác, miễn là các tầng trên được thiết kế tách bạch.
Bảng so sánh LLM và chatbot theo tiêu chí
| Tiêu chí | LLM | Chatbot |
|---|---|---|
| Bản chất | Mô hình học sâu đã huấn luyện, sinh văn bản | Ứng dụng hội thoại hoàn chỉnh |
| Người dùng chạm vào | API, thư viện hoặc playground dành cho lập trình viên | Khung chat, kênh nhắn tin, tổng đài ảo |
| Trạng thái | Không giữ trí nhớ giữa các lần gọi | Lưu lịch sử, hồ sơ, phiên làm việc |
| Dữ liệu nội bộ | Không có, trừ khi được đưa vào câu lệnh hoặc tinh chỉnh | Có thể nối tài liệu, CRM, ERP, API |
| Phạm vi việc làm | Tóm tắt, dịch, phân loại, trích xuất, viết mã, không cần giao diện chat | Hỏi đáp, tư vấn, đặt lịch, tiếp nhận yêu cầu |
| Có cần LLM không | Chính nó là LLM | Không bắt buộc: có thể theo kịch bản hoặc nhận diện ý định |
| Kiểm soát đầu ra | Chủ yếu qua câu lệnh và tham số sinh | Thêm bộ lọc, kịch bản chuyển người, nhật ký |
| Nguồn lỗi chính | Bịa thông tin, lệch kiến thức theo thời gian | Lỗi của LLM cộng lỗi truy xuất, tích hợp, quy tắc |
| Người chịu trách nhiệm với khách | Không trực tiếp, vì chưa đến tay khách | Doanh nghiệp triển khai |
| Chi phí tính theo | Số token vào và ra, hoặc hạ tầng GPU nếu tự chạy | Token cộng giao diện, tích hợp, vận hành, kiểm duyệt |
Chatbot không dùng LLM có còn tồn tại không?
Có, và vẫn đang chạy ở nhiều nơi. Có ba thế hệ cần phân biệt.
- Chatbot kịch bản (rule-based): người dùng bấm nút hoặc gõ từ khoá, bot đi theo cây quyết định. Câu trả lời do con người viết sẵn nên luôn nhất quán, nhưng câu hỏi ngoài kịch bản sẽ thất bại.
- Chatbot nhận diện ý định (intent-based): mô hình phân loại gán câu hỏi vào một ý định như “tra cứu đơn”, “đổi mật khẩu”, rồi trả câu trả lời soạn trước. Cần tập mẫu câu cho từng ý định.
- Chatbot dùng LLM: câu trả lời được sinh mới mỗi lần. Linh hoạt hơn với cách diễn đạt lạ, nhưng khó đảm bảo từng chữ đúng chính sách.
Nhiều hệ thống thực tế là lai: LLM hiểu câu hỏi và chọn ý định, còn câu trả lời quan trọng như điều khoản bảo hành vẫn lấy từ văn bản đã duyệt. Các loại chatbot và cách xây từng loại được trình bày trong bài chatbot AI và cách xây dựng.
Chiều ngược lại cũng đúng: LLM thường được dùng không có giao diện chat. Ví dụ minh hoạ: một bộ phận kế toán chạy LLM qua API để đọc nội dung email nhà cung cấp và trích ra số hoá đơn, ngày đến hạn, số tiền thành các cột. Không ai trò chuyện với mô hình, nên đây không phải chatbot.
Cùng một câu hỏi, ba hệ thống trả lời ra sao?
Ví dụ minh hoạ (giả định): khách của một cửa hàng đồ gia dụng nhắn “Tôi đặt nồi chiên cách đây 5 hôm mà chưa thấy hàng, có đổi sang loại khác được không?”
LLM gọi trực tiếp, không bổ sung gì
Mô hình không biết cửa hàng, đơn hàng hay chính sách đổi. Nó có thể trả lời lịch sự và chung chung về việc liên hệ đơn vị vận chuyển. Rủi ro nằm ở chỗ nó có thể nói chắc chắn rằng “bạn được đổi trong 7 ngày”, vì mô hình ưu tiên câu trả lời trôi chảy hơn là dừng lại báo không biết. Hiện tượng này được phân tích trong bài về ảo giác AI và cách giảm.
Chatbot kịch bản
Bot hỏi mã đơn, tra trạng thái, hiển thị “đang vận chuyển”. Với phần đổi hàng, nó đưa nút “Chuyển nhân viên”, vì kịch bản không có nhánh cho yêu cầu ghép hai việc trong một câu. Chính xác nhưng cứng.
Chatbot LLM có kết nối dữ liệu
Hệ thống tách câu thành hai yêu cầu, gọi API tra đơn, truy xuất đoạn chính sách đổi hàng, rồi soạn một câu trả lời nêu rõ tình trạng đơn và điều kiện đổi. Nếu chính sách ghi đơn đang vận chuyển thì chưa đổi được, chatbot phải nói đúng như vậy. Nhờ có cả dữ liệu thật lẫn văn bản chính sách, câu trả lời có căn cứ đối chiếu được, điều mà hai cách trên không làm được cùng lúc.
Khi nào chọn LLM trực tiếp, khi nào cần chatbot?
Câu hỏi chọn giải pháp thực chất là hai câu: phạm vi câu hỏi rộng đến đâu, và nếu trả lời sai thì hậu quả nặng đến đâu.

Cách đọc ma trận:
- Hẹp, sai nhẹ: giờ mở cửa, địa chỉ chi nhánh, tra trạng thái đơn. Kịch bản là đủ, thêm LLM chỉ làm tăng chi phí và độ khó kiểm.
- Rộng, sai nhẹ: gợi ý bài viết, giải đáp thắc mắc về sản phẩm trong catalogue, soạn nháp phản hồi. Chatbot LLM đơn giản chấp nhận được, miễn có nút báo câu trả lời sai.
- Hẹp, sai nặng: điều kiện hoàn tiền, lãi suất, điều khoản bảo hiểm. Dùng văn bản đã duyệt, có thể để LLM chỉ làm nhiệm vụ hiểu câu hỏi.
- Rộng, sai nặng: hỏi đáp kho tài liệu pháp chế, kỹ thuật, nhân sự. Cần truy xuất kèm trích dẫn nguồn, giới hạn phạm vi và đường chuyển sang người.
Nếu việc cần làm là xử lý hàng loạt văn bản, như phân loại phiếu hỗ trợ, gắn nhãn email, trích trường từ hợp đồng, thì gọi LLM trực tiếp bằng API hợp lý hơn dựng chatbot. Không có hội thoại nào xảy ra, nên không cần các tầng giao diện và bộ nhớ.
Chatbot cũng không phải đích cuối của dòng sản phẩm này. Khi hệ thống không chỉ trả lời mà còn tự thực hiện chuỗi hành động như tạo phiếu hoặc cập nhật đơn, người ta gọi nó là tác tử AI. Phần so sánh đó nằm ở bài AI agent và chatbot.
Rủi ro khác nhau khi mô hình trở thành chatbot
Một mô hình thử trên máy của kỹ sư chưa gây hại cho ai. Khi nó gắn tên công ty và trả lời khách, sai sót trở thành phát ngôn của doanh nghiệp.
Ví dụ đã được ghi nhận: theo một bài báo kỹ thuật, Air Canada bị buộc phải cho một khách hàng hưởng mức giảm giá mà chatbot của hãng tự bịa ra, và chatbot sau đó bị gỡ khỏi hoạt động. Bài học là chatbot không chỉ là công cụ trò chuyện, mà là kênh phát đi thông tin ràng buộc trách nhiệm với khách.
Một số rủi ro đặc thù của tầng chatbot, không có ở LLM đứng riêng:
- Rò rỉ chỉ dẫn hệ thống: khách nhập câu lệnh khéo để bot tiết lộ quy tắc nội bộ hoặc làm bot đi lệch vai. Cơ chế này nằm ở bài system prompt là gì.
- Lấy nhầm tài liệu: tầng truy xuất đưa chính sách cũ vào câu hỏi, LLM diễn đạt trôi chảy trên nền thông tin hết hạn.
- Lưu lịch sử hội thoại: khách có thể gõ số điện thoại, địa chỉ, tình trạng sức khoẻ. Nhật ký chat trở thành kho dữ liệu cá nhân mà doanh nghiệp phải bảo vệ.
- Quyền của bot với hệ thống: bot gọi được API huỷ đơn thì sai sót không còn chỉ là sai lời nói.
Lưu ý pháp lý: Luật Trí tuệ nhân tạo (Luật số 134/2025/QH15) được Quốc hội thông qua ngày 10/12/2025 và có hiệu lực từ 01/3/2026. Theo Điều 11 như một số tài liệu phân tích, nhà cung cấp phải bảo đảm người dùng nhận biết khi họ đang tương tác với hệ thống AI. Với chatbot dùng LLM, điều này thường nghĩa là nên có dòng thông báo rõ ràng rằng khách đang chat với AI. Hình thức cụ thể phụ thuộc quy định hướng dẫn của Chính phủ. Bài viết này không phải tư vấn pháp lý, bạn nên đối chiếu văn bản hiện hành hoặc hỏi luật sư cho trường hợp của mình.
Những hiểu nhầm thường gặp
“ChatGPT, Claude hay Gemini là LLM”
Cách gọi này gộp hai thứ. Tên thương mại thường chỉ cả sản phẩm chat lẫn dòng mô hình đứng sau. Khi bạn mở ứng dụng và trò chuyện, bạn dùng chatbot. Khi lập trình viên gọi API của cùng nhà cung cấp, họ dùng mô hình. Tên gọi giống nhau nhưng chức năng, giá và điều khoản dữ liệu có thể khác nhau, nên khi so sánh cần hỏi rõ đang nói đến cái nào.
“Chatbot thông minh là do LLM lớn”
Một chatbot tư vấn bảo hiểm tốt có thể thua một chatbot nhỏ hơn chỉ vì chatbot nhỏ được nối với bảng quyền lợi cập nhật, còn chatbot kia thì không. Chất lượng phụ thuộc vào dữ liệu, quy tắc và cách kiểm duyệt nhiều không kém độ lớn mô hình. Muốn biết mô hình nào hợp nhiệm vụ, bạn xem cách đánh giá trong bài benchmark LLM, nhưng nhớ rằng điểm benchmark chung không thay cho thử trên câu hỏi thật của bạn.
“Huấn luyện thêm là chatbot sẽ biết dữ liệu công ty”
Tinh chỉnh chủ yếu dạy mô hình phong cách, định dạng, thuật ngữ. Nó không phải cách đáng tin cậy để nhồi dữ liệu thay đổi hằng ngày như giá, tồn kho. Với dữ liệu hay đổi, truy xuất lúc trả lời thường thực tế hơn, và hai kỹ thuật có thể dùng cùng nhau.
“Chatbot nhớ khách vì LLM có trí nhớ”
Trí nhớ là tính năng của hệ thống chatbot, không phải của mô hình. Nếu lịch sử không được lưu và ghép lại, mỗi lần gọi mô hình bắt đầu từ trang trắng. Điều này có hệ quả quản trị: ai được xem nhật ký, giữ bao lâu, xoá khi khách yêu cầu thế nào đều là việc của tầng chatbot.
Câu hỏi nên đặt trước khi mua hoặc xây
Khi nhà cung cấp nói “chúng tôi có chatbot AI”, bạn có thể hỏi những câu cụ thể để biết họ bán phần nào:
- Phần sinh câu trả lời dùng mô hình nào, chạy ở đâu (máy chủ nhà cung cấp, đám mây, hay máy chủ của bạn)?
- Dữ liệu khách gõ vào có được dùng để huấn luyện lại mô hình không, và có tuỳ chọn tắt không?
- Câu trả lời lấy từ tài liệu nào, và chatbot có hiển thị nguồn để nhân viên kiểm lại được không?
- Khi chatbot không chắc hoặc khách yêu cầu, nó chuyển sang người ở bước nào và kèm lịch sử chat không?
- Có thể thay mô hình nền mà không phải xây lại giao diện và kịch bản không?
- Nhật ký hội thoại được lưu bao lâu và xoá theo yêu cầu thế nào?
Những câu này tách được phần “mô hình” (câu 1, 2, 5) khỏi phần “sản phẩm” (câu 3, 4, 6), tức đúng ranh giới mà bài viết này vẽ. Với trường hợp chỉ cần trợ lý hỗ trợ nhân viên làm việc thay vì đối thoại với khách, bạn có thể xem thêm bài về trợ lý ảo và rủi ro dữ liệu.
Câu hỏi thường gặp
LLM và chatbot cái nào có trước?
Chatbot có trước. Các chương trình hội thoại theo quy tắc đã tồn tại từ lâu trước khi mô hình ngôn ngữ lớn xuất hiện. LLM sau đó được dùng làm lõi mới cho chatbot, làm câu trả lời tự nhiên hơn nhiều so với kịch bản viết tay.
Chatbot có bắt buộc phải dùng LLM không?
Không. Chatbot kịch bản và chatbot nhận diện ý định vẫn là chatbot. Với những câu hỏi lặp lại, có đáp án cố định và hậu quả sai lớn, các loại này thường dễ kiểm soát hơn.
LLM có thể dùng cho việc không phải chat không?
Có. Tóm tắt văn bản, dịch, phân loại phiếu hỗ trợ, trích thông tin từ hợp đồng, sinh mã đều có thể chạy qua API mà không có khung chat. Đây là cách dùng phổ biến trong tự động hoá văn phòng.
Vì sao chatbot dùng LLM vẫn trả lời sai về chính sách công ty?
Thường do mô hình không có tài liệu chính sách trong ngữ cảnh, hoặc tầng truy xuất lấy nhầm bản cũ. Mô hình khi thiếu thông tin vẫn có thể sinh câu nghe hợp lý nhưng sai. Giải pháp nằm ở tầng dữ liệu và kiểm duyệt, không chỉ ở việc đổi mô hình.
Doanh nghiệp có phải báo cho khách biết đang chat với AI không?
Theo các tài liệu phân tích Điều 11 Luật Trí tuệ nhân tạo 2025, nhà cung cấp phải bảo đảm người dùng nhận biết khi đang tương tác với hệ thống AI, trừ trường hợp luật có quy định khác. Hướng dẫn chi tiết về hình thức thông báo do Chính phủ quy định, nên bạn cần theo dõi văn bản hướng dẫn hiện hành.
Nên bắt đầu từ LLM hay từ chatbot?
Phụ thuộc việc cần làm. Nếu cần xử lý văn bản hàng loạt trong nội bộ, bắt đầu từ LLM qua API. Nếu cần khách hoặc nhân viên hỏi đáp qua một kênh, bạn cần chatbot, và nên kiểm tra kỹ phần dữ liệu và chuyển người trước khi chọn mô hình.
VBPO Tech Blog cập nhật tin tức và kiến thức công nghệ cho doanh nghiệp Việt Nam. Xem thêm các bài cùng chuyên mục AI tạo sinh & LLM.