Token trong AI là gì? Cách đếm, chi phí và tiếng Việt

Mục lục

1. Token trong AI là gì?
2. Vì sao AI phải chia chữ thành token?
3. Tokenization hoạt động như thế nào?
4. Các phương pháp tách token phổ biến
5. 1 token bằng bao nhiêu chữ? Tiếng Việt khác tiếng Anh thế nào?
6. Token quyết định những gì khi bạn dùng AI?
7. Cách tính chi phí AI theo token
8. Làm sao đếm số token của một văn bản?
9. Cách tiết kiệm token khi dùng AI bằng tiếng Việt
10. Ưu điểm và hạn chế của cách AI xử lý bằng token
11. Token, từ, embedding và tham số khác nhau thế nào?
12. Tiếng Việt có bộ tách token riêng không?
13. Câu hỏi thường gặp

Token trong AI là gì?

Token (mẩu văn bản) là đơn vị nhỏ nhất mà một mô hình ngôn ngữ lớn (LLM) dùng để đọc đầu vào và tạo đầu ra. Khi bạn gõ một câu vào ChatGPT, Gemini hay Claude, một chương trình gọi là bộ tách token (tokenizer) sẽ cắt câu thành các mẩu nhỏ. Mỗi mẩu được gán một mã số. Mô hình chỉ làm việc với dãy mã số này, không “nhìn” thấy chữ như bạn.

Một token có thể là:

• Một từ phổ biến, ví dụ “token” hay ” intelligence” trong tiếng Anh.
• Một phần của từ, ví dụ “tokenization” bị cắt thành “token” và “ization”.
• Một âm tiết hoặc mảnh âm tiết tiếng Việt, ví dụ ” nhân”, ” tạo”, hoặc “Tr” và “í” trong chữ “Trí”.
• Một dấu câu, một nhóm chữ số hay một biểu tượng cảm xúc.
• Một token đặc biệt (special token) mà bạn không thấy, dùng để đánh dấu đầu, cuối văn bản hoặc vai trò người nói.

Việc cắt văn bản thành token gọi là tokenization (tách token). Việc ghép token ngược lại thành chữ gọi là detokenization. Để nắm bức tranh tổng thể về mô hình ngôn ngữ, bạn có thể đọc bài LLM là gì và hoạt động ra sao. Bài này đi sâu riêng vào token.

Lưu ý: “token” còn có nghĩa khác như tài sản số trên blockchain (xem bài phân biệt coin và token), mã xác thực đăng nhập, hay kỹ thuật thay số thẻ thanh toán bằng mã thay thế. Trong bài này, token luôn hiểu theo nghĩa xử lý ngôn ngữ của AI.

Vì sao AI phải chia chữ thành token?

Mạng nơ-ron chỉ tính toán được với con số, nên văn bản phải được đổi thành số. Câu hỏi là nên cắt theo đơn vị nào:

• Theo ký tự: không bao giờ gặp chữ lạ, nhưng chuỗi rất dài, mô hình chậm và khó nắm nghĩa.
• Theo từ: chuỗi ngắn, nhưng bộ từ vựng phải chứa hàng triệu từ và vẫn bó tay trước từ mới, tên riêng, lỗi chính tả.
• Theo mẩu từ (subword): từ phổ biến giữ nguyên một token, từ hiếm được ghép từ vài mẩu nhỏ. Đây là điểm cân bằng mà hầu hết mô hình ngôn ngữ hiện nay chọn.

Theo trang dự án tiktoken của OpenAI, cách này đảo ngược được mà không mất thông tin, xử lý được văn bản bất kỳ và nén văn bản, trung bình mỗi token khoảng 4 byte.

Tokenization hoạt động như thế nào?

Từ lúc bạn bấm gửi đến lúc AI trả lời, token đi qua sáu bước. Sơ đồ dưới dùng câu “Xin chào bạn” với bộ mã hoá o200k_base của OpenAI. Các mã số là kết quả đo thật bằng thư viện tiktoken.

1. Văn bản đầu vào được một số bộ tách token chuẩn hoá ký tự, khoảng trắng trước khi cắt.
2. Tách token: “Xin chào bạn” thành bốn mẩu “Xin”, ” ch”, “ào”, ” bạn”. Dấu cách đứng trước thường được gộp vào token sau.
3. Đổi sang mã số: mỗi token có một mã số (ID) cố định trong bộ từ vựng. Bộ từ vựng của GPT-2 có 50.257 mục, cl100k_base khoảng 100 nghìn, o200k_base khoảng 200 nghìn.
4. Biến thành vectơ: mỗi mã số được tra ra một dãy số thể hiện nghĩa, gọi là embedding.
5. Mô hình xử lý: các lớp Transformer cho từng token “chú ý” đến token khác để hiểu ngữ cảnh, rồi tính xác suất cho token tiếp theo.
6. Sinh token tiếp theo: mô hình chọn một token, nối vào chuỗi rồi lặp lại cho tới khi gặp token kết thúc hoặc chạm giới hạn. Các mã số được ghép lại thành chữ cho bạn đọc.

Đó là lý do chatbot “gõ” câu trả lời từng mẩu một.

Các phương pháp tách token phổ biến

Các mô hình ngôn ngữ lớn hiện nay gần như đều dùng một biến thể của cách tách theo mẩu từ. Bảng dưới tóm tắt những phương pháp bạn sẽ gặp.

Phương pháp	Cách làm	Điểm mạnh	Điểm yếu	Thường gặp ở
Theo từ	Cắt theo khoảng trắng, dấu câu	Dễ hiểu, chuỗi ngắn	Từ vựng khổng lồ, không xử lý được từ mới	Xử lý ngôn ngữ thế hệ cũ
Theo ký tự	Mỗi ký tự một token	Không gặp chữ lạ	Chuỗi rất dài	Mô hình chuyên biệt
BPE (Byte Pair Encoding)	Gộp dần cặp mẩu đứng cạnh nhau xuất hiện nhiều nhất	Cân bằng độ dài chuỗi và cỡ từ vựng	Thiệt cho ngôn ngữ ít dữ liệu	Nhiều mô hình sinh văn bản
BPE mức byte	Chạy BPE trên byte thay vì ký tự	Mã hoá được mọi văn bản, kể cả emoji	Chữ có dấu dễ bị cắt rời	GPT-2, các bộ mã hoá của tiktoken
WordPiece	Gộp cặp hay đi cùng nhau hơn mức ngẫu nhiên	Ưu tiên cặp mang nhiều thông tin	Ít dùng cho mô hình sinh văn bản lớn	Họ BERT (DistilBERT, Electra)
Unigram / SentencePiece	Học thẳng từ câu thô, coi khoảng trắng như ký tự	Không cần tách từ trước	Phải chọn cỡ từ vựng hợp lý	T5, BigBird, Pegasus

BPE ra đời từ đâu?

BPE vốn là thuật toán nén dữ liệu do Philip Gage mô tả năm 1994. Năm 2015, Rico Sennrich, Barry Haddow và Alexandra Birch đăng bài “Neural Machine Translation of Rare Words with Subword Units”, dùng BPE để tách từ hiếm thành mẩu nhỏ cho dịch máy. Từ đó BPE thành nền tảng của nhiều bộ tách token. Năm 2018, Taku Kudo và John Richardson giới thiệu SentencePiece, công cụ không phụ thuộc ngôn ngữ, học trực tiếp từ câu thô mà không cần tách từ trước.

Ví dụ tính tay: BPE học token như thế nào?

Ví dụ minh hoạ. Giả sử dữ liệu chỉ có bốn từ: “to” (6 lần), “toán” (5 lần), “toàn” (3 lần), “bán” (2 lần). Ban đầu mỗi ký tự là một token.

1. Cặp “t + o” xuất hiện 6 + 5 + 3 = 14 lần, nhiều nhất. Gộp thành “to”.
2. Đếm lại: “á + n” xuất hiện 5 lần trong “toán” và 2 lần trong “bán”, tổng 7. Cặp “to + á” chỉ 5 lần. Gộp thành “án”.
3. Đếm tiếp: “to + án” có 5 lần, nhiều nhất. Gộp thành “toán”.

Sau ba lượt, “toán” là một token vì hay xuất hiện, còn “toàn” vẫn phải ghép từ “to”, “à”, “n”. Bộ tách token thật lặp lại việc này hàng chục nghìn lần trở lên trên khối dữ liệu khổng lồ. Chữ nào phổ biến trong dữ liệu huấn luyện được đóng gói gọn, chữ nào hiếm thì bị cắt vụn.

1 token bằng bao nhiêu chữ? Tiếng Việt khác tiếng Anh thế nào?

Không có tỷ lệ cố định. Với tiếng Anh, OpenAI đưa ra quy tắc ước lượng 1 token khoảng 4 ký tự, khoảng ba phần tư một từ, 100 token khoảng 75 từ. Tài liệu Gemini API của Google ước lượng 100 token khoảng 60 đến 80 từ tiếng Anh. Cả hai đều lưu ý ngôn ngữ khác có tỷ lệ khác.

Tiếng Việt chịu thiệt vì dữ liệu huấn luyện bộ tách token chủ yếu là tiếng Anh, và chữ có dấu như “ệ”, “ổ” chiếm 2 đến 3 byte trong UTF-8 nên dễ bị cắt rời. Nghiên cứu “Language Model Tokenizers Introduce Unfairness Between Languages” của Petrov và cộng sự, trình bày tại NeurIPS 2023, cho thấy cùng một nội dung dịch sang các ngôn ngữ khác nhau có thể chênh tới 15 lần về số token.

Thử nghiệm: đếm token đoạn văn tiếng Việt và tiếng Anh

Chúng tôi đếm bằng thư viện tiktoken 0.14.0 ngày 08/10/2026, với hai bộ mã hoá: cl100k_base (dùng cho GPT-4, GPT-3.5 Turbo) và o200k_base (dùng cho GPT-4o, dòng o1 và GPT-5, theo bảng ánh xạ trong mã nguồn tiktoken). Văn bản thử là một đoạn 4 câu về chi phí dùng AI bằng tiếng Việt và bản dịch tiếng Anh cùng nghĩa.

Chỉ số	Tiếng Việt, cl100k_base	Tiếng Việt, o200k_base	Tiếng Anh, cl100k_base	Tiếng Anh, o200k_base
Số ký tự	331	331	360	360
Số tiếng hoặc từ	74	74	63	63
Số token	160	90	71	70
Ký tự mỗi token	2,07	3,68	5,07	5,14
Token mỗi tiếng hoặc từ	2,16	1,22	1,13	1,11
So với bản tiếng Anh	gấp 2,25 lần	gấp 1,29 lần	1	1

Bộ mã hoá cũ cắt tiếng Việt rất vụn, gần như mỗi tiếng thành hai token. Bộ mã hoá mới với từ vựng gấp đôi đã đóng gói phần lớn âm tiết thông dụng như ” nhân”, ” doanh”, ” nghiệp”, nên số token giảm gần một nửa. Đây chỉ là một đoạn mẫu, tỷ lệ trên dữ liệu của bạn sẽ khác.

Bỏ dấu không giúp tiết kiệm với bộ mã hoá mới. Câu “Trí tuệ nhân tạo đang thay đổi cách doanh nghiệp Việt Nam làm việc.” tốn 17 token khi có dấu, 18 token khi viết không dấu. Viết không dấu vừa không rẻ hơn, vừa dễ làm AI hiểu sai nghĩa.

Bẫy Unicode tổ hợp: cùng chữ, gấp gần 3 lần token

Chữ tiếng Việt có dấu lưu được theo hai cách. Dạng dựng sẵn (chuẩn NFC) lưu “ệ” là một ký tự. Dạng tổ hợp (chuẩn NFD) lưu “ệ” thành chữ “e” cộng hai dấu phụ. Trên màn hình, hai dạng trông y hệt nhau. Văn bản sao chép từ một số tệp PDF, phần mềm cũ hoặc bộ gõ đặt chế độ tổ hợp thường ở dạng NFD.

Với đoạn văn thử ở trên, dạng NFD tốn 242 token với o200k_base thay vì 90, gấp khoảng 2,7 lần, và 303 thay vì 160 với cl100k_base. Chữ “Việt” dạng tổ hợp bị cắt thành “Vie”, dấu nặng, dấu mũ và “t”. Chuẩn hoá về NFC trước khi gửi lên API giúp giảm đáng kể chi phí, lại giúp tìm kiếm chính xác hơn.

Số, mã và dữ liệu có cấu trúc cũng tốn token

Con số thường bị cắt thành nhóm 1 đến 3 chữ số. Câu “Hóa đơn số 0012345 ngày 08/10/2026, tổng tiền 12.500.000 đồng.” tốn 27 token với o200k_base. Dữ liệu JSON tốn thêm token cho ngoặc và dấu nháy: cùng thông tin họ tên và số điện thoại, bản JSON tốn 19 token, bản viết “Tên: …; SĐT: …” chỉ 15 token.

Cùng văn bản, mô hình khác thì số token khác

Mỗi nhà cung cấp, thậm chí mỗi thế hệ mô hình, có thể dùng bộ tách token khác. Theo trang bảng giá của Anthropic (truy cập tháng 10/2026), các mô hình Claude từ thế hệ 4.7 trở đi dùng bộ tách token mới, tạo ra khoảng 30% nhiều token hơn cho cùng văn bản, tuỳ nội dung. Đơn giá mỗi token không đổi nhưng tổng số token thay đổi. Vì vậy, chỉ so đơn giá mỗi triệu token giữa các mô hình là chưa đủ.

Token quyết định những gì khi bạn dùng AI?

Giới hạn độ dài

Mỗi mô hình chỉ xử lý được một số token nhất định trong một lần gọi, gọi là cửa sổ ngữ cảnh (context window). Lời nhắn hệ thống, lịch sử hội thoại, tài liệu đính kèm và câu trả lời dùng chung ngân sách này, ngoài ra còn có giới hạn riêng cho đầu ra. Vượt giới hạn thì phần cũ bị cắt hoặc tóm tắt. Chi tiết có trong bài context window là gì.

Chi phí

Hầu hết API tính phí theo số token, báo giá theo mỗi triệu token, với đơn giá đầu vào (phần bạn gửi) và đầu ra (phần AI viết) khác nhau. Token đầu ra đắt hơn vì phải sinh tuần tự. Ví dụ, trên bảng giá của Anthropic tháng 10/2026, đơn giá đầu ra của mọi mô hình được liệt kê đều gấp 5 lần đầu vào.

Tốc độ

Đầu vào dài làm chữ đầu tiên hiện ra chậm hơn. Đầu ra dài làm tổng thời gian trả lời tăng, vì mô hình sinh từng token một.

Token suy luận

Mô hình suy luận (reasoning model) tạo chuỗi suy nghĩ nội bộ trước khi trả lời. Theo tài liệu của OpenAI, token suy luận không hiển thị qua API nhưng vẫn chiếm chỗ trong cửa sổ ngữ cảnh và được tính phí như token đầu ra. OpenAI khuyến nghị dành ít nhất 25.000 token cho suy luận và đầu ra khi mới thử. Nếu chạm giới hạn giữa chừng, bạn có thể nhận phản hồi không có nội dung hiển thị mà vẫn phải trả tiền phần đã dùng.

Ảnh, âm thanh, video

Theo tài liệu Gemini API của Google, một ảnh có hai chiều không quá 384 điểm ảnh tính 258 token. Ảnh lớn hơn được chia thành ô 768 x 768 điểm ảnh, mỗi ô 258 token. Video tính 263 token mỗi giây, âm thanh 32 token mỗi giây. Như vậy, một bản ghi âm cuộc gọi 5 phút tốn khoảng 9.600 token.

Cách tính chi phí AI theo token

Chi phí = (token đầu vào x đơn giá đầu vào + token đầu ra x đơn giá đầu ra) / 1.000.000, với đơn giá tính theo mỗi triệu token. Dùng mô hình suy luận thì cộng token suy luận vào phần đầu ra.

Ví dụ minh hoạ với đơn giá giả định. Một chatbot trả lời khách hàng nhận 1.000 lượt hỏi mỗi ngày. Mỗi lượt gửi khoảng 1.500 token đầu vào (hướng dẫn hệ thống, đoạn tài liệu, câu hỏi) và nhận khoảng 300 token đầu ra. Giả sử đơn giá 1 USD mỗi triệu token đầu vào, 5 USD mỗi triệu token đầu ra.

Hạng mục	Số token mỗi ngày	Chi phí mỗi ngày
Đầu vào	1.000 x 1.500 = 1.500.000	1,5 USD
Đầu ra	1.000 x 300 = 300.000	1,5 USD
Tổng	1.800.000	3 USD, khoảng 90 USD cho 30 ngày

Đầu ra chỉ bằng một phần năm số token nhưng chiếm một nửa chi phí. Và nếu văn bản gửi lên ở dạng Unicode tổ hợp, phần đầu vào có thể tăng gần gấp ba mà không ai để ý.

Nhiều nhà cung cấp có cơ chế giảm giá. Ví dụ, theo bảng giá của Anthropic tháng 10/2026, phần lời nhắn được lưu đệm (prompt caching) khi dùng lại thường chỉ tính 0,1 lần đơn giá đầu vào, còn xử lý theo lô (Batch API) giảm 50% cả đầu vào lẫn đầu ra. Hãy kiểm tra bảng giá chính thức tại thời điểm dự toán.

Làm sao đếm số token của một văn bản?

Không thể đếm chính xác bằng cách đếm chữ, vì mỗi mô hình cắt khác nhau. Có bốn cách thực tế:

1. Công cụ trên web: trang Tokenizer của OpenAI cho phép dán văn bản và xem nó được cắt thành token ra sao.
2. Thư viện lập trình: tiktoken đếm token trong mã Python với đúng bộ mã hoá của mô hình. Theo trang dự án, nó nhanh hơn 3 đến 6 lần so với một bộ tách token mã nguồn mở tương đương.
3. API đếm token của nhà cung cấp: Gemini API có hàm đếm token đầu vào trước khi gửi. OpenAI cũng có API đếm token đầu vào, tính cả tin nhắn, công cụ và tệp. Cách này chính xác hơn đếm văn bản thô.
4. Trường usage trong phản hồi: mỗi lần gọi API đều trả về số token đầu vào, đầu ra, suy luận thực tế. Đây là số liệu để đối soát hoá đơn.

Khi chưa đo, bạn có thể tạm tính 1,2 đến 2,2 token cho mỗi tiếng Việt, tuỳ bộ tách token. Sau đó lấy 50 đến 100 mẫu văn bản thật, đếm bằng công cụ của chính mô hình định dùng, rồi nhân theo sản lượng.

Cách tiết kiệm token khi dùng AI bằng tiếng Việt

1. Chuẩn hoá Unicode về NFC cho mọi văn bản trước khi gửi. Chỉ một dòng mã nhưng có thể giảm hơn một nửa số token với văn bản tổ hợp.
2. Làm sạch đầu vào: bỏ thẻ HTML, khoảng trắng thừa, chân trang lặp lại, đoạn trùng.
3. Chỉ gửi phần tài liệu liên quan: thay vì dán cả cuốn quy trình 200 trang, dùng kỹ thuật truy xuất để chọn vài đoạn cần thiết, như cách RAG vận hành.
4. Rút gọn lịch sử hội thoại: tóm tắt các lượt cũ thay vì gửi lại nguyên văn.
5. Giới hạn đầu ra: đặt số token đầu ra tối đa và yêu cầu rõ, ví dụ “trả lời trong 3 câu”. Câu lệnh rõ ngay từ đầu cũng tránh phải hỏi lại nhiều lượt, xem thêm về cách viết prompt hiệu quả.
6. Tận dụng lưu đệm và xử lý theo lô: đặt phần hướng dẫn cố định ở đầu câu lệnh để dùng lại bộ đệm, gửi theo lô các việc không cần trả lời ngay.
7. Chọn định dạng gọn: dạng “khoá: giá trị” thường tốn ít token hơn JSON nhiều tầng.
8. Đo trước khi chọn mô hình và theo dõi liên tục: mô hình đơn giá thấp nhưng tách tiếng Việt vụn có thể đắt hơn. Ghi lại số token mỗi lần gọi, đặt hạn mức chi tiêu, và đo lại khi đổi mô hình.

Ưu điểm và hạn chế của cách AI xử lý bằng token

Ưu điểm: mô hình đọc được mọi văn bản, kể cả từ mới, mã sản phẩm, emoji. Chuỗi token ngắn hơn chuỗi ký tự nhiều lần nên xử lý nhanh hơn. Token cũng là đơn vị chung để đo giới hạn, chi phí và đối soát.

Hạn chế:

• Bất công giữa các ngôn ngữ: người dùng tiếng Việt có thể trả nhiều hơn và hết cửa sổ ngữ cảnh nhanh hơn cho cùng nội dung.
• Khó với tác vụ cấp ký tự: mô hình thấy mẩu từ chứ không thấy từng chữ cái, nên đếm chữ cái, đảo chuỗi hay đếm chính xác số từ có thể sai.
• Tính toán số kém ổn định: số dài bị cắt thành nhóm chữ số, phép tính nhiều chữ số dễ lệch nếu không dùng công cụ tính.
• Nhạy với cách viết: ” khách hàng” có dấu cách đứng trước là 2 token, “khách hàng” ở đầu dòng là 3 token. Chữ hoa, khoảng trắng đều đổi cách cắt.

Token, từ, embedding và tham số khác nhau thế nào?

Khái niệm	Là gì	Ví dụ	Dùng để đo
Ký tự	Một chữ cái, chữ số, dấu câu	“ệ”, “5”, “,”	Độ dài theo cách người đọc
Từ / tiếng	Đơn vị nghĩa của ngôn ngữ	“doanh nghiệp”: một từ, hai tiếng	Độ dài theo cách con người đếm
Token	Mẩu văn bản theo cách bộ tách token cắt	“Tr”, “í”, ” nhân”	Độ dài, chi phí, giới hạn theo cách AI đếm
Embedding	Vectơ số biểu diễn nghĩa của token hoặc đoạn văn	Dãy vài trăm đến vài nghìn con số	Nghĩa và độ giống nhau về nghĩa
Tham số	Trọng số mô hình học được khi huấn luyện	Hàng tỷ con số trong mạng nơ-ron	Kích thước, năng lực mô hình

Hai con số hay bị nhầm nhất là số token và số tham số. Ví dụ minh hoạ: “huấn luyện trên 10 nghìn tỷ token” nói về lượng dữ liệu mô hình đã đọc, còn “mô hình 70 tỷ tham số” nói về kích thước mô hình. Xem thêm bài tham số mô hình AI là gì.

Tiếng Việt có bộ tách token riêng không?

Mô hình đa ngôn ngữ lớn thường dùng một bộ tách token chung. Một số mô hình chuyên cho tiếng Việt xử lý khác. Ví dụ, PhoBERT do VinAI công bố năm 2020, được giới thiệu là mô hình ngôn ngữ đơn ngữ quy mô lớn công khai đầu tiên cho tiếng Việt. Theo hướng dẫn của dự án, văn bản phải được tách từ trước bằng RDRSegmenter trong bộ VnCoreNLP, nối các tiếng của một từ bằng dấu gạch dưới như “Hà_Nội”, “làm_việc”. Lý do: khoảng trắng trong tiếng Việt chỉ tách tiếng, không tách từ. Việc này chỉ cần cân nhắc khi bạn tự huấn luyện hoặc tinh chỉnh mô hình.

Câu hỏi thường gặp

1 token bằng bao nhiêu từ tiếng Việt?

Không có tỷ lệ cố định. Trong thử nghiệm của bài, mỗi tiếng tốn khoảng 2,16 token với cl100k_base và 1,22 token với o200k_base, tức 1 token ứng với khoảng 0,5 đến 0,8 tiếng. Hãy đo trên dữ liệu thật bằng đúng mô hình bạn dùng.

Token đầu vào và token đầu ra khác nhau thế nào?

Đầu vào là mọi thứ bạn gửi: câu hỏi, hướng dẫn hệ thống, lịch sử hội thoại, tài liệu. Đầu ra là những gì mô hình viết, kể cả phần suy luận ẩn. Token đầu ra thường đắt hơn nhiều lần.

Dấu cách, dấu câu và emoji có bị tính token không?

Có. Dấu câu thường là một token riêng. Dấu cách thường gộp vào token đứng sau, nhưng xuống dòng, thụt lề vẫn có thể tạo thêm token. Emoji ít gặp có thể bị cắt thành vài token.

Hết token thì chuyện gì xảy ra?

Chạm giới hạn đầu ra thì câu trả lời bị cắt giữa chừng. Vượt cửa sổ ngữ cảnh thì yêu cầu bị từ chối hoặc phần đầu hội thoại bị lược. Hết hạn mức của gói dịch vụ thì phải chờ đặt lại hoặc nâng gói.

Có biết chính xác số token trước khi gửi không?

Có, bằng thư viện hoặc API đếm token của chính nhà cung cấp mô hình.