Phân loại tài liệu tự động

Trả lời nhanh: Phân loại tài liệu tự động là bước phần mềm đọc một tệp scan hoặc PDF rồi gán nó vào một loại đã định sẵn, như hoá đơn, hợp đồng, CCCD. Hệ thống chấm điểm từng loại. Điểm đủ cao thì tự gán, điểm thấp thì chuyển cho người duyệt. Bước này nằm trước khâu trích xuất dữ liệu.

Điểm chính

  • Có 4 cách gán loại: mã vạch hoặc tờ phân cách, quy tắc từ khoá, mô hình học máy, mô hình thị giác-ngôn ngữ. Mỗi cách hợp một kiểu hồ sơ khác nhau.
  • Danh mục loại tài liệu nên chia theo việc xử lý tiếp theo, không chia theo tên gọi trong tủ hồ sơ.
  • Ngưỡng tin cậy quyết định tỷ lệ tự động và tỷ lệ sai. Nó phải được chọn trên mẫu hồ sơ thật của bạn.
  • Điểm benchmark công khai không dùng được để dự đoán độ chính xác trên hồ sơ scan tiếng Việt.
Mục lục
  1. Phân loại tài liệu tự động giải quyết việc gì?
  2. Cơ chế hoạt động: ba giai đoạn từ tệp scan đến nhãn
  3. Bốn cách gán loại và khi nào dùng cách nào
  4. Thiết kế danh mục loại tài liệu trước khi chọn công cụ
  5. Số liệu benchmark nói gì và không nói gì
  6. Ngưỡng tin cậy: cách chọn và cách đọc kết quả
  7. Các bước xây dựng hệ thống phân loại cho hồ sơ của bạn
  8. Ứng dụng theo loại hồ sơ ở doanh nghiệp Việt Nam
  9. Lỗi thường gặp và cách xử lý
  10. Phân loại xong thì tài liệu đi đâu?
  11. Khi nào nên và không nên tự động hoá việc phân loại
  12. Câu hỏi thường gặp

Phân loại tài liệu tự động giải quyết việc gì?

Hồ sơ đến doanh nghiệp thường là một đống tệp lẫn lộn: PDF scan nhiều trang, ảnh chụp bằng điện thoại, email kèm đính kèm. Phân loại tài liệu tự động trả lời một câu hỏi duy nhất cho từng tệp hoặc từng trang: “đây là loại gì?”. Kết quả là một nhãn (ví dụ “hoá đơn GTGT”, “uỷ nhiệm chi”, “hợp đồng lao động”) kèm điểm tin cậy.

Nhãn này quyết định ba việc tiếp theo: tài liệu đi vào mẫu trích xuất nào, vào thư mục hoặc hồ sơ nào, và ai là người duyệt. Nếu gán nhầm loại, bước trích xuất phía sau sẽ đọc sai trường hoặc không đọc được gì. Vì vậy phân loại là chốt chặn đầu tiên của cả chuỗi. Phần việc đọc giá trị trong tài liệu (số tiền, ngày, mã số thuế) là một bài toán khác, đã được tách ra trong bài về trích xuất dữ liệu.

Cần phân biệt ba việc hay bị gộp làm một:

  • Phân loại (classification): gán một nhãn cho cả tài liệu hoặc từng trang.
  • Tách tài liệu (splitting): chia một tệp scan dài thành nhiều tài liệu con, ví dụ một PDF 40 trang chứa 6 bộ chứng từ.
  • Trích xuất (extraction): lấy giá trị từ các trường trong tài liệu đã biết loại.

Trong thực tế, tách và phân loại thường chạy cùng nhau, vì ranh giới giữa hai tài liệu chính là chỗ nhãn trang đổi từ loại này sang loại khác. Cả chuỗi này nằm trong phạm vi của xử lý tài liệu thông minh (IDP).

Cơ chế hoạt động: ba giai đoạn từ tệp scan đến nhãn

Một hệ thống phân loại thường đi qua ba giai đoạn. Đầu tiên, tài liệu được chuyển thành dạng máy đọc được: tệp scan đi qua OCR, còn PDF gốc (digital-born) có thể đọc thẳng lớp chữ. Tiếp theo, một mô hình hoặc bộ quy tắc chấm điểm tài liệu theo từng loại đã biết. Cuối cùng, hệ thống so điểm cao nhất với ngưỡng tin cậy: vượt ngưỡng thì gán nhãn, không vượt thì đưa vào hàng đợi cho người duyệt.

Sơ đồ quy trình phân loại tài liệu tự động: nhận tài liệu, đọc chữ và bố cục, chấm điểm từng loại, so với ngưỡng tin cậy, sau đó hoặc tự
Sơ đồ khái niệm về luồng phân loại; tên ngưỡng và hàng đợi khác nhau tuỳ phần mềm.

Bốn cách gán loại và khi nào dùng cách nào

Không có một kỹ thuật tốt nhất cho mọi hồ sơ. Bảng dưới đây so sánh bốn cách đang dùng phổ biến.

Cách Cơ chế Hợp với Điểm yếu
Mã vạch / tờ phân cách Máy scan đọc mã vạch hoặc trang cover in sẵn; mã gắn với loại hồ sơ Kho hồ sơ giấy tự chuẩn bị, scan hàng loạt Cần thao tác chuẩn bị giấy; không áp dụng cho tài liệu đến từ bên ngoài
Quy tắc: từ khoá, vùng neo Tìm cụm chữ cố định (ví dụ tiêu đề, mã số mẫu) ở vị trí quen thuộc Ít loại, mẫu ổn định, chữ in rõ Vỡ khi đổi mẫu hoặc OCR đọc sai dấu tiếng Việt; số quy tắc phình nhanh
Mô hình học máy huấn luyện riêng Học từ tài liệu đã gán nhãn, dùng chữ, bố cục hoặc hình ảnh Nhiều loại, mẫu đa dạng, có sẵn kho hồ sơ cũ để gán nhãn Cần dữ liệu gán nhãn đủ tốt; phải theo dõi khi mẫu mới xuất hiện
Mô hình thị giác-ngôn ngữ (zero-shot) Đưa ảnh tài liệu kèm danh sách loại, mô hình tự chọn mà không cần huấn luyện riêng Khởi động nhanh, loại ít gặp, chưa có dữ liệu gán nhãn Khó kiểm soát đầu ra; chi phí và độ trễ mỗi trang cao hơn; cần đo lại trên hồ sơ thật

Hai câu hỏi giúp chọn nhanh: mẫu tài liệu của bạn có ổn định không, và bạn đã có bao nhiêu tài liệu được gán nhãn đúng. Ma trận dưới đây tóm tắt.

Ma trận 2x2 chọn cách phân loại: trục ngang là mức ổn định của mẫu tài liệu, trục dọc là lượng tài liệu đã gán nhãn. Ít nhãn và mẫu ổn định
Ma trận khái niệm do VBPO Tech Blog tổng hợp, không dựa trên số liệu đo.

Một số hệ thống kết hợp nhiều cách: quy tắc xử lý các mẫu cố định (giấy tờ có tiêu đề chuẩn), mô hình xử lý phần còn lại. Cách này giúp mô hình không phải gánh những loại mà một dòng quy tắc đã giải quyết được.

Thiết kế danh mục loại tài liệu trước khi chọn công cụ

Phần lớn lỗi phân loại không đến từ mô hình mà đến từ danh mục. Khi hai loại có nhiều tài liệu giống hệt nhau, ngay cả hai nhân viên cũng gán khác nhau, và mô hình chỉ học lại sự mâu thuẫn đó.

Chia theo hành động tiếp theo

Hãy hỏi: hai tài liệu này có đi qua cùng một mẫu trích xuất, cùng một người duyệt, cùng một nơi lưu không? Nếu có, gộp thành một loại. Ví dụ minh hoạ: một công ty nhập khẩu nhận “tờ khai hải quan”, “vận đơn”, “hoá đơn thương mại” và “packing list”. Bốn loại này cần bốn mẫu trích xuất khác nhau nên phải tách. Ngược lại, “bảng lương tháng 1” và “bảng lương tháng 2” là cùng một loại; tháng không phải là loại.

Luôn có loại “khác / chưa nhận diện”

Danh mục đóng (chỉ gồm các loại đã biết) buộc mô hình phải chọn một nhãn cho cả tài liệu lạ như thư cảm ơn hay phiếu giao hàng của đối tác mới. Một nghiên cứu về bộ phân loại ảnh tài liệu trên arXiv (2022) chỉ ra điểm quan trọng: phân bố điểm tin cậy của tài liệu thuộc loại đã biết và tài liệu lạ chồng lấn nhiều. Vì vậy chỉ dựa vào điểm tin cậy thì không chặn hết được tài liệu lạ. Cần cả loại “khác”, cả mẫu tài liệu lạ trong tập kiểm thử.

Tách trang và nhận biết trang phụ

Hồ sơ scan thường có trang bìa, trang trắng mặt sau, trang tiếp theo của hợp đồng không có tiêu đề. Nếu chỉ phân loại cả tệp, loại của trang đầu sẽ ép lên mọi trang sau. Khi tệp chứa nhiều bộ chứng từ, hãy chọn phân loại theo trang, rồi cho phép gộp các trang liền kề cùng nhãn hoặc trang “tiếp theo” thành một tài liệu.

Số liệu benchmark nói gì và không nói gì

Bộ dữ liệu công khai dùng nhiều nhất cho bài toán này là RVL-CDIP. Theo mô tả trong các bài báo kỹ thuật, bộ này gồm 400.000 ảnh xám chia thành 16 loại, mỗi loại 25.000 ảnh, với 320.000 ảnh huấn luyện, 40.000 kiểm định và 40.000 kiểm thử. Các loại gồm thư, biểu mẫu, hoá đơn, bản ghi nhớ và một số loại khác.

Biểu đồ thanh độ chính xác phân loại trên RVL-CDIP: BERT-base 89,81 phần trăm, VGG-16 90,97 phần trăm, InceptionResNetV2 92,63 phần trăm
Nguồn: bài báo LayoutLM (2019), StructuralLM (2021) và LayoutLMv2 (2021). Trục cắt từ 85% để thấy chênh lệch; khoảng cách thực nhỏ hơn hình vẽ gợi ý.

Mô hình LayoutLM, kết hợp văn bản với toạ độ vị trí chữ, nâng độ chính xác từ 93,07% lên 94,42% so với kết quả tốt nhất trước đó. Nhưng đừng đọc con số này như dự báo cho hồ sơ của bạn, vì ba lý do:

  • Tài liệu trong RVL-CDIP là văn bản tiếng Anh, thuộc các bộ sưu tập cũ từ thập niên 70 đến 90, nên chất lượng và kiểu trình bày khác xa hồ sơ hiện đại. Một người phát triển ghi lại nhận xét này khi tinh chỉnh mô hình trên bộ dữ liệu đó.
  • Bộ dữ liệu đóng, 16 loại, không có tài liệu ngoài danh mục.
  • Không có tiếng Việt có dấu, không có ảnh chụp bằng điện thoại, không có chứng từ riêng của doanh nghiệp bạn.

Một số nhà cung cấp IDP khuyến nghị ngưỡng tối thiểu khoảng 90% độ chính xác phân loại cho môi trường sản xuất, vì thấp hơn thì phần việc người phải sửa lại lớn hơn lợi ích. Đây là khuyến nghị của một nhà cung cấp, không phải tiêu chuẩn. Ngưỡng hợp lý của bạn còn phụ thuộc chi phí khi gán sai.

Ngưỡng tin cậy: cách chọn và cách đọc kết quả

Mỗi dự đoán đi kèm một điểm từ 0 đến 1. Ngưỡng tin cậy là mốc để máy tự quyết định hay chuyển cho người. Nâng ngưỡng làm ít tài liệu được tự gán hơn nhưng độ đúng của phần tự gán cao hơn. Hạ ngưỡng thì ngược lại. Theo nghiên cứu arXiv đã nói ở trên, nâng ngưỡng cũng giúp phát hiện nhiều tài liệu lạ hơn nhưng làm giảm độ chính xác trên các loại đã biết.

Đặt ngưỡng riêng cho từng loại

Một ngưỡng chung cho mọi loại thường kém. Loại có mẫu cố định (như phiếu chuyển khoản của một ngân hàng) cho điểm cao ổn định, còn loại đa dạng (như “thư từ trao đổi”) cho điểm phân tán. Hãy chạy mô hình trên tập kiểm thử đã gán nhãn tay, vẽ đường độ chính xác theo ngưỡng cho từng loại, rồi chọn ngưỡng sao cho phần tự gán đạt độ chính xác mà bạn chấp nhận được ở loại đó.

Ví dụ minh hoạ về cách đọc bảng kết quả

Giả sử (ví dụ minh hoạ, không phải số đo thực) bạn thử 1.000 trang và mô hình tự gán 700 trang ở ngưỡng 0,90, với 693 trang đúng. Độ chính xác phần tự gán là 99%, và 300 trang chuyển người duyệt. Nếu hạ xuống 0,70, số trang tự gán tăng lên 900 nhưng đúng chỉ 855, tức độ chính xác phần tự gán còn 95%. Câu hỏi quyết định là: 45 trang gán sai âm thầm đó, đi vào đúng hồ sơ kế toán hoặc hồ sơ nhân sự, gây thiệt hại gì so với công của người duyệt thêm 200 trang?

Phần tự gán sai nguy hiểm hơn phần chuyển người duyệt, vì sai sót đi thẳng vào hệ thống đích mà không ai nhìn thấy. Với những loại có hậu quả lớn (hồ sơ thanh toán, giấy tờ pháp lý), hãy đặt ngưỡng cao hoặc kiểm mẫu ngẫu nhiên phần tự gán hằng tuần.

Các bước xây dựng hệ thống phân loại cho hồ sơ của bạn

  1. Thu mẫu từ nguồn thật. Lấy tài liệu từ các kênh đang chạy: máy scan văn phòng, hộp thư nhận chứng từ, ảnh nhân viên gửi qua Zalo. Mẫu phải gồm cả bản scan nghiêng, bản mờ và bản fax, vì đó là những bản làm mô hình sai.
  2. Chốt danh mục và quy tắc gán nhãn bằng văn bản. Mỗi loại có mô tả ngắn, một tài liệu mẫu và một tài liệu dễ nhầm kèm lý do khác loại.
  3. Gán nhãn bởi hai người độc lập. Những tài liệu hai người gán khác nhau là chỗ danh mục chưa rõ, cần sửa danh mục trước khi sửa mô hình.
  4. Tách tập kiểm thử trước khi huấn luyện hoặc cấu hình. Tập này không được dùng để chỉnh quy tắc hay huấn luyện, nếu không điểm số sẽ đẹp hơn thực tế.
  5. Chọn cách gán loại và chạy. Bắt đầu từ cách đơn giản nhất đạt được ngưỡng bạn cần; chỉ chuyển sang mô hình phức tạp hơn khi cách trước thua trên tập kiểm thử.
  6. Xem ma trận nhầm lẫn (confusion matrix). Cặp loại nào bị nhầm nhiều nhất? Thường đó là cặp có tài liệu gần giống như “hoá đơn” và “phiếu thu” hoặc “hợp đồng” và “phụ lục”.
  7. Đặt ngưỡng theo loại và dựng hàng đợi duyệt. Giao diện duyệt cần hiện ảnh trang, nhãn đề xuất, điểm tin cậy và ba nhãn gần nhất để người duyệt chọn một lần.
  8. Ghi lại các lần sửa của người duyệt. Mỗi lần sửa là một mẫu có nhãn đúng, dùng để huấn luyện lại hoặc để thêm quy tắc.

Nếu hồ sơ còn ở dạng giấy, hãy xem quy trình chuẩn bị tệp trong bài số hoá tài liệu, vì độ phân giải scan và cách đặt tên tệp ảnh hưởng trực tiếp đến điểm tin cậy.

Ứng dụng theo loại hồ sơ ở doanh nghiệp Việt Nam

Mỗi nhóm hồ sơ có điểm khó riêng.

  • Chứng từ kế toán: hoá đơn điện tử, phiếu chi, uỷ nhiệm chi, biên bản đối chiếu. Hoá đơn có nhiều mẫu của nhiều nhà cung cấp nhưng tiêu đề tương đối thống nhất, nên mô hình học máy thường làm tốt. Sau khi phân loại, từng loại đi tiếp vào quy trình đọc như trong bài OCR hoá đơn.
  • Hồ sơ nhân sự: CCCD, hợp đồng lao động, bằng cấp, sổ BHXH, đơn nghỉ phép. Hồ sơ lẫn nhiều loại trong một lần scan, nên tách trang là bước bắt buộc. Với giấy tờ tuỳ thân, bước sau là đọc các trường như trong bài OCR căn cước công dân.
  • Hồ sơ tín dụng và bảo hiểm: một bộ hồ sơ có thể có 10 đến 20 loại giấy tờ. Lỗi thiếu giấy tờ (không tìm thấy loại bắt buộc trong bộ) quan trọng không kém lỗi gán nhầm, nên hệ thống cần đối chiếu danh sách loại bắt buộc với loại đã nhận diện.
  • Công văn và email đính kèm: phân loại thường dùng nội dung văn bản chứ không dựa vào mẫu cố định, nên thiên về mô hình ngôn ngữ hơn mô hình bố cục.

Ở những loại chứa dữ liệu cá nhân như CCCD, bảng lương hay bệnh án, hãy phân quyền hàng đợi duyệt theo loại, vì người duyệt phải nhìn thấy ảnh gốc để sửa nhãn. Chỉ nhân sự được giao xử lý hồ sơ đó mới nên thấy hàng đợi tương ứng, và mọi lần mở xem nên có nhật ký.

Lỗi thường gặp và cách xử lý

Hiện tượng Nguyên nhân thường gặp Cách xử lý
Cùng một mẫu nhưng lúc đúng lúc sai Ảnh nghiêng, nén JPEG mạnh, độ phân giải thấp làm OCR đọc sai chữ Chỉnh độ nghiêng và khử nhiễu trước khi phân loại; đặt chuẩn độ phân giải khi scan
Nhầm hai loại có tiêu đề gần giống Danh mục chưa phân biệt được về hành động tiếp theo Gộp thành một loại hoặc thêm đặc điểm phân biệt vào quy tắc gán nhãn
Trang 2 của hợp đồng bị gán “khác” Phân loại theo từng trang nhưng trang tiếp theo không có tiêu đề Thêm loại “trang tiếp theo” hoặc cho trang kế thừa nhãn từ trang trước nếu cùng tài liệu
Điểm tin cậy cao nhưng nhãn sai Mô hình quá tự tin với tài liệu lạ Thêm tài liệu lạ vào tập kiểm thử; kiểm mẫu ngẫu nhiên phần tự gán
Chính xác giảm sau vài tháng Đối tác đổi mẫu, thêm loại giấy tờ mới Theo dõi tỷ lệ hàng đợi duyệt theo tuần; mẫu bị sửa nhiều là dấu hiệu cần huấn luyện lại
Dấu tiếng Việt bị mất làm quy tắc từ khoá hỏng OCR không tối ưu cho tiếng Việt Quy tắc dùng cả dạng có dấu và không dấu; xem thêm về OCR tiếng Việt

Phân loại xong thì tài liệu đi đâu?

Nhãn chỉ có giá trị khi nó kích hoạt một việc tiếp theo. Ba đích phổ biến: mẫu trích xuất để lấy dữ liệu, thư mục hoặc hồ sơ trong hệ thống quản lý, và hàng đợi duyệt của một bộ phận. Với tài liệu cần giữ lâu dài, loại tài liệu còn xác định thời hạn lưu và quyền truy cập; phần này nằm trong bài về lưu trữ tài liệu điện tử. Hãy lưu nhãn, điểm tin cậy, phiên bản mô hình và người sửa vào siêu dữ liệu (metadata) của tệp để truy vết khi có tranh chấp về việc tài liệu bị xếp sai.

Khi nào nên và không nên tự động hoá việc phân loại

Nên khi hồ sơ vào theo luồng ổn định, có hàng trăm đến hàng nghìn trang mỗi tháng, loại tài liệu đã có tên gọi rõ trong nghiệp vụ, và bạn có kho hồ sơ cũ đã được xếp đúng để làm mẫu.

Chưa nên khi chỉ có vài chục tài liệu mỗi tháng (một người xếp tay còn nhanh hơn thiết lập), khi bộ phận chưa thống nhất danh mục loại, hoặc khi tài liệu chủ yếu là chữ viết tay, vì khi đó phải xem thêm nhận dạng chữ viết tay (ICR) trước khi nghĩ đến phân loại.

Câu hỏi thường gặp

Phân loại tài liệu tự động khác trích xuất dữ liệu ở điểm nào?

Phân loại trả lời “tài liệu này là loại gì”, còn trích xuất trả lời “giá trị trong trường này là gì”. Phân loại chạy trước để chọn đúng mẫu trích xuất.

Cần bao nhiêu tài liệu mẫu để huấn luyện?

Không có con số chung, vì tuỳ số loại, mức đa dạng của mẫu và loại mô hình. Cách thực tế là bắt đầu bằng một tập nhỏ mỗi loại, đo trên tập kiểm thử rồi bổ sung ở những loại bị nhầm nhiều nhất. Mô hình thị giác-ngôn ngữ zero-shot có thể chạy khi chưa có mẫu nhưng vẫn cần tập kiểm thử để biết nó đúng đến đâu.

Có phân loại được tài liệu scan tiếng Việt không?

Có, nhưng độ chính xác phụ thuộc chất lượng scan và khả năng OCR với dấu tiếng Việt. Các benchmark công khai chủ yếu là tiếng Anh nên bạn phải tự đo trên hồ sơ của mình.

Ngưỡng tin cậy bao nhiêu là hợp lý?

Không có con số cố định. Hãy chọn theo từng loại sao cho phần tự gán đạt độ chính xác mà quy trình chấp nhận được, dựa trên chi phí khi gán sai so với công người duyệt.

Một tệp PDF chứa nhiều tài liệu thì xử lý thế nào?

Phân loại theo từng trang, sau đó gộp các trang liền kề thành tài liệu dựa trên nhãn và dấu hiệu trang bắt đầu, như tiêu đề hoặc số trang “1 trên n”. Trang bìa và trang trắng nên có nhãn riêng để loại khỏi hồ sơ.

Có cần người duyệt nếu mô hình đã chính xác trên 90%?

Vẫn cần ở những loại có hậu quả lớn khi gán sai, và nên giữ kiểm mẫu ngẫu nhiên ở các loại còn lại. Độ chính xác trung bình che đi các loại cụ thể mà mô hình làm kém.

Đọc thêm tin tức, phân tích về AI, blockchain và chuyển đổi số trên blog công nghệ VBPO, hoặc các bài khác trong chuyên mục OCR & xử lý tài liệu.