PLSA là gì?

• PLSA, viết tắt của Probabilistic Latent Semantic Analysis, là phương pháp phân tích ngữ nghĩa tiềm ẩn dựa trên xác suất.
• Mô hình xem mỗi văn bản là sự kết hợp của nhiều chủ đề. Mỗi chủ đề được mô tả bằng một phân bố xác suất trên các từ. Nhờ đó, PLSA có thể tìm ra những nhóm từ thường xuất hiện cùng nhau và xác định mức độ đóng góp của từng chủ đề trong mỗi văn bản.

PLSA hoạt động như thế nào?

1. Biểu diễn văn bản thành dữ liệu số

• Trước tiên, văn bản được chuẩn hóa, tách từ và loại bỏ những từ không cần thiết. Sau đó, hệ thống xây dựng ma trận văn bản–từ. Mỗi ô trong ma trận ghi nhận số lần một từ xuất hiện trong một văn bản.
• Đây là dữ liệu đầu vào để PLSA học cấu trúc chủ đề.

2. Chọn số chủ đề và khởi tạo xác suất

• Người sử dụng chọn trước số chủ đề cần tìm. Ví dụ, khi phân tích phản hồi sinh viên, có thể chọn ba chủ đề tiềm ẩn.
• Mô hình khởi tạo hai nhóm xác suất: tỷ lệ của từng chủ đề trong mỗi văn bản và khả năng xuất hiện của từng từ trong mỗi chủ đề.

3. Học chủ đề bằng thuật toán EM

PLSA sử dụng thuật toán EM, gồm hai bước lặp lại:

• Bước E: Ước lượng khả năng mỗi từ trong từng văn bản thuộc về các chủ đề.

• Bước M: Dựa trên kết quả ước lượng, cập nhật phân bố từ của mỗi chủ đề và tỷ lệ chủ đề của mỗi văn bản.

Quá trình tiếp tục cho đến khi mô hình thay đổi rất ít hoặc đạt số vòng lặp quy định.

4. Diễn giải kết quả

• Sau khi huấn luyện, người nghiên cứu xem các từ có xác suất cao trong mỗi chủ đề để đặt tên phù hợp.
• Ví dụ, một chủ đề chứa các từ “giảng viên”, “bài giảng”, “dễ hiểu” có thể được đặt tên là Giảng dạy. Chủ đề chứa “phòng học”, “wifi”, “thiết bị” có thể được đặt tên là Cơ sở vật chất.

Ví dụ minh họa:

Với phản hồi “Giảng viên giảng dễ hiểu nhưng phòng học nóng”, mô hình có thể cho kết quả minh họa:

• Giảng dạy: 60%.

• Cơ sở vật chất: 35%.

• Học phí: 5%.

Các tỷ lệ này thể hiện mức đóng góp của từng chủ đề trong phản hồi. Đây là số liệu minh họa, không phải kết quả thực nghiệm.

Ứng dụng và giới hạn

PLSA có thể hỗ trợ khám phá chủ đề trong phản hồi sinh viên, đánh giá khách hàng và các tập tài liệu.

Tuy nhiên, mô hình không tự đặt tên chủ đề và không trực tiếp xác định mức độ hài lòng. Việc phân tích cảm xúc cần thêm dữ liệu có nhãn, quy tắc hoặc mô hình phù hợp. Chất lượng chủ đề tìm được cũng phụ thuộc vào dữ liệu, cách tiền xử lý và số chủ đề được lựa chọn.