Biểu diễn ngữ cảnh trong khai triển chữ viết tắt dùng tiếp cận học máy

##plugins.themes.academic_pro.article.main##

Author

  • Ninh Khánh Duy, Nguyễn Văn Quý

Từ khóa:

chuẩn hóa văn bản
khai triển chữ viết tắt
biểu diễn ngữ cảnh
mô hình Bag-of-words
mô hình Doc2vec
kỹ thuật học máy

Tóm tắt

Chuẩn hóa văn bản là bài toán rất cần thiết trong các ứng dụng liên quan đến xử lý ngôn ngữ tự nhiên vì văn bản đầu vào thường chứa nhiều từ không chuẩn như chữ viết tắt, chữ số, và từ ngữ nước ngoài. Bài báo này giải quyết vấn đề chuẩn hóa chữ viết tắt trong văn bản tiếng Việt khi có nhiều lựa chọn để khai triển. Để khử nhập nhằng trong khai triển chữ viết tắt, tiếp cận học máy được sử dụng, trong đó thông tin ngữ cảnh của chữ viết tắt được biểu diễn bởi một trong hai mô hình: Bag-of-words hoặc Doc2vec. Các thử nghiệm với bộ phân lớp Naïve Bayes trên một bộ dữ liệu chữ viết tắt do chúng tôi xây dựng cho thấy tỉ lệ khai triển đúng trung bình của hai mô hình Bag-of-words và Doc2vec lần lượt là 86,0% và 79,7%. Kết quả thực nghiệm cũng cho thấy thông tin ngữ cảnh đóng vai trò quan trọng trong việc lựa chọn khai triển đúng cho một chữ viết tắt.

Tài liệu tham khảo

    [1] Richard Sproat, Alan Black, Stanley Chen, Shankar Kumar, MariOstendorf, and Christopher Richards, “Normalization of Non-Standard Words”, Computer Speech and Language, 15(3), 2001, pp. 287-333.
    [2] Thu-Trang Thi Nguyen, Thanh Thi Pham, Do-Dat Tran, A Method for Vietnamese Text Normalization to Improve the Quality of Speech Synthesis, Proceedings of International Symposium on Information and Communication Technology (SoICT), Vietnam, 2010.
    [3] Dinh Anh Tuan, Phi Tung Lam, Phan Dang Hung, A Study of Text Normalization in Vietnamese for Text-to-Speech System, Proceedings of Oriental COCOSDA Conference, China, 2012.
    [4] Daniel Jurafsky, James H. Martin, Speech and Language Processing, 2nd edition, Prentice Hall, 2008.
    [5] Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg Corrado, and Jeffrey Dean, Distributed Representations of Words and Phrases and their Compositionality, Proceedings of Conference on Neural Information Processing Systems (NIPS), USA, 2013.
    [6] Quoc Le, Tomas Mikolov, Distributed Representations of Sentences and Documents, Proceedings of the 31st International Conference on Machine Learning, Beijing, China, 2014.
    [7] Nguyen Nho Tuy, Phan Huy Khanh, Developing Database of Vietnamese Abbreviations and Some Applications, Proceedings of Second International Conference on Nature of Computation and Communication, RachGia, Vietnam, 2016.
    [8] Paul Taylor, Text-to-Speech Synthesis, Cambridge University Press, 2009.
    [9] Fabian Pedregosa et al., “Scikit-learn: Machine Learning in Python”, Journal of Machine Learning Research, 12(Oct), 2011, pp. 2825-2830.
Xem thêm

##plugins.themes.academic_pro.article.sidebar##

Đã Xuất bản

May 31, 2017
Download
PDF
Cách trích dẫn
Ninh Khanh Duy, Nguyen Van Quy. “Biểu diễn ngữ cảnh Trong Khai triển chữ viết tắt dùng tiếp cận học máy”. Tạp Chí Khoa học Và Công nghệ - Đại học Đà Nẵng, vol 5, số p.h 114, Tháng Năm 2017, tr 31-35, https://jst-ud.vn/jst-ud/article/view/2919.

##plugins.themes.academic_pro.article.details##