Luận văn Tự động phân tích các nội dung giống nhau trong hệ thống tổng hợp ý kiến góp ý trong hội nghị

ƣơng pháp nghiên cứu Để thực hiện được mục tiêu, nhiệm vụ của luận văn, các phương pháp nghiên cứu được sử dụng như sau: - Phương pháp khảo sát; - Phương pháp tổng hợp; - Phương pháp phân tích, đánh giá; - Phương pháp thực nghiệm. 6. Nội dung của luận văn Ngoài phần mở đầu và kết luận, luận văn được bố cục thành 3 chương: - Chương 1. Bài toán tổng hợp ý kiến góp ý trong hội nghị. - Chương 2. Các phương pháp tính độ tương đồng câu. - Chương 3. Đề xuất giải pháp phát hiện nội dung giống nhau trong hệ thống tổng hợp ý kiến góp ý trong Hội nghị 14 CHƢƠNG 1 BÀI TOÁN TỔNG HỢP Ý KIẾN GÓP Ý TRONG HỘI NGHỊ 1. Tổng quan về bài toán tổng hợp ý kiến góp ý trong Hội nghị Theo từ điển Lạc Việt, từ “tổng hợp” được định nghĩa là tập hợp các yếu tố riêng lẻ làm thành một chỉnh thể. Trong luận văn, cụm từ “tổng hợp ý kiến” được hiểu theo khía cạnh là tập hợp các ý kiến góp ý riêng lẻ để thể hiện xu hướng của đại biểu góp ý vào một nội dung của vấn đề. Ví dụ như: Đa số ý kiến cho rằng, Một số ý kiến cho rằng, Có ý kiến cho rằng. Qua việc tổng hợp ý kiến, các cơ quan chủ trì đưa vấn đề ra thảo luận biết được xu hướng của đại biểu, qua đó tiếp thu các ý kiến góp ý phù hợp, giải trình những ý kiến băn khoăn, tranh cãi. Tổng hợp ý kiến góp ý trong Hội nghị là công việc đặc thù thường diễn ra tại các cơ quan nhà nước khi cần tổ chức cuộc họp nhằm bàn bạc, quyết định một vấn đề cụ thể. Vì vậy, các nghiên cứu riêng biệt về bài toán tổng hợp ý kiến chưa nhiều. Tuy nhiên, cũng có những bài toán được hiểu tương tự bài toán tổng hợp ý kiến theo một khía cạnh nào đó: Bài toán về “khai phá quan điểm” tập trung vào việc phát hiện xu hướng tình cảm, đánh giá của người sử dụng đối với các sự kiện, sản phẩm. Một trong các bài toán áp dụng điển hình là phân lớp quan điểm của người sử dụng về sản phẩm nào đó. Điểm giống nhau của bài toán tổng hợp ý kiến và khai phá quan điểm về phương diện nào đó đều đưa ra xu hướng của người sử dụng. Điểm khác biệt là tổng hợp ý kiến có tính cụ thể rất cao, ví dụ có ý kiến đề nghị chỉnh sửa một vài nội dung cụ thể trong chủ đề đưa ra. Bài toán Tóm tắt văn bản [4] là tự động trích xuất nội dung từ một nguồn thông tin và trình bày nội dung quan trọng nhất cho người sử dụng theo một khuôn dạng súc tích đối người sử dụng. Bài toán Tóm tắt văn bản trong trường 15 hợp này có thể được hiểu là bài toán tự động tổng hợp ý kiến góp ý. Tuy nhiên việc tự động tổng hợp ý kiến có thể gây thiếu ý do các thuật toán không đảm bảo độ chính xác tuyệt đối. Trong thời điểm hiện nay, các phần mềm ứng dụng chưa thể thay thế hoàn toàn con người trong việc tổng hợp ý kiến góp ý mà chỉ có thể hỗ trợ, gợi ý còn việc quyết định vẫn do con người trực tiếp thực hiện. Trong luận văn về “Hệ thống tự động tổng hợp ý kiến góp ý trong Hội nghị” [3], tác giả có đưa ra mô hình hệ thống tự động tổng hợp ý kiến. Tuy nhiên, mô hình này thực tế là giải quyết bài toán phân lớp ý kiến tổng hợp. Qua các nghiên cứu trên, có thể thấy rằng bài toán tổng hợp ý kiến xuất phát từ nhu cầu thực tế của một số cơ quan. Tuy nhiên trong thời điểm hiện nay việc xây dựng một hệ thống tự động tổng hợp ý kiến là không khả thi. Việc cần làm là xây dựng một hệ thống hỗ trợ tổng hợp ý kiến có chức năng tập hợp các ý kiến góp ý, có các tính năng giúp cho người sử dụng tổng hợp nhanh hơn như việc phát hiện, đánh dấu các nội dung giống nhau để qua đó người sử dụng quyết định việc tổng hợp ý kiến. 2. Giới thiệu phần mềm Hỗ trợ tổng hợp ý kiến thảo luận tổ tại Hội nghị Trung ƣơng Ban Chấp hành Trung ương Đảng là cơ quan lãnh đạo cao nhất của Đảng giữa 2 kỳ Đại hội. Ban Chấp hành Trung ương Đảng (Trung ương Đảng) có nhiệm vụ tổ chức chỉ đạo thực hiện Cương lĩnh chính trị, Điều lệ Đảng, các Nghị quyết của Đại hội; quyết định những chủ trương, chính sách về đối nội, đối ngoại, công tác quần chúng và công tác xây dựng Đảng. Trung ương Đảng làm việc theo chế độ tập thể, định kỳ (hoặc đột xuất) tổ chức họp hội nghị Trung ương để bàn bạc, thông qua các vấn đề lớn liên quan đến lãnh đạo, chỉ đạo đất nước. Để giúp Trung ương Đảng đưa ra được những quyết sách đúng đắn, kịp thời trên cơ sở các ý kiến đóng góp của các đồng chí lãnh đạo Đảng, của các ngành, các cấp, Văn phòng Trung ương Đảng, với chức năng là cơ quan tham 16 mưu, là trung tâm thông tin tổng hợp, có nhiệm vụ tổng hợp ý kiến góp ý đó một cách chính xác, đầy đủ và nhanh chóng tại mỗi Hội nghị của Trung ương. Các đồng chí lãnh đạo Văn phòng, chuyên viên của Văn phòng Trung ương Đảng trực tiếp được giao nhiệm vụ ghi chép biên bản chi tiết tại các tổ thảo luận, tại hội trường, tổng hợp các ý kiến góp ý đó và xây dựng báo cáo tổng hợp, giải trình để trình Trung ương Đảng. Trong những năm trở lại đây, việc ứng dụng công nghệ thông tin vào công tác văn phòng nói chung và công tác thông tin tổng hợp nói riêng tại Văn phòng Trung ương Đảng ngày càng được đẩy mạnh và đã hỗ trợ đắc lực cho lãnh đạo và chuyên viên trong xử lý, giải quyết công việc. Đối với hoạt động tổng hợp ý kiến tại các hội nghị của Trung ương, bên cạnh việc tổng hợp, ghi chép thủ công truyền thống (ghi biên bản và tổng hợp trên giấy), Văn phòng Trung ương Đảng đang sử dụng đồng thời phần mềm Hỗ trợ tổng hợp ý kiến thảo luận ở Tổ tại các Hội nghị Trung ương. Phầm mềm đang được sử dụng này có chức năng cơ bản là từ các bản tổng hợp ý kiến thảo luận của Trung ương tại mỗi tổ, phần mềm đã gộp các ý kiến này theo từng nội dung. Kết quả là phần mềm đã giúp cho các chuyên viên tránh được tổng hợp thiếu, sót các ý kiến trong quá trình tổng hợp. 2.1. Quy trình tổng hợp ý kiến thảo luận Tại mỗi kỳ họp Hội nghị Trung ương, các Ủy viên Trung ương sẽ tham dự các buổi thảo luận ở tổ bàn về những vấn đề mà Hội nghị đặt ra. Các Ủy viên Trung ương của Hội nghị sẽ được chia thành các tổ để thảo luận (thông thường là 14 tổ). Để ghi chép biên bản và tổng hợp ý kiến góp ý ở mỗi tổ, Văn phòng Trung ương Đảng bố trí : + Một nhóm tổng hợp chung cho tất cả các tổ; + Các tổ thư ký tương ứng với các tổ thảo luận của Trung ương Đảng (mỗi tổ thư ký phụ trách ghi biên bản và tổng hợp ý kiến của một tổ thảo luận của Trung ương Đảng). 17 * Tổ thư ký bao gồm các chuyên viên của Văn phòng Trung ương, mỗi tổ gồm có 01 tổ trưởng và một số thành viên. Cụ thể hoạt động của tổ thư ký như sau: - Các thành viên trong tổ thư ký sẽ ghi chép chi tiết các ý kiến góp ý vào biên bản tại tổ mình được phân công. Các biên bản này được gọi là biên bản chi tiết. Các biên bản chi tiết được các thành viên trong tổ thư ký viết bằng tay. Biên bản ghi diễn biến cuộc họp từ khi bắt đầu đến giờ nghỉ giải lao, sau đó thư ký tổ sẽ nộp lại biên bản này (biên bản này gọi là quyển 1); sau giờ giải lao, thư ký tổ sẽ ghi biên bản vào một quyển mới (quyển 2) cho đến khi kết thúc họp. - Đồng chí tổ trưởng của mỗi tổ thư ký có trách nhiệm tổng hợp các ý kiến góp ý được ghi ở biên bản chi tiết (2 quyển) của tổ mình ngay sau khi Hội nghị kết thúc. Các ý kiến ở mỗi tổ được tổng hợp lại vào một bản gọi là bản tổng hợp tổ. Theo quy định, sau 2 tiếng kể từ khi Hội nghị họp xong thì tổ trưởng ở mỗi tổ phải nộp lại bản tổng hợp tổ cho nhóm tổng hợp chung của Văn phòng. * Để tổng hợp các ý kiến tại mỗi tổ thành bản tổng hợp chung của Hội nghị về riêng một vấn đề (hoặc có thể là một số vấn đề) mà các đồng chí lãnh đạo Đảng đã thảo luận tại các tổ, Văn phòng Trung ương sẽ lập một nhóm tổng hợp chung bao gồm: lãnh đạo Văn phòng, trưởng nhóm tổng hợp chung và các thành viên. - Vai trò của nhóm tổng hợp chung là: + Thành viên nhóm tổng hợp chung: có nhiệm vụ tổng hợp các vấn đề tại mỗi tổ (trên cơ sở biên bản tổng hợp tổ) theo khung, mục được giao nhiệm vụ (các khung, mục được bố trí là tùy thuộc vào nội dung, vấn đề được thảo luận). + Trưởng nhóm tổng hợp là người chịu trách nhiệm chính trong việc tổng hợp, phân công cho từng thành viên tổng hợp các ý kiến trong biên bản tổng hợp tổ thành từng khung, mục cụ thể. Sau đó ghép các khung, mục của từng thành viên, chỉnh sửa lại trở thành bản tổng hợp chung. Bản tổng hợp này sẽ được trình lãnh đạo Văn phòng phê duyệt. 18 + Lãnh đạo Văn phòng sẽ xem xét bản tổng hợp chung do đồng chí trưởng nhóm gửi, cho ý kiến để chỉnh sửa, phê duyệt và trình các đồng chí lãnh đạo Đảng được phân công phụ trách vấn đề đó. Hình 1.1. Mô tả nghiệp vụ tổng hợp trên giấy - Về quy trình và thời gian hoàn thành công việc của nhóm tổng họp chung: + Thành viên nhóm tổng hợp chung bắt đầu làm việc từ khi Hội nghị nghỉ giải lao, khi đó các ý kiến thảo luận được ghi tại biên bản chi tiết (quyển 1) của thư ký các tổ sẽ được sao chụp lại gửi từng thành viên trong nhóm. Từng thành viên phải đọc lần lượt biên bản từng tổ để lựa chọn ý kiến về khung, mục mà mình được phụ trách tổng hợp. Sau khi Hội nghị họp xong thì các ý kiến thảo luận được ghi tại biên bản chi tiết (quyển 2) của thư ký các tổ sẽ được sao chụp và gửi đến từng thành viên. Các thành viên trong nhóm tiếp tục đọc biên bản từng tổ để lựa chọn ý kiến về khung mục mình được phụ trách tổng hợp. 19 + Thành viên nhóm tổng hợp chung sau khi nhận được bản tổng hợp tổ thì đọc lần lượt các bản tổng hợp tổ đó, lựa chọn các ý trong phần khung mục mà mình được phân công đối chiếu với những nội dung mà đã tổng hợp (từ các biên bản chi tiết ở mỗi tổ) trước đó. Mỗi thành viên tổ tổng hợp chung phải hoàn thành công việc trong vòng 4 tiếng kể từ khi Hội nghị kết thúc. + Sau đó từng thành viên sẽ gửi cho người trưởng nhóm tổng hợp phần việc của mình. Người trưởng nhóm sẽ gộp các phần đó lại và tiến hành chỉnh sửa để thành bản tổng hợp chung. Thời gian hoàn thành công việc khoảng 6 tiếng sau khi Hội nghị kết thúc. + Sau đó bản tổng hợp chung được gửi lên lãnh đạo Văn phòng để cho ý kiến và phê duyệt phát hành. Trong một số trường hợp, nếu xét thấy các nội dung tổng hợp còn có những vấn đề chưa hợp lý hoặc chưa thật sự rõ ràng, Lãnh đạo Văn phòng Trung ương Đảng, trưởng nhóm tổng hợp chung có thể xem xét lại biên bản ghi chi tiết tại các tổ. 2.2. Phần mềm Hỗ trợ tổng hợp ý kiến thảo luận Tổ Trên cơ sở khảo sát, nghiên cứu quy trình tổng hợp ý kiến tại các Hội nghị Trung ương Đảng trên giấy, Văn phòng Trung ương Đảng đã xây dựng và áp dụng phần mềm Hỗ trợ tổng hợp ý kiến với các tiến trình sau: 20 (*) Trong một buổi tổng hợp có thể có hơn một chủ đề được tổng hợp (**) Trong trường hợp người Tổ trưởng Tổ thư ký tổng hợp ngay tại Hội trưởng (không có kết nội mạng), phần mềm cho phép tổng hợp tại máy tính riêng lẻ sau đó nhập vào phần mềm chung. Trưởng nhóm tổng hợp chung tạo chủ đề, phân công cho các thành viên tổng hợp theo các khung mục (*) Tổ trưởng Thư ký tổ nhập nội dung tổng hợp của tổ mình vào các mục. Người tổ trưởng có thể in hoặc xuất ra Word nội dung tổng hợp của tổ (**) Thành viên nhóm tổng hợp chung tổng hợp các phần được phân công (người trưởng nhóm có thể tổng hợp một nội dung trong chủ đề) Chủ đề đã tạo các khung mục Các phần được phân công tổng hợp Người Trưởng nhóm tổng hợp chung có nhiệm vụ tổng hợp các phần của thành viên nhóm tổng hợp. Bản cuối cùng có thể in ra hoặc xuất ra Word để lưu Nội dung góp ý của tổ Nội dung các phần tổng hợp 21 Hình 1.2. Mô hình nghiệp vụ phần mềm Hỗ trợ tổng hợp ý kiến Về cơ bản, quy trình tổng hợp ý kiến khi sử dụng phần mềm Hỗ trợ tổng hợp ý kiến là giống với quy trình tổng hợp trên giấy. Tuy nhiên, biên bản tổng hợp tổ được nhập vào máy và chuyển tới các thành viên của nhóm tổng hợp chung (thay vì sao chụp biên bản của từng tổ đến từng đồng chí) để tổng hợp các nội dung, vấn đề được phân công. Để chuẩn bị cho việc tổng hợp bằng phần mềm, cán bộ kỹ thuật phải phối hợp chặt chẽ với các đồng chí phụ trách tổng hợp chung, tiếp nhận đề cương và danh sách phân công tổng hợp từ đó tạo các khung, mục, phân quyền cho các thành viên trong nhóm tổng hợp chung việc tổng hợp ý kiến bằng phần mềm. 22 Trong quá trình tổng hợp tổ, tổ trưởng thư ký ở các tổ tổng hợp ý kiến theo các khung, mục đã được tạo sẵn. Sau đó, phần mềm cũng tự động phân mục tổng hợp cho nhóm tổng hợp chung theo đúng yêu cầu của đồng chí phụ trách tổng hợp chung. Các đồng chí trong nhóm tổng hợp chung sẽ sử dụng kết quả đó của phần mềm để tổng hợp các vấn đề, nội dung do mình phụ trách. Hình 1.3. Kết quả bản tổng hợp các ý kiến góp ý của các Tổ * Đánh giá chung Việc ứng dụng phần mềm vào trong quy trình tổng hợp ý kiến tại Hội nghị của Trung ương đã tạo có những tác dụng nhất định trong nâng cao hiệu quả công tác của cơ qua, đơn vị, cụ thể là: - Giúp cho việc tổng hợp các ý kiến có chất lượng hơn, tránh được tình trạng tổng hợp thiếu ý kiến của đại biểu, vì sản phẩm chính của phần mềm là tạo ra một bản tổng hợp trong đó gộp các ý kiến góp ý của các tổ theo từng mục nội dung đã được tạo dựng sẵn. - Giúp cho các chuyên viên tổng hợp chung không phải mất thời gian, thuận lợi hơn trong việc đọc, biên tập các nội dung được phân công tổng hợp 23 trong số tất cả biên bản tổng hợp ở các tổ; hạn chế tối đa việc “bỏ sót” ý kiến thảo luận ở tổ - Góp phần chuẩn hóa biên bản tổng hợp tổ, tạo điều kiện thuận lợi cho lãnh đạo và các đồng chí phụ trách theo dõi, đánh giá chất lượng của kết quả tổng hợp ở tổ. - Việc ứng dụng phần mềm cũng đã có tác dụng làm hạn chế tối đa việc in ấn, sao chụp, tiết kiệm thời gian, văn phòng phẩm; đồng thời tạo môi trường làm việc khoa học, chuyên nghiệp hơn. Tuy nhiên, trong quá trình sử dụng, vận hành ứng dụng còn một số hạn chế, thiếu linh hoạt và sử dụng còn khó, Cụ thể, mỗi khi có chủ đề và nội dụng thảo luận, việc thiết lập chủ đề và các nội dung thảo luận phải do cán bộ kỹ thuật thực hiện. Việc sử dụng phần mềm Hỗ trợ tổng hợp ý kiến chủ yếu là do cán bộ Trung tâm Công nghệ thông tin vận hành và kết xuất thông tin cho các đồng chí thư ký tổ và nhóm tổng hợp chung, do vậy tính chủ động sử dụng, cập nhật, khai thác, kết xuất thông tin của thư ký tổ và nhóm tổng hợp chung chưa cao. Quá trình tổng hợp ý kiến thảo luận tổ không kết thúc cùng một thời điểm, do vậy để kết quả tổng hợp được đầy đủ phải chờ ý kiến tổng hợp của tổ thực hiện cuối cùng do phần mềm chưa có tính năng update ý kiến thảo luận sau vào bản tổng hợp ban đầu. Đặc biệt phần mềm chỉ mang tính tập hợp các ý kiến các tổ theo các khung mục cho trước mà chưa hỗ trợ đánh dấu, phát hiện ý giống nhau trong các bản tổng hợp tại tổ và bản tổng hợp chung do vậy hiệu quả hỗ trợ chưa được cao. 3. Xác định bài toán cần giải quyết Để hỗ trợ tốt hơn việc tổng hợp ý kiến thảo luận Tổ tại các Hội nghị Trung ương, rất cần thiết phải giải quyết bài toán phát hiện, đánh dấu các nội dung giống nhau trong các ý kiến góp ý vào trong cùng một vấn đề. Qua đó, giúp các chuyên viên nhanh chóng nhận biết, lược bỏ các ý kiến giống nhau đã được tổng hợp trước. Yêu cầu cần đáp ứng khi giải quyết bài toán là không đòi hỏi phát 24 hiện chính xác nội dung giống nhau (chỉ cần gần giống hoặc tương tự) và giải pháp kỹ thuật không quá phức tạp. Người sử dụng sẽ quyết định sự trùng lặp về nội dung và quyết định có lược bỏ hay không. Vì vậy, yêu cầu về độ chính xác của giải pháp như trên là đảm bảo nhu cầu sử dụng. 25 CHƢƠNG 2 CÁC PHƢƠNG PHÁP TÍNH ĐỘ TƢƠNG ĐỒNG CÂU 1. Khái niệm độ tƣơng đồng câu Sự tương đồng là một đại lượng (con số) phản ánh cường độ của mối quan hệ giữa hai đối tượng hoặc hai đặc trưng. Đại lượng này thường ở trong phạm vi từ 0 đến 1. Ví dụ, trong mô hình không gian vector, ta sử dụng độ đo cosine để tính độ tương đồng giữa hai văn bản, mỗi văn bản được biểu diễn bởi một vector. Phát biểu bài toán độ tính tương đồng câu của luận văn này như sau: Xét một tài liệu d gồm có n câu: d = s1, s2, , sn. Mục tiêu của bài toán là tìm ra một giá trị của hàm S(si, sj) với S϶ (0,1), và i, j = 1, ..., n. Hàm S(si, sj) được gọi là độ đo tương đồng giữa hai câu si và sj. Giá trị càng cao thì sự giống nhau về nghĩa của hai câu càng nhiều. Độ tương đồng ngữ nghĩa là một giá trị tin cậy phản ánh mối quan hệ ngữ nghĩa giữa hai câu. Trên thực tế, khó có thể lấy một giá trị có chính xác cao bởi vì ngữ nghĩa chỉ được hiểu đầy đủ trong một ngữ cảnh cụ thể.[4] 2. Các phƣơng pháp tính độ tƣơng đồng câu Hiện nay, trên thế giới và ở Việt Nam đã có nhiều nghiên cứu về bài toán tính độ tương đồng câu, có nhiều phương pháp đã được đưa ra và ngày càng cải thiện tính chính xác. Luận văn xin giới thiệu một số phương pháp điển hình. Qua đó, lựa chọn phương pháp phù hợp nhất với điều kiện thực tế khi áp dụng vào bài toán phát hiện ý trùng trong phần mềm Hỗ trợ tổng hợp ý kiến. 2.1. Phương pháp tính độ tương đồng câu dựa vào WordNet Ý tưởng chính của phương pháp này là thông qua tập ngữ nghĩa (WordNet) để tính toán độ tương đồng giữa các từ trong các câu, qua đó tính độ tương đồng 26 của các câu. Ngoài ra để tăng thêm phần chính xác còn có kết hợp tính sự tương đồng vị trí xuất hiện các từ của các câu.[12] Giới thiệu về WordNet WordNet là kho dữ liệu tiếng Anh, các từ tiếng Anh được nhóm thành các bộ từ đồng nghĩa được gọi là synset, cung cấp các định nghĩa chung và ngắn gọn, đồng thời ghi lại giá trị quan hệ ngữ nghĩa giữa các bộ đồng nghĩa. Phương pháp tính độ tương đồng giữa 2 từ dựa vào độ dài ngắn nhất trên sơ đồ phân cấp. Hình 2.1. Sơ đồ phân cấp các từ trong WordNet Ví dụ: + Hai từ boy, girl có độ dài là 4: boy-male-person-female-girl. Person gọi là subsumer của hai từ + Hai từ teacher, boy có độ dài :6 Boy, girl có độ tương đồng hơn so với teacher, boy. + Nhược điểm: Độ chính xác đôi khi chưa cao. Ví dụ: animal và boy có độ dài ngắn hơn teacher và boy nhưng về ngữ nghĩa từ teacher, boy có tính tương đồng cao hơn. 27 Các bƣớc tính độ tƣơng đồng của câu Hình 2.2. Sơ đồ tính độ tương đồng của câu Để tính độ tương đồng của hai câu cần thực hiện các bước sau • Bước 1: Tiền xử lý dữ liệu. • Bước 2: Tính độ tương đồng của hai từ (dựa vào WordNet). • Bước 3: Tính độ tương đồng ngữ nghĩa của hai câu. • Bước 4: Tính độ tương đồng thứ tự các từ của hai câu. • Bước 5: Tính độ tương đồng hai câu (kết quả của bước 3, bước 4). Tính độ tƣơng đồng của hai từ (dựa vào WordNet) Sau khi xử lý dữ liệu, độ tương đồng giữa hai từ được tính bằng công thức hh hh l ee ee ewws          .),( 21 Trong đó: - e: cơ số logarit tự nhiên - l: độ dài ngắn nhất của từ hai wi ,wj 28 - h: là độ cao của subsumer của hai từ trong sơ đồ phân cấp - Đối với WordNet thì tối ưu : α=0.2 và β=0.45 Tính độ tƣơng đồng ngữ nghĩa của hai câu Gọi Si là vector ngữ nghĩa của mỗi câu. Sự tương đồng ngữ nghĩa hai câu là hệ số cosine giữa hai vector ||||.|||| . 21 21 ss ss ss  Trong đó vector ngữ nghĩa của câu được biểu diễn như sau: Cho hai câu T1,T2 có: Vector ngữ nghĩa của T1 là vector có m chiều với mỗi giá trị được tính bằng công thức )().(. ~ iii wIwIss   ),..2,1( mis i   : là tính tương đồng của từ trong câu T1 với T Để khắc phục nhược điểm giá trị tính độ tương đồng thường rất nhỏ, sử dụng giá trị trọng số )( iwI của từ iw và )( ~ iwI trọng số của các từ liên kết trong câu. - )( iwI được tính nhờ bộ ngữ liệu Brow Corpus (được Brow University tạo năm 1961) )1log( )1log( 1)(    N n wI - N: tổng số từ trong bộ ngữ nghĩa. 21 TTT  }...,{ 21 mwqw 29 - n: tần xuất của một từ trong bộ ngữ nghĩa Tính độ tƣơng đồng thứ tự các từ của hai câu Tuy nhiên trong thực tế xảy ra trường hợp các từ trong câu giống nhau nhưng ngữ nghĩa lại khác nhau. Nguyên nhân do vị trí của các từ trong câu. Gọi r là vector thứ tự trong câu. Công thức tính độ tương đồng thứ tự các từ trong câu: |||| |||| 1S 21 21 r rr rr    Trong đó vector thứ tự r được biểu diễn như sau: - Cho hai câu T1,T2 có: 21 TT  - Biểu diễn vector r của T1,T2 dựa vào T. Với mỗi từ wi trong T, tìm trong các từ tương đồng trong T1: + Nếu xuất hiện trong T1 thì giá trị là vị trí của từ trong T1 + Tìm từ tương đồng gần nhất trong T1 vị trí của từ gần nhất là giá trị vector. + Ngược lại giá trị = 0 Tính độ tƣơng đồng hai câu Độ tương đồng giữa hai câu được tính dựa trên công thức |||| |||| )1( ||||.|||| . ),( 21 21 21 21 21 rr rr SS SS TTS     - Với δ là một hằng số. Đặc điểm: - Phương pháp tính trực quan, dễ hiểu, độ chính xác cao. 30 - Hiện nay tiếng Việt chưa có bộ ngữ nghĩa WordNet đủ lớn để áp dụng vào bài toán thực tế. - Xây dựng bộ ngữ nghĩa WordNet đòi hỏi nhiều công sức, chi phí cao 2.2. Phương pháp tính độ tương đồng câu dựa vào Wikipedia Giới thiệu mạng ngữ nghĩa Wikipedia Wikipedia là một bách khoa toàn thư nội dung mở, là kết quả của sự cộng tác của chính những người đọc từ khắp nơi trên thế giới. Trang mạng này có tính chất mở, có nghĩa là tất cả mọi người đều có thể sửa đổi ở bất cứ trang nào bằng cách bấm vào các liên kết “sửa đổi”, hoặc “Sửa đổi trang này”, có ở hầu hết các trang, ngoại trừ các cá nhân bị tước quyền sửa đổi và nhữngtrang bị khóa. Wikipedia chính thức bắt đầu vào ngày 15 tháng 1 năm 2001 nhờ hai người sáng lập Jimmy Wales và Larry Sanger cùng với vài người cộng tác nhiệt thành và chỉ có phiên bản tiếng Anh. Hiện tại đã có hơn 4.300.000 bài viết ở riêng phiên bản tiếng Anh, hơn 30.000.000 bài viết ở tất cả phiên bản ngôn ngữ. Mỗi ngày hàng trăm nghìn người ghé thăm từ khắp nơi để thực hiện hàng chục nghìn sửa đổi cũng như bắt đầu nhiều bài viết mới. Wikipedia tiếng Việt được thành lập vào tháng 10 năm 2003. Hiện nay đã có 1.149.101 bài viết bằng tiếng Việt với 3.234.593 trang [5]. Kiến trúc mạng Wikipedia Các bài viết của Wikipedia được tổ chức dưới dạng một mạng các khái niệm liên quan với nhau về mặt ngữ nghĩa. Các mục chủ đề (category) được tổ chức trong một cấu trúc phân cấp (taxonomy) được gọi là đồ thị chủ đề Wikipedia (Wikipedia Category Graph - WCG)[20]. 31 Hình 2.3. Đồ thị chủ đề Wikipedia Đồ thị bài viết (Article graph): Giữa các bài viết của Wikipedia có các siêu liên kết với nhau, các siêu liên kết này được tạo ra do quá trình chỉnh sửa bài viết của người sử dụng. Nếu ta coi mỗi bài viết như là một nút và các liên kết từ một bài viết đến các bài viết khác là các cạnh có hướng chạy từ một nút đến các nút khác thì ta sẽ có một đồ thị có hướng các bài viết trên Wikipedia. Đồ thị chủ đề (Category graph): Các chủ đề của Wikipedia được tổ chức giống như cấu trúc của một taxonomy. Mỗi một chủ đề có thể có một số lượng tùy ý các chủ đề con, mỗi một chủ đề con này thường được xác định bằng mối quan hệ hyponymy (quan hệ giữa hai chủ đề, chủ đề 1 bao chủ đề kia nhưng không ngược lại). Ví dụ: chủ đề vehicle có các chủ đề con aircraft hoặc watercraft. Tính độ tƣơng đồng của hai từ trong Wikipedia Có hai phương pháp tiếp cận để tính toán độ tương đồng dựa trên Wikipedia. - Semantic similarity (SS): tính độ tương đồng thông qua mối quan hệ ngữ nghĩa. 32 - Semantic relatedness (SR): tính độ tương đồng qua bao phủ (có thể hiều mức cha) của hai từ. (1) Phương pháp tiếp cận Semantic similarity Phương pháp này sử dụng các thuật toán xử lý ngôn ngữ tự nhiên để tính toán mối quan hệ giữa các từ cần xác định độ tương đồng. Một trong các thuật toán được đưa ra như sau[18] Hình 2.4. Mô hình tính độ tương đồng giữa hai từ dựa trên Wikipedia Để tính độ tương đồng giữa hai từ, người ta dựa trên Wikipedia để trích một đoạn văn ngắn có liên quan đến từ đó (Wiki Snippet Extraction). Khi tìm kiếm một từ trên Wikipedia, thì kết quả trả về thường là một văn bản định nghĩa, giải thích về từ đó. Những đoạn văn này sẽ được sử dụng để tính toán độ tương đồng ngữ nghĩa giữa các từ. 33 Hình 2.5. Trích xuất tập các từ dựa trên Wikipedia Sau khi lấy được đoạn văn thì đoạn văn đó được qua các bước xử lý dữ liệu như là loại bỏ các từ dùng, những từ không có giá trị. Kết quả thu được là một tập các từ, sau đó người ta sử dụng các thuật toán xử lý ngôn ngữ tự nhiên thông qua các độ đo như Cosine, Jaccard để tính toán. (2) Phương pháp tiếp cận Semantic relatedness (SR) Phương pháp tính độ đo SR trên đồ thị WCG bằng cách cải tiến các độ đo tính toán sự tương đồng ngữ nghĩa của hai từ trên Wordnet. Phương pháp này được chia làm hai loại độ đo: + Độ đo dựa khoảng cách giữa các khái niệm (path based). Kết quả tính càng nhỏ tức là mối tương đồng càng gần với nhau. + Độ đo dựa vào thông tin giữa các khái niệm (information content based). Kết quả tính càng lớn mối quan hệ tương đồng càng gần nhau. Một số độ đo được sử dụng trong Wordnet: - Rada (1989) sử dụng độ khoảng cách hai nút tính SR 34 ),( 21 nnldistPL  - Leacock và Chodorow (1998) depth nnl nnsimLC   2 ),( log),( 2121 depth: độ sâu của đồ thị - Resnik (1995) định nghĩa độ đo dựa vào nội dung thông tin (IC) là độ đo thông của mức cha gần nhất (lowest common subsumer) của hai khái niệm )),((),( 2121 cclcsicccres  - Lin (1998) đề xuất )()( )( 2),( 21 21 nICnIC lcsIC nnsimLin   Đặc điểm: - Bộ dữ liệu Wikipedia có thể được tải về máy tính cá nhân - Do là từ điển mở nên độ chính xác của dữ liệu phụ thuộc hoàn toàn vào người đăng tin trên Internet, khi tính toán độ tương đồng dựa vào dữ liệu này kết quả có thể thiếu chính xác. 2.3. Phương pháp tính độ tương đồng câu dựa vào chủ đề ẩn (Latent Dirichlet Allocation) Ý tưởng của phương pháp là tính độ tương đồng câu dựa trên mô hình phân tích chủ đề ẩn LDA (Latent Dirichlet Allocation) [2,15]. Mô hình tính độ tương đồng câu dựa vào chủ đề ẩn như sau: 35 Hình 2.6. Mô hình tính độ tương đồng câu dựa vào chủ đề ẩn Giải thích mô hình: + Chọn một tập “universal dataset” và phân tích chủ đề cho nó (quá trình ước lượng tham số theo mô hình LDA). + Kết quả lấy ra được các chủ đề trong tập “universal dataset”, các chủ đề này được gọi là chủ đề ẩn. + Đầu vào là một văn bản đơn, sau các bước tiền xử lý văn bản sẽ thu được một danh sách các câu. + Suy luận chủ đề cho các câu đã qua tiền xử lý, kết quả thu được một danh sách các câu được thêm chủ đề ẩn. Mô hình LDA dựa trên ý tưởng là giả thuyết mỗi một tài liệu là sự tổ hợp của một tập các chủ đề (topic) ẩn k với các trọng số p(k|d) (là xác suất xuất hiện của chủ đề k trong tài liệu d), trong đó mỗi chủ đề lại là sự tổ hợp của một tập các từ vựng xuất hiện trong các tài liệu với các trọng số p(w|k) (là xác suất xuất hiện của từ vựng w trong chủ đề k). Khi đó, dựa trên các thông tin về các chủ đề 36 của từng tài liệu, cụ thể ở đây là p(k|d) có thể tính độ tương đồng của các tài liệu. Hình 2.7. Mô hình LDA - α tham số Dirichle - β tham số Dirichle - θd phân phối các chủ đề trong tài liệu thứ d - Zd,n topic index (từ n của tài liệu d) - Wd,n từ n của tài liệu d chỉ bởi Zd,n - ɸk (phi) phân phối của các từ được sinh ra bởi topic Zd,n - K: số chủ đề (topic) - D: số tài liệu - N: số lượng các từ trong tập tài liệu D Trong LDA được chia làm ba mức: mức tập tài liệu, mức tài liệu, và mức từ. Các tham số (α,β ) là các tham số ở mức tập tài liệu, các biến θd là các biến ở mức tài liệu và các biến Wd,n là các biến ở mức từ và được xác định với mỗi từ trong mỗi tài liệu. Thông qua mô hình LDA ta tính được trọng số của mỗi chủ đề trên tài liệu   K kd kd kd 1 , , ,    Khi đó vector tương ứng với tài liệu d có dạng như sau: 37 Sd={θ1,θ2,,θK} Với hai tài liệu (hai câu) thứ d và thứ p sử dụng độ đo cosine để tính độ tương đồng giữa chúng.     K k k p K k k d K k k p k d pdSim 1 22 1 1 )()( ),(   Đặc điểm - Cần một tập dữ liệu lớn, đa dạng về lĩnh vực để phân tích chủ đề (có thể tải dữ liệu trên mạng Internet) - Kết quả phụ thuộc vào giá trị chủ đề ẩn k đưa vào 2.4. Phương pháp tính độ tương đồng dựa vào phân tích ngữ nghĩa tiềm ẩn (Latent Semantic Analysis) Phân tích ngữ nghĩa tiềm ẩn là một thuật toán trích xuất và đại diện nội dung ngữ nghĩa sử dụng tính toán thống kê với một tập văn bản lớn (Landauer và Dumais, 1997). Ý tưởng cơ bản là lấy tập hợp các từ trong tập văn bản, đưa ra từ xuất hiện hoặc không xuất hiện trong các văn bản thuộc tập văn bản đó, sau đó tính toán sự tương đồng của các từ với các từ khác hoặc của tập từ với tập từ khác [10]. LSA giả định rằng những từ có ngữ nghĩa gần nhau thường xuất hiện trong cùng ngữ cảnh. Xuất phát từ bảng dữ liệu D kích thước nm , mỗi hàng tượng trưng cho một ký tự, mỗi cột tượng trưng cho một đoạn văn bản, mỗi một ô chứa tần suất mà từ ở dòng ma trận xuất hiện trong đoạn văn bản được biểu diễn tại cột của ma trận. Sau đó, LSA sử dụng kỹ thuật phân tích giá trị đơn (Singular Value Decomposition - SVD) rút trích mối tương quan ngữ nghĩa giữa các từ trong tập văn bản, giảm số cột (chiều) về k đặc trưng tiềm ẩn của bảng dữ liệu, thu được bảng R kích thước km trong khi vẫn giữ được cấu trúc tương tự của các dòng trong bảng R. 38 Singular Value Decomposition - SVD Mọi ma trận có kích thước Amxn được phân tích dưới dạng 3 ma trận như sau A=U.Ʃ.VT - Ma trận U có kích thước mm là một ma trận trực giao - Ma trận V có kích thước nn là một ma trận trực giao - Ma trận Ʃ có kích thước nm là một ma trận đường chéo có dạng:              0....0 .......... 0....rr nm D với            r D   ....0 ............ 0....1 Các σi được gọi là các giá trị đơn (singular values) và 0....21  r Các ma trận U, Ʃ, VT được xây dựng như sau: - Các giá trị đơn ii   (λi là các giá trị riêng của ma trận A T A) - Ma trận V được xây dựng dựa trên các vector riêng của ma trận A T A). Cụ thể:  vvvV ....1 - Xây dựng ma trận U: Với các σi là giá trị đơn của ma trận A. Đặt i i i Avu  1  . Từ đó xây dựng được ma trận  muuU ....1 Ví dụ: Triển khai SVD của ma trận        100 011 A (1) Tìm các giá trị riêng của ma trận ATA. Có                             100 011 011 100 011 10 01 01 AAT 39 Giải phương trình det(A-λ.I)=0 được các giá trị riêng của ma trận ATA là 21  , 12  , .03  Với mỗi giá trị riêng i giải phương trình 0)(  xIA  ta được các vector riêng tương ứng là:                                  0 2/1 2/1 , 1 0 0 , 0 2/1 2/1 321 vvv Ma trận             02/12/1 100 02/12/1 TV Các giá trị đơn của ma trận A là: 0,1,2 321   Ma trận         010 002 Tìm ma trận U: Avu i i  1                           0 1 0 2/1 2/1 100 011 2 1 1u                         1 0 1 0 0 100 011 1 1 2u         10 01 U Phân tích SVD của ma trận A là: 40 A=U.Ʃ.VT =                        02/12/1 100 02/12/1 010 002 10 01 Phân tích giá trị đơn (SVD) trong LSA Trong LSA ma trận biểu diễn mối quan hệ giữa các từ và văn bản là ma trận Amxn là một ma trận thưa có kích thước lớn. Để giảm số chiều của ma trận người ta thường tìm cách xấp xỉ ma trận A (có hạng r) bằng một ma trận Ak có hạng k nhỏ hơn rất nhiều. Ma trận xấp xỉ của A là Ak=UkƩkVk T, trong đó: - Uk là ma trận trực giao km có các cột là k cột đầu tiên của ma trận U. - Ʃk là ma trận đường chéo kk  chứa các phần tử đầu tiên σ1, σ2,σk trên đường chéo chính. - Vk là ma trận trực giao kn có các cột là k cột đầu của ma trận V. Hình 2.8. SVD trong LSA Việc xấp xỉ này có thể xem như chuyển không gian đang xét (r chiều) về không gian k chiều, với k <<r. Về mặt thực hành việc cắt ma trận A về số chiều k còn loại bỏ nhiễu và tăng cường các mối liên kết ngữ nghĩa tiềm 41 ẩn giữa các từ trong tập văn bản [1]. Trong LSA các ma trận Ak được gọi là không gian ngữ nghĩa (semantic space). Độ phức tạp của thuật toán SVD là O(n 2 k 3), trong đó n là số từ, k là số chiều trong không gian ngữ nghĩa (khoản ~ 50 đến 350). Để có thể hiểu rõ hơn về LSA ta xem xét một ví dụ sau [8]. Có 9 câu về công nghệ thông tin c1: Human machine interface for ABC computer applications c2: A survey of user opinion of computer system response time c3: The EPS user interface management system c4: System and human system engineering testing of EPS c5: Relation of user perceived response time to error measurement m1: The generation of random, binary, ordered trees m2: The intersection graph of paths in trees m3: Graph minors IV: Widths of trees and well-quasi-ordering m4: Graph minors: A survey c1 c2 c3 c4 c5 m1 m2 m3 m4 human 1 0 0 1 0 0 0 0 0 interface 1 0 1 0 0 0 0 0 0 computer 1 1 0 0 0 0 0 0 0 user 0 1 1 0 1 0 0 0 0 system 0 1 1 2 0 0 0 0 0 response 0 1 0 0 1 0 0 0 0 time 0 1 0 0 1 0 0 0 0 EPS 0 0 1 1 0 0 0 0 0 survey 0 1 0 0 0 0 0 0 1 trees 0 0 0 0 0 1 1 1 0 graph 0 0 0 0 0 0 1 1 1 minors 0 0 0 0 0 0 0 1 1 Hình 2.9. Ma trận biểu diễn, mỗi ô là số lần xuất hiện của từ trong câu văn, mỗi một từ xuất hiện ít nhất trong 2 câu 42 Hình 2.10. Ma trận U Hình 2.11. Ma trận giá trị đơn với k=2 Hình 2.12. Ma trận V 43 Kết quả tính toán SVD Ak==UkƩkVk T với k=2 Hình 2.13. Ma trận được xây dựng lại với k=2 Qua ví dụ trên, thấy rằng tại ma trận được xây dựng lại mối quan hệ giữa các từ trong câu đã thay đổi do việc tính toán liên quan đến các từ trong tập văn bản. Ví dụ từ “survey” với câu m4 ban đầu là 1, qua biến đổi giá trị 0.42; từ “trees” với câu m4 ban đầu là 0, qua biến đổi giá trị 0.66. Sự thay đổi này được chứng minh là chính xác hơn so với mối quan hệ ban đầu. Để tăng tính chính xác khi xây dựng ma trận biểu diễn trong mô hình LSA người ta sử dụng kỹ thuật tf–idf (term frequency – inverse document frequency). Tf-idf của một từ là một con số thu được qua hể hiện mức độ quan trọng của từ này trong một văn bản, mà bản thân văn bản đang xét nằm trong một tập hợp các văn bản. TF- term frequency – tần số xuất hiện của 1 từ trong 1 văn bản. Cách tính: 44 tf(t,d)=f(t,d)/max{f(w,d):w∈d} - Thương của số lần xuất hiện 1 từ trong văn bản và số lần xuất hiện nhiều nhất của một từ bất kỳ trong văn bản đó. (giá trị sẽ thuộc khoảng [0, 1]) - f(t,d) - số lần xuất hiện từ t trong văn bản d. - max{f(w,d):w∈d} - số lần xuất hiện nhiều nhất của một từ bất kỳ trong văn bản. IDF – inverse document frequency. Tần số nghịch của 1 từ trong tập văn bản (corpus). Tính IDF để giảm giá trị của những từ phổ biến. Mỗi từ chỉ có 1 giá trị IDF duy nhất trong tập văn bản. idf(t,D)=log|D||{d∈D:t∈d}| - |D|: - tổng số văn bản trong tập D - |{d∈D:t∈d}|: - số văn bản chứa từ nhất định, với điều kiện t appears (i.e., tf(t,d)≠0). Nếu từ đó không xuất hiện ở bất cứ 1 văn bản nào trong tập thì mẫu số sẽ bằng 0 => phép chia cho không không hợp lệ, vì thế người ta thường thay bằng mẫu thức 1+|{d∈D:t∈d}|. Cơ số logarit trong công thức này không thay đổi giá trị của 1 từ mà chỉ thu hẹp khoảng giá trị của từ đó. Vì thay đổi cơ số sẽ dẫn đến việc giá trị của các từ thay đổi bởi 1 số nhất định và tỷ lệ giữa các trọng lượng với nhau sẽ không thay đổi. (nói cách khác, thay đổi cơ số sẽ không ảnh hưởng đến tỷ lệ giữa các giá trị IDF). Tuy nhiên việc thay đổi khoảng giá trị sẽ giúp tỷ lệ giữa IDF và TF tương đồng để dùng cho công thức TF-IDF như bên dưới. Giá trị TF-IDF: tfidf(t,d,D)=tf(t,d)×idf(t,D) 45 Những từ có giá trị TF-IDF cao là những từ xuất hiện nhiều trong văn bản này, và xuất hiện ít trong các văn bản khác. Việc này giúp lọc ra những từ phổ biến và giữ lại những từ có giá trị cao (từ khoá của văn bản đó). Vector ngữ nghĩa của câu được biểu diễn trong mô hình LSA như sau: Trong LSA ngữ nghĩa của câu, đoạn văn là tổng ngữ nghĩa của các từ trong câu, đoạn văn đó. Meaning passage = Ʃ(mword1, mword2,mwordn) [11] Trong đó mỗi một từ được biểu diễn bởi một hàng ngang của ma trận không gian ngữ nghĩa. Tính độ tương đồng giữa các câu Để tính độ tương đồng giữa hai từ, hai câu trong LSA sử dụng độ đo Cosine giữa các vector. ||||.|||| . 21 21 ss ss ss  Đặc điểm - Trực quan, dễ hiểu - Cần bộ dữ liệu để tạo ma trận ngữ nghĩa ban đầu nhưng không đòi hỏi bộ dữ liệu quá lớn. - Độ chính xác tăng cao khi dữ liệu đưa vào tạo ma trận ngữ nghĩa cùng ngữ cảnh với dữ liệu cần so sánh. - Nếu một vấn đề mới được đưa ra, có thể có những từ quan trọng lại chưa được xây dựng trong không gian ngữ nghĩa gây ra độ chính xác khi so sánh thấp. 3. Đánh giá và lựa chọn phƣơng pháp Để xây dựng chức năng phát hiện, đánh dấu nội dung giống nhau trong tổng hợp ý kiến thảo luận tổ nhằm hỗ trợ chuyên viên trong quá trình tổng hợp, 46 tiêu chí lựa chọn phương pháp thực hiện là độ chính xác thuật toán đảm bảo xác định tính tương đồng, đặc biệt là khả thi trong điều kiện hiện tại của cơ quan. Qua nghiên cứu các phương pháp tính toán độ tương đồng câu trên, có một số đánh giá và đề xuất lựa chọn phương pháp thực hiện bài toán như sau: - Phương pháp tính độ tương đồng câu dựa vào WordNet đòi hỏi xây dựng kho ngữ liệu tiếng Việt, cần rất nhiều công sức và người có chuyên môn cao về ngôn ngữ để thực hiện. Điều này không phù hợp với điều kiện của cơ quan. - Phương pháp tính độ tương đồng câu dựa vào Wikipedia cần tải bộ dữ liệu Wikipedia tiếng Việt làm cơ sở để so sánh. Tuy nhiên do là từ điển mở nên độ chính xác của dữ liệu phụ thuộc hoàn toàn vào người đăng tin trên Internet. Các từ có thể có nhiều định nghĩa khác nhau tùy theo vấn đề nghiên cứu nên ảnh hướng đến độ chính xác của thuật toán. - Phương pháp tính độ tương đồng câu dựa vào chủ đề ẩn cần một tập dữ liệu lớn, đa dạng về lĩnh vực để phân tích chủ đề. Trong trường hợp số lượng chủ đề đưa vào lớn, độ phức tạp của thuật toán NP-hard. - Phương pháp tính độ tương đồng dựa vào phân tích ngữ nghĩa tiềm ẩn cần bộ dữ liệu để tạo ma trận ngữ nghĩa ban đầu nhưng không đòi hỏi bộ dữ liệu quá lớn. Độ chính xác tăng cao khi dữ liệu đưa vào tạo ma trận ngữ nghĩa cùng ngữ cảnh với dữ liệu cần so sánh. Từ đánh giá trên, để giải quyết bài toán phát hiện nội dung giống nhau trong tổng hợp ý kiến thảo luận tổ, trong luận văn lựa chọn sử dụng phương pháp tính độ tương đồng dựa vào phân tích ngữ nghĩa tiềm ẩn. Lý do chính để lựa chọn phương pháp là việc xây dựng không gian ngữ nghĩa dựa trên các dữ liệu của các Hội nghị trước được lưu trữ lại. Phương pháp này đáp ứng được yêu cầu đã xác định ở mục 3 của Chương I. 47 CHƢƠNG 3 ĐỀ XUẤT GIẢI PHÁP PHÁT HIỆN NỘI DUNG GIỐNG NHAU TRONG HỆ THỐNG TỔNG HỢP Ý KIẾN GÓP Ý TRONG HỘI NGHỊ 1. Đề xuất giải pháp phát hiện nội dung giống nhau trong phần mềm Hỗ trợ tổng hợp ý kiến thảo luận tổ Hình 3.1. Mô hình phát hiện nội dung trùng trong tổng hợp ý kiến Qua tình hình thực tế sử dụng phần mềm Hỗ trợ tổng hợp ý kiến và những kiến thức đã trình bày ở trên, tác giả đề xuất mô hình phát hiện nội dung trùng trong bản tổng hợp ý kiến của các tổ tại Hội nghị như sau: - Các dữ liệu của các Hội nghị trước và các tài liệu liên quan đến vấn đề xin ý kiến được số hóa, qua bước xử lý dữ liệu bao gồm tách từ tiếng Việt, loại bỏ các dấu câu các dữ liệu này được lưu ra một tệp text. - Sử dụng phương pháp LSA tệp dữ liệu này được xây dựng thành ma trận ngữ nghĩa. - Thông qua phần mềm Hỗ trợ tổng hợp ý kiến kết quả thu được là bản tổng hợp ý kiến góp ý của các tổ. Người sử dụng lựa chọn câu (đoạn văn) để so sánh với các câu (đoạn văn) khác cùng một mục. - Qua bước xử lý dữ liệu câu (đoạn văn) được lựa chọn và các câu còn lại được loại bỏ các dấu câu và lưu thành tệp các text. 48 - Thông qua ma trận ngữ nghĩa đã được xây dựng từ trước, các câu (đoạn văn) trong tệp chứa dữ liệu được lựa chọn và trong tệp chưa các câu cần so sánh được biểu diễn thành các vector. - Sử dụng thuật toán tính độ tương đồng xác định sự tương đồng của từng câu (đoạn văn) với câu được lựa chọn. Thiết lập một ngưỡng về độ tương đồng giữa các câu. Kết quả thu được là các câu có độ tương đồng vượt ngưỡng được đánh dấu màu. - Kết quả đánh dấu các câu (đoạn văn) giống nhau được hiển thị ngược trở lại giao diện của bản tổng hợp ý kiến thảo luận tổ, giúp cho chuyên viên tổng hợp theo dõi và ra quyết định lựa chọn hoặc loại bỏ ý kiến. 2. Xử lý dữ liệu Trong bước xử lý dữ liệu, dữ liệu được loại bỏ những dấu câu như dấu phẩy, dấu chấm, dấu chấm hỏi, dấu chấm than. Đối với văn bản là tiếng Việt xử dụng công cụ tách từ để xác định các từ đơn, từ ghép cho trong văn bản. Cuối cùng dữ liệu được xử lý được lưu thành các tệp text. 3. Thực nghiệm 3.1. Môi trường thực nghiệm Quá trình thực nghiệm trên máy tính có cấu hình như sau: Bảng 3.1. Cấu hình thiết bị môi trường thực nghiệm Thành phần Chỉ số CPU Intel (R) Pentium 1,87 Ghz RAM 2 GB HDD 320 GB OS Windows 7 Home Basic 32 bits 49 3.2. Chương trình phần mềm Các thư viện sử dụng trong phần mềm (các packages của ngôn ngữ lập trình R) Bảng 3.2. Các thư viện sử dụng STT Tên thư viện Nguồn Mục đích 1 tm https://cran.r- project.org/web/packages/tm/index.html Các hàm xử lý về text mining 2 Lsa https://cran.r- project.org/web/packages/lsa/index.html Hàm xây dựng không gian ngữ nghĩa 3 LSAfun https://cran.r- project.org/web/packages/LSAfun/index. html Hàm tính toán độ tương đồng của các câu 4 JVnTextPro Jvntextpro.sourceforge.net Thư viện tách từ tiếng Việt Phần giao diện được viết trên ngôn ngữ C#, có chức năng nhập vào một đoạn văn bản và so sánh với một số đoạn văn bản khác sau với một ngưỡng được thiết lập, sau đó tô đậm đoạn văn nào có độ tương đồng lớn hơn hoặc bằng ngưỡng đã cho với đoạn văn nhập vào. 50 3.3. Dữ liệu thực nghiệm Dữ liệu để xây dựng ma trận ngữ nghĩa có kích thước 5092 từ và 687 dòng về nội dung khởi nghiệp (kích thước ma trận 5092 x 687). Dữ liệu để so sánh là một đoạn văn cần nhập vào (tương ứng với góp ý của một tổ) và 13 đoạn văn khác (tương ứng của 13 tổ còn lại) có đề cập vấn đề khởi nghiệp. 3.4. Giao diện chương trình thực nghiệm - Khởi tạo không gian ngữ nghĩa LSA Có chức năng tạo không gian ngữ nghĩa LSA từ dữ liệu đã có (tạo SVD với k=50) Hình 3.2. Giao diện khởi tạo LSA - Giao diện để nhập đoạn văn để so sánh. Phần input mang nghĩa là đoạn văn được lựa chọn để so sánh. Các đoạn văn còn lại được hiển thị ở phía dưới. 51 Hình 3.3. Giao diện nhập đoạn văn để so sánh - Giao diện kết quả so sánh Hình 3.4. Kết quả so sánh Với dữ liệu thực nghiệm trên, giả định với ngưỡng so sánh 0.7 (tự nhập vào từ bàn phím) các đoạn văn có độ tương đồng với đoạn văn nhập vào cao hơn ngưỡng được tô đậm. 52 4. Đánh giá kết quả thực nghiệm Trên cơ sở kết quả thực nghiệm, có thể nhận thấy rằng việc giải quyết bài toán phát hiện nội dung giống nhau trong tổng hợp ý kiến thảo luận tổ là có tính khả thi. Tuy vậy vẫn còn nhiều vấn đề cần được nghiên cứu để giải quyết như (1) xác định giá trị ngưỡng sao cho tối ưu, (2) trong trường hợp một vấn đề mới đưa ra xin ý kiến nếu ma trận ban đầu xây dựng chưa có những tài liệu đề cập tới vấn đề này độ chính xác không cao, (3) chưa xử lý được các tình huống phủ định trong tiếng Việt, ví dụ “Đa số nhất trí với phương án được xin ý kiến” với “Đa số không nhất trí với phương án được xin ý kiến” hay “Chúng ta không quyết vấn đề này” với “Chúng ta không thể không quyết vấn đề này”. 53 KẾT LUẬN Đề tài của luận văn là nghiên cứu các giải pháp tự động phân tích nội dung giống nhau trong tổng hợp ý kiến thảo luận, góp ý trong Hội nghị. Bài toán cũng xuất phát từ thực tế trong công tác tổng hợp ý kiến thảo luận tổ ở các Hội nghị Ban Chấp hành Trung ương. Hiện tại, Văn phòng Trung ương Đảng đã xây dựng và đưa vào sử dụng phần mềm hỗ trợ tổng hợp ý kiến thảo luận tổ tại các hội nghị Trung ương phục vụ công tác tổng hợp các ý kiến của Trung ương thảo luận tại tổ về các vấn đề, chủ trương hết sức quan trọng đối với đất nước. Phần mềm Hỗ trợ tổng hợp ý kiến đã góp phần nâng cao chất lượng, thời gian tổng hợp, giúp lãnh đạo Văn phòng Trung ương và những cán bộ làm công tác tổng hợp có thể xem xét, đánh giá lại những kết quả đã tổng hợp, từ đó không ngừng nâng cao chất lượng biên tập, tổng hợp; đồng thời góp phần nâng cao hiệu quả hoạt động của các hệ thống công nghệ thông tin trong cơ quan. Một hạn chế của phần mềm Hỗ trợ tổng hợp ý kiến là chưa pháp hiện nội dung trùng thừa trong bản tổng hợp. Việc giải quyết trùng thừa này có ý nghĩa rất quan trọng trong việc hỗ trợ tổng hợp ý kiến thảo luận tổ tại các hội nghị Trung ương. Nó giúp việc tổng hợp được nhanh chóng, chính xác từ khâu biên bản chi tiết, biên bản tổng hợp của 1 tổ và biên bản tổng hợp của tất cả các tổ. Luận văn đã đi vào nghiên cứu các phương pháp tính độ tương đồng của câu, đề xuất giải pháp nhằm phát hiện các nội dung trùng nhau trong bản tổng hợp ý kiến góp ý của phần mềm Hỗ trợ tổng hợp ý kiến dựa trên các thuật toán về xử lý ngôn ngữ tự nhiên. Luận văn đã xây dựng chương trình thực nghiệm cho kết quả tốt, chứng minh khả năng có thể áp dụng giải pháp vào giải quyết bài toán thực tế. Luận văn đưa ra một số định hướng nghiên cứu tiếp tục như sau: - Tiếp tục nghiên cứu thuật toán tính độ tương đồng câu để tăng độ chính xác, nghiên cứu để giải quyết bài toán phủ định trong tiếng Việt. Kết hợp các bài 54 toán tính độ tương đồng và phủ định trong tiếng Việt để có giải pháp tối ưu giải quyết vấn đề phát hiện nội dung góp ý giống nhau trong quá trình tổng hợp ý kiến góp ý tại các Hội nghị. - Trên cơ sở đó, hoàn thiện và nghiên cứu áp dụng giải pháp kỹ thuật phát hiện nội dung trùng thừa cho phần mềm Hỗ trợ tổng hợp ý kiến, phục vụ chuyên viên Văn phòng Trung ương Đảng làm nhiệm vụ tổng hợp tại các Hội nghị Trung ương. Trong quá trình thực hiện, chắc chắn Luận văn sẽ còn nhiều hạn chế và thiếu sót. Do vậy, tôi mong nhận được sự góp ý của thầy cô và đồng nghiệp quan tâm đến đề tài. Những ý kiến quý báu đó sẽ giúp Luận văn của tôi được hoàn thiện hơn và mang tính thực tiễn cao để có thể áp dụng vào thực tế công tác tại Văn phòng Trung ương Đảng. 55 Tài liệu tham khảo Tiếng Việt 1. Trần Cao Đệ (2011), Chỉ mục ngữ nghĩa tiềm ẩn và ứng dụng, Kỷ yếu Hội nghị tổng kết 5 năm nghiên cứu khoa học & đào tạo Khoa Công nghệ thông tin & truyền thông Đại học Cần Thơ, tr 49-56. 2. Đào Quang Minh, Lê Đức Tùng, Lê Đức Hùng, Nguyễn Hữu Đức, Nguyễn Thanh Thủy ( 2011), Xây dựng dịch vụ so khớp tài liệu điện tử trên lưới dữ liệu VNGRID, Chuyên san “Các công trình nghiên cứu, phát triển và ứng dụng Công nghệ Thông tin và Truyền thông”, tr 72 – 81. 3. Phạm Văn Hà (2014), Hệ thống tự động tổng hợp ý kiến góp ý trong Hội nghị, Luận văn Thạc sĩ Công nghệ thông tin, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội, tr 44 – 46. 4. Trần Mai Vũ (2009), Tóm tắt đa văn bản dựa vào trích xuất câu, Luận văn Thạc sĩ Công nghệ thông tin, Trường Đại học Công nghệ, Đại học Quốc gia Hà Nội. 5. https://vi.wikipedia.org/wiki/Wikipedia:Giới_thiệu, năm 2016. 6. Văn phòng Trung ương Đảng (2016), Dự án “Xây dựng phần mềm Hỗ trợ tổng hợp ý kiến thảo luận tổ tại các hội nghị Trung ương”. Tiếng Anh 7. David M.Blei, Andrew Y.Ng, Michael I.Jordan (2003), “Latent Dirichlet Allocation”, Journal of Machine Learning Research 3, pp 993-1022 . 8. Deerwester, S.,Dumais, S.T., Landauer, T.K.,Furnas, G.W. and Harshman, R.A. (1990), “Indexing by latent semantic analysis”, Journal of the Society for Information Science, 41(6), pp 391-407. 56 9. Aminul Islam and Diana Inkpen (2008), “Semantic Text Similarity Using Corpus-Based Word Similarity and String Similarity”, ACM Transactions on Knowledge Discovery from Data, Vol. 2, No.2, Article 10. 10. Thomas K.Landauer, Susan T.Dumais (1997), A Solution to Plato’s Problem: The Latent Semantic Analysis Theory of Acquisition, Induction, and Representation of Knowledge. 11. Thomas K.Landauer, Danielle S.McNamara Simon Dennis and Walter Kintsch (2011), Hand book of Latent Semantic Analysis, pp 13-14. 12. Yuhua Li, David McLean, Zuhair A.Bandar, James D.O’Shea, and Keeley Crockett (2006), “Sentence Similarity Based on Semantic Nets and Corpus Statistics”, IEEE transactions on knowledge and data engineering, VOL. 18, NO. 8 . 13. Rada Mihalcea and Courtney Corley, Carlo Strapparava, Corpus- based and Knowledge-based Measures of Text Semantic Similarity. 14. Hien T.Nguyen, Phuc H.Duong, and Vinh T.Vo (2014), “VietNamese Sentence Similarity Based on Concept”, IFIP International Federation for Information Processing 2014 . 15. Tu C.Nguyen (2008), Hidden Topic discovery toward classification and clustering in Vietnamese web documents, Master Thesis, Universtiy of Engineering and Technology, Vietnam National University, Hanoi. 16. Kenji TAKANO, Makoto NAKAMURA, Yoshiko OYAMA and Akira SHIMAZU (2010), Semantic Analysis of Paragraphs Consisting of Multipel Sentences. 17. Nuno Seco, Tony Veale and Jer Hayes (2004), An Intrinic Information Content Metric for Semantic Similarity in WordNet. 57 18. Sheetal A.Takale, Sushma S.Nandgaonkar (2010), “Measuring Semantic Similarity between Words Using Web Documents”, WWW2007: Track:Semantic Web. 19. Torsten Zesch, Iryna Gurevych and Max Muhlhauser (2007), Comparing Wikipedia and German WordNet by Evaluating Semantic Relatedness on Multipe Datasets. 20. TorstenZesch, IrynaGurevych (2007), Analys is of the Wikipedia Category Graph for NLP Applications. 58 59 60 61 62