Search Engine for Structured Event Retrieval from News Sources
Subject Areas : electrical and computer engineeringA. mirzaeiyan 1 , s. aliakbary 2 *
1 -
2 -
Keywords: Event detection, search engine, information retrieval, text mining,
Abstract :
Analysis of published news content is one of the most important issues in information retrieval. Much research has been conducted to analyze individual news articles, while most news events in the media are published in the form of several related articles. Event detection is the task of discovering and grouping documents that describe the same event. It also facilitates better navigation of users in news spaces by presenting an understandable structure of news events. With rapid and increasing growth of online news, the need for search engines to retrieve news events is felt more than ever. The main assumption of event detection is that the words associated with an event appear in the same time windows and similar documents. Accordingly, in this research, we propose a retrospective and feature-pivot method that clusters words into groups according to semantic and temporal features. We then use these words to produce a time frame and a human readable text description. The proposed method is evaluated on the All The News dataset, which consists of two hundred thousand articles from 15 news sources in 2016 and compared to other methods. The evaluation shows that the proposed method outperforms previous methods in terms of precision and recall.
[1] S. Lv, et al., "Yet another approach to understanding news event evolution," World Wide Web, vol. 23, no. 4, pp. 2449-2470, May 2020.
[2] O. N. N. Fernando and C. W. Chang, "Twittener: an aggregated news platform," in Proc. IEEE Int. Conf. on Cyberworlds, pp. 378-381, Kyoto, Japan, 2-4 Oct. 2019.
[3] Q. He, Topical Analysis of Text Streams, Ph.D. Dissertation, Nanyang Technological University, Singapore, 2009.
[4] L. Hu, B. Zhang, L. Hou, and J. Li, "Adaptive online event detection in news streams," Knowledge-Based Systems, vol. 138, pp. 105-112, 15 Dec. 2017.
[5] T. Kala, Event Detection from Text Data, Bacholor Thesis,Department of Cybernetics Faculty of Electrical Engineering, Czech Technical University in Prague, May 2017.
[6] F. Atefeh and W. Khreich, "A survey of techniques for event detection in twitter," Computational Intelligence, vol. 31, no. 1, pp. 132-164, Feb. 2015.
[7] D. M. Blei, A. Y. Ng, and M. I. Jordan, "Latent dirichlet allocation," J. of Machine Learning Research, vol. 3, pp. 993-1022, Mar. 2003.
[8] Q. He, K. Chang, and E. P. Lim, "Analyzing feature trajectories for event detection," in Proc. of the 30th Annual Int. ACM SIGIR Conf. on Research and Development in Information Retrieval, pp. 207-214, Amsterdam, The Netherlands, 22-27 Jul. 2007.
[9] Y. Sumikawa and A. Jatowt, "System for category-driven retrieval of historical events," in Proc. of the 18th ACM/IEEE on Joint Conf. on Digital Libraries, pp. 413-414, Fort Worth Texas USA, 3-7 Jun. 2018.
[10] D. Metzler, C. Cai, and E. Hovy, "Structured event retrieval over microblog archives," in Proc. of the Conf. of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 646-655, Montreal, Canada, 3-8 Jun. 2012.
[11] I. Moutidis and H. T. P. Williams, "Utilizing complex networks for event detection in heterogeneous high-volume news streams," Complex Networks and Their Applications VIII: Proc. of the 8th Int. Conf. on Complex Networks and Their Applications, vol. 1, pp. 659-672, Lisbon, Portugal, 10-12 Dec. 2019.
[12] H. Schutze, C. D. Manning, and P. Raghavan, Introduction to Information Retrieval, vol. 39, Cambridge University Press Cambridge, 2008.
[13] T. Nicholls and J. Bright, "Understanding news story chains using information retrieval and network clustering techniques," Communication Methods and Measures, Routledge, vol. 13, no. 1, pp. 43-59, 2019.
[14] V. D. Blondel, J. L. Guillaume, R. Lambiotte, and E. Lefebvre, "Fast unfolding of communities in large networks," J. of Statistical Mechanics: Theory and Experiment, vol. 2008, no. 10, Article No.: P10008, Oct. 2008.
[15] M. J. Kusner, Y. Sun, N. I. Kolkin, and K. Q. Weinberger, "From word embeddings to document distances," in Proc. of the 32nd Int. Conf. on Machine Learning, vol. 37, pp. 957-966, Lille, France, 6-11 Jul. 2015.
[16] R. Rehurek and P. Sojka, "Software framework for topic modelling with large corpora," in Proc. of LREC Workshop New Challenges for NLP Frameworks, pp. 46-50, Valletta, Malta, 22-22 May 2010.
نشریه مهندسی برق و مهندسی كامپیوتر ایران، ب- مهندسی کامپیوتر، سال 19، شماره 3، پاییز 1400 221
مقاله پژوهشی
ارائه یک موتور جستجو برای بازیابی رویداد ساختارمند از منابع خبری
علیرضا میرزائیان و صادق علیاکبری
چكیده: تحلیل محتوای اخبار منتشرشده، یکی از مسایل مهم در حوزه بازیابی اطلاعات است. امروزه تحقیقات زیادی برای تحلیل تکتک مقالات خبری انجام شده است، در حالی که اکثر رویدادهای خبری به شکل چندین مقاله مرتبط به هم به طور مکرر در رسانهها منتشر میشوند. تشخیص رویداد، وظیفه کشف و گروهبندی اسنادی را دارد که رویدادی یکسان را شرح میدهد و با ارائه یک ساختار قابل درک از گزارشهای خبری، هدایت بهتر کاربران در فضاهای خبری را تسهیل میکند. با رشد سریع و روزافزون اخبار برخط، نیاز به ایجاد موتورهای جستجو برای بازیابی رویدادهای خبری به منظور تسهیل جستجوی کاربران در این فضاهای خبری بیش از پیش احساس میشود. فرض اصلی تشخیص رویداد بر این است که به احتمال زیاد کلمات مرتبط به یک رویداد یکسان در دنیای واقعی، در اسناد و پنجرههای زمانی مشابه ظاهر میشوند. بر همین اساس ما در این تحقیق روشی گذشتهنگر و ویژگیمحور پیشنهاد میکنیم که کلمات را بر اساس ویژگیهای معنایی و زمانی گروهبندی میکند. سپس از این کلمات برای تولید یک بازه زمانی و توصیف متنی قابل درک برای انسان استفاده میکنیم. ارائه یک معماری مناسب و استفاده مؤثر از خوشهبندی جهت بازیابی رویدادها و همچنین تشخیص مناسب زمان رویداد، از نوآوریهای این پژوهش به شمار میروند. روش پیشنهادی روی مجموعه داده AllTheNews که تقریباً شامل دویست هزار مقاله از ۱۵ منبع خبری در سال 2016 میباشد ارزیابی شده
و با روشهای دیگر مقایسه گردیده است. ارزیابیها نشان میدهد که روش پیشنهادی در دو معیار دقت و یادآوری نسبت به روشهای پیشین عملکرد بهتری دارد.
کلیدواژه: تشخیص رویداد، موتور جستجو، بازیابی اطلاعات، متنکاوی.
1- مقدمه
در سالهای اخیر حجم اخبار منتشرشده در اینترنت به شدت افزایش یافته است. رسانههای خبری با گزارش آخرین رویدادهای سراسر جهان، نقش مهمی در زندگی روزمره مردم ایفا کردهاند. علاوه بر این با ظهور دستگاههای تلفن همراه با قابلیت اینترنت مثل GPRS و G3 و G4، اینترنت به تدریج به مهمترین منبع اطلاعاتی جهانی تبدیل شده است. تغییر رویه عظیم منابع خبری، روش دسترسی مردم به اخبار را تغییر داده است. برای مثال، متخصصان اقتصادی که به اطلاعات بلادرنگ برای تصمیمگیری نیاز دارند، در حال حاضر از سرویسهای پیامرسان مثل تلگرام به عنوان یک رسانه تحویل ۲۴ساعته استفاده میکنند. همچنین ارائهدهندگان اخبار سنتی مثل BBC و CNN به اینترنت مهاجرت کردهاند و ویژگیهای چندرسانهای مانند تصویر و ویدئو از گزارشهای خبری ارائه میدهند. بمباران همهجانبه اطلاعات خبری، با خطر بمباران اطلاعات بیفایده و نامرتبط همراه است. شناسایی اخبار مرتبط از میان حجم زیادی از مقالات خبری کار بسیار دشواری است. یک موتور جستجوی هوشمند اخبار، نه تنها باید تمام اسناد مرتبط را در مورد یک رویداد خاص بازیابی کند، بلکه یک دیدگاه کلی در مورد این که این رویداد چگونه ریشه میگیرد و تکامل مییابد، ارائه میدهد [1]. بنابراین سایتهای گردآورنده اخبار مانند Yahoo، Google و AOL سایتهای گردآوری اخبار را برپا کردهاند که سرخط اخبار را از هزاران منبع خبری چندزبانه در سراسر جهان جمعآوری میکنند. هدف این سایتها کمک به خوانندگان برای یافتن خبرهای جدید و جالب است. برخی از آنها ویژگیهایی فراتر از تجمیع اخبار، برای افزایش ارزش خدمات خود ارائه میدهند. یکی از این ویژگیها، شخصیسازی محتوای نشان داده شده به هر کاربر است [2].
یک موضوع2، مجموعهای از اسناد مرتبط به یک رویداد است که زمان و مکان مشخصی دارد. برای نمونه، افتتاح یک استادیوم بزرگ در تهران میتواند باعث پیدایش گزارشهای خبری تکراری در رسانههای خبری ایران و جهان شود. حتی یک موضوع بر اساس اهمیت، ممکن است در طول چند روز یا حتی چند هفته در یک رسانه منتشر شود. بنابراین یک خوشه از مقالات خبری در مورد یک موضوع، مزیتهای عملی بسیاری برای خوانندگان اخبار دارد. از آنجا که هیچ کاربری نمیتواند تمام اخبار منتشرشده در جهان را بخواند، اغلب مردم به طور طبیعی به اخبار مربوط به موضوعات مورد علاقهشان توجه میکنند. به عنوان مثال، مدیران اقتصادی ممکن است به هر موضوعی مربوط به نوسانات نرخ طلا و ارز علاقهمند باشند، در حالی که نوجوانان تنها به جدیدترین مدها گرایش دارند [3].
2- بیان مسأله
هدف از این پژوهش ارائه یک موتور جستجو برای تشخیص و خلاصهسازی رویدادها از جریان اسناد خبری میباشد. تشخیص رویداد، وظیفه کشف و گروهبندی اسنادی را دارد که رویدادی یکسان را شرح میدهند و با ارائه یک ساختار مفهومی از گزارشهای خبری، هدایت بهتر کاربران در فضاهای خبری را تسهیل میکند [4]. به طور دقیقتر، با داشتن جریان اسناد متنی منتشرشده در یک دوره زمانی مشخص، هدف اصلی تشخیص رویداد، تحلیل اسناد و استخراج مجموعه رویدادهایی است که در طول دوره در جهان رخ داده است. یک رویداد به صورت غیر دقیق به عنوان چیزی که در یک زمان خاص و در یک مکان خاص اتفاق میافتد، تعریف میشود [5]. از دیدگاه دادهکاوی، تشخیص رویداد ممکن
شکل 1: نمای کلی سامانه پیشنهادی.
است شبیه خوشهبندی سند یا کلمه باشد. اگرچه تعدادی از مشخصههای اصلی تشخیص رویداد وجود دارند که اگر در نظر گرفته نشوند، میتوانند بر عملکرد خوشهبندی تأثیر منفی بگذارند:
• زمان، نقشی محوری در هر سند خبری ایفا میکند.
• موضوعات خبری به طور طبیعی انفجاری هستند.
• اسناد خبری با محتوای مشابه معنایی اما جدا از فاصله زمانی با فریمهای زمانی متفاوت به احتمال زیاد از موضوعات مختلف نشأت گرفتهاند.
ما در این تحقیق روشی گذشتهنگر را پیشنهاد میکنیم که مبتنی بر بازنمایی رویدادها به شکل کلمات کلیدی است. سامانه پیشنهادی قادر است با جمعآوری و نمایهسازی3 اسناد خبری از منابع گوناگون و دریافت یک پرسوجو از کاربر، رویدادها را بازیابی کند. شکل 1 نمایی کلی از سامانه پیشنهادی را نمایش میدهد.
روش پیشنهادی با دریافت یک بازه زمانی و یک پرسوجو مثل زلزله، سیل و یا انفجار که به شکلی رویداد را توصیف میکند، تمام رویدادهای مرتبط به پرسوجو را که در آن بازه زمانی اتفاق افتادهاند بازیابی میکند. در سامانه پیشنهادی، هر رویداد به شکل یک بازه زمانی و تعدادی کلمه کلیدی مرتبط بازنمایی میشود تا یک خلاصه سطح بالا از رویداد ارائه شود. فرض روش پیشنهادی این است که کلمات مرتبط که اغلب در طول یک دوره زمانی با هم تکرار میشوند، نماینده رویدادهایی مشابه هستند که در آن زمان اتفاق افتاده است [5]. نهایتاً با استفاده از کلمات و بازه زمانی استخراجشده، اسناد مرتبط به رویداد، بازیابی و خلاصهسازی میشوند و بدین ترتیب کاربر میتواند به راحتی یک تاریخچه کلی از رویدادها را استخراج کند. چنین سامانهای نه تنها برای کاربران معمولی بلکه برای روزنامهنگاران، تاریخدانان و حتی دانشجویان مفید خواهد بود.
3- کارهای پیشین
حوزه تحقیقاتی تشخیص رویداد، نشأتگرفته از تشخیص موضوع است که در سال ۱۹۹۷ تحت عنوان یک برنامه به نام تشخیص و ردیابی موضوع در آژانس پروژههای تحقیقاتی پیشرفته دفاعی آمریکا آغاز شد. انگیزه طرح تحقیقاتی تشخیص و ردیابی موضوع، ارائه فناوری اصلی برای ابزارهای نظارت بر اخبار موجود در منابع متعدد رسانههای سنتی برای مطلعساختن کاربران در مورد اخبار و تحولات بود [6]. یکی از روشهای قدیمی در تشخیص موضوع، مدلسازی موضوعی میباشد که از مدلهای آماری برای شناسایی رویدادها به عنوان متغیرهای پنهان در اسناد استفاده میکند. تخصیص دیریکله نهفته 4(LDA) یک مدل برای تحلیل متن است که به طور گسترده مورد استفاده قرار میگیرد [7]. هی و همکاران [8] مسئله تجزیه و تحلیل خط سیر در دامنههای زمان و فرکانس را با هدف شناسایی کلمات مهم و کمتر گزارششده و کلمات متناوب و نامتناوب مورد بررسی قرار دادند. در این روش فرکانس سند هر کلمه مانند یک سری زمانی در نظر گرفته میشود که فرکانس سند را در نقاط زمانی مختلف نشان میدهد. سپس برای دستهبندی ویژگیها به کلمات مهم و کمتر گزارششده و کلمات متناوب و نامتناوب از آنالیز طیفی استفاده میشود. در این روش ویژگیهای نامتناوب را با چگالی گاوسی و ویژگیهای متناوب را با چگالیهای ترکیبی گاوسی مدلسازی کردند و متعاقباً انفجار هر ویژگی را با پارامترهای این مدلها شناسایی نمودند و از یک الگوریتم تشخیص رویداد حریصانه و بدون نظارت برای شناسایی هر دو رویداد متناوب و نامتناوب استفاده کردند. در کار مشابه دیگر، کالا [5] با الهام از هی و همکاران یک سامانه گذشتهنگر پیشنهاد کرد که با استفاده از ویژگیهای زمانی و معنایی، کلمات را خوشهبندی میکند. در این روش ابتدا یک ماتریس فاصله ایجاد میشود که درایههای آن فاصله بین کلمات را از لحاظ ویژگیهای زمانی و فاصله زمانی نشان میدهد، سپس با استفاده از روش خوشهبندی مبتنی بر چگالی این کلمات خوشهبندی میشوند. سومیکاوا و همکارانش [9] یک سامانه جستجوی تعاملی برای جستجوی رویدادهای تاریخی با فیلترینگ مبتنی بر دستهبندی پیشنهاد کردند که از طریق ردهبندی خودکار رویداد محقق شده است.
این سامانه چهار نوع داده ورودی دارد: پرسوجوی متنی، دستهبندی رویداد، محدوده زمانی و روش رتبهبندی. خروجی این سامانه فقط شامل شرح رویدادهایی است که دارای کلمات پرسوجو هستند و همچنین
در بازه زمانی ورودی منتشرشده باشند. در کار مشابه دیگر متزلر و همکارانش [10] مسئله بازیابی ساختارمند اطلاعات رویدادهای تاریخی از بایگانیهای میکروبلاگ را با پیشنهاد یک تکنیک گسترش پرسوجوی زمانی جدید حل کردند. هو و همکاران [4] روشی را پیشنهاد کردند که در آن اسناد بر پایه تعبیه کلمات بازنمایی میشوند. در روش پیشنهادی هو، به طور خاص ابتدا یادگیری تعبیه کلمات انجام میشود و سپس با استفاده از الگوریتم خوشهبندی، کلمات در کلاسهای معنایی مختلف دستهبندی میشوند. هر سند خبری به صورت یک توزیع روی کلاسهای معنایی بازنمایی میشود و نهایتاً با استفاده از یک الگوریتم خوشهبندی تطبیقی برخط رویدادها تشخیص داده میشوند. موتیدیس و همکاران [11] یک روش مبتنی بر شبکه پیشنهاد کردند که فرض آن بر این است که رویدادهای خبری مهم همیشه شامل موجودیتهای نامدار (مانند افراد، اماکن و سازمانها) است که در مقالات خبری با هم مرتبط هستند.
در این روش یک سری شبکههای زمانی ایجاد میشود که در آنها موجودیتهای شناساییشده بر اساس همنشینی در مقالات و جملات به هم متصل هستند. در این روش، درجه گره وزندار در طول زمان ردیابی شده و تشخیص نقطه تغییر، جهت تعیین موقعیت وقایع مهم مورد استفاده قرار میگیرد. رویدادهای بالقوه با استفاده از تشخیص انجمنها در گراف کلمات که موجودیتهای نامدار و عبارات اسمی را به هم متصل میکند مشخص و متمایز میشوند.
با مرور کارهای پیشین در این حوزه، کمبود نسبی منابع عمومی برای ارزیابی عملکرد روشهای تشخیص، بازیابی و خلاصهسازی رویداد مشخص میشود. بنابراین ما در این تحقیق به دنبال ارائه یک سامانه مدولار هستیم که در آن میتوان روشهای مختلف مثل ویژگی محور، سند محور و مدلسازی موضوعی را ارزیابی کرد. علاوه بر این یک مسئله رایج در روشهای تشخیص رویداد مشخصنبودن تعداد رویدادها است. بنابراین یکی از اهداف اصلی این تحقیق، ارائه یک روش جدید خوشهبندی است که نیازی به پارامتر پیشین تعداد خوشه ندارد و نسبت به
شکل 2: معماری سامانه بازیابی رویداد.
روشهای دیگر کارایی بالاتری دارد. برخلاف عمده روشهای گذشتهنگر که کل اسناد را تحلیل میکنند، روش پیشنهادی، پرسوجو محور است و با محدودکردن موضوعات به پرسوجوی کاربر، تاریخچه رویدادهای مرتبط را تشکیل میدهد.
4- روش پیشنهادی
سامانه پیشنهادی نیز یک سامانه گذشتهنگر و غیر نظارتی5 است که با دریافت یک پرسوجو، رویدادهای تاریخی را که در دنیای واقعی رخ دادهاند از مجموعه داده خبری بازیابی میکند. شکل 2 معماری سامانه را نمایش میدهد. در این نمودار چند پیمانه مهم وجود دارد که در ادامه به صورت مفصل به آنها پرداخته شده است.
در مرحله پیشپردازش، اسنادی که از منابع خبری مختلف جمعآوری شدهاند برای پردازش در مراحل بعد آماده میشوند. در ابتدا اسنادی که تاریخ انتشار، عنوان و یا متن ندارند شناسایی گردیده و از پردازشهای مراحل بعد کنار گذاشته میشوند. واحدسازی6، حذف ایستواژهها و ریشهیابی7 مراحلی هستند که برای نرمالسازی متن انجام میشود. پس از فرایند نرمالسازی، این متون با استفاده از ابزار متنباز لوسین8 نمایهسازی میشوند.
کلیدیترین پیمانه در سامانه پیشنهادی، تشخیص رویداد است. با توجه به پرسوجو محور بودن سامانه پیشنهادی و حجم زیاد اسناد موجود،
برای محدودکردن ورودی این پیمانه، اسنادی که بیشترین ارتباط را به پرسوجوی کاربر دارند از نمایه بازیابی میشوند. سامانه پیشنهادی، مبتنی بر بازنمایی رویدادها به صورت مجموعهای از کلمات کلیدی است. هر رویداد با یک مجموعه از کلمات کلیدی مرتبط تعریف میشود. در این پژوهش با توجه به روشهایی که از حوزه بازیابی اطلاعات و تحلیل شبکه استخراج گردیده است، یک روش بدون نظارت برای شناسایی رویدادهای خبری در مقالات خبری ارائه شده است. ما یک رویکرد مبتنی بر خوشهبندی را توسعه میدهیم که فرض آن بر این است که رویدادهای خبری مهم، همیشه شامل کلمات کلیدی است که در مقالات خبری با هم در یک بازه زمانی مشخص اتفاق میافتند. یک ویژگی مهم این روش این است که نیاز به هیچ فرض قبلی در مورد تعداد رویدادها در مجموعه اسناد خبری ندارد که خود یک بهبود کلیدی در روشهای بدون نظارت موجود است. روش پیشنهادی از چهار مرحله اصلی تشکیل گردیده که در ادامه به آنها پرداخته شده است.
4-1 تشخیص کلمات کلیدی
در ابتدا، مهمترین کلمات در هر مقاله در مقایسه با کل پیکره زبانی شناسایی و رتبهبندی میشوند. به همین منظور، همه کلمات بر اساس فرمول TFIDF [12] به صورت نزولی مرتب میگردند و مهمترین کلمات برای پردازش در مراحل بعد استفاده میشوند. این روش امتیازدهی شدیداً کلمات غیر معمول در هر سند را انتخاب میکند. اگرچه این روش در بازیابی اطلاعات نسبتاً ساده است، اما از لحاظ نظری برای خوشهبندی رویداد بسیار مناسب است. شهود استفاده از این روش امتیازدهی این است که با پیداکردن غیر معمولترین کلمات در هر مقاله در مقایسه با کل منابع خبری، این امکان وجود دارد که برخی از کلمات برجسته و مرتبط به رویداد مثل اشخاص، مکانها و سایر کلمات مرتبط به رویداد را در هر مقاله استخراج کنیم. در مرحله بعد ويژگیهای زمانی این کلمات بررسی میشوند تا کلمات رویدادخیز شناسایی شوند. به همین منظور فرکانس رخداد کلمات در طول زمان بررسی میگردد و بنابراین به ازای هر کلمه، یک خط سیر9 تشکیل میشود. در تعریف هی و همکاران [8] بازنمایی برداری خط سیر کلمه به صورت (1) تعریف میشود
(1)
در این بردار مقدار کلمه در زمان را نشان میدهد که این مقدار با امتیاز DFIDF تعریف میشود
(2)
در این فرمول، تعداد اسناد روز است که ویژگی را دارند، تعداد اسنادی است که ویژگی را در جریان دارند، تعداد کل اسناد روز است و تعداد کل اسناد را در جریان نشان میدهد. DFIDF تغییریافته فرمول معروف TFIDF است که میزان اهمیت کلمه در مجموعه اسناد را نشان میدهد. هدف این تغییر اضافهکردن اطلاعات زمان و اندازهگیری اهمیت کلمه در طول زمان است [5].
بعد از محاسبه خط سیر، به منظور تشخیص رویدادخیز بودن کلمه، میانگین پنجرههای کشویی10 به طول محاسبه میشود. سپس کلماتی که مقدار DFIDF آنها از آستانهای به اندازه واحد فاصله از میانگین حرکتی11 بیشتر شود به عنوان کلمات رویدادخیز انتخاب میشوند. در آزمایشهای انجامشده پنجره زمانی به طول یک هفته و آستانه به فاصله 2 واحد از میانگین حرکتی تعریف شده است.
شکل 3: الگوریتم ادغام رویدادها [4].
4-2 تشکیل شبکه
بعد از استخراج کلمات رویدادخیز از مجموعه اسناد، برای کلمه کلیدی تشخیص داده شده یک ماتریس شباهت تشکیل میدهیم که درایههای آن میزان همبستگی دوبهدو بین تمام کلمات را بازنمایی میکند. برای اندازهگیری همبستگی معنایی بین دو کلمه و از شباهت کسینوسی بردار تعبیه لغات استفاده میشود
(3)
مرتبه اجرایی تولید این ماتریس شباهت است و برای ابعاد بزرگ، زمان اجرای تولید این ماتریس ممکن است چند روز یا چند هفته طول بکشد که این مسئله میتواند یک مانع مهم برای کار تحقیق باشد. یک راه ساده برای کاهش این پیچیدگی، تولید این ماتریس برای پنجرههای زمانی متحرک است [13]. از طرفی در تشخیص رویداد، اطلاعات زمانی بسیار مهم است. پس از وقوع رویداد، تعداد زیادی از اسناد خبری در زمان کوتاهی منتشر میشوند. اسناد خبری با فواصل زمانی طولانیتر معمولاً در مورد وقایع مختلف هستند. بنابراین تقسیم اسناد خبری با توجه به اطلاعات زمان انتشار، برای شناسایی اسناد خبری که رویدادی یکسان را گزارش میکنند مفید است [4]. در روش پیشنهادی، ما اسناد خبری را به ترتیب زمانی مرتب میکنیم و آنها را به خوشههایی با اندازه پنجره زمانی ثابت تقسیم مینماییم. در این پژوهش طول هر پنجره زمانی سه روز در نظر گرفته شده است. پس از تقسیم جریان اسناد خبری، به خوشههایی میرسیم که هر کدام با یک برش زمانی متناظر است. بنابراین ما از کلمات رویدادخیز موجود در هر برش زمانی برای تشکیل یک ماتریس شباهت مجزا استفاده میکنیم تا هم زمان اجرا کاهش یابد و هم فرض رخداد کلمات کلیدی مرتبط در یک بازه زمانی لحاظ شود. در نهایت ماتریس شباهت ساختهشده را میتوان به یک شبکه شباهت تبدیل کرد چرا که شبکهها ذاتاً در مقایسههای دوبهدو بین اشیا به وجود میآیند. حاصل این تبدیل، شبکهای وزندار است که گرههای آن را کلمات کلیدی و یالهای آن را مقادیر شباهت بین کلمات تشکیل میدهند.
4-3 تشخیص انجمن
در این مرحله با استفاده از تکنیکهای تشخیص انجمن12، شبکه تشکیلشده را خوشهبندی میکنیم. خروجی این خوشهبندی مجموعهای از خوشههای منسجم از کلمات است که هر کدام یک رویداد را بازنمایی میکند. مسئله دریافت بازنمایی مبتنی بر شبکه از دادهها و تخصیص نودهای شبکه به گروهها، تشخیص انجمن نامیده میشود [13]. الگوریتمهای زیادی برای تشخیص انجمن وجود دارد که در این بین ما از روش لوون13 استفاده میکنیم. این روش امتیاز پیمانگی14 را برای هر انجمن بیشینه میکند. پیمانگی، کیفیت گرههای تخصیصیافته به انجمنها را تعیین میکند. در واقع این روش ارزیابی میکند که گرههای یک انجمن در مقایسه با یک شبکه تصادفی چه قدر میتواند منسجمتر باشد. این روش برای شبکههای غیر جهتدار و وزندار مورد استفاده قرار میگیرد [14]. البته، روش پیشنهادی مدولار است و استفاده از دیگر پیادهسازیها ممکن است. برای مثال، این امکان وجود دارد که رویکرد محاسبه تشابه دوبهدو برای تشکیل شبکه با هر معیار مشابه دیگری جایگزین شود. به همین ترتیب، تعداد زیادی از روشها در علوم کامپیوتر و شبکههای اجتماعی برای خوشهبندی شبکههای پیچیده وجود دارد که میتواند برای شبکه شباهت اعمال شود.
4-4 ادغام رویدادها
بعد از تشخیص رویدادها در هر برش زمانی، ما رویدادهایی را که به یک رویداد اشاره دارند اما در برشهای متفاوتی هستند، ادغام میکنیم. با این روش میتوان دقت خوشههای به دست آمده را بهبود بخشید. هو و همکاران [4] یک روش سندمحور برای تشخیص رویدادهای خبری پیشنهاد کردند که پس از خوشهبندی، خوشههای به دست آمده را بر اساس شباهت معنایی ادغام میکند. ما نیز از همین روش برای ادغام رویدادهای به دست آمده استفاده میکنیم با این تفاوت که خروجی سامانه پیشنهادی ما ویژگیمحور است. شکل 3 الگوریتم پیشنهادی هو و همکاران را برای ادغام رویدادها در برشهای زمانی متفاوت نشان میدهد. در این الگوریتم به صورت افزایشی رویدادهای هر برش زمانی با رویدادهای قبلی (در ابتدا، ) ادغام میشوند. هر رویداد با بردار مرکزوار خوشه متناظر بازنمایی میشود. هر رویداد با مشابهترین رویداد قبلی که شباهت بین آنها از یک آستانه از پیش تعریف شده بیشتر باشد ادغام میشود. خروجی این الگوریتم تعدادی رویداد است که به رویدادی یکسان اشاره نمیکنند.
4-5 تشخیص زمان
برای تشخیص زمان رویداد ابتدا باید خط سیر آن را از روی خط سیر کلمات کلیدی بسازیم. این کار را با محاسبه میانگین خطوط سیر کلمات کلیدی رویداد انجام میدهیم. سپس با استفاده از میانگین حرکتی و آستانه تعریفشده در پیمانه تشخیص رویداد، نویزهای خط سیر را حذف میکنیم. هی و همکاران [8] برای تشخیص بازه زمانی رویدادهای متناوب و نامتناوب مدلهای احتمالاتی متفاوتی را ارائه کردهاند. برای استفاده از این مدلها ابتدا باید نوع رویداد را مشخص کنیم. هدف سامانه
شکل 4: رابط کاربری سامانه پیشنهادی.
پیشنهادی، تشخیص رویدادهای تاریخی نامتناوب است که در یک زمان مشخص رخ دادهاند. رویدادهای متناوب شامل کلماتی هستند که در بازههای زمانی مشخص تکرار میشوند، برای مثال کلمات مرتبط به پیشبینی آب و هوا که هر روز اعلام میشود یا کلمات مرتبط به مسابقاتی که اواخر هر هفته انجام میشود. بنابراین ما ابتدا رویدادهای نامتناوب را تشخیص میدهیم و سپس از مدل احتمالاتی ارائهشده برای تشخیص بازه زمانی رویداد استفاده میکنیم.
هی و همکاران [8] خط سیر کلمات را به عنوان سیگنالهای زمانی تفسیر میکردند که به آنها اجازه میداد تا خط سیر را با استفاده از تکنیکهای پردازش سیگنال تحلیل کنند و کلمات متناوب را از غیر متناوب تشخیص دهند. ما تبدیل فوریه گسسته را برای نشاندادن سریهای زمانی به صورت ترکیب خطی از امواج مختلط روی خط سیر اعمال مینماییم و را با استفاده از رابطه زیر محاسبه میکنیم
(4)
خط سیر اصلی را میتوان با فرکانسهای غالب بازسازی کرد که این فرکانسها را میتوان از طیف توان15 با استفاده از برآوردگر معروف تناوبنگار16 تعیین نمود. این برآوردگر دنبالهای از مقدار مربع ضرایب فوریه است، که نشاندهنده قدرت سیگنال در فرکانس در طیف است. برای تشخیص تناوب خط سیر نیاز
به مشخصکردن دوره غالب17 میباشد. بعد از محاسبه تناوبنگار، دوره غالب به عنوان معکوس فرکانس مربوط به بالاترین نقطه در طیف توان تعریف میشود
(5)
سپس رویدادهایی را که فقط یک بار در جریان رخ دادهاند (یعنی ) نامتناوب در نظر میگیریم. به طور مشابه رویدادهایی که بیشتر از یک بار رخ دادهاند متناوب هستند. مشابه مدل ارائهشده توسط هی و همکاران [8]، ما برای تشخیص بازه زمانی رویدادهای نامتناوب، خط سیر رویدادها را با توزیع گاوسی18 برازش میکنیم و دو پارامتر میانگین و انحراف معیار را تخمین میزنیم. نهایتاً با استفاده از تابع چگالی احتمال برازششده، بازه رویداد را به عنوان مناطقی با بیشترین چگالی به صورت تعریف میکنیم.
4-6 خلاصهسازی
پس از تشخیص رویداد، همچنان نیازمند به تعریف رویدادها در قالبی هستیم که برای کاربر قابل درک باشد. مجموعه کلمات کلیدی ممکن است یک نمایش دقیق برای کامپیوتر باشد، اما بینش زیادی در مورد خود رویداد ارائه نمیدهد. بنابراین برای این کلمات باید یک شرح متنی تولید شود تا کاربر با خواندن آن بتواند درک درستی از رویداد به دست آورد و در صورت نیاز اسناد بیشتری را مطالعه کند.
یک روش ساده برای خلاصهسازی یک رویداد، بازیابی سرخط مرتبطترین سند خبری از لحاظ تشابه حرکتی کلمه19 است [5]. فاصله حرکتی کلمه با استفاده از مدل Vec2Word، شباهت دو سند را به صورت حداقل فاصله بردار کلمات یک سند برای رسیدن به بردار کلمات سند دوم اندازهگیری میکند [15] و این تابع فاصله ترتیب کلمات را لحاظ نمیکند، به همین دلیل برای پرسشهای کلمات کلیدی ما مناسب است. این روش بهترین نتایج را برای اسناد کوتاه به دست میآورد چون از نظر محاسباتی برای متون طولانیتر پرهزینه است و به همین دلیل ما این روش را برای سرخط خبری اسناد اعمال میکنیم. در چارچوب [16] که فاصله حرکتی کلمه را پیادهسازی میکند، فرمول شباهت حرکتی کلمه به صورت مقابل تعریف میشود
(6)
در این فرمول اگر باشد، مقدار این تابع 1 و اگر این مقدار به 0 نزدیک میشود. بنابراین برای خلاصهسازی رویدادهای نامتناوب بازیابیشده، ابتدا اسناد مرتبط به پرسوجوی کاربر را که در بازه زمانی رویداد منتشر شدهاند از نمایه بازیابی میکنیم و سپس آنها را بر اساس امتیاز (6) به صورت نزولی مرتب مینماییم و اولین سرخط را به عنوان خلاصه رویداد گزارش میکنیم. شکل 4 رویدادهای خروجی سامانه پیشنهادی پس از اجرای مرحله خلاصهسازی را نمایش میدهد.
5- روش ارزيابی
برای ارزیابی روش پیشنهادی از مجموعه داده مقالات خبری
All The News که در وبسایت Kaggle موجود است استفاده میکنیم. این مجموعه داده شامل تقریباً دویست هزار مقاله از 15 منبع خبری اصلی در ایالات متحده آمریکا است. برای ارزیابی از سه معیار رایج در بازیابی اطلاعات یعنی دقت20، یادآوری21 و F-Measure استفاده میشود. به همین جهت، یک مرجع درستی22 شامل 32 پرسوجو و نزدیک به 178 رویداد طراحی شده است. اطلاعات مربوط به رویدادهای مرجع، شامل زمان رویداد و شرح متنی آن از وبسایت OnThisDay استخراج شده است. این وبسایت با بیش از دویست هزار رویداد ثبتشده یک مرجع معتبر برای رویدادهای تاریخی محسوب میشود و با ارائه یک سامانه جستجوی تعاملی، امکان بازیابی رویدادها از پایگاه دادهای که توسط نویسندگان مختلف توسعه پیدا کرده است را فراهم میکند. برای ایجاد مرجع درستی، هر پرسوجو که شامل یک کلمه کلیدی میشود به همراه بازه زمانی
جدول 1: نتایج ارزیابی دقت، یادآوری و F-Measure.
روشها | دقت | یادآوری | F-Measure |
KMeans | 2768/0 | 1628/0 | 2051/0 |
LDA | 3180/0 | 2175/0 | 2583/0 |
FPM | 3357/0 | 2454/0 | 2835/0 |
DBSCAN | 3975/0 | 3289/0 | 3600/0 |
Our Method | 4173/0 | 3748/0 | 3949/0 |
جدول 2: نتایج ارزيابی زمان اجرا.
روشها | زمان اجرا (ثانیه) |
KMeans | 232 |
LDA | 1352 |
FPM | 332 |
DBSCAN | 2600 |
Our Method | 438 |
مجموعه داده به سامانه OnThisDay داده شده و رویدادهای بازیابیشده از این سامانه به عنوان مرجع رویدادهای پرسوجو برای ارزیابی استفاده میشود.
اگرچه فهرست مرجع رویدادهای حقیقی کامل نیست، اما این مرجع یک راه برای مقایسه عینی با روشهای تشخیص رویداد ارائه میدهد. در حالی که رویدادهای بیشتری وجود دارند که در طول دوره زمانی بررسیشده رخ میدهند، نمونهای از وقایع به اندازه کافی مهم، یک تصویر از کارایی روشها را فراهم میکند [5]. در ارزیابی صورتگرفته، رویدادها از نظر شباهت معنایی و زمانی بررسی شدهاند. در صورتی که در بازه زمانی رویداد تشخیص داده شده، رویدادی در مرجع درستی وجود داشته باشد، بیشینه شباهت کسینوسی میانگین بردار تعبیه لغات رویداد تشخیص داده شده و لغات رویدادهای متناظر در مرجع درستی به عنوان وزن رویداد در نظر گرفته میشود
(7)
(8)
در ارزیابی صورتگرفته، میانگین دقت و یادآوری پرسوجوها محاسبه و گزارش شده است. دو معیار ذکرشده به تنهایی نمیتوانند کارایی سامانه را نشان دهند و معمولاً از میانگین هارمونیک دو معیار دقت و یادآوری استفاده میگردد که به آن F-Measure گفته میشود.
6- تحلیل نتایج
ما عملکرد روش پیشنهادی را با چندین روش پایه بر اساس دو معیار دقت و زمان اجرا مقایسه کردیم. برای ادغام رویدادها، پارامتری را انتخاب کردیم که منجر به بهترین نتیجه در معیار دقت و یادآوری میشود. روشهای پایه ارزیابی شامل موارد زیر است:
• KMeans: یک روش محبوب برای خوشهبندی در دادهکاوی است. در پیادهسازی این روش هر سند با بردار TFIDF بازنمایی میشود. همچنین تعداد خوشهها برابر با تعداد رویدادهای موجود به ازای هر پرسوجو تنظیم میشود.
• LDA: تخصیص دیریکله نهفته یک مدل موضوعی برای تحلیل متن است که به صورت گسترده استفاده میشود. تعداد موضوعات این روش برابر با تعداد رویدادهای هر پرسوجو تنظیم شده است.
• FPM: یک تکنیک معروف کاوش تراکنش برای شناسایی موضوع میباشد که مشخص میکند کدام کلمات در مجموعه تراکنشها با هم اتفاق میافتند.
• DBSCAN: یک روش خوشهبندی ویژگیمحور و مبتنی بر چگالی است که با به کارگیری ویژگیهای زمانی و معنایی کلمات را خوشهبندی میکند [5].
پارامترهای این روشها به ازای مقادیر مختلف ارزیابی شده و بهترین نتایج در جدول 1 گزارش شده است. نتایج جدول نشان میدهد که دقت و یادآوری در روشهای مختلف نسبتاً پایین است. علت این موضوع همپوشانی نسبتاً پایین رویدادهای تشخیص داده شده و مرجع درستی میباشد. با این حال ارزیابی بر اساس نمونهای از رویدادهای مهم میتواند به ما کمک کند تا تصویر درستی از کارایی روشها به دست آوریم. نتایج نشان میدهد که روش پیشنهادی نسبت به روشهای پایه در معیار دقت و یادآوری کارایی بالاتری دارد. همچنین روشهای KMeans و LDA نسبت به سایر روشها کارایی پایینتری دارند. علت این موضوع این است که این دو روش از اطلاعات زمان استفاده نمیکنند، در حالی که DBSCAN با بهرهگیری از ویژگیهای زمانی و معنایی کلمات را خوشهبندی میکند. روشهای دادهپردازی الگوهای تکراری و روش پیشنهادی نیز با استفاده از پنجرههای زمانی متحرک جریان اسناد را تقسیم میکنند. در نتیجه استفاده از پنجرههای زمانی متحرک میتواند برای تشخیص رویداد مفید باشد. تحقیقات گذشته نیز نشان میدهد که تقسیم اسناد خبری با توجه به اطلاعات زمان انتشار، برای شناسایی اسناد خبری که رویدادی یکسان را گزارش میکنند مفید است [4].
در تشخیص رویداد، کارایی زمان اجرا بسیار مهم است. به همین منظور مدت زمان اجرای روشهای پایه به همراه روش پیشنهادی ارزیابی شده است. برای ارزیابی زمان اجرا از یک کامپیوتر شخصی با حافظه
GB 16 و پردازشگر اینتل استفاده شده است. جدول 2 زمان اجرای روشهای پایه و پیشنهادی را نشان میدهد. بررسی نتایج ارزیابی زمان اجرا در جدول 2 نشان میدهد که روش KMeans و DBSCAN به ترتیب بهترین و بدترین زمان اجرا را دارند. روش پیشنهادی نیز از لحاظ زمان اجرا، همرده با بهترین روشها میباشد، هرچند در روش پیشنهادی پنجرهها به صورت ترتیبی پردازش میشوند و در صورت موازیسازی فرایند، میتوان زمان اجرا را تا حدی کاهش داد.
7- نتیجهگیری
در این پژوهش به بررسی تشخیص رویداد گذشتهنگر از جریانهای متنی پرداخته شد. در روش پیشنهادی، رویدادها با کلمات کلیدی توصیف میشوند که به لحاظ معنایی به هم مرتبط هستند و در یک بازه زمانی یکسان با هم اتفاق میافتند. این روش با به کارگیری یک روش خوشهبندی مبتنی بر شبکه، کلمات مرتبط به یک رویداد را که از لحاظ زمان و معنا با هم همبستگی دارند شناسایی میکند. در نهایت، زمانی که رویدادها شناسایی میشوند از کلمات کلیدی هر رویداد برای تولید یک توصیف متنی و یک بازه زمانی استفاده میشود. یکی از نوآوریهای این پژوهش، استفاده مؤثر از خوشهبندی دادهها جهت بازیابی دقیق رویدادها و تشخیص مناسب زمان رویدادها است.
در این پژوهش با ارائه یک سامانه مدولار، روش پیشنهادی و روشهای پایه تشخیص رویداد، ارزیابی و مقایسه شدند. نتایج نشان میدهد که استفاده از روش خوشهبندی ارائهشده در معیار دقت و یادآوری نسبت به سایر روشها کارایی بالاتری دارد. همچنین مقایسه روشها نشان میدهد که استفاده از اطلاعات زمان مثل پنجرههای زمانی متحرک میتواند برای تشخیص رویداد مفید باشد.
به عنوان کارهای تحقیقاتی آینده که میتوانند جهت توسعه سامانه پیشنهادی در این تحقیق انجام شوند، پیشنهادهای زیر مطرح میشود:
• افزایش سرعت اجرا با استفاده از موازیسازی فرایند تشخیص رویداد
• به کارگیری مستقیم موجودیتهای نامدار مثل اشخاص، مکانها و سازمانها جهت افزایش کارایی دقت تشخیص رویداد
• آزمایش روشهای دیگر تشخیص انجمن در علم شبکه برای بهبود دقت روش خوشهبندی
• بهبود مدول خلاصهسازی با بهرهگیری از روشهای خلاصهسازی اسناد در پردازش زبان طبیعی
• ارائه معیارهای جدید همبستگی برای تشکیل شبکه کلمات
مراجع
[1] S. Lv, et al., "Yet another approach to understanding news event evolution," World Wide Web, vol. 23, no. 4, pp. 2449-2470, May 2020.
[2] O. N. N. Fernando and C. W. Chang, "Twittener: an aggregated news platform," in Proc. IEEE Int. Conf. on Cyberworlds, pp. 378-381, Kyoto, Japan, 2-4 Oct. 2019.
[3] Q. He, Topical Analysis of Text Streams, Ph.D. Dissertation, Nanyang Technological University, Singapore, 2009.
[4] L. Hu, B. Zhang, L. Hou, and J. Li, "Adaptive online event detection in news streams," Knowledge-Based Systems, vol. 138,
pp. 105-112, 15 Dec. 2017.
[5] T. Kala, Event Detection from Text Data, Bacholor Thesis,Department of Cybernetics Faculty of Electrical Engineering, Czech Technical University in Prague, May 2017.
[6] F. Atefeh and W. Khreich, "A survey of techniques for event detection in twitter," Computational Intelligence, vol. 31, no. 1, pp. 132-164, Feb. 2015.
[7] D. M. Blei, A. Y. Ng, and M. I. Jordan, "Latent dirichlet allocation," J. of Machine Learning Research, vol. 3, pp. 993-1022, Mar. 2003.
[8] Q. He, K. Chang, and E. P. Lim, "Analyzing feature trajectories for event detection," in Proc. of the 30th Annual Int. ACM SIGIR Conf. on Research and Development in Information Retrieval, pp. 207-214, Amsterdam, The Netherlands, 22-27 Jul. 2007.
[9] Y. Sumikawa and A. Jatowt, "System for category-driven retrieval of historical events," in Proc. of the 18th ACM/IEEE on Joint Conf. on Digital Libraries, pp. 413-414, Fort Worth Texas USA, 3-7 Jun. 2018.
[10] D. Metzler, C. Cai, and E. Hovy, "Structured event retrieval over microblog archives," in Proc. of the Conf. of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 646-655, Montreal, Canada, 3-8 Jun. 2012.
[11] I. Moutidis and H. T. P. Williams, "Utilizing complex networks
for event detection in heterogeneous high-volume news streams," Complex Networks and Their Applications VIII: Proc. of the 8th Int. Conf. on Complex Networks and Their Applications, vol. 1, pp. 659-672, Lisbon, Portugal, 10-12 Dec. 2019.
[12] H. Schutze, C. D. Manning, and P. Raghavan, Introduction to Information Retrieval, vol. 39, Cambridge University Press Cambridge, 2008.
[13] T. Nicholls and J. Bright, "Understanding news story chains
using information retrieval and network clustering techniques," Communication Methods and Measures, Routledge, vol. 13, no. 1, pp. 43-59, 2019.
[14] V. D. Blondel, J. L. Guillaume, R. Lambiotte, and E. Lefebvre, "Fast unfolding of communities in large networks," J. of Statistical Mechanics: Theory and Experiment, vol. 2008, no. 10, Article No.: P10008, Oct. 2008.
[15] M. J. Kusner, Y. Sun, N. I. Kolkin, and K. Q. Weinberger, "From word embeddings to document distances," in Proc. of the 32nd Int. Conf. on Machine Learning, vol. 37, pp. 957-966, Lille, France, 6-11 Jul. 2015.
[16] R. Rehurek and P. Sojka, "Software framework for topic modelling with large corpora," in Proc. of LREC Workshop New Challenges for NLP Frameworks, pp. 46-50, Valletta, Malta, 22-22 May 2010.
علیرضا میرزاییان مقطع كارشناسي را در دانشگاه زنجان در سال 1395 و مقطع كارشناسي ارشد را در دانشگاه شهیدبهشتی در سال 1399 به پایان برد. زمينه تحقيقاتي مورد علاقه ايشان عبارتند از: موتورهای جستجو و تشخیص رویداد از منابع خبری.
صادق علیاکبری مقطع کارشناسی مهندسی کامپیوتر را در دانشگاه تهران در سال 1385 به پایان برد. سپس در سالهای 1387 و 1393 مقاطع کارشناسی ارشد و دکترا در همین رشته را در دانشگاه صنعتی شریف گذراند. وی از سال 1394 عضو هیأت علمی دانشكده مهندسي و علوم كامپيوتر دانشگاه شهید بهشتی بوده است. زمينههاي علمي مورد علاقه نامبرده عبارتند از: مهندسی نرمافزار مبتنی بر دادهکاوی و تحلیل شبکههای پیچیده.
[1] این مقاله در تاریخ 21 آذر ماه 1399 دریافت و در تاریخ 27 تير ماه 1400 بازنگری شد.
علیرضا میرزائیان، دانشکده مهندسی و علوم کامپیوتر، دانشگاه شهید بهشتی، تهران، ایران، (email: a.mirzaeiyan@mail.sbu.ac.ir).
صادق علیاکبری (نویسنده مسئول)، دانشکده مهندسی و علوم کامپیوتر، دانشگاه شهید بهشتی، تهران، ایران، (email: s_aliakbary@sbu.ac.ir).
[2] . Topic
[3] . Indexing
[4] . Latent Dirichlet Allocation
[5] . Unsupervised
[6] . Tokenization
[7] . Stemming
[8] . Lucene
[9] . Trajectory
[10] . Sliding Window
[11] . Moving Average
[12] . Community Detection
[13] . Louvain
[14] . Modularity
[15] . Power Spectrum
[16] . Periodogram
[17] . Dominant Period
[18] . Gaussian Distribution
[19] . Word Mover's Similarity
[20] . Precision
[21] . Recall
[22] . Ground Truth