non-negative matrix factorization
در نشریات گروه برق-
نشریه مهندسی برق و مهندسی کامپیوتر ایران، سال بیست و پنجم شماره 2 (پیاپی 86، تابستان 1403)، صص 119 -128
سیستم های پیشنهاددهنده برای استخراج اطلاعات مفید از حجم انبوهی از داده های پیچیده به کاربران کمک کرده و استفاده از آنها در سال های اخیر مورد توجه ی چشم گیری قرار گرفته است. در عمل معمولا علایق کاربران و ویژگی های اقلام در این سیستم ها در طول زمان تغییر می کنند و بنابراین تطبیق سیستم های پیشنهاددهنده با این نوع تغییرات ضروری بوده و به ارائه ی پیشنهاداتی دقیق تر به کاربران کمک می کند. با این وجود، اغلب سیستم های پیشنهاددهنده ی پویا، فقط مبتنی بر پویایی علایق کاربران در طول زمان هستند و تغییرات ویژگی های اقلام را در نظر نمی گیرند. در این مقاله، مدلی مبتنی بر تجزیه ی نامنفی ماتریس برای پیش بینی امتیازات کاربران به اقلام در سیستم های پیشنهاددهنده ارائه می شود که از هر دوی پویایی علایق کاربران و تغییرات ویژگی های اقلام در طول زمان استفاده می کند. در مدل پیشنهادی به منظور کاهش مشکل خلوتی داده ها، علاوه بر امتیازات کاربران از اطلاعات مربوط به اعتماد بین کاربران نیز استفاده می شود. نتایج ارزیابی بر روی مجموعه داده ی Epinions نشان می دهد که مدل پیشنهادی نسبت به روش های مورد مقایسه از دقت بهتری برخوردار می باشد.
کلید واژگان: سیستم های پیشنهاددهنده، پویایی علایق، پویایی اقلام، پیش بینی امتیازات، تجزیه نامنفی ماتریس.Recommender systems help users to extract useful information from a large volume of complex data, and their use has received significant attention in recent years. In practice, the interests of users and the characteristics of items in these systems change over time, and therefore, adapting recommender systems to these types of changes is necessary and helps to provide more accurate recommendations to users. However, most temporal recommender systems are only based on the dynamics of users' preferences over time and do not consider changes in item characteristics.In this paper, we propose a non-negative matrix factorization-based recommender system that uses both dynamics of users' interests and the changes in item characteristics over time in predicting users' ratings of items. In the proposed model, in order to reduce the data sparsity problem, in addition to users' ratings, trust between users is also used. The evaluation results on the Epinions dataset show that the proposed model is more accurate than the compared methods.
Keywords: Recommender Systems, Preference Dynamics, Item Dynamics, Non-Negative Matrix Factorization -
Scientia Iranica, Volume:30 Issue: 3, May-June 2023, PP 1068 -1084Community detection is a significant issue in extracting valuable information and understanding complex network structures. Non-negative matrix factorization (NMF) methods are the most remarkable topics in community detection. The modularized tri-factor NMF (Mtrinmf) method was proposed as a new class of NMF methods that combines the modularized information with tri-factor NMF. It has high computational complexity due to its dependence on the choice of the initial value of the parameter and the number of communities (c). In other words, the Mtrinmf method should search among different c candidates to find correct c. In this paper, a novel hybrid adaptive Mtrinmf (Hamtrinmf) method is proposed to improve the performance of Mtrinmf and reduce the computational complexity efficiently. In the proposed method, computational complexity reduction is made by selecting the right c candidates and tuning parameter. For this purpose, a hybrid algorithm including singular value decomposition (SVD) and relative eigenvalue gap (REG) algorithms is suggested to estimate the set of c candidates. Next, the Tpmtrinmf model is proposed to improve the performance of community detection via employing a self-tuning β parameter. Moreover, experimental results confirm the efficiency of the Hamtrinmf method with respect to other reference methods on artificial and real-world networks.Keywords: Community Detection, Tuning Parameter, Non-negative matrix factorization, Modularized regularization, Singular value decomposition.
-
خوشه بندی، ابزاری پرکاربرد جهت تحلیل اطلاعات شبکه های پیچیده است که برای مدل سازی سامانه های پیچیده بکار می رود. پیمانگی ، معیاری پایه و فراگیر جهت ارزیابی و صحت سنجی خوشه بندی شبکه ها است که دارای چالش هایی چون ان پی-سخت بودن مسیله و عدم امکان استفاده از دانش اولیه در خوشه بندی می باشد. لذا، خوشه بندی مبتنی بر معیار پیمانگی، قابلیت تعمیم به خوشه بندی های نیمه نظارتی را ندارد. از طرفی، یکی از روش های خوشه بندی نیمه نظارتی، روش خوشه بندی مبتنی بر تجزیه نامنفی ماتریسی (NMF) می باشد. اما این روش، ویژگی های خاص شبکه ها را در نظر نمی گیرد. در این مقاله، برای غلبه بر چالش های نام برده و با ارایه ی اثباتی جدید، برای خوشه بندی مبتنی بر معیار پیمانگی، ساختاری مشابه با خوشه بندی مبتنی بر تجزیه نامنفی ماتریسی نامتقارن ارایه می شود که در آن، امکان بهره گیری از دانش اولیه و حل به روش تکراری میسر می گردد. سپس، روش خوشه بندی نیمه نظارتی نوینی به نام تجزیه نیمه نظارتی نامنفی ماتریس های متقارن مبتنی بر معیار پیمانگی (SSNMF-Q) با بهره گیری از مزیت دانش اولیه و روش حل تکراری، به جای حل مسیله ان پی-سخت ارایه می گردد. برای ارزیابی روش پیشنهادی، از پنج مجموعه داده واقعی استفاده شده که نتایج، بیانگر عملکرد بهتر SSNMF-Qدر مقایسه با سایر خوشه بندی های نیمه نظارتی مبتنی بر NMF می باشد.کلید واژگان: تجزیه نامنفی ماتریسی، گروه بندی گراف، گروه بندی نیمه نظارتی، معیار پیمانگیClustering or community detection is a powerfrul tool for analayzing complex networks which is widely used for modeling complex systems. Modularity is a comprehensive criterion for evaluating the quality of clusters (or communities). However, it has some limitations and challenges such as being a NP-hard problem and not using prior information. So, Modularity-based community detection cannot be extended as a semi-supervised community detection method. On the other hand, one of the most common semi-supervised methods which can use prior knowledge for clustering is community detection based on non negative matrix factorization (NMF). But, this method is not able to consider the features of the networks. Therefore, in this paper to overcome the mentioned limitations and challenges and by presenting a new proof, a structure similar to community detection based on NMF is presented for modularity-based community detection which can employ prior knowledge and iterative solution. Therefore, a novel semi-supervised community detection based on modularity (SSNMF-Q) criteria is developed by utilizing prior information and iterative solution instead of solving a NP-hard problem. To evaluate SSNMF-Q, five real world networks are used and it is shown that the SSNMF-Q had better performance compared to other semi-supervised community detection methods based on NMF.Keywords: Non-negative matrix factorization, community detection, semi-supervised clustering, modularity criterion
-
یادگیری ماشین در طی دهه های گذشته به دلیل طیف گسترده کاربردهای آن مورد استفاده زیادی قرار گرفته است. در اکثر کاربردهای یادگیری ماشین مانند خوشه بندی و طبقه بندی، ابعاد داده ها زیاد می باشد و استفاده از روش های کاهش ابعاد داده ضروری است. تجزیه ماتریس غیر منفی با استفاده از استخراج ویژگی ها معنایی از داده های با ابعاد زیاد کاهش ابعاد را انجام می دهد و در تجزیه ماتریس غیر منفی فقط نحوه مدل سازی هر بردار ویژگی در ماتریس های تجزیه شده را در نظر می گیرد و روابط بین بردارهای ویژگی را نادیده می گیرد. ارتباطات میان بردارهای ویژگی، تجزیه بهتری را برای کاربردهای یادگیری ماشین فراهم می کنند. در این مقاله، یک روش بر مبنای تجزیه ماتریس غیر منفی برای کاهش ابعاد داده ها ارایه شده که محدودیت هایی را بر روی هر جفت بردارهای ویژگی با استفاده از معیارهای مبتنی بر فاصله ایجاد می کند. روش پیشنهادی از نرم فروبنیوس به عنوان تابع هزینه برای ایجاد قوانین به روز رسانی استفاده می کند. نتایج آزمایش ها روی مجموعه داده ها نشان می دهد که قوانین به روز رسانی ضربی ارایه شده، سریع همگرا می شوند و در مقایسه با الگوریتم های دیگر نتایج بهتری را ارایه می کنند.
کلید واژگان: کاهش ابعاد، تجزیه ماتریسی غیر منفی، نرم فروبنیوس، قوانین به روز رسانی، خوشهبندی متنMachine learning has been widely used over the past decades due to its wide range of applications. In most machine learning applications such as clustering and classification, data dimensions are large and the use of data reduction methods is essential. Non-negative matrix factorization reduces data dimensions by extracting latent features from large dimensional data. Non-negative matrix factorization only considers how to model each feature vector in the decomposed matrices and ignores the relationships between feature vectors. The relationships between feature vectors provide better factorization for machine learning applications. In this paper, a new method based on non-negative matrix factorization is proposed to reduce the dimensions of the data, which sets constraints on each feature vector pair using distance-based criteria. The proposed method uses the Frobenius norm as a cost function to create update rules. The results of experiments on the data sets show that the proposed multiplicative update rules converge rapidly and give better results than other algorithms.
Keywords: Dimension reduction, Non-negative matrix factorization, Frobenius norm, Multiplicative update rules, Text clustering
- نتایج بر اساس تاریخ انتشار مرتب شدهاند.
- کلیدواژه مورد نظر شما تنها در فیلد کلیدواژگان مقالات جستجو شدهاست. به منظور حذف نتایج غیر مرتبط، جستجو تنها در مقالات مجلاتی انجام شده که با مجله ماخذ هم موضوع هستند.
- در صورتی که میخواهید جستجو را در همه موضوعات و با شرایط دیگر تکرار کنید به صفحه جستجوی پیشرفته مجلات مراجعه کنید.