Details

Целью работы является разработка способа определения манипуляции ранжированием материалов рекомендательных систем, учитывающего оценочные отзывы пользователей к данным материалам, на основе оценки относительного количества отзывов. Объектом исследования являются рекомендательные системы, функционирующие с применением машинного обучения. Предметом исследования являются методы и признаки выявления преднамеренного манипулирования ранжированием материалов рекомендательных систем. Задачи, решаемые в ходе исследования: 1. Провести анализ признаков пользователей и контента, свидетельствующих о выдаче материалов рекомендательной системой под воздействием манипулирования оценочными отзывами. 2. Выбрать рекомендательную систему с открытым исходным кодом. 3. Дообучить выбранную рекомендательную систему до средства моделирования атак манипуляции. 4. Разработать способ выявления атак манипуляций и провести его экспериментальное тестирование на основе разработанного средства моделирования. В ходе работы проанализированы существующие методы выявления преднамеренных искажений в рекомендательных системах, исследованы архитектуры рекомендательных систем на основе машинного обучения. Разработано средство моделирования атак манипулирования и предложен способ их выявления, использующий как статистические признаки оценочных отзывов, так и аудит-сигнал из внутреннего представления рекомендателя. Способ прошёл экспериментальное тестирование на пяти реальных наборах данных и показал точность обнаружения, превосходящую классические методы детекции аномалий. Полученные результаты могут быть использованы как основа для построения средств внешнего аудита рекомендательных систем на предмет манипулирования ранжированием.

The purpose of the work is the development of a method for detecting manipulation of the ranking of recommender-system items, considering users’ rating reviews, based on the assessment of the relative number of reviews. The object of the study is recommender systems operating with the use of machine learning. The subject of the study is the methods and features for detecting intentional manipulation of recommender-system item ranking. The research set the following goals: to analyze the user and content features indicating manipulation; to select an open-source recommender system; to fine-tune the selected recommender system into an attack-modelling tool; to develop a manipulation-detection method and to carry out its experimental evaluation. During the work, the existing methods for detecting intentional biases in recommender systems were analyzed, and machine-learning recommender architectures were studied. An attack-modelling tool was developed, and a detection method was proposed that uses both statistical features of rating reviews and an audit signal extracted from the internal representation of the recommender. The method was experimentally evaluated on five real-world datasets and demonstrated detection accuracy exceeding that of classical anomaly-detection methods. The obtained results may serve as a basis for building tools for the external auditing of recommender systems with respect to ranking manipulation.