Details

Данная работа посвящена исследованию актуальности использования распределенных систем при использовании машинном обучении. В качестве примеров систем рассмотрены такие фреймворки как: Apache Spark, Apache Storm, Apache Hadoop MapReduce. Рассмотрены методы распределения вычислений этих систем, произведено сравнение и анализ систем. Рассмотрены некоторые методы машинного обучения такие как: наивный Байесовский классификатор, метод к-средних, дерево принятия решений, случайный лес. Представлено краткое описание работы методов, их особенности. Предложена методика приведения текста к вектору чисел, для дальнейшего анализа методами машинного обучения. Так же приведено краткое описание некоторых методов стемминга слов. Произведено сравнение некоторых систем анализа данных на уязвимости, сделано сравнение этих систем. На основе всех вышеперечисленных данных выдвинуты требования к реализации системы анализа данных на уязвимости (frauddetection). Для системы frauddetection описан детальный дизайн: общая схема взаимодействия модулей, подробно описана внутренняя работа модулей. Описана реализация прототипа системы с использованием Apache Camel, Apache Spark. Описана работа каждого класса системы. Для системы предложены сценарии использования. На тестовых данных успешно протестирована работа системы.