Детальная информация

Название Разработка и оптимизация алгоритмов работы с большими данными с использованием кластера Hadoop и фреймворка Java Spark: выпускная квалификационная работа бакалавра: направление 09.03.04 «Программная инженерия» ; образовательная программа 09.03.04_03 «Разработка программного обеспечения»
Авторы Никитин Андрей Юрьевич
Научный руководитель Маслаков Алексей Павлович
Организация Санкт-Петербургский политехнический университет Петра Великого. Институт компьютерных наук и кибербезопасности
Выходные сведения Санкт-Петербург, 2024
Коллекция Выпускные квалификационные работы; Общая коллекция
Тематика PL/SQL; Apache Hadoop; Apache Spark; Java; большие данные; распределенные базы данных; оптимизация работы с большими данными; миграция; big data; distributed databases; optimization of working with big data; migration
Тип документа Выпускная квалификационная работа бакалавра
Тип файла PDF
Язык Русский
Уровень высшего образования Бакалавриат
Код специальности ФГОС 09.03.04
Группа специальностей ФГОС 090000 - Информатика и вычислительная техника
DOI 10.18720/SPBPU/3/2024/vr/vr24-3510
Права доступа Доступ по паролю из сети Интернет (чтение)
Дополнительно Новинка
Ключ записи ru\spstu\vkr\30489
Дата создания записи 11.07.2024

Разрешенные действия

Действие 'Прочитать' будет доступно, если вы выполните вход в систему или будете работать с сайтом на компьютере в другой сети

Группа Анонимные пользователи
Сеть Интернет

Данная работа посвящена разработке методов переноса алгоритмов, написанных на процедурном языке PL/SQL на фреймворк для Java Apache Spark, а также оптимизация данных алгоритмов для работы с большими данными. Задачи, которые решались в ходе выполнения работы: 1. Проведение обзора средств разработки 2. Анализ исходных алгоритмов, и разработка методики переноса исходных алгоритмов на Apache Spark 3. Разработка методов оптимизации работы с большими данными 4. Анализ методов оптимизации с различным объёмом данных 5. Демонстрация результатов работы программ без использования разработанных методов оптимизаций и результатов работы программы с использованием данных методов. В результате выполнения работы было разработано и оптимизированно программное обеспечение для ПАО «Сбербанк», полностью повторяющее функциональность написанных алгоритмов на PL/SQL, но работающее быстрее.

This work is devoted to the development of methods for transferring algorithms written in the procedural language PL/SQL to the Java framework Apache Spark, as well as optimizing these algorithms for working with big data. Tasks that were solved during the work: 1. Review of development tools 2. Analysis of source algorithms, and development of a methodology for migrating source algorithms to Apache Spark 3. Development of methods for optimizing work with big data 4. Analysis of optimization methods with different amounts of data 5. Demonstration of the results of the programs without using the developed optimization methods and the results of the program using these methods. As a result of the work, software was developed and optimized for Sberbank PJSC, completely migrating the functionality of the algorithms written in PL/SQL to Apache Spark with enhanced time performance.

Место доступа Группа пользователей Действие
Локальная сеть ИБК СПбПУ Все
Прочитать
Интернет Авторизованные пользователи СПбПУ
Прочитать
Интернет Анонимные пользователи

Количество обращений: 0 
За последние 30 дней: 0

Подробная статистика