Данная работа посвящена повышению эффективности передачи данных в системе мобильной связи 5G путем применения сигнала FBMC/OQAM (англ. Filter Bank Multicarrier with Offset Quadrature Amplitude Modulation). Большими недостатками технологии OFDM (англ. Orthogonal Frequency Division Multiplexing) являются высокий уровень OOBE (англ. Out-of-band Emission) из-за использования прямоугольного окна для формирования сигналов, низкая спектральная эффективность из-за наличия циклического префикса для защиты от междусимвольной интерференции (англ. Intersymbol Interference, ISI) и межнесущей интерфереции (англ. Intercarrier Interference, ICI). Эти недостатки приводят к снижению эффективности передачи данных в системе мобильной связи 5G. В данной работе исследованы различные подходы формирования и приема сигналов FBMC/OQAM и предложен новый подход к формированию сигналов FBMC/OQAM для снижения вычислительной сложности реализации. Построены кривые вероятности битовой ошибки при передаче сигналов FBMC/OQAM и (CP-)OFDM через различные каналы, на основании которых проведено сравнение результатов эффективности системы мобильной связи 5G с применением сигналов FBMC/OQAM и (CP-)OFDM. Кроме этого, в данной работе также приведено сравнение вычислительной сложности различных подходов реализации сигналов FBMC/OQAM  с сигналами OFDM. Результаты моделирования показывают, что сигналы FBMC/OQAM (FS-FBMC/OQAM, PPN-FBMC/OQAM) имеют более высокую спектральную эффективность, чем сигналы CP-OFDM и спектральный выигрыш составляет ~7%. Однако, вычислительная сложность реализации сигналов FS-FBMC/OQAM значительно выше, чем сигналов OFDM (в ~11 раз при коэффициенте перекрытия K = 4). Снижение вычислительной сложности реализации сигналов FBMC/OQAM может быть выполнено путем применении полифазной структуры фильтров, но при этом энергетическая эффективность уменьшается на несколько дБ в зависимости от канала передачи.

The subject of the graduate qualification work is “Improving data transmission efficiency in the 5G mobile communication system by applying FBMC signal”. This thesis focuses on improving the efficiency of data transmission in the 5G mobile communication system by using FBMC/OQAM (Filter Bank Multicarrier with Offset Quadrature Amplitude Modulation) signal. The big disadvantages of OFDM (Orthogonal Frequency Division Multiplexing) technology are high OOBE (Out-of-band Emission) due to the use of a rectangular window for signal generation, low spectral efficiency due to the presence of a cyclic prefix to protect against Intersymbol Interference (ISI) and Intercarrier Interference (ICI). These disadvantages lead to a decrease in the efficiency of data transmission in the 5G mobile communication system. In this thesis, various approaches to the transmitting and receiving of FBMC/OQAM signals are investigated and a new approach to the generation of FBMC/OQAM signals to reduce the computational complexity of the implementation is proposed. Built bit error probability curves for the transmission of FBMC/OQAM and (CP-)OFDM signals through different channels, based on which a comparison of the effectiveness of 5G mobile communication system using FBMC/OQAM and (CP-)OFDM signals. In addition, this thesis also presents a comparison of the computational complexity of different approaches for implementing FBMC/OQAM signals and OFDM signals. Simulation results show that FBMC/OQAM (FS-FBMC/OQAM, PPN-FBMC/OQAM) signals have higher spectral efficiency than CP-OFDM signals and the spectral gain is ~7%. However, the computational complexity of the FS-FBMC/OQAM signal implementation is significantly higher than the OFDM signal (by ~11 times at an overlap factor K = 4). Reducing the computational complexity of the implementation of the signal FBMC/OQAM can be done by applying a polyphase filter structure, but the energy efficiency decreases by several dB, depending on the transmission channel.