Данная работа посвящена исследованию методов обнаружения и предотвращения эксплуатации бинарных уязвимостей. Цель работы – выявление техник эксплуатации уязвимостей, использующих приёмы возвратно-ориентированного программирования, на основе анализа выполненных переходов с использованием расширенных аппаратных возможностей процессора. В результате работы были разработаны метод выявления техник эксплуатации уязвимостей, использующих приёмы возвратно-ориентированного программирования, и программное средство, реализующее данный метод. Программное средство функционирует на вычислительных системах с 64-х разрядными операционными системами Windows 7 – 10 и процессорами Intel с микроархитектурой не ниже Nehalem и способно защищать как 32-х битные, так и 64-х битные приложения. Дальнейшим направлением исследований является обобщение реализации для вычислительных систем с процессорами AMD и операционными системами Linux, а также интеграция разработанного программного средства в существующие операционные системы (выявление ложноположительных срабатываний, совместимость с имеющимися механизмами обеспечения безопасности и т.д.).

This work is devoted to the study of methods for detecting and preventing the exploitation of binary vulnerabilities. This work is devoted to the study of methods for detecting and preventing the exploitation of binary vulnerabilities. The goal of the work is to return-oriented programming exploits prevention, based on the branch analysis using the advanced hardware capabilities of the processor. As a result, a return-oriented programming exploits prevention method was developed, and a software tool that implements this method. A software tool can be used on computing systems with 64-bit operating systems Windows 7 – 10 and Intel processors with microarchitecture not lower than Nehalem and is capable of protecting both 32-bit and 64-bit applications. A further area of research is the generalization of the implementation for computing systems with AMD processors and Linux operating systems, as well as the integration of the developed software into existing operating systems (detection of false positives, compatibility with existing security mechanisms, etc.).