Details

Title Разработка интеллектуального программного модуля генерации и итеративной корректировки кода человеко-машинных интерфейсов по графическим макетам: выпускная квалификационная работа бакалавра: направление 27.03.04 «Управление в технических системах» ; образовательная программа 27.03.04_07 «Промышленный искусственный интеллект» = Development of an intelligent software module for the generation and iterative refinement of human-machine interface code from graphical mockups
Creators Чжан Сычэн
Scientific adviser Давыдов Роман Вадимович
Organization Санкт-Петербургский политехнический университет Петра Великого. Институт компьютерных наук и кибербезопасности
Imprint Санкт-Петербург, 2026
Collection Выпускные квалификационные работы ; Общая коллекция
Subjects промышленный человеко-машинный интерфейс ; визуально-языковая модель ; генерация кода по макету ; iterative refinement ; Figma plugin ; ui2code ; web-based interface code ; HTML ; CSS ; ANSI/ISA-101 ; SCADA ; industrial human-machine interface ; vision-language model ; design-to-code
Document type Bachelor graduation qualification work
Language Russian
Level of education Bachelor
Speciality code (FGOS) 27.03.04
Speciality group (FGOS) 270000 - Управление в технических системах
DOI 10.18720/SPBPU/3/2026/vr/vr26-5957
Rights Доступ по паролю из сети Интернет (чтение, печать, копирование)
Additionally New arrival
Record key ru\spstu\vkr\42899
Record create date 8/21/2026

Allowed Actions

Action 'Прочитать' will be available if you login or access site from another network

Action 'Download' will be available if you login or access site from another network

Group Anonymous
Network Internet

Объектом работы служит процесс перевода графических макетов промышленных интерфейсов, выполненных в среде Figma, в web-based interface code; нормализация выходного кода к самодостаточному HTML/CSS-документу без внешних зависимостей рассматривается как ограничение текущей реализации, а не нативный формат выхода модели. Предметом — архитектура, контракты и алгоритмическая часть встраиваемого программного модуля, опирающегося на открытую визуально-языковую модель UI2Code^N. Проведён обзор подходов к задаче «screenshot-to-code» — от свёрточно-рекуррентной архитектуры pix2code до современных мультимодальных моделей; рассмотрены академические датасеты Design2Code, WebSight, Web2Code, WebCode2M и коммерческие генераторы v0, Galileo AI, Claude Design; показано, что ни один из рассмотренных ресурсов не охватывает специфики промышленных интерфейсов, требования к которым заданы стандартами ANSI/ISA-101.01-2015 и ISO 11064-1, а также руководством «The High Performance HMI Handbook». Спроектирован и реализован трёхзвенный программный модуль: плагин Figma (в песочнице Plugin API), локальный HTTP-сервис на FastAPI и обёртка модели UI2Code^N с поддержкой трёх режимов — генерации, итеративного уточнения и точечного редактирования. В текущей версии прототипа режим уточнения мандаторно передаёт модели рендер текущего кода в дополнение к референсному изображению, а режим редактирования принимает переменные дизайна и CSS-подсказки симметрично с двумя другими режимами; этим устраняется расхождение с заявленной семантикой UI-polishing и UI-editing модели UI2Code^N. Рендер сгенерированного HTML выполняется headless-Chromium через Playwright. Результаты rule-based заместителя и UI2Code^N в записке не смешиваются: инференс UI2Code^N подтверждается конфигурацией сервиса и проверкой /health. Собрано тестовое множество из восьми многослойных макетов промышленных экранов разной сложности на основе библиотеки SCADA-символов ThingsBoard 4.0 и принципов high-performance HMI. Состояние компонента кодируется одновременно цветом, текстовым бейджем и формой. В записке даны формальная постановка задачи, архитектура модуля, контракты HTTP-эндпоинтов, разграничение источников экспериментального контекста (ручная проверка извлечения из документа Figma и массовый эксперимент на синтетическом сценарии) и методика экспериментальной оценки (SSIM как часть набора метрик, дополненного визуальным анализом, категориями ошибок и принудительными итерациями refine). По массовому эксперименту получены численные характеристики цепочек «Generate → Refine 1 → Refine 2», агрегированные тайминги на эталонной конфигурации RTX 5090 и количественная оценка эффекта опционального контекста; материалы и выводы вынесены в третью главу и в раздел «Заключение».

The object of the work is the process of translating industrial HMI mockups authored in Figma into self-contained HTML/CSS code; the subject is the architecture, contracts and algorithmic part of an embeddable software module built on top of the open vision-language model UI2Code^N. Existing approaches to the "screenshot-to-code" task are surveyed, from the convolutional-recurrent pix2code architecture to modern multimodal models; the academic corpora Design2Code, WebSight, Web2Code and WebCode2M and commercial generators v0, Galileo AI and Claude Design are considered. None of the reviewed resources covers the specifics of industrial HMI, the requirements for which are defined by the ANSI/ISA-101.01-2015 standard, ISO 11064-1 and the "High Performance HMI Handbook". A three-tier software module is designed and implemented: a Figma plugin running inside the Plugin API sandbox, a local HTTP service based on FastAPI and a wrapper around UI2Code^N that exposes three modes — generation, iterative refinement and pointwise editing. The refinement mode mandatorily supplies the current rendered code to the model, and the editing mode accepts design variables and CSS hints on equal footing with the other two modes. Rendering of the generated HTML is performed by a headless Chromium instance driven by Playwright. Rule-based substitute results are not merged with UI2Code^N results in the thesis narrative; production runs require configurations that activate model_kind=ui2coden per /health. For evaluation, a set of eight layered industrial HMI mockups of varying complexity is assembled, grounded in the ThingsBoard 4.0 SCADA symbol library and the principles of high-performance HMI. The state of each component is encoded simultaneously by colour, by a textual badge and by a shape cue, satisfying the standards requirement that state must not rely on colour alone. The note covers the formal problem statement, architecture, HTTP contracts, separation of experimental context sources (figma_plugin / synthetic_script) and methodology for an honest experimental evaluation (SSIM as part of a metric set supplemented by visual analysis, error categories and, when needed, forced refine iterations). Quantitative results, GPU timings and VRAM-focused material are deferred to the third chapter.

Network User group Action
ILC SPbPU Local Network All
Прочитать Print Download
Internet Authorized users SPbPU
Прочитать Print Download
Internet Anonymous
...