Моделі та метод нейромережевої генерації обʼєктів на основі профілів швидкості узгодження потоків

Abstract

Бондар В. В. Моделі та метод нейромережевої генерації обʼєктів на основі профілів швидкості узгодження потоків. –– Кваліфікаційна наукова праця на правах рукопису . Дисертація на здобуття наукового ступеня доктора філософії за спеці- альністю 123 –– Комп’ютерна інженерія. –– Черкаський державний техноло- гічний університет, Черкаси, 2026. У дисертаційній роботі розв’язано актуальну науково-прикладну задачу підвищення якості нейромережевої генерації об’єктів за обмеженого обчи- слювального бюджету на основі моделей генеративного процесу та масшта- бування обчислень із розробленням удосконаленого методу узгодження потоків, що використовує нелінійні профілі швидкості вздовж траєкторій перетворення розподілів. Глибокі генеративні нейромережеві моделі, насамперед дифузійні мо- делі та моделі узгодження потоків, стали поширеним і практично цінним інструментом синтезу зображень і сигналів. Сфера їх застосування охоплює як створення візуального контенту, так і доповнення навчальних наборів у галузях, де збір реальних даних ускладнений. Основні класи таких моде- лей, до яких належать варіаційні автокодувальники, генеративні змагальні мережі, нормалізуючі потоки, авторегресивні моделі, дифузійні моделі та методи узгодження потоків, мають спільну математичну природу, проте розвивалися здебільшого незалежно, із власними формалізмами й позна- ченнями. Ця відокремленість ускладнює системне порівняння підходів і перенесення напрацьованих рішень між ними та зумовлює потребу в узагальненій моделі процесу генерації. Головним чинником, що стримує практичне застосування найпоши- реніших нині дифузійних моделей та моделей узгодження потоків, за- лишається висока обчислювальна вартість генерації. Її визначає кількість кроків чисельного інтегрування, оскільки для прийнятної якості потрібні десятки або сотні послідовних звернень до нейронної мережі. Скорочення цієї кількості без втрати якості є передумовою застосування таких моделей у середовищах з обмеженими ресурсами та з вимогами до часу відгуку. У ширшому контексті розподіл обчислень під час генерації, відомий як масштабування обчислень під час інференсу, став загальним засобом керу- вання якістю без зміни архітектури мережі, проте різнорідність відповідних методів і брак моделі, яка описувала б їх незалежно від архітектури, утру- днюють їх аналіз та застосування. Отже, невирішеними залишаються три пов’язані питання: відсутність узагальненої моделі генеративного процесу, брак формальної моделі масштабування обчислень під час генерації та висока обчислювальна вартість генерації. Потреба розв’язати ці питання й визначає актуальність теми дослідження. Об’єктом дослідження є процеси нейромережевої генерації зображень та сигналів на основі перетворення розподілів ймовірності. Предметом дослідження є метод узгодження потоків з нелінійними профілями швидкості з використанням моделей генеративного процесу та масштабування обчислень під час генерації. Мета роботи полягає в підвищенні якості нейромережевої генерації об’єктів за обмеженого обчислювального бюджету на основі узагальненої моделі генеративного процесу та структурно-топологічної моделі масшта- бування обчислень із розробленням удосконаленого методу узгодження потоків, що використовує нелінійні профілі швидкості вздовж траєкторій перетворення розподілів. Для досягнення цієї мети проаналізовано наявні генеративні моделі, виявлено їхні спільні риси й принципові відмінності та визначено місце методу узгодження потоків серед інших підходів, розроблено узагальнену модель генеративного процесу, яка подає генеративні моделі різних типів як функції трансформації розподілів ймовірності, розроблено структурно- топологічну модель масштабування обчислень під час генерації зі структур- ною складовою у вигляді політик керування додатковими обчисленнями та топологічною складовою у вигляді базових обчислювальних топологій, розроблено удосконалений метод побудови траєкторій узгодження потоків на основі нелінійних профілів швидкості, обґрунтовано схеми чисельного інтегрування для таких траєкторій і способи адаптації вже навчених мо- делей без перенавчання, проведено експериментальну перевірку методу на задачах генерації зображень порівняно з узгодженням потоків зі ста- лою швидкістю, а також оцінено його застосовність поза межами генерації зображень на прикладі синтезу електрокардіограм. Формалізацію генеративних моделей як функцій трансформації роз- поділів і побудову узагальненої моделі генеративного процесу виконано методами теорії ймовірностей та математичного аналізу. Схеми дискре- тизації траєкторій та аналіз їхньої похибки обґрунтовано методами теорії звичайних диференціальних рівнянь і чисельного інтегрування. Модель масштабування обчислень під час генерації побудовано й базові обчислю- вальні топології виділено методами системного аналізу та формалізації. Профілі швидкості за заданими крайовими умовами побудовано методами теорії наближень і поліноміальної інтерполяції. Навчання нейромережевих моделей узгодження потоків та їх адаптацію виконано методами оптимі- зації та градієнтного навчання. Якість генерації та обчислювальні витрати запропонованого підходу оцінено методами обчислювального експеримен- ту на наборах CIFAR-10, DrawBench, Parti та PTB-XL із застосуванням метрик FID, CLIPScore, динамічного скривлення часу та відстані Вассерштейна. Наукова новизна одержаних результатів полягає в розробленні узагаль- неної моделі генеративного процесу та структурно-топологічної моделі масштабування обчислень під час генерації, а також удосконаленого ме- тоду узгодження потоків із нелінійними профілями швидкості. Запропо- новані моделі базуються на поданні генеративних моделей як функцій трансформації розподілів ймовірності та на декомпозиції масштабування обчислень за політиками керування й обчислювальною топологією, що дозволило систематично порівнювати генеративні моделі різних класів і зіставляти в єдиних термінах методи масштабування обчислень із різних галузей машинного навчання. Удосконалений метод базується на заміні сталого цільового векторного поля x1 􀀀 x0 часозалежним векторним полем v(t) (x1 􀀀 x0), заданим профілем швидкості, і не залежить від архітектури мережі та модальності даних, що дозволило підвищити якість генерації за малої кількості кроків інтегрування та пришвидшити збіжність навчання. Подальшого розвитку набули методи переналаштування розкладу на етапі інференсу, у яких сітку інтегрування моделей узгодження потоків задає профіль швидкості, що дозволило застосовувати нелінійні профілі до вже навчених моделей без перенавчання як для генерації зображень, так і для синтезу одновимірних сигналів на прикладі електрокардіограми. Практичне значення одержаних результатів визначається тим, що за- пропоновані моделі та методи дозволяють будувати алгоритми генерації, які потребують меншої кількості звернень до нейронної мережі й не вимага- ють зміни архітектури моделі, а також алгоритми розширення навчальних вибірок. Прикладну цінність цих алгоритмів визначають три властивості: переналаштування розкладу інтегрування застосовне до вже навчених мо- делей без перенавчання, тож прискорення генерації досягається з мінімаль- ними витратами на впровадження; алгоритми не залежать від архітектури та модальності даних; скорочення кількості звернень до нейронної мережі прямо зменшує обчислювальні витрати, енергоспоживання та час відгу- ку, розширюючи застосовність генеративних моделей у середовищах з обмеженими ресурсами та в інтерактивних сценаріях. Ці переваги підтвер- джено кількісно: на наборі CIFAR-10 за навчання з нуля гальмівний профіль накату знижує FID на 17:4% при чотирьох кроках інтегрування відносно лінійного базового, а за адаптації переднавченої моделі без перенавчання – до 19:8%; гальмівні профілі додатково пришвидшують збіжність навчан- ня, досягаючи фінальної якості лінійного варіанта приблизно за чверть навчального бюджету; на масштабній латентній моделі Stable Diffusion 3.5 за малої кількості кроків симетричний профіль плавного входу-виходу підвищує CLIPScore на наборах текстових запитів Parti та DrawBench; у за- дачі синтезу електрокардіограм FlowECG зберігає якість генерації за 10–25 кроків, тоді як базова дифузійна модель SSSD-ECG потребує близько 200 кроків; розширення навчальної вибірки PTB-XL синтетичними сигналами підвищує макроусереднену AUC ансамблю класифікаторів на діагностичній задачі з 0:9387 до 0:9502. Результати дисертаційної роботи впроваджено в навчальний процес Черкаського державного технологічного університету та Черкаського національного університету імені Богдана Хмельницького. За темою дисертації опубліковано десять наукових праць, зокрема дві статті, що індексуються наукометричною базою даних Scopus, чотири статті в наукових фахових виданнях України категорії „Б“, три тези доповідей на всеукраїнських і міжнародних наукових конференціях та один препринт статті, розміщений у репозиторії arXiv.

Bondar V. V. Models and method for neural network-based object generation using flow-matching velocity profiles. –– Qualification scientific work in the form of manuscript. Thesis for doctor of philosophy degree in speciality 123 –– Computer engineering. –– Cherkasy state technological university, Cherkasy, 2026. In the dissertation, the topical scientific and applied problem of improving the quality of neural network generation of objects under a constrained computational budget is solved, based on models of the generative process and of computation scaling, by developing an enhanced flow matching method that uses non-linear velocity profiles along the distribution-transformation trajectories. Deep generative neural network models, primarily diffusion models and flow matching models, have become a widespread and practically valuable tool for synthesising images and signals. Their scope of application ranges from the creation of visual content to the augmentation of training sets in domains where collecting real data is difficult. The main classes of such models, which include variational autoencoders, generative adversarial networks, normalising flows, autoregressive models, diffusion models, and flow matching methods, share a common mathematical nature, yet they have developed largely independently, with their own formalisms and notation. This separation hampers the systematic comparison of the approaches and the transfer of established solutions between them, and creates a need for a generalised model of the generation process. The principal factor that constrains the practical use of the currently most widespread diffusion and flow matching models remains the high computational cost of generation. This cost is governed by the number of numerical integration steps, since acceptable quality requires tens or hundreds of sequential evaluations of the neural network. Reducing this number without loss of quality is a prerequisite for deploying such models in resource-constrained settings and in applications with response-time requirements. In a broader context, the allocation of computation during generation, known as inference-time scaling, has become a general means of controlling quality without changing the network architecture, yet the heterogeneity of such methods and the lack of a model that would describe them independently of the architecture hinder their analysis and application. Therefore, three related problems remain unresolved: the absence of a generalised model of the generative process, the lack of a formal model of inference-time scaling, and the high computational cost of generation. The need to solve these problems determines the relevance of the research topic. The object of the research is the processes of neural network generation of images and signals based on the transformation of probability distributions. The subject of the research is the flow matching method with non-linear velocity profiles, using models of the generative process and of computation scaling during object generation. The aim of the work is to improve the quality of neural network generation of objects under a constrained computational budget, based on a generalised model of the generative process and a structural-topological model of computation scaling, by developing an enhanced flow matching method that uses non-linear velocity profiles along the distribution-transformation trajectories. To achieve this aim, existing generative models were analysed, their common features and principal differences identified and the place of flow matching among other approaches established; a generalised model of the generative process presenting generative models of different types as probability-distribution transformation functions was developed; a structural-topological model of inference-time scaling was developed, with a structural component in the form of policies governing the additional computation and a topological component in the form of basic computational topologies; an enhanced method for constructing flow matching trajectories based on non-linear velocity profiles was developed, numerical integration schemes for such trajectories and techniques for adapting already trained models without retraining were substantiated; the method was experimentally validated on image generation tasks against constant-velocity flow matching; and its applicability beyond image generation was assessed using electrocardiogram synthesis as a case study. The formalisation of generative models as distribution transformation functions and the construction of the generalised model of the generative process were carried out using methods of probability theory and mathematical analysis. The trajectory discretisation schemes and the analysis of their error were grounded in methods of the theory of ordinary differential equations and numerical integration. The model of inference-time scaling was built and the basic computational topologies were identified using methods of systems analysis and formalisation. Velocity profiles for given boundary conditions were constructed using methods of approximation theory and polynomial interpolation. The training and adaptation of neural network flow matching models were performed using methods of optimisation and gradient-based learning. The quality of generation and the computational cost of the proposed approach were evaluated by computational experiment on the CIFAR-10, DrawBench, Parti, and PTB-XL datasets using the FID and CLIPScore metrics, dynamic time warping, and the Wasserstein distance. The scientific novelty of the obtained results consists in the development of a generalised model of the generative process and a structural-topological model of inference-time scaling, as well as an enhanced flow matching method with nonlinear velocity profiles. The proposed models are based on presenting generative models as probability-distribution transformation functions and on decomposing inference-time scaling by governing policies and computational topology, which made it possible to systematically compare generative models of different classes and to relate, in common terms, scaling methods from different areas of machine learning. The enhanced method is based on replacing the constant target vector field x1 􀀀 x0 with the time-dependent vector field v(t) (x1 􀀀 x0) defined by the velocity profile and is independent of the network architecture and the data modality, which made it possible to improve generation quality at a small number of integration steps and to accelerate training convergence. Methods for retuning the integration schedule at the inference stage were further developed: the integration grid of flow matching models is defined by the velocity profile, which made it possible to apply non-linear profiles to already trained models without retraining, both in image generation and in the synthesis of one-dimensional signals, with electrocardiograms as a case study. The practical value of the obtained results is determined by the fact that the proposed models and methods make it possible to build generation algorithms that require fewer evaluations of the neural network and do not call for changes to the model architecture, as well as algorithms for augmenting training sets. The applied value of these algorithms rests on three properties: schedule re-tuning is applicable to already trained models without retraining, so generation is accelerated at minimal adoption cost; the algorithms are independent of architecture and data modality; reducing the number of network evaluations directly lowers computational cost, energy consumption, and response time, broadening the applicability of generative models in resource-constrained and interactive settings. These advantages are confirmed quantitatively: on CIFAR-10, when training from scratch, the decelerating coasting profile lowers FID by 17:4% at four integration steps relative to the linear baseline, and when adapting a pretrained model without retraining – by up to 19:8%; decelerating profiles additionally speed up training convergence, reaching the final quality of the linear variant in about a quarter of the training budget; on the large-scale latent model Stable Diffusion 3.5, at a small number of steps the symmetric ease-in-out profile increases CLIPScore on the Parti and DrawBench prompt sets; in electrocardiogram synthesis, FlowECG preserves generation quality at 10–25 steps, whereas the baseline diffusion model SSSD-ECG requires about 200 steps; augmenting the PTB-XL training set with synthetic signals raises the macro-averaged AUC of a classifier ensemble on the diagnostic task from 0:9387 to 0:9502. The results of the dissertation have been introduced into the educational process of Cherkasy State Technological University and Bohdan Khmelnytsky National University of Cherkasy. On the topic of the dissertation, ten scientific works have been published, including two articles indexed in the Scopus scientometric database, four articles in category B professional scientific journals of Ukraine, three conference abstracts at national and international scientific conferences, and one article preprint deposited in the arXiv repository.