A method for detecting DDoS attacks in VoIP systems based on machine learning

Abstract

Protecting VoIP systems from DDoS attacks is a critical issue, as such attacks can lead to significant financial losses and a decline in the quality of service for users. Existing methods of detecting attacks are based on signature analysis or traditional rules, which limits their effectiveness in cases of new or modified attacks. The aim of this work was to develop a method for detecting DDoS attacks in VoIP systems based on machine learning, which provides high accuracy in classifying abnormal traffic. To achieve this goal, methods of network traffic analysis, machine learning, and statistical evaluation of model effectiveness were used. The main research tool was a multilayer perceptron neural network trained on real network traffic. As a result of this research, a model was developed and tested that demonstrated high accuracy in detecting attacks. A comparative analysis of the effectiveness of the developed model with other approaches was carried out. The proposed method was integrated into the Asterisk environment through the Asterisk Manager Interface, which made it possible to monitor SIP traffic in real time, analyse it using a trained model, and automatically block attacking IP addresses through IPTables or Fail2Ban. Based on the results of the model comparison by metrics, the best model was selected and an algorithm for protecting VoIP from DDoS was developed based on it. The practical value of the work lies in the development of an effective method for protecting VoIP systems, which can be used to improve the level of security in telecommunications networks. The proposed approach can be scaled and adapted to different network infrastructure configurations.

Захист VoIP-систем від DDoS-атак є критичною проблемою, оскільки такі атаки можуть призвести до значних фінансових втрат і зниження якості обслуговування користувачів. Існуючі методи виявлення атак базуються на сигнатурному аналізі або традиційних правилах, що обмежує їхню ефективність у випадках нових або модифікованих атак. Метою цієї роботи була розробка методу виявлення DDoS-атак у VoIP-системах на основі машинного навчання, що забезпечує високу точність класифікації аномального трафіку. Для досягнення поставленої мети використано методи аналізу мережевого трафіку, машинного навчання та статистичної оцінки ефективності моделей. Основним інструментом дослідження стала нейронна мережа типу багатошаровий перцептрон, яка навчена на реальному мережевому трафіку. У результаті проведеного дослідження було розроблено та протестовано модель, яка продемонструвала високу точність виявлення атак. Проведено порівняльний аналіз ефективності розробленої моделі з іншими підходами. Запропонований метод інтегровано в середовище Asterisk через Asterisk Manager Interface, що дозволило здійснювати моніторинг SIP-трафіку в реальному часі, аналізувати його за допомогою навченої моделі та автоматично блокувати атакуючі IP-адреси через IPTables або Fail2Ban. Відповідно до результатів порівняння моделей за метриками обрано найкращу модель та розроблено алгоритм захисту VoIP від DDoS на її основі. Практична цінність роботи полягає в розробці ефективного методу захисту VoIP-систем, який може бути використаний для підвищення рівня безпеки в телекомунікаційних мережах. Запропонований підхід може бути масштабований та адаптований до різних конфігурацій мережевих інфраструктур.