Россия
Россия
ПАО «ВТБ»
Россия
Россия
УДК 656.25 Меры безопасности. Сигналы
В условиях активного внедрения интеллектуальных систем в железнодорожную отрасль возрастает значимость обеспечения их робастности к внешнему вмешательству, в том числе в форме скрытых атак на входные данные. Статья посвящена исследованию робастности современных архитектур нейронных сетей (ResNet18, ResNet50, Vision Transformer (ViT), сверточной нейронной сети и мультимодальной GPT-4o), применяемых для автоматического обнаружения дефектов на изображениях элементов железнодорожной инфраструктуры. Проведены эксперименты с генерацией скрытых возмущений с помощью универсального шума, созданного на базе ансамбля трансформеров. Рассмотрены две модификации атак (М1 и М2), позволяющие смоделировать реалистичные сценарии вмешательства в условиях ограниченного доступа к данным. Оценка качества моделей выполнялась как на «чистых» изображениях, так и в условиях добавленного шума. Результаты показывают, что, несмотря на высокую точность ResNet50 на исходных данных, наибольшую робастность к возмущениям демонстрируют ViT и GPT-4o. Сделаны выводы о целесообразности выбора архитектуры не только по точности, но и по уровню робастности к шуму. Работа предлагает методику оценки робастности и практические рекомендации для разработки систем компьютерного зрения, предназначенных для эксплуатации в критически важных условиях железнодорожного транспорта.
интеллектуальные системы, железнодорожный транспорт, состязательные атаки, робастность, нейронные сети, компьютерное зрение, безопасность, мониторинг инфраструктуры
1. Кулагин М. А. Обобщение опыта решения задач предиктивной аналитики на железнодорожном транспорте / М. А. Кулагин, В. Г. Сидоренко // Наука и техника транспорта. — 2024. — № 4. — С. 55–62.
2. Сидоренко В. Г. Интеллектуальная система обнаружения нарушений в соблюдении требований безопасности при работах на объектах железнодорожной инфраструктуры / В. Г. Сидоренко, М. А. Кулагин, Д. М. Родина // Автоматика на транспорте. — 2025. — Т. 11. — № 1. — С. 55–65. — DOI:https://doi.org/10.20295/2412-9186-2025-11-01-55-65.
3. Малинский С. В. Автоматическое определение границ опасных участков железнодорожного пути / С. В. Малинский, А. В. Абрамов, В. О. Шарова // Интеллектуальные транспортные системы: материалы IV Международной научно-практической конференции, Москва, 22 мая 2025 года. — Москва: Российский университет транспорта (МИИТ), 2025. — С. 624–630. — DOI: 10.30932/ 9785002587582-2025-624-630.
4. Ашрафзянов А. М. Обнаружение и распознавание пре- пятствий перед автомобилем на основе обработки видеоизображений / А. М. Ашрафзянов, М.Шлеймович // Вестник Казанского государственного технического университета им. А.Н. Туполева. — 2014. — № 2. — С. 197–202.
5. Баранов Л. А. Методология обоснования требований безопасности при использовании систем технического зрения в интеллектуальных системах управления движением поездов / Л. А. Баранов, П. Ф. Бестемьянов, Е. П. Балакина, А. Л. Охотников // Интеллектуальные транспортные системы: материалы Международной научно-практической конференции, Москва, 26 мая 2022 года. — М.: Российский университет транспорта, 2022. — С. 54–58.
6. Охотников А. Л. Проекты систем технического зрения для автоматического управления движением / А. Л. Охотников // Автоматика, связь, информатика. — 2023. — № 3. — С. 21–24. — DOI:https://doi.org/10.34649/AT.2023.3.3.003.
7. Озеров А. В. Техническое зрение в составе систем автоматического управления движением поездов / А. В. Озеров, А. С. Маршова // Перспективные информационные технологии (ПИТ 2022): труды Международной научно-технической конференции, Самара, 18–21 апреля 2022 года / под ред. С. А. Прохорова. — Самара: Издательство Самарского научного центра РАН, 2022. — С. 201–205.
8. Lisanti G. A Multi-Camera Image Processing and Visualization System for Train Safety Assessment / G. Lisanti, S. Karaman, D. Pezzatini // arXiv preprint. — 2015. — arXiv:1507.07815. — DOI:https://doi.org/10.48550/arXiv.1507.07815.
9. Saritas M. M. et al. Railway Track Fault Detection with ResNet Deep Learning Models // 2023 International Conference on Intelligent Systems and New Applications (ICISNA’23). — 2023.
10. Сунь Х. Обзор современных систем технического зрения, применяемых в транспортной отрасли / Х. Сунь, С. чжуан, А. А. Костров // Современные наукоемкие технологии. — 2024. — № 9. — С. 69–73. — DOI: 10.17513/ snt.40150.
11. Goodfellow I. Explaining and Harnessing Adversarial Examples / I. Goodfellow, J. Shlens, C. Szegedy // arXiv preprint. — 2015 (submitted 20 Dec 2014, revised 20 Mar 2015). — arXiv:1412.6572. — DOI:https://doi.org/10.48550/arXiv.14.6572.
12. Григоренко А. Г. Обзор методов защиты от адверсиальной атаки One Pixel в системах машинного обучения / А. Г. Григоренко, Н. А. Васильев, Д. С. Ситдиков // Системы интеллектуального управления и искусственный интелект: теория и практика: сборник трудов II националь-ной научно-практической конференции, Санкт- Петербург, 27 июня 2024 года. — СПб.: Федеральное государственное бюджетное образовательное учреждение высшего образования Государственный университет морского и речного флота им. адмирала С. О. Макарова, 2024. — С. 30–36.
13. Хьюбер П. Робастная статистика / П. Хьюбер. М.: Мир,1984.
14. Goodfellow I. J. Making machine learning robust against adversarial inputs / I. J. Goodfellow, J. Shlens, C. Szegedy // Communications of the ACM. — 2018. — Vol. 61. — Iss. 7. — Pp. 56–66. — DOI:https://doi.org/10.1145/3134599.
15. Василенко, М. С. Алгоритм машинного обучения для детектирования выбросов и аномалий / М. С. Василенко, А. С. Копырин // Modeling of Artificial Intelligence. — 2019. — № 6-1. — С. 13–18. — DOI:https://doi.org/10.13187/mai.2019.1.13.
16. Легашев Л. В. Методика построения устойчивой системы защиты на основе состязательного машинного обучения в беспроводных сетях 6G / Л. В. Легашев, Л. С. Гришина // Вопросы кибербезопасности. — 2023. — № 2(54). — С. 99–108. — DOI:https://doi.org/10.21681/2311-3456-2023-2-99-108.
17. Hou X. High-Speed Rail Operating Environment Recognition Based on Neural Network and Adversarial Training / X. Hou et al. //2019 IEEE 31st International Conference on Tools with Artificial Intelligence (ICTAI). — IEEE, 2019. — Pp. 840– 847. — DOI:https://doi.org/10.1109/ICTAI.2019.00120.
18. Голдобин И. А. Влияние шумов на алгоритмы цифровой обработки изображений / И. А. Голдобин, Е. И. Климова // Актуальные вопросы развития современной цифровой среды: сборник статей по материалам научно-технической конференции молодых ученых, Москва, 14–16 апреля 2021 года. — Волгоград: Сириус, 2021. — С. 396–402.
19. Котенко И. В. Атаки и методы защиты в системах машинного обучения: анализ современных исследований / И. В. Котенко, И. Б. Саенко, О. С. Лаута и др. // Вопросы кибербезопасности. — 2024. — № 1(59). — С. 24–37. — DOI:https://doi.org/10.21681/2311-2024-1-24-37.
20. Костюмов В. В. Обзор и систематизация атак уклонением на модели компьютерного зрения / В. В. Костюмов // International Journal of Open Information Technologies. — 2022. — Т. 10. — № 10. — С. 11–20.
21. Potapov A. K. Vulnerabilities of Artificial Intelligence Systems / A. K. Potapov, V. G. Sidorenko // 2024 International Conference “Quality Management, Transport and Information Security, Information Technologies” (QM&TIS&IT). — IEEE, 2024. — Pp. 84–87. — DOI: 10.1109/ QMTISIT63393.2024.10762915.
22. Грачев Я. Л. Использование качественных характеристик изображения для комплексного стегоанализа / Я. Л. Грачев, В. Г. Сидоренко // Надежность. — 2025. —Т. 25. — № 1. — С. 67–74. — DOI:https://doi.org/10.21683/1729-2646- 2025-25-1-67-74.
23. Орлов С. П. Глубокая нейронная сеть для диагностики элементов железнодорожного рельсового пути / С. П. Орлов, Н. А. Ефимушкин, Н. В. Ефимушкина // Вестник Самарского государственного технического университета. Серия: Технические науки. — 2022. — Т. 30. — № 1(73). — С. 63–74. — DOI:https://doi.org/10.14498/tech.2022.1.4.
24. Федоров В. А. Обнаружение железнодорожной инфраструктуры на основе YOLOv8 с использованием нейронного процессора / В. А. Федоров // Доклады Российской академии наук. Математика, информатика, процессы управления. — 2024. — Т. 520. — № S2. — С. 49–56. — DOI:https://doi.org/10.31857/S2686954324700371.
25. Eunus S. I. ECARRNet: An Efficient LSTM-Based Ensembled Deep Neural Network Architecture for Railway Fault Detection / S. I. Eunus, S. Hossain, A. E. M. Ridwan, A. Adnan et al. // AI. — 2024. — Vol. 5. — Iss. 2. — Pp. 482–503. — DOI:https://doi.org/10.3390/ai5020024.
26. Goodfellow I. Deep Learning / I. Goodfellow, Y. Bengio, A. Courville. — Cambridge, MA: MIT Press, 2016. — DOI:https://doi.org/10.1007/s10710-017-9314-z.
27. Han K. A Survey on Visual Transformer / K. Han, Y. Wang,H. Chen // arXiv preprint. — 2020. — DOI: 10.48550/ arXiv.2012.12556.
28. Powers D. M. W. Evaluation: From Precision, Recall and F-Measure to ROC, Informedness, Markedness & Correlation / D. M. W. Powers // Journal of Machine Learning Technologies. — 2011. — Vol. 2. — Iss. 1. — Pp. 37–63. — DOI:https://doi.org/10.48550/arXiv.2010.16061.
