Стійкість нейронних дерев рішень до шуму у вхідних даних для задачі класифікації зображень

Автор(и)

  • Михайло Вікторович Мокрий Національний університет «Києво-Могилянська академія», Україна https://orcid.org/0009-0002-2474-3864
  • Надія Олександрівна Швай Національний університет «Києво-Могилянська академія», Україна https://orcid.org/0000-0001-8194-6196

DOI:

https://doi.org/10.18523/2617-3808.2025.8.57-67

Ключові слова:

нейронні дерева рішень, машинне навчання, стійкість, збурення зображень, класифікація зображень, комп’ютерний зір, згорткові нейронні мережі

Анотація

У роботі досліджується стійкість моделей нейронних дерев рішень, які об’єднують архітектуру нейронних мереж і дерев рішень, до шуму у вхідних даних для класифікації зображень. Було запропоновано використати два методи навчання для підвищення стійкості моделей, які початково використовувалися в згорткових нейронних мережах. Зашумлення зображень з набору даних CIFAR-10 відбувається за допомогою методу гаусівського розмиття. Було розглянуто вплив методів підвищення стійкості на моделей нейронних дерев рішень і показано, що стійкість моделей до шуму у вхідних даних значно покращується.

Біографії авторів

Михайло Вікторович Мокрий, Національний університет «Києво-Могилянська академія»

студент PhD програми «Комп’ютерні науки» факультету інформатики Національного університету «Києво-Могилянська академія», m.mokryy@ukma.edu.ua

Надія Олександрівна Швай, Національний університет «Києво-Могилянська академія»

доцент, кандидат фізико-математичних наук, факультет інформатики Національного університету «Києво-Могилянська академія», n.shvay@ukma.edu.ua

Посилання

  1. Andriushchenko, M., & Hein, M. (2019). Provably robust boosted decision stumps and trees against adversarial attacks. Advances in Neural Information Processing Systems, 32.
  2. Carlini, N., & Wagner, D. (2017). Towards evaluating the robustness of neural networks. In 2017 IEEE symposium on security and privacy (SP) (pp. 39–57). IEEE.
  3. Chen, H., Zhang, H., Boning, D., & Hsieh, C. J. (2019). Robust decision trees against adversarial examples. In International Conference on Machine Learning (pp. 1122–1131). PMLR.
  4. Chen, Y., Mao, F., Song, J., Wang, X., Wang, H., & Song, M. (2021). Self-born wiring for neural trees. In Proceedings of the IEEE/CVF International Conference on Computer Vision (pp. 5047–5056).
  5. Frosst, N., & Hinton, G. (2017). Distilling a neural network into a soft decision tree. arXiv preprint arXiv:1711.09784.
  6. Goodfellow, I. J., Shlens, J., & Szegedy, C. (2014). Explaining and harnessing adversarial examples. arXiv preprint arXiv:1412.6572.
  7. He, K., Zhang, X., Ren, S., & Sun, J. (2016). Deep residual learning for image recognition. In Proceedings of the IEEE conference on computer vision and pattern recognition (pp. 770–778).
  8. Ioannou, Y., Robertson, D., Zikic, D., Kontschieder, P., Shotton, J., Brown, M., & Criminisi, A. (2016). Decision forests, convolutional networks and the models in-between. arXiv preprint arXiv:1603.01250.
  9. Jordan, M. I., & Jacobs, R. A. (1994). Hierarchical mixtures of experts and the EM algorithm. Neural computation, 6 (2), 181–214.
  10. Kontschieder, P., Fiterau, M., Criminisi, A., & Bulo, S. R. (2015). Deep neural decision forests. In Proceedings of the IEEE international conference on computer vision (pp. 1467–1475).
  11. Papernot, N., McDaniel, P., Wu, X., Jha, S., & Swami, A. (2016, May). Distillation as a defense to adversarial perturbations against deep neural networks. In 2016 IEEE symposium on security and privacy (SP) (pp. 582–597). IEEE.
  12. Stock, J., Dolan, A., & Cavey, T. (2020). Strategies for Robust Image Classification. arXiv preprint arXiv:2004.03452.
  13. Suárez, A., & Lutsko, J. F. (1999). Globally optimal fuzzy decision trees for classification and regression. IEEE Transactions on Pattern Analysis and Machine Intelligence, 21 (12), 1297–1311.
  14. Tanno, R., Arulkumaran, K., Alexander, D., Criminisi, A., & Nori, A. (2019). Adaptive neural trees. In International Conference on Machine Learning (pp. 6166–6175). PMLR.
  15. Vos, D., & Verwer, S. (2021). Efficient training of robust decision trees against adversarial examples. In International Conference on Machine Learning (pp. 10586–10595). PMLR.
  16. Wan, A., Dunlap, L., Ho, D., Yin, J., Lee, S., Jin, H., ... & Gonzalez, J. E. (2020). NBDT: Neural-backed decision trees. arXiv preprint arXiv:2004.00221.

##submission.downloads##

Опубліковано

2025-11-26

Номер

Том 8 (2025): Наукові записки НаУКМА. Комп’ютерні науки

Розділ

Нейронні мережі та машинне навчання

Ліцензія

Авторське право (c) 2025 M. Mokryi, N. Shvai

Creative Commons License

Ця робота ліцензується відповідно до Creative Commons Attribution 4.0 International License.

Автори, які публікуються у цьому журналі, погоджуються з такими умовами:

а) Автори зберігають за собою авторські права на твір на умовах ліцензії CC BY 4.0 Creative Commons Attribution International License, котра дозволяє іншим особам вільно поширювати (копіювати і розповсюджувати матеріал у будь-якому вигляді чи форматі) та змінювати (міксувати, трансформувати, і брати матеріал за основу для будь-яких цілей, навіть комерційних) опублікований твір на умовах зазначення авторства.

б) Журнал дозволяє автору (авторам) зберігати авторські права без обмежень.

в) Автори мають право укладати самостійні додаткові угоди щодо поширення твору (наприклад, розміщувати роботу в електронному репозитарії), за умови збереження посилання на його першу публікацію. (Див. Політика Самоархівування)

г) Політика журналу дозволяє розміщення авторами в мережі Інтернет (наприклад, у репозитаріях) тексту статті, як до подання його до редакції, так і під час його редакційного опрацювання, оскільки це сприяє виникненню продуктивної наукової дискусії та позитивно позначається на оперативності та динаміці цитування опублікованої роботи (див. The Effect of Open Access).