ЗАЩИТА ОТ АТАК НА СИСТЕМЫ МАШИННОГО ОБУЧЕНИЯ НА ПРИМЕРЕ АТАК УКЛОНЕНИЯ ПРИ АНАЛИЗЕ МЕДИЦИНСКИХ ИЗОБРАЖЕНИЙ
Е.А. Рудницкая, М. А. Полтавцева
Санкт-Петербургский политехнический университет Петра Великого (СПбПУ)
Аннотация: Данная работа посвящена атакам уклонения на системы машинного обучения, использующие при анализе медицинские изображения. Рассмотрены существующие атаки, проведена их систематизация и практическая оценка реализуемости. Приведены и проанализированы существующие методы защиты от атак уклонения на системы машинного обучения. Приведены особенности медицинских снимков, рассматривается постановка задачи защиты от атаки уклонения для данных снимков на основе нескольких защитных методов. Авторами определены наиболее релевантные методы защиты, выполнена их реализация и апробация на практических примерах – анализе снимков пациентов с COVID-19.
Ключевые слова: атаки на системы машинного обучения, защита систем машинного обучения, атаки уклонения, состязательные атаки, медицинские изображения, машинное обучение
Страницы 148-159