Ежеквартальный журнал издательства СПбПУ
под редакцией проф. Д. П. Зегжды
Санкт-Петербургский политехнический университет Петра Великого
Институт компьютерных наук и технологий.
Кафедра информационной безопасности компьютерных систем
Проблемы информационной безопасности. Компьютерные системы
Издается с 1999 года.
ISSN 2071-8217
ЗАЩИТА ОТ АТАК НА СИСТЕМЫ МАШИННОГО ОБУЧЕНИЯ НА ПРИМЕРЕ АТАК УКЛОНЕНИЯ ПРИ АНАЛИЗЕ МЕДИЦИНСКИХ ИЗОБРАЖЕНИЙ

Е.А. Рудницкая, М. А. Полтавцева
Санкт-Петербургский политехнический университет Петра Великого (СПбПУ)

Аннотация: Данная работа посвящена атакам уклонения на системы машинного обучения, использующие при анализе медицинские изображения. Рассмотрены существующие атаки, проведена их систематизация и практическая оценка реализуемости. Приведены и проанализированы существующие методы защиты от атак уклонения на системы машинного обучения. Приведены особенности медицинских снимков, рассматривается постановка задачи защиты от атаки уклонения для данных снимков на основе нескольких защитных методов. Авторами определены наиболее релевантные методы защиты, выполнена их реализация и апробация на практических примерах – анализе снимков пациентов с COVID-19.
Ключевые слова: атаки на системы машинного обучения, защита систем машинного обучения, атаки уклонения, состязательные атаки, медицинские изображения, машинное обучение
Страницы 148-159