Ежеквартальный журнал издательства СПбПУ
под редакцией проф. Д. П. Зегжды
Санкт-Петербургский политехнический университет Петра Великого
Институт компьютерных наук и технологий.
Кафедра информационной безопасности компьютерных систем
Проблемы информационной безопасности. Компьютерные системы
Издается с 1999 года.
ISSN 2071-8217
ЗАЩИТА МОДЕЛЕЙ МАШИННОГО ОБУЧЕНИЯ ОТ ИЗВЛЕЧЕНИЯ ОБУЧАЮЩЕГО НАБОРА ДАННЫХ
А. А. Мурылева, М. О. Калинин, Д. С. Лаврова Санкт-Петербургский политехнический университет Петра Великого
Аннотация: Рассмотрена проблема защиты моделей машинного обучения от угрозы нарушения конфиденциальности данных, реализующей определение членства в обучающих наборах данных. Предложен метод защитного зашумления обучающего набора. Экспериментально показано, что гуассово зашумление обучающих данных с масштабом 0,2 является наиболее простым и эффективным способом защиты моделей машинного обучения от определения членства в обучающем наборе. В сравнении с альтернативами данный метод прост в реализации, универсален по отношению к видам моделей и позволяет снизить результативность определения членства до 26 %-ных пунктов.
Ключевые слова: зашумление, машинное обучение, обучающий набор, определение членства, шум Гаусса
Страницы 142–152