Аннотация: Представлен анализ существующих методов, обеспечивающих выявление атак уклонения в системах машинного обучения. Выполнена экспериментальное сравнение данных методов. Метод Uncertainty является универсальным, однако в нем трудно определять такие границы степени неопределенности для состязательных образцов, которые позволяли бы более точно идентифицировать атаки уклонения, что приводит к более низким показателям эффективности относительно атак SGM, MS, BA, чем у других методов. Разработан новый гибридный метод, который представляет собой двухэтапную проверку входных данных, дополненную предварительной обработкой. В новом методе граница степени неопределенности для состязательных образцов стала различимой и быстро вычислимой. Гибридный метод позволяет выявлять атаки уклонения OOD с точностью не ниже 80%, атаки SGM, MS и BA – с точностью 93%.

Ключевые слова: атаки уклонения, выявление атак уклонения, гибридный метод, машинное обучение, состязательные образцы, ODIN, Uncertainty.