Publication: МЕТОД ОБНАРУЖЕНИЯ ВРЕДОНОСНОГО ПАТЧА НА ИЗОБРАЖЕНИИ С ИСПОЛЬЗОВАНИЕМ МАТЕМАТИЧЕСКИХ ПРЕОБРАЗОВАНИЙ
Дата
2026
Авторы
Есипов, Д. А.
Клетенкова, А. Д.
Попов, И. Ю.
Journal Title
Безопасность информационных технологий
Journal ISSN
Volume Title
Безопасность Информационных Технологий
Издатель
НИЯУ МИФИ
Аннотация
Активное внедрение технологий искусственного интеллекта связано с их эффективностью при выполнении прикладных задач, включая обработку изображений. Однако вместе с этим возрастает и количество уязвимостей информационных систем, эксплуатируемых посредством модификации входных изображений, что формирует основные угрозы их безопасности. Разработанные методы защиты нередко привязаны к набору данных или архитектуре модели, а также ориентированы исключительно на обнаружение атаки. Метод устранения искажений, встраиваемых пиксельными атаками, с использованием математических преобразований позволяет реализовывать противодействие атакам искажения входных данных, оптимизированным по , однако уязвим к внесению сосредоточенных искажений (состязательного патча). Целью текущей работы является расширение области применения указанного метода путем уменьшения влияния описанного недостатка. Предложен метод обнаружения вредоносного патча на изображении с использованием математических преобразований, позволяющий классифицировать внесенное искажение как сосредоточенное или распределенное. Классификация, как и дальнейшее восстановление, предполагает предварительное обнаружение внесенного искажения. Вычисляется значение средних координат искаженных пикселей и среднее расстояние от искаженных пикселей до указанных средних координат. Если расстояние превышает некоторый порог отсечения, искажение считается распределенным, иначе – сосредоточенным. Также метод позволяет обнаруживать границы прямоугольного патча для дальнейшего исследования атаки. Апробация метода выполнена на наборе данных CIFAR‑10. Метод продемонстрировал высокое качество классификации и обнаружения границ искаженной области. Предложенный метод дополняет разработанный ранее метод устранения искажений, встраиваемых пиксельными атаками, снижая влияние его ограничения на противодействие сосредоточенным искажениям. Метод потенциально независим от набора данных и параметров нейронной сети.
Описание
Ключевые слова
Атака по карте значимости на основе Якобиана , Вредоносный патч , Вредоносное возмущение , Состязательная атака , Обработка изображений , Искусственная нейронная сеть
Цитирование
Есипов, Д., Клетенкова, А., Попов, И. (2026). Метод обнаружения вредоносного патча на изображении с использованием математических преобразований. Безопасность информационных технологий, 33(1), 40-48. doi: http://dx.doi.org/10.26583/bit.2026.1.04