Publication: ПОВЫШЕНИЕ ОБЪЯСНИМОСТИ ОБНАРУЖЕНИЯ ДИПФЕЙКОВ С ПОМОЩЬЮ ГРАФОВОЙ СЕТИ НА ОСНОВЕ СОСРЕДОТОЧЕНИЯ ВНИМАНИЯ
| creativeworkseries.issn | 2074-7128 (Print) | |
| dc.contributor.author | Пикуль, А. С. | |
| dc.contributor.author | Попов, И. Ю. | |
| dc.date.accessioned | 2025-10-30T08:09:23Z | |
| dc.date.available | 2025-10-30T08:09:23Z | |
| dc.date.issued | 2025 | |
| dc.description.abstract | Понимание о том, как именно модели искусственного интеллекта принимают решения, важно, в особенности для таких сложных задач, как обнаружение дипфейков, где недостаточно просто получить результат – необходимо знать, почему именно модель приняла такое решение. Многие существующие методы интерпретации моделей искусственного интеллекта, такие как SHAP и Grad-CAM, помогают объяснить полученные решения, но зачастую полученные объяснения недостаточно детализированы для таких сложных данных как человеческие лица и дипфейки. В данной статье представлен новый метод с использованием графовых сетей с механизмом внимания (GAT) для задачи интерпретации решений детекторов дипфейков. Вместо того чтобы рассматривать изображение в целом, оно разбивается на патчи, а затем формируются в граф, где каждая ключевая часть лица (глаза, нос и рот) является отдельным узлом. Такое разбиение помогает модели учитывать при принятии решений наиболее важные области изображения. С помощью механизма внимания, модель выявляет, какие области изображения и лица повлияли на её решение. Проведено сравнивние двух версий механизма внимания, GATv1 и GATv2, и показано, как создается визуальная интерпретация с их помощью. При этом сохраняется высокая точность для классификатора дипфейков. Предложенный подход повышает понимание о том, как модель обрабатывает изображения, то есть, какие признаки оказались наиболее важными при принятии решения. Таким образом повышается доверие к работе модели искусственного интеллекта. Код в открытом доступе по адресу https://github.com/aleksandrpikul/ResGAT/tree/main. | |
| dc.description.uri | https://bit.spels.ru/index.php/bit/article/view/1776/1465 | |
| dc.identifier.citation | Pikul, Aleksandr S.; Popov, Ilya Yu. Enhancing explainability in deepfake detection with graph attention networks. IT Security (Russia), [S.l.], v. 32, no. 2, p. 73–82, 2025. ISSN 2074-7136. URL: https://bit.spels.ru/index.php/bit/article/view/1776. DOI: http://dx.doi.org/10.26583/bit.2025.2.06 | |
| dc.identifier.doi | 10.26583/bit.2025.2.06 | |
| dc.identifier.uri | https://openrepository.mephi.ru/handle/123456789/39476 | |
| dc.publisher | НИЯУ МИФИ | |
| dc.subject | Графовая сеть с вниманием | |
| dc.subject | Обнаружение дипфейков | |
| dc.subject | Механизм внимания | |
| dc.subject | Объяснимость | |
| dc.subject | Дипфейки | |
| dc.title | ПОВЫШЕНИЕ ОБЪЯСНИМОСТИ ОБНАРУЖЕНИЯ ДИПФЕЙКОВ С ПОМОЩЬЮ ГРАФОВОЙ СЕТИ НА ОСНОВЕ СОСРЕДОТОЧЕНИЯ ВНИМАНИЯ | |
| dc.title.alternative | НАУЧНЫЕ СТАТЬИ | |
| dc.type | Article | ru |
| dspace.entity.type | Publication | |
| journal.title | Безопасность информационных технологий | |
| journalvolume.identifier.name | Безопасность Информационных Технологий | |
| relation.isJournalIssueOfPublication | 4bb32ac2-a8be-4e74-8576-ddf79c793ef8 | |
| relation.isJournalIssueOfPublication.latestForDiscovery | 4bb32ac2-a8be-4e74-8576-ddf79c793ef8 | |
| relation.isJournalOfPublication | 3b9ae913-eaeb-4d29-a767-7f6ca8a0e066 |