Publication: ПРОГРАММА ПРЕОБРАЗОВАНИЯ ВЕСОВ НЕЙРОННОЙ СЕТИ К ЗАДАННЫМ РЕСУРСНЫМ ОГРАНИЧЕНИЯМ НЕЙРОМОРФНЫХ ВЫЧИСЛИТЕЛЬНЫХ УСТРОЙСТВ НА ОСНОВЕ КЛАСТЕРИЗАЦИИ
Дата
2022
Авторы
Journal Title
Journal ISSN
Volume Title
Издатель
НИЯУ МИФИ
Аннотация
Программа преобразует веса нейронной сети так, чтобы они удовлетворяли ограничениям, типичным для цифровых нейроморфных устройств: получаемая в результате нейронная сеть имеет целочисленные веса, и входящие веса каждого нейрона могут принимать не более заданного количества уникальных абсолютных значений. Например, если заданное количество - 4, то каждый нейрон имеет 4 целочисленных параметра, один из которых - ноль, а каждый входящий вес нейрона может принимать 7 значений: одно из трёх ненулевых значений со знаком плюс, со знаком минус, или ноль. Получение таких весов из весов исходной обученной нейронной сети производится с помощью кластеризации и дообучения; в ходе дообучения на этапе вычисления активаций сети веса подвергаются кластеризации и округлению до целого, а изменению по градиенту функции ошибки подвергаются центры кластеров. Программа требует для своей работы установленных открытых программных пакетов tensorflow и tensorflow-model-optimization. Поддерживаются нейронные сети полносвязной и свёрточной топологии.
Описание
Свидетельство о регистрации программ для ЭВМ
Ключевые слова
Программа
Цитирование
Серенко, А. В. ПРОГРАММА ПРЕОБРАЗОВАНИЯ ВЕСОВ НЕЙРОННОЙ СЕТИ К ЗАДАННЫМ РЕСУРСНЫМ ОГРАНИЧЕНИЯМ НЕЙРОМОРФНЫХ ВЫЧИСЛИТЕЛЬНЫХ УСТРОЙСТВ НА ОСНОВЕ КЛАСТЕРИЗАЦИИ / Серенко, А. В., Сбоев, А. Г., Рыбка, Р. Б.- №2022684300; Заявл. 08.12.2022.- 2022