Современная электроника №5/2022

ПРОЕКТИРОВАНИЕ И МОДЕЛИРОВАНИЕ 30 WWW.SOEL.RU СОВРЕМЕННАЯ ЭЛЕКТРОНИКА ◆ № 5 2022 Прикладное применение комплексных нейронных сетей Рис. 1. Пример комплексной функции активации Рис. 2. Схематичное отображение составляющих искусственной КНС Фурье На сегодняшний день нейронные сети имеют очень широкое распро- странение по всему миру. Они также используются во всех сферах деятельности человека и вместе с этим принесли новый способ обработки, анализа и прогнозирования данных. Сергей Куликов Введение Алгоритмы обучения оказали огром- ное влияние на многие области ком- пьютерных наук и нашли множество применений в различных областях, таких как компьютерное зрение, био- информатика, передвижение роботов и распознавание речи. Эти алгоритмы избегают ручного решения конкретных проблем, предпочитая вместо этого «учиться» и адаптироваться в соответ- ствии с набором примеров, называе- мых обучающим набором. Алгоритм обучения состоит из гру- бой модели и метода настройки пара- метров в соответствии с обучающим набором. Нейронные сети являются примером такой модели. Они состоят из множества взаимосвязанных про- стых вычислительных блоков, комби- нация которых приводит к сложной функции. Эта модель была впервые представлена в 1940-х годах и периоди- чески изучалась в последующие годы. Мы же рассмотрим вариацию моде- ли СНН (свёрточная нейронная сеть) с комплексными входными параме- трами. Комплексные числа уже давно доказали свою полезность для обработ- ки изображений (например, преобра- зование Фурье является комплексным) и были рассмотрены в контексте, свя- занном с нейронной сетью. Например, эффекты синхронизации существу- ют в человеческом мозге и, как пред- полагается, играют ключевую роль в зрительной системе. Такие эффекты отсутствуют в основных реализациях нейронных сетей. Так или иначе, ком- плексные нейронные сети имеют боль- шое значение в наше время. В этой работе предлагается вариа- ция модели свёрточной нейронной сети (СНН) с комплексными входны- ми параметрами. Основная часть Предпосылки работы На данный момент практическое применение комплексных нейрон- ных сетей не ограничивается одним коротким списком. Существует множе- ство причин, по которым комплексные сети сильно востребованы. Во многих областях применения, таких как беспроводная связь или обра- ботка звука, где комплексные числа воз- никают естественным образом, суще- ствует корреляция между реальной и мнимой частями сложного сигнала. Такие задачи можно решить только используя области частот, для опреде- ления которых потребуется комплекс- ная нейронная сеть, обычная веще- ственная не подойдёт. Также на данный момент нет другого метода для описа- ния фазовых явлений без комплекс- ных чисел. Если значение величины и фазы для цели обучения известны априори, то разумнее использовать комплексно- значнуюмодель, поскольку в ней огра- ничений вводится больше, чем в моде- ли с реальным значением. Также комплексные нейроны пре- восходят вещественные тем, что они могут обучаться линейно в N-мерном пространстве, в котором они определе- ны. Это очень важно, так как позволя- ет обойтись без нелинейных проекций на пространство, которое определено с большей размерностью. А если оценить эффективность обу- чения одного нейрона, вещественно- го и комплексного, то победит в этом сравнении комплексный нейрон. Это связано с тем, что функциональность одного комплексного нейрона намного больше, нежели у вещественного. Поэ- тому комплексная нейронная сеть того же размера, что и вещественная, будет обучаться быстрее. Основная идея Комплекснозначная или просто ком- плексная нейронная сеть (КНС) – это сеть, которая основывается на ком- плексных числах: комплексными явля- ются входные данные, веса и функция активации. Процесс обучения с комплексным методом (backpropagation) предметной области аналогичен процессу обучения x1 Слой 1 Слой 2 Y = e(x1, x2) n H x2 Биссектриса Трава Песок Вода Z = Σ n w n ⋅ x n «Учебная мишень»