RU2128363C1 - Рефлекторная нейросеть - Google Patents
Рефлекторная нейросеть Download PDFInfo
- Publication number
- RU2128363C1 RU2128363C1 RU95109396A RU95109396A RU2128363C1 RU 2128363 C1 RU2128363 C1 RU 2128363C1 RU 95109396 A RU95109396 A RU 95109396A RU 95109396 A RU95109396 A RU 95109396A RU 2128363 C1 RU2128363 C1 RU 2128363C1
- Authority
- RU
- Russia
- Prior art keywords
- neural network
- neural
- multilevel
- elements
- level
- Prior art date
Links
Images
Abstract
Изобретение относится к области бионики и вычислительной техники и может быть использовано при построении систем распознавания образов. Технический результат, достигаемый при осуществлении изобретения, состоит в повышении точности моделирования биоритмической организации коррекции синаптических весов. Рефлекторная нейросеть содержит уровни нейроэлементов, которые образуют многоуровневые рецепторную, проприоцепторную, санкционирующую и эффекторную нейросети, представляющие многоуровневую иерархическую структуру связей, синхронизированную распределенными во времени сигналами на всех иерархических уровнях. 14 ил.
Description
Предлагаемое изобретение относится к бионике и вычислительной технике и может быть использовано при построении систем распознавания образов.
Известна нейросеть - "персептрон" (Розенблатт Ф. Принципы нейродинамики. М. : Мир, 1965), содержащая входной слой S-элементов, слои A-нейроэлементов, и выходной слой R-элементов, нейроэлементы в заявляемом техническом решении присутствуют. Недостатком является ограничение точности моделирования, т.к. эта нейросеть не отражает иерархическую структуру мозга.
Причина недостатков - нейросеть не моделирует особенности морфологической структуры мозга.
Известна также нейронная сеть для моделирования механизма зрения (Neural Networks for Machine Vision) PCT/US 86/02556 (26.11.86); IPC: G 06 F 15/68; G 09 K 9/46; G 09 K 9/48; G 09 K 9/62, содержащая блоки: монокулярной предобработки сигналов (MP - Monocular Preprocessed Pixel Signals), системы границ контура (BC - Boundary Contour System), системы деталей контура (FC - Feature Contour System), системы распознавания образов (ORS - Object Recognition System), блок системы распознавания образов присутствует в заявляемой рефлекторной нейросети.
Недостатком является ограничение точности моделирования, т.к. эта нейронная сеть не отражает эффекторных структур мозга.
Причина недостатков - в нейронную сеть для моделирования механизма зрения не включены выходные морфологические структуры реальной нервной системы.
Наиболее близкой к предлагаемой рефлекторной нейросети является "Многослойная нейронная сеть обратного распространения" (Ф. Уоссермен. Нейрокомпьютерная техника. М: Мир, 1992 г., стр. 52-69), содержащая входной "нулевой" слой, слои нейроэлементов и выходной слой, нейроэлементы присутствуют в заявляемом техническом решении.
Недостатком является ограничение точности моделирования, т.к. многослойная нейронная сеть не отражает биоритмические свойства реальной нервной системы.
Причина недостатков - "Многослойная нейронная сеть обратного распространения" не моделирует системоорганизующие сигналы реальной нервной системы.
Задача, на решение которой направлено заявляемое изобретение, заключается в повышении точности моделирования структурно-функциональной организации нервной системы при осуществлении рефлекторной деятельности.
Технический результат, достигаемый при осуществлении изобретения, состоит в повышении точности моделирования биоритмической организации коррекции синаптических весов посредством управляющих системоорганизующих сигналов совместно с распределенными во времени сигналами выделения, как приращений в процессе обучения, так и скорректированных синаптических весов в процессе распознавания образов.
Для достижения указанного технического результата в рефлекторной нейросети, содержащей уровни нейроэлементов, отличающейся тем, что в ней нейроэлементы образуют многоуровневые восходящие рецепторную и проприоцепторную нейросети и многоуровневые нисходящие санкционирующую и эффекторную нейросети, представляющие связанную по вертикали иерархическую структуру с восходящими и нисходящими межуровневыми связями, при этом одна группа входов рефлекторной нейросети соединена с входами нейроэлементов первого уровня по вертикали многоуровневой восходящей рецепторной нейросети, нейроэлементы которой связаны с нейроэлементами соответствующих уровней многоуровневой нисходящей эффекторной нейросети, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейроэлементами соответствующих уровней многоуровневой нисходящей санкционирующей нейросети, нейроэлементы многоуровневой восходящей рецепторной нейросети связаны с нейроэлементами многоуровневой нисходящей санкционирующей нейросети с возможностью передачи сигнала коррекции синаптических весов, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейроэлементами многоуровневой нисходящей эффекторной нейросети с возможностью передачи сигнала коррекции синаптических весов, на каждом уровне выходы нейроэлементов многоуровневых восходящей рецепторной и нисходящей санкционирующей нейросетей соединены со входами соответствующих схем сравнения, выходы которых и выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети соединены со входами элементов И-ИЛИ, выходы которых соединены с выходами рефлекторной нейросети, выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети и вторая группа входов рефлекторной нейросети соединены со входами нейроэлементов первого уровня по вертикали многоуровневой восходящей проприоцепторной нейросети, в каждой многоуровневой восходящей нейросети выход каждого нейроэлемента предыдущего уровня соединен со входами нейроэлементов следующего иерархического уровня, в каждой многоуровневой нисходящей нейросети вход каждого нейроэлемента предыдущего уровня соединен с выходами нейроэлементов следующего иерархического уровня, в многоуровневых нейросетях соответствующие нейроэлемента предыдущих уровней по вертикали образуют группы нейроэлементов, входы нейроэлементов предназначены для фазовых синхронизированных сигналов.
Причинно-следственная связь между совокупностью признаков заявляемого изобретения и достигаемым техническим результатом заключается в следующем: введение многоуровневых рецепторной (Р), проприоцепторной (П), санкционирующей (С), эффекторной (Э)- нейросетей, представляющих по вертикали иерархическую структуру группы нейроэлементов (вертикальные группы) с восходящими и нисходящими межуровневыми связями, позволяет повысить точность моделирования.
Рефлекторная нейросеть состоит из четырех многоуровневых нейросетей:
-2-х- восходящих, включающих Р и П нейросети;
-2-х- нисходящих, включающих Э и С нейросети.
-2-х- восходящих, включающих Р и П нейросети;
-2-х- нисходящих, включающих Э и С нейросети.
Алгоритм работы восходящей (Р и П) нейросети на основе вертикальной арифметики (ВА) может быть описан суперпозицией функций с помощью множества ступеней преобразования кодов (нейронов), в виде:
где γjil - l-разряды двоичных позиционных кодов i-синаптических весов на каждом j-уровне;
Δγji - i-приращения синаптических весов на j-уровне;
αjl - l-разряды двоичных позиционных кодов пороговых коэффициентов на j-уровне;
Y - значения выходных сигналов (в виде бинарного кода) нейроэлементов восходящей нейросети на j-уровне (выходные сигналы Р нейросети, либо выходные сигналы Y С нейросети);
Xi - i-значение входных сигналов в виде бинарного кода (сигналы внешнего образа, поступающие на вход Р нейросети, либо сигналы, подаваемые на П нейросеть при обучении X ) ;
NO - размер массива входных сигналов Xi;
Nj - число нейроэлементов на j-том уровне, находящихся в к-той вертикальной группе;
М - сигнал коррекции синаптических весов длится L-циклов со сдвигом до П;
П - сигнал запоминания скорректированных синаптических весов в конце сигнала М;
Φ - l-распределенные во времени фазовые сигналы на (j+1) уровне обусловленные i-фазовыми сигналами j-уровня.
где γjil - l-разряды двоичных позиционных кодов i-синаптических весов на каждом j-уровне;
Δγji - i-приращения синаптических весов на j-уровне;
αjl - l-разряды двоичных позиционных кодов пороговых коэффициентов на j-уровне;
Y
Xi - i-значение входных сигналов в виде бинарного кода (сигналы внешнего образа, поступающие на вход Р нейросети, либо сигналы, подаваемые на П нейросеть при обучении X
NO - размер массива входных сигналов Xi;
Nj - число нейроэлементов на j-том уровне, находящихся в к-той вертикальной группе;
М - сигнал коррекции синаптических весов длится L-циклов со сдвигом до П;
П - сигнал запоминания скорректированных синаптических весов в конце сигнала М;
Φ
Алгоритм работы нисходящей (С, Э) нейросети ВА может быть описан суперпозицией функцией с помощью множества ступеней преобразований кодов (нейронов) в виде:
где Y - значение выходных сигналов нейроэлементов нисходящей нейросети на j-уровне;
YвI - выходной сигнал нейроэлемента восходящей нейросети, поступающий на все нейроэлементы нисходящей нейросети, находящихся в том же временном кванте;
YвII - выходной сигнал нейроэлемента восходящей нейросети для управления сигналом М симметричным нейроэлементом нисходящей сети, находящимся в том же пространственном и временном кванте;
γ - значение синаптических весов нисходящей нейросети на j-уровне.
где Y
YвI - выходной сигнал нейроэлемента восходящей нейросети, поступающий на все нейроэлементы нисходящей нейросети, находящихся в том же временном кванте;
YвII - выходной сигнал нейроэлемента восходящей нейросети для управления сигналом М симметричным нейроэлементом нисходящей сети, находящимся в том же пространственном и временном кванте;
γ
В рефлекторной нейросети осуществляется пространственно-временное квантование.
Рефлекторная нейросеть имеет фазовую систему синхронизации на всех уровнях вертикальной иерархии. Длительность активной фазы на первом уровне равна длительности цикла, длительность активной фазы на втором уровне -1/4 цикла, на третьем уровне -1/16 цикла и соответственно на четвертом уровне -1/64 длительности цикла и т.д.
Для каждой вертикальной группы - К1 (с четырехкратным уровневым квантованием восходящей нейросети) имеем:
- связь каждого рецептора с каждым из четырех нейроэлементов первого уровня равна синаптическому весу 1/2 (максимальный вес равен 1);
- связь каждого нейроэлемента первого уровня К1 с каждым из четырех нейроэлементов второго уровня равна синаптическому весу 1/4.
- связь каждого рецептора с каждым из четырех нейроэлементов первого уровня равна синаптическому весу 1/2 (максимальный вес равен 1);
- связь каждого нейроэлемента первого уровня К1 с каждым из четырех нейроэлементов второго уровня равна синаптическому весу 1/4.
Для К2, образованного четырьмя вертикальными группами (содержащего N1= KNО=4•16=64 нейроэлемента), имеем:
- связь каждого рецептора с каждым из 12 нейроэлементов первого уровня других вертикальных групп в пределах К2 равна синаптическому весу 1/4;
- связь каждого нейроэлемента первого уровня с 48 элементами второго уровня других вертикальных групп в пределах К2 равна синаптическому весу 1/8.
- связь каждого рецептора с каждым из 12 нейроэлементов первого уровня других вертикальных групп в пределах К2 равна синаптическому весу 1/4;
- связь каждого нейроэлемента первого уровня с 48 элементами второго уровня других вертикальных групп в пределах К2 равна синаптическому весу 1/8.
Для К3, образованного вертикальными группами четырех К2 (содержащего N2= K2NО=42•16=256 нейроэлемента), имеем:
- связь каждого нейроэлемента первого уровня с 196 нейроэлементами второго уровня вертикальных групп других К2 в пределах К3 равна синаптическому весу 1/16.
- связь каждого нейроэлемента первого уровня с 196 нейроэлементами второго уровня вертикальных групп других К2 в пределах К3 равна синаптическому весу 1/16.
На основании изложенного составляется таблица связей нейроэлементов на всех иерархических уровнях рефлекторной нейросети.
Сущность предлагаемого изобретения поясняется чертежами, где на фиг. 1 - блок схема рефлекторной нейросети, на фиг. 2 - Р и Э- нейросети, на фиг. 3 - вертикальная группа восходящей Р-нейросети, на фиг. 4 - вертикальная группа нисходящей нейросети, на фиг. 5 - П и С- нейросети, на фиг. 6 - нейроэлемент, на фиг. 7 - узел суммирования синапсов, на фиг. 8 - четырехвходовый преобразователь кодов, на фиг. 9 - шестнадцативходовой преобразователь кодов, на фиг.10 - схема сравнения результатов вычисления Р и С- нейросетей на первом уровне, на фиг. 11 - схема сравнения результатов вычисления Р и С- нейросетей на втором уровне, на фиг. 12 - восьмидесятивходовой преобразователь кодов, на фиг. 13 - блок управления, на фиг. 14 - временная диаграмма работы рефлекторной нейросети.
Рефлекторная нейросеть (фиг. 1) содержит 11 - 116 - входы приема значений сигналов Xi внешнего образа в виде бинарного кода; 21 -216 - входы приема значений сигналов X (желаемого образа - эталона); 31 - 316 - выходы выдачи сигналов Yj в виде бинарного кода; Р-сеть (рецепторная нейросеть); С-сеть (санкционирующая нейросеть); П-сеть - проприоцепторная нейросеть; Э-сеть (эффекторная нейросеть); 19 - схемы сравнения результатов вычисления Р и С- нейросетей на первом и втором уровнях; 20 - узел выделения результатов вычисления Yj;
Φ ∈ {П, М, Из, ТИ,"O", γ, Δγ, α} - вектор управляющих и информационных сигналов;
Φ - распределенная во времени фаза нулевого уровня (время одного функционального цикла) (фиг. 14);
Φ - распределенная во времени l-фаза первого уровня
Φ - распределенная во времени l-фаза второго уровня обусловлена i-ой фазой первого уровня
При этом Р-нейросеть связана с С-нейросетью и П-нейросеть связана с Э-нейросетью для передачи сигнала коррекции синаптических весов М, вырабатываемом на основе выходных сигналов симметричных (находящихся в одном и том же пространственно- временном кванте) нейроэлементов Р и П- нейросетей.
Φ ∈ {П, М, Из, ТИ,"O", γ, Δγ, α} - вектор управляющих и информационных сигналов;
Φ
Φ
Φ
При этом Р-нейросеть связана с С-нейросетью и П-нейросеть связана с Э-нейросетью для передачи сигнала коррекции синаптических весов М, вырабатываемом на основе выходных сигналов симметричных (находящихся в одном и том же пространственно- временном кванте) нейроэлементов Р и П- нейросетей.
Р-нейросеть (фиг. 2) содержит: 11 - 116 - информационные входы приема значений сигналов рецепторов Xi внешнего образа; 51 - 54 - группы элементов И для выделения распределенной во времени фазой Φ входных сигналов Xi; 61 - 664 - нейроэлементы первого уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ ; 71 - 7256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ .
Э-нейросеть (фиг.2) содержит: 81 - 8256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ ; 91 - 964 - нейроэлементы первого уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ ; 101 -1016 - элементы И-ИЛИ для выделения фазой Φ выходных сигналов; 11 - схема сравнения результатов вычисления Р и С- нейросетей на первом уровне, синхронизированные распределенными во времени фазовыми сигналами 12 - схема сравнения результатов вычисления Р и С- нейросетей на втором уровне, синхронизированные распределенными во времени фазовыми сигналами
В Р-нейросети (фиг. 2) жирными линиями выделена вертикальная группа К1 (фиг. 3), включающая: 11 - информационный вход приема сигнала Xi; 51 - элемент И, синхронизированный распределенным во времени фазовым сигналом Ф00, обеспечивает связь рецептора 11 синаптическим весом γ = 1/2 со входами нейроэлементов 61 - 64 первого уровня, синхронизированных распределенных во времени фазами Φ -Φ , в свою очередь каждый из этих нейроэлементов связан синаптическим весом γ = 1/4, со входами нейроэлементов 71 - 74,..., 713 - 716- второго уровня, синхронизированных распределенных во времени фазами Φ -Φ соответственно.
Э-нейросеть (фиг.2) содержит: 81 - 8256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ
В Р-нейросети (фиг. 2) жирными линиями выделена вертикальная группа К1 (фиг. 3), включающая: 11 - информационный вход приема сигнала Xi; 51 - элемент И, синхронизированный распределенным во времени фазовым сигналом Ф00, обеспечивает связь рецептора 11 синаптическим весом γ = 1/2 со входами нейроэлементов 61 - 64 первого уровня, синхронизированных распределенных во времени фазами Φ
Связи К2 нейроэлементов (11) составляют: выходы рецепторов 12- 14 связаны синаптическими весами γ = 1/4 с входами нейроэлементов 61- 64 (фиг. 2); выходы нейроэлементов 65- 616 связаны синаптическими весами γ = 1/8 с входами нейроэлементов 71- 764 соответственно (на чертеже не показаны).
Связи К3 нейроэлементов (11) составляют: выходы нейроэлементов 617- 664 связаны синаптическими весами γ = 1/16 со входами нейроэлементов 71-7256 соответственно.
Таким образом, нейроэлементы одной вертикальной группы Р-нейросети (фиг. 2), объединенные связями, составляют К1-группу нейроэлементов горизонтальной иерархии. При этом четыре вертикальные группы Р-нейросети, объединенные связями, составляют К2. В свою очередь вертикальные срезы, составляющие четыре К2 и объединенные связями, составляют К3 и т.д.
Вертикальная группа нисходящей нейросети К1 приведена на фиг. 4 (не описан, т.к. вертикальная группа нисходящей нейросети - отражение вертикальной группы восходящей нейросети).
П-нейросеть (фиг. 5) содержит: 21 - 216 - информационные входы приема сигналов X (эталона), 131 - 134 - группа элементов И для выделения распределенной во времени фазой Φ входных сигналов X ; 141 - 1464 - нейроэлементы первого уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ ; 151 - 15256 - нейроэлементы второго уровня, синхронизированные фазовыми распределенными во времени сигналами Φ -Φ .
С-нейросеть (фиг. 5) содержит: 41 - 416 - выходы результатов вычислений; 161 - 16256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ ; 171 - 1764 - нейроэлементы первого уровня, синхронизированные распределенными во времени фазовыми сигналами Φ -Φ ; 181 - 1816 - элементы И-ИЛИ выделены распределенной во времени фазой Φ результатов С-нейросети.
С-нейросеть (фиг. 5) содержит: 41 - 416 - выходы результатов вычислений; 161 - 16256 - нейроэлементы второго уровня, синхронизированные распределенными во времени фазовыми сигналами Φ
Нейроэлемент (Пат. SU 1831715A3, кл. G 06 G 7/60, Бюл. N 28, 30.07.93) (фиг. 6) содержит: 21 - элемент ИЛИ; 22, 25 - Д триггера; 23 - регистр с параллельно-последовательной записью информации; 24 - сдвигающий регистр, 26 - трехвходовой сумматор; 27 - элемент И-ИЛИ; 28 - элементы И; 29 - блоки синаптических весов; 30 - узел суммирования синапов; 311 - 31N - входы приема значений входных сигналов; 321 - 32N - входы приема значений синапсов (γ); 331 - 33N - входы приема приращений синапсов (Δγ); 34 - выход выдачи результата нейроэлемента; 351 - 35N - входы приема скорректированных синаптических весов (γ).
Узел суммирования синапсов (фиг. 7) содержит 36 - элементы И; 37 - сдвигающий регистр порогового коэффициента; 38 - преобразователь равновесных кодов в позиционные коды, может быть выполнен: 4-входовым (фиг. 8) для нейроэлементов 61 - 664, 141 - 1464; 16-входовым (фиг. 9) для нейроэлементов 71 - 7256, 81 - 8256, 151 - 15256, 161 - 16256; 80-ти входовым (фиг. 12) для нейроэлементов 91 - 964, 171 - 1764; 39 - многоразрядный сумматор; 40 - элемент НЕ; 41 - Д-триггер; 42 - регистр с параллельной записью информации.
Узел суммирования синапсов (фиг. 7) содержит 36 - элементы И; 37 - сдвигающий регистр порогового коэффициента; 38 - преобразователь равновесных кодов в позиционные коды, может быть выполнен: 4-входовым (фиг. 8) для нейроэлементов 61 - 664, 141 - 1464; 16-входовым (фиг. 9) для нейроэлементов 71 - 7256, 81 - 8256, 151 - 15256, 161 - 16256; 80-ти входовым (фиг. 12) для нейроэлементов 91 - 964, 171 - 1764; 39 - многоразрядный сумматор; 40 - элемент НЕ; 41 - Д-триггер; 42 - регистр с параллельной записью информации.
Четырехвходовой преобразователь кодов (фиг. 8) содержит: 2l - входы приема равнозначных кодов; 43 - сумматор по модулю два; 44 - элементы И; 45 - элемент ИЛИ; 2l-2l+2 - выходы выдачи результата преобразователя в позиционном коде.
16-ти входовой преобразователь кодов (фиг. 9) содержит: 2l - входы приема равновесных кодов; 46 - четырехвходовые преобразователи кодов в позиционном коде; 47 - полусумматор; 48 - элемент ИЛИ; 2l-2l+4 - выходы выдачи результата преобразователя в позиционном коде.
Схема сравнения результатов вычислений Р и С - нейросетей на первом уровне (фиг. 10) содержит: Y -Y - входы приема результатов вычислений нейроэлементов 61 - 664 Р-нейросети; Y -Y - входы приема результатов вычислений нейроэлементов 171 - 1764- С-нейросети; 49 - элементы И, синхронизированные фазовыми распределенными во времени сигналами Φ -Φ ; 50 - элементы ИЛИ; 51 - сдвигающий регистр порогового коэффициента; 52 - преобразователи кодов (16-входовой фиг. 9); 53 - многоразрядный сумматор; 54 - элемент НЕ; 55 - регистр с параллельной записью информации; 56 - Д-триггер; 57 - выход выдачи сигнала разрешения на выделение выходного сигнала Э-нейросети.
Схема сравнения результатов вычислений Р и С - нейросетей на втором уровне (фиг. 11) содержит: Y -Y - входы приема результатов вычислений нейроэлементов 71 - 7256 Р-нейросети; Y -Y - входы приема результата вычислений нейроэлемента 161 - 16256- С-нейросети; 58 - элементы И, синхронизированные фазовыми распределенными во времени сигналами Φ -Φ ; 59 - элементы ИЛИ; 60 - сдвигающий регистр порогового коэффициента; 61 - преобразователь кодов (16-ти входовой фиг. 9); 62 - многоразрядный сумматор; 63 - элемент НЕ; 64 - регистр с параллельной записью информации; 65 - Д-триггер; 66 - выход выдачи сигнала разрешения на выделение выходного сигнала Э-нейросети.
80-ти входовой преобразователь кодов содержит: 2l - входы приема равновесных кодов; 67 - 16-ти входовые преобразователи кодов; 68 - регистры с параллельной записью информации; 69 - трехвходовые сумматоры; 70 - многоразрядный сумматор; 2l - 2l+6 - выходы выдачи результата преобразователя в позиционном коде.
Блок управления (фиг. 13) содержит: 71 - дешифратор сигналов управления Из И, У"0"; 72, 74 - двоичные счетчики; 73 - дешифратор формирования фаз (Фij); 75 - элементы И-ИЛИ; 76 - Д-триггер; 77 - элемент задержки на длительность импульса П (подкрепление); М' - вход приема внешнего сигнала начала М; ТИ - вход приема тактовых импульсов; М - выход выдачи сигнала М; П - выход выдачи элементом 75 сигналов П с различной длительностью и скважностью между сигналами (настраивается коммутацией в т. a1-b1...an-bn).
Рассмотрим работу рефлекторной нейросети. Предварительно сбрасываются в нуль регистры, триггеры рефлекторной нейросети сигналом Y"0". Затем записываются в регистры 23 нейроэлементов (фиг. 5) в соответствии с таблицей связей рефлекторной нейросети начальные значения синапсов γo. В регистры 37 нейроэлементов, а также в регистры 51, 60 схем сравнения (фиг. 10, 11) записываются начальные значения порогов в дополнительном коде. В процессе обучения на входы 11-116 рефлекторной нейросети (фиг. 1, 2) поступают сигналы Xi распознаваемого образа, на входы 21-216 (фиг. 1, 5) поступают сигналы X желаемого образа (эталона), на входы 33i-33N нейроэлементов (фиг. 6) подаются приращения синаптических весов Δγ.
В основу обучения положена биоритмическая организация коррекции синаптических весов по сигналам мотивации (длится L циклов до поступления сигнала П совместно с распределенными во времени фазовыми сигналами Φ выделения приращения синапсов Δγ в каждом нейроэлементе (фиг. 6) Р,П,С,Э - нейросети (фиг. 1, 2, 4). При этом, если выходной сигнал Yj нейроэлемента (фиг. 6) отличен от нуля, то в каждом из блоков 29 элементами И 20 выдается приращение сигналов Δγ по сигналам М и активному фазовому сигналу Φ , а если выходной сигнал Yj=0, то приращения не выдаются, т.к. блокируются элементы И 20 этим выходным сигналом. В первом цикле в каждом из блоков 29 в сумматорах 26 осуществляется поразрядное суммирование приращений Δγ со значением синаптических весов γ, поступающих из регистров 23 через открытые элементы И-ИЛИ 27 сигналом с нулевого выхода триггера 22. Результаты сумматора 26 записываются поразрядно через открытые элементы И 28 и регистры 24 в каждом из блоков 29. В конце цикла триггер 22 устанавливается в единичное состояние по импульсу записи знакового разряда Изн. Во всех последующих (L-1) циклах в сумматорах 26 блоков 29 осуществляется суммирование приращений Δγ со значением синаптических весов γ, поступающих из регистра 24 через открытые элементы И-ИЛИ 27, сигналом единичного выхода триггера 22. В момент поступления сигнала П на вход элемента И 21, выдается последним сигнал перезаписи параллельным кодом информация из регистра 24 в регистр 23 с последующим поразрядным стиранием информации в регистрах 24, т.к. блокируются схемы И 28 сигналом П.
В основу обучения положена биоритмическая организация коррекции синаптических весов по сигналам мотивации (длится L циклов до поступления сигнала П совместно с распределенными во времени фазовыми сигналами Φ
Результаты γj+ΣΔγi из сумматоров 26 каждого блока 29, поступают на входы элементов И блока 30 (фиг. 6, 7). Сформированные элементами И в блоке 30 равновесные разрядные произведения входных сигналов Xi и синаптических весов γj параллельно-поразрядно суммируются в сумматорах 38 и 39 со значением пороговых коэффициентов θ поступающих из выходов регистра 37. Так в первом такте на выходе сумматора 39 (фиг. 7) имеем разрядную сумму которая записывается параллельным кодом со сдвигом в сторону младших разрядов в регистр 42 (фиг. 7).
Во втором такте в сумматоре 39 формируется вторая разрядная сумма в виде:
В l-том такте на входе сумматора имеем:
При достижении суммы синаптических весов порогового уровня
происходят изменения знака результата вычисления. При этом по импульсу знака Изн устанавливает триггер 41 в единичное состояние и результат выдается на выход 34 в виде Yj=1 и наоборот, если
то на выходе 34, имеем Yj=0.
В l-том такте на входе сумматора имеем:
При достижении суммы синаптических весов порогового уровня
происходят изменения знака результата вычисления. При этом по импульсу знака Изн устанавливает триггер 41 в единичное состояние и результат выдается на выход 34 в виде Yj=1 и наоборот, если
то на выходе 34, имеем Yj=0.
При обучении по сигналу М совместно с распределенными во времени фазовыми сигналами Φ (фиг. 14) корректируются синаптические веса в нейроэлементах 61-664, 71-7256 Р-нейросети (фиг. 2) и нейроэлементах 141-1464, 151-15256 П-нейросети (фиг. 5), у которых выходные сигналы Yj ≠ 0.
По сигналу П фиксируются скорректированные синаптические веса только у тех нейроэлементов у которых выходные сигналы Yj ≠ 0, а в остальных нейроэлементах синаптические веса остаются неизменными.
По сигналу П фиксируются скорректированные синаптические веса только у тех нейроэлементов у которых выходные сигналы Yj ≠ 0, а в остальных нейроэлементах синаптические веса остаются неизменными.
Особенностью рефлекторной нейросети является то, что в режиме обучения выходные сигналы Y -Y , Y -Y нейроэлементов 61-664, 71-7256 Р-нейросети (фиг. 1, 2) и нейроэлементах 141-1464, 151-15256 П-нейросети (фиг. 1, 5) разрешают формирование сигналов М симметричных (находящихся в одном и том же пространственно-временном кванте) нейроэлементов 91-964, 81-8256 Э-нейросети (фиг. 2) и нейроэлементов 171-1764, 161-16256 С-нейросети (фиг. 5) соответственно. При этом сигналы М вырабатываются только у тех нейроэлементов Э и С- нейросетей, где воспринимаемые сигналы Y -Y , Y -Y отличны от нуля.
Одновременно выходные сигналы Y -Y , Y -Y нейроэлементов 61-664, 71-7256 Р-нейросети и нейроэлементов 141-1464, 151-15256 П-нейросети подаются по распределенным фазовым сигналам Φ (фиг. 14) на входы нейроэлементов 91-964, 81-8256 Э-нейросети, нейроэлементов 171-1764, 161-16256 первого и второго уровня соответственно, находящихся в одном и том же временном кванте.
Процедуру обучения необходимо повторить столько раз в каждой фазе Φ пока выходные сигналы Y -Y нейроэлементов 71-7256 Р-нейросети будут совпадать с выходными сигналами Y -Y нейроэлементов 161-16256 С-нейросети на втором уровне соответственно.
Сравнение результатов нейроэлементов Р и С- нейросетей (фиг. 2) осуществляется схемами 11, 12 по распределенным во времени фазовым сигналам Φ первом и втором уровнях. Точность сравнения задается записанными в регистры 51, 60 схем сравнения (фиг. 10, 11) порогами на первом и втором уровнях соответственно.
Результаты сравнения в схемах 11, 12 выходных сигналов нейроэлементов Р и С- нейросетей (фиг. 2) служат критерием для разрешения выдачи нейроэлементами Э-нейросети выходных сигналов.
В режиме распознавания образов на входы 11-116 поступают сигналы Xi, а выходные сигналы нейроэлементов Э-нейросети подаются по цепи обратной связи на входы нейроэлементов П-нейросети (фиг. 1, 2). При этом нейроэлементы первого уровня Р, П, С,Э-нейросетей (фиг. 2, 5), находящиеся в активных фазах (фиг. 14) образуют временной плоскостной срез запоминания пространственно-временного образа в общем виде. Нейроэлементы второго уровня, находящиеся в активных фазах Φ -Φ , уточняют отдельные детали пространственно-временного представления образа первого уровня и т.д. Т.о. степень точности представления пространственно-временного образа рефлекторной нейросети определяется последним иерархическим уровнем.
Объединение всех уровней иерархии рефлекторной нейросети дает точное представление пространственно-временного образа.
Введение в устройство новых элементов, соединенных соответствующим образом позволяет повысить точность моделирования реальной структурно-функциональной организации нервной системы за счет биоритмической коррекции синаптических весов, синхронизации нейроэлементов на всех уровнях нейросети, а также благодаря уточнения пространственно-временного образа на всех иерархических уровнях рефлекторной нейросети.
Claims (1)
- Рефлекторная нейросеть, содержащая уровни нейтроэлементов, отличающаяся тем, что в ней нейроэлементы образуют многоуровневые восходящие рецепторную и проприоцепторную нейросети и многоуровневые нисходящие санкционирующую и эффекторную нейросети, представляющие связанную по вертикали иерархическую структуру с восходящими и нисходящими межуровневыми связями, при этом одна группа входов рефлекторной нейросети соединена с входами нейроэлементов первого уровня по вертикали многоуровневой восходящей рецепторной нейросети, нейроэлементы которой связаны с нейтроэлементами соответствующих уровней многоуровневой нисходящей эффекторной нейросети, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейтроэлементами соответствующих уровней многоуровневой нисходящей санкционирующей нейросети, нейроэлементы многоуровневой восходящей рецепторной нейросети связаны с нейроэлементами многоуровневой нисходящей санкционирующей нейросети с возможностью передачи сигнала коррекции синаптических весов, нейроэлементы многоуровневой восходящей проприоцепторной нейросети связаны с нейроэлементами многоуровневой нисходящей эффекторной нейросети с возможностью передачи сигнала коррекции синаптических весов, на каждом уровне выходы нейроэлементов многоуровневых восходящей рецепторной и нисходящей санкционирующей нейросетей соединены со входами соответствующих схем сравнения, выходы которых и выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети соединены со входами элементов И-ИЛИ, выходы которых соединены с выходами рефлекторной нейросети, выходы нейроэлементов многоуровневой нисходящей эффекторной нейросети и вторая группа входов рефлекторной нейросети соединены со входами нейроэлементов первого уровня по вертикали многоуровневой восходящей проприоцепторной нейросети, в каждой многоуровневой восходящей нейросети выход каждого нейроэлемента предыдущего уровня соединен со входами нейроэлементов следующего иерархического уровня, в каждой многоуровневой нисходящей нейросети вход каждого нейроэлемента предыдущего уровня соединен с выходами нейроэлементов следующего иерархического уровня, в многоуровневых нейросетях соответствующие нейроэлементы предыдущих уровней по вертикали образуют группы нейроэлементов, входы нейроэлементов предназначены для фазовых синхронизированных сигналов.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU95109396A RU2128363C1 (ru) | 1995-06-06 | 1995-06-06 | Рефлекторная нейросеть |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
RU95109396A RU2128363C1 (ru) | 1995-06-06 | 1995-06-06 | Рефлекторная нейросеть |
Publications (2)
Publication Number | Publication Date |
---|---|
RU95109396A RU95109396A (ru) | 1997-05-10 |
RU2128363C1 true RU2128363C1 (ru) | 1999-03-27 |
Family
ID=20168621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
RU95109396A RU2128363C1 (ru) | 1995-06-06 | 1995-06-06 | Рефлекторная нейросеть |
Country Status (1)
Country | Link |
---|---|
RU (1) | RU2128363C1 (ru) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008072994A1 (fr) * | 2006-12-13 | 2008-06-19 | Evgeny Nikolaevich Zakharov | Élément neuronal |
RU2597504C2 (ru) * | 2011-08-16 | 2016-09-10 | Квэлкомм Инкорпорейтед | Способ и устройство для нейронного временного кодирования, обучения и распознавания |
-
1995
- 1995-06-06 RU RU95109396A patent/RU2128363C1/ru active
Non-Patent Citations (3)
Title |
---|
. Ф.Розенблатт. Принципы нейродинамики. - М.: Мир, 1965, с.242 - 247. Каляев А.В., Галуев Г.А. Нейрокомпьютерный СБИС-Системы параллельной обработки зрительной информации. Электронное моделирование. - Киев: Наукова Думка, 1989, N3, с.3 - 6. * |
Головкин Б.А. Параллельные вычислительные системы. - М.: Наука, 1980, с.42 - 44, 354. Д.Ивенс. Системы параллельной обработки. - М.: Мир, 1985. С.25, 35. Фет Я.И. Параллельные процессоры для управляющих систем. - М.: Энергоиздат, 1981, с.48 - 49, 97, 127. * |
Ф.Уоссермен. Нейрокомпьютерная техника. - М.: Мир, 1992, с.52 - 69. * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008072994A1 (fr) * | 2006-12-13 | 2008-06-19 | Evgeny Nikolaevich Zakharov | Élément neuronal |
RU2597504C2 (ru) * | 2011-08-16 | 2016-09-10 | Квэлкомм Инкорпорейтед | Способ и устройство для нейронного временного кодирования, обучения и распознавания |
Also Published As
Publication number | Publication date |
---|---|
RU95109396A (ru) | 1997-05-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hwang et al. | Query-based learning applied to partially trained multilayer perceptrons | |
Takefuji et al. | An artificial hysteresis binary neuron: A model suppressing the oscillatory behaviors of neural dynamics | |
US5249259A (en) | Genetic algorithm technique for designing neural networks | |
Ranjithan et al. | Neural network‐based screening for groundwater reclamation under uncertainty | |
Bishop | Exact calculation of the Hessian matrix for the multilayer perceptron | |
JP2615422B2 (ja) | 時系列学習神経回路素子およびそれを用いた時系列学習神経回路 | |
Yu et al. | Traffic prediction using neural networks | |
Chan et al. | Neural network-based dynamic channel assignment for cellular mobile communication systems | |
Lehmen | Factors influencing learning by backpropagation | |
Nakatsuji et al. | Development of a self-organizing traffic control system using neural network models | |
Park et al. | Applications of neural networks in high-speed communication networks | |
JPH0296707A (ja) | 焦点検出装置 | |
Pal et al. | Selection of optimal set of weights in a layered network using genetic algorithms | |
Chiang et al. | A divide-and-conquer methodology for modular supervised neural network design | |
RU2128363C1 (ru) | Рефлекторная нейросеть | |
Bremermann et al. | How the brain adjusts synapses—maybe | |
Morgan et al. | Factoring networks by a statistical method | |
Abe et al. | Recognition Can Be Synthesized | |
Ghorbani et al. | Incremental communication for multilayer neural networks | |
JP3262340B2 (ja) | 情報処理装置 | |
EP0577694B1 (en) | A neural network and training method | |
Edmund et al. | Traffic prediction using neural networks | |
JP2580826B2 (ja) | フィードバック神経細胞モデル | |
Li et al. | An enhanced training algorithm for multilayer neural networks based on reference output of hidden layer | |
Luk et al. | Parametrised neural network design and compilation into hardware |