SU1305732A1 - Устройство дл моделировани нейронных сетей - Google Patents

Abstract

Изобретение относитс  к устройствам дл  моделировани  локальных сетей из нейронов и может быть использовано в системах распознавани  образов и управлени , в частности в системах распознавани  и синтеза речи . Цель изобретени  - повьппение точности воспроизведени . В устройство, содержащее две группы нейроподобных элементов с временной суммацией входного сигнала, ключи и счетчик, подсчитывающий число единиц, введены дополнительный счетчик, подсчитывающий число единиц, и схема сравнени . Благодар  чему выравниваютс  физические веса информационно равнозначных ответов нейроподобных зле- ментов каждой группы, что позвол ет учесть ширину следа траектории запомненной последовательности. I ил. i (Л СО о ел и

Description

1

Изобретение относитс  к области моделировани  нейронных сетей и к области ассоциативных запоминающих устройств и может быть использовано в устройствах распознавани  образов, в частности дл  распознавани  речи.

Цель изобретени  повьшение точности воспроизведени  запомненной в устройстве дл  моделировани  нейронный сетей информации, что достигаетс  за счет учета ширины следа образа и, тем самым, статистических характеристик обучающей выборки. : Устройство позвол ет выровн ть физические веса информационней одинаково значимых О и 1, а также учесть при воспроизведении информацию с аналогичных устройств ;хл  моделировани  нейронных сетей других уровней, если устройство работает в иерархической структуре.

На чертеже приведена блок-схема устройства дл  моделировани  нейрон ных сетей.

Устройство дл  моделировани  ней- pOHHbix сетей содержит блок 1 нейро- подобных элементов, который состоит из первой и второй групп 2 и 3 нейроподобных элементов, перва  групШ

13057322

В режиме обучени  размыкаютс  ключи 6 , за счет чего устран етс  вли ние обратной св зи с выходов нейроподобных элементов 4 и 5. На текущем

, 5 цикле на вход 1I устройства поступает сигнал - потенциал высокого RHH О - низкого уровней, 1 проходит на вход счетчика 7, а О инвертируетс  в инверторе 10 и проходит на вход счетчика 8. 1 с входа счетчика 7 или 8 проходит на его выход и поступает на один из входов схемы 9 сравнени . После сравнени  на выходе схемы 9 сравнени  генерируетс  потенциал высокого или низкого уровней соответственно. Этот потенциал поступает на информационные входы нейроподобных элементов 4 и 5, примером реализации которых может служить устройство дл  моделировани  нейрона при условии замены в нем внутренней синхронизации на внешнюю.

В момент прихода на синхронизирую-- щие входы нейроподобных элементов 4 и 5 синхронизирующего импульса потенциал с информационного входа ней- роподобного элемента. 4 (5) пройдет на вход модели обобп1енного дендрита. Таким образом, на вход блока 1 нейро15

20

25

па

ъ

2 нейроподобных элементов содержит 30 подобных элементов подаетс  входна 

2 И-нейроподобных элементов 4, отличающихс  комбинацией тормозных и возбуждающих св зей - адресом нейроподоб- ного элемента, втора  группа 3 нейрообучающа  последовательность, п пре- дьщушлх символов об ™ ающей последовательности , где п -- длина модели обобщенного дендрита нейроподобных

подобных элементов содержит 2 НЕ-ней-33 элементов - адреса нейроподобных зле- роподобных элементов 5, также отличаю- ментов, осуществл ют адресацию соот- щихс  в адресных комбинаци х, ключи ветствующих нейроподобных элементов 6, первый и второй счетчики 7 и 8 числа единиц, схему 9 сравнени , инвертор 10, вход 1 данных устройства;,

4 и 5. В завис1-шости от типа нейро- подобного элемента 4 или 5, а также

40

от значени  следующего (п+1)-го символа входной (обучаюшей) последовательности , измен ютс  состо ни  нейроподобных элементов 4 и 5, одних - в сторону обучени  (И-элементов 4, И-нейроподобные элементы, 4 45 если следующий символ 1 и НЕ-элевыход 12 устройства, вход 13 выбора режима устройства и вход 14 синхронизации устройства.

ютс  от НЕ-нейроподобных элементов 5 избирательной реакцией на свой тип входного сигнала: И-нейроподобные элементы мен ют свое состо ние при наличии во входной последовательности после текущего и разр дного адреса 1, а НЕ-нейроподобные элементы при наличии в последовательности после текущего и разр дного гшреса О.

Устройство дл  моделировани  нейронных сетей работает следующим образом.

ментов 5 если О), других - в сторону забывани . На следующем цикле осуществл етс  аналогичный процесс , где адресаци  происходит по 50 п С г1мволов - (п-1) предыдущих символов и следующий символ последовательности ,

В режиме воспроизведени  замыкают- 55 с  ключи 6. Дл  зануска воспроизведени  необходимо подавать на вход 11 символы входной последовательности в течение п циклов. Подава  входную последовательность, мы заполн ем мообучающа  последовательность, п пре- дьщушлх символов об ™ ающей последовательности , где п -- длина модели обобщенного дендрита нейроподобных

элементов - адреса нейроподобных зле- ментов, осуществл ют адресацию соот- ветствующих нейроподобных элементов

4 и 5. В завис1-шости от типа нейро- подобного элемента 4 или 5, а также

ентов 5 если О), других - в сторону забывани . На следующем цикле осуществл етс  аналогичный процесс , где адресаци  происходит по п С г1мволов - (п-1) предыдущих символов и следующий символ последовательности ,

В режиме воспроизведени  замыкают- с  ключи 6. Дл  зануска воспроизведени  необходимо подавать на вход 11 символы входной последовательности в течение п циклов. Подава  входную последовательность, мы заполн ем моШ

дели обобщенных дендритов нейроподоб- ных элементов 4 и 5 п-членным отрезком последовательности, тем самым осуществл   адресацию нейроподобных элементов. Затем по этим адресам очи- тьгоаетс  записанна  ранее информаци , котора  осуществл ет дальнейшую адресацию по линии обратной св зи, что позвол ет воспроизвести ВСЮ, запом ненную ранее, последовательность.

Таким образом в течение п циклов работы устройства дл  моделировани  нейронных сетей в модел х обобщенных дендритов нейроподобных элементов 4 и 5 накопитс  п-членный отрезок вход-)5 ной последовательности, адресующий один или больше И-нейроподобных элементов 4 и (или) НЕ-нейроподобных элементов 5. В (п+)-м цикле на вход 11 устройства можно не подавать информации (технические средства дл  этого режима на чертеже не показаны) При этом адресованные И-элементы 4 и НЕ-элементы 5 в зависимости от того, обучены они или нет, ответ т единицей , если они обучены, и промолчат в противном случае. Их ответ пройдет на счетчики 7 и 8. Первый счетчик 7, таким образом, суммирует число И-нейроподобных элементов 4, запомнивщих 30 переход из данного адреса в 1, а второй счетчик 8 суммирует число НЕ- нейроподобных элементов 5, запомнивших переход в О. Накопленные ответы поступают с выходов счетчиков 7 и 8, 35 подсчитьшающих число единиц, на входы схемы 9 сравнени .

По результату на выходе схемы 9 сравнени  можно судить о том, ка20

25

по вл етс  возможность контролировать процесс воспроизведени  извне.

В результате использовани  в устройстве нейроподобных элементов с временной суммацией входного сигнала и включени  в устройство второго счетчика числа единиц и схемы сравне ни , выравниваютс  физические веса информационно - равнозначных ответов элементов 4 и 5, что позвол ет учест ширину следа, траектории запомненной послелювательности (число ответивших И-элементоБ 4 и НЕ-элементов 5) . и тем самым увеличить точность воспрои ведени  запомненной последовательнос ти.

Claims (1)

1. Формула изобретени  Устройство дл  моделировани  нейронных сетей, содержащее две группы по 2 нейроподобных элементов, где п - длина адресного слова, характеризующа  распределение возбуждающих и тормоз щих св зей в модели обобщенного дендрита каждого нейроподобного элемента, две группы по 2 ключей и первьш счетчик числа единиц, выход устройства соединен с информационными входами нейроподобных элементов, синхронизирующие входы которых подклю чены к синхронизирующему входу устрой ства , вход выбора режима которого соединен с управл ющими входами ключей первой и второй групп, информационные входы которых подключены к соответствующим выходам нейроподобных элементов, выходы ключей первой группы соединены соответственно с первыми 2 информационными входами первого счетчика числа единиц, (2 +1)-й

   кой символ запомненной последователь-40 информационный вход которого подклю- ности следующий. В момент поступлени  импульса на вход 14 этот символ поступает на входы моделей обобщенных дендритов нейроподобных элементов 4 и 5. На (п+2)-м цикле указанный сим- 45 вол и (п-1) предыдущих символов заполн ют обобщенные дендриты нейроподобных элементов 4 и 5, формиру  новый адрес, и все повтор етс . Таким образом, удаетс  воспроизвести всю запомненную последовательность.

   50

   чен к входу данных устройства, отличающеес  тем, что, с целью повьш1ени  точности моделировани , в него введены инвертор, второй счетчик числа единиц и схема сравнени , выход которой подключен к выходу устройства, выходы ключей второй группы соединены соответственно с первыми 2 информационными входами второго счетчика числа единиц, ()-й инАормационный вход которого через инвертор подключен к входу данных устройства, выходы первого и второго счетчиков числа единиц

   На вход 11 в режиме воспроизведени  может подаватьс  некотора  информаци . При этом она взаимодейству-55 соединены с входами первой и второй ет с внутренней информацией, облег- групп схемы сравнени  соответствен- ча  или ухудша  воспроизведение, т.е. но.

   5 0 5

   0

   5

   по вл етс  возможность контролировать процесс воспроизведени  извне.

   В результате использовани  в устройстве нейроподобных элементов с временной суммацией входного сигнала и включени  в устройство второго счетчика числа единиц и схемы сравнени , выравниваютс  физические веса информационно - равнозначных ответов элементов 4 и 5, что позвол ет учесть ширину следа, траектории запомненной послелювательности (число ответивших И-элементоБ 4 и НЕ-элементов 5) . и тем самым увеличить точность воспроизведени  запомненной последовательности .

   Формула изобретени  Устройство дл  моделировани  нейронных сетей, содержащее две группы по 2 нейроподобных элементов, где п - длина адресного слова, характеризующа  распределение возбуждающих и тормоз щих св зей в модели обобщенного дендрита каждого нейроподобного элемента, две группы по 2 ключей и первьш счетчик числа единиц, выход устройства соединен с информационными входами нейроподобных элементов, синхронизирующие входы которых подключены к синхронизирующему входу устройства , вход выбора режима которого соединен с управл ющими входами ключей первой и второй групп, информационные входы которых подключены к соответствующим выходам нейроподобных элементов, выходы ключей первой группы соединены соответственно с первыми 2 информационными входами первого счетчика числа единиц, (2 +1)-й

   информационный вход которого подклю-

   чен к входу данных устройства, отличающеес  тем, что, с целью повьш1ени  точности моделировани , в него введены инвертор, второй счетчик числа единиц и схема сравнени , выход которой подключен к выходу устройства, выходы ключей второй группы соединены соответственно с первыми 2 информационными входами второго счетчика числа единиц, ()-й инАормационный вход которого через инвертор подключен к входу данных устройства, выходы первого и второго счетчиков числа единиц

   /J.

   Редактор В.Данко

   Составитель А.Яицков Техред Л.Сердюкова

   Заказ 1455/49 Тираж 673Подписное

   ВНИИПИ Государственного комитета СССР

   по делам изобретений и открытий 113035,.Москва, Ж-35, Раушска  наб,, д. 4/5

   Производственно-полиграфическое предпри тие, г. Ужгород, ул. Проектна , 4

   12

   Корректор А. Обручар