RU62314U1

RU62314U1 - FORMAL NEURON

Info

Publication number: RU62314U1
Application number: RU2006143168/22U
Authority: RU
Inventors: Владимир Юрьевич Анисимов; Эдуард Васильевич Борисов
Original assignee: Владимир Юрьевич Анисимов; Эдуард Васильевич Борисов
Priority date: 2006-12-07
Filing date: 2006-12-07
Publication date: 2007-03-27

Abstract

Формальный нейрон содержит параллельный сумматор и блок вычисления активационной функции. Достижение требуемого технического результата, связанного с повышением точности моделирования и расширения функциональных возможностей, обеспечивается введением блоков формирования значений функций принадлежности на входе параллельного сумматора.The formal neuron contains a parallel adder and an activation function calculation unit. Achieving the required technical result associated with improving the accuracy of modeling and expanding functionality is provided by the introduction of blocks for generating values of membership functions at the input of a parallel adder.

Description

Полезная модель относится к области обработки данных для специальных применений, в частности, для преобразования сигналов и изображений, задаваемых невзвешенными цифровыми кодами во взвешенные коды, и может быть использована для обработки и распознавания сигналов и изображений.The utility model relates to the field of data processing for special applications, in particular, for converting signals and images specified by unweighted digital codes into weighted codes, and can be used for processing and recognition of signals and images.

Известно устройство, содержащее генераторы пилообразного напряжения, аналого-цифровые и цифро-аналоговые преобразователи, элементы ИЛИ, блоки памяти функций принадлежности, блоки определения минимума, блоки сравнения, блоки вычитания из единицы, регистры, счетчик и элементы задержки с соответствующими связями [SU 1791815, G06F 7/58, 1990].A device is known that contains sawtooth generators, analog-to-digital and digital-to-analog converters, OR elements, memory blocks of membership functions, minimum determination blocks, comparison blocks, units of subtraction from a unit, registers, a counter and delay elements with corresponding connections [SU 1791815, G06F 7/58, 1990].

Недостатком устройства являются относительно узкие функциональные возможности.The disadvantage of this device is the relatively narrow functionality.

Известно также устройство, содержащее n параллельных сумматоров, входы и выходы которых являются, соответственно, группой входов и группой выходов устройства, а также n блоков умножения на весовые коэффициенты, при этом, вход i-ого блока умножения на весовые коэффициенты (i=1...N) соединен с выходом i-ого параллельного сумматора, а каждый из выходов j-ого блока умножения на весовые коэффициенты (j=1...N) соединен с соответствующим ему входом взвешенного сигнала i-ого сумматора (i не = j) [А.В.Назаров, А.И.Лоскутов "Нейросетевые алгоритмы прогнозирования и оптимизации систем", Санкт-Петербург, "Наука и Техника", 2003 г., стр.231].It is also known a device containing n parallel adders, the inputs and outputs of which are, respectively, a group of inputs and a group of outputs of the device, as well as n blocks of multiplication by weighting factors, while the input of the i-th block of multiplying by weighting factors (i = 1. ..N) is connected to the output of the i-th parallel adder, and each of the outputs of the j-th block of multiplication by weighting factors (j = 1 ... N) is connected to the corresponding input of the weighted signal of the i-th adder (i not = j ) [A.V. Nazarov, A.I. Loskutov "Neural network prediction algorithms and system optimization ", St. Petersburg," Science and Technology, 2003, p.231].

Наиболее близким по технической сущности к предлагаемому является устройство, содержащее группу умножителей на весовые коэффициенты, входы которых являются входами устройства, параллельный сумматор, входы которого соединены к выходами умножителей на весовые коэффициенты, и блок вычисления активационной функции, вход которого соединен с выходом параллельного сумматора, а выход - является выходом устройства [Редько В.Г. Эволюция, нейронные сети, интеллект: Модели и концепции эволюционной кибернетики. М.: КомКнига, 2006, стр. ис. 5.1.].The closest in technical essence to the proposed one is a device containing a group of multipliers by weights, the inputs of which are the inputs of the device, a parallel adder, the inputs of which are connected to the outputs of the multipliers by weights, and an activation function calculation unit, the input of which is connected to the output of the parallel adder, and the output is the output of the device [Redko V.G. Evolution, Neural Networks, Intelligence: Models and Concepts of Evolutionary Cybernetics. M .: KomKniga, 2006, p. 5.1.].

Недостатком наиболее близкого технического решения является относительно узкие функциональные возможности, обусловленные тем, что, устройство позволяет моделировать работу нейрона в допущении, что весовые коэффициенты для входных сигналов могут быть определены точно, что позволяет использовать их умножителях на весовые коэффициенты. На практике значения весовых коэффициентов не всегда могут быть определены точно и в большинстве случаев их значения являются нечеткими, «размытыми», что снижает точность моделирования и сужает функциональные возможности известного устройства.The disadvantage of the closest technical solution is the relatively narrow functionality, due to the fact that the device allows you to simulate the operation of a neuron under the assumption that the weighting coefficients for the input signals can be determined exactly, which allows their weighting factors to be used. In practice, the values of the weight coefficients can not always be determined accurately and in most cases their values are fuzzy, “blurry”, which reduces the accuracy of the simulation and narrows the functionality of the known device.

Требуемый технический результат заключается в расширении функциональных возможностей и повышении точности моделирования нейрона.The required technical result is to expand the functionality and increase the accuracy of neuron modeling.

Требуемый технический результат достигается тем, что, в устройство, содержащее параллельный сумматор и блок вычисления активационной функции, вход которого соединен с выходом параллельного сумматора, а выход - является выходом устройства, введены группа блоков формирования значений функций принадлежности, входы которых являются входами устройства, а выходы - соединены с соответствующими входами параллельного сумматора.The required technical result is achieved in that, in a device containing a parallel adder and an activation function calculation unit, the input of which is connected to the output of the parallel adder, and the output is the output of the device, a group of units for generating membership function values are input, the inputs of which are device inputs, and outputs - connected to the corresponding inputs of the parallel adder.

На чертеже представлены: на фиг.1 - электрическая структурная схема формального нейрона, на фиг.2 - пример функции принадлежности «примерного равенства»The drawing shows: in Fig.1 is an electrical block diagram of a formal neuron, in Fig.2 is an example of the membership function "approximate equality"

Формальный нейрон (фиг.1) содержит параллельный сумматор 1 и блок 2 вычисления активационной функции, вход которого соединен с выходом параллельного сумматора 1, а выход - является выходом формального нейрона, введены группа блоков 3-1...3-к формирования значений функций принадлежности, входы которых являются входами формального нейрона, а выходы - соединены с соответствующими входами параллельного сумматора.The formal neuron (Fig. 1) contains a parallel adder 1 and an activation function calculation unit 2, the input of which is connected to the output of the parallel adder 1, and the output is the output of the formal neuron, a group of blocks 3-1 ... 3-k of forming the values of the functions are introduced accessories, the inputs of which are the inputs of the formal neuron, and the outputs are connected to the corresponding inputs of the parallel adder.

Параллельный сумматор 1 является стандартным элементом вычислительной техники, а блоки 3-1...3-к формирования значений функций принадлежности и блок 2 вычисления активационной функции охарактеризованы на функциональном уровне. Описываемая форма их реализации предполагает использование программируемого (настраиваемого) многофункционального средства, поэтому ниже при описании работы устройства представляются сведения, подтверждающие возможность выполнения таким средством конкретной предписываемой ему в составе данного устройства функции, в частности, алгоритм или соответствующие математические выражения.Parallel adder 1 is a standard element of computer technology, and blocks 3-1 ... 3-k of forming the values of membership functions and block 2 of the calculation of the activation function are characterized at the functional level. The described form of their implementation involves the use of a programmable (customizable) multifunctional tool, therefore, below, when describing the operation of the device, information is presented confirming the possibility of such a device performing a specific function prescribed to it as part of this device, in particular, an algorithm or corresponding mathematical expressions.

Работает формальный нейрон следующим образом.The formal neuron works as follows.

На входы блоков 3-1...3-к формирования значений функций принадлежности поступают входные (возбуждающие) сигналы. Каждый из этих сигналов преобразуется в соответствующем ему блоке 3-1...3-к в значение функции принадлежности, которое отражает нечеткое представление о соответствии уровня входного сигнала соответствующему эталонному сигналу (элементу изображения), который, в общем случае, может быть нечетким, «размытым» и т.п. Например, когда вместо эталонного сигнала имеется несколько искаженных его образцов.At the inputs of blocks 3-1 ... 3-to the formation of values of membership functions received input (exciting) signals. Each of these signals is converted in the corresponding block 3-1 ... 3-k into the value of the membership function, which reflects a fuzzy idea of the correspondence of the input signal level to the corresponding reference signal (image element), which, in the general case, can be fuzzy, “Blurry”, etc. For example, when instead of a reference signal there are several distorted samples.

На фиг.2 представлен пример функции принадлежности типа «примерного равенствам и графический алгоритм формирования значения функции принадлежности М(х) при значении входного сигнала, равного х.Figure 2 presents an example of a membership function of the type of "approximately equalities and a graphical algorithm for generating the value of the membership function M (x) with the value of the input signal equal to x.

Каждый из блоков 3-1...3-к настроен на свой вид функции принадлежности М₁(х)...Мк(х).Each of the blocks 3-1 ... 3-k is configured to its own type of membership function M ₁ (x) ... Mk (x).

В параллельном сумматоре 1 сформированные значения функций принадлежности суммируются и поступают на вход блока 2 вычисления активационной функции. В простейшем случае - это пороговый блок, при превышении порогового уровня которого на его выходе формируется уровень логической единицы, который сигнализирует о распознавании входного сигнала при нечетком представлении о значении его отдельных элементов. В других случаях это может быть блок с более сложными требуемыми функциональными преобразованиями входного сигнала, например, используемыми в устройстве-прототипе.In the parallel adder 1, the generated values of the membership functions are added up and fed to the input of the activation function calculation unit 2. In the simplest case, this is a threshold block, when the threshold level is exceeded, a logical unit level is formed at its output, which signals the recognition of the input signal with a fuzzy idea of the value of its individual elements. In other cases, it may be a unit with more complex required functional transformations of the input signal, for example, used in the prototype device.

Таким образом, в предложенной устройстве достигается требуемый технический результат, заключающийся в расширении функциональных возможностей и повышении точности моделирования.Thus, the proposed device achieves the required technical result, which consists in expanding the functionality and increasing the accuracy of the simulation.

Claims

A formal neuron containing a parallel adder and an activation function calculation unit, the input of which is connected to the output of a parallel adder, and the output is the output of a formal neuron, characterized in that a group of blocks for generating values of membership functions is introduced, the inputs of which are inputs of a formal neuron, and the outputs are connected to corresponding inputs of the parallel adder.