WO2008072994A1 - Neuron element - Google Patents

Neuron element Download PDF

Info

Publication number
WO2008072994A1
WO2008072994A1 PCT/RU2006/000668 RU2006000668W WO2008072994A1 WO 2008072994 A1 WO2008072994 A1 WO 2008072994A1 RU 2006000668 W RU2006000668 W RU 2006000668W WO 2008072994 A1 WO2008072994 A1 WO 2008072994A1
Authority
WO
WIPO (PCT)
Prior art keywords
npe
input
unit
state
output
Prior art date
Application number
PCT/RU2006/000668
Other languages
French (fr)
Russian (ru)
Inventor
Evgeny Nikolaevich Zakharov
Original Assignee
Evgeny Nikolaevich Zakharov
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Evgeny Nikolaevich Zakharov filed Critical Evgeny Nikolaevich Zakharov
Priority to PCT/RU2006/000668 priority Critical patent/WO2008072994A1/en
Publication of WO2008072994A1 publication Critical patent/WO2008072994A1/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks

Definitions

  • the invention relates to cybernetics and can be used as a cell of neural networks when creating devices for evaluating the functioning of various systems, including open complex systems, evaluating the degree of optimality of various solutions in adaptive information-control systems.
  • NPE neural-like element
  • the specified device allows you to create neural networks (HC) to solve certain problems associated with the generalization of the information obtained on the basis of training HC to determine the relationship between known input values and unknown outputs. To do this, the user must prepare a set of training data representing are examples of input actions and their corresponding outputs.
  • HC neural networks
  • the number of observations to be included in the learning process should be an order of magnitude greater than the number of connections in the network, while increasing the number of input signals the number of required observations is growing nonlinearly.
  • the technical result of the invention is the possibility of creating a NPE, allowing to implement on its basis a neural network for solving a class of problems of evaluating the functioning of open complex systems (OCC) and assessing the degree of optimality of various solutions by providing the possibility of constructing a model of the studied system, both hierarchical and recurrent, taking into account various the initial and working state of its elements and their functioning options, taking into account when modeling neural-like elements of individual elements of the ka system to the level of their self-sufficiency, and exposure to external signals.
  • OCC open complex systems
  • the neural-like element contains an input unit including a first random number generator, the number of outputs of which is equal to the number of inputs of the input unit, the signal from each output of the first random number generator determines the change in the value of the corresponding input signal according to the law and within the limits determined by the type and the error of its assignment, the unit for setting and normalizing weighting coefficients, the number of weight elements of which is equal to the number of inputs of the input unit, the weight setting in the weight elements is carried out I, using the second random number generator according to the law and within the limits determined by the type and error of its assignment, normalize each weight coefficient by dividing each weight by the sum of all the weights of the weight elements, and each normalized weight coefficient sets the corresponding synaptic connection of the outputs of the input block and the inputs of the block calculation of signal parameters, the outputs of which are connected to the inputs of the adder of signal parameters, the output of which is connected to the first input of the calculation unit of the input part of the state of the NP
  • the task is also achieved by the fact that a switch can be inserted between the output of the unit for calculating the input part of the NPE state and the input of the unit for calculating the state of NPE, the second output of the switch is connected to the input of the input block of deterministic dependencies, the output of which is connected to the first output of the switch, the signal is determined by the known functional dependence of the signal, which determines the input part of the state of the NPE, from the input signals.
  • the drawing shows a block diagram of the NPE.
  • NPE consists of an input block I 5 containing the first random number generator 2, operating by command of the control unit 3, a unit for setting and normalizing weighting coefficients 4, also containing a second random number generator 5, operating by command of the control unit 3, and a block for calculating input signal parameters 6 , adder parameters of the input signals 7, the limiter of the proportion of signals 8 with its single-channel random number generator 9, the unit for calculating the input part of the state of NPE 10, the unit for setting the internal state of NPE H 5 of the second single-channel random generator 12, a unit for calculating the internal part of the state of the NPE 13, a unit for calculating the state of the NPE 14, a memory unit 15, an analyzer for changing the state of the NPE 16, a unit for setting the accuracy of self-learning of the neural network 17, a block of deterministic dependencies 18, a switch 19, an output block 20, and clock generator 21.
  • the neural-like element contains an input unit including a first random number generator, the number of outputs of which is equal to the number of inputs of the input unit, the signal from each output of the first random number generator determines the change in the value of the corresponding input signal according to the law and within the limits determined by the form and the error of its assignment, the unit for setting and normalizing weighting coefficients, the number of weight elements of which is equal to the number of inputs of the input unit, setting the weight in the weight elements is carried out are carried out by means of a second random number generator in accordance with the law and within the limits determined by the type and error of its assignment, each weighting coefficient is normalized by dividing each weight by the sum of all weights of the weight elements, and each normalized weighting factor sets the corresponding synaptic connection of the outputs of the input block and the inputs of the block calculation of signal parameters, the outputs of which are connected to the inputs of the adder parameters signals, the output of which is connected to the first input of the unit for
  • a switch is installed, installed between the output of the unit for calculating the input part of the NPE state and the input of the unit for calculating the state of NPE, the second output of the switch is connected to the input of the input unit of deterministic dependencies, the output of which is connected to the first output a switch, the magnitude of the signal generated by it being determined by the known functional dependence of the signal determining the input part of the NPE state on the input signals.
  • the first random number generator (RNG1) 2 operating on command of the control unit (BU) 3 and issuing the values Kgcclj, multiplying by which the amplitudes of the input analog signals allows you to vary their amplitudes according to a given law (for example, normal, uniform, etc.) and specified boundaries in the range from 0 to 1.
  • a given law for example, normal, uniform, etc.
  • the distribution law and the boundaries of the amplitudes are determined by the type and errors of the values. For example, the law of changing the value and / or weight of an input signal, i.e. the type of signal assignment and / or its weight is determined. Or, for example, when obtaining a numerical determinate estimate of certain quantities (input signals, their weights, share limiter, internal state), this is determined by the measurement error, calculation, etc., and the range can be determined by the possible minimum and maximum values of these quantities .
  • the distribution law can be determined, for example, by the law of distribution of opinions of experts, etc., and the amplitude - by the minimum and maximum estimates obtained during the examination.
  • the second random number generator (GCCH2) 5 also works on command BU 3 and outputs the multiplication value Kgcch2 s for which values of balance weight elements can vary their amplitude by a given law and within certain limits in the range from 0 to 1.
  • the calculation of each normalized weight W * ; is carried out by dividing the weight of a given signal by the sum of the weights of all weight elements.
  • the signals are fed to the adder parameters of the input signals (SP BC) 7, where the total parameter of the input signals is calculated: .
  • the unit for setting the internal state of the NPE determines the value corresponding to the internal state of the NPE, C ⁇ b ..
  • RNP4 12 gives the value of Kgg4, multiplying by which the amplitude values of the magnitude of the eigenstate of the NPE allows you to vary the amplitude C cob. according to a given law and within given boundaries in the range from 0 to 1.
  • the unit for setting the accuracy of self-study of the neural network (BUT) 17 implements setting the accuracy of the self-learning of the neural network ⁇ , which allows, after starting at least one of the NPEs of the neural network, where they operate, transients caused by the intrinsic state of the NPE or changes in the parameters of the input signals, other parameters of the NPE (K o , BDZ), as well as a combination of such changes , complete at a certain predetermined ⁇ stage the passage of pulses in the neural network, thereby completing the HC self-learning process in the microcycle and fix the current state of the NPE at the output.
  • the block of determinate dependencies (BDZ) 18, the input of which receives the signal Cx., Generates a signal Cbx at the output. Dz calculated by means of the determinate function of the input: Cx. dz f (Cvx.), given by the control unit.
  • the signal from the output of the database 3 is fed to the unit for calculating the state of the NPE (BRS) 14.
  • the analyzer of the magnitude of the change in the state of the NPE (AC) 16 which receives a signal from the memory unit 15 about the previous value of the state of the NPE, SNPE 0 ⁇ , and the signal from the BRS 14 about the current state of the NPE, SNPE k , analyzes the absolute value of the difference between these signals and compares with the value of the accuracy of self-training of the neural network ⁇ arriving at AC 16 with BUT 17: I ⁇ patented ⁇
  • a signal is supplied to the control unit 3, which gives a command to the clock generator 21 by this signal and completes the passage of pulses in the neural network, thereby completing the HC self-learning process in the microcycle.
  • the current value of the NPE state is fixed at the output.
  • NPE works as follows.
  • Ki value in the range from O to l
  • connection of at least one RNG is made upon command from the control unit.
  • the included RNGs issue and record one random signal (in accordance with the established operating procedure).
  • a signal equal to 1 is output at the RNG output.
  • the input signals are fed to the input unit, the signals (signal) pass through the NPE blocks and, in accordance with the established algorithm (option) of the NPE operation, they are converted with the output, ultimately , to the output of the output signal Y, which is either an input signal for other NPEs, or the final signal of the neural network.
  • NPEs that do not have synaptic connections with other NPEs in input are input NPEs that have synaptic connections with other NPEs, both in input and output, are intermediate NPEs, while intermediate NPEs with their own state of NPEs are intermediate -input NPE, and NPE, which has synaptic connections with other NPEs only at the input, is the output NPE.
  • the work of the NPE is possible in twelve main options.
  • the first option corresponds to the operation of the NPE in the mode of weighing, normalization and simple summation of input signals (effects).
  • the value of K o 1.
  • control unit 3 sends commands to multichannel random number generators 2 and 5 and to single-channel random generators numbers 9 and 12 and sets the signal value at their outputs to 1, i.e. the initial state of the NPE is set equal to 0.
  • BRS state of the NPE
  • the state of the NPE is defined as the sum of the parameters of the input signals (effects), and the signal Y corresponding to the state of the NPE is fed to the input of the output block 20:
  • the option corresponds to the case of the operation of the NPE as an intermediate or output NPE in the neural network (HC), in the structure of which it consists.
  • This option corresponds to the operation of the NPE in the mode of weighing and simple summation of the input signals (effects), but taking into account possible scatter according to the given distribution laws and in the given range of the value and / or weight of at least one input signal:
  • the option corresponds to the case of the operation of the NPE as an intermediate or output NPE in the neural network.
  • the third version of NPE operation involves setting the initial intrinsic state of NPE in the absence of input signals.
  • the value of K od 0, i.e. the proportion of input signals in the state of the NPE is 0.
  • the signal corresponding to the value of the original intrinsic state of the NPE, C COb is input output block 20.
  • the NPE does not act as an adder, but as a direct source of signals, i.e. in the role of the input NPE of the neural network:
  • the fourth option differs from the first and third options in that it involves their combination.
  • the control unit 3 sends commands to the random number generators 2 and 5, and to the single-channel random number generators 9 and 12 and sets the signal value at their outputs to 1.
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
  • the fifth NPE operation variant differs from the third option in that BU 3 gives commands to a single-channel random number generator 12 and changes, according to a given distribution law and within certain limits, the value of the NPE's own state at its output: C COb . hch3 - C COb. * Kgch 3 .
  • This option corresponds to the case when the NPE, as well as in the third embodiment, is the input NPE in HC, i.e. acts as a direct source of signals, but taking into account various scatter according to a given distribution law and within specified limits in assessing the value of the initial intrinsic state of NPE:
  • the sixth version of the NPE operation differs from the third option in that it assumes the presence of input signals and the operation of the RNG in the input unit and (or) in the IAC, as well as the presence of a fraction of the state of the NPE, K ode , depending on input signals, and the share of the state of NPE, (1-K OD ), independent of the input signals.
  • the value of the share limiter K ⁇ ] ⁇ [.
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
  • the seventh version of the NPE operation differs from the sixth option in that only the RNG4 12 in the BC 11 are functioning from the RNG, which allows changing the value of the NPE intrinsic state according to a given distribution law and within certain limits:
  • C CoG GCH3 - C Cob. 'Kghh . . K ode -] 0.1 [.
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
  • the ninth variant of the NPE operation differs from the eighth variant in that the RNGs do not function in the input unit and (or) in the unit for setting and normalizing weight coefficients.
  • K ode ] 0, 1 [.
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
  • the tenth version of the NPE operation differs from the sixth option in that the GESZ 9 has a share limiter (OD) 8, which allows changing, according to a given distribution law and within certain limits, the proportion of the state of the NPE, K ode , which depends on the input signals.
  • OD share limiter
  • This option corresponds to the case when the NPE acts as an adder of input signals with possible changes according to a given distribution law and within certain limits of the value and / or weight of at least one of them and the share of the NPE state, depending on the input signals:
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
  • the option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network. This is the most common version of the NPE.
  • the twelfth variant of NPE operation can be for all variants where K O d ⁇ 0. It assumes the calculation of the input part of the NPE state by means of deterministic dependencies in the block of deterministic dependencies (BDZ) 18, the signal to which the key 19 sends according to the command BU 3.
  • the value of the generated BDZ signal is determined by the known functional dependence of the signal determining the input part of the NPE state from the input signals.
  • the NPE (AI) 16 state change analyzer contained in the NPE operates with all NPE operation options, comparing the absolute value of the difference between the values of the current, SNPE k and previous, SNPE ⁇ , NPE states with the neural network self-learning accuracy established in BUT 17, ⁇ . Under the condition
  • the present invention can be used to create NPE, allowing to implement on its basis a neural network for solving a class of problems of evaluating the functioning of open complex systems (OCC) and assessing the degree of optimality of various solutions by providing the possibility of constructing a model of the studied system, both hierarchical and recurrent, taking into account different initial and working conditions of its elements and their functioning options, taking into account when modeling neural-like elements of individual elements of the system as a level l their self-sufficiency, and exposure to external signals.
  • OCC open complex systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Feedback Control In General (AREA)

Abstract

The invention relates to cybernetics and can be used in the form of a cell for neuron networks used for solving the assessment problems of the operation of open complex systems, for assessing the optimality of different solutions, by building the hierarchical and recurrent model of a system to be investigated, taking into account the different initial and operational states of the elements thereof and by taking into account, during the modeling of the separate elements of a system by means of neuron elements, the level of the self-sufficiency thereof and the susceptibility to external signal action. The inventive neuron element makes it possible to take into account the setting error of the parameters thereof and of the parameters of input signals and to ensure the specified accuracy of the neuron network self-learning. The neuron networks based on the inventive neuron elements make it possible to perform different variants of the assessment of the operation of open complex systems and the optimality degree of different solutions and to develop different variants of adaptive information management systems.

Description

Нейроподобный элемент Neural element
Область техникиTechnical field
Изобретение относится к кибернетике и может быть использовано в качестве ячейки нейронных сетей при создании устройств оценки функционирования различных систем, в том числе открытых сложных систем, оценки степени оптимальности различных решений, в адаптивных информационно-управляющих системах.The invention relates to cybernetics and can be used as a cell of neural networks when creating devices for evaluating the functioning of various systems, including open complex systems, evaluating the degree of optimality of various solutions in adaptive information-control systems.
Предшествующий уровень техникиState of the art
Известен нейроподобный элемент (НПЭ), содержащий блок для суммирования входных сигналов, блок установки входным сигналам весовых коэффициентов, сумматор входных сигналов, блок преобразования входных сигналов, выход (С. Осовский. Нейронные сети для обработки информации. -M.: Финансы и статистика, 2002). Указанное устройство позволяет создавать нейронные сети (HC) для решения тех или иных задач, связанных с обобщением полученной информации на основе обучения HC определению связей между известными входными значениями и неизвестными выходами. Для этого пользователь должен подготовить набор обучающих данных, представляющих собой примеры входных воздействий и соответствующих им выходов. Как известно (Нейронные сети. SТАТISТIСА Nеutrаl Nеtwоrks: пер с англ. -M.: Горячая линия-Телеком. 2001), число наблюдений для включения в процесс обучения должно быть на порядок больше числа связей в сети, при этом с ростом количества входных сигналов количество требуемых наблюдений растет нелинейно.Known neural-like element (NPE), containing a unit for summing the input signals, a unit for setting input weights, an adder of input signals, an input signal conversion unit, an output (S. Osovsky. Neural networks for processing information. -M.: Finance and statistics, 2002). The specified device allows you to create neural networks (HC) to solve certain problems associated with the generalization of the information obtained on the basis of training HC to determine the relationship between known input values and unknown outputs. To do this, the user must prepare a set of training data representing are examples of input actions and their corresponding outputs. As is known (Neural Networks. STATISTICA Natural Networks: Translated from English. -M .: Hotline-Telecom. 2001), the number of observations to be included in the learning process should be an order of magnitude greater than the number of connections in the network, while increasing the number of input signals the number of required observations is growing nonlinearly.
Недостатком такого НПЭ является то, что для класса задач оценки функционирования открытых сложных систем (OCC), оценки степени оптимальности различных решений, когда выделенные в результате формализации OCC элементы системы требуют (при классическом подходе) отдельного моделирования, в том числе и с помощью HC, когда число связей между элементами велико, а вариантов для классического обучения HC нет, нейросети на основе существующих схем нейронов непригодны.The disadvantage of this NPE is that for the class of problems of evaluating the functioning of open complex systems (OCC), evaluating the degree of optimality of various solutions, when the elements of the system identified as a result of the OCC formalization require (with the classical approach) separate modeling, including using HC, when the number of connections between elements is large, and there are no options for classical HC training, neural networks based on existing neuron circuits are unsuitable.
Раскрытие изобретенияDisclosure of invention
Техническим результатом изобретения является возможность создания НПЭ, позволяющего реализовать на его основе нейросети для решения класса задач оценки функционирования открытых сложных систем (OCC) и оценки степени оптимальности различных решений путем обеспечения возможности построения модели исследуемой системы, как иерархической, так и рекуррентной, с учетом различного исходного и рабочего состояния ее элементов и вариантов их функционирования, учитывая при моделировании нейроподобными элементами отдельных элементов системы как уровень их самодостаточности, так и подверженность воздействию внешних сигналов. При этом предлагаемый НПЭ позволяет учесть погрешности задания его параметров и параметров входных сигналов, а также обеспечить заданную точность самообучения нейросети. Поставленная задача достигается тем, что нейроподобный элемент содержит блок входа, включающий первый генератор случайных чисел, число выходов которого равно числу входов блока входа, сигнал с каждого выхода первого генератора случайных чисел определяет изменение величины соответствующего входного сигнала по закону и в пределах, определяемых видом и погрешностью его задания, блок установки и нормирования весовых коэффициентов, число элементов веса которого равно числу входов блока входа, установка веса в элементах веса осуществляется посредством второго генератора случайных чисел по закону и в пределах, определяемых видом и погрешностью его задания, нормирование каждого весового коэффициента осуществляют путем деления каждого веса на сумму всех весов элементов веса, а каждый нормированный весовой коэффициент задает соответствующую синаптическую связь выходов блока входа и входов блока расчета параметров сигналов, выходы которого соединены со входами сумматора параметров сигналов, выход которого соединен с первым входом блока расчета входной части состояния НПЭ, второй вход которого соединен с ограничителем доли сигналов, одноканальный генератор случайных чисел, определяющий величину сигнала ограничителя доли сигналов по закону и в пределах, определяемых видом и погрешностью задания этой величины, блок задания внутреннего состояния НПЭ, второй одноканальный генератор случайных чисел, определяющий величину сигнала блока задания внутреннего состояния НПЭ по закону и в пределах, определяемых видом и погрешностью его задания, выход которого соединен с входом блока расчета внутренней части состояния НПЭ, осуществляющего перемножение сигнала с выхода блока задания внутреннего состояния НПЭ на разность между единицей и величиной сигнала ограничителя доли сигналов, выход блока расчета внутренней части состояния НПЭ соединен с первым входом блока расчета состояния НПЭ, осуществляющего сложение сигнала с выхода блока расчета входной части состояния НПЭ с сигналом, поступающим с выхода блока расчета внутренней части состояния НПЭ, выход блока расчета состояния НПЭ соединен с блоком выхода, с первым входом анализатора величины изменения состояния НПЭ непосредственно, а со вторым его входом через блок памяти, хранящем информацию о предыдущем значении расчета состояния НПЭ, блок установки точности обучения нейросети, выход которого соединен с третьим входом анализатора величины изменения состояния НПЭ, который осуществляет сравнение величины точности самообучения с величиной, равной разности между предыдущим значением расчета состояния НПЭ и текущим, и в случае выполнения заданного условия подает на блок управления сигнал на завершение процесса самообучения нейросети, блок управления, осуществляющий управление генераторами случайных чисел и прохождением в нейросети импульсов.The technical result of the invention is the possibility of creating a NPE, allowing to implement on its basis a neural network for solving a class of problems of evaluating the functioning of open complex systems (OCC) and assessing the degree of optimality of various solutions by providing the possibility of constructing a model of the studied system, both hierarchical and recurrent, taking into account various the initial and working state of its elements and their functioning options, taking into account when modeling neural-like elements of individual elements of the ka system to the level of their self-sufficiency, and exposure to external signals. At the same time, the proposed NPE makes it possible to take into account the errors in setting its parameters and the parameters of the input signals, as well as to ensure the specified accuracy of the self-learning of the neural network. The task is achieved in that the neural-like element contains an input unit including a first random number generator, the number of outputs of which is equal to the number of inputs of the input unit, the signal from each output of the first random number generator determines the change in the value of the corresponding input signal according to the law and within the limits determined by the type and the error of its assignment, the unit for setting and normalizing weighting coefficients, the number of weight elements of which is equal to the number of inputs of the input unit, the weight setting in the weight elements is carried out I, using the second random number generator according to the law and within the limits determined by the type and error of its assignment, normalize each weight coefficient by dividing each weight by the sum of all the weights of the weight elements, and each normalized weight coefficient sets the corresponding synaptic connection of the outputs of the input block and the inputs of the block calculation of signal parameters, the outputs of which are connected to the inputs of the adder of signal parameters, the output of which is connected to the first input of the calculation unit of the input part of the state of the NP E, the second input of which is connected to the limiter of the fraction of signals, a single-channel random number generator that determines the value of the signal of the limiter of the fraction of signals according to the law and within the limits determined by the type and error of setting this value, the unit for setting the internal state of the NPE, the second single-channel random number generator, which determines the value the signal of the unit for setting the internal state of the NPE according to the law and within the limits determined by the type and error of its task, the output of which is connected to the input of the unit for calculating the internal part of the thaw of the NPE, which multiplies the signal from the output of the unit for setting the internal state of the NPE by the difference between the unit and the signal value of the limiter of the fraction of signals, the output of the unit for calculating the internal part of the state of the NPE is connected to the first input of the unit for calculating the state of the NPE, combining the signal from the output of the unit for calculating the input part of the state of the NPE with the signal coming from the output of the unit for calculating the internal part of the state of the NPE, the output of the unit for calculating the state of the NPE is connected to the output unit, with the first input of the analyzer, the magnitude of the change in the state of the NPE directly, and with its second input through a memory unit that stores information about the previous value of calculating the state of the NPE, a unit for setting the accuracy of training the neural network, the output of which is connected to the third input of the analyzer of the magnitude of the change in the state of the NPE, to which compares the accuracy of self-learning with a value equal to the difference between the previous value of calculating the state of NPE and the current one, and if the specified condition is met, it sends a signal to the control unit to complete the process of self-training of the neural network, a control unit that controls the random number generators and the passage of pulses in the neural network .
Поставленная задача достигается также тем, что может быть введен переключатель, установленный между выходом блока расчета входной части состояния НПЭ и входом блока расчета состояния НПЭ, второй выход переключателя соединен с входом введенного блока детерминированных зависимостей, выход которого соединен с первым выходом переключателя, причем величина формируемого им сигнала определяется известной функциональной зависимостью сигнала, определяющего входную часть состояния НПЭ, от входных сигналов.The task is also achieved by the fact that a switch can be inserted between the output of the unit for calculating the input part of the NPE state and the input of the unit for calculating the state of NPE, the second output of the switch is connected to the input of the input block of deterministic dependencies, the output of which is connected to the first output of the switch, the signal is determined by the known functional dependence of the signal, which determines the input part of the state of the NPE, from the input signals.
Краткое описание чертежейBrief Description of the Drawings
На чертеже изображена блок-схема НПЭ.The drawing shows a block diagram of the NPE.
Лучший вариант осуществления изобретения НПЭ состоит из блока входа I5 содержащего первый генератор случайных чисел 2, работающий по команде блока управления 3, блока установки и нормировки весовых коэффициентов 4, содержащего также второй генератор случайных чисел 5, работающий по команде блока управления 3, блока расчета параметров входных сигналов 6, сумматора параметров входных сигналов 7, ограничителя доли сигналов 8 со своим одноканальным генератором случайных чисел 9, блока расчета входной части состояния НПЭ 10, блока задания внутреннего состояния НПЭ H5 второго одноканального генератора случайных чисел 12, блока расчета внутренней части состояния НПЭ 13, блока расчета состояния НПЭ 14, блока памяти 15, анализатора величины изменения состояния НПЭ 16, блока установки точности самообучения нейросети 17, блока детерминированных зависимостей 18, переключателя 19, блока выхода 20 и генератора тактовых импульсов 21.The best embodiment of the invention NPE consists of an input block I 5 containing the first random number generator 2, operating by command of the control unit 3, a unit for setting and normalizing weighting coefficients 4, also containing a second random number generator 5, operating by command of the control unit 3, and a block for calculating input signal parameters 6 , adder parameters of the input signals 7, the limiter of the proportion of signals 8 with its single-channel random number generator 9, the unit for calculating the input part of the state of NPE 10, the unit for setting the internal state of NPE H 5 of the second single-channel random generator 12, a unit for calculating the internal part of the state of the NPE 13, a unit for calculating the state of the NPE 14, a memory unit 15, an analyzer for changing the state of the NPE 16, a unit for setting the accuracy of self-learning of the neural network 17, a block of deterministic dependencies 18, a switch 19, an output block 20, and clock generator 21.
Сущность изобретения заключается в том, что нейроподобный элемент содержит блок входа, включающий первый генератор случайных чисел, число выходов которого равно числу входов блока входа, сигнал с каждого выхода первого генератора случайных чисел определяет изменение величины соответствующего входного сигнала по закону и в пределах, определяемых видом и погрешностью его задания, блок установки и нормирования весовых коэффициентов, число элементов веса которого равно числу входов блока входа, установка веса в элементах веса осуществляется посредством второго генератора случайных чисел по закону и в пределах, определяемых видом и погрешностью его задания, нормирование каждого весового коэффициента осуществляют путем деления каждого веса на сумму всех весов элементов веса, а каждый нормированный весовой коэффициент задает соответствующую синаптическую связь выходов блока входа и входов блока расчета параметров сигналов, выходы которого соединены со входами сумматора параметров сигналов, выход которого соединен с первым входом блока расчета входной части состояния НПЭ, второй вход которого соединен с ограничителем доли сигналов, одноканальный генератор случайных чисел, определяющий величину сигнала ограничителя доли сигналов по закону и в пределах, определяемых видом и погрешностью задания этой величины, блок задания внутреннего состояния НПЭ, второй одноканальный генератор случайных чисел, определяющий величину сигнала блока задания внутреннего состояния нейроподобного элемента по закону и в пределах, определяемых видом и погрешностью его задания, выход которого соединен с входом блока расчета внутренней части состояния НПЭ, осуществляющего перемножение сигнала с выхода блока задания внутреннего состояния НПЭ на разность между единицей и величиной сигнала ограничителя доли сигналов, выход блока расчета внутренней части состояния НПЭ соединен с первым входом блока расчета состояния НПЭ, осуществляющего сложение сигнала с выхода блока расчета входной части состояния НПЭ с сигналом, поступающим с выхода блока расчета внутренней части состояния НПЭ, выход блока расчета состояния НПЭ соединен с блоком выхода, с первым входом анализатора величины изменения состояния НПЭ непосредственно, а со вторым его входом через блок памяти, блок установки точности обучения нейросети, выход которого соединен с третьим входом анализатора величины изменения состояния НПЭ, который осуществляет сравнение величины точности самообучения с величиной, равной разности между предыдущим значением расчета состояния НПЭ и текущим, блок управления, осуществляющий управление генераторами случайных чисел и генератором тактовых импульсов.The essence of the invention lies in the fact that the neural-like element contains an input unit including a first random number generator, the number of outputs of which is equal to the number of inputs of the input unit, the signal from each output of the first random number generator determines the change in the value of the corresponding input signal according to the law and within the limits determined by the form and the error of its assignment, the unit for setting and normalizing weighting coefficients, the number of weight elements of which is equal to the number of inputs of the input unit, setting the weight in the weight elements is carried out are carried out by means of a second random number generator in accordance with the law and within the limits determined by the type and error of its assignment, each weighting coefficient is normalized by dividing each weight by the sum of all weights of the weight elements, and each normalized weighting factor sets the corresponding synaptic connection of the outputs of the input block and the inputs of the block calculation of signal parameters, the outputs of which are connected to the inputs of the adder parameters signals, the output of which is connected to the first input of the unit for calculating the input part of the NPE state, the second input of which is connected to the limiter of the signal fraction, a single-channel random number generator that determines the value of the signal limiter of the signal fraction according to the law and within the limits determined by the type and error of setting this value, block setting the internal state of the NPE, the second single-channel random number generator that determines the signal value of the unit for setting the internal state of the neural-like element according to the law and within the limits of consumed by the type and accuracy of its task, the output of which is connected to the input of the unit for calculating the internal part of the NPE state, multiplying the signal from the output of the unit for setting the internal state of the NPE by the difference between the unit and the signal value of the limiter of the fraction of signals, the output of the unit for calculating the internal part of the state of the NPE is connected to the first the input of the unit for calculating the state of the NPE, carrying out the addition of the signal from the output of the unit for calculating the input part of the state of the NPE with the signal coming from the output of the unit for calculating the inner part with the state of the NPE, the output of the unit for calculating the state of the NPE is connected to the output unit, directly with the first input of the analyzer of the magnitude of the change in the status of the NPE, and with its second input through the memory block, the neural network training accuracy setting unit, the output of which is connected to the third input of the analyzer of the magnitude of the change in the NPE, which compares the accuracy of self-learning with a value equal to the difference between the previous value of calculating the state of the NPE and the current one, a control unit that controls the generators s numbers and clock generator.
Кроме того, введен переключатель, установленный между выходом блока расчета входной части состояния НПЭ и входом блока расчета состояния НПЭ, второй выход переключателя соединен с входом введенного блока детерминированных зависимостей, выход которого соединен с первым выходом переключателя, причем величина формируемого им сигнала определяется известной функциональной зависимостью сигнала, определяющего входную часть состояния НПЭ, от входных сигналов.In addition, a switch is installed, installed between the output of the unit for calculating the input part of the NPE state and the input of the unit for calculating the state of NPE, the second output of the switch is connected to the input of the input unit of deterministic dependencies, the output of which is connected to the first output a switch, the magnitude of the signal generated by it being determined by the known functional dependence of the signal determining the input part of the NPE state on the input signals.
Первый генератор случайных чисел (ГCЧ1) 2, работающий по команде блока управления (БУ) 3 и выдающий величины Кгсчlj, перемножение на которые значений амплитуд входных аналоговых сигналов позволяет варьировать их амплитудами по заданному закону (например, нормальному, равномерному и др.) и в заданных границах в интервале от 0 до 1.The first random number generator (RNG1) 2, operating on command of the control unit (BU) 3 and issuing the values Kgcclj, multiplying by which the amplitudes of the input analog signals allows you to vary their amplitudes according to a given law (for example, normal, uniform, etc.) and specified boundaries in the range from 0 to 1.
Закон распределения и границы изменения амплитуд, задаваемые генераторами случайных чисел, определяются видом и погрешностями задания величин. Например, задан закон изменения значения и/или веса какого-либо входного сигнала, т.е. определен вид задания сигнала и/или его веса. Или, например, при получении числовой детерминированной оценки тех или иных величин (входных сигналов, их весов, ограничителя доли, внутреннего состояния) это определяется погрешностью измерения, расчета и т.п., а диапазон может быть определен возможными минимальным и максимальным значениями этих величин. При получении числовой экспертной оценки закон распределения может определяться, например, законом распределения мнений экспертов и др., а амплитуда - минимальной и максимальной оценками, полученными при экспертизе.The distribution law and the boundaries of the amplitudes, defined by random number generators, are determined by the type and errors of the values. For example, the law of changing the value and / or weight of an input signal, i.e. the type of signal assignment and / or its weight is determined. Or, for example, when obtaining a numerical determinate estimate of certain quantities (input signals, their weights, share limiter, internal state), this is determined by the measurement error, calculation, etc., and the range can be determined by the possible minimum and maximum values of these quantities . Upon receipt of a numerical expert assessment, the distribution law can be determined, for example, by the law of distribution of opinions of experts, etc., and the amplitude - by the minimum and maximum estimates obtained during the examination.
Второй генератор случайных чисел (ГCЧ2) 5 также работает по команде БУ 3 и выдает величины Kгcч2ь перемножение на которые значений весов элементов веса позволяет варьировать их амплитудой по заданному закону и в заданных границах в интервале от 0 до 1. Расчет для каждого нормированного веса, W*; , осуществляется путем деления веса данного сигнала на сумму весов всех элементов веса.The second random number generator (GCCH2) 5 also works on command BU 3 and outputs the multiplication value Kgcch2 s for which values of balance weight elements can vary their amplitude by a given law and within certain limits in the range from 0 to 1. The calculation of each normalized weight W * ; , is carried out by dividing the weight of a given signal by the sum of the weights of all weight elements.
Блок расчета параметров входных сигналов 6 (БРП ВС) осуществляет перемножение каждого сигнала с выхода блока входа 1 на соответствующий нормированный вес W { : Пвx.j = Xj- W*; .The block calculating the parameters of the input signals 6 (PDU BC) carries out the multiplication of each signal from the output of input block 1 to the corresponding normalized weight W { : Pvx.j = Xj- W * ; .
После БРП ВС 6 сигналы поступают на сумматор параметров входных сигналов (СП ВС) 7, где рассчитывается суммарный параметр входных сигналов:
Figure imgf000010_0001
.
After the PDU BC 6, the signals are fed to the adder parameters of the input signals (SP BC) 7, where the total parameter of the input signals is calculated:
Figure imgf000010_0001
.
Ограничитель доли сигналов в состоянии НПЭ (ОД) 8 со своим одноканальным ГСЧЗ 9, работающим аналогично ГCЧ1 и ГCЧ2 и выдающим величину КгсчЗ, перемножение на которую значения K, заданного в интервале от 0 до 1, позволяет варьировать амплитудой K по заданному закону и в заданных границах также в интервале от 0 до 1.The limiter of the fraction of signals in the state of NPE (OD) 8 with its single-channel GSChZ 9, operating similarly to GSCh1 and GSCh2 and issuing the value of Kshchz, multiplying by which the value of K ode specified in the range from 0 to 1, allows you to vary the amplitude of K ode according to a given law and within the given boundaries also in the range from 0 to 1.
Блок расчета входной части состояния НПЭ 10 осуществляет перемножение сигнала, несущего информацию о величине суммарного параметра сигналов, на величину доли входных сигналов: Cвx.= Пвx. K.The unit for calculating the input part of the state of NPE 10 multiplies the signal that carries information about the value of the total parameter of the signals by the proportion of input signals: Cvx. = Pvx. K od .
Блок задания внутреннего состояния НПЭ И, со своим одноканальным ГCЧ4 12, определяет величину, соответствующую внутреннему состоянию НПЭ, C∞б.. При этом ГCЧ4 12 выдает величину Kгcч4, перемножение на которую значения амплитуды ввеличины собственного состояния НПЭ позволяет варьировать амплитудой Ccoб. по заданному закону и в заданных границах в интервале от 0 до 1.The unit for setting the internal state of the NPE And, with its single-channel RNF4 12, determines the value corresponding to the internal state of the NPE, C ∞ b .. At the same time, RNP4 12 gives the value of Kgg4, multiplying by which the amplitude values of the magnitude of the eigenstate of the NPE allows you to vary the amplitude C cob. according to a given law and within given boundaries in the range from 0 to 1.
Блок расчета внутренней части состояния НПЭ 13 осуществляет перемножение величины оценки собственного состояния НПЭ на ее долю в общем состоянии НПЭ, т.е. на разность между единицей и величиной сигнала ограничителя доли сигналов (1 -K): Cвн.=CCOб.*(l-K).The unit for calculating the internal part of the state of NPE 13 multiplies the value of evaluating the intrinsic state of NPE by its share in the general state of NPE, i.e. the difference between the unit and the signal value of the limiter of the share of signals (1 -K ode ): Cvn. = C COb. * (lK Od ).
Блок расчета состояния НПЭ 14 (БРС) осуществляет сложение части этого состояния, зависящей непосредственно или посредством детерминированных зависимостей от входных сигналов, Cвx.(или Cвx.дз), и внутренней части состояния НПЭ, Свн.: Cнпэ=Cвx.(или Cвx.дз) + Свн.IPPs state calculation unit 14 (RSB) performs addition of this state-dependent directly or through a deterministic function of the input signals Cvx. (Or Cvx. Ds) and the inner part IPPs state EHV .: Cnpe = Cvx. (Or Cvx. dz ) + Svn.
Блок установки точности самообучения нейросети (БУТ) 17 осуществляет задание величины точности самообучения нейросети ε, позволяющей после начала хотя бы в одном из НПЭ нейросети, где они функционируют, переходных процессов, вызванных собственным состоянием НПЭ или изменениями параметров входных сигналов, других параметров НПЭ (K, БДЗ), а также совокупностью таких изменений, завершить на определенном заданном ε этапе прохождение в нейросети импульсов, тем самым завершив в микроцикле процесс самообучения HC и зафиксировать на выходе текущее значение состояния НПЭ.The unit for setting the accuracy of self-study of the neural network (BUT) 17 implements setting the accuracy of the self-learning of the neural network ε, which allows, after starting at least one of the NPEs of the neural network, where they operate, transients caused by the intrinsic state of the NPE or changes in the parameters of the input signals, other parameters of the NPE (K o , BDZ), as well as a combination of such changes , complete at a certain predetermined ε stage the passage of pulses in the neural network, thereby completing the HC self-learning process in the microcycle and fix the current state of the NPE at the output.
Блок детерминированных зависимостей (БДЗ) 18, на вход которого поступает сигнал Свх., формирует на выходе сигнал Cвx.дз, рассчитываемый посредством детерминированной функции от входа: Cвx.дз = f(Cвx.), задаваемой БУ. Сигнал с выхода БД 3 поступает на блок расчета состояния НПЭ (БРС) 14.The block of determinate dependencies (BDZ) 18, the input of which receives the signal Cx., Generates a signal Cbx at the output. Dz calculated by means of the determinate function of the input: Cx. dz = f (Cvx.), given by the control unit. The signal from the output of the database 3 is fed to the unit for calculating the state of the NPE (BRS) 14.
Анализатор величины изменения состояния НПЭ (AC) 16, на который подается сигнал с блока памяти 15 о предыдущем значении состояния НПЭ, Снпэ0^, и сигнал с БРС 14 о текущем состоянии НПЭ, Снпэ к, анализирует абсолютное значение разницы между этими сигналами и сравнивает со значением точности самообучения нейросети ε, поступающим на AC 16 с БУТ 17: I ΔСнпэ | < ε. При выполнении этого условия подается сигнал на БУ 3, который по этому сигналу выдает команду генератору тактовых импульсов 21 и завершает прохождение в нейросети импульсов, тем самым завершая в микроцикле процесс самообучения HC. На выходе фиксируется текущее значение состояния НПЭ.The analyzer of the magnitude of the change in the state of the NPE (AC) 16, which receives a signal from the memory unit 15 about the previous value of the state of the NPE, SNPE 0 ^, and the signal from the BRS 14 about the current state of the NPE, SNPE k , analyzes the absolute value of the difference between these signals and compares with the value of the accuracy of self-training of the neural network ε arriving at AC 16 with BUT 17: I ΔСнпэ | <ε. When this condition is fulfilled, a signal is supplied to the control unit 3, which gives a command to the clock generator 21 by this signal and completes the passage of pulses in the neural network, thereby completing the HC self-learning process in the microcycle. The current value of the NPE state is fixed at the output.
НПЭ работает следующим образом.NPE works as follows.
В исходном состоянии задают числовую детерминированную или экспертную оценку:In the initial state, a numerical deterministic or expert estimate is set:
- внутреннего состояния НПЭ (величина в интервале от 0 до 1); ю- the internal state of NPE (a value in the range from 0 to 1); Yu
- весов входных сигналов Wj (величины в интервале от 0 до 1);- weights of the input signals Wj (values in the range from 0 to 1);
- доли входных сигналов в состоянии НПЭ, Ki (величина в интервале от О до l);- the proportion of input signals in the state of NPE, Ki (value in the range from O to l);
- значение точности самообучения HC, ε (величина, как правило, 10"1 10"5)- the value of the accuracy of self-study HC, ε (the value is usually 10 "1 10 " 5 )
- порядок работы (закон распределения, диапазон изменения выдаваемых чисел) необходимых для работы НПЭ генераторов случайных чисел.- operating procedure (distribution law, range of variation of the issued numbers) required for the operation of the NPE random number generators.
Подключение хотя бы одного ГСЧ производится по команде от БУ. При этом включенные ГСЧ выдают и фиксируют по одному случайному сигналу (в соответствии с установленным порядком работы). В нефункционирующем, т.е. отключенном состоянии, на выход ГСЧ выдается сигнал, равный 1. Далее входные сигналы поступают на блок входа, сигналы (сигнал) проходят по блокам НПЭ и, в соответствии с установленным алгоритмом (вариантом) работы НПЭ, производится их преобразование с выдачей, в конечном счете, на выход выходного сигнала Y, являющегося либо входным сигналом для других НПЭ, либо окончательным сигналом нейросети.Connection of at least one RNG is made upon command from the control unit. At the same time, the included RNGs issue and record one random signal (in accordance with the established operating procedure). In non-functioning, i.e. in the off state, a signal equal to 1 is output at the RNG output. Next, the input signals are fed to the input unit, the signals (signal) pass through the NPE blocks and, in accordance with the established algorithm (option) of the NPE operation, they are converted with the output, ultimately , to the output of the output signal Y, which is either an input signal for other NPEs, or the final signal of the neural network.
Принято, что в нейросети НПЭ, не имеющие синаптических связей с другими НПЭ по входу, являются входными НПЭ, имеющие синаптические связи с другими НПЭ как по входу, так и по выходу, являются промежуточными НПЭ, при этом промежуточные НПЭ с собственным состоянием НПЭ являются промежуточно-входными НПЭ, а НПЭ, имеющий синаптические связи с другими НПЭ только по входу, является выходным НПЭ.It is accepted that in the neural network NPEs that do not have synaptic connections with other NPEs in input are input NPEs that have synaptic connections with other NPEs, both in input and output, are intermediate NPEs, while intermediate NPEs with their own state of NPEs are intermediate -input NPE, and NPE, which has synaptic connections with other NPEs only at the input, is the output NPE.
Работа НПЭ возможна по двенадцати основным вариантам.The work of the NPE is possible in twelve main options.
Первый вариант соответствует работе НПЭ в режиме взвешивания, нормировки и простого суммирования входных сигналов (воздействий). Значение K =1. В этом случае БУ 3 подает команды на многоканальные генераторы случайных чисел 2 и 5 и на одноканальные генераторы случайных чисел 9 и 12 и устанавливает на их выходах значение сигнала, равное 1, т.е. исходное состояние НПЭ задается равным 0. На выходе блока расчета состояния НПЭ (БРС):The first option corresponds to the operation of the NPE in the mode of weighing, normalization and simple summation of input signals (effects). The value of K o = 1. In this case, control unit 3 sends commands to multichannel random number generators 2 and 5 and to single-channel random generators numbers 9 and 12 and sets the signal value at their outputs to 1, i.e. the initial state of the NPE is set equal to 0. At the output of the unit for calculating the state of the NPE (BRS):
Cнпэ=Cвx. или Cнпэ=Cвx.дз, когда подключен БЗД 18.Cnpe = Cvx. or Cnpe = Cbx. ds where BZD 18 is connected.
В этом варианте работы состояние НПЭ определяется как сумма параметров входных сигналов (воздействий), а соответствующий состоянию НПЭ сигнал Y подается на вход блока выхода 20:In this embodiment, the state of the NPE is defined as the sum of the parameters of the input signals (effects), and the signal Y corresponding to the state of the NPE is fed to the input of the output block 20:
Y = Cнпэ=Пвx.Σ=∑ Пвx.i=∑(xi -W1 *) .Y = Cnpe = Pvx. Σ = ∑ Pvx.i = ∑ (xi -W 1 * ).
Вариант соответствует случаю работы НПЭ в качестве промежуточного или выходного НПЭ в нейросети (HC), в структуре которой он состоит.The option corresponds to the case of the operation of the NPE as an intermediate or output NPE in the neural network (HC), in the structure of which it consists.
Второй вариант работы НПЭ отличается от первого функционированием ГCЧ1 2 и/или ГCЧ2 5. Соответственно, с выхода БВ 1 поступает сигнал XiГCЧl= ХfКгсчlj, в БВК формируются сигналы весов WiГCч2 - Wj Kгcч2; и сигналы нормированных весов
Figure imgf000013_0001
Wi ГCч2/Σ (WiГCч2i).
The second version of the NPE operation differs from the first one by the operation of the RNG1 2 and / or RNG2 5. Accordingly, from the output of the BV 1, the signal Xi RNl = X f Kgschlj is received, the signals of the scales Wi GCch2 - Wj Kgcch2 are generated in the IAC ; and signals of normalized weights
Figure imgf000013_0001
Wi HSCh2 / Σ (Wi HSCh2i ).
Этот вариант, также как и первый вариант, соответствует работе НПЭ в режиме взвешивания и простого суммирования входных сигналов (воздействий), но с учетом возможных разбросов по заданным законам распределения и в заданном диапазоне значения и/или веса хотя бы одного входного сигнала:This option, as well as the first option, corresponds to the operation of the NPE in the mode of weighing and simple summation of the input signals (effects), but taking into account possible scatter according to the given distribution laws and in the given range of the value and / or weight of at least one input signal:
Y = Σ (XiГCчli - Wi* гcч2i). Y = Σ (Xi GCchli - Wi * gcch2i ) .
Вариант соответствует случаю работы НПЭ в качестве промежуточного или выходного НПЭ в нейросети.The option corresponds to the case of the operation of the NPE as an intermediate or output NPE in the neural network.
Третий вариант работы НПЭ предполагает задание исходного собственного состояния НПЭ при отсутствии входных сигналов. Значение K=0, т.е. доля входных сигналов в состоянии НПЭ равна 0. Сигнал, соответствующий величине исходного собственного состояния НПЭ, CCOб, поступает на вход блока выхода 20.The third version of NPE operation involves setting the initial intrinsic state of NPE in the absence of input signals. The value of K od = 0, i.e. the proportion of input signals in the state of the NPE is 0. The signal corresponding to the value of the original intrinsic state of the NPE, C COb , is input output block 20.
В этом варианте НПЭ выступает в роли не сумматора, а непосредственного источника сигналов, т.е. в роли входного НПЭ нейросети:In this embodiment, the NPE does not act as an adder, but as a direct source of signals, i.e. in the role of the input NPE of the neural network:
Четвертый вариант отличается от первого и третьего варианта тем, что предполагает их совмещение. В этом случае БУ 3 подает команды на генераторы случайных чисел 2 и 5, и на одноканальные генераторы случайных чисел 9 и 12 и устанавливает на их выходах значение сигнала равное 1.The fourth option differs from the first and third options in that it involves their combination. In this case, the control unit 3 sends commands to the random number generators 2 and 5, and to the single-channel random number generators 9 and 12 and sets the signal value at their outputs to 1.
Y
Figure imgf000014_0001
-WГУКОД + Ccoб.-(1-K).
Y
Figure imgf000014_0001
-WGUK OD + C co. - (1-K od ).
Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети.The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
Пятый вариант работы НПЭ отличается от третьего варианта тем, что БУ 3 подает команды на одноканальный генератор случайных чисел 12 и изменяет по заданному закону распределения и в определенных пределах величину собственного состояния НПЭ на его выходе: CCOб.гcч3 - CCOб. *Kгcч3. Этот вариант соответствует случаю, когда НПЭ, также, как и в третьем варианте, является входным НПЭ в HC, т.е. выступает в роли непосредственного источника сигналов, но с учетом различных разбросов по заданному закону распределения и в заданных пределах в оценке величины исходного собственного состояния НПЭ:The fifth NPE operation variant differs from the third option in that BU 3 gives commands to a single-channel random number generator 12 and changes, according to a given distribution law and within certain limits, the value of the NPE's own state at its output: C COb . hch3 - C COb. * Kgch 3 . This option corresponds to the case when the NPE, as well as in the third embodiment, is the input NPE in HC, i.e. acts as a direct source of signals, but taking into account various scatter according to a given distribution law and within specified limits in assessing the value of the initial intrinsic state of NPE:
Y _ ^i гсчЗY _ ^ i
Шестой вариант работы НПЭ отличается от третьего варианта тем, что предполагает наличие входных сигналов и функционирование ГСЧ в блоке входа и (или) в БВК, а также наличие доли состояния НПЭ, K, зависящей от входных сигналов, и доли состояния НПЭ, (1-K), не зависящей от входных сигналов. Значение ограничителя доли K=]OД [.The sixth version of the NPE operation differs from the third option in that it assumes the presence of input signals and the operation of the RNG in the input unit and (or) in the IAC, as well as the presence of a fraction of the state of the NPE, K ode , depending on input signals, and the share of the state of NPE, (1-K OD ), independent of the input signals. The value of the share limiter K ОД =] ОД [.
Этот вариант соответствует случаю, когда НПЭ выступает в роли сумматора входных сигналов с возможными изменениями по заданному закону распределения и в определенных пределах значения и/или веса хотя бы одного из них, и не зависящей от входных сигналов доли состояния НПЭ:This option corresponds to the case when the NPE acts as an adder of input signals with possible changes according to a given distribution law and within certain limits of the value and / or weight of at least one of them, and not depending on the input signals, the share of the NPE state:
Y=Cнпэ+Cвн =Пвx.Σ гcч-K+ Свн. = ∑(XiГCчli- W1 * гcч2i) -K + Ccoб.-(1-K).Y = Cnpe + Cvn = Pvx. Σ gcch 0D -K + IOS. = ∑ (Xi ГСчli - W 1 * гсч2i ) -K o + C co. - (1-K od ).
Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети.The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
Седьмой вариант работы НПЭ отличается от шестого варианта тем, что из ГСЧ функционирует только ГCЧ4 12 в БО ВС 11, позволяющий изменять по заданному закону распределения и в определенных пределах величину собственного состояния НПЭ: CCoб ГCч3-=CCoб.'Kгcчз.. K-]0,1[. Сигнал на выходе НПЭ:The seventh version of the NPE operation differs from the sixth option in that only the RNG4 12 in the BC 11 are functioning from the RNG, which allows changing the value of the NPE intrinsic state according to a given distribution law and within certain limits: C CoG GCH3 - = C Cob. 'Kghh . . K ode -] 0.1 [. The signal at the output of NPE:
Y = Снпэ + Свн. = Пвx.-K+ Свн. = ∑(xг W1 *) K + Ccoб.гcч4-(1- K).Y = Snpe + St. = Pvx. -K od + Svn. = ∑ (x g W 1 * ) K od + Ccob. gcc4 - (1-K od ).
Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети.The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
Восьмой вариант работы НПЭ отличается от шестого варианта тем, что дополнительно включен ГСЧЗ 9 ограничителя доли (ОД) 8, позволяющий изменять по заданному закону распределения и в определенных пределах величину доли состояния НПЭ, K, зависящей от входных сигналов. K=]0,1[. Сигнал на выходе НПЭ:The eighth option for operation of the NPE differs from the sixth option in that the GSPZ 9 of the limiter of the fraction (OD) 8 is additionally included, which allows changing, according to a given distribution law and within certain limits, the proportion of the state of the NPE, K ode , which depends on the input signals. K OD =] 0.1 [. The signal at the output of NPE:
Y= Cнпэ+Cвн.= Пвx. rcч-Koдгcч3 + Свн = ∑(XiГCЧli-Wi*гcч2i) Koдгcч3 + C006--(I- Koдгcч3).Y = Cnpe + Cvn. = Pvx. rcch- Code hdd3 + Cbn = ∑ (Xi GSChli -Wi * hch2i ) Code hdd3 + C 006- - (I-Code hdd3 ).
Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети. Девятый вариант работы НПЭ отличается от восьмого варианта тем, что не функционируют ГСЧ в блоке входа и (или) в блоке установки и нормировки весовых коэффициентов. K=]0, 1 [. Сигнал на выходе НПЭ:The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network. The ninth variant of the NPE operation differs from the eighth variant in that the RNGs do not function in the input unit and (or) in the unit for setting and normalizing weight coefficients. K ode =] 0, 1 [. The signal at the output of NPE:
Y = Снпэ+Свн = Пвx.∑-Koдгcч3+ Свн. = E(X1-W1 *) Koдгcч3 + Ccoб.-(1- Koдгcч3). Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети.Y = SNPE + Svn = Pvx.∑-Code gsc3 + Svn. = E (X 1 -W 1 * ) Code hdd3 + Comb .- (1-Code hdd3 ). The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
Десятый вариант работы НПЭ отличается от шестого варианта тем, что функционирует ГСЧЗ 9 ограничителя доли (ОД) 8, позволяющий изменять по заданному закону распределения и в определенных пределах величину доли состояния НПЭ, K, зависящей от входных сигналов. Koд=]0Д[.The tenth version of the NPE operation differs from the sixth option in that the GESZ 9 has a share limiter (OD) 8, which allows changing, according to a given distribution law and within certain limits, the proportion of the state of the NPE, K ode , which depends on the input signals. Code =] 0D [.
Этот вариант соответствует случаю, когда НПЭ выступает в роли сумматора входных сигналов с возможными изменениями по заданному закону распределения и в определенных пределах значения и/или веса хотя бы одного из них и доли состояния НПЭ, зависящей от входных сигналов:This option corresponds to the case when the NPE acts as an adder of input signals with possible changes according to a given distribution law and within certain limits of the value and / or weight of at least one of them and the share of the NPE state, depending on the input signals:
Y=Cнпэ+Cвн.=Пвx.Σ гcч-Koдгcч3+Cвн.=∑(xi гcчli-Wi *гcч2i)-Koдгcч3+Ccoб.-(l- Koдгcч3).Y = Cnpe + Cvn. = Pvx. Σ ghc- Code ghch3 + Cvn. = ∑ (x i ghcli -W i * ghch2i ) -Kod ghch3 + Cob .- (l- Code ghch3 ).
Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети.The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network.
Одиннадцатый вариант работы НПЭ отличается от десятого варианта тем, что предполагает функционирование ГCЧ4 12 в блоке оценки внутреннего состояния НПЭ (БО ВС) 11. Koд=]0, 1 [. В этом варианте работают все ГСЧ.The eleventh option of NPE operation differs from the tenth option in that it assumes the operation of GSC4 12 in the unit for assessing the internal state of NPE (BO VS) 11. Code =] 0, 1 [. In this option, all RNGs work.
Сигнал на выходе НПЭ:The signal at the output of NPE:
Y = Cнпэ+Cвн.гcч = Пвx. гcч-Koдгcч3+Cвн.гcч = ∑(xi гcчli-Wi *гcч2i)-Koдгcч3 + Ccoб.гcч4-(1-Koдгcч3). Вариант соответствует случаю работы НПЭ в качестве промежуточно- входного или выходного НПЭ в нейросети. Это наиболее общий вариант работы НПЭ.Y = Cnpe + Cvn. hh = pvx. hdd- code hdd3 + cvn. gcc = ∑ (x i gccli -W i * gcc2i ) -Code gcc3 + Cbs. hdd4 - (1- code hdd3 ). The option corresponds to the case of the operation of the NPE as an intermediate input or output NPE in the neural network. This is the most common version of the NPE.
Двенадцатый вариант работы НПЭ может быть для всех вариантов, где KOд≠0. Предполагает расчет входной части состояния НПЭ посредством детерминированных зависимостей в блоке детерминированных зависимостей (БДЗ) 18, сигнал на который направляет ключ 19 по команде БУ 3. Величина формируемого БДЗ сигнала определяется известной функциональной зависимостью сигнала, определяющего входную часть состояния НПЭ, от входных сигналов. Сигнал, соответствующий рассчитанному значению входной части состояния НПЭ: C1414Bx.13 = f (Свх.), поступает на выход ключа и на БРС И.The twelfth variant of NPE operation can be for all variants where K O d ≠ 0. It assumes the calculation of the input part of the NPE state by means of deterministic dependencies in the block of deterministic dependencies (BDZ) 18, the signal to which the key 19 sends according to the command BU 3. The value of the generated BDZ signal is determined by the known functional dependence of the signal determining the input part of the NPE state from the input signals. The signal corresponding to the calculated value of the input part of the NPE state: C 1414 Bx. 13 = f (Ex.), Is supplied to the key output and to the BRS I.
Содержащийся в НПЭ анализатор величины изменения состояния НПЭ (АИ) 16 функционирует при всех вариантах работы НПЭ, сравнивая абсолютную величину разницы величин текущего, Cнпэк , и предшествующего, Снпэ^, состояний НПЭ с установленной в БУТ 17 точностью самообучения нейросети, ε. При выполнении условия | ΔСнпэ < ε с АИ подается сигнал на БУ 3 для прекращения тактовых импульсов генератором тактовых импульсов 21 в посылке импульсов и на фиксацию на блоке выхода НПЭ 20 последнего значения состояния НПЭ, Снпэ.The NPE (AI) 16 state change analyzer contained in the NPE operates with all NPE operation options, comparing the absolute value of the difference between the values of the current, SNPE k and previous, SNPE ^, NPE states with the neural network self-learning accuracy established in BUT 17, ε. Under the condition | ΔСнпе <ε with AI, a signal is supplied to the control unit 3 to stop clock pulses by the clock generator 21 in the pulse train and to fix the last NPE state value, SNPE on the NPE output block 20.
Работа (выдача случайных чисел) любого ГСЧ или любого канала ГСЧ НПЭ, если их работа предусмотрена, происходит только при первом тактовом импульсе из посылки тактовых импульсов. Во время прохождения остальных тактовых импульсов посылки импульсов на выходах ГСЧ фиксируется установленное значение. Промышленная применимостьWork (random numbers) of any RNG or any channel of the RNG NPE, if their work is provided, occurs only at the first clock pulse from sending clock pulses. During the passage of the remaining clock pulses of the pulse sending, the set value is fixed at the RNG outputs. Industrial applicability
Настоящее изобретение может быть использовано для создания НПЭ, позволяющего реализовать на его основе нейросети для решения класса задач оценки функционирования открытых сложных систем (OCC) и оценки степени оптимальности различных решений путем обеспечения возможности построения модели исследуемой системы, как иерархической, так и рекуррентной, с учетом различного исходного и рабочего состояния ее элементов и вариантов их функционирования, учитывая при моделировании нейроподобными элементами отдельных элементов системы как уровень их самодостаточности, так и подверженность воздействию внешних сигналов. При этом предлагаемый НПЭ позволяет учесть погрешности задания его параметров и параметров входных сигналов, а также обеспечить заданную точность самообучения нейросети. The present invention can be used to create NPE, allowing to implement on its basis a neural network for solving a class of problems of evaluating the functioning of open complex systems (OCC) and assessing the degree of optimality of various solutions by providing the possibility of constructing a model of the studied system, both hierarchical and recurrent, taking into account different initial and working conditions of its elements and their functioning options, taking into account when modeling neural-like elements of individual elements of the system as a level l their self-sufficiency, and exposure to external signals. At the same time, the proposed NPE makes it possible to take into account the errors in setting its parameters and the parameters of the input signals, as well as to ensure the specified accuracy of the self-learning of the neural network.

Claims

Формула изобретенияClaim
Нейроподобный элемент (НПЭ), содержащий блок входа, включающий первый генератор случайных чисел, число выходов которого равно числу входов блока входа, сигнал с каждого выхода первого генератора случайных чисел определяет изменение величины соответствующего входного сигнала по закону и в пределах, определяемых видом и погрешностью его задания, блок установки и нормирования весовых коэффициентов, число элементов веса которого равно числу входов блока входа, установка веса в элементах веса осуществляется посредством второго генератора случайных чисел по закону и в пределах, определяемых видом и погрешностью его задания, нормирование каждого весового коэффициента осуществляют путем деления каждого веса на сумму всех весов элементов веса, а каждый нормированный весовой коэффициент задает соответствующую синаптическую связь выходов блока входа и входов блока расчета параметров сигналов, выходы которого соединены со входами сумматора параметров сигналов, выход которого соединен с первым входом блока расчета входной части состояния НПЭ, второй вход которого соединен с ограничителем доли сигналов, одноканальный генератор случайных чисел, определяющий величину сигнала ограничителя доли сигналов по закону и в пределах, определяемых видом и погрешностью задания этой величины, блок задания внутреннего состояния НПЭ, второй одноканальный генератор случайных чисел, определяющий величину сигнала блока задания внутреннего состояния НПЭ по закону и в пределах, определяемых видом и погрешностью его задания, выход которого соединен с входом блока расчета внутренней части состояния НПЭ, осуществляющего перемножение сигнала с выхода блока задания внутреннего состояния НПЭ на разность между единицей и величиной сигнала ограничителя доли сигналов, выход блока расчета внутренней части состояния НПЭ соединен с первым входом блока расчета состояния НПЭ, осуществляющего сложение сигнала с выхода блока расчета входной части состояния НПЭ с сигналом, поступающим с выхода блока расчета внутренней части состояния НПЭ, выход блока расчета состояния НПЭ соединен с блоком выхода, с первым входом анализатора величины изменения состояния НПЭ непосредственно, а со вторым его входом через блок памяти, хранящем информацию о предыдущем значении расчета состояния НПЭ, блок установки точности обучения нейросети, выход которого соединен с третьим входом анализатора величины изменения состояния НПЭ, который осуществляет сравнение величины точности самообучения с величиной, равной разности между предыдущим значением расчета состояния НПЭ и текущим, и в случае выполнения заданного условия подает на блок управления сигнал на завершение процесса самообучения нейросети, блок управления, осуществляющий управление генераторами случайных чисел, генератором тактовых импульсов и прохождением в нейросети импульсов.A neural-like element (NPE) containing an input unit including a first random number generator, the number of outputs of which is equal to the number of inputs of an input unit, the signal from each output of the first random number generator determines the change in the value of the corresponding input signal according to the law and within the limits determined by its type and error tasks, unit for setting and normalizing weighting coefficients, the number of weight elements of which is equal to the number of inputs of the input unit, the weight setting in the weight elements is carried out by means of a second generator random numbers according to the law and within the limits determined by the type and error of its assignment, each weighting coefficient is normalized by dividing each weight by the sum of all the weight elements of the weight, and each normalized weighting factor sets the corresponding synaptic connection of the outputs of the input block and the inputs of the block for calculating signal parameters, the outputs of which are connected to the inputs of the adder of signal parameters, the output of which is connected to the first input of the unit for calculating the input part of the NPE state, the second input of which is connected to a limiter of the share of signals, a single-channel random number generator that determines the signal value of the limiter of the share of signals according to the law and within the limits determined by the type and error of setting this value, a unit for setting the internal state of the NPE, a second single-channel random generator that determines the value of the signal of the unit for setting the internal state of the NPE the law and within the limits determined by the type and error of its assignment, the output of which is connected to the input of the unit for calculating the internal part of the state of the NPE performing knife signal from the output of the unit for setting the internal state of the NPE to the difference between the unit and the signal value of the limiter of the fraction of signals, the output of the unit for calculating the internal part of the state of the NPE is connected to the first input of the unit for calculating the state of the NPE combining the signal from the output of the unit for calculating the input part of the state of the NPE with the signal coming from the output of the unit for calculating the internal part of the state of the NPE, the output of the unit for calculating the state of the NPE is connected to the output unit, with the first input of the analyzer, the magnitude of the change in the state of the NPE directly, and with its second input through a memory unit that stores information about the previous value of calculating the state of the NPE, a unit for setting the accuracy of training the neural network, the output of which is connected to the third input of the analyzer of the magnitude of the change in the state of the NPE, to which compares the accuracy of self-learning with a value equal to the difference between the previous value of calculating the state of NPE and the current one, and if the specified condition is met, it sends a signal to the control unit to complete the process of self-learning of the neural network, a control unit that controls the random number generators, clock generator and the passage in the neural network of pulses.
2. Нейроподобный элемент по п.l, отличающийся тем, что введен переключатель, установленный между выходом блока расчета входной части состояния НПЭ и входом блока расчета состояния НПЭ, второй выход переключателя соединен с входом введенного блока детерминированных зависимостей, выход которого соединен с первым выходом переключателя, причем величина формируемого им сигнала определяется известной функциональной зависимостью сигнала, определяющего входную часть состояния НПЭ, от входных сигналов. 2. A neural-like element according to claim 1, characterized in that a switch is inserted between the output of the unit for calculating the input part of the NPE state and the input of the unit for calculating the NPE state, the second output of the switch is connected to the input of the input block of deterministic dependencies, the output of which is connected to the first output of the switch moreover, the magnitude of the signal generated by it is determined by the known functional dependence of the signal determining the input part of the state of the NPE from the input signals.
PCT/RU2006/000668 2006-12-13 2006-12-13 Neuron element WO2008072994A1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/RU2006/000668 WO2008072994A1 (en) 2006-12-13 2006-12-13 Neuron element

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/RU2006/000668 WO2008072994A1 (en) 2006-12-13 2006-12-13 Neuron element

Publications (1)

Publication Number Publication Date
WO2008072994A1 true WO2008072994A1 (en) 2008-06-19

Family

ID=39511923

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/RU2006/000668 WO2008072994A1 (en) 2006-12-13 2006-12-13 Neuron element

Country Status (1)

Country Link
WO (1) WO2008072994A1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102361588A (en) * 2009-02-17 2012-02-22 神经芯片公司 System and method for cognitive rhythm generation
CN102567784A (en) * 2010-12-08 2012-07-11 国际商业机器公司 Integrate and fire electronic neurons

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06266868A (en) * 1992-12-24 1994-09-22 Olympus Optical Co Ltd Neuron element
RU2074414C1 (en) * 1993-08-02 1997-02-27 Акционерное общество закрытого типа "Нейрома-РД" Simulated neuron
RU2128363C1 (en) * 1995-06-06 1999-03-27 Таганрогский государственный радиотехнический университет Reflex neural network
US6470328B1 (en) * 1998-08-07 2002-10-22 Monolith Company, Ltd. Artificial neuron on the base of B-driven threshold element

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06266868A (en) * 1992-12-24 1994-09-22 Olympus Optical Co Ltd Neuron element
RU2074414C1 (en) * 1993-08-02 1997-02-27 Акционерное общество закрытого типа "Нейрома-РД" Simulated neuron
RU2128363C1 (en) * 1995-06-06 1999-03-27 Таганрогский государственный радиотехнический университет Reflex neural network
US6470328B1 (en) * 1998-08-07 2002-10-22 Monolith Company, Ltd. Artificial neuron on the base of B-driven threshold element

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102361588A (en) * 2009-02-17 2012-02-22 神经芯片公司 System and method for cognitive rhythm generation
CN102361588B (en) * 2009-02-17 2015-02-18 神经芯片公司 System and method for cognitive rhythm generation
CN102567784A (en) * 2010-12-08 2012-07-11 国际商业机器公司 Integrate and fire electronic neurons

Similar Documents

Publication Publication Date Title
Cont Volatility clustering in financial markets: empirical facts and agent-based models
McGuire An econometric model of federal grants and local fiscal response
Yazdani-Chamzini et al. Forecasting gold price changes by using adaptive network fuzzy inference system
Sheta et al. Development of software effort and schedule estimation models using soft computing techniques
WO2012073074A1 (en) Liability risk driven system for optimized triggering risk exposure if insurance objects
CN104616212A (en) Relay protection system reliability analysis method and system
Kroha et al. Hurst Exponent and Trading Signals Derived from Market Time Series.
Ghanbari et al. Project duration performance measurement by fuzzy approach under uncertainty
Sinha Short term load forecasting using artificial neural networks
Gupta et al. US monetary policy and BRICS stock market bubbles
Maksyshko et al. Comparative analysis of the attractiveness of investment instruments based on the analysis of market dynamics
WO2008072994A1 (en) Neuron element
Giebel et al. Simulation and prediction of wind speeds: A neural network for Weibull
Hanias et al. Prediction with neural networks: the Athens stock exchange price indicator
RU2295769C1 (en) Neuron-like element
Kyzym et al. Simulating Development of Science in a Country with the Use of the Cognitive Approach
Daryakin et al. Problems of evaluation and management of operational risks in banks
Kad et al. Fuzzy logic based framework for software development effort estimation
Govender et al. Short-term load forecasting using artificial neural networks and multiple linear regression
Klepáč et al. Assessing efficiency of d-vine copula ARMA-GARCH method in value at risk forecasting: evidence from PSE listed companies
Anyaduba et al. Tax revenue and economic growth in Nigeria
Napitupulu Artificial neural network application in gross domestic product forecasting: an Indonesia case
RU2744361C1 (en) Neuron-like unit
NAPITUPULU Artificial neural network application in gross domestic product forecasting an Indonesia case
Zhou et al. Global sensitivity analysis for the short-term prediction of system variables

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 06849645

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 06849645

Country of ref document: EP

Kind code of ref document: A1