JP7226497B2 - Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it - Google Patents

Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it Download PDF

Info

Publication number
JP7226497B2
JP7226497B2 JP2021155144A JP2021155144A JP7226497B2 JP 7226497 B2 JP7226497 B2 JP 7226497B2 JP 2021155144 A JP2021155144 A JP 2021155144A JP 2021155144 A JP2021155144 A JP 2021155144A JP 7226497 B2 JP7226497 B2 JP 7226497B2
Authority
JP
Japan
Prior art keywords
information
brain
information processing
processing device
mechanical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021155144A
Other languages
Japanese (ja)
Other versions
JP2021192317A (en
Inventor
正実 岩本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Central R&D Labs Inc
Original Assignee
Toyota Central R&D Labs Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Central R&D Labs Inc filed Critical Toyota Central R&D Labs Inc
Priority to JP2021155144A priority Critical patent/JP7226497B2/en
Publication of JP2021192317A publication Critical patent/JP2021192317A/en
Application granted granted Critical
Publication of JP7226497B2 publication Critical patent/JP7226497B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)

Description

本発明は、情報処理装置、情報処理装置に知的行動を模擬させる方法、コンピュータプログラム、及び、それを記憶した記憶媒体に関する。 The present invention relates to an information processing device, a method for causing the information processing device to simulate intellectual behavior, a computer program, and a storage medium storing it.

例えば人の脳のように高度な情報処理を実現する装置及びシステムが知られている(例えば、特許文献1~3、非特許文献1,2)。特許文献1に記載のシステムは、人の脳がもつ知的情報処理を模擬するコンピュータシステムである。特許文献1に記載のシステムは、長期知覚記憶、短期知覚記憶、知覚表現の選択とワーキングメモリの情報処理、行動選択、行動出力、認知制御、をそれぞれ行うの6つの機能回路を含み、それぞれの機能が関係する脳の解剖学的部位間の相互作用を記述するための制御ロジック(フィードバック制御、フィードフォワード制御など)を有している。 For example, devices and systems that realize advanced information processing like the human brain are known (eg, Patent Documents 1 to 3, Non-Patent Documents 1 and 2). The system described in Patent Document 1 is a computer system that simulates intelligent information processing of the human brain. The system described in Patent Document 1 includes six functional circuits that perform long-term perceptual memory, short-term perceptual memory, selection of perceptual expressions and information processing of working memory, action selection, action output, and cognitive control. It has control logic (feedback control, feedforward control, etc.) to describe interactions between functionally relevant brain anatomical regions.

特許文献2に記載の情報処理装置は、センサで得られた物理量(映像、音声など)や、化学量(成分および組成など)を入力情報とし、入力情報保持部と内部表現コード保持部との間で双方向の変換処理(解析/逆写像)を行う解析部と、内部情報コード保持部と高次統合コード保持部との間に配置され1つまたは複数の内部表現コードを関係づけるとともにその関係を記憶する統合記憶部と、入力情報保持部、内部表現コード保持部、及び高次統合コード保持部に保持された入力情報と、内部表現コードおよび高次統合コードを監視して、解析部と統合記憶部を制御する監視制御部を有する脳型のコンピュータシステムである。 The information processing device described in Patent Document 2 uses physical quantities (video, audio, etc.) obtained by a sensor and chemical quantities (components and compositions, etc.) as input information, and an input information holding unit and an internal representation code holding unit. An analysis unit that performs bi-directional conversion processing (analysis/inverse mapping) between them, and an internal information code storage unit and a high-level integrated code storage unit that are placed between one or more internal representation codes and associate them with each other. an integrated storage unit for storing relationships, an input information storage unit, an internal representation code storage unit, and an analysis unit that monitors the input information held in the high-level integrated code storage unit, the internal representation code, and the high-level integrated code It is a brain-type computer system having a supervisory control unit that controls the integrated storage unit.

特許文献3に記載の情報処理装置は、1つの軸索における1つの状態変数と、1つのシナプスにおける1つの状態変数を保持する機構を有し、最初の事象の発生に基づき軸索の状態変数を更新し、更新された軸索の状態変数と2番目の事象の発生に基づきシナプスの状態変数を更新する機能を有する、複数の軸索、シナプスを含むことができるニューラルネットワークからなる。特許文献3に記載の情報処理装置では、学習や記憶のために重要な神経の可塑性を表現するために、事象の発生に対する加算された重み値の変化と、ドーパミンなどの神経伝達物質による調整とに基づき、シナプスの重み値を更新する。これにより、神経の可塑性を調整する方法を提供できる。 The information processing device described in Patent Document 3 has a mechanism for holding one state variable in one axon and one state variable in one synapse, and changes the state variable of the axon based on the occurrence of the first event. , and update the synaptic state variables based on the updated axonal state variables and the occurrence of a second event, which can include multiple axons and synapses. In the information processing device described in Patent Document 3, in order to express neural plasticity that is important for learning and memory, changes in added weight values with respect to the occurrence of events and adjustments by neurotransmitters such as dopamine are performed. Update the synaptic weight value based on This can provide a way to modulate neural plasticity.

非特許文献1に記載の情報処理装置は、環境の変化に対する感覚入力とそれによる脳内の状態(すなわち知覚・推論、学習・記憶、注意・覚醒の状態)を示す量と行動を、自由エネルギーを最小化するように決定するモデルを有し、自由エネルギーを最小化するような行動を求める。自由エネルギーを最小化するとは、換言すれば、環境変化に対する感覚知覚の状態を示す量と、その認知の状態を示す量の差(予測誤差)を減らすことである。非特許文献1に記載の情報処理装置では、認知の状態を示す量は、自由エネルギー原理のもとで脳内の状態である知覚、記憶、注意とそれぞれ対応する神経活動、シナプス効率(シナプスコネクティビティ)、シナプスのゲインを最適化することにより決定され、これによりそれぞれ脳の誘発活動、可塑性、神経調節の特性を表現する。 The information processing apparatus described in Non-Patent Document 1 converts amounts and actions indicating sensory input to changes in the environment and the resulting states in the brain (that is, states of perception/inference, learning/memory, attention/awakening) into free energy. We have a model that determines to minimize , and seeks actions that minimize the free energy. Minimizing the free energy means, in other words, reducing the difference (prediction error) between the amount indicating the state of sensory perception with respect to environmental changes and the amount indicating the state of that cognition. In the information processing device described in Non-Patent Document 1, the amount indicating the state of cognition is the neural activity corresponding to the state of the brain under the principle of free energy, memory, attention, and synaptic efficiency (synaptic connectivity ), determined by optimizing synaptic gains, which represent properties of brain evoked activity, plasticity, and neuromodulation, respectively.

非特許文献2に記載の情報処理装置は、1つの経験に関する情報をそれと関連する概念構造の形式(統合情報の質)で特定し、かつΦmax(統合情報の量)で定量化し、その情報のメカニズムや現在の状態が、過去や未来の状態がとる確率にどのような影響を与えるか(cause-effect power)に基づき、統合された情報として脳の意識状態を評価する統合情報理論(Integrated Information Theory)からなる。脳の中にある1つのニューロンは
、活性か不活性かという内部状態をもつ。この内部状態は入力情報によって影響を受け(cause)、その出力は他のニューロンに影響を与える(effect)ことから、統合情報理論を用
いて、脳のニューロンの活動をミクロレベルやマクロレベルで捉えてモデル化することにより脳神経の活動を空間的、時間的、かつ活動の種類(Low, High, Burst)で再現できる。
The information processing device described in Non-Patent Document 2 specifies information about one experience in the form of a conceptual structure related to it (integrated information quality), and quantifies it with Φmax (integrated information amount), and the information Integrated Information Theory evaluates the conscious state of the brain as integrated information based on how mechanisms and current states affect the probability of past and future states (cause-effect power). Theory). A single neuron in the brain has an internal state of being active or inactive. This internal state is caused by input information, and its output affects other neurons. It is possible to reproduce the activity of cranial nerves spatially, temporally, and according to the type of activity (Low, High, Burst).

米国特許第9208430号明細書U.S. Pat. No. 9,208,430 特開2000-259597号公報JP-A-2000-259597 米国特許出願公開第2015/0286925号明細書U.S. Patent Application Publication No. 2015/0286925

Karl Friston、The free-energy principle: a rough guide to the brain?、Trends in Cognitive Science、2009、Vol.13, No.7、p.293-301Karl Friston, The free-energy principle: a rough guide to the brain?, Trends in Cognitive Science, 2009, Vol.13, No.7, p.293-301 G. Tononi、Integrated information theory: from consciousness to its physical substrate、Nature Review Neuroscience、2016、Vol.17, No.7、p.450-461G. Tononi, Integrated information theory: from consciousness to its physical substrates, Nature Review Neuroscience, 2016, Vol.17, No.7, p.450-461 神山 斉己、ニューロインフォマティクスと網膜研究、生物物理、2011、51(3)、p.112-117Masami Kamiyama, Neuroinformatics and Retina Research, Biophysics, 2011, 51(3), p.112-117 Toru HAMASAKI, Takahiro YAMAGUCHI, Masami IWAMOTO、Estimating the influence of age-related changes in skin stiffness on tactile perception for static stimulations、Journal of Biomechanical Science and Engineering、2018、13(1)、p.17-00575Toru HAMASAKI, Takahiro YAMAGUCHI, Masami IWAMOTO, Estimating the influence of age-related changes in skin stiffness on tactile perception for static stimulations, Journal of Biomechanical Science and Engineering, 2018, 13(1), p.17-00575

しかし、特許文献1に記載の技術では、環境や身体各部からの情報の統合について、神経回路の結合やその制御ロジックだけで行っているに過ぎず、脳全体として複数の情報を統合し処理する方法については考慮されていない。また、人や環境によって異なる脳の構造(神経や血管の配置など)と、物理学的特性(材料力学、流体力学、電磁気学など)を含む力学的情報を扱うことができないので、人の脳や経験・学習における個人差を考慮することはできない。また、脳の構造と機能の関係を含んでいないので、脳の損傷による機能低下や機能改善を予測するためには利用できない。 However, in the technique described in Patent Document 1, the integration of information from the environment and various parts of the body is performed only by the connection of neural circuits and their control logic, and the brain as a whole integrates and processes multiple pieces of information. method is not considered. In addition, the human brain cannot handle mechanical information, including the structure of the brain (arrangement of nerves and blood vessels, etc.) and physical properties (mechanics of materials, fluid dynamics, electromagnetism, etc.), which vary depending on the person and environment. and individual differences in experience and learning cannot be taken into account. In addition, it does not include the relationship between brain structure and function, so it cannot be used to predict functional decline or functional improvement due to brain injury.

また、特許文献2に記載の技術では、入力情報から内部表現コード、高次統合コードへの変換のように、段階的に情報を統合して記憶する記載はあるものの、脳全体として複数の情報を統合し処理する方法については考慮されていない。また、学習モードを選択することはできるものの、神経の可塑性を表現する上で必要な、学習により重み値を書き換えるための具体的な方法については考慮されておらず、人や環境によって異なる脳の構造(神経や血管の配置など)と物理学的特性(材料力学、流体力学、電磁気学など)を含む力学的情報を扱うことができないので、人の脳や経験・学習における個人差を考慮することはできない。また、脳の構造と機能の関係を含んでいないので、脳の損傷による機能低下や機能改善を予測するためには利用できない。 Further, in the technique described in Patent Document 2, although there is a description of integrating and storing information step by step, such as conversion from input information to internal representation code and high-level integration code, the brain as a whole stores a plurality of information. No consideration is given to how to integrate and process In addition, although it is possible to select the learning mode, it does not consider a specific method for rewriting weight values through learning, which is necessary for expressing neural plasticity. Inability to handle mechanical information including structure (arrangement of nerves and blood vessels, etc.) and physical properties (material mechanics, fluid dynamics, electromagnetism, etc.), so consider individual differences in the human brain and experience/learning It is not possible. In addition, it does not include the relationship between brain structure and function, so it cannot be used to predict functional decline or functional improvement due to brain injury.

また、特許文献3に記載の技術では、複数の感覚情報入力に対して、脳全体として複数の情報を統合し処理する方法については考慮されていない。また、各脳機能に特有の神経回路が脳の情報処理に及ぼす影響の大きさについては十分に考慮されておらず、脳全体を均一な神経回路で表現し、各ニューラルネットワークにおける結合方法に力点が置かれているため、人の脳の構造と機能を考慮して効率的に情報処理を行うために適用するのは困難である。さらに、学習において重要な可塑性を調整するために神経ネットワークの重み
値を書き換える方法を提供しているが、人や環境によって異なる脳の構造(神経や血管の配置など)と物理学的特性(材料力学、流体力学、電磁気学など)を含む力学的情報を扱うことができないので、人の脳や経験・学習における個人差を考慮することはできない。また、脳の構造と機能の関係を含んでいないので、脳の損傷による機能低下や機能改善を予測するためには利用できない。
Further, in the technique described in Patent Document 3, no consideration is given to a method of integrating and processing a plurality of pieces of information in the brain as a whole with respect to a plurality of sensory information inputs. In addition, the impact of neural circuits specific to each brain function on information processing in the brain has not been sufficiently considered. Therefore, it is difficult to apply it for efficient information processing considering the structure and function of the human brain. Furthermore, we provide a method to rewrite the weight values of neural networks to adjust plasticity, which is important in learning. Since it cannot handle dynamic information including dynamics, fluid dynamics, electromagnetism, etc.), it cannot consider individual differences in the human brain and experience/learning. In addition, it does not include the relationship between brain structure and function, so it cannot be used to predict functional decline or functional improvement due to brain injury.

また、非特許文献1に記載の技術では、感覚刺激を与えた時の脳波計(EEG:Electroencephalograph)、脳磁計(MEG:magnetoencephalograph)、機能的MRI(Magnetic Resonance Imaging)を用いた脳活動計測データを、この情報処理装置に適用することにより、認知活動がどのようなメカニズムで行われているのか調べることができる。このため、個人の脳の構造をある程度反映させることができ、人の脳の構造と機能を考慮した情報処理を行う可能性をもっている。しかしながら、非特許文献1に記載の技術では、複数の刺激に対しての認知活動のメカニズムを考慮することができるに過ぎず、複数のタスクの中から意図的に行動選択を行う方法は含まれていない。また、脳の活動を表す実験データの統計モデルに基づき自由エネルギーを算出しており、脳の構造(神経や血管の配置など)に由来する力学的情報を含んでいないため、脳の損傷による機能低下や機能改善を予測するためには利用できない。 In addition, in the technique described in Non-Patent Document 1, brain activity measurement data using electroencephalograph (EEG), magnetoencephalograph (MEG), and functional MRI (Magnetic Resonance Imaging) when sensory stimulation is applied is applied to this information processing device, it is possible to investigate the mechanism of cognitive activity. Therefore, it is possible to reflect the structure of an individual's brain to some extent, and it is possible to perform information processing in consideration of the structure and function of the human brain. However, the technology described in Non-Patent Document 1 can only consider the mechanism of cognitive activity with respect to multiple stimuli, and does not include a method of intentionally selecting actions from among multiple tasks. not In addition, the free energy is calculated based on a statistical model of experimental data representing brain activity, and does not include mechanical information derived from the structure of the brain (arrangement of nerves and blood vessels, etc.). It cannot be used to predict decline or functional improvement.

また、非特許文献2に記載の技術では、脳の構造的および機能的損傷により意識レベルがどのように変化するかを調べるために有効であるものの、各脳機能に特有の神経回路が脳の情報処理に及ぼす影響の大きさについては十分に考慮されておらず、複数のタスクの中から意図的に行動選択を行う方法は含まれていない。また、脳の活動部位の変化や意識状態を知ることはできるが、学習機能を保持していないため、リハビリなどによる脳の機能改善の可能性を予測するためには利用できない。さらに、人や環境によって異なる脳の構造(神経や血管の配置など)と物理学的特性(材料力学、流体力学、電磁気学など)を含む力学的情報を扱うことができないので、人の脳や経験・学習における個人差を考慮することはできない。 In addition, although the technique described in Non-Patent Document 2 is effective for examining how the level of consciousness changes due to structural and functional damage to the brain, neural circuits specific to each brain function are The degree of influence on information processing is not sufficiently considered, and a method of intentionally selecting an action from among multiple tasks is not included. In addition, although it is possible to know changes in the active parts of the brain and the state of consciousness, it cannot be used to predict the possibility of brain function improvement through rehabilitation, etc., because it does not retain the learning function. In addition, it cannot handle mechanical information including the structure of the brain (arrangement of nerves and blood vessels, etc.) and physical properties (mechanics of materials, fluid mechanics, electromagnetism, etc.) that differ depending on the person and environment. Individual differences in experience and learning cannot be considered.

本発明は、上述した課題の少なくとも一部を解決するためになされたものであり、脳の力学的変化に伴う脳の機能変化を予測可能な技術を提供することを目的とする。 The present invention has been made to solve at least part of the above-described problems, and aims to provide a technique capable of predicting functional changes in the brain associated with changes in brain mechanics.

本発明は、上述の課題の少なくとも一部を解決するためになされたものであり、以下の形態として実現することが可能である。知的行動を代替可能な情報処理装置であって、脳の複数の異なる機能について、各機能に関する行動パターンをそれぞれ学習した、各機能に対応する複数の機能部と、前記複数の機能部を統合した脳全体に対して電気的情報が入力された際に、前記脳全体の電磁気的解析を行うことにより得られる力学量である力学的情報を求め、前記力学的情報を、統合された前記複数の機能部の重み値に関連付ける情報統合部と、を備える、情報処理装置。そのほか、本発明は、以下の形態としても実現可能である。 The present invention has been made to solve at least part of the above problems, and can be implemented as the following modes. An information processing device capable of substituting intellectual behavior, comprising a plurality of functional units that have learned behavior patterns related to each of a plurality of different functions of the brain, and integrating the plurality of functional units. When electrical information is input to the whole brain, mechanical information is obtained as a mechanical quantity obtained by performing an electromagnetic analysis of the whole brain, and the mechanical information is integrated into the plurality of and an information integration unit that associates the weight values of the functional units with the information processing apparatus. In addition, the present invention can also be implemented as the following modes.

(1)本発明の一形態によれば、知的行動を代替可能な情報処理装置が提供される。この情報処理装置は、脳の複数の異なる機能について、各機能に関する行動パターンをそれぞれ学習した、各機能に対応する複数の機能部と、入力された電気的情報に対する、前記複数の機能部を統合した脳全体としての力学的情報を求め、前記力学的情報を、統合された前記複数の機能部の重み値に関連付ける情報統合部と、を備える。 (1) According to one aspect of the present invention, an information processing apparatus capable of substituting intellectual behavior is provided. This information processing device integrates a plurality of functional units corresponding to each function, which have learned behavioral patterns related to each of a plurality of different functions of the brain, and the plurality of functional units for input electrical information. and an information integration unit that obtains dynamic information of the entire brain and associates the dynamic information with the integrated weight values of the plurality of functional units.

人の脳の構造(神経や血管の配置など)には個人差があり、それらはそのまま脳の機能・働きに影響を及ぼす。また、生まれてから成人になり年老いるまでの間における、経験や学習内容にも個人差があり、それらが人の性格、意思決定、情動行動、運動能力などの違いに影響を及ぼしている。この構成によれば、情報統合部は、脳全体としての力学的情報を、統合された複数の機能部の重み値と関連付ける。個人の脳の力学的情報は、環境や身体からの情報が変化することにより変化する。このような力学的情報を、脳の複数の機能部の重み値と関連付けることにより、力学的情報に基づいて脳の複数の機能部を再学習させることができ、可塑性に伴う脳の構造および機能の変化を表現することができる。これにより、個人の経験や、学習内容を表現することができる。また、力学的情報は、MR
I(Magnetic Resonance Imaging)や、CT(Computed Tomography)などの医療用の断層撮影装置から得ることができる。情報統合部は、このような力学的情報と、脳の複数の機能部の重み値とを関連付けるため、個人の運動機能、情動機能、感覚機能などを反映させた学習をも行うことができる。さらに、力学的情報の変化は、脳神経系の損傷に伴って生じることもある。情報統合部20は、脳神経系の損傷部位が特定されると、この損傷部位の力学的情報の変化を、脳の複数の機能部の重み値に反映することができるため、学習や予測結果に変化が現れることによる、身体や精神に関連する機能低下の内容を予測できる。これらの結果、脳の力学的変化に伴う脳の機能変化を予測可能な情報処理装置を提供できる。
There are individual differences in the structure of the human brain (arrangement of nerves and blood vessels, etc.), and these directly affect the functions and functions of the brain. In addition, there are individual differences in experiences and learning content from birth to adulthood and old age, which influence differences in personality, decision-making, emotional behavior, motor skills, etc. . According to this configuration, the information integration unit associates the mechanical information of the entire brain with the integrated weight values of the plurality of functional units. The mechanical information of an individual's brain changes as the information from the environment and the body changes. By associating such mechanical information with the weight values of multiple functional parts of the brain, it is possible to re-learn the multiple functional parts of the brain based on the mechanical information, thereby improving the structure and function of the brain associated with plasticity. change can be expressed. This makes it possible to express personal experiences and learning content. In addition, the mechanical information is obtained from the MR
It can be obtained from a medical tomography apparatus such as I (Magnetic Resonance Imaging) and CT (Computed Tomography). Since the information integration unit associates such dynamic information with the weight values of multiple functional units of the brain, it is possible to perform learning that reflects the individual's motor function, emotional function, sensory function, and the like. In addition, changes in mechanical information may also accompany damage to the cranial nervous system. When the damaged part of the cranial nervous system is specified, the information integration unit 20 can reflect the change in the mechanical information of the damaged part in the weight values of the plurality of functional parts of the brain. It is possible to predict the content of functional deterioration related to the body and mind due to the appearance of changes. As a result, it is possible to provide an information processing apparatus capable of predicting functional changes in the brain associated with changes in brain mechanics.

(2)上記形態の情報処理装置において、前記情報統合部は、前記複数の機能部に含まれる神経ネットワークを模擬した要素を重畳することで、前記複数の機能部を統合した統合ネットワークを構成し、前記統合ネットワークに、脳の構造と物理学特性とから得られた力学モデルを適用し、前記力学モデルを適用した前記統合ネットワークに、前記入力された電気的情報を用いた電磁気的解析を行うことで、前記力学的情報を求め、求めた前記力学的情報を、前記統合ネットワークの重み値と関連付けてもよい。この構成によれば、情報統合部は、統合ネットワークに、脳の構造と物理学特性とから得られた力学モデルを適用し、電磁気的解析を行うことによって、入力された電気的情報に対する脳全体としての力学的情報を得ることができる。また、情報統合部は、得られた力学的情報を、統合ネットワークの重み値と関連付けることで再学習させることができる。 (2) In the information processing apparatus of the above aspect, the information integration unit configures an integrated network that integrates the plurality of function units by superimposing elements simulating neural networks included in the plurality of function units. applying a mechanical model obtained from the structure and physical characteristics of the brain to the integrated network, and performing electromagnetic analysis using the input electrical information on the integrated network to which the mechanical model is applied. Thus, the dynamic information may be determined and the determined dynamic information may be associated with weight values of the integrated network. According to this configuration, the information integration unit applies a dynamic model obtained from the structure and physical characteristics of the brain to the integration network, and performs electromagnetic analysis to obtain the input electrical information from the entire brain. It is possible to obtain the dynamic information as In addition, the information integration unit can re-learn by associating the obtained dynamic information with the weight value of the integration network.

(3)上記形態の情報処理装置では、さらに、前記力学的情報が予め設定された閾値より大きくなった場合に、前記複数の機能部の重み値を更新する可塑性部を備えていてもよい。この構成によれば、可塑性部は、力学的情報が予め設定された閾値より大きくなった場合に、複数の機能部の重み値を更新するため、脳神経系の機能的変化を模擬できる。また、複数の機能部の重み値は、脳全体としての力学的情報と関連付けられている。このため、重み値の更新は、脳全体としての力学的情報の更新へと波及するため、脳神経系の機能的変化に加えてさらに、脳神経系の構造的変化をも模擬できる。この結果、実際の脳のように、各機能ネットワークの相互作用を考慮した調整が可能となる。さらに、重み値の更新により、複数の機能部の学習モデル中の重み値を更新することができ、力学的情報の更新により、脳の構造と物理学特性とから得られた力学モデルを更新することができる。このため、更新後の学習モデルと力学モデルとを用いた処理によって、脳神経の構造・機能の変化を反映した学習が可能になる。 (3) The information processing apparatus of the above aspect may further include a plasticity section that updates the weight values of the plurality of functional sections when the dynamic information exceeds a preset threshold value. According to this configuration, the plastic part updates the weight values of the plurality of functional parts when the dynamic information exceeds a preset threshold value, so that functional changes in the cranial nervous system can be simulated. Also, the weight values of a plurality of functional parts are associated with the mechanical information of the brain as a whole. Therefore, the update of the weight value influences the update of the mechanical information of the whole brain, so that structural changes of the cranial nervous system can be simulated in addition to the functional changes of the cranial nervous system. As a result, it becomes possible to make adjustments that take into consideration the interaction of each functional network, just like in the real brain. Further, by updating the weight values, it is possible to update the weight values in the learning model of a plurality of functional parts, and by updating the mechanical information, the mechanical model obtained from the structure and physical characteristics of the brain is updated. be able to. Therefore, processing using the updated learning model and dynamic model enables learning that reflects changes in the structure and function of cranial nerves.

(4)上記形態の情報処理装置において、前記閾値は、材料力学における降伏点に基づき決定されていてもよい。この構成によれば、重み値を更新するための閾値が、材料力学における降伏点に基づき決定されているため、ニューラルネットワークの重み値と力学的情報、換言すれば、情報学と物理学とを対応づけることで、神経の可塑性における、脳神経系の機能的変化と構造的変化を同時に表現することができる。 (4) In the information processing device of the above aspect, the threshold may be determined based on a yield point in material mechanics. According to this configuration, since the threshold value for updating the weight value is determined based on the yield point in material mechanics, the weight value and mechanical information of the neural network, in other words, informatics and physics are combined. By matching, it is possible to simultaneously express functional changes and structural changes in the brain nervous system in neuroplasticity.

(5)上記形態の情報処理装置において、前記可塑性部は、さらに、前記力学的情報を表示してもよい。この構成によれば、可塑性部は、力学的情報を表示するため、利便性を向上できる。 (5) In the information processing device of the above aspect, the plastic portion may further display the dynamic information. According to this configuration, since the plastic portion displays the dynamic information, convenience can be improved.

(6)上記形態の情報処理装置では、さらに、前記複数の機能部により実行可能な複数の行動から、優先的に実行すべき行動を選択する行動選択部を備えていてもよい。この構成によれば、行動選択部は、複数の機能部により実行可能な複数の行動から、優先的に実行すべき行動を選択する。このため、例えば、人を模擬したデジタルヒューマンモデル(骨格、骨、筋肉、血管、心臓、臓器などの各モデルデータから、血圧や筋力を含む身体内部情報を出力可能なモデル)や、バーチャル空間における人やキャラクターの「歩く、走る
、逃げる、闘う」などの身体動作や、情動行動に関する複数の行動について、意図に基づく優先行動を考慮してシミュレーションすることができ、その際に脳の構造や学習における個人差を表現できる。
(6) The information processing apparatus of the above aspect may further include an action selection unit that selects an action to be preferentially executed from a plurality of actions executable by the plurality of function units. According to this configuration, the action selection unit selects an action to be preferentially executed from a plurality of actions that can be executed by a plurality of function units. For this reason, for example, a digital human model that simulates a person (a model that can output internal body information including blood pressure and muscle strength from each model data such as skeleton, bones, muscles, blood vessels, heart, and organs), and virtual space It is possible to simulate the physical actions of people and characters such as "walking, running, running away, fighting" and multiple behaviors related to emotional behavior, considering the priority behavior based on intentions. can express individual differences in

(7)上記形態の情報処理装置において、前記行動選択部は、前記力学的情報に基づく自由エネルギーが一定であり、かつ、複数の前記行動を実行可能なマルチタスク条件下で、各前記機能部の目標値に対する予測誤差の最小化と、前記複数の行動に要するエネルギーの最大化と、を行う組み合わせ最適化問題を解くことにより、前記優先的に実行すべき行動を決定してもよい。この構成によれば、行動選択部は、力学的情報に基づく自由エネルギーが一定であり、かつ、複数の行動を実行可能なマルチタスク条件下で、各機能部の目標値に対する予測誤差の最小化と、複数の行動に要するエネルギーの最大化と、を行う組み合わせ最適化問題を解くことにより、優先的に実行すべき行動を決定する。このため、行動選択部は、非常に多くの情報・データを、力学的情報という数理モデルで解析できる形式で扱うことができる。また、行動選択部が行動を選択する際には、組み合わせ最適化問題を解くことを得意とする量子コンピュータの利用も可能になることから、従来の人工知能と比較して身体性を考慮でき、かつ効率的な行動選択に関する情報処理が可能になる。 (7) In the information processing device of the above aspect, the action selection unit selects each of the function units under a multitasking condition in which the free energy based on the dynamic information is constant and a plurality of the actions can be executed. The action to be preferentially executed may be determined by solving a combinatorial optimization problem of minimizing the prediction error with respect to the target value of and maximizing the energy required for the plurality of actions. According to this configuration, the action selection unit minimizes the prediction error with respect to the target value of each function unit under multitasking conditions in which the free energy based on the dynamic information is constant and a plurality of actions can be executed. , and maximizing the energy required for a plurality of actions. Therefore, the action selection unit can handle a large amount of information and data in a format that can be analyzed by a mathematical model called dynamic information. In addition, when the action selection unit selects an action, it is possible to use a quantum computer that is good at solving combinatorial optimization problems. And efficient information processing on action selection becomes possible.

なお、本発明は、種々の態様で実現することが可能であり、例えば、知的行動を代替可能な情報処理装置、情報処理装置に知的行動を模擬させる方法・コンピュータプログラム、このコンピュータプログラムを配布するためのサーバ装置、このコンピュータプログラムを記憶した一時的でない記憶媒体、このコンピュータプログラムを搭載したデジタルヒューマンモデル、仮想空間システム、ニューロリハビリ支援システム、シミュレーションシステム、脳機能評価システム等の形態で実現することができる。 It should be noted that the present invention can be implemented in various aspects, for example, an information processing device capable of substituting intellectual behavior, a method/computer program for allowing an information processing device to simulate intellectual behavior, and this computer program. Realized in the form of a server device for distribution, a non-temporary storage medium storing this computer program, a digital human model equipped with this computer program, a virtual space system, a neurorehabilitation support system, a simulation system, a brain function evaluation system, etc. can do.

本発明の一実施形態としての情報処理装置の構成を例示した説明図である。1 is an explanatory diagram illustrating the configuration of an information processing apparatus as one embodiment of the present invention; FIG. 機能部と情報統合部とについて説明する図である。It is a figure explaining a function part and an information integration part. 機能部の学習について説明する図である。It is a figure explaining learning of a function part. 再帰型ニューラルネットワークの一例を示す図である。It is a figure which shows an example of a recursive neural network. 時間間隔毎の機能マップ及び重み値の一例を示す図である。It is a figure which shows an example of the function map for every time interval, and a weight value. 機能部と力学モデルとの統合について説明する図である。FIG. 4 is a diagram for explaining integration of a functional part and a dynamic model; 脳全体の硬さ分布と、ニューラルネットワークの重み値との関連付けについて説明する図である。FIG. 4 is a diagram for explaining the association between the hardness distribution of the whole brain and the weight values of the neural network; 機能部の各神経ネットワークが交差する脳機能部位における重み値及び弾性率を表す図である。FIG. 4 is a diagram showing weight values and elastic moduli in brain functional regions where neural networks of functional regions intersect; 可塑性部について説明する図である。It is a figure explaining a plastic part. 行動選択部について説明する図である。It is a figure explaining an action selection part. 脳に力学的損傷が発生した場合の一例を示す図である。It is a figure which shows an example when mechanical damage generate|occur|produces in a brain.

<実施形態>
図1は、本発明の一実施形態としての情報処理装置1の構成を例示した説明図である。情報処理装置1は、人の知的行動を、人に代わって行うことのできるコンピュータであり、AI(Artificial Intelligence)とも呼ばれる。本実施形態の情報処理装置1は、以
下の構成を有することにより、脳の力学的変化に伴う脳の機能変化を予測することができる。本実施形態では生物の一例として人を挙げているが、人に限らず、他の生物の知的行動を情報処理装置1に実現させてもよい。
<Embodiment>
FIG. 1 is an explanatory diagram illustrating the configuration of an information processing device 1 as one embodiment of the present invention. The information processing apparatus 1 is a computer capable of performing human intellectual actions on behalf of a human, and is also called AI (Artificial Intelligence). The information processing apparatus 1 of the present embodiment can predict functional changes in the brain that accompany mechanical changes in the brain by having the following configuration. In the present embodiment, a person is taken as an example of a creature, but the information processing apparatus 1 may be made to realize the intellectual behavior of other creatures, not limited to humans.

情報処理装置1は、機能部10と、情報統合部20と、可塑性部30と、行動選択部4
0とを備えている。情報処理装置1への入力100は、環境や身体からの刺激や信号を表す電気的情報である。入力100としては、例えば、外部環境の情報(光、音、熱、振動、加速度など)、五感の情報(視覚、聴覚、触覚、味覚、嗅覚)、身体内部の情報(血圧、心拍数、二酸化炭素濃度など)で感じる情報を例示できる。情報処理装置1からの出力200は、環境や身体への反応や信号を表す電気的情報である。出力200としては、例えば、筋活性度やそれに基づく動き・表情のパターンなどを例示できる。
The information processing device 1 includes a function unit 10, an information integration unit 20, a plasticity unit 30, and an action selection unit 4.
0. An input 100 to the information processing apparatus 1 is electrical information representing stimuli and signals from the environment and the body. The input 100 includes, for example, information on the external environment (light, sound, heat, vibration, acceleration, etc.), information on the five senses (visual, auditory, tactile, gustatory, olfactory), information on the inside of the body (blood pressure, heart rate, carbon dioxide (carbon concentration, etc.) can be exemplified. The output 200 from the information processing device 1 is electrical information representing reactions and signals to the environment and the body. As the output 200, for example, the muscle activation level and patterns of movements and facial expressions based thereon can be exemplified.

機能部10は、脳の複数の異なる機能(例えば、脳の感覚機能、情動機能、思考機能、運動機能)に関する行動パターンをそれぞれ記憶する複数の機能部N1,N2,・・・,NNにより構成されている。各機能部N1~NNは、それぞれ、脳の神経ネットワークを模擬可能な構成、例えばニューラルネットワーク(Neural Network)により実現され、図示しない記憶部に記憶されている。各機能部N1~NNは、予め与えられた多くの入力100に対して、脳の各機能にそれぞれ適した学習方法を用いて予め学習することにより準備されている。また、各機能部N1~NNは、新たな入力100を受け付け、出力200を出力するまでの一連のプロセスを経た学習を行うことができる。学習の一例としての強化学習を行った事例について、詳細は後述する。 The functional unit 10 is composed of a plurality of functional units N1, N2, . It is Each of the functional units N1 to NN is implemented by a configuration capable of simulating a neural network of the brain, eg, a neural network, and stored in a storage unit (not shown). Each of the functional units N1 to NN is prepared by learning in advance for a large number of inputs 100 given in advance using a learning method suitable for each function of the brain. Also, each of the functional units N1 to NN can perform learning through a series of processes from receiving a new input 100 to outputting an output 200. FIG. An example of reinforcement learning as an example of learning will be described later in detail.

情報統合部20は、機能部10の各機能部N1~NNを統合して、脳全体としての、入力100(電気的情報)に対する力学的情報を求める。情報統合部20は、さらに、求めた力学的情報を、統合された脳全体のニューラルネットワークの重み値に関連付ける。具体的には、本実施形態の情報統合部20は、各機能部N1~NNに含まれる神経ネットワークを模擬した要素(ノード、リンク)を重畳することで、各機能部N1~NNを統合した統合ネットワークを構成し、この統合ネットワークに、脳の構造と物理学特性とから得られた力学モデル21を適用する。情報統合部20は、力学モデル21を適用した統合ネットワークに、入力100を用いた電磁気的解析を行うことで、力学的情報を求め、求めた力学的情報を、統合ネットワークの重み値と関連付ける。詳細は後述する。 The information integration unit 20 integrates the functional units N1 to NN of the functional unit 10 to obtain mechanical information for the input 100 (electrical information) for the brain as a whole. The information integration unit 20 further associates the obtained dynamic information with the weight values of the integrated neural network of the entire brain. Specifically, the information integration unit 20 of the present embodiment integrates each of the functional units N1 to NN by superimposing elements (nodes, links) that simulate neural networks included in the functional units N1 to NN. An integrated network is constructed, and a dynamic model 21 obtained from the structure and physical properties of the brain is applied to this integrated network. The information integration unit 20 obtains dynamic information by performing electromagnetic analysis using the input 100 on the integrated network to which the dynamic model 21 is applied, and associates the obtained dynamic information with the weight value of the integrated network. Details will be described later.

可塑性部30は、情報統合部20が求めた力学的情報が、予め設定された閾値より大きくなった際に、力学的情報と対応する脳全体のニューラルネットワークの重み値などの情報を、再学習により更新することで、情報処理装置1が実現する脳の構造と機能とを変化させる。詳細は後述する。 When the mechanical information obtained by the information integration unit 20 exceeds a preset threshold value, the plasticity unit 30 re-learns information such as the weight value of the neural network of the whole brain corresponding to the mechanical information. By updating by, the structure and function of the brain realized by the information processing apparatus 1 are changed. Details will be described later.

行動選択部40は、機能部10の各機能部N1~NNにより実行可能な複数の行動の中から、優先的に実行すべき行動を選択する。具体的には、本実施形態の行動選択部40は、力学的情報に基づく自由エネルギーが一定であり、かつ、複数の行動を実行可能なマルチタスク条件下で、各機能部N1~NNの目標値に対する予測誤差の最小化と、複数の行動に要するエネルギーの最大化と、を行う組み合わせ最適化問題を解くことにより、優先的に実行すべき行動を決定する。行動選択リスト41には、行動選択部40が選択可能な行動が予め記憶されている。例えば、行動N1_A1~A4は、機能部N1に関する行動であり、行動N2_A1~A4は、機能部N2に関する行動である。なお、行動選択リスト41には、処理の過程で新たな行動候補が加えられ、更新されていく。詳細は後述する。 The action selection unit 40 selects an action to be preferentially executed from among a plurality of actions that can be executed by each of the function units N1 to NN of the function unit 10. FIG. Specifically, the action selection unit 40 of the present embodiment has a constant free energy based on dynamic information, and under multitasking conditions in which a plurality of actions can be executed, the goals of each function unit N1 to NN Actions to be preferentially executed are determined by solving a combinatorial optimization problem that minimizes prediction errors for values and maximizes the energy required for multiple actions. Actions that can be selected by the action selection unit 40 are stored in advance in the action selection list 41 . For example, actions N1_A1 to A4 are actions related to the functional part N1, and actions N2_A1 to A4 are actions related to the functional part N2. The action selection list 41 is updated by adding new action candidates during the process. Details will be described later.

情報処理装置1は、与えられた入力100に対して、機能部10、情報統合部20、可塑性部30、及び行動選択部40により次の運動を選択して、出力200を出力するループを繰り返すことにより、学習し、成長するAIを実現できる。この情報処理装置1によれば、例えば、脳の特定部位における力学的損傷に関連する脳の機能低下を予測し、機能改善のために必要な行動選択を繰り返し、脳に力学的変化を与えることによる再学習と再予測の結果とから、機能改善を予測することも可能となる。 The information processing apparatus 1 selects the next motion for the given input 100 by the function unit 10, the information integration unit 20, the plasticity unit 30, and the action selection unit 40, and repeats the loop of outputting the output 200. By doing so, AI that learns and grows can be realized. According to this information processing device 1, for example, it is possible to predict functional deterioration of the brain associated with mechanical damage in a specific part of the brain, repeat action selection necessary for functional improvement, and give mechanical changes to the brain. It is also possible to predict functional improvement from the results of re-learning and re-prediction by.

図2は、機能部10と情報統合部20とについて説明する図である。図2(A)~(D)は、機能部10に含まれる各機能部N1~NNの一例を表す図である。図2(A)では、感覚機能としての視覚に関係する機能部N1を、神経ネットワークの形で表現している。同様に、図2(B)は、感覚機能しての聴覚に関係する機能部N2を表し、図2(C)は、情動機能に関係する機能部N3を表し、図2(D)は、運動機能に関係する機能部N4を表している。図中の黒丸は、視床、体性感覚野、大脳基底核、扁桃体などの脳の機能部位を表す神経細胞の集合(各機能部位内の神経細胞同士の結合を含む)であり、ノードNと呼ぶ。各ノードNを結ぶリンクLKは、神経細胞の集合同士を結合する神経線維の集合を表している。各機能部N1~NNにおける神経ネットワークの配置には、例えば、計測可能な個人の形状や、解剖学的部位の配置、血管や脳脊髄液の配置などを反映させてもよい。各機能部N1~NNは、それぞれ、例えば、光、音、匂い、熱、振動、加速度、血圧、心拍数、二酸化炭素濃度などの電気的情報を入力100として受け取る。入力100は、各機能部N1~NN内のノードNとリンクLKとを通じて伝達され、情報処理されて、環境・身体への反応などの電気的情報(出力200)として出力される。 FIG. 2 is a diagram explaining the function unit 10 and the information integration unit 20. As shown in FIG. 2A to 2D are diagrams showing examples of the functional units N1 to NN included in the functional unit 10. FIG. In FIG. 2A, a functional part N1 related to vision as a sensory function is represented in the form of a neural network. Similarly, FIG. 2(B) represents the functional part N2 related to hearing as a sensory function, FIG. 2(C) represents the functional part N3 related to emotional function, and FIG. A functional part N4 related to the motor function is represented. The black circles in the figure represent sets of neurons representing functional parts of the brain such as the thalamus, somatosensory cortex, basal ganglia, and amygdala (including connections between neurons in each functional part). call. A link LK connecting each node N represents a set of nerve fibers connecting sets of nerve cells. The arrangement of neural networks in the functional units N1 to NN may reflect, for example, the measurable shape of an individual, the arrangement of anatomical parts, the arrangement of blood vessels and cerebrospinal fluid, and the like. Each of the functional units N1 to NN receives as input 100 electrical information such as light, sound, smell, heat, vibration, acceleration, blood pressure, heart rate, and carbon dioxide concentration. An input 100 is transmitted through a node N and a link LK in each of the functional units N1 to NN, processed, and output as electrical information (output 200) such as reactions to the environment and body.

脳にはおよそ1000億個の神経細胞があるが、本実施形態の情報処理装置1では、それらの神経細胞を各機能部N1~NN(図1)に分けて、神経細胞の集合体として扱う。機能部10は、図2(A)~(D)のような脳の神経ネットワークを模擬したニューラルネットワークにより構成されているため、従来のように、大脳皮質と大脳辺縁系のみを考慮したものではなく、脳神経系への入力から出力までを考慮することができ、脳幹なども神経回路に含むことができる。図2(D)に示す運動機能N4は、姿勢制御をしながら目標運動を行うための神経ネットワークであるため、例えばコップを手にとり特定の場所に移動させるといった機能を実現させることが可能であり、従来「経験」としてモデル化されていたものに相当し得る。 There are about 100 billion nerve cells in the brain, but in the information processing device 1 of the present embodiment, these nerve cells are divided into functional units N1 to NN (FIG. 1) and treated as aggregates of nerve cells. . Since the functional unit 10 is composed of a neural network that simulates the neural network of the brain as shown in FIGS. Instead, it is possible to consider from the input to the nervous system to the output, and the brain stem can also be included in the neural circuit. The motor function N4 shown in FIG. 2(D) is a neural network for performing a desired motion while controlling posture, so it is possible to realize a function such as picking up a cup and moving it to a specific place. , can correspond to what is traditionally modeled as “experience”.

機能部10の各機能部N1~NN(図1)を作成する際には、各機能を表す神経ネットワークを用いて学習が行われる。この際、各機能に応じて、適切な学習方法(教師なし学習、教師あり学習、強化学習など)が選択される。例えば、運動機能において重要な大脳基底核機能を表すためには強化学習が選択され、小脳の機能を表すためには教師あり学習が選択され、運動野・体性感覚野の機能を表すためには教師なし学習が選択される。一方、情動機能に関連する扁桃体や側坐核の機能を表すためには、強化学習に関連する学習方法が選択されるなど、各機能に応じて学習方法が選択され得る。なお、図2(A),(B)において、感覚機能としての視覚に関係する機能部N1と、感覚機能しての聴覚に関係する機能部N2とに区別しているように、脳のある機能(上記例では感覚機能)と、機能部10内の機能部N1~NNとの対応関係は、1対多としてもよい。また、脳の複数の機能(例えば、情動機能と感覚機能)を、機能部10内の1つの機能部NNにまとめることで、対応関係を多対1としてもよい。 When creating each of the functional units N1 to NN (FIG. 1) of the functional unit 10, learning is performed using a neural network representing each function. At this time, an appropriate learning method (unsupervised learning, supervised learning, reinforcement learning, etc.) is selected according to each function. For example, reinforcement learning was selected to represent the basal ganglia function, which is important in motor function, supervised learning was selected to represent the cerebellar function, and supervised learning was selected to represent the function of the motor and somatosensory areas. is selected for unsupervised learning. On the other hand, in order to represent the functions of the amygdala and nucleus accumbens, which are related to emotional functions, a learning method related to reinforcement learning may be selected according to each function. 2(A) and 2(B), a functional part N1 related to vision as a sensory function and a functional part N2 related to hearing as a sensory function are distinguished. The correspondence between (the sensory functions in the above example) and the functional units N1 to NN in the functional unit 10 may be one-to-many. Further, by grouping a plurality of functions of the brain (e.g., emotional function and sensory function) into one functional unit NN within the functional unit 10, the correspondence may be many-to-one.

図3は、機能部10の学習について説明する図である。図3(A)は、2層に並べられたユニットを持つニューラルネットワークの一例を表す図である。図3(B)は、1層のユニットを持つニューラルネットワークの一例を表す図である。図3(C)は、運動機能に関係する機能部N4を例示した説明図である。図3(D)は、機能部N4の強化学習の様子を表す説明図である。図3(E)は、機能部N4の筋制御についての機能マップの一例を表す図である。 FIG. 3 is a diagram for explaining learning of the function unit 10. As shown in FIG. FIG. 3A is a diagram showing an example of a neural network having units arranged in two layers. FIG. 3B is a diagram showing an example of a neural network having one layer of units. FIG. 3(C) is an explanatory diagram showing an example of the functional part N4 related to motor function. FIG. 3D is an explanatory diagram showing how reinforcement learning is performed by the functional unit N4. FIG. 3(E) is a diagram showing an example of a function map for muscle control of the function unit N4.

上述の通り、機能部10の各機能部では、新たな入力100の処理を経た学習を行う。以降、図3(C)及び(D)に表す、運動機能に関係する機能部N4の強化学習について例示して説明する。図3(D)に表すように、運動機能に関係する機能部N4では、大脳基底核を含む神経ネットワークが模擬されている。この大脳基底核の機能の一つである、姿勢維持を目的とした強化学習を行う場合、強化学習アルゴリズムの利用において、図3
(B)に示す1層のユニットを持つニューラルネットワークを複数個用いることによって、図3(D)に示す機能部N4-1を学習モデル化する。例えば、身体からの入力100として、単関節の関節角度と、関節角速度とを用いて、出力200として、重力下において姿勢維持を実現するための各筋の筋活性度を得ることを目的とした強化学習を行う。すると、図3(E)に示すように、関節角度と関節角速度との入力に対して、それぞれの筋毎に姿勢維持を実現する最適な活性度が得られる筋制御関数、すなわち機能マップを得ることができる。また、最適値が得られたときの機能マップと、重み値Wijとが、それぞれの機能部ごとに、記憶部に記憶される。
As described above, each functional unit of the functional unit 10 performs learning through processing of the new input 100 . Reinforcement learning of the functional part N4 related to motor function shown in FIGS. As shown in FIG. 3(D), a neural network including the basal ganglia is simulated in the functional part N4 related to the motor function. When performing reinforcement learning for the purpose of maintaining posture, which is one of the functions of this basal ganglia, in using the reinforcement learning algorithm, Fig. 3
By using a plurality of neural networks each having one-layer units shown in (B), the functional unit N4-1 shown in FIG. 3(D) is made into a learning model. For example, the input 100 from the body is the joint angle of a single joint and the joint angular velocity, and the output 200 is to obtain the muscle activity of each muscle for maintaining posture under gravity. Do reinforcement learning. Then, as shown in FIG. 3(E), a muscle control function, that is, a function map, is obtained that obtains the optimum activation level for maintaining posture for each muscle with respect to the inputs of the joint angles and joint angular velocities. be able to. Also, the function map when the optimum value is obtained and the weight value W ij are stored in the storage unit for each function unit.

図4は、再帰型ニューラルネットワークの一例を示す図である。図3(D)に示す機能部N4-1の学習モデル化において、例えば、脳幹から視床、視床から体性感覚野へと伝達される神経信号をも加味する場合、図3(A)に示す2層に並べられたユニットを持つニューラルネットワークや、3層以上の多層のニューラルネットワークを用いて、神経ネットワークの結合性に応じて学習モデルを作成することができる。この際、図4に示す再帰型ニューラルネットワークRNN(Recurrent Neural Network)を用いると、空間における学習だけでなく時系列の学習を行うこともできる。再帰型ニューラルネットワークは、文章などの連続的な情報を処理する自然言語処理の分野で利用されている。さらに、再帰型ニューラルネットワークRNNに加えて、長・短期記憶LSTM(Long Short-Term Memory)の方法を併用すれば、長期にわたる記憶を実現できるため好ましい。 FIG. 4 is a diagram showing an example of a recurrent neural network. In the learning modeling of the functional unit N4-1 shown in FIG. Using a neural network having units arranged in two layers or a multi-layered neural network of three or more layers, a learning model can be created according to the connectivity of the neural network. At this time, if the recurrent neural network RNN (Recurrent Neural Network) shown in FIG. 4 is used, not only spatial learning but also time-series learning can be performed. Recurrent neural networks are used in the field of natural language processing for processing continuous information such as sentences. Furthermore, in addition to the recursive neural network RNN, if a long short-term memory (LSTM) method is used in combination, long-term memory can be realized, which is preferable.

図5は、時間間隔毎の機能マップ及び重み値Wijの一例を示す図である。上述のように、再帰型ニューラルネットワークRNNと長・短期記憶LSTMとを利用すれば、図5に示すように、時間間隔毎に最適な機能マップと重み値Wijを得ることができ、長期の時間において学習した情報を、機能マップを用いて記憶として蓄積することができる。最適値が得られた際の機能マップの時間的変化及び重み値Wijの時間的変化に関する情報は、それぞれの機能部ごとに、記憶部に記憶される。人は、生まれてからの経験を各機能について、記憶として蓄積していると考えられる。ただし、全ての記憶を即座に引き出せるわけではなく、即座に引き出せる記憶には制限があると考えられる。本実施形態の情報処理装置1では、即座に引き出せる記憶の情報は、機能マップからルックアップテーブルとして利用することにより取得でき、通常の情報は、重み値Wijを用いた計算から取得できる。 FIG. 5 is a diagram showing an example of function maps and weight values W ij for each time interval. As described above, if the recursive neural network RNN and the long/short-term memory LSTM are used, as shown in FIG. Information learned over time can be stored as memory using functional maps. Information about the temporal change of the function map and the temporal change of the weight value W ij when the optimum value is obtained is stored in the storage unit for each functional unit. Human beings are thought to accumulate experiences from birth as memories for each function. However, not all memories can be retrieved instantly, and it is thought that there is a limit to the memories that can be retrieved immediately. In the information processing apparatus 1 of the present embodiment, stored information that can be retrieved immediately can be obtained from the function map by using it as a lookup table, and normal information can be obtained from calculation using the weight value W ij .

図3(E)の例では、関節角度と、関節角速度とを入力とした例を示した。しかし、これらの関節角度や関節角速度に関する情報は、関節にある筋骨格系の機械受容器である関節包受容器により検知され、電気的情報として脳に伝達される。このように、環境や身体からの刺激や信号を電気的情報として扱うためには、機械受容器のような、機械刺激を電気的情報に変換する方法が必要である。この点、Hodgkin-Huxleyが提案した非線形微分方程式などを用いて、環境からの刺激を電気的情報に変換する数理モデルを利用できる。視覚、聴覚、触覚においていくつかの数理モデルが提案されており、例えば、非特許文献3に記載の技術を利用すれば、フラッシュ光の入力に対する光感受性電流を出力することができる。また、非特許文献4に記載の技術を利用すれば、有限要素法を用いた皮膚の力学モデルにより手指皮膚に圧迫や2点刺激を与えたときのメルケル細胞のインパルス応答を、それと相関があるミーゼス応力として出力することができる。このような各感覚器の数理モデルを用いることによって、刺激に対する電気的情報を得ることができる。 The example of FIG. 3E shows an example in which joint angles and joint angular velocities are input. However, information about these joint angles and joint angular velocities is detected by joint capsule receptors, which are musculoskeletal mechanoreceptors in joints, and transmitted to the brain as electrical information. Thus, in order to handle stimuli and signals from the environment and the body as electrical information, a method of converting mechanical stimuli into electrical information, such as mechanoreceptors, is required. In this regard, it is possible to use a mathematical model that converts environmental stimuli into electrical information using nonlinear differential equations proposed by Hodgkin-Huxley. Several mathematical models have been proposed for the senses of sight, hearing, and touch. In addition, if the technique described in Non-Patent Document 4 is used, the impulse response of Merkel cells when pressure or two-point stimulation is applied to the finger skin by a skin mechanics model using the finite element method is correlated with it. It can be output as Mises stress. By using such a mathematical model of each sensory organ, it is possible to obtain electrical information on stimulation.

図2(E)は、機能部N1~NNの各神経ネットワークを統合した統合ネットワークNjの一例を表す図である。図2(F)は、脳の構造と物理的特性の説明図である。図2(F)では、実際の脳の構造と、材料力学及び流体力学に基づく物理的特性と、を表現した計算モデル21を概念的に表している。計算モデル21は、材料力学と流体力学の物理学計算を行うための基本モデルであり、以降「力学モデル21」とも呼ぶ(図1:情報統合部20、力学モデル21)。力学モデル21は、予め算出されて、情報処理装置1の図示
しない記憶部に記憶されている。この力学モデル21には、例えば、脳の構造や、血管配置による特性が反映されている。力学モデル21に反映されている脳の特性は、ある個人のものであってもよく、一般化されたものであってもよい。図2(G)は、統合ネットワークNjと、計算モデル21との統合を説明する図である。図2(F)は、入力100に対する応力分布の一例を表す図である。
FIG. 2E is a diagram showing an example of an integrated network Nj that integrates neural networks of functional units N1 to NN. FIG. 2(F) is an explanatory diagram of the structure and physical properties of the brain. FIG. 2F conceptually represents a computational model 21 that expresses the actual brain structure and physical properties based on material mechanics and fluid mechanics. The calculation model 21 is a basic model for performing physical calculations of material dynamics and fluid dynamics, and is hereinafter also referred to as a "dynamic model 21" (FIG. 1: information integration unit 20, dynamic model 21). The dynamic model 21 is calculated in advance and stored in a storage unit (not shown) of the information processing device 1 . The dynamic model 21 reflects, for example, the structure of the brain and the characteristics of blood vessel arrangement. The brain characteristics reflected in the dynamic model 21 may be those of a certain individual or generalized ones. FIG. 2G is a diagram explaining the integration of the integrated network Nj and the computational model 21. As shown in FIG. FIG. 2F is a diagram showing an example of stress distribution with respect to the input 100. FIG.

情報統合部20は、機能部10の各機能部N1~NNが入力100として受け取る電気的情報を、力学モデル21を用いて統合し、脳全体の力学的情報(例えば、応力分布)に変換する。具体的には、情報統合部20は、図2(F)に示す力学モデル21に、図2(E)に示す統合ネットワークNj(機能部N1~NNの各神経ネットワークを統合したもの)の配置を用いた電磁気的解析を行う(2(G))。これにより、情報統合部20は、統合ネットワークNjに対して入力100が与えられた際の、ある時刻t1における応力
分布Ns(t1)を求めることができる。
The information integration unit 20 integrates the electrical information received as the input 100 by each of the functional units N1 to NN of the functional unit 10 using the mechanical model 21, and converts it into mechanical information (for example, stress distribution) of the entire brain. . Specifically, the information integration unit 20 arranges the integrated network Nj (integrated neural networks of the functional units N1 to NN) shown in FIG. (2 (G)). Thereby, the information integrating section 20 can obtain the stress distribution Ns(t 1 ) at a certain time t 1 when the input 100 is given to the integrated network Nj.

図6は、機能部N1と、力学モデル21との統合について説明する図である。情報統合部20は、統合ネットワークNjとは別に、図2(A)~(D)に示す各機能部N1~NNのそれぞれに対して、力学モデル21を適用して、それぞれの応力分布を得てもよい。図6の例では、情報統合部20は、力学モデル21に、機能部N1の配置を用いた電磁気的解析を行うことにより、機能部N1に対して入力100が与えられた際の、ある時刻t1における応力分布Ns(t1)を求めている。図6の場合は、感覚機能としての視覚が、外部から刺激を受け取った場合の、脳の応力分布が得られることとなる。 FIG. 6 is a diagram illustrating the integration of the functional part N1 and the dynamic model 21. As shown in FIG. The information integration unit 20 applies the dynamic model 21 to each of the functional units N1 to NN shown in FIGS. 2A to 2D separately from the integrated network Nj to obtain the respective stress distribution. may In the example of FIG. 6, the information integration unit 20 performs an electromagnetic analysis on the dynamic model 21 using the arrangement of the function unit N1. A stress distribution Ns(t 1 ) at t 1 is obtained. In the case of FIG. 6, the stress distribution of the brain when vision as a sensory function receives stimulation from the outside is obtained.

情報統合部20は、さらに、統合された力学的情報(上述の例では、応力分布)を、ニューラルネットワークの重み値Wijなどと関連付けてもよい。従来では、力学的情報の理論的算出を学問対象とする物理学と、ニューラルネットワークなどの複数の情報の関連性の推定を学問対象とする情報学と、を直接結び付ける方法は提供されていなかった。しかしながら、脳の神経線維の密度分布は、脳の硬さ分布と強い関連があるため、脳の硬さ分布において硬い部位は、脳の神経線維の分布において神経線維の密度が大きいと言える。そして、神経線維の密度が大きいということは、神経伝達がしやすくなる、すなわちニューラルネットワークの重み値が大きくなることがわかる。以降では、この着想に基づいて得られた、力学的情報としての脳全体の硬さ分布と、ニューラルネットワークの重み値とを関連付ける方法について説明する。 The information integration unit 20 may further associate the integrated dynamic information (the stress distribution in the above example) with the neural network weight value W ij or the like. In the past, there was no method for directly connecting physics, which deals with the theoretical calculation of dynamical information, and informatics, which deals with estimating the relationships between multiple pieces of information such as neural networks. . However, since the density distribution of nerve fibers in the brain is strongly related to the hardness distribution of the brain, it can be said that a hard region in the hardness distribution of the brain has a high density of nerve fibers in the distribution of the nerve fibers in the brain. It can be seen that a high nerve fiber density facilitates nerve transmission, that is, the weight value of the neural network increases. Hereinafter, a method of associating the stiffness distribution of the whole brain as dynamic information obtained based on this idea with the weight values of the neural network will be described.

図7は、脳全体の硬さ分布と、ニューラルネットワークの重み値との関連付けについて説明する図である。図7(A)は、脳全体の硬さ分布を表す力学モデル21を表す。図7(B)は、ニューラルネットワークとして表された脳全体の学習モデル22を表す。ここで、力学モデル21(図1:情報統合部20、力学モデル21、図7(A))において、脳は非線形の力学的特性を示すが、微小変形における線形の力学特性のみを考慮して、力学モデル21を式(1)のように表現する。式(1)において、σiは相当応力を、Eij
は弾性率を、εiは相当ひずみを、σj0は初期の相当応力を、それぞれ表す。なお、i,
j=1~nであり、nは脳の部位の全数を表す。
FIG. 7 is a diagram for explaining the association between the hardness distribution of the whole brain and the weight values of the neural network. FIG. 7A shows a mechanical model 21 representing the hardness distribution of the entire brain. FIG. 7(B) represents the learning model 22 of the whole brain represented as a neural network. Here, in the mechanical model 21 (FIG. 1: information integration unit 20, mechanical model 21, FIG. 7A), the brain exhibits nonlinear mechanical characteristics, but only linear mechanical characteristics in small deformation are considered. , the dynamics model 21 is expressed as in equation (1). In equation (1), σ i is the equivalent stress, E ij
is the elastic modulus, ε i is the equivalent strain, and σ j0 is the initial equivalent stress. Note that i,
j=1 to n, where n represents the total number of brain regions.

Figure 0007226497000001
Figure 0007226497000001

一方、ニューラルネットワークで表現される学習モデル22(図1:情報統合部20、学習モデル22、図7(B))を式(2)のように表現する。式(2)において、yi
出力値を、Wijは重み値を、xiは入力値を、bjはバイアスを、それぞれ表す。なお、i
,j=1~nであり、nは脳の部位の全数を表す。式(2)の右項には総和規約を用いた。
On the other hand, the learning model 22 (FIG. 1: information integration unit 20, learning model 22, FIG. 7(B)) represented by a neural network is expressed as shown in Equation (2). In equation (2), y i represents the output value, W ij the weight value, x i the input value, and b j the bias, respectively. It should be noted that i
, j=1 to n, where n represents the total number of brain regions. The summation convention was used for the right term of equation (2).

Figure 0007226497000002
Figure 0007226497000002

上述した脳全体の硬さ分布と、ニューラルネットワークの重み値との対応関係を考慮すると、図7(A)に示す力学モデル21の弾性率Eijは、図7(B)に示す学習モデル22の重み値Wijと等価になると考えることができる。ここで、弾性率Eijは、ある部位iからある部位j方向への弾性率を示し、重み値Wijは、ある部位iからある部位jに信号が伝達するときの重み値を表す。このように、弾性率Eijと重み値Wijが等価であるなら、図7(A)に示す力学モデル21の相当応力値σiと、図7(B)に示す学習モデル2
2の出力値yiも等価になると考えることができる。
Considering the above-described correspondence relationship between the hardness distribution of the whole brain and the weight values of the neural network, the elastic modulus E ij of the dynamic model 21 shown in FIG. can be considered to be equivalent to the weight value W ij of . Here, the elastic modulus E ij indicates the elastic modulus in the direction from a part i to a part j, and the weight value W ij indicates a weight value when a signal is transmitted from a part i to a part j. Thus, if the elastic modulus E ij and the weight value W ij are equivalent, the equivalent stress value σ i of the dynamic model 21 shown in FIG. 7(A) and the learning model 2 shown in FIG. 7(B)
2 output values y i can be considered to be equivalent.

ただし、例えば有限要素モデルでは、Eijは通常、直交座標系で表現される。しかし、図7(B)の学習モデル22における重み値Wijや、図7(A)の力学モデル21の弾性率Eijは、結合する部位どうしをつなぐ線分の方向を表す非直交基底ベクトルで表現される。このため、有限要素モデルなどと関連付けるためには、式(3)に示すように新座標x’iおよび旧座標xiそれぞれの基底ベクトルτ’iおよびτiについて、座標変換が必要となる。式(3)の座標変換を行うことにより、力学モデル21で得られる弾性率Eijや、相当応力σiを、学習モデル22の重み値Wijや、出力値yiと対応付けることが可能になる。 However, E ij is usually expressed in a Cartesian coordinate system, for example in a finite element model. However, the weight value W ij in the learning model 22 in FIG. 7B and the elastic modulus E ij in the dynamic model 21 in FIG. is represented by Therefore, in order to associate with a finite element model or the like, coordinate transformation is required for basis vectors τ' i and τ i of new coordinates x' i and old coordinates x i , respectively, as shown in equation (3). By performing the coordinate transformation of Equation (3), it becomes possible to associate the elastic modulus E ij and the equivalent stress σ i obtained by the dynamic model 21 with the weight value W ij and the output value y i of the learning model 22. Become.

Figure 0007226497000003
Figure 0007226497000003

図8は、機能部N1~N4の各神経ネットワークが交差する脳機能部位における重み値及び弾性率を表す図である。図2(A)~(D)に示す各機能部N1~N4を構成するノードNの中には、複数の機能部N1~NNの間で重複するノードNも存在する。脳機能のハブとなっている視床や島皮質などがそれに相当する。このような場合、図8に太枠の丸印で示すように、1つの脳機能部位Npに、重複する複数のノードNが存在する状態となる。このため、図7で説明した、脳全体の硬さ分布とニューラルネットワークの重み値の対応関係(力学モデル21と学習モデル22との対応関係)をそのまま適用できる。 FIG. 8 is a diagram showing weight values and elastic moduli in brain functional regions where the neural networks of the functional regions N1 to N4 intersect. Among the nodes N constituting each of the functional units N1 to N4 shown in FIGS. 2A to 2D, there are also nodes N that are duplicated among the plurality of functional units N1 to NN. The thalamus and insular cortex, which are hubs of brain functions, correspond to this. In such a case, as indicated by thick-framed circles in FIG. 8, a plurality of overlapping nodes N exist in one functional brain region Np. Therefore, the correspondence relationship between the hardness distribution of the whole brain and the weight values of the neural network (correspondence relationship between the dynamic model 21 and the learning model 22) described with reference to FIG. 7 can be applied as it is.

MRE(Magnetic Resonance Elastography)を用いると、脳組織の弾性特性の分布を求
めることができる。MREとは、高磁場のMRI(Magnetic Resonance Imaging)装置の中で駆動できる外部加振機により、振動と同期した振動勾配磁場を与えることにより、対象とする組織の波の画像から組織の粘弾性特性を求める手法である。解像度の問題はあるが、MREを用いれば、個人の脳組織の弾性率Eijを求めることができる。一方、高磁場のMRI装置を用いた拡散MRIの強調画像DWI(Diffusion Weighted Imaging)や、DSI(Diffusion Spectrum Imaging)の手法により得られたデータを、DSI Studio
などのソフトウェアを用いて解析することにより、個人の脳の構造的なネットワークを構築することができ、上記結合する部位どうしをつなぐ線分の方向に関する情報を得ること
ができる。これにより、神経の方向に対応する個人の脳組織の弾性率Eijを得ることができる。また、図7で説明した、脳全体の硬さ分布とニューラルネットワークの重み値の対応関係(力学モデル21と学習モデル22との対応関係)を利用すれば、重み値Wijも得ることができるため、これらを個人の脳の構造を反映させる場合の初期値として与えることができる。
Using MRE (Magnetic Resonance Elastography), it is possible to determine the distribution of elastic properties of brain tissue. MRE is an MRI (Magnetic Resonance Imaging) apparatus with a high magnetic field. By applying an oscillating gradient magnetic field that is synchronized with the vibration by an external vibrator that can be driven in a high magnetic field MRI (Magnetic Resonance Imaging) apparatus, the viscoelasticity of the tissue is obtained from the wave image of the target tissue. This is a method for obtaining characteristics. Although there is a resolution problem, the use of MRE makes it possible to obtain the elastic modulus E ij of individual brain tissue. On the other hand, the data obtained by DWI (Diffusion Weighted Imaging), a diffusion MRI-enhanced image using a high-field MRI apparatus, and DSI (Diffusion Spectrum Imaging), are used in DSI Studio.
By analyzing using software such as, it is possible to construct a structural network of an individual's brain, and obtain information on the direction of line segments connecting the above-mentioned connecting sites. This makes it possible to obtain the elastic modulus E ij of the individual brain tissue corresponding to the direction of the nerve. The weight value W ij can also be obtained by using the correspondence relationship between the hardness distribution of the whole brain and the weight value of the neural network (correspondence relationship between the dynamic model 21 and the learning model 22) described in FIG. Therefore, these can be given as initial values when reflecting the structure of an individual's brain.

可塑性部30は、情報統合部20において変換された力学的情報を、各機能部N1~NNの相互間における関連部位の力学量σp(例えば、相当応力値など)として表示する。
また、可塑性部30は、関連部位の力学量σpが、予め設定された閾値σyより大きくなった場合に(図1:σ=σp>σy)、ニューラルネットワークの重み値Wijを更新する。ここで、閾値σyは力学量(相当応力値など)で表現される。閾値σyは、神経生理学における神経の可塑性を再現する値であり、実験データを再現するように調整され得る。
The plastic part 30 displays the mechanical information converted by the information integrating part 20 as a mechanical quantity σ p (e.g., equivalent stress value) of the related parts between the functional parts N1 to NN.
In addition, when the mechanical quantity σ p of the related part becomes larger than a preset threshold value σ y (Fig. 1: σ = σ p > σ y ), the plastic part 30 sets the weight value W ij of the neural network to Update. Here, the threshold σ y is represented by a mechanical quantity (e.g. equivalent stress value). The threshold σ y is a value that reproduces neural plasticity in neurophysiology and can be adjusted to reproduce experimental data.

図9は、可塑性部30について説明する図である。図9(A)は、材料力学における塑性の概略図を示す。図9(B)は、神経の可塑性の概略図を示す。図9に示すように、本実施形態の情報処理装置1において、神経の可塑性(すなわち閾値σyの設定)は、材料
力学における塑性域に達する状態、すなわち降伏点と類似する考え方を採用している。材料力学において、弾性域では繰り返し変形をさせても元の状態に戻るが、一度塑性域に入れば、元の状態には戻らず材料の形が変わってしまう。それと同様に、神経においても通常の弱い信号伝達は記憶に影響を及ぼすようなことはないが、情動体験、強い感覚受容などを体験するような信号伝達があった場合、記憶や行動選択に大きな影響を及ぼすことがある。このような場合に、脳神経系において構造的、機能的変化が起きると考えられる。このように、力学的情報とニューラルネットワークの重み値、換言すれば、物理学と情報学を対応づけることは、神経の可塑性における、脳神経系の構造的変化と機能的変化を同時に表現することができる利点がある。
FIG. 9 is a diagram illustrating the plastic portion 30. FIG. FIG. 9(A) shows a schematic diagram of plasticity in material mechanics. FIG. 9(B) shows a schematic representation of neural plasticity. As shown in FIG. 9, in the information processing apparatus 1 of the present embodiment, the plasticity of nerves (that is, the setting of the threshold σ y ) adopts a concept similar to the state of reaching the plasticity region in material mechanics, that is, the yield point. there is In material mechanics, in the elastic region, even if it is repeatedly deformed, it returns to its original state, but once it enters the plastic region, it does not return to its original state and changes its shape. Similarly, normal weak signal transmission in nerves does not affect memory, but when there is signal transmission that causes emotional experience or strong sensory reception, memory and action selection are significantly affected. may have an impact. In such cases, it is thought that structural and functional changes occur in the cranial nervous system. In this way, correlating mechanical information and neural network weight values, in other words, physics and informatics, can simultaneously express structural and functional changes in the brain and nervous system in terms of neural plasticity. There are advantages to be had.

このように、可塑性部30は、各機能部N1~NNの相互間における関連部位の力学量σp(例えば、相当応力値などの力学的情報)が閾値σyより大きくなった場合、図7で説明した対応関係に基づいて、そのときの相当応力σpを出力値ypとして対応付ける(図1:可塑性部30、σp→yp)。この結果、図1に破線枠で示すように、各機能部N1~NNでは、出力値ypを満足するような重み値Wijを導出する再学習計算が行われ、これに
より重み値Wijが更新され、更新された重み値Wijが、各機能部N1~NNの図示しない記憶部に保存される。このことは、脳神経系の機能的変化が起きたことを示している。一方、重み値Wijが更新されると、図7で説明した対応関係に基づいて、弾性率Eijも更新される(図1:可塑性部30、W→E)。これにより、脳全体の硬さ分布が変化するので、脳神経系の構造的変化が起きたことを示している。
In this way, the plastic portion 30 is configured such that when the mechanical quantity σ p (for example, mechanical information such as the equivalent stress value) of the related portion between the functional portions N1 to NN becomes larger than the threshold value σ y , as shown in FIG. , the equivalent stress σ p at that time is associated as the output value y p (Fig. 1: plastic portion 30, σ p →y p ). As a result, as indicated by the dashed frame in FIG . 1, each of the functional units N1 to NN performs re-learning calculations to derive the weight value W ij that satisfies the output value y p . are updated, and the updated weight values W ij are stored in storage units (not shown) of the functional units N1 to NN. This indicates that functional changes in the cranial nervous system have occurred. On the other hand, when the weight value W ij is updated, the elastic modulus E ij is also updated based on the correspondence described in FIG. 7 (FIG. 1: plastic portion 30, W→E). As a result, the hardness distribution of the entire brain changes, indicating that structural changes have occurred in the cranial nervous system.

図1において可塑性部30から情報統合部20へ伸びる破線矢印に示すように、更新された弾性率Eijはまた、情報統合部20の力学モデル21の弾性率Eijをも更新する。同様に、更新された重み値Wijは、各機能部N1~NNの学習モデル22の重み値Wijを更新する。更新以降の計算においては、更新後の弾性率Eijや重み値Wijを用いた計算が行われ、脳神経の構造・機能の変化を反映した学習が可能になる。通常では、各機能部N1~NNにおいてそれぞれの機能を実現するように学習が個別に行われ、重み値Wijなどが決められるが、実際の脳においては脳内の各機能ネットワークが相互に影響を及ぼしていると考えられている。この点、本実施形態の情報処理装置1では、可塑性部30において再学習が行われることにより、重み値Wijが更新される。更新の際、応力分布に対応するように個々のネットワークの重み値Wijが調整されるため、実際の脳のように、各機能ネットワークの相互作用を考慮した調整が可能となる。 The updated elastic modulus E ij also updates the elastic modulus E ij of the dynamic model 21 of the information integration part 20 , as indicated by the dashed arrow extending from the plastic part 30 to the information integration part 20 in FIG. 1 . Similarly, the updated weight values W ij update the weight values W ij of the learning models 22 of the functional units N1 to NN. Calculations after the update are performed using the post-update elastic modulus E ij and weight value W ij , enabling learning that reflects changes in the structure and function of cranial nerves. Normally, each functional part N1 to NN learns individually so as to realize each function, and the weight value W ij etc. are determined, but in the actual brain, each functional network in the brain influences each other. is thought to affect In this regard, in the information processing apparatus 1 of the present embodiment, the weight value W ij is updated by re-learning in the plastic part 30 . When updating, the weight values W ij of the individual networks are adjusted so as to correspond to the stress distribution. Therefore, it is possible to make adjustments considering the interaction of each functional network as in the actual brain.

人の脳は日常的な行動において、情報処理装置1への入力100のように、環境や身体
からの刺激・信号を受け、それに対して反応する行動をとっている。その際、正常な意識状態であれば、常に現在の感覚・情動・思考・運動(各機能部N1~NNに相当)などの状態(現在値)を知覚し、過去の経験に基づく内部モデル(学習モデル22に相当)による予測値と比較して、現在値と予測値の誤差知覚に基づき行動を選択している。本実施形態の情報処理装置1についても、この原理に基づき行動選択を行う手法を採用する。
In daily actions, the human brain receives stimuli/signals from the environment and the body, such as the input 100 to the information processing apparatus 1, and takes actions in response to them. At that time, if you are in a normal state of consciousness, you always perceive the state (current value) such as current sensations, emotions, thoughts, and movements (equivalent to each functional part N1 to NN), and an internal model based on past experiences ( The action is selected based on the perceived error between the current value and the predicted value compared with the predicted value by the learning model 22). The information processing apparatus 1 of this embodiment also employs a method of selecting an action based on this principle.

脳における神経活動に関して、最近の脳波計や機能的MRIなどを用いた研究から、睡眠時においても、覚醒時と同じように脳の活動が見られることがわかっている。また、人は複数のタスクを同時に行うことができるが、その許容量には限界があり、複数のタスクを同時に同じクオリティで行うことは困難である。このような観点と生体の恒常性の観点から、脳活動に必要なエネルギーは一定であると考えられる。一方、脳における物理学的な観点からも、脳に身体からの神経の電気信号、血流、脊髄液などが入ってくるが、これらの作用による自由エネルギーは、外部への損失がない限り一定であることが考えらえる。上記のような観点から、以降では、脳全体の統合された力学的情報に基づく自由エネルギーは一定であると仮定する。 With regard to neural activity in the brain, recent studies using electroencephalographs, functional MRI, etc. have revealed that brain activity is observed during sleep as well as during wakefulness. Also, although humans can perform multiple tasks at the same time, there is a limit to how much they can handle, and it is difficult to perform multiple tasks at the same time with the same quality. From this point of view and the point of view of homeostasis of the living body, the energy required for brain activity is considered to be constant. On the other hand, from the physical point of view of the brain, the electrical signals of nerves from the body, blood flow, spinal fluid, etc. enter the brain, but the free energy due to these actions is constant as long as there is no loss to the outside. It is conceivable that From the above point of view, hereinafter, we assume that the free energy based on the integrated mechanical information of the whole brain is constant.

行動選択部40は、優先行動を決めるという意図に基づき、最適な行動を選択する手段を提供する。以下、複数のタスクを同時に行うことを想定し、機能ネットワークN1,N2,N3に関係するタスクをそれぞれT1,T2,T3とし、3つのタスクを同時に行うこととする。その中で、タスクT2を優先して行う場合を想定する。この場合、環境や身体からの刺激や信号といった入力100に対して、各機能部N1~NNにおいて、タスクT1,T2,T3のそれぞれについて、各タスクの目標値(タスクの想定イメージ)と内部モデルによる予測値の誤差を、以下の式から求めることができる。ここで、内部モデルとは、記憶部に保存された重み値Wijなどに基づくニューラルネットワークモデル、あるいは、図3(E)及び図5に示した機能マップを意味する。式(4),式(5),式(6)において、eN1,eN2,eN3は予測誤差を、yN1,yN2,yN3は内部モデルによる予測値(学習モデル22の出力値yi)を、yN10,yN20,yN30は各タスクの目標値を、それぞれ表す。 The action selection unit 40 provides means for selecting the optimum action based on the intention of determining priority actions. In the following, it is assumed that a plurality of tasks are performed simultaneously, tasks related to functional networks N1, N2, and N3 are T1, T2, and T3, respectively, and three tasks are performed simultaneously. Among them, it is assumed that the task T2 is preferentially performed. In this case, in response to an input 100 such as a stimulus or signal from the environment or the body, in each of the functional units N1 to NN, for each of the tasks T1, T2, and T3, the target value of each task (assumed image of the task) and the internal model can be obtained from the following equation. Here, the internal model means a neural network model based on the weight values Wij stored in the storage unit , or the function maps shown in FIGS. 3(E) and 5. FIG. In equations (4), (5), and (6), e N1 , e N2 , and e N3 are prediction errors, and y N1 , y N2 , and y N3 are prediction values by the internal model (output values of the learning model 22 y i ), and y N10 , y N20 , and y N30 respectively represent the target values of each task.

Figure 0007226497000004
Figure 0007226497000004

Figure 0007226497000005
Figure 0007226497000005

Figure 0007226497000006
Figure 0007226497000006

ここで、図7で説明した対応関係を考慮すると、内部モデルによる予測値yN1,yN2,yN3は、それぞれ相当応力σN1,σN2,σN3に対応付けられる。このため、タスクT1,T2,T3に関係づけられる脳の自由エネルギー(ヘルムホルツの自由エネルギー)は、それぞれE(σN1),E(σN2),E(σN3)と表現することができ、上述した自由エネ
ルギーが一定であるという条件は、以下の式(7)のように表現できる。式(7)において、脳全体の自由エネルギーETotalは、全ての機能部N1~NNが活動するためのエネ
ルギーの総和と、それ以外の脳の定常状態をたもつためのエネルギーEhの和である。
Considering the correspondence relationship described in FIG. 7, the predicted values y N1 , y N2 and y N3 by the internal model are associated with the corresponding stresses σ N1 , σ N2 and σ N3 respectively. Therefore, the brain free energies (Helmholtz free energies) associated with tasks T1, T2, and T3 can be expressed as E(σ N1 ), E(σ N2 ), and E(σ N3 ), respectively, The above-mentioned condition that the free energy is constant can be expressed as in the following equation (7). In equation (7), the free energy E Total of the entire brain is the sum of the energy for all the functional parts N1 to NN to act and the energy Eh for maintaining the rest of the brain in a steady state. .

Figure 0007226497000007
Figure 0007226497000007

図10は、行動選択部40について説明する図である。例えば、タスクT1とタスクT3が目標通りの行動、すわなち、eN1=0,eN3=0となる状態において、優先タスクであるT2を追加することを想定する。このとき、図10に示すように、行動選択部40は、可能性のある複数の行動A11~A34の中から、タスクT2の予測誤差eN2が最小になるような、すなわち、機能部N2の行動部分の活動が最大となるようなタスクT2の行動を選択する。この際、式(7)の自由エネルギー一定の条件により、機能部N2の活動を大きくするために自由エネルギーE(σN2)を大きくすると、他のタスクT1とT3との活動に関係するエネルギーが小さくなるため、それぞれの初期の予測誤差eN1,eN3が大きくならないように最適化される必要がある。この問題は、組み合わせ最適化問題であり、様々な解法が提案されている。 FIG. 10 is a diagram explaining the action selection unit 40. As shown in FIG. For example, assume that task T1 and task T3 are acting as intended, ie, in a state where e N1 =0 and e N3 =0, T2, which is a priority task, is added. At this time, as shown in FIG. 10, the action selection unit 40 selects from the plurality of possible actions A11 to A34 such that the prediction error e N2 of the task T2 is minimized, that is, the function unit N2 Select the action of task T2 that maximizes the activity of the action portion. At this time, if the free energy E(σ N2 ) is increased in order to increase the activity of the functional part N2 under the constant free energy condition of Equation (7), the energy related to the activities of the other tasks T1 and T3 will be Therefore, it is necessary to optimize the initial prediction errors e N1 and e N3 so that they do not become large. This problem is a combinatorial optimization problem, and various solutions have been proposed.

最近では、量子アニーリング方式を用いた量子コンピュータにより、高速かつ効率的に組み合わせ最適化問題を解くことができる。このため、例えば図10に示すように、入力100が与えられてから、機能部10、情報統合部20、可塑性部30による上述した一連処理をノイマン型のコンピュータにおいて行い、その後、行動選択部40による組み合わせ最適化問題の処理においては、量子コンピュータにより行ってもよい。情報処理装置1において、多数の機能部N1~NNを実装する場合、式(7)条件下において意図に基づく最適な行動選択を実現するためには、量子ンピューターを用いて組み合わせ最適化問題を解くことが効率的である。 Recently, quantum computers using quantum annealing methods can solve combinatorial optimization problems quickly and efficiently. For this reason, for example, as shown in FIG. 10, after an input 100 is given, the above-described series of processes by the functional unit 10, the information integration unit 20, and the plasticity unit 30 are performed in the von Neumann computer. The processing of the combinatorial optimization problem by may be performed by a quantum computer. In the information processing device 1, when implementing a large number of functional units N1 to NN, in order to realize the optimal action selection based on the intention under the condition of expression (7), a combinatorial optimization problem is solved using a quantum computer. Efficient to solve.

予測誤差eN1NNが0あるいは非常に小さい場合、人は知覚することなく反応する無意識行動になり、予測誤差eN1NNが大きい場合は、意識に上る意識行動となる。このため、行動選択部40は、予測誤差の大きさによって、行動が意識的なものか無意識的なものかを判定することができる。従来から、予測誤差は、人の認知活動の大きな部分を占めることが知られる一方で、意識を単純な予測誤差だけでなく、脳内における各機能の統合の度合も重要であることも知られており、この点は、現在の神経科学分野においても明らかになっていない。本実施形態の情報処理装置1では、行動選択部40は、各機能部N1~NNの活動が力学的情報として統合され、かつ、予測誤差eN1NNを小さくするように、各機能部N1~NNがそれぞれ担当するマルチタスクの中から、統合された脳活動のエネルギーETotalが一定である、という条件のもとで組み合わせ最適化問題を解くことによ
り行動を選択している。このため、従来知られていた意識に対する概念を、別の形で含んでいる。行動選択部40は、なお、全ての機能部N1~NNにおいて予測誤差が0あるいは非常に小さい場合は、無意識行動となることから、行動選択部40は、意識行動を選択するための最適化計算を実施しない。
When the prediction errors e N1 to NN are 0 or very small, the human acts unconsciously and reacts without perceiving it. When the prediction errors e N1 to NN are large, the human acts consciously. Therefore, the action selection unit 40 can determine whether the action is conscious or unconscious based on the magnitude of the prediction error. While it has been known that prediction errors account for a large part of human cognitive activities, it is also known that not only simple prediction errors but also the degree of integration of each function in the brain is important for consciousness. This point has not been clarified even in the current neuroscience field. In the information processing apparatus 1 of the present embodiment, the action selection unit 40 integrates the activities of the function units N1 to NN as dynamic information, and selects each function unit N1 so as to reduce the prediction errors e N1 to NN . Actions are selected by solving combinatorial optimization problems under the condition that the energy E Total of integrated brain activity is constant from among the multitasks that each NN is in charge of. For this reason, it contains a different form of the conventionally known concept of consciousness. When the prediction error is 0 or very small in all of the functional units N1 to NN, the action selection unit 40 assumes an unconscious action. do not implement

行動選択部40において選択された行動A11~A34は、出力200、すなわち環境・身体への反応・信号として表現される。出力200は、例えば、機能部N4により表される感覚運動については、筋活性度やそれに基づく身体動作となり、機能部N4により表される情動行動については、表情筋の筋活性度やそれに基づく表情のパターン(喜び、怒りなど)となる。 The actions A11 to A34 selected by the action selection unit 40 are expressed as an output 200, that is, reactions/signals to the environment/body. The output 200 is, for example, the sensory-motor activity represented by the functional part N4, and the muscle activity level and the body movement based on it, and the emotional behavior represented by the functional part N4, the muscle activity level of the facial muscles and the facial expression based on it. pattern (joy, anger, etc.).

各機能部N1~NNにおいて、思考に関連する神経ネットワークを考えるとき、様々な環境からの入力100と、各環境への反応・行動が関連付けられた出力200とが対応付けられた機能マップが、図示しない記憶部に保存される。このような場合も、行動選択部40は、個人の考え方・思想を反映した内部モデル(学習モデル22に相当)による行動結果の予測値yN1NNと、実際の行動結果の予測誤差eN1NNが得られた際、意識的な感情の変化(喜び、怒りなど)を誘発させたり、次の行動選択のための行動候補(関連する思考の機能部N1~NN)を挙げる。図1に示す行動選択リスト41内の行動N1#A1
~NN#N4や、図10に示す行動A11~A34は、このようにして機能部N1~NN
ごとに候補として挙げられる行動である。換言すれば、各機能部N1~NNが新たな入力100に対して学習を続ける過程で大きな予測誤差eN1NNが生じた際に、行動選択部40がそれを意識的な脳活動として捉えることで、行動選択部40は、機能部N1~NNにおける新たな行動候補として行動選択リスト41に加える。これにより、新たな行動候補は、行動選択部40が組み合わせ最適化問題を解くときに、選択の対象となり得る。
In each functional unit N1 to NN, when considering a neural network related to thinking, a function map in which inputs 100 from various environments and outputs 200 associated with reactions and actions to each environment are associated is It is saved in a storage unit (not shown). Even in such a case, the action selection unit 40 uses the prediction values y N1 to NN of the action result by the internal model (equivalent to the learning model 22) reflecting the individual's way of thinking and thought, and the prediction error e N1 of the actual action result. ~ When NN is obtained, induce a conscious emotional change (joy, anger, etc.), or list action candidates (related thinking functional parts N1 to NN) for selecting the next action. Action N1#A1 in action selection list 41 shown in FIG.
NN#N4 and actions A11-A34 shown in FIG.
It is an action that can be cited as a candidate for each. In other words, when a large prediction error e N1 to NN occurs in the course of the function units N1 to NN continuing learning with respect to the new input 100, the action selection unit 40 interprets it as conscious brain activity. As a result, the action selection unit 40 adds them to the action selection list 41 as new action candidates for the function units N1 to NN. As a result, new action candidates can be selected when the action selection unit 40 solves the combinatorial optimization problem.

このように、情報処理装置1では、環境や身体からの刺激や信号を入力100として、機能部10、情報統合部20、可塑性部30、行動選択部40によって次の行動を選択し、環境や身体への反応や信号を出力200として出力するループを繰り返す。これにより、情報処理装置1では、人が経験を通して学習し、成長する過程を模擬することができる。この際、各機能部N1~NNでは、各機能の神経ネットワークに関する学習結果(重み値Wij、最適解が得られた時の機能マップ)が、記憶部に記憶される。また、可塑性部30は、力学量σp(力学的情報)が予め設定された閾値σyよりも大きくなった際に、脳の機能(重み値Wij)を変化させ、それに伴い脳の神経構造(弾性率Eij)をも変化させる(図1:可塑性部30、W→E、可塑性部30から情報統合部20へ伸びる破線矢印)。行動選択部40は、その変化した、換言すれば成長した脳の構造(力学モデル21)と機能(学習モデル22)とを用いて、次の行動を選択する。行動により予測誤差eN1NNが生じた場合、行動選択部40は、その行動を行動選択リスト41に加える。これら一連のプロセスは、人の経験値や積極性など、人格に関わる部分を積み上げることに対応している。なお、力学モデル21と学習モデル22は、ともに入力100が与えられる限り、計算が継続される。すなわち、力学モデル21においても応力値が0にリセットされることはなく、繰り返し学習の際にも更新され、応力値は更新され続けられる。 As described above, in the information processing apparatus 1, the next action is selected by the function unit 10, the information integration unit 20, the plasticity unit 30, and the action selection unit 40 using stimuli and signals from the environment and the body as the input 100, A loop for outputting a response or signal to the body as an output 200 is repeated. As a result, the information processing apparatus 1 can simulate a process in which a person learns and grows through experience. At this time, in each of the functional units N1 to NN, the learning result (weight value W ij , function map when the optimum solution is obtained) regarding the neural network of each function is stored in the storage unit. In addition, the plastic part 30 changes the function of the brain (weight value W ij ) when the mechanical quantity σ p (mechanical information) becomes larger than a preset threshold value σ y . The structure (elastic modulus E ij ) is also changed (FIG. 1: flexible section 30, W→E, dashed arrow extending from plastic section 30 to information integrating section 20). The action selection unit 40 selects the next action using the changed, in other words, grown brain structure (dynamic model 21) and function (learning model 22). If an action causes prediction errors e N1 to NN , the action selection unit 40 adds the action to the action selection list 41 . These series of processes correspond to accumulating parts related to a person's personality, such as a person's experience and aggressiveness. Both the dynamic model 21 and the learning model 22 continue calculation as long as the input 100 is given. That is, the stress value is not reset to 0 in the dynamic model 21, and is updated even during repeated learning, and the stress value continues to be updated.

図11は、脳に力学的損傷が発生した場合の一例を示す図である。例えば、破線枠で囲んだ脳の特定部位において、神経の力学的損傷が発生した場合、その部位の弾性率Eijは0になる。ここで、図7で説明した対応関係を考慮すると、力学的損傷が発生した部位におけるニューラルネットワークの重み値Wijも同様に、0になる。この結果、損傷した機能に関係する行動はできなくなる。このことから、情報処理装置1において、脳の力学的損傷に伴う脳機能低下を表現することが可能になる。 FIG. 11 is a diagram showing an example of mechanical damage to the brain. For example, when a nerve is mechanically damaged in a specific region of the brain surrounded by a dashed frame, the elastic modulus E ij of that region becomes zero. Here, considering the correspondence relationship described with reference to FIG. 7, the weight value W ij of the neural network at the site where the mechanical damage has occurred is also 0. This results in the inability to perform actions related to the impaired function. From this, in the information processing device 1, it becomes possible to express brain function deterioration accompanying the mechanical damage of the brain.

また、外部から何らかの寄与を与えることによって、脳の特定部位において力学的変化を与えることにより、弾性率Eijを変化させた場合も同様に考えることができる。この場合も、図7で説明した対応関係を考慮して、弾性率Eijが変化した部分におけるニューラルネットワークの重み値Wijを変化させる。変化した重み値Wijを利用して再学習を行い、得られた再予測の結果から、脳への寄与が機能改善につながるかどうかを予測することが可能となる。ここで、外部からの寄与として、機能改善のための行動選択、すなわち図10で説明したように、目標値に対する予測誤差eN1NNを最小化するように、関連する各機能部N1~NNの脳活動を大きくするような行動選択を繰り返すことによって、脳に力学的変化、すなわち弾性率Eijの変化が起こる可能性がある。このため、図10で説明した行動選択は、脳の損傷や力学的変化に伴う機能低下を改善する上で重要である。 A similar consideration can also be given to the case where the elastic modulus E ij is changed by giving some contribution from the outside to give a mechanical change in a specific part of the brain. In this case also, the weight value W ij of the neural network is changed in the portion where the elastic modulus E ij is changed, taking into consideration the correspondence relationship described in FIG. Re-learning is performed using the changed weight value W ij , and from the obtained re-prediction result, it is possible to predict whether the contribution to the brain will lead to functional improvement. Here, as a contribution from the outside, action selection for function improvement, that is , as explained in FIG . By repeating action selection that increases the brain activity of , a mechanical change in the brain, that is, a change in the elastic modulus E ij may occur. For this reason, the action selection described in FIG. 10 is important in improving functional decline associated with brain damage and mechanical changes.

なお、図1や図10では、予め設定された各機能部N1~NN(神経ネットワーク)を
対象として説明した。しかし、実際に脳に損傷が起こった場合は、元の神経ネットワークとは関係のない部分において、新たな神経ネットワークを構築して再学習が行われる場合もある。これを実現するためには、図2に示す各機能部N1~NNを構成する各ノードNの再配置や、新たなリンクLKによる接続が行われる必要がある。ノードNの再配置や、新たなリンクLKによる接続のためには、自己組織化の理論などが有効になる。
1 and 10, the functional units N1 to NN (neural networks) set in advance have been described as targets. However, when the brain is actually damaged, re-learning may be performed by constructing a new neural network in a part unrelated to the original neural network. In order to realize this, it is necessary to rearrange the nodes N constituting the functional units N1 to NN shown in FIG. 2 and connect them by new links LK. The theory of self-organization is effective for rearrangement of nodes N and connection by new links LK.

コンピュータ上で人の快適性、作業性、こころの状態を評価するために、デジタルヒューマンモデルは有効である。デジタルヒューマンモデルとは、骨格、骨、筋肉、血管、心臓、臓器などの各モデルデータから、血圧や筋力を含む身体内部情報を出力可能なモデルである。本実施形態の情報処理装置1は、このようなデジタルヒューマンモデルの、感覚運動や情動行動などの入出力を制御できる。デジタルヒューマンモデルと、本実施形態の情報処理装置1とを組み合わせて使用すれば、コンピュータ上で、人の快適性や作業性などを評価することができる。 A digital human model is effective for evaluating human comfort, workability, and mental state on a computer. A digital human model is a model that can output internal body information including blood pressure and muscle strength from each model data such as skeleton, bone, muscle, blood vessel, heart, and organ. The information processing apparatus 1 of the present embodiment can control input/output such as sensorimotor and emotional behavior of such a digital human model. By using a combination of the digital human model and the information processing apparatus 1 of the present embodiment, it is possible to evaluate human comfort and workability on a computer.

例えば、ゴルフのスウィングのような感覚運動を想定する。図2(D)に示す機能部N4(神経ネットワーク)を用いて、身体の複数の関節・筋肉からの固有感覚情報や、手における触覚情報などが体性感覚野に伝達される。また、運動野から、目的のゴルフスウィングを達成させるような各筋の筋活性度に関する情報が、身体へ伝えられる。この際、大脳基底核や小脳と連携をとり、姿勢制御がされると共に、目標イメージの運動軌跡となるような筋活性度に調整される。このように機能部N4に対する学習が行われ、機能部10の記憶部に機能マップとして保持される。環境として風が強い場合や、足場が悪い場合は、図10に示す複数の行動選択の中から、ゴルフスウィングを優先行動とした組み合わせ最適化が行われる。この際、例えば、情動として悲しい思いをした場合、それに関連する機能部N1~NNに活動エネルギーの一部が充てられ、ゴルフスウィングの筋制御のために十分な活動エネルギーを充てることができなくなり、上手いショットが打てないなどの状況をシミュレーションすることが可能である。 For example, suppose a sensory motion like a golf swing. Proprioceptive information from a plurality of joints/muscles of the body, tactile information from a hand, and the like are transmitted to the somatosensory area using the functional unit N4 (neural network) shown in FIG. 2(D). The motor cortex also provides the body with information about the muscle activity of each muscle that allows the golf swing to be achieved. At this time, posture is controlled in cooperation with the basal ganglia and the cerebellum, and muscle activity is adjusted so as to follow the movement trajectory of the target image. In this way, the learning for the functional unit N4 is performed, and the learning is held in the storage unit of the functional unit 10 as a function map. When the environment is windy or the footing is bad, combination optimization is performed with golf swing as the priority action from among the plurality of action selections shown in FIG. 10 . At this time, for example, when sadness is felt as an emotion, part of the activity energy is devoted to the related functional parts N1 to NN, and sufficient activity energy cannot be devoted to muscle control in the golf swing. It is possible to simulate a situation where a good shot cannot be hit.

一般に、脳の側坐核において報酬が得られる条件が記憶され、扁桃体において恐怖・不安が得られる条件が記憶される。人が快適性を評価する場合は、この2つの脳機能部位を含む神経ネットワークが関与していると考えられる。本実施形態の情報処理装置1では、図10に示すような方法により、内臓からの心拍、呼吸、血圧に関連する情報や、嗅覚や触覚などに関連する情報を入力100とし、快・喜びに対しては側坐核を含む報酬系の機能部用いて学習を行い、不快・恐れに対しては扁桃体を含む機能部において強化学習を用いて学習を行うことができる。 In general, the nucleus accumbens of the brain stores the conditions for obtaining reward, and the amygdala stores the conditions for obtaining fear/anxiety. It is believed that a neural network including these two functional brain regions is involved in human evaluation of comfort. In the information processing apparatus 1 of the present embodiment, the method shown in FIG. Learning can be performed using the functional part of the reward system including the nucleus accumbens, and learning can be performed using reinforcement learning in the functional part including the amygdala for displeasure and fear.

また、快・不快が得られるときの入力100と出力200とを対応付ける機能マップなどを得ておき、現在の状況と機能マップなどによる予測誤差eN1NNを求める。行動選択部40は、得られた予測誤差eN1NNから快・不快の割合を求めることができるので、現在の環境における快・不快の評価が可能になる。さらに、快・不快に対する行動は、複数の行動選択の中から、意図に基づき、例えば快・喜びに対してはより多くの報酬が得られるような行動が選択されるように、不快・恐れに対しては逃げるような行動が選択されるようにしてもよい。本実施形態の情報処理装置1によれば、従来にない新しい方法で快・不快を評価することができ、かつそれに対して意図に基づく行動選択が可能になる。 In addition, a function map or the like that associates the input 100 and the output 200 when pleasure or discomfort is obtained is obtained, and prediction errors e N1 to NN are obtained from the current situation and the function map. Since the action selection unit 40 can obtain the pleasant/unpleasant ratio from the obtained prediction errors e N1 to NN , it is possible to evaluate the comfort/unpleasant in the current environment. Furthermore, behaviors for pleasure and displeasure are selected based on intention from among multiple behavior selections, for example, behaviors that provide more reward for pleasure and pleasure are selected based on displeasure and fear. In response, an action such as running away may be selected. According to the information processing apparatus 1 of the present embodiment, it is possible to evaluate pleasure and displeasure by a new method that has never existed in the past, and to select an action based on the intention.

本実施形態の情報処理装置1では、個人の脳の構造を、機能部N1~NNにおける神経ネットワークの配置の初期値として与えてもよい。そうすれば、環境や身体からの複数の刺激・信号(入力100)による学習を繰り返すことで、個人ごとに異なる学習、成長が可能となる。例えば、デジタルヒューマンモデルと組み合わせたゴルフスウィングの事例においては、個人の脳神経の構造や、個人の身体の構造的特徴などを取り入れた学習計算を行うことができるため、スポーツ競技の強化などにおける個人差に対応することができ
る。また、快・不快の評価においても、個人の脳神経の構造を考慮してもよい。図10で説明した、学習に伴う行動選択リスト41の増加によって、個人の特性に応じた行動評価をも可能となる。個人の生理量(血圧、心拍数、呼吸数、運動など)を計測した上で、その情報を入力100としたときの、その個人の反応・対応(官能評価結果など)を出力200とした機能マップを作り、学習計算と対応させることができれば、個人に対応した学習・成長モデルの精度はさらに向上する。
In the information processing apparatus 1 of this embodiment, the brain structure of an individual may be given as an initial value for the layout of neural networks in the functional units N1 to NN. By doing so, by repeating learning with a plurality of stimuli/signals (input 100) from the environment and the body, it is possible to learn and grow differently for each individual. For example, in the case of the golf swing combined with a digital human model, it is possible to perform learning calculations that incorporate the structure of an individual's cranial nerves and the structural characteristics of an individual's body. can correspond to In addition, in the evaluation of comfort/discomfort, the structure of individual cranial nerves may be considered. By increasing the action selection list 41 accompanying learning as described in FIG. 10, it is also possible to evaluate actions according to individual characteristics. A function that measures an individual's physiological quantity (blood pressure, heart rate, respiratory rate, exercise, etc.) and outputs 200 the individual's reaction/response (sensory evaluation results, etc.) when that information is used as input 100. If we can create a map and associate it with learning calculations, the accuracy of individualized learning and growth models will be further improved.

また、事故などで頭部に損傷を受けた場合や、精神疾患などで脳の神経構造に器質的な変化が起きた場合、図11で説明したのように、力学的特性の変化に応じて、重み値Wijが変化し、脳の各機能(機能部N1~NN)にも影響を及ぼす。このため、本実施形態の情報処理装置1は、医療の分野における診断や、治療計画策定の際にも有用な知見を与える。また、リハビリや食事の改善など、身体から受ける刺激・信号(入力100)を変化させることを繰り返し、意識的に行動する、すなわち図10で説明した脳の機能不全(あるいは脳の機能低下)を改善させるような活動を繰り返し選択することにより、関連する神経ネットワークの脳活動(例えば、機能部N1)に大きな変化を与えることができれば、それに関連する脳(たとえば、機能部N4)の神経構造も変化し機能改善するような神経ネットワークを再構成できる可能性もある。このように、本実施形態の情報処理装置1は、身体障害や精神疾患のリハビリを支援するための、ニューロリハビリ支援ツールとしても利用できる。 In addition, when the head is damaged in an accident, etc., or when there is an organic change in the neural structure of the brain due to mental illness, etc., as explained in FIG. , the weight value W ij changes, and each function of the brain (function parts N1 to NN) is also affected. For this reason, the information processing apparatus 1 of the present embodiment provides useful knowledge for diagnosis in the medical field and for formulating treatment plans. In addition, by repeatedly changing the stimulus/signal (input 100) received from the body, such as rehabilitation and improvement of diet, the person acts consciously. By repeatedly selecting an activity to improve, if a large change can be given to the brain activity of the related neural network (for example, functional part N1), the neural structure of the related brain (for example, functional part N4) can also be changed. It may also be possible to reconfigure neural networks that change and function better. Thus, the information processing apparatus 1 of the present embodiment can also be used as a neurorehabilitation support tool for assisting rehabilitation of physical disabilities and mental illnesses.

<本実施形態の変形例>
本発明は上記の実施形態に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能であり、例えば次のような変形も可能である。
<Modification of this embodiment>
The present invention is not limited to the above-described embodiments, and can be implemented in various aspects without departing from the scope of the invention. For example, the following modifications are possible.

[変形例1]
上記実施形態では、情報処理装置1の構成の一例を示した。しかし、情報処理装置1の構成は種々の変形が可能である。例えば、情報処理装置1は、ネットワーク上に配置された複数の情報処理装置が協働することによって構成されてもよい。この場合、例えば、機能部10、情報統合部20、可塑性部30、行動選択部40の内の少なくとも一部が、異なる情報処理装置によって実現されてもよい。例えば、情報処理装置1には、異なる人にそれぞれ対応した、複数組の機能部10、情報統合部20、可塑性部30、及び行動選択部40が含まれていてもよい。例えば、情報処理装置1は、可塑性部30と、行動選択部40との少なくとも一方を備えていなくてもよい。
[Modification 1]
In the above embodiment, an example of the configuration of the information processing device 1 is shown. However, the configuration of the information processing apparatus 1 can be modified in various ways. For example, the information processing device 1 may be configured by cooperation of a plurality of information processing devices arranged on a network. In this case, for example, at least part of the functional unit 10, the information integration unit 20, the plasticity unit 30, and the action selection unit 40 may be implemented by different information processing devices. For example, the information processing device 1 may include a plurality of sets of functional units 10, information integration units 20, plasticity units 30, and action selection units 40, each corresponding to a different person. For example, the information processing device 1 does not have to include at least one of the plasticity section 30 and the action selection section 40 .

[変形例2]
上記実施形態では、機能部10の各機能部N1~NNはニューラルネットワークにより構成されるとした。しかし、各機能部N1~NNは、ニューラルネットワーク以外の手段(例えば、図3(E)に示した機能マップ)により構成されていてもよい。例えば、機能部10には、各機能部N1~NNとは別に、機能部N1~NNの各神経ネットワークを予め統合した統合ネットワークNjが記憶されていてもよい。
[Modification 2]
In the above embodiment, each functional unit N1 to NN of the functional unit 10 is configured by a neural network. However, each of the functional units N1 to NN may be configured by means other than the neural network (for example, the functional map shown in FIG. 3(E)). For example, the functional unit 10 may store an integrated network Nj obtained by previously integrating neural networks of the functional units N1 to NN separately from the functional units N1 to NN.

[変形例3]
上記実施形態では、情報統合部20の力学モデル21は、材料力学と流体力学の物理学計算を行うためのモデルであると例示した。しかし、力学モデル21は、材料力学、流体力学、電磁気学など、少なくとも1つの物理的特性を表現したモデルとして構成されていてもよい。
[Modification 3]
In the above-described embodiment, the dynamics model 21 of the information integration unit 20 is a model for performing physics calculations of material dynamics and fluid dynamics. However, the mechanical model 21 may be configured as a model that expresses at least one physical property such as material dynamics, fluid dynamics, and electromagnetism.

[変形例4]
上記実施形態では、可塑性部30は、力学的情報が予め設定された閾値より大きくなった場合に重み値を更新するとした。しかし、可塑性部30は、閾値を用いずに、処理のつ
ど重み値を更新してもよい。例えば、重み値を更新するための閾値は、材料力学における降伏点とは関係なく決定されてもよく、使用者により変更可能にされてもよい。例えば、可塑性部30は、力学量(力学的情報)の表示を省略してもよい。
[Modification 4]
In the above embodiment, the plastic part 30 updates the weight value when the dynamic information becomes larger than the preset threshold value. However, the plastic part 30 may update the weight value each time the process is performed without using the threshold value. For example, the threshold for updating the weight values may be determined independently of the yield point in material mechanics, and may be user modifiable. For example, the plastic part 30 may omit the display of the dynamic quantity (dynamic information).

[変形例5]
上記実施形態では、行動選択部40は、複数の行動を実行可能なマルチタスクの条件下で、実行すべき複数の行動と、さらに優先的に実行すべき行動とを選択した。しかし、行動選択部40は、単一の行動のみを実行する条件下で、実行すべき1つの行動を選択してもよい。例えば、行動選択部40は、機能部の目標値に対する予測誤差の最小化と、行動に要するエネルギーの最大化と、を行う組み合わせ最適化問題を解く以外の任意の方法で、行動を選択してもよい。
[Modification 5]
In the above embodiment, the action selection unit 40 selects a plurality of actions to be executed and an action to be preferentially executed under a multitasking condition in which a plurality of actions can be executed. However, the action selection unit 40 may select one action to be executed under the condition that only a single action is executed. For example, the action selection unit 40 selects an action by any method other than solving a combinatorial optimization problem that minimizes the prediction error with respect to the target value of the function unit and maximizes the energy required for the action. good too.

以上、実施形態、変形例に基づき本態様について説明してきたが、上記した態様の実施の形態は、本態様の理解を容易にするためのものであり、本態様を限定するものではない。本態様は、その趣旨並びに特許請求の範囲を逸脱することなく、変更、改良され得ると共に、本態様にはその等価物が含まれる。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することができる。上記実施形態において、ソフトウェアによって実現された機能及び処理の一部又は全部は、ハードウェアによって実現されてもよい。また、ハードウェアによって実現された機能及び処理の一部又は全部は、ソフトウェアによって実現されてもよい。ハードウェアとしては、例えば、集積回路、ディスクリート回路、または、それらの回路を組み合わせた回路モジュールなど、各種回路(circuitry)を用いることができる。 The present aspect has been described above based on the embodiments and modifications, but the above-described embodiments are intended to facilitate understanding of the present aspect, and do not limit the present aspect. This aspect may be modified and modified without departing from the spirit and scope of the claims, and this aspect includes equivalents thereof. Also, if the technical features are not described as essential in this specification, they can be deleted as appropriate. Some or all of the functions and processes implemented by software in the above embodiments may be implemented by hardware. Also, part or all of the functions and processes implemented by hardware may be implemented by software. As hardware, for example, various circuits such as integrated circuits, discrete circuits, or circuit modules combining these circuits can be used.

1…情報処理装置
10…機能部
20…情報統合部
21…力学モデル
22…学習モデル
30…可塑性部
40…行動選択部
41…行動選択リスト
DESCRIPTION OF SYMBOLS 1... Information processing apparatus 10... Function part 20... Information integration part 21... Dynamic model 22... Learning model 30... Plasticity part 40... Action selection part 41... Action selection list

Claims (10)

知的行動を代替可能な情報処理装置であって、
脳の複数の異なる機能について、各機能に関する行動パターンをそれぞれ学習した、各機能に対応する複数の機能部と、
前記複数の機能部を統合した脳全体に対して電気的情報が入力された際に、前記脳全体の電磁気的解析を行うことにより得られる力学量である力学的情報を求め、前記力学的情報を、統合された前記複数の機能部の重み値に関連付ける情報統合部と、
を備える、情報処理装置。
An information processing device capable of substituting intellectual behavior,
a plurality of functional units corresponding to each function, each having learned a behavioral pattern related to each function for a plurality of different functions of the brain;
obtaining mechanical information, which is a mechanical quantity obtained by performing an electromagnetic analysis of the entire brain when electrical information is input to the entire brain in which the plurality of functional units are integrated; with the integrated weight values of the plurality of functional units;
An information processing device.
請求項1に記載の情報処理装置であって、
前記情報統合部は、
前記複数の機能部に含まれる神経ネットワークを模擬した要素を重畳することで、前記複数の機能部を統合した統合ネットワークを構成し、
前記統合ネットワークに、脳の構造と物理学特性とから得られた力学モデルを適用し、
前記力学モデルを適用した前記統合ネットワークに対して、前記入力された電気的情報を用いた電磁気的解析を行うことで、前記力学的情報としての前記力学量を求め、
求めた前記力学的情報を、前記統合ネットワークの重み値と関連付ける、情報処理装置。
The information processing device according to claim 1,
The information integration unit
configuring an integrated network that integrates the plurality of functional units by superimposing elements that simulate neural networks included in the plurality of functional units;
Applying a mechanical model obtained from the structure and physical properties of the brain to the integrated network,
obtaining the mechanical quantity as the mechanical information by performing electromagnetic analysis using the input electrical information on the integrated network to which the dynamic model is applied;
An information processing device that associates the obtained dynamic information with a weight value of the integrated network.
請求項1または請求項2に記載の情報処理装置であって、さらに、
前記力学的情報としての前記力学量が予め設定された閾値より大きくなった場合に、前記複数の機能部の重み値を更新する可塑性部を備える、情報処理装置。
The information processing apparatus according to claim 1 or claim 2, further comprising:
An information processing apparatus, comprising: a plasticity unit that updates weight values of the plurality of functional units when the dynamic quantity as the dynamic information exceeds a preset threshold value.
請求項3に記載の情報処理装置であって、
前記閾値は、材料力学における降伏点に基づき決定されている、情報処理装置。
The information processing device according to claim 3,
The information processing device, wherein the threshold is determined based on a yield point in material mechanics.
請求項3または請求項4に記載の情報処理装置であって、
前記可塑性部は、さらに、前記力学的情報を表示する、情報処理装置。
The information processing device according to claim 3 or claim 4,
The information processing device, wherein the plastic part further displays the dynamic information.
請求項1から請求項5のいずれか一項に記載の情報処理装置であって、さらに、
前記複数の機能部により実行可能な複数の行動から、優先的に実行すべき行動を選択する行動選択部を備える、情報処理装置。
The information processing apparatus according to any one of claims 1 to 5, further comprising:
An information processing apparatus comprising an action selection unit that selects an action to be preferentially executed from among a plurality of actions executable by the plurality of function units.
請求項6に記載の情報処理装置であって、
前記行動選択部は、
前記力学的情報に基づく自由エネルギーが一定であり、かつ、複数の前記行動を実行可能なマルチタスク条件下で、
各前記機能部の目標値に対する予測誤差の最小化と、前記複数の行動に要するエネルギーの最大化と、を行う組み合わせ最適化問題を解くことにより、前記優先的に実行すべき行動を決定する、情報処理装置。
The information processing device according to claim 6,
The action selection unit
Under multitasking conditions where the free energy based on the mechanical information is constant and a plurality of the actions can be executed,
By solving a combinatorial optimization problem that minimizes the prediction error with respect to the target value of each of the functional units and maximizes the energy required for the plurality of actions, the action to be executed with priority is determined. Information processing equipment.
情報処理装置に知的行動を模擬させる方法であって、
脳の複数の異なる機能について、各機能に関する行動パターンをそれぞれ学習させる工程と、
電気的情報を取得する工程と、
前記複数の機能を統合した脳全体に対して、取得した前記電気的情報が入力された際に、前記脳全体の電磁気的解析を行うことにより得られる力学量である力学的情報を求める工程と、
前記力学的情報を、統合された前記複数の機能の重み値に関連付ける工程と、
を備える、方法。
A method for causing an information processing device to simulate intellectual behavior, comprising:
a step of learning behavioral patterns related to each of a plurality of different functions of the brain;
obtaining electrical information;
a step of obtaining mechanical information, which is a mechanical quantity obtained by performing electromagnetic analysis of the entire brain when the acquired electrical information is input to the entire brain integrated with the plurality of functions; ,
associating the mechanical information with weighted values of the plurality of features combined;
A method.
コンピュータプログラムであって、
脳の複数の異なる機能について、各機能に関する行動パターンをそれぞれ学習させるステップと、
電気的情報を取得するステップと、
前記複数の機能を統合した脳全体に対して、取得した前記電気的情報が入力された際に、前記脳全体の電磁気的解析を行うことにより得られる力学量である力学的情報を求めるステップと、
前記力学的情報を、統合された前記複数の機能の重み値に関連付けるステップと、
をコンピュータに実行させる、コンピュータプログラム。
A computer program,
a step of learning behavioral patterns relating to each of a plurality of different functions of the brain;
obtaining electrical information;
a step of determining mechanical information, which is a mechanical quantity obtained by performing electromagnetic analysis of the entire brain when the acquired electrical information is input to the entire brain integrated with the plurality of functions; ,
associating the mechanical information with weight values for the plurality of combined functions;
A computer program that causes a computer to execute
記憶媒体であって、
請求項に記載のコンピュータプログラムを記憶する、記憶媒体。
a storage medium,
A storage medium storing the computer program according to claim 9 .
JP2021155144A 2019-02-22 2021-09-24 Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it Active JP7226497B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021155144A JP7226497B2 (en) 2019-02-22 2021-09-24 Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2019030330A JP6973430B2 (en) 2019-02-22 2019-02-22 Information processing equipment, methods for making information processing equipment simulate intellectual behavior, computer programs, and storage media that store them.
JP2021155144A JP7226497B2 (en) 2019-02-22 2021-09-24 Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2019030330A Division JP6973430B2 (en) 2019-02-22 2019-02-22 Information processing equipment, methods for making information processing equipment simulate intellectual behavior, computer programs, and storage media that store them.

Publications (2)

Publication Number Publication Date
JP2021192317A JP2021192317A (en) 2021-12-16
JP7226497B2 true JP7226497B2 (en) 2023-02-21

Family

ID=72278800

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2019030330A Active JP6973430B2 (en) 2019-02-22 2019-02-22 Information processing equipment, methods for making information processing equipment simulate intellectual behavior, computer programs, and storage media that store them.
JP2021155144A Active JP7226497B2 (en) 2019-02-22 2021-09-24 Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2019030330A Active JP6973430B2 (en) 2019-02-22 2019-02-22 Information processing equipment, methods for making information processing equipment simulate intellectual behavior, computer programs, and storage media that store them.

Country Status (1)

Country Link
JP (2) JP6973430B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6973430B2 (en) * 2019-02-22 2021-11-24 株式会社豊田中央研究所 Information processing equipment, methods for making information processing equipment simulate intellectual behavior, computer programs, and storage media that store them.

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003317073A (en) 2002-04-24 2003-11-07 Fuji Xerox Co Ltd Neural network processor
JP2004303220A (en) 2003-03-14 2004-10-28 Toyota Central Res & Dev Lab Inc Method for determining brain damage, and human head finite element model

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109640810B (en) * 2016-07-18 2022-12-06 艾克斯-马赛大学 Method of modulating epileptogenesis in the brain of a patient
JP6973430B2 (en) * 2019-02-22 2021-11-24 株式会社豊田中央研究所 Information processing equipment, methods for making information processing equipment simulate intellectual behavior, computer programs, and storage media that store them.

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003317073A (en) 2002-04-24 2003-11-07 Fuji Xerox Co Ltd Neural network processor
JP2004303220A (en) 2003-03-14 2004-10-28 Toyota Central Res & Dev Lab Inc Method for determining brain damage, and human head finite element model

Also Published As

Publication number Publication date
JP2020135600A (en) 2020-08-31
JP6973430B2 (en) 2021-11-24
JP2021192317A (en) 2021-12-16

Similar Documents

Publication Publication Date Title
Reinkensmeyer et al. Computational neurorehabilitation: modeling plasticity and learning to predict recovery
Arbib et al. Synthetic brain imaging: grasping, mirror neurons and imitation
KR20200097721A (en) Neural interface
Di Nuovo et al. Autonomous learning in humanoid robotics through mental imagery
Marmarelis et al. Nonlinear modeling of dynamic interactions within neuronal ensembles using principal dynamic modes
Parr The computational neurology of active vision
JP7226497B2 (en) Information processing device, method for causing information processing device to simulate intellectual behavior, computer program, and storage medium storing it
Vincze et al. The Human Mind
Zhang Design and implementation of neural network based chaotic system model for the dynamical control of brain stimulation
Linssen et al. Embodiment in whole-brain emulation and its implications for death anxiety
Cruse et al. Getting cognitive
JP2019527416A (en) A new method to accurately decode human intentions about movement from brain signals
Talanov et al. Neuropunk revolution. hacking cognitive systems towards cyborgs 3.0
Machaen et al. Bio-inspired cognitive model of motor learning by imitation
Barik et al. Advances in data science, trends, and applications of artificial intelligence within the interaction between natural and artificial computation
Dobosz et al. Simple cyclic movements as a distinct autism feature-computational approach
Cardinali et al. Absorptive Mind and Brain Plasticity: Montessori Multisensoriality From A Neurodidactic Perspective Mente Assorbente E Plasticità Cerebrale: La Multisensorialità Montessoriana In Chiave Neurodidattica
US20230137595A1 (en) Systems and methods based on deep reinforcement learning and planning for shaping neural activity, rewiring neural circuits, augmenting neural function and/or restoring neural function
Schlesinger et al. Connectionism in an artificial life perspective: simulating motor, cognitive, and language development
Dyszkiewicz et al. Biomechanics as an Element of the Motion Clinimetry System
Sriharan Mathematical modelling of the human operator control system through tracking tasks
Pioggia et al. Facial Automaton for Conveying Emotions as a Social Rehabilitation Tool for People with Autism
Matti Application of Biological Control Principle in Understanding of Human Behavior Modulations
Iyengar et al. The NEUROiD neuromusculoskeletal movement simulation platform
Kumarasinghe Deep Learning and Knowledge Representation in Brain-Inspired Spiking Neural Networks for Brain-Computer Interfaces

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210924

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210924

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220906

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221006

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230110

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230123

R150 Certificate of patent or registration of utility model

Ref document number: 7226497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150