WO2022264573A1 - プロセス状態予測システム - Google Patents

プロセス状態予測システム Download PDF

Info

Publication number
WO2022264573A1
WO2022264573A1 PCT/JP2022/011741 JP2022011741W WO2022264573A1 WO 2022264573 A1 WO2022264573 A1 WO 2022264573A1 JP 2022011741 W JP2022011741 W JP 2022011741W WO 2022264573 A1 WO2022264573 A1 WO 2022264573A1
Authority
WO
WIPO (PCT)
Prior art keywords
learning
process state
unit
reservoir
prediction
Prior art date
Application number
PCT/JP2022/011741
Other languages
English (en)
French (fr)
Inventor
友貴哉 斉藤
拓郎 筒井
元傑 凌
伸 大和田
哲也 浅井
恵 赤井
Original Assignee
東京エレクトロン株式会社
国立大学法人北海道大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 東京エレクトロン株式会社, 国立大学法人北海道大学 filed Critical 東京エレクトロン株式会社
Publication of WO2022264573A1 publication Critical patent/WO2022264573A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H01—ELECTRIC ELEMENTS
    • H01L—SEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L21/00—Processes or apparatus adapted for the manufacture or treatment of semiconductor or solid state devices or of parts thereof
    • H01L21/02—Manufacture or treatment of semiconductor devices or of parts thereof

Definitions

  • This disclosure relates to a process state prediction system using reservoir computing with nanomolecular reservoirs.
  • time-series sensor data measured by various sensors is used to predict the state of the process (the state of the equipment during execution of the manufacturing process (e.g., whether there is an abnormality in the equipment, etc.)).
  • the process state is monitored by announcing the prediction result.
  • machine learning models has also been proposed in order to improve the prediction accuracy when predicting process states.
  • Tanaka H. Akai-Kasaya M., Termeh A.Y., Hong L., Fu L., Tamukoh H., Tanaka D., Asai T., and Ogawa T., A molecular neuromorphic network device consisting of single-walled carbon nanotubes complexed with polyoxometalate Nature Communications, vol. 9, p. 2693 (2016) Shaohua Kan, Kohei Nakajima, Yuki Takeshima, Tetsuya Asai, Yuji Kuwahara, and Megumi Akai-Kasaya Simple reservoir computing capitalizing on the nonlinear response of materials: Theory and physical implementations Phys.
  • devices equipped with machine learning models generally have a longer processing cycle than the measurement cycle of time-series sensor data, and perform machine learning by capturing short-cycle behavior that appears in time-series sensor data. I can't let you. For this reason, it is difficult to obtain sufficient prediction accuracy with conventional machine learning models, and in the event that the manufacturing process changes over time, it is assumed that the prediction accuracy will further decline.
  • This disclosure improves the prediction accuracy when predicting the process state based on time-series sensor data.
  • a process state prediction system has, for example, the following configuration. Namely a reservoir having POM molecules and carbon nanotubes, the reservoir receiving as input a voltage signal based on time-series sensor data measured in a predetermined process and outputting a current signal; a reading unit that reads the current signal and outputs a reservoir feature amount; A weight parameter learned so that the reservoir feature quantity and the state of the predetermined process are correlated, and a voltage signal based on time-series sensor data measured in the predetermined process after learning are input to the reservoir. a prediction unit for predicting the state of the predetermined process based on the reservoir feature quantity output by reading the current signal by the reading unit, and for outputting a prediction result.
  • FIG. 1A is a diagram showing an application example of a process state prediction system.
  • FIG. 1B is a diagram illustrating an example of a predicted effective time.
  • FIG. 2 is a diagram showing an example of the system configuration of the process state prediction system.
  • FIG. 3 is an example of a flowchart showing the flow of voltage modulation processing by the voltage modulation unit.
  • FIG. 4 is a diagram showing an example of a functional configuration of a multi-electrode I/O chip.
  • FIG. 5 is an example of a flowchart showing the flow of input/output processing by the multi-electrode I/O chip.
  • FIG. 6 is a first diagram showing an example of the hardware configuration of the multi-electrode I/O chip.
  • FIG. 7 is a second diagram showing an example of the hardware configuration of the multi-electrode I/O chip.
  • FIG. 8 is a third diagram showing an example of the hardware configuration of the multi-electrode I/O chip.
  • FIG. 9 is a fourth diagram showing an example of the hardware configuration of the multi-electrode I/O chip.
  • FIG. 10 is a fifth diagram showing an example of the hardware configuration of the multi-electrode I/O chip.
  • FIG. 11 is an example of a transition diagram of each period during which the process state prediction unit transitions.
  • FIG. 12 is a diagram illustrating an example of a functional configuration during a learning period of the process state prediction unit; FIG.
  • FIG. 13 is a diagram illustrating an example of a functional configuration during a prediction period of a process state prediction unit;
  • FIG. 14 is a first diagram showing an example of the functional configuration of the process state prediction unit during the re-learning period.
  • FIG. 15 is a second diagram showing an example of the functional configuration of the process state prediction unit during the re-learning period.
  • FIG. 16 is a diagram showing an example of the hardware configuration of a FORCE learning unit using the sequential least squares method.
  • FIG. 17 is a first diagram showing parallel processing and serial processing implemented in the FORCE learning unit using the sequential least squares method.
  • FIG. 18 is a second diagram showing parallel processing and serial processing implemented in the FORCE learning unit using the sequential least squares method.
  • FIG. 19 is a first diagram showing a transfer process implemented in the FORCE learning section using the iterative least squares method.
  • FIG. 20 is a diagram showing an alternative process implemented in the FORCE learning unit by the iterative least squares method.
  • FIG. 21 is a second diagram showing the transfer processing realized in the FORCE learning unit using the iterative least squares method.
  • FIG. 22 is a diagram showing a distribution process realized in the FORCE learning unit using the iterative least squares method.
  • FIG. 23 is a diagram showing weight parameter update processing implemented in the FORCE learning unit using the sequential least squares method.
  • FIG. 24 is an example of a timing chart of the FORCE learning process by the FORCE learning unit using the sequential least squares method.
  • FIG. 25 is a diagram illustrating an example of a hardware configuration of a management device
  • FIG. 26 is a diagram illustrating an example of a functional configuration of a management unit
  • FIG. 27 is an example of a flowchart showing the overall flow of process state prediction processing by the management unit and the process state prediction system.
  • FIG. 28 is an example of a flowchart showing the flow of learning processing.
  • FIG. 29 is an example of a flowchart showing the flow of prediction processing.
  • FIG. 30 is an example of a flowchart showing the flow of relearning determination processing.
  • FIG. 31 is a diagram showing another example of predicted effective time.
  • FIG. 32 is an example of a flowchart showing the flow of relearning processing.
  • FIG. 1A is a diagram showing an application example of a process state prediction system.
  • FIG. 1A shows, as a comparative example, a substrate processing apparatus (1a) to which the process state prediction system is not applied.
  • substrate processing apparatuses 110 and 120 have chambers 111 and 121 for processing substrates, sensors a 112a and 122a, and sensors b 112b and 122b.
  • the substrate processing apparatuses 110 and 120 also have management devices 113 and 123 , control devices 115 and 125 , and actuators 117 and 127 .
  • a physical quantity is measured by a sensor a 112a and a sensor b 112b while the substrate is being processed in the chamber 111, and time-series sensor data a , as sensor data b.
  • the time-series sensor data a and sensor data b output from the sensor a 112 a and the sensor b 112 b are processed in the state prediction and management unit 114 of the management device 113 to predict the process state, and the control device 115 as prediction result data output to
  • the time-series sensor data a output from the sensor a 112a is processed by the control unit 116 of the control device 115 to calculate the control amount.
  • the control unit 116 may correct the control amount based on the prediction result data.
  • the control amount calculated by the control unit 116 is output to the actuator 117, and the actuator 117 notifies the chamber 111 of the control command based on the control amount.
  • graph 130 is an example of time-series sensor data a output from sensor a 112a, where the horizontal axis represents time and the vertical axis represents signal strength.
  • a graph 140 is time-series sensor data a' when processed in the state prediction and management unit 114 of the management device 113, the horizontal axis is time, and the vertical axis is signal strength. are represented respectively.
  • the processing cycle T(b) when the management device 113 predicts the process state is longer than the measurement cycle T(a) when the sensor a 112a measures the time-series sensor data a. For this reason, the state prediction and management unit 114 cannot capture the short behavior that appears in the time-series sensor data a as shown in the graph 130 (see graph 140). It is difficult to obtain sufficient prediction accuracy for
  • the physical quantity during the substrate being processed in the chamber 121 is measured by the sensor a 122a and the sensor b 122b. Output as data b.
  • the time-series sensor data a output from the sensor a 122a is processed in the process state prediction system 128 to predict the process state. Prediction result data predicted by the process state prediction system 128 is output to the management unit 124 and the control unit 126 .
  • the time-series sensor data a output from the sensor 122a is processed by the control unit 126 of the control device 125 to calculate the control amount.
  • the control unit 126 may correct the control amount based on the prediction result data.
  • the control amount calculated by the control unit 126 is output to the actuator 127, and the actuator 127 notifies the chamber 121 of the control command based on the control amount.
  • a graph 131 is an example of time-series sensor data a output from the sensor a 122a, with the horizontal axis representing time and the vertical axis representing signal strength.
  • graph 141 is time-series sensor data a′ when processed in process state prediction system 128, with the horizontal axis representing time and the vertical axis representing signal strength. .
  • the time-series sensor data a' is processed by reservoir computing to predict the process state. Therefore, the processing cycle T(c) for predicting the process state is much shorter than the processing cycle T(b) for predicting the process state by the management device 113 of 1a of FIG. 1A. As a result, according to the process state prediction system 128 according to the first embodiment, it is possible to capture short behaviors that appear in the time-series sensor data a shown in the graph 131, thereby improving the prediction accuracy.
  • Effective prediction time is the amount of time that the process state prediction system 128 (or the state prediction and management unit 114) can predict the state of the process how far into the future.
  • FIG. 1B is a diagram illustrating an example of a predicted effective time. As shown in FIG. 1B, ⁇ Than the effective prediction time (t a ⁇ t s ) when predicting the state of the process using the time-series sensor data a′ of the comparative example such as the graph 140, The effective prediction time (t b ⁇ t s ) when the process state is predicted using the time-series sensor data a′ of the graph 141, is longer. This indicates that the process state prediction system 128 is less likely to cause deterioration in prediction due to changes over time than the comparative example.
  • the substrate processing apparatus 120 accumulates an operation log (for example, a history of temperature, humidity, voltage signals, etc. during operation), and uses the accumulated log to calculate the expected effective time (t b ⁇ t s ). Analysis for further stretching may be performed.
  • an operation log for example, a history of temperature, humidity, voltage signals, etc. during operation
  • the management unit 124 manages the relearning process by the process state prediction system 128 by using the prediction result data output by the process state prediction system 128, the reservoir feature amount, and the sensor data b. can be done.
  • the process state data (correct answer data) used when the process state prediction system 128 performs learning processing or re-learning processing includes information such as whether there is an abnormality in the substrate processing apparatus 120 during execution of the substrate processing process.
  • the process state data (correct data) may include sensor data b output from the sensor b 122b (in this embodiment, the process state data (correct data) is the sensor output from the sensor b 122b). data b).
  • the correct data is generally called "dependent variable" or "teaching data”.
  • the management unit 124 exchanges various information (switching information, end information, etc.) with the process state prediction system 128 in order to manage the period of the process state prediction system 128. send and receive
  • the first embodiment it is possible to improve the prediction accuracy when predicting the process state based on time-series sensor data.
  • FIG. 2 is a diagram showing an example of the system configuration of the process state prediction system.
  • the process state prediction system 128 is realized by, for example, an FPGA (Field-Programmable Gate Array) board or the like.
  • the process state prediction system 128 has an I/O control section 201, a voltage modulation section 202, a multi-electrode I/O chip 203, and a process state prediction section 204.
  • the I/O control unit 201 controls input/output of digital signals. Specifically, the I/O control unit 201 receives the time-series sensor data a output from the sensor a 122 a and notifies the voltage modulation unit 202 .
  • the time-series sensor data a input to the I/O control unit 201 may be one type of time-series sensor data, or may be a sensor data set composed of a plurality of types of time-series sensor data. may Here, for simplification of description, it is assumed that one type of time-series sensor data is input.
  • the I/O control unit 201 acquires the prediction result data (data resulting from the process state prediction) output by the process state prediction unit 204 and the reservoir feature amount output by the multi-electrode I/O chip 203. and transmits it to the management device 123 . Further, the I/O control unit 201 inputs process state data (correct data) used when performing learning processing (or re-learning processing) in the process state prediction system 128 from the management device 123, and the process state prediction unit 204 to notify.
  • the I/O control unit 201 transmits switching information for switching the period of the process state prediction unit 204 and end information indicating the end of processing by the process state prediction unit 204 in the period after switching to the management device 123. send and receive to and from
  • the voltage modulation unit 202 is an example of a modulation unit, and converts the time-series sensor data a' notified from the I/O control unit 201 into voltage data for input to the multi-electrode I/O chip 203. Specifically, the voltage modulation unit 202 acquires and modulates the sensor data a' at a sampling frequency of 1 MHz or higher, thereby converting it into voltage data.
  • the voltage modulation unit 202 converts the time-series sensor data a′ notified from the I/O control unit 201 into voltage data corresponding to the prediction result data output from the process state prediction unit 204, for example. good too.
  • the multi-electrode I/O chip 203 is a chip that outputs reservoir feature quantities.
  • the multi-electrode I/O chip 203 inputs a voltage signal based on voltage data to a nano-molecular reservoir (described later), reads current data based on a current signal output from the nano-molecular reservoir, and outputs a reservoir feature amount. do.
  • the reservoir feature value is a time-series data output by the nano-molecular reservoir based on each value from the past to the present when each value of the time-series sensor data a' is input to the nano-molecular reservoir. It is a numerical value that quantitatively represents the characteristics of the sensor data a'.
  • the process state prediction unit 204 operates under a plurality of periods (in this embodiment, a learning period, a prediction period, and a relearning period) that are switched according to the switching information.
  • a learning period refers to a period during which weight parameters are learned.
  • the relearning period refers to a period during which the learned weighting parameters are relearned.
  • the process state prediction unit 204 sets the weight parameter so that the prediction result data and the process state data (correct data) input by the I/O control unit 201 are correlated. calculate. Further, the process state prediction unit 204 outputs end information when the calculation of the weight parameters is completed.
  • the prediction period refers to the period in which the prediction result data is output based on the reservoir feature amount under the weight parameters learned in the learning period or re-learning period.
  • the process state prediction unit 204 shifts to the prediction period and predicts the process state based on the reservoir feature amount output from the multi-electrode I/O chip 203. do.
  • the process state prediction unit 204 also outputs prediction result data to the I/O control unit 201 and the voltage modulation unit 202 .
  • the output cycle when the process state prediction unit 204 outputs the prediction result data to the I/O control unit 201 is, for example, less than or equal to the processing cycle of the management device 123 (that is, less than or equal to the fieldbus transfer cycle). good.
  • FIG. 3 is an example of a flowchart showing the flow of voltage modulation processing by the voltage modulation unit.
  • step S301 the voltage modulation unit 202 determines whether or not there is feedback of prediction result data.
  • prediction result data is output from the process state prediction unit 204
  • the voltage modulation unit 202 determines that there is feedback of prediction result data (YES in step S301), and proceeds to step S302.
  • step S302 the voltage modulation unit 202 acquires prediction result data from the process state prediction unit 204, and proceeds to step S303.
  • step S301 determines whether there is no prediction result data feedback (NO in step S301). If it is determined in step S301 that there is no prediction result data feedback (NO in step S301), the process proceeds directly to step S303.
  • step S ⁇ b>303 the voltage modulation unit 202 acquires time-series sensor data from the I/O control unit 201 .
  • step S304 the voltage modulation unit 202 converts the acquired time-series sensor data into voltage data. At this time, if the prediction result data has been obtained in step S302, the voltage modulation unit 202 converts it into voltage data according to the prediction result data.
  • the voltage modulation unit 202 converts the time-series sensor data into voltage data in which prediction result data is superimposed. In this case, a voltage signal corresponding to the converted voltage data is input to each input side electrode (described later) of the multi-electrode I/O chip 203 .
  • the voltage modulation section 202 may convert time-series sensor data and prediction result data into respective voltage data. In this case, voltage signals corresponding to respective voltage data after conversion are input to corresponding input electrodes of the multi-electrode I/O chip 203 .
  • step S305 the voltage modulation section 202 inputs the voltage data to the multi-electrode I/O chip 203.
  • FIG. 4 is a diagram showing an example of a functional configuration of a multi-electrode I/O chip.
  • the multi-electrode I/O chip 203 has a D/A conversion section 401, a nano-molecular reservoir 402, and a read function section 403.
  • the D/A conversion section 401 is an example of a conversion section, and generates an analog voltage signal by D/A converting the voltage data input by the voltage modulation section 202 and inputs it to the nano-molecular reservoir 402 .
  • the nanomolecular reservoir 402 is a kind of "physical reservoir” composed of POM molecules and carbon nanotubes.
  • Physical reservoir refers to a “reservoir” that physically exists (or can exist) in the real world, not a reservoir that exists on a computer.
  • a “reservoir” refers to a complex system network in which multiple “reservoir nodes” are interconnected, and retains reservoir feature values for voltage signal inputs from the past to the present.
  • the number of input electrodes of a reservoir is less than the number of reservoir nodes, and low-dimensional inputs are mapped to multi-dimensional reservoirs.
  • reservoir node refers to a basic component in a reservoir.
  • a reservoir node receives one or more voltage signals, linearly or non-linearly transforms the values (or their values), and outputs a current signal.
  • a reservoir node is not a static element but a dynamic element (the state of its own node at the next time is determined from the current state of its own node and the states of other nodes coupled thereto). The current signal output from the reservoir node follows the current voltage signal input while forgetting the past voltage signal input.
  • the readout function unit 403 is an example of a readout unit, reads the current signal from the nano-molecular reservoir 402, converts it into voltage data, and outputs it to the process state prediction unit 204 as a reservoir feature amount.
  • the multi-electrode I/O chip 203 By adopting a configuration that uses nanomolecular reservoirs in this way, according to the multi-electrode I/O chip 203, it is possible to capture short behaviors appearing in sensor data and output reservoir feature amounts. According to the applicant of the present application, the period from inputting the voltage signal to the nano-molecular reservoir 402 to reading the current signal by the reading function unit 403 and outputting it as the reservoir feature value is 1 ⁇ s or less.
  • FIG. 5 is an example of a flowchart showing the flow of input/output processing by the multi-electrode I/O chip.
  • step S501 the multi-electrode I/O chip 203 D/A converts the voltage data to generate a voltage signal.
  • step S502 the multi-electrode I/O chip 203 inputs a voltage signal to the nanomolecular reservoir 402.
  • step S503 the multi-electrode I/O chip 203 reads current signals from the nano-molecular reservoirs 402.
  • step S504 the multi-electrode I/O chip 203 A/D-converts the read current signal to generate current data.
  • step S505 the multi-electrode I/O chip 203 outputs the current data to the process state prediction unit 204 as a reservoir feature amount.
  • FIG. 6 is a first diagram showing an example of the hardware configuration of the multi-electrode I/O chip. A bottom view is shown. 6d represents an adjustment item that specifies the configuration of the multi-electrode I/O chip 203.
  • adjustment items specifying the configuration of the multi-electrode I/O chip 203 include a plurality of adjustment items (see adjustment item 600). Among them, in FIG.
  • the D/A converter 401 is indicated by a white rectangle (see 6b in FIG. 6).
  • the D/A converter 401 inputs a voltage signal to the input side electrode 610 .
  • the "number of input-side electrodes" is sixteen.
  • the black circles represent reservoir nodes (see 6b in FIG. 6).
  • the number of these black circles is the "number of reservoir nodes" forming the network.
  • a plurality of reservoir nodes are interconnected (see 6b in FIG. 6). Then, voltage signals are input from the D/A converter 401 to a plurality of reservoir nodes in contact with the input-side electrode 610 under the "input weight parameter to the reservoir nodes.” Specifically, a voltage signal is input to the reservoir node immediately below the input-side electrode 610 in the A-A' cross section shown in 6b of FIG. 6 under the input weight parameter to the reservoir node.
  • the output signals of other reservoir nodes are input to the interconnected reservoir nodes under the ⁇ inter-reservoir node connection weight parameter'' (AA' shown in 6b in FIG. 6). See the solid line from the black circle to another black circle in the cross-sectional view).
  • the "input weight parameter to the reservoir node” is specifically determined based on the reciprocal of the resistance value between the input-side electrode for inputting the voltage signal and the voltage source.
  • the “bond weight parameter between reservoir nodes” is specifically determined by the reciprocal of the distance between POM molecules.
  • the white rectangle shown in the readout function unit 403 indicates the external output end of the output-side electrode 620 for reading out the reservoir feature amount.
  • the output signal (current signal) of the readout node among the plurality of reservoir nodes is read from the external output terminal of the readout function unit 403 .
  • the "number of electrodes on the output side" is 16 pieces.
  • FIG. 7 is a second diagram showing an example of the hardware configuration of the multi-electrode I/O chip, and is a diagram for explaining the adjustment item 600 (FIG. 6) that specifies the configuration of the multi-electrode I/O chip 203. is.
  • FIG. 7 among these, - the number of charge accumulations in the POM molecule, ⁇ Ground capacity, will be explained.
  • FIG. 7a of FIG. 7 is a top view of the nanomolecular reservoir 402.
  • the nanomolecular reservoir 402 contains POM molecules (filled circles) connected by carbon nanotubes (straight lines shown between POM molecules).
  • a POM molecule is a polyacid molecule, and has the property of accumulating charges and releasing the accumulated charges when the amount of accumulation exceeds a threshold value.
  • the “charge accumulation number of POM molecules” refers to the threshold of the amount of accumulation (threshold of the amount of charge when the POM molecules accumulate and release charges) at this time. This threshold is adjusted by the environment in which the nanomolecular reservoir 402 is placed (environmental values (such as humidity) that can affect the charge storage count). In order to adjust the threshold appropriately, the environmental value (humidity, etc.) may be controlled to be constant during fabrication and/or operation of the nano-molecular reservoir 402 .
  • FIG. 7b of FIG. 7 is a graph showing the relationship between the thickness of the dielectric existing between the POM molecules and the electrode (not shown) of the substrate and the capacitance to ground when the nanomolecular reservoir 402 is viewed from the side. If the dielectric between the POM molecule and the substrate electrode (not shown) is thin, as shown in FIG. of POM molecules. On the other hand, if the dielectric between the POM molecule and the electrode (not shown) of the substrate is thick, the “capacitance to ground” will be small, and the voltage fluctuation of one POM molecule will affect other POM molecules through the substrate. no.
  • the voltage of one POM molecule fluctuates, the voltage of the substrate changes through a parasitic capacitor having ground capacitance (capacitor generated in a structure in which a dielectric is sandwiched between the POM molecule and the substrate). fluctuate. Since the substrate is also common to other POM molecules, when the voltage of the substrate fluctuates, it also affects the voltage fluctuations of the other POM molecules. The degree of influence at this time is determined by the capacitance to ground (that is, the thickness of the dielectric).
  • the thickness of the dielectric is appropriately adjusted so that the optimum reservoir feature amount for predicting the process state is output as the current signal of the POM molecules.
  • ground capacity of the nano-molecular reservoir 402 is an adjustment item that determines the contribution rate (leakage rate) of past data in the reservoir node.
  • FIGS. 8 and 9 are third and fourth diagrams showing an example of the hardware configuration of the multi-electrode I/O chip, and an adjustment item 600 (FIG. 6) specifying the configuration of the multi-electrode I/O chip 203. It is a figure for explaining. In FIGS. 8 and 9, among these, ⁇ Network shape (number of connected carbon nanotubes, concentration distribution of POM molecules) will be explained.
  • 8a of FIG. 8 schematically shows the relationship between POM molecules (black circles) and carbon nanotubes (straight lines shown between POM molecules, denoted as CNT in the figure) in the nanomolecule reservoir 402.
  • FIG. 8a of FIG. 8 shows a case where they are arranged one-dimensionally. As the number of POM molecules and carbon nanotubes connected in the nanomolecular reservoir 402 increases, the number of reservoir nodes increases.
  • POM molecules and carbon nanotubes each have resistance.
  • the resistance values of carbon nanotubes are not uniform and have variations (R1, R2, R3, R4, . . . ). Therefore, when a voltage signal is input via the input-side electrode, the current signal output via the output-side electrode is ⁇ When the number of connections between the POM molecules and the carbon nanotubes between the input-side electrode 610 and the output-side electrode 620 is small, it fluctuates randomly over time, - When the number of connections between the POM molecules and the carbon nanotubes between the input-side electrode 610 and the output-side electrode 620 is large, it does not fluctuate randomly over time and becomes a constant value. It has the characteristic of
  • the nanomolecular reservoir 402 when used to output the reservoir feature quantity, the current signal must not fluctuate randomly over time. Therefore, the number of POM molecules and carbon nanotubes connected between the input side electrode 610 and the output side electrode 620 is adjusted to a level at which the current signal does not fluctuate randomly with time.
  • 8b of FIG. 8 is a graph showing the relationship between the number of POM molecules and carbon nanotubes connected between the input side electrode 610 and the output side electrode 620 and the magnitude of temporal fluctuation of the current signal.
  • the number of connections whose temporal fluctuation is below a predetermined threshold is derived in advance, and the "network shape (connection of CNTs)" is calculated so as to exceed the derived number of connections number) has been adjusted.
  • FIG. 9 shows a network shape when the "network shape (concentration distribution of POM molecules)" is non-uniform.
  • the nanomolecular reservoir 402 by forming the nanomolecular reservoir 402 such that the concentration of the droplets of POM molecules is non-uniform, the nanomolecular reservoir 402 includes regions where the POM molecules are coarse and regions where the POM molecules are dense. It will be. Further, by arranging the electrodes according to the concentration distribution of the POM molecules, the number of POM molecules contained in one reservoir node can be increased (see reference numerals 901 and 902). This allows the non-linear characteristics of stochastic reservoir nodes, which are undesirable for nanomolecular reservoirs 402, to be non-stochastic.
  • 9b of FIG. 9 shows a nanomolecule reservoir 402 having a network configuration when the "network shape (concentration distribution of POM molecules)" is uniform.
  • FIG. 10 is a fifth diagram showing an example of the hardware configuration of the multi-electrode I/O chip, and is a diagram for explaining the adjustment item 600 (FIG. 6) specifying the configuration of the multi-electrode I/O chip 203. is.
  • FIG. 10 among these, ⁇ Electrode shape, ⁇ Integration time of readout current, will be explained.
  • FIG. 10 shows a side view of the circuit configuration of an input/output circuit that inputs a voltage signal to the nano-molecular reservoir 402 shown in FIG. 6 and outputs a current signal in the multi-electrode I/O chip 203.
  • voltage sources 1001 and 1002 apply voltages to nano-molecular reservoir 402 via switch 1003 , resistor 1004 and input-side electrode 610 .
  • the input of the voltage signal to the reservoir node is adjusted by ON/OFF of the switch 1003 .
  • the "input weighting parameter" is adjusted.
  • the current signal is output via the output-side electrode 620 .
  • a detailed configuration around the output side electrode 620 is indicated by reference numeral 1010 in 10b of FIG.
  • the current signal is read from the entire POM molecule via the output side electrode 620, the low noise amplifier 1011, and the A/D converter 1012 using a voltage-controlled oscillator.
  • the “electrode shape” of the input-side electrode 610 and the output-side electrode 620 is configured to have a pointed shape so that the electric field between the input-side electrode 610 and the output-side electrode 620 concentrates on the network of POM molecules. be.
  • the output side electrode 620 is connected to the nMOSFET 1020, as shown in 10b of FIG.
  • the nMOSFET 1020 when a voltage is applied to the gate 1023 ( ⁇ RST ), the drain 1022 and the source 1021 are electrically connected (turned on). Also, in the nMOSFET 1020, when the gate 1023 ( ⁇ RST ) is connected to GND, the drain 1022 and the source 1021 are electrically cut off (turned off).
  • the source 1021 is electrically floating (the input terminal (-) of the low noise amplifier 1011 and the output electrode 620 are also electrically floating).
  • the source 1021 is a diffusion layer
  • a source having such a configuration is called FD (Floating Diffusion).
  • the current signal is integrated in the source 1021, which is a floating diffusion region, so that the current signal is noise-removed and smoothed.
  • the "read current integration time” which is the integration time at this time, can be arbitrarily adjusted.
  • FIG. 10c of FIG. 10 shows an operation example of the nMOSFET 1020.
  • FIG. 10c nMOSFET 1020 operates in the following order.
  • (I) Turn on nMOSFET 1020 and set the voltage of source 1021 to V RST (fully charge source 1021).
  • (II) The nMOSFET 1020 is turned off to electrically disconnect the source 1021 from the drain 1022 (so that the source 1021 is electrically floating).
  • III When the charges accumulated in the source 1021 fluctuate via the output-side electrode 620, the voltage of the source 1021 changes. Since the capacity of the source 1021 is extremely small, the amount of voltage fluctuation of the source 1021 is large.
  • (IV) The current signal of the source 1021 in (III) above is input to the low noise amplifier 1011 and A/D converted by the A/D converter 1012 .
  • FIG. 11 is an example of a transition diagram of each period during which the process state predictor transitions. As shown in FIG. 11, when the process by the process state prediction system 128 is started, the process state prediction unit 204 shifts to any period (learning period, prediction period, or relearning period). to start operation. However, here, for the sake of simplification of explanation, the case where the learning period starts and the operation is started will be explained.
  • the process state prediction unit 204 uses the reservoir feature amount and the process state data (correct data) to learn for a predetermined learning time. Processing is performed to calculate weight parameters.
  • the process state prediction unit 204 outputs end information when the learning process ends, and shifts to the prediction period when switching information is input from the management device 123 (arrow 1102). During the prediction period, the process state prediction unit 204 outputs prediction result data based on the reservoir feature amount by performing prediction processing based on the calculated weight parameter.
  • the management device 123 determines whether or not re-learning is necessary. Switching information is input to the prediction unit 204 . As a result, the process state prediction unit 204 shifts to the relearning period (arrow 1103).
  • the process state prediction unit 204 performs relearning processing while changing the learning parameter set (details will be described later), thereby calculating the weighting parameter for each learning parameter set. Subsequently, the process state prediction unit 204 performs prediction processing with each calculated weight parameter set, and outputs prediction result data.
  • the management device 123 also specifies a weighting parameter corresponding to prediction result data that is within the allowable range and has the highest prediction accuracy, and inputs switching information to the process state prediction unit 204 . As a result, the process state prediction unit 204 shifts to the prediction period (arrow 1104).
  • FIG. 12 is a diagram illustrating an example of a functional configuration during a learning period of the process state prediction unit
  • the process state prediction unit 204 functions as a FORCE learning unit 1200 using the iterative least squares method during the learning period.
  • the FORCE learning unit 1200 based on the iterative least squares method is set to “learning parameter set 0”, and the FORCE learning unit 1200 performs the following processing procedure (see reference numeral 1201) to perform the iterative minimum Force learning processing is performed by the square method.
  • the FORCE learning unit 1200 acquires the reservoir feature amount (R vector), it calculates the output data (Z) by multiplying the transposed vector obtained by transposing the sequential weight parameter (W vector).
  • the sequential weight parameter (W vector) refers to a weight parameter that is sequential updated in the process of FORCE learning processing by the sequential least squares method.
  • the FORCE learning unit 1200 calculates the error (e) between the output data (Z) and the process state data (S).
  • the FORCE learning unit 1200 calculates a coefficient matrix (P matrix) used to calculate the iterative weighting parameter (W vector).
  • the FORCE learning unit 1200 calculates sequential weighting parameters (W vector).
  • the FORCE learning unit 1200 calculates the weighting parameter by repeating the processes 1) to 4) above for a predetermined learning time.
  • FIG. 13 is a diagram illustrating an example of a functional configuration during a prediction period of a process state prediction unit
  • the process state prediction unit 204 functions as a FORCE learning unit 1300 using the iterative least squares method during the prediction period.
  • the FORCE learning unit 1300 indicates a state in which the weighting parameters calculated by the FORCE learning processing performed in the FORCE learning unit 1200 are set and the prediction result data (Z) can be output.
  • the FORCE learning unit 1300 performs prediction processing according to the following processing procedure (see reference numeral 1301).
  • the FORCE learning unit 1300 sets the weighting parameter (W vector) calculated by performing the FORCE learning process.
  • the process state prediction unit 204 functions as FORCE learning units 1200_1 to 1200_M using the sequential least squares method and as FORCE learning units 1300_1 to 1300_M using the sequential least squares method during the relearning period. .
  • the FORCE learning unit 1200_1 in FIG. 14 is set with “learning parameter set 1”, and the FORCE learning process by the sequential least squares method is performed by the processing procedure (see reference numeral 1201) described in FIG. done.
  • the FORCE learning unit 1300_1 in FIG. 15 is set to a weighting parameter calculated by the FORCE learning process performed in the FORCE learning unit 1200_1, and is in a state in which the prediction result data (Z) can be output. Point.
  • the FORCE learning unit 1300_1 Upon acquiring the reservoir feature amount, the FORCE learning unit 1300_1 outputs prediction result data by multiplying it by a transposed vector obtained by transposing the weight parameter.
  • "learning parameter set 2" is set in the FORCE learning unit 1200_2 of FIG. 14, and the FORCE learning process is performed by the sequential least squares method according to the processing procedure (see reference numeral 1201) described with reference to FIG. .
  • the FORCE learning unit 1300_2 in FIG. 15 is set to a weighting parameter calculated by the FORCE learning processing performed in the FORCE learning unit 1200_2, and is in a state in which the prediction result data (Z) can be output. Point.
  • the FORCE learning unit 1300_2 Upon acquiring the reservoir feature amount, the FORCE learning unit 1300_2 outputs prediction result data by multiplying it by a transposed vector obtained by transposing the weight parameter.
  • a "learning parameter set M" is set in the FORCE learning unit 1200_M in FIG. 14, and the FORCE learning process is performed by the sequential least squares method according to the processing procedure (see reference numeral 1201) described in FIG. .
  • the FORCE learning unit 1300_M in FIG. 15 sets the weighting parameter calculated by performing the FORCE learning process in the FORCE learning unit 1200_M, and sets a state in which the prediction result data (Z) can be output. Point.
  • the FORCE learning unit 1300_M outputs prediction result data by multiplying it by a transposed vector obtained by transposing the weight parameter.
  • the process state prediction unit 204 functions as the FORCE learning unit 1300_X using the iterative least squares method.
  • the FORCE learning unit 1300_X here means, among the FORCE learning units 1300_1 to 1300_M, - A FORCE learning unit in which "learning parameter set X" is set, A FORCE learning unit in which the output prediction result data is within a predetermined allowable range and a weighting parameter with the highest prediction accuracy is set; point to Note that the learning parameter set X is a learning parameter set when the output prediction result data is within a predetermined allowable range and the weighting parameter with the highest prediction accuracy is calculated.
  • FIG. 16 is a diagram showing an example of the hardware configuration of the FORCE learning unit using the iterative least squares method.
  • the FORCE learning unit 1200 using the sequential least squares method A plurality of FPGAs (Field Programmable Gate Arrays) functioning as PEs (Processing Elements) (25 in the example of FIG. 16), - A plurality of FPGAs that function as FPEs (Functional PEs) (five in the example of FIG. 16), have
  • the FPGA portion may be realized by a dedicated chip.
  • a plurality of FPGAs functioning as PEs respectively execute 3) calculation of the coefficient matrix among the processing procedures 1) to 4) of FORCE learning by the iterative least squares method described with reference to FIG.
  • a plurality of FPGAs functioning as PEs respectively calculate coefficient matrices (P matrices) according to the following procedure. (i) When a part of the reservoir feature amount (R vector) is input via the signal line 1601, it is multiplied by part of the coefficient matrix (P matrix), and the calculation result is sent to the signal line 1602. to the adjacent FPGA.
  • each of the plurality of FPGAs functioning as PEs repeatedly executes the above (i) to (iv).
  • a plurality of FPGAs functioning as FPEs respectively perform 4) sequential weighting parameter calculation, 1) Calculation of output data.
  • a plurality of FPGAs functioning as FPEs sequentially calculate weighting parameters and output data according to the following procedure.
  • (ii) Generate a matrix for calculating the product of a transposed vector obtained by transposing a part of the reservoir feature amount (R vector) and a part of the coefficient matrix (P matrix), and send it as a PE via the signal line 1603 Send to multiple FPGAs that work.
  • each of the plurality of FPGAs functioning as FPEs repeatedly executes the above (i) to (v).
  • the FPGA positioned at the final stage performs 4) successive weight parameter calculation, 1) output data calculation, and 2) error calculation.
  • the FPGA positioned at the final stage calculates the error according to the following procedure. (i) Calculate the error (e) by totaling all of the output data (Z) obtained from the FPGA located in the upper stage and calculating the difference from the process state data (S).
  • the calculated error (e) is transmitted to each FPGA located in the upper stage.
  • the FORCE learning unit 1200 using the sequential least squares method a plurality of FPGAs functioning as PEs and a plurality of FPGAs functioning as FPEs are used to execute processing procedures 1) to 4), thereby sequentially
  • the FORCE learning process is realized by the method of least squares.
  • each of the plurality of vertically arranged FPGAs functioning as PEs has a part of the coefficient matrix (P matrix) and a part of the reservoir feature amount (R vector). Calculate the product with the part.
  • the FORCE learning unit 1200 based on the sequential least squares method the process of multiplying a part of the coefficient matrix (P matrix) different from each other by a part of the same reservoir feature amount (R vector) can be performed in parallel. .
  • each of the plurality of PEs arranged in the horizontal direction is a reservoir feature amount (R vector) obtained by dividing the reservoir feature amount (R vector), which is time-series data. Some processing is done serially.
  • the FORCE learning unit 1200 using the sequential least squares method can speed up the FORCE learning process.
  • FIGS. 17 and 18 are first and second diagrams showing parallel processing and serial processing implemented in the FORCE learning unit using the sequential least squares method.
  • the number of electrodes on the output side is "4" (there are four elements of the reservoir feature amount (R vector)) for simplification of explanation.
  • R vector reservoir feature amount
  • FIGS. 17 and 18 are first and second diagrams showing parallel processing and serial processing implemented in the FORCE learning unit using the sequential least squares method.
  • the number of electrodes on the output side is "4" (there are four elements of the reservoir feature amount (R vector)) for simplification of explanation.
  • R vector reservoir feature amount
  • the product of the coefficient matrix (P matrix) and the reservoir feature amount (R vector) is executed using one FPGA.
  • 16 multiplications are required, as indicated at 1710 .
  • the number of multiplications can be halved.
  • the number of multiplications can be further halved.
  • Reference numeral 1730 in FIG. 17 inputs (r 1 , r 2 ), which is a part of the reservoir feature amount (R vector) of the R vector divided into two, to FPGAs 1721 and 1722, respectively. It shows how four multiplications have been executed.
  • reference numeral 1830 designates (r 3 , r 4 ), which are part of the reservoir feature amount (R vector) among the reservoir feature amount (R vector) divided into two, and inputs them to FPGAs 1723 and 1724, respectively. showing the situation. Also, reference numeral 1830 indicates how FPGAs 1723 and 1724 have each performed four multiplications.
  • the FORCE learning unit 1200 based on the sequential least-squares method arranges a plurality of FPGAs functioning as PEs in the vertical and horizontal directions, and each FPGA performs a multi-row, multi-column matrix operation performed in the FORCE learning process. configured to run part of the
  • the sequential least-squares method-based FORCE learning unit 1200 can speed up the sequential least-squares method-based FORCE learning process.
  • FIG. 19 is a first diagram showing a transfer process implemented in the FORCE learning section using the iterative least squares method.
  • 19a in FIG. 19 shows (r 1 , r 2 ) which is a part of the reservoir feature (R vector) and one part of the coefficient matrix (P matrix) of the reservoir feature (R vector) divided into two. It shows how the FPGAs 1721 and 1722 execute the multiplication with the part. 19a in FIG. 19 shows how the FPGAs 1721 and 1722 have transferred the execution results to the FPGAs 1723 and 1724, respectively.
  • the calculation results p 11 r 1 +p 12 r 2 and p 21 r 1 +p 22 r 2 are transferred from the FPGA 1721 to the FPGA 1723 over one clock.
  • p 31 r 1 +p 32 r 2 and p 41 r 1 +p 42 r 2 are transferred from the FPGA 1722 to the FPGA 1724 over one clock.
  • p 31 r 1 +p 32 r 2 and p 41 r 1 +p 42 r 2 are part of the reservoir feature amount (R vector) transferred from the FPGA 1721 to the FPGA 1722 over one clock (r 1 , r 2 ) and part of the coefficient matrix (P matrix).
  • 19b in FIG. 19 shows (r 3 , r 4 ) which is part of the reservoir feature (R vector) and part of the coefficient matrix (P matrix) of the reservoir feature (R vector) divided into two. It shows how the FPGAs 1723 and 1724 execute the product of . 19b in FIG. 19 shows how each of the FPGAs 1723 and 1724 transfers the execution result to the adjacent FPGA (not shown) on the right side.
  • the result of adding the calculation result p13r3 + p14r4 to the transfer result p11r1 + p12r2 is output as Transferred to FPGA. Further, from the FPGA 1723, the addition result obtained by adding the calculation result p 23 r 3 +p 24 r 4 to the transfer result p 21 r 1 +p 22 r 2 is transferred to an FPGA (not shown).
  • the addition result obtained by adding the calculation result p 33 r 3 +p 34 r 4 to the transfer result p 31 r 1 +p 32 r 2 is transferred to an FPGA (not shown). Further, from the FPGA 1724, the addition result obtained by adding the calculation result p 43 r 3 +p 44 r 4 to the transfer result p 41 r 1 +p 42 r 2 is transferred to an FPGA (not shown).
  • FIG. 20 is a diagram showing alternative processing implemented in the FORCE learning unit using the iterative least squares method.
  • 20a in FIG. 20 shows the relationship between calculation of the coefficient matrix (P matrix) and substitution processing.
  • the coefficient matrix (P matrix) is a symmetric matrix (has symmetry). Therefore, the coefficient matrix (P matrix) is equal to the transposed matrix obtained by transposing the coefficient matrix (P matrix).
  • the product of the reservoir feature amount (R vector) and the coefficient matrix (P matrix) has already been calculated at the time of calculating the product (reference numeral 2004). Therefore, by transposing the calculation result using symmetry, it can be used as a substitute for "the product of the transposed matrix obtained by transposing the reservoir feature amount (R vector) and the coefficient matrix (P matrix)" (reference numeral 2001). be able to.
  • the right side of 20c in FIG. 20 represents the calculation result and indicates which pr is required by each element of the matrix on the right side among pr 1 , pr 2 , pr 3 and pr 4 .
  • the upper left element of this matrix requires pr1, pr2
  • the lower left and upper right elements require pr1, pr2 , pr3 , pr4
  • the lower right element requires pr3 , pr4 . do.
  • 20d in FIG. 20 is an FPGA (not shown) functioning as an FPE, - "the product of a part of the coefficient matrix (P matrix) and a part of the reservoir feature amount (R vector)"; - "a transposed vector obtained by transposing a product of a part of the coefficient matrix (P matrix) and a part of the reservoir feature amount (R vector)”; is transmitted to FPGAs 1721 to 1724 via a signal line 1603 for calculating . Furthermore, 20d of FIG.
  • FPGAs 1721 to 1724 are - "the product of a part of the coefficient matrix (P matrix) and a part of the reservoir feature amount (R vector)"; - "a transposed vector obtained by transposing a product of a part of the coefficient matrix (P matrix) and a part of the reservoir feature amount (R vector)”; It shows how to calculate the product of .
  • the FPGA 1721 calculates the product of the upper left elements of the matrix on the right side of 20c in FIG. 20, the FPGA 1722 calculates the product of the lower left elements, the FPGA 1723 calculates the product of the upper right elements, and the FPGA 1724 calculates the product of the lower right elements.
  • the FORCE learning unit 1200 using the sequential least squares method when performing an operation including a transposed vector executed in the FORCE learning process using the sequential least squares method, the operation result of the operation not including the transposed vector is acquired and acquired. It substitutes by transposing the operation result.
  • the sequential least squares method-based FORCE learning unit 1200 can reduce the number of calculations when implementing the sequential least squares method-based FORCE learning process.
  • the FORCE learning unit 1200 using the sequential least squares method can speed up the FORCE learning process.
  • FIG. 21 is a second diagram showing the transfer processing realized in the FORCE learning unit using the iterative least squares method.
  • the FPGA 2111 divides the reservoir feature amount (R vector) into two, ⁇ If (r 1 , r 2 ) is part of the reservoir feature (R vector), If (w 1 , w 2 ) is part of the sequential weight parameter (W vector), is calculated, and the calculation result (reference numeral 2101) is transferred to the FPGA 2112. At this time, the FPGA 2111 transfers w 1 r 1 +w 2 r 2 , which is the calculation result (reference numeral 2101), to the FPGA 2112 over one clock.
  • the FPGA 2112 has (r 3 , r 4 ) which is a part of the reservoir feature amount (R vector) and a part of the sequential weight parameter (W vector) of the reservoir feature amount (R vector) divided into two. Calculate the product with (w 3 , w 4 ). The FPGA 2112 also adds the calculation result (reference numeral 2102) to the calculation result (reference numeral 2101) transferred from the FPGA 2111 to obtain the addition result (reference numeral 2103).
  • the FPGA functioning as the FPE obtains the result of calculating the product of part of the reservoir feature amount (R vector) and part of the coefficient matrix (P matrix).
  • the FPGA functioning as the FPE includes part of the reservoir feature quantity (R vector), part of the coefficient matrix (P matrix), and part of the reservoir feature quantity (R vector) obtained via the signal line 1601. Calculate the product with the transposed vector obtained by transposing .
  • the FPGA functioning as an FPE executes distribution processing for distributing the calculation results to the FPGAs functioning as PEs.
  • FIG. 22 is a diagram showing a distribution process realized in the FORCE learning unit using the iterative least squares method.
  • the FPGA 2111 functioning as an FPE acquires the calculation result (reference numeral 2201) of the product of part of the coefficient matrix (P matrix) and part of the R vector from the corresponding FPGA functioning as the PE. do. Further, the FPGA 2111 functioning as an FPE calculates the product of the acquired calculation result (reference numeral 2201) and a transposed vector obtained by transposing a part (r 1 , r 2 ) of the reservoir feature amount (R vector), (2202) is transferred to the FPGA2112.
  • the FPGA 2112 functioning as an FPE obtains the calculation result (reference numeral 2203) of the product of part of the coefficient matrix (P matrix) and part of the R vector from the corresponding FPGA functioning as the PE. Also, the FPGA 2112 functioning as an FPE calculates the product of the obtained calculation result (reference numeral 2202) and a transposed vector obtained by transposing a part (r3 , r4 ) of the reservoir feature amount (R vector). Also, the FPGA 2112 functioning as an FPE adds the calculation result to the calculation result (reference numeral 2202 ) transferred from the FPGA 2111 . Furthermore, the FPGA 2112 functioning as an FPE transfers the result of addition (reference numeral 2204) to the FPGAs 1721-1724 functioning as PEs via the signal line 1604. FIG.
  • each of the FPGAs 1721 to 1724 can calculate a part of the coefficient matrix (P matrix).
  • P matrix For example, for FPGA1721, - "The product of part of the reservoir feature amount (R vector) and part of the coefficient matrix (P matrix)" (reference numeral 2004) is calculated in advance.
  • ⁇ “Product of a transposed vector obtained by transposing a part of the reservoir feature amount (R vector) and a part of the coefficient matrix (P matrix)” (reference numeral 2001) is transmitted via the signal line 1603 as described in FIG.
  • the coefficient matrix (P matrix) can be calculated in the FPGAs 1721 to 1724.
  • FIG. 23 is a diagram showing weight parameter update processing implemented in the FORCE learning unit using the sequential least squares method.
  • the FPGA 2112 positioned at the final stage calculates the error (e) by calculating the difference between the aggregated output data (Z) and the process state data (S). (reference numeral 2301). Furthermore, the FPGA 2112 located in the final stage transmits the calculated error (e) to the FPGA 2111 located in the upper stage. The FPGAs 2111 and 2112 use the calculated error (e) to sequentially update the weighting parameters.
  • the FPGA 2111 acquires the calculation result (reference numeral 2201) of the product of part of the reservoir feature amount (R vector) and part of the coefficient matrix (P matrix), and multiplies the error (e) acquired from the FPGA 2112. Then, it is subtracted from the current iterative weight parameter (W vector). As a result, the FPGA 2111 can successively update the weight parameter (W vector) (reference numeral 2302).
  • FIG. 24 is an example of a timing chart of the FORCE learning process by the FORCE learning unit using the sequential least squares method.
  • an FPGA functioning as an FPE a sequential weight parameter (W( ⁇ -1) vector); - Reservoir feature quantity (R ( ⁇ ) vector), By calculating the product of , the output data (Z( ⁇ )) is calculated (reference numeral 2401).
  • the FPGA functioning as the FPE calculates the error (e( ⁇ )) based on the output data (Z( ⁇ )) and the process state data (S( ⁇ )) (reference numeral 2402).
  • the FPGA functioning as PE is The product of the transposed vector obtained by transposing the reservoir feature amount (R vector ( ⁇ )), the coefficient matrix (P ( ⁇ 1) matrix), and the reservoir feature amount (R vector ( ⁇ )), The product of the coefficient matrix (P ( ⁇ 1) matrix) and the reservoir feature amount (R vector ( ⁇ )), - Coefficient matrix (P ( ⁇ -1) matrix), A coefficient matrix (P( ⁇ ) matrix) is calculated based on (reference numeral 2403).
  • the FPGA functioning as the PE calculates the product of the coefficient matrix (P( ⁇ ) matrix) and the reservoir feature amount (R( ⁇ ) vector) (reference numeral 2404). Also, the FPGA functioning as the PE calculates the product of the coefficient matrix (P( ⁇ +1) matrix) and the reservoir feature amount (R( ⁇ ) vector) (reference numeral 2405).
  • the FPGA functioning as PE is A transposed vector obtained by transposing the reservoir feature amount (R ( ⁇ + 1) vector); - A calculation result of the product of the coefficient matrix (P ( ⁇ ) matrix) and the reservoir feature amount (R ( ⁇ + 1) vector), is calculated (2406).
  • the FPGA acting as the FPE - A calculation result of the product of the coefficient matrix (P ( ⁇ ) matrix) and the reservoir feature amount (R ( ⁇ ) vector), ⁇ Error (e ( ⁇ )) and is calculated (2407).
  • the FPGA functioning as an FPE is A calculation result of calculating the product of a coefficient matrix (P ( ⁇ ) matrix), a reservoir feature amount (R ( ⁇ ) vector), and an error (e ( ⁇ )), a sequential weight parameter (W( ⁇ -1) vector); , the sequential weighting parameter (W( ⁇ ) vector) is updated to calculate the sequential weighting parameter (W( ⁇ ) vector) (reference numeral 2408).
  • the FPGA functioning as the FPE can calculate the output data (Z( ⁇ +1)). Thereafter, similar processing is repeated as the system time elapses.
  • the FORCE learning unit 1200 using the sequential least squares method calculateation of sequential weight parameters (W( ⁇ -1) vector); Calculation of sequential weight parameters (W( ⁇ ) vector);
  • the execution timings of the product of the reservoir feature amount (R vector) and the coefficient matrix (P matrix), which are respectively executed between are configured to overlap each other.
  • the FORCE learning unit 1200 based on the iterative least squares method buffers the calculation results in the FPGA functioning as PE and the FPGA functioning as FPE, thereby adjusting the execution timing.
  • the FORCE learning unit 1200 using the sequential least squares method can reduce the time required to update the sequential weighting parameters.
  • the process state prediction unit 204 is configured with hardware that performs FORCE learning processing by the sequential least-squares method, and the processing for updating the sequential weight parameters at high speed is executed. As a result, the process state prediction unit 204 can learn weighting parameters by capturing short behaviors appearing in sensor data.
  • FIG. 25 is a diagram illustrating an example of a hardware configuration of a management device
  • the management device 123 has a processor 2501, a memory 2502, an auxiliary storage device 2503, an I/F (Interface) device 2504, a UI device 2505, and a communication device 2506.
  • a processor 2501 a memory 2502
  • auxiliary storage device 2503 an I/F (Interface) device 2504
  • UI device 2505 a UI device 2505
  • communication device 2506 Each piece of hardware of the management device 123 is interconnected via a bus 2507 .
  • the processor 2501 has various computing devices such as a CPU (Central Processing Unit) and a GPU (Graphics Processing Unit).
  • the processor 2501 reads various programs (eg, management program, etc.) onto the memory 2502 and executes them.
  • programs eg, management program, etc.
  • the memory 2502 has main storage devices such as ROM (Read Only Memory) and RAM (Random Access Memory).
  • the processor 2501 and memory 2502 form a so-called computer, and the computer implements various functions by the processor 2501 executing various programs read onto the memory 2502 .
  • the auxiliary storage device 2503 stores various programs and various data used when the various programs are executed by the processor 2501 .
  • a data storage unit 2607 which will be described later, is implemented in the auxiliary storage device 2503 .
  • the I/F device 2504 is a connection device that connects with the process state prediction system 128 .
  • the UI device 2505 is a user interface device for the administrator of the management device 123 to input various instructions to the management device 123 .
  • a communication device 2506 is a communication device for communicating with an external device (not shown) via a network.
  • FIG. 26 is a diagram illustrating an example of a functional configuration of a management unit; FIG.
  • a management program is installed in the management device 123, and by executing the program, the management unit 124 of the management device 123 - Process state data transmission unit 2601, - Process state data acquisition unit 2602, - Period control unit 2603, - End information acquisition unit 2604, A relearning determination unit 2605, - Evaluation unit 2606, - Reservoir feature quantity acquisition unit 2608, - Batch learning unit 2609, function as
  • the process state data transmission unit 2601 Based on the transmission start/stop instruction from the period control unit 2603, the process state data transmission unit 2601 receives, for example, the sensor data b transmitted from the sensor b 122b via the process state data acquisition unit 2602 as process state data (correct data). Also, the process state data transmission unit 2601 transmits the acquired process state data (correct data) to the process state prediction system 128 .
  • the process state data transmitted by the process state data transmission unit 2601 includes process state data transmitted during the learning period and process state data transmitted during the re-learning period.
  • the process state data acquisition unit 2602 acquires the sensor data b transmitted from the sensor b 122b. Also, the process state data acquisition unit 2602 notifies the process state data transmission unit 2601 and the batch learning unit 2609 of the acquired sensor data b as process state data.
  • the period control unit 2603 transmits various switching information to the process state prediction system 128 .
  • various switching information transmitted by the period control unit 2603 includes: ⁇ Instruction to transition to the study period, ⁇ Instruction to shift to the forecast period, ⁇ Instructions for transition to re-learning period, ⁇ Instruction to switch the learning parameter set, ⁇ Instruction for setting weight parameters, is included.
  • the period control unit 2603 transmits an instruction to shift to the learning period to the process state prediction system 128, and transmits process state data to the process state data transmission unit 2601. Instruct to start.
  • the period control unit 2603 when the period control unit 2603 receives the end information of the FORCE learning process from the end information acquisition unit 2604, it sends the process state prediction system 128 an instruction to shift to the prediction period. At this time, the period control unit 2603 instructs the process state data transmission unit 2601 to stop transmitting the process state data.
  • the period control unit 2603 when the period control unit 2603 receives the determination result indicating that relearning is necessary from the relearning determination unit 2605, it sends the process state prediction system 128 an instruction to shift to the relearning period. At this time, the period control unit 2603 instructs the process state data transmission unit 2601 to start transmitting process state data.
  • the period control unit 2603 acquires the end information for acquiring the relearning data and the end information for acquiring the evaluation data from the end information acquiring unit 2604, the period control unit 2603 reads out the learning parameter set from the data storage unit 2607, and Send to prediction system 128 . At this time, the period control unit 2603 instructs the process state data transmission unit 2601 to stop transmitting the process state data.
  • the data storage unit 2607 stores learning parameter sets 1 to M.
  • the period control unit 2603 transmits the read learning parameter set 1 to learning parameter set M to the process state prediction system 128 .
  • the learning parameter set includes information items such as "use previous weight parameter or initialize”, “past data contribution rate”, “number of learning models”, and the like.
  • the period control unit 2603 transmits an instruction to switch the learning parameter set to the process state prediction system 128 each time it acquires the end information of the FORCE re-learning process from the end information acquisition unit 2604 .
  • the reservoir feature acquisition unit 2608 acquires the reservoir feature as learning data and evaluation data from the process state prediction system 128 and notifies the batch learning unit 2609 of them. Further, as described above, in the re-learning period, the process state data acquisition unit 2602 acquires the sensor data b as learning data, and notifies the batch learning unit 2609 of the acquired sensor data b as process state data. .
  • the batch learning unit 2609 executes batch learning using learning data obtained by accumulating reservoir feature values and process state data for a predetermined learning time based on the batch learning parameters read from the data storage unit 2607 .
  • Batch learning here means learning the weighting parameters from the reservoir feature quantity and the process state data for a predetermined learning time.
  • the batch learning parameters used for batch learning include "normalization parameters for learning”, “amount of data to be accumulated (batch size)", “learning time”, etc. as information items.
  • the batch learning unit 2609 predicts the process state data based on the reservoir feature amount acquired as the evaluation data, and the prediction result by the batch learning unit 2609 (batch learning prediction result) is sent to the evaluation unit. 2606 is notified.
  • the period control unit 2603 receives the evaluation result from the evaluation unit 2606, and transmits a weight parameter setting instruction to the process state prediction system 128 based on the received evaluation result.
  • prediction processing is performed on the evaluation data using the weighting parameter calculated by performing the FORCE re-learning processing based on each learning parameter set, and each prediction result The predicted accuracy calculated for the data shall be included.
  • the period control unit 2603 instructs the process state prediction system 128 to set a weighting parameter whose prediction result data is within a predetermined allowable range and which has the highest prediction accuracy.
  • a fixed value may be set as the predetermined allowable range at this time, or a value calculated based on the batch learning prediction result calculated by the batch learning unit 2609 may be set.
  • the period control unit 2603 transmits to the process state prediction system 128 an instruction to shift to the prediction period.
  • the end information acquisition unit 2604 receives various end information (FORCE learning process end information, relearning data acquisition end information, evaluation data acquisition end information, FORCE relearning process end information) from the process state prediction system 128. to get Also, the end information acquisition unit 2604 transmits the acquired end information to the period control unit 2603 .
  • end information FORCE learning process end information, relearning data acquisition end information, evaluation data acquisition end information, FORCE relearning process end information
  • the relearning determination unit 2605 determines whether or not relearning is necessary based on the prediction accuracy of the prediction result data received from the process state prediction system 128 during the prediction period. Further, when the re-learning determination unit 2605 determines that the re-learning is necessary, the re-learning determination unit 2605 transmits the determination result indicating that the re-learning is necessary to the period control unit 2603 . Note that the relearning determination unit 2605 also transmits to the period control unit 2603 a determination result indicating that relearning is necessary when an event requiring relearning occurs.
  • the evaluation unit 2606 evaluates the prediction accuracy of the prediction result data received from the process state prediction system 128 each time the learning parameter set is switched, and transmits the evaluation result to the period control unit 2603. As described above, when evaluating the prediction result data, the evaluation unit 2606 may use the allowable range calculated based on the batch learning prediction result calculated by the batch learning unit 2609 to evaluate the prediction result data. .
  • FIG. 27 is an example of a flowchart showing the overall flow of process state prediction processing by the management unit and the process state prediction system. The processing shown in FIG. 27 is started by starting the process state prediction system 128 .
  • step S2701 the management unit 124 sends an instruction to shift to the learning period to the process state prediction system 128.
  • the process state prediction unit 204 of the process state prediction system 128 shifts to the learning period and initializes the weight parameters of the FORCE learning unit 1200 .
  • step S 2702 the voltage modulation unit 202 of the process state prediction system 128 performs voltage modulation processing on the time-series sensor data a output by the sensor 122 and acquired by the I/O control unit 201 . Note that the details of the voltage modulation process (step S2702) have already been explained using FIG. 3, so the explanation is omitted here.
  • step S2703 the multi-electrode I/O chip 203 of the process state prediction system 128 receives the voltage data output from the voltage modulation section 202 and performs input/output processing to output the reservoir feature amount. Note that the details of the input/output processing (step S2703) have already been described with reference to FIG. 5, so description thereof will be omitted here.
  • step S2704 the process state prediction unit 204 of the process state prediction system 128 determines the current period. If the instruction to shift to the learning period or the instruction to shift to the prediction period has been received from the management unit 124 of the management device 123, the process state prediction unit 204 determines in step S2704 that the current period is the learning period or the prediction period. Determine that there is. In this case, the process state prediction unit 204 proceeds to step S2711.
  • step S2711 the process state prediction unit 204 of the process state prediction system 128 determines whether the FORCE learning process has ended. If it is determined in step S2711 that the FORCE learning process has not ended (NO in step S2711), the process proceeds to step S2712.
  • step S2712 the process state prediction unit 204 of the process state prediction system 128 performs FORCE learning processing. Details of the FORCE learning process (step S2712) will be described later.
  • step S2711 determines whether the FORCE learning process has ended (if YES in step S2711). If it is determined in step S2711 that the FORCE learning process has ended (if YES in step S2711), the process proceeds to step S2713.
  • step S2713 the process state prediction unit 204 of the process state prediction system 128 performs prediction processing. Details of the prediction process (step S2713) will be described later.
  • step S2714 the management unit 124 of the management device 123 determines whether re-learning is necessary. If it is determined in step S2714 that re-learning is not necessary (NO in step S2714), the process proceeds to step S2731.
  • step S2714 determines whether re-learning is necessary (YES in step S2714). If it is determined in step S2714 that re-learning is necessary (YES in step S2714), the process proceeds to step S2715. The details of the relearning determination process in step S2714 will be described later.
  • step S2715 the management unit 124 of the management device 123 transmits to the process state prediction system 128 an instruction to shift to the relearning period, and also transmits the learning parameter sets 1 to M.
  • the process state prediction unit 204 of the process state prediction system 128 shifts to the relearning period and acquires the learning parameter sets 1 to M.
  • step S2704 determines that the current period is the relearning period when receiving an instruction to shift to the relearning period from the management unit 124 of the management device 123 .
  • step S2721 the process state prediction unit 204 of the process state prediction system 128 performs FORCE relearning processing. Details of the FORCE re-learning process (step S2721) will be described later.
  • step S2731 the management unit 124 of the management device 123 determines whether or not to end the process state prediction process. If it is determined in step S2731 not to end the process state prediction process (NO in step S2731), the process returns to step S2702.
  • step S2731 if it is determined in step S2731 to end the process state prediction process, the management unit 124 of the management device 123 and the process state prediction system 128 end the process state prediction process.
  • FIG. 28 is an example of a flowchart showing the flow of learning processing.
  • step S2801 the process state prediction unit 204 of the process state prediction system 128 combines the reservoir feature value output from the multi-electrode I/O chip 203 and the process state data (correct data) transmitted from the management unit 124 of the management device 123. ) and get
  • step S2802 the process state prediction unit 204 of the process state prediction system 128 determines whether or not the item 2611 “use previous weight parameter or initialize” is “use” in the learning parameter set. do.
  • step S2802 If it is determined in step S2802 that the item "use previous weight parameter or initialize" is "use” (YES in step S2802), the process proceeds to step S2804.
  • the process state prediction unit 204 of the process state prediction system 128 uses the weight parameter calculated in the previous FORCE learning process as the initial value of the sequential weight parameter of the FORCE learning unit 1200 in the current FORCE learning process.
  • step S2802 determines whether the item "use previous weight parameter or initialize” is "initialize” (NO in step S2802). If it is determined in step S2802 that the item "use previous weight parameter or initialize” is "initialize” (NO in step S2802), the process proceeds to step S2803.
  • step S2803 the process state prediction unit 204 of the process state prediction system 128 initializes the sequential weight parameters of the FORCE learning unit 1200 calculated in the previous FORCE learning process before the current FORCE learning process.
  • step S2804 the FORCE learning unit 1200 calculates output data by multiplying the reservoir feature amount by the current sequential weight parameter.
  • step S2805 the FORCE learning unit 1200 calculates the error between the calculated output data and the corresponding process state data (correct data). If FORCE learning section 1200 determines that the calculated error is not within the threshold (NO in step S2805), the process proceeds to step S2806.
  • step S2806 the FORCE learning unit 1200 successively updates the weighting parameters based on the calculated error, and proceeds to step S2807.
  • step S2805 determines whether the error is within the threshold (YES in step S2807). If it is determined in step S2805 that the error is within the threshold (YES in step S2807), the process proceeds directly to step S2807.
  • step S2807 the FORCE learning unit 1200 determines whether the state in which the error is within the threshold has continued for a predetermined learning time designated by the learning parameter set. If it is determined in step S2807 not to continue (NO in step S2807), the process returns to step S2731 in FIG.
  • step S2807 if it is determined to have continued in step S2807 (if YES in step S2807), the process proceeds to step S2808.
  • step S 2808 the process state prediction unit 204 of the process state prediction system 128 transmits the end information of the FORCE learning process to the management device 123 . Accordingly, the management unit 124 of the management device 123 determines that the FORCE learning process has ended, and transmits an instruction to shift to the prediction period to the process state prediction system 128 .
  • step S2809 the process state prediction unit 204 of the process state prediction system 128 sets weight parameters in the FORCE learning unit 1300 when the FORCE learning process ends.
  • FIG. 29 is an example of a flowchart showing the flow of prediction processing.
  • step S2901 the FORCE learning unit 1300 acquires the reservoir feature quantity output from the multi-electrode I/O chip 203.
  • step S2902 the FORCE learning unit 1300 predicts the process state by multiplying the acquired reservoir feature quantity by the weight parameter.
  • step S2903 the FORCE learning unit 1300 outputs prediction result data.
  • FIG. 30 is an example of a flowchart showing the flow of relearning determination processing.
  • step S3001 the management unit 124 of the management device 123 determines whether the type of time-series sensor data a acquired by the process state prediction system 128 has changed during the prediction period. If it is determined in step S3001 that it has been changed (if YES in step S3001), the process proceeds to step S3004.
  • step S3001 determines whether it has been changed (NO in step S3001), the process proceeds to step S3002.
  • step S3002 the management unit 124 of the management device 123 determines whether the value of the time-series sensor data a acquired by the process state prediction system 128 fluctuates by a predetermined threshold or more during the prediction period. If it is determined in step S3002 that the value of the time-series sensor data a has fluctuated by a predetermined threshold value or more (YES in step S3002), the process proceeds to step S3004.
  • step S3002 determines whether the value of the time-series sensor data a has not changed by the predetermined threshold or more (NO in step S3002). If it is determined in step S3002 that the value of the time-series sensor data a has not changed by the predetermined threshold or more (NO in step S3002), the process proceeds to step S3003.
  • step S3003 the management unit 124 of the management device 123 determines whether the prediction accuracy of the prediction result data transmitted from the process state prediction system 128 has decreased below a predetermined threshold during the prediction period.
  • step S3003 If it is determined in step S3003 that the prediction accuracy has fallen below the predetermined threshold value (YES in step S3003), the process proceeds to step S3004.
  • step S3004 the management unit 124 of the management device 123 determines that re-learning is necessary.
  • step S3003 determines whether the prediction accuracy has not decreased below the predetermined threshold (NO in step S3003). If it is determined in step S3003 that the prediction accuracy has not decreased below the predetermined threshold (NO in step S3003), the process returns to step S2731 in FIG.
  • the management unit 124 of the management device 123 determines whether or not re-learning is necessary by monitoring the estimated effective time. Description will be made with reference to FIG.
  • FIG. 31 is a diagram showing another example of the predicted effective time.
  • the horizontal axis indicates the elapsed time since the weighting parameter calculated by learning was set.
  • the vertical axis indicates the squared error between the prediction result data and the correct data.
  • the effective prediction time until the square error between the prediction result data and the correct data exceeds the allowable threshold is, for example, the time indicated by t b in FIG. 31 (initial state, best Status). It is assumed that the operation is started from here, and thereafter the effective prediction time until the square error between the prediction result data and the correct data exceeds the allowable threshold becomes t a ( ⁇ t b ). That is, when the originally predictable time becomes shorter (when t b ⁇ t a becomes equal to or greater than a predetermined threshold value), relearning is performed.
  • FIG. 32 is an example of a flowchart showing the flow of relearning processing.
  • the process state prediction unit 204 of the process state prediction system 128 and the management unit 124 of the management device 123 perform the processing of steps S3201 to S3208 and the processing of steps S3210 to S3215 in parallel. Run.
  • step S3201 the process state prediction unit 204 of the process state prediction system 128 collects the reservoir feature quantity output from the multi-electrode I/O chip 203 and the process state data (correct data) transmitted from the management unit 124 of the management device 123. ) and get
  • the process state prediction unit 204 of the process state prediction system 128 acquires a part of the combination of the reservoir feature amount and the process state data (correct data) as re-learning data, and acquires the remaining combination as evaluation data. do.
  • step S3202 the process state prediction unit 204 sets one of the learning parameter sets 1 to M (here, learning parameter set 1) transmitted from the management unit 124 of the management device 123 to the FORCE learning unit 1200_1. do.
  • step S3203 the process state prediction unit 204 determines whether or not the item "use previous weight parameter or initialize" of learning parameter set 1 set in the FORCE learning unit 1200_1 is "use”.
  • step S3203 If it is determined in step S3203 that the item "use previous weight parameter or initialize” is "use” (YES in step S3203), the process proceeds to step S3205.
  • the FORCE learning unit 1200_1 performs the current FORCE re-learning process using the weighting parameter calculated in the previous FORCE learning process as the initial value of the sequential weighting parameter.
  • step S3203 determines whether the item "use previous weight parameter or initialize” is "initialize” (NO in step S3203). If it is determined in step S3203 that the item "use previous weight parameter or initialize” is "initialize” (NO in step S3203), the process proceeds to step S3204.
  • step S3204 the process state prediction unit 204 of the process state prediction system 128 initializes the iterative weight parameters of the FORCE learning unit 1200_1.
  • step S3205 the FORCE learning unit 1200_1 uses the re-learning data to perform the FORCE learning process and calculate weight parameters. Further, FORCE learning section 1200_1 sets the calculated weighting parameter in FORCE learning section 1300_1.
  • step S3206 the FORCE learning unit 1300_1 predicts the process state using the evaluation data.
  • step S3207 the FORCE learning unit 1300_1 outputs the prediction result data to the management unit 124 of the management device 123.
  • step S3208 the process state prediction unit 204 of the process state prediction system 128 determines whether or not all learning parameter sets transmitted from the management unit 124 of the management device 123 have been set in the FORCE learning unit.
  • step S3208 if there is a learning parameter set that has not yet been set, it is determined to set the next learning parameter set (YES in step S3208), and the process returns to step S3202.
  • step S3208 determines whether all learning parameter sets have been set in the FORCE learning unit. If it is determined in step S3208 that all learning parameter sets have been set in the FORCE learning unit, it is determined that the next learning parameter is not to be set (NO in step S3208), and the process proceeds to step S3221. .
  • step S ⁇ b>3210 the process state prediction unit 204 of the process state prediction system 128 outputs the acquired reservoir feature amount to the management unit 124 of the management device 123 .
  • the management unit 124 of the management device 123 accumulates a part of the combination of the reservoir feature amount output from the process state prediction unit 204 and the process state data (correct data) as re-learning data, and stores the remaining combinations. are stored as evaluation data.
  • step S3211 the process state prediction unit 204 of the process state prediction system 128 determines whether or not the accumulated relearning data and evaluation data have both reached a predetermined size.
  • step S3212 If it is determined in step S3212 that the size has not reached the predetermined size (NO in step S3211), the process returns to step S3210.
  • step S3211 determines whether the predetermined size has been reached (if YES in step S3211). If it is determined in step S3211 that the predetermined size has been reached (if YES in step S3211), the process proceeds to step S3212.
  • step S3212 the management unit 124 of the management device 123 sets batch learning parameters.
  • step S3213 the management unit 124 of the management device 123 uses the accumulated relearning data to perform batch learning processing and calculate weighting parameters.
  • step S3214 the management unit 124 of the management device 123 predicts the process state using the accumulated evaluation data based on the calculated weight parameters.
  • step S3215 the management unit 124 of the management device 123 calculates batch learning prediction result data.
  • step S3221 the management unit 124 of the management device 123 determines that, among the prediction result data transmitted from the process state prediction system 128 for each learning parameter set, there is prediction result data whose prediction accuracy is within a predetermined allowable range. Determine whether or not At this time, the management unit 124 of the management device 123 calculates a predetermined allowable range based on the calculated batch learning prediction result data.
  • step S3221 If it is determined in step S3221 that there is no prediction result data within the predetermined allowable range (NO in step S3221), the process proceeds to step S3222.
  • step S3222 the management unit 124 of the management device 123 generates a new learning parameter set, transmits it to the process state prediction system 128, and returns to step S3202.
  • step S3221 determines whether there is prediction result data within the predetermined allowable range (if YES in step S3221). If it is determined in step S3221 that there is prediction result data within the predetermined allowable range (if YES in step S3221), the process proceeds to step S3223.
  • step S3223 the management unit 124 of the management device 123 terminates the relearning period and sends an instruction to shift to the prediction period to the process state prediction system 128. Moreover, the management unit 124 of the management device 123 instructs the process state prediction system 128 to set a weighting parameter in which the prediction result data is included in a predetermined allowable range and the prediction result is the highest.
  • step S3224 the process state prediction unit 204 of the process state prediction system 128 shifts to the prediction period.
  • the process state prediction unit 204 of the process state prediction system 128 sets the weighting parameter whose prediction result data is within a predetermined allowable range and which has the highest prediction accuracy in the FORCE learning unit 1300_X.
  • prediction result data can be calculated using weight parameters obtained by re-learning under an appropriate learning parameter set.
  • the process state prediction system 128 A nanomolecular reservoir having POM molecules and carbon nanotubes, the nanomolecular reservoir receiving as input a voltage signal based on time-series sensor data measured by a sensor in a given manufacturing process and outputting a current signal.
  • ⁇ It has a readout function unit that reads out the current signal and outputs the reservoir feature amount. Predicting the state of a given manufacturing process based on the weight parameter learned so that the reservoir feature value and process state data indicating the state of the given manufacturing process are correlated, and the reservoir feature value output after learning. and has a process state prediction unit that outputs the prediction result.
  • the process state prediction system 128 captures short behaviors that appear in sensor data, can be output.
  • the process state prediction unit learns weighting parameters using hardware that performs FORCE learning processing by the sequential least squares method.
  • the first embodiment it is possible to improve the prediction accuracy when predicting the process state based on time-series sensor data.
  • the process state prediction system 128 is Re-learn the weight parameters if it is determined that re-learning is necessary during the prediction period after learning. Optimizing the learning parameters when re-learning the weight parameters.
  • the first embodiment it is possible to improve the prediction accuracy when predicting the process state based on time-series sensor data.
  • the prediction result data output by the process state prediction unit 204 is not limited to the presence or absence of an abnormality or sensor data.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Artificial Intelligence (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Manufacturing & Machinery (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Power Engineering (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)
  • Investigating Or Analyzing Materials By The Use Of Electric Means (AREA)

Abstract

時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させる。ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部とを有する。

Description

プロセス状態予測システム
　本開示は、ナノ分子リザーバによるリザーバコンピューティングを用いたプロセス状態予測システムに関する。
　従来より、製造プロセスの分野では、各種センサにより測定された時系列のセンサデータを用いて、プロセスの状態（製造プロセス実行中の装置の状態（例えば、装置の異常の有無等））を予測し、予測結果を報知することでプロセス状態を監視している。また、最近では、プロセス状態を予測する際の予測精度を向上させるために、機械学習モデルの利用も提案されている。
特開２０１８－７７７７９号公報
Tanaka H., Akai-Kasaya M., Termeh A.Y., Hong L., Fu L., Tamukoh H., Tanaka D., Asai T., and Ogawa T., A molecular neuromorphic network device consisting of single-walled carbon nanotubes complexed with polyoxometalate Nature Communications, vol. 9, p. 2693 (2018) Shaohua Kan, Kohei Nakajima, Yuki Takeshima, Tetsuya Asai, Yuji Kuwahara, and Megumi Akai-Kasaya Simple reservoir computing capitalizing on the nonlinear response of materials: Theory and physical implementations Phys. Rev. Applied, Accepted, 13 January (2021) Minamikawa K., Suzuki S., Akai-Kasaya M., and Asai T., "26-bits 400-neurons 0.3-ksps FORCE learning FPGA core for reservoir computing," The 2020 RISP International Workshop on Nonlinear Circuits, Communications and Signal Processing, Hilton Waikiki Beach Hotel, Honolulu, USA (Feb. 28-Mar. 2, 2020) Jaeger, Herbert., The" echo state" approach to analyzing and training recurrent neural networks-with an erratum note‘. Bonn, Germany: German National Research Center for Information Technology GMD Technical Report. 148 (2001)
　しかしながら、機械学習モデルが搭載される装置は、一般に、時系列のセンサデータの測定周期と比較して処理周期が長く、時系列のセンサデータにおいて出現する短周期の挙動を捉えて機械学習を実行させることができない。このため、従来の機械学習モデルでは、十分な予測精度が得られにくく、また、製造プロセスが経時変化した場合にあっては、予測精度が更に低下するといった事態も想定される。
　本開示は、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させる。
　本開示の一態様によるプロセス状態予測システムは、例えば、以下のような構成を有する。即ち、
　ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、
　前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、
　前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部とを有する。
　時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
図１Ａは、プロセス状態予測システムの適用例を示す図である。 図１Ｂは、有効予測時間の一例を示す図である。 図２は、プロセス状態予測システムのシステム構成の一例を示す図である。 図３は、電圧変調部による電圧変調処理の流れを示すフローチャートの一例である。 図４は、多電極Ｉ／Ｏチップの機能構成の一例を示す図である。 図５は、多電極Ｉ／Ｏチップによる入出力処理の流れを示すフローチャートの一例である。 図６は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第１の図である。 図７は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第２の図である。 図８は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第３の図である。 図９は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第４の図である。 図１０は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第５の図である。 図１１は、プロセス状態予測部が遷移する各期間の遷移図の一例である。 図１２は、プロセス状態予測部の学習期間における機能構成の一例を示す図である。 図１３は、プロセス状態予測部の予測期間における機能構成の一例を示す図である。 図１４は、プロセス状態予測部の再学習期間における機能構成の一例を示す第１の図である。 図１５は、プロセス状態予測部の再学習期間における機能構成の一例を示す第２の図である。 図１６は、逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の一例を示す図である。 図１７は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される並列処理及びシリアル処理を示す第１の図である。 図１８は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される並列処理及びシリアル処理を示す第２の図である。 図１９は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第１の図である。 図２０は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される代替処理を示す図である。 図２１は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第２の図である。 図２２は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される配布処理を示す図である。 図２３は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される重みパラメータ更新処理を示す図である。 図２４は、逐次最小二乗法によるＦＯＲＣＥ学習部によるＦＯＲＣＥ学習処理のタイミングチャートの一例である。 図２５は、管理装置のハードウェア構成の一例を示す図である。 図２６は、管理部の機能構成の一例を示す図である。 図２７は、管理部及びプロセス状態予測システムによるプロセス状態予測処理全体の流れを示すフローチャートの一例である。 図２８は、学習処理の流れを示すフローチャートの一例である。 図２９は、予測処理の流れ示すフローチャートの一例である。 図３０は、再学習判定処理の流れを示すフローチャートの一例である。 図３１は、有効予測時間の他の一例を示す図である。 図３２は、再学習処理の流れを示すフローチャートの一例である。
　以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。
　［第１の実施形態］
　＜プロセス状態予測システムの適用例＞
　はじめに、第１の実施形態に係るプロセス状態予測システムの適用例について説明する。図１Ａは、プロセス状態予測システムの適用例を示す図である。
　なお、図１Ａの例では、プロセス状態予測システムを基板処理装置に適用する場合について説明するが、プロセス状態予測システムの適用先は基板処理装置に限定されず、他の製造プロセスを実行する装置であってもよい。
　また、図１Ａでは、プロセス状態予測システムを適用した基板処理装置（１ｂ）に加えて、比較例として、プロセス状態予測システムを適用していない基板処理装置（１ａ）を示し、適宜、両者の違いを対比しながら説明を行う。
　図１Ａの１ａ、１ｂに示すように、基板処理装置１１０、１２０は、基板を処理するチャンバ１１１、１２１と、センサａ１１２ａ、１２２ａと、センサｂ１１２ｂ、１２２ｂとを有する。また、基板処理装置１１０、１２０は、管理装置１１３、１２３と、制御装置１１５、１２５と、アクチュエータ１１７、１２７とを有する。
　比較例である図１Ａの１ａに示すように、基板処理装置１１０では、チャンバ１１１にて基板が処理されている最中の物理量を、センサａ１１２ａ、センサｂ１１２ｂが測定し、時系列のセンサデータａ、センサデータｂとして出力する。センサａ１１２ａ及びセンサｂ１１２ｂから出力される時系列のセンサデータａ及びセンサデータｂは、管理装置１１３の状態予測及び管理部１１４において処理されることでプロセス状態が予測され、予測結果データとして制御装置１１５に出力される。
　また、センサａ１１２ａから出力される時系列のセンサデータａは、制御装置１１５の制御部１１６において処理されることで制御量が算出される。このとき、制御部１１６では、予測結果データに基づいて、制御量に補正を加えてもよい。制御部１１６により算出された制御量はアクチュエータ１１７に出力され、アクチュエータ１１７は、制御量に基づいてチャンバ１１１に制御命令を通知する。
　図１Ａの１ａにおいて、グラフ１３０は、センサａ１１２ａから出力される時系列のセンサデータａの一例であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。また、図１Ａの１ａにおいて、グラフ１４０は、管理装置１１３の状態予測及び管理部１１４において処理される際の、時系列のセンサデータａ’であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。
　一般に、管理装置１１３がプロセス状態を予測する際の処理周期Ｔ（ｂ）は、センサａ１１２ａが時系列のセンサデータａを測定する際の測定周期Ｔ（ａ）と比較して長い。このため、状態予測及び管理部１１４では、グラフ１３０に示すような時系列のセンサデータａに出現する短い挙動を捉えることができず（グラフ１４０参照）、プロセス状態を予測した場合に、結果的に十分な予測精度が得られにくい。
　一方、図１Ａの１ｂに示すように、基板処理装置１２０では、チャンバ１２１にて基板が処理されている最中の物理量を、センサａ１２２ａ、センサｂ１２２ｂが測定し、時系列のセンサデータａ、センサデータｂとして出力する。その際、センサａ１２２ａから出力される時系列のセンサデータａは、プロセス状態予測システム１２８において処理され、プロセス状態が予測される。そして、プロセス状態予測システム１２８において予測された予測結果データは、管理部１２４及び制御部１２６に出力される。
　また、センサ１２２ａから出力される時系列のセンサデータａは、制御装置１２５の制御部１２６において処理されることで制御量が算出される。このとき、制御部１２６では、予測結果データに基づいて、制御量に補正を加えてもよい。制御部１２６により算出された制御量はアクチュエータ１２７に出力され、アクチュエータ１２７は、制御量に基づいてチャンバ１２１に制御命令を通知する。
　ここで、図１Ａの１ｂにおいて、グラフ１３１は、センサａ１２２ａから出力される時系列のセンサデータａの一例であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。また、図１Ａの１ｂにおいて、グラフ１４１は、プロセス状態予測システム１２８において処理される際の、時系列のセンサデータａ’であり、横軸は時間を、縦軸は信号強度をそれぞれ表している。
　第１の実施形態に係るプロセス状態予測システム１２８の場合、リザーバコンピューティングにより時系列のセンサデータａ’を処理し、プロセス状態を予測する。このため、プロセス状態を予測する際の処理周期Ｔ（ｃ）は、図１Ａの１ａの管理装置１１３がプロセス状態を予測する際の処理周期Ｔ（ｂ）と比較して大幅に短い。この結果、第１の実施形態に係るプロセス状態予測システム１２８によれば、グラフ１３１に示す時系列のセンサデータａに出現する短い挙動を捉えることが可能となり、予測精度を向上させることができる。
　また、短い挙動を捉えたグラフ１４１の時系列のセンサデータａ’を処理してプロセス状態を予測することによる予測精度の向上は、予測結果データと正解データとの二乗誤差が許容閾値を超えるまでの「有効予測時間」として示される。有効予測時間とは、プロセス状態予測システム１２８（あるいは、状態予測及び管理部１１４）が、どれくらい先の時間までプロセスの状態を予測できるかを表す時間である。
　図１Ｂは、有効予測時間の一例を示す図である。図１Ｂに示すように、
・グラフ１４０のような比較例の時系列のセンサデータａ’を用いてプロセスの状態を予測した場合の有効予測時間（ｔａ－ｔｓ）よりも、
・グラフ１４１の時系列のセンサデータａ’を用いてプロセスの状態を予測した場合の有効予測時間（ｔｂ－ｔｓ）、
のほうが長くなる。これは、プロセス状態予測システム１２８のほうが、比較例よりも経時変化による予測低下が発生しにくいことを示している。このとき、基板処理装置１２０では、運用のログ（例えば、運用中の温度、湿度、電圧信号などの履歴）を蓄積し、蓄積したログを使用して有効予測時間（ｔｂ－ｔｓ）を更に延伸するための解析が行われてもよい。
　また、第１の実施形態に係るプロセス状態予測システム１２８の場合、チャンバ１２１等の経時変化に伴って予測精度が低下した場合であっても、再学習処理を行うことで予測精度を改善することができる。具体的には、プロセス状態予測システム１２８が出力する予測結果データと、リザーバ特徴量と、センサデータｂとを用いることにより、管理部１２４が、プロセス状態予測システム１２８による再学習処理を管理することができる。
　なお、プロセス状態予測システム１２８に対して学習処理や再学習処理を行う際に用いるプロセス状態データ（正解データ）には、基板処理プロセス実行中の基板処理装置１２０の異常の有無等が含まれていてもよい。あるいは、プロセス状態データ（正解データ）には、センサｂ１２２ｂから出力されるセンサデータｂが含まれていてもよい（本実施形態では、プロセス状態データ（正解データ）が、センサｂ１２２ｂから出力されるセンサデータｂであるとして説明する）。なお、正解データは、一般的には、「従属変数」、あるいは、「教師データ」とも呼ばれる。
　管理部１２４は、プロセス状態予測システム１２８が再学習処理を行うにあたり、プロセス状態予測システム１２８の期間を管理するために、プロセス状態予測システム１２８との間で各種情報（切替情報、終了情報等）の送受信を行う。
　この結果、第１の実施形態に係るプロセス状態予測システム１２８によれば、製造プロセスの経時変化に伴う予測精度の低下を抑えることができる。
　このように、第１の実施形態によれば、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
　＜プロセス状態予測システムのシステム構成＞
　次に、プロセス状態予測システム１２８のシステム構成について説明する。図２は、プロセス状態予測システムのシステム構成の一例を示す図である。プロセス状態予測システム１２８は、例えば、ＦＰＧＡ（Field-Programmable Gate Array）ボード等により実現される。
　図２に示すように、プロセス状態予測システム１２８は、Ｉ／Ｏ制御部２０１と、電圧変調部２０２と、多電極Ｉ／Ｏチップ２０３と、プロセス状態予測部２０４とを有する。
　Ｉ／Ｏ制御部２０１は、デジタル信号の入出力を制御する。具体的には、Ｉ／Ｏ制御部２０１は、センサａ１２２ａから出力された時系列のセンサデータａを入力し、電圧変調部２０２に通知する。
　なお、Ｉ／Ｏ制御部２０１に入力される時系列のセンサデータａは、１種類の時系列のセンサデータであってもよいし、複数種類の時系列のセンサデータからなるセンサデータセットであってもよい。ここでは、説明の簡略化のため、１種類の時系列のセンサデータが入力されるものとして説明する。
　また、Ｉ／Ｏ制御部２０１は、プロセス状態予測部２０４により出力される予測結果データ（プロセス状態が予測された結果のデータ）と多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量を取得し、管理装置１２３に送信する。また、Ｉ／Ｏ制御部２０１は、プロセス状態予測システム１２８において学習処理（または再学習処理）を行う際に用いるプロセス状態データ（正解データ）を、管理装置１２３より入力し、プロセス状態予測部２０４に通知する。
　更に、Ｉ／Ｏ制御部２０１は、プロセス状態予測部２０４の期間を切り替えるための切替情報と、切り替え後の期間でのプロセス状態予測部２０４による処理の終了を示す終了情報とを、管理装置１２３との間で送受信する。
　電圧変調部２０２は変調部の一例であり、Ｉ／Ｏ制御部２０１より通知された時系列のセンサデータａ’を、多電極Ｉ／Ｏチップ２０３に入力するための電圧データに変換する。具体的には、電圧変調部２０２は、１ＭＨｚ以上のサンプリング周波数でセンサデータａ’を取得して変調することで、電圧データに変換する。
　なお、電圧変調部２０２は、Ｉ／Ｏ制御部２０１より通知された時系列のセンサデータａ’を、例えば、プロセス状態予測部２０４により出力された予測結果データに応じた電圧データに変換してもよい。
　多電極Ｉ／Ｏチップ２０３は、リザーバ特徴量を出力するチップである。多電極Ｉ／Ｏチップ２０３は、ナノ分子リザーバ（後述）に、電圧データに基づく電圧信号を入力し、ナノ分子リザーバより出力される電流信号に基づく電流データを読み出すことで、リザーバ特徴量を出力する。なお、リザーバ特徴量とは、時系列のセンサデータａ’の各値をナノ分子リザーバに入力したときに、その過去から現在までの各値をもとにナノ分子リザーバが出力する、時系列のセンサデータａ’の特性を定量的に表した数値である。
　プロセス状態予測部２０４は、切替情報に従って切り替えられる複数の期間（本実施形態では、学習期間、予測期間、再学習期間）のもとで動作する。学習期間とは、重みパラメータを学習する期間を指す。また、再学習期間とは、学習された重みパラメータを再学習する期間を指す。
　学習期間または再学習期間に移行した場合、プロセス状態予測部２０４は、予測結果データと、Ｉ／Ｏ制御部２０１により入力されたプロセス状態データ（正解データ）とが相関するように、重みパラメータを算出する。また、プロセス状態予測部２０４は、重みパラメータの算出が終了すると終了情報を出力する。
　一方、予測期間とは、学習期間または再学習期間において学習された重みパラメータのもとで、リザーバ特徴量に基づき予測結果データを出力する期間を指す。
　プロセス状態予測部２０４は、終了情報を出力したことに応じて切替情報が入力されると、予測期間に移行し、多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量に基づきプロセス状態を予測する。また、プロセス状態予測部２０４は、予測結果データをＩ／Ｏ制御部２０１及び電圧変調部２０２に出力する。
　なお、プロセス状態予測部２０４がＩ／Ｏ制御部２０１に予測結果データを出力する際の出力周期は、例えば、管理装置１２３の処理周期以下（つまり、フィールドバスの転送周期以下）であってもよい。
　＜プロセス状態予測システムの詳細＞
　次に、図２のプロセス状態予測システム１２８の各部の詳細について説明する。
　（１）電圧変調部２０２による電圧変調処理の詳細
　はじめに、電圧変調部２０２による電圧変調処理の詳細について説明する。図３は、電圧変調部による電圧変調処理の流れを示すフローチャートの一例である。
　ステップＳ３０１において、電圧変調部２０２は、予測結果データのフィードバックがあるか否かを判定する。プロセス状態予測部２０４より予測結果データが出力された場合、電圧変調部２０２は、予測結果データのフィードバックがあると判定し（ステップＳ３０１においてＹＥＳの場合）、ステップＳ３０２に進む。
　ステップＳ３０２において、電圧変調部２０２は、プロセス状態予測部２０４より、予測結果データを取得し、ステップＳ３０３に進む。
　一方、ステップＳ３０１において、予測結果データのフィードバックがないと判定した場合（ステップＳ３０１においてＮＯの場合）、直接、ステップＳ３０３に進む。
　ステップＳ３０３において、電圧変調部２０２は、Ｉ／Ｏ制御部２０１より時系列のセンサデータを取得する。
　ステップＳ３０４において、電圧変調部２０２は、取得した時系列のセンサデータを電圧データに変換する。このとき、電圧変調部２０２では、ステップＳ３０２において予測結果データを取得していた場合には、当該予測結果データに応じた電圧データに変換する。
　具体的には、電圧変調部２０２は、時系列のセンサデータに予測結果データを重畳した電圧データに変換する。この場合、変換後の電圧データに対応する電圧信号が、多電極Ｉ／Ｏチップ２０３の各入力側電極（後述）に入力される。あるいは、電圧変調部２０２は、時系列のセンサデータと予測結果データとを、それぞれの電圧データに変換してもよい。この場合、変換後のそれぞれの電圧データに対応する電圧信号が、多電極Ｉ／Ｏチップ２０３の対応する入力側電極にそれぞれ入力される。
　ステップＳ３０５において、電圧変調部２０２は、電圧データを、多電極Ｉ／Ｏチップ２０３に入力する。
　（２）多電極Ｉ／Ｏチップ２０３の機能構成の詳細及び入出力処理の詳細
　次に、多電極Ｉ／Ｏチップ２０３の機能構成の詳細及び多電極Ｉ／Ｏチップ２０３による入出力処理の詳細について説明する。
　（２－１）多電極Ｉ／Ｏチップ２０３の機能構成の詳細
　はじめに、多電極Ｉ／Ｏチップ２０３の機能構成の詳細について説明する。図４は、多電極Ｉ／Ｏチップの機能構成の一例を示す図である。
　図４に示すように、多電極Ｉ／Ｏチップ２０３は、Ｄ／Ａ変換部４０１と、ナノ分子リザーバ４０２と、読み出し機能部４０３とを有する。
　Ｄ／Ａ変換部４０１は変換部の一例であり、電圧変調部２０２により入力された電圧データをＤ／Ａ変換することでアナログの電圧信号を生成し、ナノ分子リザーバ４０２に入力する。
　ナノ分子リザーバ４０２は、ＰＯＭ分子とカーボンナノチューブによって構成される“物理リザーバ”の一種である。
　なお、“物理リザーバ”とは、コンピュータ上に存在するリザーバではなく、現実世界に物理的に存在する（または存在し得る）“リザーバ”を指す。
　また、“リザーバ”とは、複数の“リザーバノード”を相互結合させた複雑系のネットワークを指し、過去から現在までの電圧信号の入力に対するリザーバ特徴量を保持する。一般に、リザーバの入力側電極数は、リザーバノードの数よりも少なく、低次元の入力が多次元のリザーバにマップされる。
　また、“リザーバノード”とは、リザーバにおける基本構成要素を指す。リザーバノードは、１つまたは複数の電圧信号の入力を受け、その値（またはそれらの値）を線形変換または非線形変換して、電流信号を出力する。リザーバノードは、静的素子ではなく動的素子（現在の自ノードの状態及び結合されている他ノードの状態から、次の時刻の自ノードの状態が決定されるもの）である。なお、リザーバノードによる電流信号の出力は、過去の電圧信号の入力を忘却しながら現在の電圧信号の入力に追従する。
　読み出し機能部４０３は読み出し部の一例であり、ナノ分子リザーバ４０２から電流信号を読み出し、電圧データに変換したうえで、リザーバ特徴量としてプロセス状態予測部２０４に出力する。
　このように、ナノ分子リザーバを用いる構成とすることで、多電極Ｉ／Ｏチップ２０３によれば、センサデータにおいて出現する短い挙動を捉えてリザーバ特徴量を出力することできる。なお、本願出願人によれば、ナノ分子リザーバ４０２に電圧信号を入力してから、読み出し機能部４０３が電流信号を読み出し、リザーバ特徴量として出力するまでの周期として、１μ秒以下を実現している。
　（２－２）多電極Ｉ／Ｏチップ２０３による入出力処理の詳細
　次に、多電極Ｉ／Ｏチップ２０３による入出力処理の詳細について説明する。図５は、多電極Ｉ／Ｏチップによる入出力処理の流れを示すフローチャートの一例である。
　ステップＳ５０１において、多電極Ｉ／Ｏチップ２０３は電圧データをＤ／Ａ変換し、電圧信号を生成する。
　ステップＳ５０２において、多電極Ｉ／Ｏチップ２０３は、電圧信号をナノ分子リザーバ４０２に入力する。
　ステップＳ５０３において、多電極Ｉ／Ｏチップ２０３は、ナノ分子リザーバ４０２より、電流信号を読み出す。
　ステップＳ５０４において、多電極Ｉ／Ｏチップ２０３は、読み出した電流信号をＡ／Ｄ変換し、電流データを生成する。
　ステップＳ５０５において、多電極Ｉ／Ｏチップ２０３は、電流データを、リザーバ特徴量としてプロセス状態予測部２０４に出力する。
　（３）多電極Ｉ／Ｏチップ２０３のハードウェア構成
　次に、多電極Ｉ／Ｏチップ２０３のハードウェア構成について説明する。
　（３－１）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細１
　図６は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第１の図であり、６ａ～６ｃは、それぞれ、多電極Ｉ／Ｏチップ２０３の上面図、Ａ－Ａ’断面図、下面図を表している。また、６ｄは、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目を表している。一般に、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目には、複数の調整項目が含まれる（調整項目６００参照）。このうち、図６では、６ａ～６ｄを参照しながら、
・入力側電極数、
・リザーバノード数、
・リザーバノードへの入力重みパラメータ、
・リザーバノード間の結合重みパラメータ、
・出力側電極数、
について説明する。
　図６に示す多電極Ｉ／Ｏチップ２０３において、Ｄ／Ａ変換部４０１は白長方形で示されている（図６の６ｂ参照）。Ｄ／Ａ変換部４０１は、入力側電極６１０に電圧信号を入力する。図６の６ａの上面図の例の場合、「入力側電極数」（多電極Ｉ／Ｏチップ２０３の入力側電極６１０の数）は、１６個である。
　また、図６に示す多電極Ｉ／Ｏチップ２０３において、黒丸印は、リザーバノードを表している（図６の６ｂ参照）。この黒丸印の数がネットワークを構成する「リザーバノード数」となる。
　また、図６に示す多電極Ｉ／Ｏチップ２０３において、複数のリザーバノードは相互結合されている（図６の６ｂ参照）。そして、入力側電極６１０に接している複数のリザーバノードに対しては、Ｄ／Ａ変換部４０１から、電圧信号が、「リザーバノードへの入力重みパラメータ」のもとで入力される。具体的には、図６の６ｂに示すＡ－Ａ’断面図の入力側電極６１０の直下にあるリザーバノードに、電圧信号が、リザーバノードへの入力重みパラメータのもとで入力される。
　更に、相互結合されている複数のリザーバノードには、他のリザーバノードの出力信号が、「リザーバノード間の結合重みパラメータ」のもとで入力される（図６の６ｂに示すＡ－Ａ’断面図のうち、黒丸印から他の黒丸印に向かう実線参照）。
　なお、「リザーバノードへの入力重みパラメータ」は、具体的には、電圧信号を入力する入力側電極と電圧源との間の抵抗値の逆数に基づいて決まる。また、「リザーバノード間の結合重みパラメータ」は、具体的には、ＰＯＭ分子間の距離の逆数によって決まる。
　また、図６に示す多電極Ｉ／Ｏチップ２０３において、読み出し機能部４０３内に示す白長方形は、リザーバ特徴量を読み出す出力側電極６２０の外部出力端を示している。そして、複数のリザーバノードのうち、読み出しノードの出力信号（電流信号）は、読み出し機能部４０３の外部出力端より読み出される。図６の６ｃの下面図の例の場合、「出力側電極数」は１６個である。
　（３－２）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細２
　多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図７は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第２の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図７では、このうち、
・ＰＯＭ分子の電荷蓄積数、
・対地容量、
について説明する。
　図７の７ａはナノ分子リザーバ４０２の上面図である。図７の７ａに示すように、ナノ分子リザーバ４０２は、ＰＯＭ分子（黒丸印）を含み、カーボンナノチューブ（ＰＯＭ分子間に示した直線）により結合されている。ＰＯＭ分子とは、ポリ酸分子であり、電荷を蓄積し、蓄積量が閾値を超えると、蓄積した電荷を放出する特性を有する。「ＰＯＭ分子の電荷蓄積数」とは、このときの蓄積量の閾値（ＰＯＭ分子が電荷を蓄積し、放出するときの電荷量の閾値）を指す。この閾値は、ナノ分子リザーバ４０２が置かれる環境（電荷蓄積数に影響を及ぼす可能性のある環境値（湿度など））により調整される。なお、適切な閾値に調整するために、ナノ分子リザーバ４０２の作成時及び／または運用時には、環境値（湿度など）が一定に制御されるように構成してもよい。
　図７の７ｂは、ナノ分子リザーバ４０２を側面から見た場合のＰＯＭ分子と基板の電極（不図示）との間に存在する誘電体の厚みと、対地容量との関係を示すグラフである。図７の７ｂに示すように、ＰＯＭ分子と基板の電極（不図示）との間の誘電体が薄い場合、「対地容量」は大きくなり、ＰＯＭ分子１個の電圧変動が基板を介して他のＰＯＭ分子に影響する。一方、ＰＯＭ分子と基板の電極（不図示）との間の誘電体が厚い場合、「対地容量」は小さくなり、ＰＯＭ分子１個の電圧変動が基板を介して他のＰＯＭ分子に影響することはない。
　より具体的に説明すると、ＰＯＭ分子１個の電圧が変動した場合、対地容量を持つ寄生キャパシタ（ＰＯＭ分子と基板とにより誘電体が挟まれた構造において生じるキャパシタ）を介して、基板の電圧が変動する。基板は他のＰＯＭ分子とも共通しているので、基板の電圧が変動すると、その変動は他のＰＯＭ分子の電圧変動にも影響する。そして、このときの影響の度合いは、対地容量（つまり、誘電体の厚み）によって決まる。
　このため、多電極Ｉ／Ｏチップ２０３では、ＰＯＭ分子の電流信号として、プロセス状態の予測に最適なリザーバ特徴量が出力されるよう、誘電体の厚みが適切に調整されている。
　なお、ナノ分子リザーバ４０２の「対地容量」は、リザーバノードにおける過去データの寄与率（漏れ率）を決定する調整項目である。
　（３－３）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細３
　多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図８及び図９は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第３及び第４の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図８及び図９では、このうち、
・ネットワーク形状（カーボンナノチューブの連結数、ＰＯＭ分子の濃度分布）
について説明する。
　図８の８ａは、ナノ分子リザーバ４０２におけるＰＯＭ分子（黒丸印）とカーボンナノチューブ（ＰＯＭ分子間に示した直線、図中はＣＮＴと表記）との関係を模式的に示したものである。ただし、説明の簡略化のため、図８の８ａでは、一次元に配列した場合を示している。ナノ分子リザーバ４０２におけるＰＯＭ分子及びカーボンナノチューブの連結数が増えると、リザーバノード数が増える。
　ここで、ＰＯＭ分子とカーボンナノチューブは、それぞれ抵抗を有する。また、カーボンナノチューブの抵抗値は均一ではなくばらつきを有する（Ｒ１、Ｒ２、Ｒ３、Ｒ４、・・・）。このため、入力側電極を介して電圧信号が入力された場合に、出力側電極を介して出力される電流信号は、
・入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数が少ない場合、時間的にランダムに変動し、
・入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数が多い場合、時間的にランダムに変動せず、一定値となる、
という特性を有することになる。
　ここで、ナノ分子リザーバ４０２を用いてリザーバ特徴量を出力する場合、電流信号は、時間的にランダムに変動しないことが必要である。このため、入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数は、電流信号が時間的にランダムに変動しないレベルに調整されることになる。
　図８の８ｂは、入力側電極６１０と出力側電極６２０との間におけるＰＯＭ分子とカーボンナノチューブの連結数と、電流信号の時間的ゆらぎの大きさとの関係をグラフ化したものである。本実施形態では、図８の８ｂに示すグラフに基づいて、時間的ゆらぎが所定の閾値を下回る連結数を予め導出しておき、導出した連結数を上回るように、「ネットワーク形状（ＣＮＴの連結数）」が調整されている。
　続いて、ネットワーク形状（ＰＯＭ分子の濃度分布）について説明する。図９の９ａは、「ネットワーク形状（ＰＯＭ分子の濃度分布）」が不均一の場合のネットワーク形状を示している。このように、ＰＯＭ分子の液滴の濃度が不均一になるようにナノ分子リザーバ４０２を作成することで、ナノ分子リザーバ４０２には、ＰＯＭ分子が粗の領域と、密の領域とが含まれることになる。また、このようなＰＯＭ分子の濃度分布に応じて電極を配置する構成とすることで、１つのリザーバノードに含まれるＰＯＭ分子の数を増やすことができる（符号９０１、９０２参照）。これにより、ナノ分子リザーバ４０２に好ましくない確率的なリザーバノードの非線形特性を、非確率的にすることができる。
　一方、図９の９ｂは、「ネットワーク形状（ＰＯＭ分子の濃度分布）」が均一の場合のネットワーク構成を有するナノ分子リザーバ４０２を示している。このように、ＰＯＭ分子の液滴の濃度が均一になるようにナノ分子リザーバ４０２を作成することで、ナノ分子リザーバ４０２において、複数階層のネットワーク構成を実現することができる。
　（３－４）多電極Ｉ／Ｏチップ２０３のハードウェア構成の詳細４
　多電極Ｉ／Ｏチップ２０３内のハードウェア構成の詳細について更に説明する。図１０は、多電極Ｉ／Ｏチップのハードウェア構成の一例を示す第５の図であり、多電極Ｉ／Ｏチップ２０３の構成を特定する調整項目６００（図６）を説明するための図である。図１０では、このうち、
・電極の形状、
・読み出し電流の積分時間、
について説明する。
　図１０は、多電極Ｉ／Ｏチップ２０３において、図６に示すナノ分子リザーバ４０２に対して電圧信号を入力し、電流信号を出力する入出力回路の回路構成を側面から見た様子を示している。
　図１０に示すように、電圧源１００１、１００２は、スイッチ１００３、抵抗１００４、入力側電極６１０を介して、ナノ分子リザーバ４０２に電圧を印加する。このとき、スイッチ１００３のＯＮ／ＯＦＦにより、リザーバノードへの電圧信号の入力が調整される。また、抵抗１００４の値を調整することで、「入力重みパラメータ」が調整される。
　また、図１０に示すように、電流信号は、出力側電極６２０を介して出力される。出力側電極６２０周辺の詳細構成を、図１０の１０ｂの符号１０１０に示す。
　図１０の１０ｂの符号１０１０に示すように、電流信号は、出力側電極６２０、低ノイズアンプ１０１１、電圧制御型発振器を用いたＡ／Ｄ変換器１０１２を介して、ＰＯＭ分子全体から読み出される。
　なお、入力側電極６１０と出力側電極６２０との間の電界が、ＰＯＭ分子のネットワークに集中するように、入力側電極６１０及び出力側電極６２０の「電極の形状」は、尖端形状に構成される。
　また、図１０の１０ｂに示すように、出力側電極６２０は、ｎＭＯＳＦＥＴ１０２０に接続される。ｎＭＯＳＦＥＴ１０２０において、ゲート１０２３（φＲＳＴ）に電圧が印加されると、ドレイン１０２２とソース１０２１との間が電気的に接続される（ＯＮ状態になる）。また、ｎＭＯＳＦＥＴ１０２０において、ゲート１０２３（φＲＳＴ）がＧＮＤに接続されると、ドレイン１０２２とソース１０２１との間が電気的に切断される（ＯＦＦ状態になる）。
　そして、ｎＭＯＳＦＥＴ１０２０がＯＦＦ状態になると、ソース１０２１は電気的に浮遊状態となる（低ノイズアンプ１０１１の入力端子（－）、及び、出力側電極６２０も電気的に浮遊状態となる）。
　ここで、ソース１０２１は拡散層であるため、かかる構成を有するソースはＦＤ（Floating Diffusion）と呼ばれる。そして、浮遊拡散領域であるソース１０２１において電流信号が積分されることで、電流信号のノイズ除去及び平滑化が行われ。なお、このときの積分時間である「読み出し電流の積分時間」は任意に調整することが可能である。
　図１０の１０ｃは、ｎＭＯＳＦＥＴ１０２０の動作例を示している。図１０の１０ｃに示すように、ｎＭＯＳＦＥＴ１０２０は以下の順序で動作する。
（Ｉ）ｎＭＯＳＦＥＴ１０２０をＯＮ状態にし、ソース１０２１の電圧をＶＲＳＴに設定する（ソース１０２１を完全充電する）。
（ＩＩ）ｎＭＯＳＦＥＴ１０２０をＯＦＦ状態にし、ソース１０２１をドレイン１０２２から電気的に切断する（これにより、ソース１０２１は電気的に浮遊状態となる）。
（ＩＩＩ）ソース１０２１に蓄積された電荷が、出力側電極６２０を介して変動すると、ソース１０２１の電圧が変化する。ソース１０２１の容量は極めて少ないため、ソース１０２１の電圧変動量は大きくなる。
（ＩＶ）上記（ＩＩＩ）のソース１０２１の電流信号は、低ノイズアンプ１０１１に入力され、Ａ／Ｄ変換器１０１２においてＡ／Ｄ変換される。
　（４）プロセス状態予測部２０４の機能構成の詳細
　次に、プロセス状態予測部２０４の機能構成の詳細について説明する。上述したように、プロセス状態予測部２０４は、複数の期間のもとで動作する。そこで、以下では、まず、各期間の遷移図を用いて各期間の関係について説明し、続いて期間ごとのプロセス状態予測部２０４の機能構成について説明する。
　（４－１）各期間の関係
　図１１は、プロセス状態予測部が遷移する各期間の遷移図の一例である。図１１に示すように、プロセス状態予測システム１２８による処理が開始されると、プロセス状態予測部２０４では、いずれかの期間（学習期間、予測期間、再学習期間のいずれかの期間）に移行して動作を開始する。ただし、ここでは、説明の簡略化のため、学習期間に移行して動作を開始する場合について説明する。
　管理装置１２３から切替情報が入力され、学習期間に移行すると（矢印１１０１）、プロセス状態予測部２０４では、リザーバ特徴量とプロセス状態データ（正解データ）とを用いて、所定の学習時間分の学習処理を行い、重みパラメータを算出する。
　プロセス状態予測部２０４は、学習処理が終了すると終了情報を出力し、管理装置１２３から切替情報が入力されることで、予測期間に移行する（矢印１１０２）。予測期間において、プロセス状態予測部２０４は、算出した重みパラメータのもとで予測処理を行うことで、リザーバ特徴量に基づき予測結果データを出力する。
　予測期間においてプロセス状態予測部２０４が予測処理を行っている間、管理装置１２３では、再学習が必要であるか否かを判定し、再学習が必要であると判定した場合には、プロセス状態予測部２０４に切替情報を入力する。これにより、プロセス状態予測部２０４は、再学習期間に移行する（矢印１１０３）。
　再学習期間において、プロセス状態予測部２０４は、学習パラメータセット（詳細は後述）を変更しながら、再学習処理を行うことで、学習パラメータセットごとに重みパラメータを算出する。続いて、プロセス状態予測部２０４は、算出したそれぞれの重みパラメータが設定された状態で予測処理を行い、予測結果データを出力する。また、管理装置１２３は、許容範囲内で、かつ、予測精度の最も高い予測結果データに対応する重みパラメータを特定し、プロセス状態予測部２０４に切替情報を入力する。これにより、プロセス状態予測部２０４は、予測期間に移行する（矢印１１０４）。
　（４－２）学習期間におけるプロセス状態予測部２０４の機能構成
　次に、各期間におけるプロセス状態予測部２０４の機能構成について説明する。はじめに、学習期間におけるプロセス状態予測部２０４の機能構成について説明する。図１２は、プロセス状態予測部の学習期間における機能構成の一例を示す図である。
　図１２に示すように、プロセス状態予測部２０４は、学習期間において、逐次最小二乗法によるＦＯＲＣＥ学習部１２００として機能する。なお、本実施形態において、逐次最小二乗法によるＦＯＲＣＥ学習部１２００には、“学習パラメータセット０”が設定されており、ＦＯＲＣＥ学習部１２００では、以下の処理手順（符号１２０１参照）により、逐次最小二乗法によるＦＯＲＣＥ学習処理を行う。なお、以下の各図の図中における“τ”は、プロセス状態予測部２０４の時間軸を表し、これは、実時間（ｔ）から１クロック遅れた時刻となる（τ＝ｔ－１）。したがって、例えば、図中のＳ（τ＋１）を実時間で表すと、Ｓ（ｔ）となる。
　１）出力データの算出
　ＦＯＲＣＥ学習部１２００は、リザーバ特徴量（Ｒベクトル）を取得すると、逐次重みパラメータ（Ｗベクトル）を転置した転置ベクトルをかけ合わせることで、出力データ（Ｚ）を算出する。なお、本実施形態において、逐次重みパラメータ（Ｗベクトル）とは、逐次最小二乗法によるＦＯＲＣＥ学習処理の過程で逐次更新される重みパラメータを指す。
　２）誤差の算出
　ＦＯＲＣＥ学習部１２００は、出力データ（Ｚ）とプロセス状態データ（Ｓ）との間の誤差（ｅ）を算出する。
　３）係数行列の算出
　ＦＯＲＣＥ学習部１２００は、逐次重みパラメータ（Ｗベクトル）を算出するのに用いる係数行列（Ｐ行列）を算出する。
　４）逐次重みパラメータの算出
　ＦＯＲＣＥ学習部１２００は、算出した誤差（ｅ）と、取得したリザーバ特徴量（Ｒベクトル）と、算出した係数行列（Ｐ行列）とに基づいて、逐次重みパラメータ（Ｗベクトル）を更新する。
　ＦＯＲＣＥ学習部１２００では、上記１）～４）の処理を、所定の学習時間分繰り返すことで、重みパラメータを算出する。
　（４－３）予測期間におけるプロセス状態予測部２０４の機能構成
　次に、予測期間におけるプロセス状態予測部２０４の機能構成について説明する。図１３は、プロセス状態予測部の予測期間における機能構成の一例を示す図である。
　図１３に示すように、プロセス状態予測部２０４は、予測期間において、逐次最小二乗法によるＦＯＲＣＥ学習部１３００として機能する。本実施形態において、ＦＯＲＣＥ学習部１３００は、ＦＯＲＣＥ学習部１２００においてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００では、以下の処理手順（符号１３０１参照）により予測処理を行う。
　１）ＦＯＲＣＥ学習部１３００は、ＦＯＲＣＥ学習処理が行われることで算出された重みパラメータ（Ｗベクトル）を設定する。
　２）ＦＯＲＣＥ学習部１３００は、リザーバ特徴量（Ｒベクトル）を取得すると、重みパラメータ（Ｗベクトル）を転置した転置ベクトルをかけ合わせることで、予測結果データ（Ｚ）を出力する。
　（４－４）再学習期間におけるプロセス状態予測部２０４の機能構成
　次に、再学習期間におけるプロセス状態予測部２０４の機能構成について説明する。図１４及び図１５は、プロセス状態予測部の再学習期間における機能構成の一例を示す第１及び第２の図である。
　図１４、図１５に示すように、プロセス状態予測部２０４は、再学習期間において、逐次最小二乗法によるＦＯＲＣＥ学習部１２００＿１～１２００＿Ｍ、及び、逐次最小二乗法によるＦＯＲＣＥ学習部１３００＿１～１３００＿Ｍとして機能する。
　本実施形態において、図１４のＦＯＲＣＥ学習部１２００＿１には、“学習パラメータセット１”が設定されており、図１２で説明した処理手順（符号１２０１参照）により、逐次最小二乗法によるＦＯＲＣＥ学習処理が行われる。
　また、本実施形態において、図１５のＦＯＲＣＥ学習部１３００＿１は、ＦＯＲＣＥ学習部１２００＿１においてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００＿１は、リザーバ特徴量を取得すると、重みパラメータを転置した転置ベクトルをかけ合わせることで、予測結果データを出力する。
　同様に、図１４のＦＯＲＣＥ学習部１２００＿２には、“学習パラメータセット２”が設定されており、図１２で説明した処理手順（符号１２０１参照）により、逐次最小二乗法によるＦＯＲＣＥ学習処理が行われる。
　また、本実施形態において、図１５のＦＯＲＣＥ学習部１３００＿２は、ＦＯＲＣＥ学習部１２００＿２においてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００＿２は、リザーバ特徴量を取得すると、重みパラメータを転置した転置ベクトルをかけ合わせることで、予測結果データを出力する。
　同様に、図１４のＦＯＲＣＥ学習部１２００＿Ｍには、“学習パラメータセットＭ”が設定されており、図１２で説明した処理手順（符号１２０１参照）により、逐次最小二乗法によるＦＯＲＣＥ学習処理が行われる。
　また、本実施形態において、図１５のＦＯＲＣＥ学習部１３００＿Ｍは、ＦＯＲＣＥ学習部１２００＿ＭにおいてＦＯＲＣＥ学習処理が行われることで算出された重みパラメータが設定され、予測結果データ（Ｚ）を出力可能な状態を指す。ＦＯＲＣＥ学習部１３００＿Ｍは、リザーバ特徴量を取得すると、重みパラメータを転置した転置ベクトルをかけ合わせることで、予測結果データを出力する。
　なお、上述したように、再学習期間において図１４、図１５に示す機能構成のもとで処理が終了すると、再び、予測期間に移行し、図１３に示す機能構成のもとで処理が行われる。ただし、再学習後の予測期間の場合、プロセス状態予測部２０４は、逐次最小二乗法によるＦＯＲＣＥ学習部１３００＿Ｘとして機能する。ここでいうＦＯＲＣＥ学習部１３００＿Ｘとは、ＦＯＲＣＥ学習部１３００＿１～１３００＿Ｍのうち、
・“学習パラメータセットＸ”が設定されたＦＯＲＣＥ学習部であって、
・出力した予測結果データが所定の許容範囲にあり、かつ、予測精度が最も高い重みパラメータが設定されたＦＯＲＣＥ学習部、
を指す。なお、学習パラメータセットＸは、出力した予測結果データが所定の許容範囲にあり、かつ、予測精度が最も高い重みパラメータが算出された際の学習パラメータセットである。
　（４）逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の詳細
　次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００、１２００＿１～１２００＿Ｍ、１３００、１３００＿１～１３００＿Ｍとして機能するＦＯＲＣＥ学習部のハードウェア構成について説明する。なお、本実施形態において、ＦＯＲＣＥ学習部１２００、１２００＿１～１２００＿Ｍ、１３００、１３００＿１～１３００＿Ｍは、共通のハードウェアを用いるため、以下では、ＦＯＲＣＥ学習部１２００のハードウェア構成として説明する。
　（４－１）全体構成
　図１６は、逐次最小二乗法によるＦＯＲＣＥ学習部のハードウェア構成の一例を示す図である。
　図１６に示すように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００は、
・ＰＥ（Processing Element）として機能する複数のＦＰＧＡ（Field Programmable Gate Array）と（図１６の例では、２５個）、
・ＦＰＥ（Functional PE）として機能する複数のＦＰＧＡと（図１６の例では、５個）、
を有する。なお、図１６において、ＦＰＧＡの部分は、専用のチップにより実現されてもよい。
　このうち、ＰＥとして機能する複数のＦＰＧＡは、それぞれ、図１２を用いて説明した逐次最小二乗法によるＦＯＲＣＥ学習の処理手順１）～４）のうち、３）係数行列の算出を実行する。具体的には、ＰＥとして機能する複数のＦＰＧＡは、それぞれ、以下の手順により係数行列（Ｐ行列）を算出する。
（ｉ）信号線１６０１を介して、リザーバ特徴量（Ｒベクトル）の一部が入力されると、係数行列（Ｐ行列）の一部との積を算出し、算出結果を、信号線１６０２を介して、隣接するＦＰＧＡに転送する。
（ｉｉ）ＦＰＥとして機能するＦＰＧＡより、信号線１６０３を介して、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出するための行列を取得する。また、取得した行列を用いて、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出する。
（ｉｉｉ）ＦＰＥとして機能するＦＰＧＡより、信号線１６０４を介して、リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積の算出結果を取得する。
（ｉｖ）上記（ｉ）～（ｉｉｉ）を実行することで算出した算出結果、または、取得した取得結果を用いて、係数行列（Ｐ行列）の全体を更新する。
　なお、ＰＥとして機能する複数のＦＰＧＡは、それぞれ、上記（ｉ）～（ｉｖ）を繰り返し実行する。
　一方、ＦＰＥとして機能する複数のＦＰＧＡは、それぞれ、図１２を用いて説明した逐次最小二乗法によるＦＯＲＣＥ学習処理の処理手順１）～４）のうち、４）逐次重みパラメータの算出と、１）出力データの算出とを実行する。具体的には、ＦＰＥとして機能する複数のＦＰＧＡは、それぞれ、以下の手順により、逐次重みパラメータ及び出力データを算出する。
（ｉ）ＰＥとして機能するＦＰＧＡより、信号線１６０２を介して、係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積の算出結果を取得する。
（ｉｉ）リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積を算出するための行列を生成し、信号線１６０３を介して、ＰＥとして機能する複数のＦＰＧＡに送信する。
（ｉｉｉ）リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積の算出結果を取得する。また、取得した算出結果に、リザーバ特徴量（Ｒベクトル）の一部をかけ合わせた算出結果を、信号線１６０４を介して、ＰＥとして機能する複数のＦＰＧＡに送信する。
（ｉｖ）逐次重みパラメータ（Ｗベクトル）の一部を転置した転置ベクトルと、信号線１６０１を介して取得したリザーバ特徴量（Ｒベクトル）の一部との積を算出することで、出力データ（Ｚ）の一部を算出する。
（ｖ）誤差（ｅ）を取得し、上記（ｉ）の算出結果を用いて、逐次重みパラメータ（Ｗベクトル）の全体を更新する。
　なお、ＦＰＥとして機能する複数のＦＰＧＡは、それぞれ、上記（ｉ）～（ｖ）を繰り返し実行する。
　一方、ＦＰＥとして機能する複数のＦＰＧＡのうち、最終段に位置するＦＰＧＡは、４）逐次重みパラメータの算出、１）出力データの算出に加えて、２）誤差の算出を実行する。具体的には、ＦＰＥとして機能する複数のＦＰＧＡのうち、最終段に位置するＦＰＧＡは、以下の手順により、誤差を算出する。
（ｉ）上段に位置するＦＰＧＡよりそれぞれ取得した出力データ（Ｚ）の一部を全て集計し、プロセス状態データ（Ｓ）との差分を算出することで、誤差（ｅ）を算出する。また、算出した誤差（ｅ）を、上段に位置するＦＰＧＡにそれぞれ送信する。
　このように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、ＰＥとして機能する複数のＦＰＧＡと、ＦＰＥとして機能する複数のＦＰＧＡとを用いて、処理手順１）～４）を実行することで、逐次最小二乗法によるＦＯＲＣＥ学習処理を実現する。
　（４－２）各ＦＰＧＡの処理の詳細
　次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００に含まれる各ＦＰＧＡの処理の詳細について説明する。
　（４－２－１）ＰＥとして機能するＦＰＧＡの処理の詳細その１
　はじめに、ＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）が入力されると、係数行列（Ｐ行列）との積を算出する。
　このとき、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、縦方向に複数配置された、ＰＥとして機能するＦＰＧＡそれぞれが、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積を算出する。これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、互いに異なる係数行列（Ｐ行列）の一部に、同じリザーバ特徴量（Ｒベクトル）の一部をかけ合わせる処理を、並列に行うことができる。
　また、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、横方向に複数配置された、ＰＥそれぞれが、時系列データであるリザーバ特徴量（Ｒベクトル）が分割されてなるリザーバ特徴量（Ｒベクトル）の一部の処理を、シリアルに行う。
　このように、逐次最小二乗法によるＦＯＲＣＥ学習処理を実現する際、並列処理とシリアル処理とを組み合わせることで、１つのＦＰＧＡが演算する演算回数を削減することができる。この結果、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によれば、ＦＯＲＣＥ学習処理を高速化することができる。
　図１７及び図１８は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される並列処理及びシリアル処理を示す第１及び第２の図である。なお、図１７及び図１８では、説明の簡略化のため、出力側電極数を“４”（リザーバ特徴量（Ｒベクトル）の要素が４つ）としている。また、ＰＥとして機能するＦＰＧＡを、縦方向に２つ、横方向に２つ（計４個）のみ配置した場合を示している（ＦＰＧＡ１７２１、１７２２、１７２３、１７２４参照）。
　ここで、仮に、係数行列（Ｐ行列）とリザーバ特徴量（Ｒベクトル）との積を、１つのＦＰＧＡを用いて実行したとする。この場合、符号１７１０に示すように、１６回の乗算が必要になる。一方、ＰＥとして機能するＦＰＧＡを縦方向に２つ配置することで、乗算の回数を半分にすることができる。更に、ＰＥとして機能するＦＰＧＡを横方向に２つ配置し、リザーバ特徴量（Ｒベクトル）を２分割してそれぞれのＦＰＧＡに入力することで、乗算の回数を更に半分にすることができる。
　図１７において符号１７３０は、２分割したＲベクトルのうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）を、ＦＰＧＡ１７２１、１７２２にそれぞれ入力し、ＦＰＧＡ１７２１、１７２２がそれぞれ、４回の乗算を実行した様子を示している。
　また、図１８において符号１８３０は、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ３，ｒ４）を、ＦＰＧＡ１７２３、１７２４にそれぞれ入力した様子を示している。また、符号１８３０は、ＦＰＧＡ１７２３、１７２４がそれぞれ、４回の乗算を実行した様子を示している。
　このように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００は、ＰＥとして機能するＦＰＧＡを縦方向及び横方向に複数配置し、各ＦＰＧＡが、ＦＯＲＣＥ学習処理において実行される複数行かつ複数列の行列演算の一部を実行するように構成する。
　これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００は、逐次最小二乗法によるＦＯＲＣＥ学習処理を高速化することができる。
　（４－２－２）ＰＥとして機能するＦＰＧＡの処理の詳細その２
　次に、ＰＥとして機能するＦＰＧＡの処理として、転送処理の詳細について説明する。上述したように、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ行列）とリザーバ特徴量（Ｒベクトル）との積の算出結果を、隣接するＦＰＧＡに転送する。図１９は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第１の図である。
　このうち、図１９の１９ａは、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と係数行列（Ｐ行列）の一部との積を、ＦＰＧＡ１７２１、１７２２がそれぞれ実行した様子を示したものである。また、図１９の１９ａは、ＦＰＧＡ１７２１、１７２２それぞれが、実行結果を、ＦＰＧＡ１７２３、１７２４に転送した様子を示したものである。
　図１９の１９ａに示すように、ＦＰＧＡ１７２１からは、算出結果であるｐ１１ｒ１＋ｐ１２ｒ２と、ｐ２１ｒ１＋ｐ２２ｒ２とが、１クロックかけてＦＰＧＡ１７２３に転送される。また、ＦＰＧＡ１７２２からは、ｐ３１ｒ１＋ｐ３２ｒ２と、ｐ４１ｒ１＋ｐ４２ｒ２とが、１クロックかけてＦＰＧＡ１７２４に転送される。なお、ｐ３１ｒ１＋ｐ３２ｒ２と、ｐ４１ｒ１＋ｐ４２ｒ２とは、ＦＰＧＡ１７２１からＦＰＧＡ１７２２に１クロックかけて転送されたリザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と、係数行列（Ｐ行列）の一部との積の算出結果である。
　一方、図１９の１９ｂは、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ３，ｒ４）と係数行列（Ｐ行列）の一部との積を、ＦＰＧＡ１７２３、１７２４がそれぞれ実行した様子を示したものである。また、図１９の１９ｂは、ＦＰＧＡ１７２３、１７２４それぞれが、実行結果を、右側に隣接するＦＰＧＡ（不図示）に転送した様子を示したものである。
　図１９の１９ｂに示すように、ＦＰＧＡ１７２３からは、算出結果であるｐ１３ｒ３＋ｐ１４ｒ４が、転送結果であるｐ１１ｒ１＋ｐ１２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。また、ＦＰＧＡ１７２３からは、算出結果であるｐ２３ｒ３＋ｐ２４ｒ４が、転送結果であるｐ２１ｒ１＋ｐ２２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。
　同様に、ＦＰＧＡ１７２４からは、算出結果であるｐ３３ｒ３＋ｐ３４ｒ４が、転送結果であるｐ３１ｒ１＋ｐ３２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。また、ＦＰＧＡ１７２４からは、算出結果であるｐ４３ｒ３＋ｐ４４ｒ４が、転送結果であるｐ４１ｒ１＋ｐ４２ｒ２に加算された加算結果が、不図示のＦＰＧＡに転送される。
　（４－２－３）ＦＰＥとして機能するＦＰＧＡの処理の詳細その１
　次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、係数行列（Ｐ行列）の算出において用いられる、“リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積”を算出するための行列を生成する「代替処理」を実行する。
　図２０は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される代替処理を示す図である。このうち、図２０の２０ａは、係数行列（Ｐ行列）の算出と代替処理との関係を示している。図２０の２０ａに示すように、係数行列（Ｐ行列）を算出する際に算出すべき“リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積”（符号２００１）のうち、係数行列（Ｐ行列）は対称行列である（対称性を有する）。このため、係数行列（Ｐ行列）は、係数行列（Ｐ行列）を転置した転置行列と等しい。
　したがって、
・“リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積”（符号２００１）と、
・“リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）を転置した転置行列との積”（符号２００２）と、
は等しい。つまり、“リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積を転置した転置行列”（符号２００３）と等しい。
　ここで、“リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積”は、当該積を算出する時点で既に算出されている（符号２００４）。このため、対称性を利用して当該算出結果を転置することで、“リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積”（符号２００１）の代替とすることができる。
　図２０の２０ｂは、係数行列（Ｐ行列）の算出において、
・“リザーバ特徴量（Ｒベクトル）を転置した転置行列と係数行列（Ｐ行列）との積”（符号２００１）を、
・“リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積を転置した転置行列”（符号２００３）で、
代替した場合の代替後の数式を示している。
　また、図２０の２０ｃの右辺はその算出結果を表し、ｐｒ１、ｐｒ２、ｐｒ３、ｐｒ４のうち、右辺の行列の各要素がどのｐｒを必要とするかを示したものである。この行列の左上要素は、ｐｒ１、ｐｒ２を必要とし、左下要素と右上要素は、ｐｒ１、ｐｒ２、ｐｒ３、ｐｒ４を必要とし、右下要素はｐｒ３、ｐｒ４を必要とする。
　また、図２０の２０ｄは、ＦＰＥとして機能するＦＰＧＡ（不図示）が、
・“係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積”と、
・“係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積を転置した転置ベクトル”と、
を算出するためのベクトルを、信号線１６０３を介して、ＦＰＧＡ１７２１～１７２４に送信した様子を示している。更に、図２０の２０ｄは、ＦＰＧＡ１７２１～１７２４が、
・“係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積”と、
・“係数行列（Ｐ行列）の一部とリザーバ特徴量（Ｒベクトル）の一部との積を転置した転置ベクトル”と、
の積を算出する様子を示している。
　具体的には、ＦＰＧＡ１７２１が図２０の２０ｃの右辺の行列の左上要素の積を、ＦＰＧＡ１７２２が左下要素の積を、ＦＰＧＡ１７２３が右上要素の積を、ＦＰＧＡ１７２４が右下要素の積をそれぞれ算出する。
　このように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、逐次最小二乗法によるＦＯＲＣＥ学習処理において実行される転置ベクトルを含む演算を行う際、転置ベクトルを含まない演算の演算結果を取得し、取得した演算結果を転置することで代替する。
　これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によれば、逐次最小二乗法によるＦＯＲＣＥ学習処理を実現する際の、演算回数を削減することができる。この結果、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によれば、ＦＯＲＣＥ学習処理を高速化することができる。
　（４－２－４）ＦＰＥとして機能するＦＰＧＡの処理の詳細その１
　次に、ＦＰＥとして機能するＦＰＧＡの転送処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部が入力されると、逐次重みパラメータ（Ｗベクトル）の一部との積を算出し、算出結果である出力データ（Ｚ）の一部を、隣接するＦＰＧＡに転送する。図２１は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される転送処理を示す第２の図である。
　図２１に示すように、ＦＰＧＡ２１１１は、２分割したリザーバ特徴量（Ｒベクトル）のうち、
・リザーバ特徴量（Ｒベクトル）の一部である（ｒ１，ｒ２）と、
・逐次重みパラメータ（Ｗベクトル）の一部である（ｗ１，ｗ２）と、
の積を算出し、算出結果（符号２１０１）をＦＰＧＡ２１１２に転送する。このとき、ＦＰＧＡ２１１１では、算出結果（符号２１０１）であるｗ１ｒ１＋ｗ２ｒ２を１クロックかけてＦＰＧＡ２１１２に転送する。
　また、ＦＰＧＡ２１１２は、２分割したリザーバ特徴量（Ｒベクトル）のうち、リザーバ特徴量（Ｒベクトル）の一部である（ｒ３，ｒ４）と逐次重みパラメータ（Ｗベクトル）の一部である（ｗ３，ｗ４）との積を算出する。また、ＦＰＧＡ２１１２は、算出結果（符号２１０２）を、ＦＰＧＡ２１１１から転送された算出結果（符号２１０１）に加算し、加算結果（符号２１０３）を得る。
　（４－２－５）ＦＰＥとして機能するＦＰＧＡの処理の詳細その２
　次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積の算出結果を取得する。また、ＦＰＥとして機能するＦＰＧＡは、リザーバ特徴量（Ｒベクトル）の一部と、係数行列（Ｐ行列）の一部と、信号線１６０１を介して取得したリザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルとの積を算出する。更に、ＦＰＥとして機能するＦＰＧＡは、算出結果を、ＰＥとして機能するＦＰＧＡに配布する配布処理を実行する。
　図２２は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される配布処理を示す図である。図２２に示すように、ＦＰＥとして機能するＦＰＧＡ２１１１は、ＰＥとして機能する対応するＦＰＧＡから、係数行列（Ｐ行列）の一部とＲベクトルの一部との積の算出結果（符号２２０１）を取得する。また、ＦＰＥとして機能するＦＰＧＡ２１１１は、取得した算出結果（符号２２０１）と、リザーバ特徴量（Ｒベクトル）の一部（ｒ１，ｒ２）を転置した転置ベクトルとの積を算出し、算出結果（符号２２０２）を、ＦＰＧＡ２１１２に転送する。
　同様に、ＦＰＥとして機能するＦＰＧＡ２１１２は、ＰＥとして機能する対応するＦＰＧＡから、係数行列（Ｐ行列）の一部とＲベクトルの一部との積の算出結果（符号２２０３）を取得する。また、ＦＰＥとして機能するＦＰＧＡ２１１２は、取得した算出結果（符号２２０２）と、リザーバ特徴量（Ｒベクトル）の一部（ｒ３，ｒ４）を転置した転置ベクトルとの積を算出する。また、ＦＰＥとして機能するＦＰＧＡ２１１２は、算出結果をＦＰＧＡ２１１１から転送された算出結果（符号２２０２）に加算する。更に、ＦＰＥとして機能するＦＰＧＡ２１１２は、加算結果（符号２２０４）を、信号線１６０４を介して、ＰＥとして機能するＦＰＧＡ１７２１～１７２４に転送する。
　これにより、ＦＰＧＡ１７２１～１７２４では、それぞれ、係数行列（Ｐ行列）の一部を算出することができる。例えば、ＦＰＧＡ１７２１の場合、
・“リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積”（符号２００４）は、事前に算出している。
・“リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと係数行列（Ｐ行列）の一部との積”（符号２００１）は、図２０で説明したように、信号線１６０３を介して取得した行列に基づく代替処理により算出している。
・“リザーバ特徴量（Ｒベクトル）の一部を転置した転置ベクトルと、係数行列（Ｐ行列）の一部と、リザーバ特徴量（Ｒベクトル）の一部との積”（符号２２０４）は、信号線１６０４を介して取得している。
　これにより、ＦＰＧＡ１７２１～ＦＰＧＡ１７２４では、係数行列（Ｐ行列）を算出することができる。
　（４－２－６）ＦＰＥとして機能するＦＰＧＡの処理の詳細その３
　次に、ＦＰＥとして機能するＦＰＧＡの処理の詳細について説明する。上述したように、ＦＰＥとして機能するＦＰＧＡのうち、最終段に位置するＦＰＧＡは、逐次重みパラメータの算出、出力データの算出に加えて、誤差の算出を実行する。
　図２３は、逐次最小二乗法によるＦＯＲＣＥ学習部において実現される重みパラメータ更新処理を示す図である。図２３に示すように、最終段に位置するＦＰＧＡ２１１２は、出力データ（Ｚ）の一部（＝ｗ３ｒ３＋ｗ４ｒ４）を算出する。また、最終段に位置するＦＰＧＡ２１１２は、ＦＰＥとして機能するＦＰＧＡ２１１１より取得した出力データ（Ｚ）の一部（＝ｗ１ｒ１＋ｗ２ｒ２）に加算することで、出力データ（Ｚ）を集計する。
　また、最終段に位置するＦＰＧＡ２１１２は、集計した出力データ（Ｚ）と、プロセス状態データ（Ｓ）との差分を算出することで、誤差（ｅ）を算出する。（符号２３０１）。更に、最終段に位置するＦＰＧＡ２１１２は、算出した誤差（ｅ）を、上段に位置するＦＰＧＡ２１１１に送信する。ＦＰＧＡ２１１１及びＦＰＧＡ２１１２では、算出した誤差（ｅ）を用いて、逐次重みパラメータを更新する。
　例えば、ＦＰＧＡ２１１１では、リザーバ特徴量（Ｒベクトル）の一部と係数行列（Ｐ行列）の一部との積の算出結果（符号２２０１）を取得し、ＦＰＧＡ２１１２より取得した誤差（ｅ）をかけ合わせたうえで、現在の逐次重みパラメータ（Ｗベクトル）から減算する。これにより、ＦＰＧＡ２１１１では、逐次重みパラメータ（Ｗベクトル）を更新することができる（符号２３０２）。
　（４－３）逐次最小二乗法によるＦＯＲＣＥ学習部１２００によるＦＯＲＣＥ学習処理のタイミングチャート
　次に、逐次最小二乗法によるＦＯＲＣＥ学習部１２００によるＦＯＲＣＥ学習処理のタイミングチャートについて説明する。図２４は、逐次最小二乗法によるＦＯＲＣＥ学習部によるＦＯＲＣＥ学習処理のタイミングチャートの一例である。
　図２４に示すように、ＦＰＥとして機能するＦＰＧＡは、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）と、
・リザーバ特徴量（Ｒ（τ）ベクトル）と、
の積を算出することで、出力データ（Ｚ（τ））を算出する（符号２４０１）。
　また、ＦＰＥとして機能するＦＰＧＡは、出力データ（Ｚ（τ））と、プロセス状態データ（Ｓ（τ））とに基づいて、誤差（ｅ（τ））を算出する（符号２４０２）。
　また、ＰＥとして機能するＦＰＧＡは、
・リザーバ特徴量（Ｒベクトル（τ））を転置した転置ベクトルと、係数行列（Ｐ（τ－１）行列）と、リザーバ特徴量（Ｒベクトル（τ））との積と、
・係数行列（Ｐ（τ－１）行列）と、リザーバ特徴量（Ｒベクトル（τ））との積と、
・係数行列（Ｐ（τ－１）行列）と、
に基づいて、係数行列（Ｐ（τ）行列）を算出する（符号２４０３）。
　また、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積を算出する（符号２４０４）。また、ＰＥとして機能するＦＰＧＡは、係数行列（Ｐ（τ＋１）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積を算出する（符号２４０５）。
　また、ＰＥとして機能するＦＰＧＡは、
・リザーバ特徴量（Ｒ（τ＋１）ベクトル）を転置した転置ベクトルと、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ＋１）ベクトル）との積の算出結果と、
の積を算出する（符号２４０６）。
　続いて、ＦＰＥとして機能するＦＰＧＡは、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）との積の算出結果と、
・誤差（ｅ（τ））と、
の積を算出する（符号２４０７）。
　また、ＦＰＥとして機能するＦＰＧＡは、
・係数行列（Ｐ（τ）行列）と、リザーバ特徴量（Ｒ（τ）ベクトル）と、誤差（ｅ（τ））との積を算出した算出結果と、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）と、
に基づいて、逐次重みパラメータ（Ｗ（τ）ベクトル）を更新し、逐次重みパラメータ（Ｗ（τ）ベクトル）を算出する（符号２４０８）。
　これにより、ＦＰＥとして機能するＦＰＧＡは、出力データ（Ｚ（τ＋１））を算出することができる。以下、システム時間の経過とともに、同様の処理が繰り返される。
　なお、図２４に示すように、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、
・逐次重みパラメータ（Ｗ（τ－１）ベクトル）の算出と、
・逐次重みパラメータ（Ｗ（τ）ベクトル）の算出と、
の間にそれぞれ実行される、リザーバ特徴量（Ｒベクトル）と係数行列（Ｐ行列）との積の実行タイミングが、互いに重なるように構成される。具体的には、逐次最小二乗法によるＦＯＲＣＥ学習部１２００が、ＰＥとして機能するＦＰＧＡ及びＦＰＥとして機能するＦＰＧＡにおいて、算出結果をバッファリングすることで、実行タイミングを調整する。
　これにより、逐次最小二乗法によるＦＯＲＣＥ学習部１２００では、逐次重みパラメータの更新に要する時間を短縮することができる。
　以上のとおり、逐次最小二乗法によるＦＯＲＣＥ学習処理を行うハードウェアによりプロセス状態予測部２０４を構成し、逐次重みパラメータを高速に更新するための処理を実行する。これにより、プロセス状態予測部２０４によれば、センサデータにおいて出現する短い挙動を捉えて重みパラメータを学習することができる。
　なお、本願出願人によれば、逐次最小二乗法によるＦＯＲＣＥ学習部１２００が逐次重みパラメータの更新に要する時間として、各ＦＰＧＡを２００ＭＨｚで動作させた場合、９６０［ｎｓ］を実現している。
　＜管理装置の詳細＞
　次に、プロセス状態予測システム１２８と接続される管理装置１２３の詳細について説明する。
　（１）管理装置１２３のハードウェア構成
　はじめに、管理装置１２３のハードウェア構成について説明する。図２５は、管理装置のハードウェア構成の一例を示す図である。
　図２５に示すように、管理装置１２３は、プロセッサ２５０１、メモリ２５０２、補助記憶装置２５０３、Ｉ／Ｆ（Interface）装置２５０４、ＵＩ装置２５０５、通信装置２５０６を有する。なお、管理装置１２３の各ハードウェアは、バス２５０７を介して相互に接続されている。
　プロセッサ２５０１は、ＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）等の各種演算デバイスを有する。プロセッサ２５０１は、各種プログラム（例えば、管理プログラム等）をメモリ２５０２上に読み出して実行する。
　メモリ２５０２は、ＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）等の主記憶デバイスを有する。プロセッサ２５０１とメモリ２５０２とは、いわゆるコンピュータを形成し、プロセッサ２５０１が、メモリ２５０２上に読み出した各種プログラムを実行することで、当該コンピュータは各種機能を実現する。
　補助記憶装置２５０３は、各種プログラムや、各種プログラムがプロセッサ２５０１によって実行される際に用いられる各種データを格納する。後述するデータ格納部２６０７は、補助記憶装置２５０３において実現される。
　Ｉ／Ｆ装置２５０４は、プロセス状態予測システム１２８と接続する接続デバイスである。
　ＵＩ装置２５０５は、管理装置１２３の管理者が各種指示を管理装置１２３に入力するためのユーザインタフェース装置である。通信装置２５０６は、外部装置（不図示）とネットワークを介して通信するための通信デバイスである。
　（２）管理部１２４の機能構成
　次に、管理装置１２３の管理部１２４の機能構成について説明する。図２６は、管理部の機能構成の一例を示す図である。上述したように、管理装置１２３には管理プログラムがインストールされており、当該プログラムが実行されることで、管理装置１２３の管理部１２４は、
・プロセス状態データ送信部２６０１、
・プロセス状態データ取得部２６０２、
・期間制御部２６０３、
・終了情報取得部２６０４、
・再学習判定部２６０５、
・評価部２６０６、
・リザーバ特徴量取得部２６０８、
・バッチ学習部２６０９、
として機能する。
　プロセス状態データ送信部２６０１は、期間制御部２６０３からの送信開始／停止指示に基づいて、例えば、センサｂ１２２ｂから送信されたセンサデータｂをプロセス状態データ取得部２６０２を介して、プロセス状態データ（正解データ）として取得する。また、プロセス状態データ送信部２６０１は、取得したプロセス状態データ（正解データ）を、プロセス状態予測システム１２８に送信する。プロセス状態データ送信部２６０１により送信されるプロセス状態データには、学習期間中に送信されるプロセス状態データと、再学習期間中に送信されるプロセス状態データとが含まれる。
　プロセス状態データ取得部２６０２は、センサｂ１２２ｂから送信されたセンサデータｂを取得する。また、プロセス状態データ取得部２６０２は、取得したセンサデータｂをプロセス状態データとして、プロセス状態データ送信部２６０１及びバッチ学習部２６０９に通知する。
　期間制御部２６０３は、プロセス状態予測システム１２８に各種切替情報を送信する。図２６に示すように、期間制御部２６０３により送信される各種切替情報には、
・学習期間への移行指示、
・予測期間への移行指示、
・再学習期間への移行指示、
・学習パラメータセットの切替指示、
・重みパラメータの設定指示、
が含まれる。
　期間制御部２６０３は、プロセス状態予測システム１２８の処理が開始されると、プロセス状態予測システム１２８に、学習期間への移行指示を送信するとともに、プロセス状態データ送信部２６０１に、プロセス状態データの送信開始を指示する。
　また、期間制御部２６０３は、終了情報取得部２６０４から、ＦＯＲＣＥ学習処理の終了情報を受信すると、プロセス状態予測システム１２８に、予測期間への移行指示を送信する。その際、期間制御部２６０３は、プロセス状態データ送信部２６０１にプロセス状態データの送信停止を指示する。
　また、期間制御部２６０３は、再学習判定部２６０５から、再学習が必要であるとの判定結果を受信すると、プロセス状態予測システム１２８に、再学習期間への移行指示を送信する。その際、期間制御部２６０３は、プロセス状態データ送信部２６０１に、プロセス状態データの送信開始を指示する。
　また、期間制御部２６０３は、終了情報取得部２６０４より、再学習用データ取得の終了情報と、評価用データ取得の終了情報を取得すると、データ格納部２６０７より、学習パラメータセットを読み出し、プロセス状態予測システム１２８に送信する。その際、期間制御部２６０３は、プロセス状態データ送信部２６０１にプロセス状態データの送信停止を指示する。
　ここで、図２６に示すように、データ格納部２６０７には、学習パラメータセット１～学習パラメータセットＭが格納されている。期間制御部２６０３では、読み出した学習パラメータセット１～学習パラメータセットＭを、プロセス状態予測システム１２８に送信する。
　なお、符号２６１１に示すように、学習パラメータセットには、情報の項目として、“前回の重みパラメータを使用ｏｒ初期化”、“過去データ寄与率”、“学習モデル数”等が含まれる。
　また、期間制御部２６０３は、終了情報取得部２６０４より、ＦＯＲＣＥ再学習処理の終了情報を取得するごとに、プロセス状態予測システム１２８に、学習パラメータセットの切替指示を送信する。
　図２６に示すように、再学習期間において、リザーバ特徴量取得部２６０８は、プロセス状態予測システム１２８から学習用データ及び評価用データとしてリザーバ特徴量を取得し、バッチ学習部２６０９に通知する。また、上述したように、再学習期間において、プロセス状態データ取得部２６０２は、学習用データとして、センサデータｂを取得し、取得したセンサデータｂをプロセス状態データとして、バッチ学習部２６０９に通知する。
　バッチ学習部２６０９は、データ格納部２６０７より読み出したバッチ学習パラメータのもと、リザーバ特徴量とプロセス状態データとを所定の学習時間分蓄積した学習用データを用いて、バッチ学習を実行する。ここでいうバッチ学習とは、所定の学習時間分のリザーバ特徴量とプロセス状態データとから重みパラメータを学習することである。
　なお、バッチ学習に用いるバッチ学習パラメータには、情報の項目として、“学習用正規化パラメータ”、“蓄積するデータ量（バッチサイズ）”、“学習時間”等が含まれる。
　また、バッチ学習部２６０９は、バッチ学習が完了すると、評価用データとして取得したリザーバ特徴量に基づいてプロセス状態データを予測し、バッチ学習部２６０９による予測結果（バッチ学習予測結果）を、評価部２６０６に通知する。
　また、期間制御部２６０３は、評価部２６０６より、評価結果を受信し、受信した評価結果に基づいて、プロセス状態予測システム１２８に重みパラメータの設定指示を送信する。
　なお、評価結果には、各学習パラメータセットのもと、ＦＯＲＣＥ再学習処理が行われることでそれぞれ算出された重みパラメータを用いて、評価用データに対して予測処理が行われ、それぞれの予測結果データについて算出された予測精度が含まれるものとする。
　また、期間制御部２６０３は、予測結果データが所定の許容範囲に含まれ、かつ、予測精度が最も高い重みパラメータを設定するよう、プロセス状態予測システム１２８に設定指示を行う。このときの所定の許容範囲は、固定値が設定されてもよいし、バッチ学習部２６０９が算出したバッチ学習予測結果に基づいて算出された値が設定されてもよい。
　また、期間制御部２６０３は、重みパラメータの設定指示を送信した後、予測期間への移行指示を、プロセス状態予測システム１２８に送信する。
　終了情報取得部２６０４は、プロセス状態予測システム１２８より、各種終了情報（ＦＯＲＣＥ学習処理の終了情報、再学習用データ取得の終了情報、評価用データ取得の終了情報、ＦＯＲＣＥ再学習処理の終了情報）を取得する。また、終了情報取得部２６０４は、取得した各種終了情報を、期間制御部２６０３に送信する。
　再学習判定部２６０５は、予測期間中にプロセス状態予測システム１２８より受信した予測結果データの予測精度に基づいて、再学習の要否を判定する。また、再学習判定部２６０５は、再学習が必要であると判定した場合、期間制御部２６０３に、再学習が必要であるとの判定結果を送信する。なお、再学習判定部２６０５では、その他、再学習が必要となるような事象が発生した場合にも、期間制御部２６０３に、再学習が必要であるとの判定結果を送信する。
　評価部２６０６は、再学習期間中に、学習パラメータセットが切り替えられるごとにプロセス状態予測システム１２８より受信した予測結果データの予測精度を評価し、評価結果として、期間制御部２６０３に送信する。上述したように、評価部２６０６では、予測結果データを評価する際、バッチ学習部２６０９により算出されたバッチ学習予測結果に基づいて算出した許容範囲を用いて、予測結果データを評価してもよい。
　＜管理部及びプロセス状態予測システムによるプロセス状態予測処理＞
　次に、管理部１２４及びプロセス状態予測システム１２８によるプロセス状態予測処理の流れについて説明する。
　（１）プロセス状態予測処理全体の流れ
　はじめに、プロセス状態予測処理全体の流れについて説明する。図２７は、管理部及びプロセス状態予測システムによるプロセス状態予測処理全体の流れを示すフローチャートの一例である。プロセス状態予測システム１２８が起動することで、図２７に示す処理が開始される。
　ステップＳ２７０１において、管理部１２４は、学習期間への移行指示をプロセス状態予測システム１２８に送信する。これにより、プロセス状態予測システム１２８のプロセス状態予測部２０４は、学習期間に移行し、ＦＯＲＣＥ学習部１２００の重みパラメータを初期化する。
　ステップＳ２７０２において、プロセス状態予測システム１２８の電圧変調部２０２は、センサ１２２により出力され、Ｉ／Ｏ制御部２０１により取得された時系列のセンサデータａに対して、電圧変調処理を行う。なお、電圧変調処理（ステップＳ２７０２）の詳細は、図３を用いて説明済みであるため、ここでは説明を省略する。
　ステップＳ２７０３において、プロセス状態予測システム１２８の多電極Ｉ／Ｏチップ２０３は、電圧変調部２０２より出力された電圧データを入力し、リザーバ特徴量を出力する入出力処理を行う。なお、入出力処理（ステップＳ２７０３）の詳細は、図５を用いて説明済みであるため、ここでは説明を省略する。
　ステップＳ２７０４において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、現在の期間を判定する。管理装置１２３の管理部１２４より学習期間への移行指示または予測期間への移行指示を受信している場合、プロセス状態予測部２０４は、ステップＳ２７０４において、現在の期間が、学習期間または予測期間であると判定する。この場合、プロセス状態予測部２０４は、ステップＳ２７１１に進む。
　ステップＳ２７１１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習処理が終了しているか否かを判定する。ステップＳ２７１１において、ＦＯＲＣＥ学習処理が終了していないと判定した場合には（ステップＳ２７１１においてＮＯの場合には）、ステップＳ２７１２に進む。
　ステップＳ２７１２において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習処理を行う。なお、ＦＯＲＣＥ学習処理（ステップＳ２７１２）の詳細は、後述する。
　一方、ステップＳ２７１１において、ＦＯＲＣＥ学習処理が終了していると判定した場合には（ステップＳ２７１１においてＹＥＳの場合には）、ステップＳ２７１３に進む。
　ステップＳ２７１３において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、予測処理を行う。なお、予測処理（ステップＳ２７１３）の詳細は、後述する。
　ステップＳ２７１４において、管理装置１２３の管理部１２４は、再学習が必要であるか否かを判定する。ステップＳ２７１４において、再学習が必要でないと判定された場合（ステップＳ２７１４においてＮＯの場合）には、ステップＳ２７３１に進む。
　一方、ステップＳ２７１４において、再学習が必要であると判定した場合（ステップＳ２７１４においてＹＥＳの場合）には、ステップＳ２７１５に進む。なお、ステップＳ２７１４における再学習判定処理の詳細は、後述する。
　ステップＳ２７１５において、管理装置１２３の管理部１２４は、プロセス状態予測システム１２８に、再学習期間への移行指示を送信するとともに、学習パラメータセット１～Ｍを送信する。これにより、プロセス状態予測システム１２８のプロセス状態予測部２０４は、再学習期間に移行するとともに、学習パラメータセット１～Ｍを取得する。
　また、ステップＳ２７０４において、現在の期間が、再学習期間であると判定した場合には、ステップＳ２７２１に進む。なお、プロセス状態予測部２０４では、管理装置１２３の管理部１２４より再学習期間への移行指示を受信している場合、現在の期間が、再学習期間であると判定する。
　ステップＳ２７２１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ再学習処理を行う。なお、ＦＯＲＣＥ再学習処理（ステップＳ２７２１）の詳細は、後述する。
　ステップＳ２７３１において、管理装置１２３の管理部１２４は、プロセス状態予測処理を終了するか否かを判定する。ステップＳ２７３１において、プロセス状態予測処理を終了しないと判定した場合には（ステップＳ２７３１においてＮＯの場合には）、ステップＳ２７０２に戻る。
　一方、ステップＳ２７３１において、プロセス状態予測処理を終了すると判定した場合、管理装置１２３の管理部１２４及びプロセス状態予測システム１２８は、プロセス状態予測処理を終了する。
　（２）学習処理（ステップＳ２７１２）の詳細
　次に、プロセス状態予測処理に含まれる学習処理（ステップＳ２７１２）の詳細について説明する。図２８は、学習処理の流れを示すフローチャートの一例である。
　ステップＳ２８０１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量と、管理装置１２３の管理部１２４より送信されるプロセス状態データ（正解データ）とを取得する。
　ステップＳ２８０２において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、学習パラメータセットにおいて、符号２６１１の“前回の重みパラメータを使用ｏｒ初期化”の項目が、「使用」であるか否かを判定する。
　ステップＳ２８０２において、“前回の重みパラメータを使用ｏｒ初期化”の項目が、「使用」であると判定した場合には（ステップＳ２８０２においてＹＥＳの場合には）、ステップＳ２８０４に進む。この場合、プロセス状態予測システム１２８のプロセス状態予測部２０４は、前回のＦＯＲＣＥ学習処理において算出した重みパラメータを、今回のＦＯＲＣＥ学習処理におけるＦＯＲＣＥ学習部１２００の逐次重みパラメータの初期値とする。
　一方、ステップＳ２８０２において、“前回の重みパラメータを使用ｏｒ初期化”の項目が「初期化」であると判定した場合には（ステップＳ２８０２においてＮＯの場合には）、ステップＳ２８０３に進む。
　ステップＳ２８０３において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、今回のＦＯＲＣＥ学習処理の前に、前回のＦＯＲＣＥ学習処理において算出したＦＯＲＣＥ学習部１２００の逐次重みパラメータを初期化する。
　ステップＳ２８０４において、ＦＯＲＣＥ学習部１２００は、リザーバ特徴量に、現在の逐次重みパラメータをかけ合わせることで、出力データを算出する。
　ステップＳ２８０５において、ＦＯＲＣＥ学習部１２００は、算出した出力データと、対応するプロセス状態データ（正解データ）との誤差を算出する。また、ＦＯＲＣＥ学習部１２００は、算出した誤差が閾値以内でないと判定した場合には（ステップＳ２８０５においてＮＯ）の場合には、ステップＳ２８０６に進む。
　ステップＳ２８０６において、ＦＯＲＣＥ学習部１２００は、算出した誤差に基づいて逐次重みパラメータを更新し、ステップＳ２８０７に進む。
　一方、ステップＳ２８０５において、誤差が閾値以内であると判定した場合には（ステップＳ２８０７においてＹＥＳの場合には）、直接、ステップＳ２８０７に進む。
　ステップＳ２８０７において、ＦＯＲＣＥ学習部１２００は、誤差が閾値以内である状態が、学習パラメータセットで指定された所定の学習時間分、継続したか否かを判定する。ステップＳ２８０７において、継続していないと判定した場合には（ステップＳ２８０７においてＮＯの場合には）、図２７のステップＳ２７３１に戻る。
　一方、ステップＳ２８０７において、継続したと判定した場合には（ステップＳ２８０７においてＹＥＳの場合には）、ステップＳ２８０８に進む。
　ステップＳ２８０８において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習処理の終了情報を、管理装置１２３に送信する。これにより、管理装置１２３の管理部１２４は、ＦＯＲＣＥ学習処理が終了したと判定し、予測期間への移行指示を、プロセス状態予測システム１２８に送信する。
　ステップＳ２８０９において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習部１３００に、ＦＯＲＣＥ学習処理が終了した時点での重みパラメータを設定する。
　（３）予測処理（ステップＳ２７１３）の詳細
　次に、プロセス状態予測処理に含まれる予測処理（ステップＳ２７１３）の詳細について説明する。図２９は、予測処理の流れを示すフローチャートの一例である。
　ステップＳ２９０１において、ＦＯＲＣＥ学習部１３００は、多電極Ｉ／Ｏチップ２０３から出力されたリザーバ特徴量を取得する。
　ステップＳ２９０２において、ＦＯＲＣＥ学習部１３００は、取得したリザーバ特徴量に重みパラメータをかけ合わせることで、プロセス状態を予測する。
　ステップＳ２９０３において、ＦＯＲＣＥ学習部１３００は、予測結果データを出力する。
　（４）再学習判定処理（ステップＳ２７１４）の詳細
　次に、管理装置１２３の管理部１２４による再学習判定処理（ステップＳ２７１４）の詳細について説明する。図３０は、再学習判定処理の流れを示すフローチャートの一例である。
　ステップＳ３００１において、管理装置１２３の管理部１２４は、予測期間において、プロセス状態予測システム１２８が取得する時系列のセンサデータａの種類が変更されたか否かを判定する。ステップＳ３００１において、変更されたと判定した場合には（ステップＳ３００１においてＹＥＳの場合には）、ステップＳ３００４に進む。
　一方、ステップＳ３００１において、変更されていないと判定した場合には（ステップＳ３００１においてＮＯの場合には）、ステップＳ３００２に進む。
　ステップＳ３００２において、管理装置１２３の管理部１２４は、予測期間において、プロセス状態予測システム１２８が取得する時系列のセンサデータａの値が所定の閾値以上変動したか否かを判定する。ステップＳ３００２において、時系列のセンサデータａの値が所定の閾値以上変動したと判定した場合には（ステップＳ３００２においてＹＥＳの場合には）、ステップＳ３００４に進む。
　一方、ステップＳ３００２において、時系列のセンサデータａの値が所定の閾値以上変動していないと判定した場合には（ステップＳ３００２においてＮＯの場合には）、ステップＳ３００３に進む。
　ステップＳ３００３において、管理装置１２３の管理部１２４は、予測期間において、プロセス状態予測システム１２８から送信される予測結果データの予測精度が所定の閾値以下に低下したか否かを判定する。
　ステップＳ３００３において、予測精度が所定の閾値以下に低下したと判定した場合には（ステップＳ３００３においてＹＥＳの場合には）、ステップＳ３００４に進む。
　ステップＳ３００４において、管理装置１２３の管理部１２４は、再学習が必要であると判定する。
　一方、ステップＳ３００３において、予測精度が所定の閾値以下に低下していないと判定した場合には（ステップＳ３００３においてＮＯの場合には）、図２７のステップＳ２７３１に戻る。
　予測精度が所定の閾値以下に低下するとは、予測結果データと正解データとの誤差が許容閾値を超えたことを指す（上述したように、それまでの時間は「有効予測時間」である）。したがって、管理装置１２３の管理部１２４は、この有効予測時間を監視することで、再学習が必要であるか否かを判定する。図３１を参照しながら、説明する。
　図３１は、有効予測時間の他の一例を示す図である。図３１において横軸は、学習により算出された重みパラメータが設定されてからの経過時間を示している。また、図３１において縦軸は、予測結果データと正解データとの二乗誤差を示している。
　プロセス状態予測システム１２８では、予測結果データと正解データとの二乗誤差が、許容閾値を超えるまでの有効予測時間が、例えば、図３１のｔｂで示す時間であったとする（初期状態、ベストの状態）。ここから運用を開始し、その後、予測結果データと正解データとの二乗誤差が、許容閾値を超えるまでの有効予測時間がｔａ（＜ｔｂ）になったとする。つまり、本来予測できる時間が短くなったときに（ｔｂ－ｔａが所定の閾値以上となったときに）、再学習する。
　（５）再学習処理（ステップＳ２７２１）の詳細
　次に、プロセス状態予測処理に含まれる再学習処理（ステップＳ２７２１）の詳細について説明する。図３２は、再学習処理の流れを示すフローチャートの一例である。
　再学習処理を開始すると、プロセス状態予測システム１２８のプロセス状態予測部２０４及び管理装置１２３の管理部１２４は、ステップＳ３２０１～ステップＳ３２０８の処理と、ステップＳ３２１０～ステップＳ３２１５の処理とを、並行して実行する。
　はじめに、ステップＳ３２０１～ステップＳ３２０８の処理について説明する。ステップＳ３２０１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、多電極Ｉ／Ｏチップ２０３より出力されるリザーバ特徴量と、管理装置１２３の管理部１２４より送信されるプロセス状態データ（正解データ）とを取得する。
　なお、プロセス状態予測システム１２８のプロセス状態予測部２０４は、リザーバ特徴量とプロセス状態データ（正解データ）との組み合わせの一部を再学習用データとして取得し、残りの組み合わせを評価用データとして取得する。
　ステップＳ３２０２において、プロセス状態予測部２０４は、管理装置１２３の管理部１２４から送信された学習パラメータセット１～Ｍのうちのいずれか（ここでは、学習パラメータセット１）を、ＦＯＲＣＥ学習部１２００＿１に設定する。
　ステップＳ３２０３において、プロセス状態予測部２０４は、ＦＯＲＣＥ学習部１２００＿１に設定した学習パラメータセット１の“前回の重みパラメータを使用ｏｒ初期化”の項目が、「使用」であるか否かを判定する。
　ステップＳ３２０３において、“前回の重みパラメータを使用ｏｒ初期化”の項目が、「使用」であると判定した場合には（ステップＳ３２０３においてＹＥＳの場合には）、ステップＳ３２０５に進む。この場合、ＦＯＲＣＥ学習部１２００＿１では、前回のＦＯＲＣＥ学習処理において算出された重みパラメータを、逐次重みパラメータの初期値として、今回のＦＯＲＣＥ再学習処理を行う。
　一方、ステップＳ３２０３において、“前回の重みパラメータを使用ｏｒ初期化”の項目が「初期化」であると判定した場合には（ステップＳ３２０３においてＮＯの場合には）、ステップＳ３２０４に進む。
　ステップＳ３２０４において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、ＦＯＲＣＥ学習部１２００＿１の逐次重みパラメータを初期化する。
　ステップＳ３２０５において、ＦＯＲＣＥ学習部１２００＿１は、再学習用データを用いて、ＦＯＲＣＥ学習処理を行い、重みパラメータを算出する。また、ＦＯＲＣＥ学習部１２００＿１は、算出した重みパラメータを、ＦＯＲＣＥ学習部１３００＿１に設定する。
　ステップＳ３２０６において、ＦＯＲＣＥ学習部１３００＿１は、評価用データを用いて、プロセス状態を予測する。
　ステップＳ３２０７において、ＦＯＲＣＥ学習部１３００＿１は、予測結果データを管理装置１２３の管理部１２４に出力する。
　ステップＳ３２０８において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、管理装置１２３の管理部１２４から送信された全ての学習パラメータセットを、ＦＯＲＣＥ学習部に設定したか否かを判定する。
　ステップＳ３２０８において、未だ設定していない学習パラメータセットがある場合には、次の学習パラメータセットを設定すると判定し（ステップＳ３２０８においてＹＥＳと判定し）、ステップＳ３２０２に戻る。
　一方、ステップＳ３２０８において、全ての学習パラメータセットを、ＦＯＲＣＥ学習部に設定したと判定した場合には、次の学習パラメータを設定しないと判定し（ステップＳ３２０８においてＮＯと判定し）、ステップＳ３２２１に進む。
　続いて、ステップＳ３２１０～Ｓ３２１５の処理について説明する。ステップＳ３２１０において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、取得したリザーバ特徴量を、管理装置１２３の管理部１２４に出力する。また、管理装置１２３の管理部１２４は、プロセス状態予測部２０４より出力されたリザーバ特徴量と、プロセス状態データ（正解データ）との組み合わせの一部を再学習用データとして蓄積し、残りの組み合わせを評価用データとして蓄積する。
　ステップＳ３２１１において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、蓄積した再学習用データ及び評価用データが、いずれも所定サイズに到達したか否かを判定する。
　ステップＳ３２１２において、所定サイズに到達していないと判定した場合には（ステップＳ３２１１においてＮＯの場合には）、ステップＳ３２１０に戻る。
　一方、ステップＳ３２１１において、所定サイズに到達したと判定した場合には（ステップＳ３２１１においてＹＥＳの場合には）、ステップＳ３２１２に進む。
　ステップＳ３２１２において、管理装置１２３の管理部１２４は、バッチ学習パラメータを設定する。
　ステップＳ３２１３において、管理装置１２３の管理部１２４は、蓄積した再学習用データを用いて、バッチ学習処理を行い、重みパラメータを算出する。
　ステップＳ３２１４において、管理装置１２３の管理部１２４は、算出した重みパラメータのもと、蓄積した評価用データを用いて、プロセス状態を予測する。
　ステップＳ３２１５において、管理装置１２３の管理部１２４は、バッチ学習予測結果データを算出する。
　ステップＳ３２２１において、管理装置１２３の管理部１２４は、学習パラメータセットごとにプロセス状態予測システム１２８から送信された各予測結果データの中に、予測精度が所定の許容範囲に含まれる予測結果データがあるか否かを判定する。このとき、管理装置１２３の管理部１２４では、算出したバッチ学習予測結果データに基づいて、所定の許容範囲を算出する。
　ステップＳ３２２１において、所定の許容範囲に含まれる予測結果データがないと判定した場合には（ステップＳ３２２１においてＮＯの場合には）、ステップＳ３２２２に進む。
　ステップＳ３２２２において、管理装置１２３の管理部１２４は、新たな学習パラメータセットを生成し、プロセス状態予測システム１２８に送信したうえで、ステップＳ３２０２に戻る。
　一方、ステップＳ３２２１において、所定の許容範囲に含まれる予測結果データがあると判定した場合には（ステップＳ３２２１においてＹＥＳの場合には）、ステップＳ３２２３に進む。
　ステップＳ３２２３において、管理装置１２３の管理部１２４は、再学習期間を終了し、予測期間への移行指示を、プロセス状態予測システム１２８に送信する。また、管理装置１２３の管理部１２４は、予測結果データが所定の許容範囲に含まれ、かつ、予測結果が最も高い重みパラメータを設定するよう、プロセス状態予測システム１２８に設定指示を行う。
　ステップＳ３２２４において、プロセス状態予測システム１２８のプロセス状態予測部２０４は、予測期間に移行する。また、プロセス状態予測システム１２８のプロセス状態予測部２０４は、予測結果データが所定の許容範囲に含まれ、かつ、予測精度が最も高い重みパラメータを、ＦＯＲＣＥ学習部１３００＿Ｘに設定する。これにより、再学習後の予測期間においては、適切な学習パラメータセットのもとで再学習することで得られた重みパラメータを用いて予測結果データを算出することができる。
　＜まとめ＞
　以上の説明から明らかなように、第１の実施形態に係るプロセス状態予測システム１２８は、
・ＰＯＭ分子とカーボンナノチューブとを有するナノ分子リザーバであって、所定の製造プロセスにおいてセンサにより測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するナノ分子リザーバを有する。
・電流信号を読み出し、リザーバ特徴量を出力する読み出し機能部を有する。
・リザーバ特徴量と、所定の製造プロセスの状態を示すプロセス状態データとが相関するように学習された重みパラメータと、学習後に出力されるリザーバ特徴量とに基づき、所定の製造プロセスの状態を予測し、予測結果を出力するプロセス状態予測部を有する。
　このように、ナノ分子リザーバを用いてプロセス状態を予測する構成とすることで、第１の実施形態に係るプロセス状態予測システム１２８によれば、センサデータにおいて出現する短い挙動を捉えてリザーバ特徴量を出力することできる。
　また、第１の実施形態に係るプロセス状態予測システム１２８において、プロセス状態予測部は、逐次最小二乗法によるＦＯＲＣＥ学習処理を行うハードウェアを用いて重みパラメータを学習する。
　これにより、第１の実施形態に係るプロセス状態予測システム１２８によれば、センサデータにおいて出現する短い挙動を捉えて重みパラメータを学習することができる。
　この結果、第１の実施形態によれば、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
　また、第１の実施形態に係るプロセス状態予測システム１２８は、
・学習後の予測期間中に、再学習が必要であると判定された場合に、重みパラメータを再学習する。
・重みパラメータを再学習する際、学習パラメータを最適化する。
　これにより、第１の実施形態に係るプロセス状態予測システム１２８によれば、製造プロセスの経時変化に伴う予測精度の低下を抑えることができる。
　この結果、第１の実施形態によれば、時系列のセンサデータに基づきプロセス状態を予測する際の予測精度を向上させることができる。
　［その他の実施形態］
　上記第１の実施形態では、プロセス状態を予測した予測結果データとして、異常の有無やセンサデータを出力する場合について説明した。しかしながら、プロセス状態予測部２０４により出力される予測結果データは、異常の有無やセンサデータに限定されず、例えば、プロセスの状態を示すレベルや、製造プロセスを実行する装置の故障の有無等であってもよい。
　なお、上記実施形態に挙げた構成等に、その他の要素との組み合わせ等、ここで示した構成に本発明が限定されるものではない。これらの点に関しては、本発明の趣旨を逸脱しない範囲で変更することが可能であり、その応用形態に応じて適切に定めることができる。
　本出願は、２０２１年６月１７日に出願された日本国特許出願第２０２１－１００９８３号に基づきその優先権を主張するものであり、同日本国特許出願の全内容を参照することにより本願に援用する。
　１２０　　　　　　　　　　　：基板処理装置
　１２１　　　　　　　　　　　：チャンバ
　１２２　　　　　　　　　　　：センサ
　１２３　　　　　　　　　　　：管理装置
　１２４　　　　　　　　　　　：管理部
　１２５　　　　　　　　　　　：制御装置
　１２６　　　　　　　　　　　：制御部
　１２７　　　　　　　　　　　：アクチュエータ
　１２８　　　　　　　　　　　：プロセス状態予測システム
　２０１　　　　　　　　　　　：Ｉ／Ｏ制御部
　２０２　　　　　　　　　　　：電圧変調部
　２０３　　　　　　　　　　　：多電極Ｉ／Ｏチップ
　２０４　　　　　　　　　　　：プロセス状態予測部
　４０１　　　　　　　　　　　：Ｄ／Ａ変換部
　４０２　　　　　　　　　　　：ナノ分子リザーバ
　４０３　　　　　　　　　　　：読み出し機能部
　６１０　　　　　　　　　　　：入力側電極
　６２０　　　　　　　　　　　：出力側電極
　１２００　　　　　　　　　　：ＦＯＲＣＥ学習部
　１３００　　　　　　　　　　：ＦＯＲＣＥ学習部
　１２００＿１～１２００＿Ｍ　：ＦＯＲＣＥ学習部
　１３００＿１～１３００＿Ｍ　：ＦＯＲＣＥ学習部
　１６０１～１６０４　　　　　：信号線
　１７２１～１７２４　　　　　：ＦＰＧＡ
　２１１１、２１１２　　　　　：ＦＰＧＡ
　２６０１　　　　　　　　　　：プロセス状態データ送信部
　２６０２　　　　　　　　　　：プロセス状態データ取得部
　２６０３　　　　　　　　　　：期間制御部
　２６０４　　　　　　　　　　：終了情報取得部
　２６０５　　　　　　　　　　：再学習判定部
　２６０６　　　　　　　　　　：評価部
　２６０８　　　　　　　　　　：リザーバ特徴量取得部
　２６０９　　　　　　　　　　：バッチ学習部

Claims (18)

  1. 　ＰＯＭ分子とカーボンナノチューブとを有するリザーバであって、所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号を入力として、電流信号を出力するリザーバと、
    　前記電流信号を読み出し、リザーバ特徴量を出力する読み出し部と、
    　前記リザーバ特徴量と、前記所定のプロセスの状態とが相関するように学習された重みパラメータと、学習後に、前記所定のプロセスにおいて測定される時系列のセンサデータに基づく電圧信号が前記リザーバに入力され、前記読み出し部により電流信号が読み出されることで出力されるリザーバ特徴量とに基づき、前記所定のプロセスの状態を予測し、予測結果を出力する予測部と
    　を有するプロセス状態予測システム。
  2. 　前記所定のプロセスにおいて測定される時系列のセンサデータを、１ＭＨｚ以上のサンプリング周波数で取得し、変調することで電圧データに変換する変調部と、
    　前記電圧データをＤ／Ａ変換し、前記電圧信号を生成する変換部と、を更に有し、
    　前記変換部により生成された前記電圧信号を、入力側の電極を介して、前記リザーバに入力する、請求項１に記載のプロセス状態予測システム。
  3. 　前記読み出し部は、前記電流信号を、出力側の電極、低ノイズアンプ、Ａ／Ｄ変換器を介して、前記ＰＯＭ分子の全体から読み出す、請求項２に記載のプロセス状態予測システム。
  4. 　前記リザーバに電圧信号が入力されてから、前記読み出し部により前記電流信号が読み出されることで前記リザーバ特徴量が出力されるまでの周期は、１μ秒以下である、請求項３に記載のプロセス状態予測システム。
  5. 　入力側の電極数、前記ＰＯＭ分子の電荷蓄積数、リザーバノードの数、前記リザーバのネットワークの形状、対地容量、リザーバノードへの入力重み、リザーバノード間の結合重み、出力側の電極数、電極の形状、読み出し電流の積分時間、の少なくともいずれか１つが調整される、請求項３に記載のプロセス状態予測システム。
  6. 　前記ＰＯＭ分子の液滴の濃度が不均一になるように前記リザーバのネットワークの形状が調整された場合、前記電圧信号は、前記ＰＯＭ分子の濃度分布に応じて配置された入力側の電極を介して入力され、出力側の電極を介して出力される、請求項５に記載のプロセス状態予測システム。
  7. 　前記ＰＯＭ分子の液滴の濃度が均一になるように前記リザーバのネットワークの形状が調整される、請求項５に記載のプロセス状態予測システム。
  8. 　前記ＰＯＭ分子と前記カーボンナノチューブとの連結数と、前記読み出し部により読み出される電流信号の時間的ゆらぎの大きさとの関係に基づき、所定の時間的ゆらぎの大きさを下回る連結数が導出された場合、前記リザーバのネットワークの形状は、該導出された連結数を上回るように調整される、請求項６に記載のプロセス状態予測システム。
  9. 　前記入力側の電極と出力側の電極との間の電界が前記ＰＯＭ分子のネットワークに集中するように、前記電極の形状は尖端形状に構成される、請求項６に記載のプロセス状態予測システム。
  10. 　前記対地容量は、前記ＰＯＭ分子と基板との間に存在する誘電体の厚みを調整することで調整される、請求項５に記載のプロセス状態予測システム。
  11. 　前記予測部は、逐次最小二乗法によるＦＯＲＣＥ学習処理を行うことで前記重みパラメータを学習する、請求項１に記載のプロセス状態予測システム。
  12. 　前記予測部は、複数のＦＰＧＡを有し、各ＦＰＧＡは、前記逐次最小二乗法によるＦＯＲＣＥ学習処理において実行される複数行かつ複数列の行列演算の一部を実行し、各ＦＰＧＡによる実行結果を集計することで、前記重みパラメータを学習する、請求項１１に記載のプロセス状態予測システム。
  13. 　前記予測部において、前記各ＦＰＧＡは、前記逐次最小二乗法によるＦＯＲＣＥ学習処理の一部の演算に用いられる行列の対称性を利用して、既に算出しているベクトルを転置することで、前記一部の演算を代替する、請求項１２に記載のプロセス状態予測システム。
  14. 　前記予測部は、学習後の予測期間中に、再学習が必要であると判定された場合に、前記逐次最小二乗法によるＦＯＲＣＥ学習処理を行うことで前記重みパラメータを再学習する、請求項１１に記載のプロセス状態予測システム。
  15. 　前記予測部は、前記逐次最小二乗法によるＦＯＲＣＥ学習処理により前記重みパラメータを再学習する際、学習パラメータの数に応じた回数の前記ＦＯＲＣＥ学習処理を実行することで、前記学習パラメータの数に応じた数の重みパラメータを算出し、算出した重みパラメータのうち、所定の許容範囲に含まれ、かつ、予測精度が最も高い予測結果に対応する重みパラメータを、再学習後の予測に用いる重みパラメータとして設定する、請求項１４に記載のプロセス状態予測システム。
  16. 　前記所定の許容範囲には、固定値が設定される、または、前記リザーバ特徴量を所定のデータ量まで蓄積し、バッチ学習を行うことにより算出された予測結果に基づく値が設定される、請求項１５に記載のプロセス状態予測システム。
  17. 　いずれの予測結果も予測精度が所定の許容範囲に含まれないと判定され、新たな学習パラメータが生成された場合、前記予測部は、前記新たな学習パラメータに基づいて前記ＦＯＲＣＥ学習処理を実行することで算出した重みパラメータを、再学習後の予測に用いる重みパラメータとして設定する、請求項１５に記載のプロセス状態予測システム。
  18. 　前記予測部により出力された予測結果の精度が所定の閾値以下になった場合、前記電圧信号として入力される前記時系列のセンサデータの種類が変更された場合、または、前記電圧信号として入力される前記時系列のセンサデータの値が所定の閾値以上変動した場合、再学習が必要であると判定される、請求項１４に記載のプロセス状態予測システム。
PCT/JP2022/011741 2021-06-17 2022-03-15 プロセス状態予測システム WO2022264573A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021100983 2021-06-17
JP2021-100983 2021-06-17

Publications (1)

Publication Number Publication Date
WO2022264573A1 true WO2022264573A1 (ja) 2022-12-22

Family

ID=84527014

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/011741 WO2022264573A1 (ja) 2021-06-17 2022-03-15 プロセス状態予測システム

Country Status (2)

Country Link
TW (1) TW202303313A (ja)
WO (1) WO2022264573A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024018696A1 (ja) * 2022-07-20 2024-01-25 東京エレクトロン株式会社 リザーバ装置及びプロセス状態予測システム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020194591A1 (ja) * 2019-03-27 2020-10-01 Tdk株式会社 外れ値検出装置、外れ値検出方法及び外れ値検出プログラム
JP2021060830A (ja) * 2019-10-08 2021-04-15 国立大学法人大阪大学 リザーバコンピューティング用リザーバ及びそれを用いた情報処理装置
WO2021095512A1 (ja) * 2019-11-14 2021-05-20 日本電気株式会社 機械学習装置、情報処理方法および記録媒体
WO2021111573A1 (ja) * 2019-12-05 2021-06-10 Tdk株式会社 リザーバ計算データフロープロセッサ

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020194591A1 (ja) * 2019-03-27 2020-10-01 Tdk株式会社 外れ値検出装置、外れ値検出方法及び外れ値検出プログラム
JP2021060830A (ja) * 2019-10-08 2021-04-15 国立大学法人大阪大学 リザーバコンピューティング用リザーバ及びそれを用いた情報処理装置
WO2021095512A1 (ja) * 2019-11-14 2021-05-20 日本電気株式会社 機械学習装置、情報処理方法および記録媒体
WO2021111573A1 (ja) * 2019-12-05 2021-06-10 Tdk株式会社 リザーバ計算データフロープロセッサ

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
WU SHUO; ZHOU WENLI; WEN KAIQIANG; LI CHENGZHU; GONG QINGFENG: "Improved Reservoir Computing by Carbon Nanotube Network with Polyoxometalate Decoration", 2021 IEEE 16TH INTERNATIONAL CONFERENCE ON NANO/MICRO ENGINEERED AND MOLECULAR SYSTEMS (NEMS), IEEE, 25 April 2021 (2021-04-25), pages 994 - 997, XP033927891, DOI: 10.1109/NEMS51815.2021.9451290 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024018696A1 (ja) * 2022-07-20 2024-01-25 東京エレクトロン株式会社 リザーバ装置及びプロセス状態予測システム

Also Published As

Publication number Publication date
TW202303313A (zh) 2023-01-16

Similar Documents

Publication Publication Date Title
Schemmel et al. A wafer-scale neuromorphic hardware system for large-scale neural modeling
Tao et al. Continuous-time adaptive control of systems with unknown backlash
WO2022264573A1 (ja) プロセス状態予測システム
Manetti et al. A singular-value decomposition approach for ambiguity group determination in analog circuits
Cichocki et al. Simplified neural networks for solving linear least squares and total least squares problems in real time
US11461640B2 (en) Mitigation of conductance drift in neural network resistive processing units
JP2019144779A (ja) 因果推定装置、因果推定方法、及びプログラム
Postoyan et al. Parameter and state estimation for a class of neural mass models
Dreesen et al. Parameter estimation of parallel Wiener-Hammerstein systems by decoupling their Volterra representations
WO2024018696A1 (ja) リザーバ装置及びプロセス状態予測システム
JP7398625B2 (ja) 機械学習装置、情報処理方法およびプログラム
Shah et al. Hierarchical models for white mould in snap bean
JP3479333B2 (ja) 画像の画素セットに対してガウス型の再帰的演算を行う方法および装置
Lazar et al. Consistent recovery of sensory stimuli encoded with MIMO neural circuits
Wang et al. Fault detection for complex systems with channel fadings, randomly occurring multiple delays and infinitely distributed delays
Druckmann et al. A mechanistic model of early sensory processing based on subtracting sparse representations
Koda Neural network learning based on stochastic sensitivity analysis
Miyoshi et al. Storage capacity diverges with synaptic efficiency in an associative memory model with synaptic delay and pruning
Messaris et al. Mem-computing CNNs with bistable-like memristors
WO2021171455A1 (ja) リザボア素子および演算回路
RU2818303C1 (ru) Дискретно-аналоговый фильтр низких частот второго порядка с тремя частотозадающими конденсаторами
Higino et al. Digital filtering in smart load cells
Martinelli et al. Generalized cellular neural network for novelty detection
Arts et al. A discontinuous neural network for non-negative sparse approximation
Cafiero et al. Generalized dielectric breakdown model

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22824570

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE