WO2023120438A1 - Information processing system, information processing method, and program - Google Patents

Information processing system, information processing method, and program Download PDF

Info

Publication number
WO2023120438A1
WO2023120438A1 PCT/JP2022/046506 JP2022046506W WO2023120438A1 WO 2023120438 A1 WO2023120438 A1 WO 2023120438A1 JP 2022046506 W JP2022046506 W JP 2022046506W WO 2023120438 A1 WO2023120438 A1 WO 2023120438A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal
information processing
input
processing system
output
Prior art date
Application number
PCT/JP2022/046506
Other languages
French (fr)
Japanese (ja)
Inventor
明 廣瀬
准也 加藤
剛平 田中
了昌 中根
Original Assignee
国立大学法人 東京大学
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 国立大学法人 東京大学 filed Critical 国立大学法人 東京大学
Publication of WO2023120438A1 publication Critical patent/WO2023120438A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/049Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs

Abstract

[Problem] To provide an information processing system or the like which can detect an abnormality of an operation on the basis of a more generic phenomenon. [Solution] According to an aspect of the present invention, an information processing system is provided. This information processing system comprises a processor. The processor is configured to execute a program that executes each of the following steps. In an input processing step, a first signal, which is a time series signal, is input to a neural network. In a reconstruction step, a second signal is generated so that the first signal is reconstructed from a plurality of output signals output from the neural network. In a detection step, an abnormality pertaining to the first signal is detected on the basis of an error between the first signal and the second signal, and a predetermined reference criterion.

Description

情報処理システム、情報処理方法及びプログラムInformation processing system, information processing method and program
 本発明は、情報処理システム、情報処理方法及びプログラムに関する。 The present invention relates to an information processing system, an information processing method, and a program.
 工場等において、予め定められた動作とともに発生しうる物理現象等の種々の現象をモニタリングし、その現象に基づいて、動作の異常を検出する技術がある。例えば、物理現象として音が用いられる先行技術が特許文献1に開示されている。 There are technologies that monitor various phenomena such as physical phenomena that can occur along with predetermined operations in factories, etc., and detect operational abnormalities based on those phenomena. For example, Patent Document 1 discloses a prior art that uses sound as a physical phenomenon.
特開2021-163088号公報Japanese Patent Application Laid-Open No. 2021-163088
 特許文献1に開示される技術では、動作に際して通常想定される正常音を除いた要素が異常音として特定されているが、正常音と異常音とが線形に結合していない場合も想定される。すなわち、より汎用的な現象に基づいた異常検出の技術が求められている。 In the technique disclosed in Patent Literature 1, elements other than normal sounds that are normally assumed during operation are identified as abnormal sounds, but it is also possible that normal sounds and abnormal sounds are not linearly combined. . That is, there is a demand for anomaly detection technology based on more general phenomena.
 本発明では上記事情を鑑み、より汎用的な現象に基づいて、動作の異常を検出可能な情報処理システム等を提供することとした。 In view of the above circumstances, the present invention provides an information processing system that can detect abnormalities in operation based on more general phenomena.
 本発明の一態様によれば、情報処理システムが提供される。この情報処理システムは、プロセッサを備える。プロセッサは、次の各ステップを実行させるプログラムを実行するように構成される。入力処理ステップでは、時系列信号である第1の信号をニューラルネットワークに入力する。再構成ステップでは、ニューラルネットワークより出力された複数の出力信号から第1の信号を再構成するように、第2の信号を生成する。検出ステップでは、第1の信号と第2の信号との誤差と、予め定められた参照基準とに基づいて、第1の信号に関する異常を検出する。 According to one aspect of the present invention, an information processing system is provided. This information processing system includes a processor. The processor is configured to run a program that causes the following steps to be performed. In the input processing step, the first signal, which is a time-series signal, is input to the neural network. The reconstruction step generates a second signal so as to reconstruct the first signal from the plurality of output signals output from the neural network. The detecting step detects an abnormality in the first signal based on the error between the first signal and the second signal and a predetermined reference standard.
 このような一態様によれば、より汎用的な現象に基づいて、動作の異常を検出することができる。 According to such an aspect, an abnormality in operation can be detected based on a more general phenomenon.
第1の実施形態に係る情報処理装置1(情報処理システム)のハードウェア構成を示すブロック図である。1 is a block diagram showing a hardware configuration of an information processing device 1 (information processing system) according to a first embodiment; FIG. 情報処理装置1における制御部13等によって実現される機能を示すブロック図である。3 is a block diagram showing functions realized by a control unit 13 and the like in the information processing apparatus 1; FIG. ニューラルネットワーク2の構成を示す概要図である。2 is a schematic diagram showing the configuration of a neural network 2; FIG. 情報処理装置1によって実行される情報処理の流れを示すアクティビティ図である。3 is an activity diagram showing the flow of information processing executed by the information processing apparatus 1; FIG. 第1の信号SG1と第2の信号SG2との時間シフトを表す概要図である。FIG. 4 is a schematic diagram representing the time shift between the first signal SG1 and the second signal SG2; 図6Aは、正常データを入力した場合を示し、図6Bは、異常データを入力した場合を示している。FIG. 6A shows the case of inputting normal data, and FIG. 6B shows the case of inputting abnormal data. 図7Aは、荷重w_outjj'<0.05の非主要な結合を採用して正常な第1の信号SG1を評価した場合の誤差E(n)を示し、図7Bは、荷重w_outjj'≧0.05の主要な結合を採用して正常な第1の信号SG1を評価した場合の誤差E(n)を示している。FIG. 7A shows the error E(n) when evaluating the normal first signal SG1 employing non-dominant combinations with weights w_outjj'<0.05, and FIG. 7B shows the error E(n) with weights w_outjj'≧0. 05 leading combination is used to evaluate the normal first signal SG1 error E(n). 図8Aは、荷重w_outjj'<0.05の非主要な結合を採用して異常な第1の信号SG1を評価した場合の誤差E(n)を示し、図8Bは、荷重w_outjj'≧0.05の主要な結合を採用して異常な第1の信号SG1を評価した場合の誤差E(n)を示している。FIG. 8A shows the error E(n) when evaluating the abnormal first signal SG1 employing a non-dominant combination with weights w_outjj′<0.05 and FIG. 8B shows the error E(n) when weights w_outjj′≧0.05. 05 dominant combination is used to evaluate the abnormal first signal SG1, the error E(n). 第2の実施形態に係る情報処理システムのハードウェア構成を示すブロック図である。It is a block diagram which shows the hardware constitutions of the information processing system which concerns on 2nd Embodiment.
 以下、図面を用いて本発明の実施形態について説明する。以下に示す実施形態中で示した各種特徴事項は、互いに組み合わせ可能である。 Embodiments of the present invention will be described below with reference to the drawings. Various features shown in the embodiments shown below can be combined with each other.
 ところで、本実施形態に登場するソフトウェアを実現するためのプログラムは、コンピュータが読み取り可能な非一時的な記録媒体(Non-Transitory Computer-Readable Medium)として提供されてもよいし、外部のサーバからダウンロード可能に提供されてもよいし、外部のコンピュータで当該プログラムを起動させてクライアント端末でその機能を実現(いわゆるクラウドコンピューティング)するように提供されてもよい。 By the way, the program for realizing the software appearing in this embodiment may be provided as a non-transitory computer-readable medium (Non-Transitory Computer-Readable Medium), or may be downloaded from an external server. It may be provided as possible, or may be provided so that the program is activated on an external computer and the function is realized on the client terminal (so-called cloud computing).
 また、本実施形態において「部」とは、例えば、広義の回路によって実施されるハードウェア資源と、これらのハードウェア資源によって具体的に実現されうるソフトウェアの情報処理とを合わせたものも含みうる。また、本実施形態においては様々な情報を取り扱うが、これら情報は、例えば電圧・電流を表す信号値の物理的な値、0又は1で構成される2進数のビット集合体としての信号値の高低、又は量子的な重ね合わせ(いわゆる量子ビット)によって表され、広義の回路上で通信・演算が実行されうる。 Further, in the present embodiment, the term “unit” may include, for example, a combination of hardware resources implemented by circuits in a broad sense and software information processing that can be specifically realized by these hardware resources. . In addition, various information is handled in the present embodiment, and these information are, for example, physical values of signal values representing voltage and current, and signal values as binary bit aggregates composed of 0 or 1. It is represented by high and low, or quantum superposition (so-called quantum bit), and communication and operation can be performed on a circuit in a broad sense.
 また、広義の回路とは、回路(Circuit)、回路類(Circuitry)、プロセッサ(Processor)、及びメモリ(Memory)等を少なくとも適当に組み合わせることによって実現される回路である。すなわち、特定用途向け集積回路(Application Specific Integrated Circuit:ASIC)、プログラマブル論理デバイス(例えば、単純プログラマブル論理デバイス(Simple Programmable Logic Device:SPLD)、複合プログラマブル論理デバイス(Complex Programmable Logic Device:CPLD)、及びフィールドプログラマブルゲートアレイ(Field Programmable Gate Array:FPGA))等を含むものである。 A circuit in a broad sense is a circuit realized by at least appropriately combining circuits, circuits, processors, memories, and the like. That is, Application Specific Integrated Circuit (ASIC), programmable logic device (for example, Simple Programmable Logic Device (SPLD), Complex Programmable Logic Device (CPLD), and field It includes a programmable gate array (Field Programmable Gate Array: FPGA)).
[第1の実施形態]
1.ハードウェア構成
 本節では、第1の実施形態のハードウェア構成について説明する。本実施形態において、情報処理システムとは、1つ又はそれ以上の装置又は構成要素からなるものである。したがって、例えば情報処理装置1単体であっても情報処理システムの一例となる。以下、情報処理システムの一例である情報処理装置1のハードウェア構成について説明する。
[First Embodiment]
1. Hardware Configuration This section describes the hardware configuration of the first embodiment. In this embodiment, an information processing system consists of one or more devices or components. Therefore, for example, even the single information processing apparatus 1 is an example of an information processing system. The hardware configuration of the information processing apparatus 1, which is an example of an information processing system, will be described below.
 図1は、第1の実施形態に係る情報処理装置1(情報処理システム)のハードウェア構成を示すブロック図である。情報処理装置1は、通信部11と、記憶部12と、制御部13と、表示部14と、入力部15とを有し、これらの構成要素が情報処理装置1の内部において通信バス10を介して電気的に接続されている。各構成要素についてさらに説明する。 FIG. 1 is a block diagram showing the hardware configuration of an information processing device 1 (information processing system) according to the first embodiment. The information processing apparatus 1 has a communication section 11, a storage section 12, a control section 13, a display section 14, and an input section 15, and these constituent elements communicate with the communication bus 10 inside the information processing apparatus 1. are electrically connected via Each component will be further described.
 通信部11は、USB、IEEE1394、Thunderbolt(登録商標)、有線LANネットワーク通信等といった有線型の通信手段が好ましいものの、無線LANネットワーク通信、LTE/5G等のモバイル通信、Bluetooth(登録商標)通信等を必要に応じて含めてもよい。すなわち、これら複数の通信手段の集合として実施することがより好ましい。すなわち、情報処理装置1は、通信部11及びネットワークを介して、外部から種々の情報を通信してもよい。具体的には、情報処理装置1は、通信部11を介して、センサ51と接続されている。センサ51の種類は特に限定されず、マイクロフォン(広義の音声センサ)、カメラ(広義のビジョンセンサ)、温度センサ、赤外線センサ、圧力センサ、光電センサ、カラーセンサ、超音波センサ、変移センサ等が適宜使用されうる。 The communication unit 11 is preferably a wired communication means such as USB, IEEE1394, Thunderbolt (registered trademark), wired LAN network communication, etc., but wireless LAN network communication, mobile communication such as LTE/5G, Bluetooth (registered trademark) communication, etc. may be included as required. That is, it is more preferable to implement as a set of these communication means. That is, the information processing device 1 may communicate various information from the outside via the communication unit 11 and the network. Specifically, the information processing device 1 is connected to the sensor 51 via the communication unit 11 . The type of the sensor 51 is not particularly limited, and microphones (broadly defined voice sensors), cameras (broadly defined vision sensors), temperature sensors, infrared sensors, pressure sensors, photoelectric sensors, color sensors, ultrasonic sensors, displacement sensors, etc. are suitable. can be used.
 記憶部12は、前述の記載により定義される様々な情報を記憶する。これは、例えば、制御部13によって実行される情報処理装置1に係る種々のプログラム等を記憶するソリッドステートドライブ(Solid State Drive:SSD)等のストレージデバイスとして、あるいは、プログラムの演算に係る一時的に必要な情報(引数、配列等)を記憶するランダムアクセスメモリ(Random Access Memory:RAM)等のメモリとして実施されうる。記憶部12は、制御部13によって実行される情報処理装置1に係る種々のプログラムや変数等を記憶している。 The storage unit 12 stores various information defined by the above description. For example, it can be used as a storage device such as a solid state drive (SSD) for storing various programs related to the information processing apparatus 1 executed by the control unit 13, or as a temporary storage device related to program calculation. It can be implemented as a memory such as a random access memory (RAM) that stores information (arguments, arrays, etc.) required for . The storage unit 12 stores various programs, variables, etc. related to the information processing apparatus 1 executed by the control unit 13 .
 制御部13(プロセッサ)は、情報処理装置1に関連する全体動作の処理・制御を行う。制御部13は、例えば不図示の中央処理装置(Central Processing Unit:CPU)である。制御部13は、記憶部12に記憶された所定のプログラムを読み出すことによって、情報処理装置1に係る種々の機能を実現する。すなわち、記憶部12に記憶されているソフトウェアによる情報処理が、ハードウェアの一例である制御部13によって具体的に実現されることで、制御部13に含まれる各機能部として実行されうる。これらについては、次節においてさらに詳述する。なお、制御部13は単一であることに限定されず、機能ごとに複数の制御部13を有するように実施してもよい。またそれらの組合せであってもよい。 The control unit 13 (processor) processes and controls overall operations related to the information processing device 1 . The control unit 13 is, for example, a central processing unit (CPU) (not shown). The control unit 13 implements various functions related to the information processing device 1 by reading out a predetermined program stored in the storage unit 12 . That is, information processing by software stored in the storage unit 12 can be specifically realized by the control unit 13 which is an example of hardware, and can be executed as each functional unit included in the control unit 13 . These are further detailed in the next section. Note that the control unit 13 is not limited to a single unit, and a plurality of control units 13 may be provided for each function. A combination thereof may also be used.
 表示部14は、例えば、情報処理装置1の筐体に含まれるものであってもよいし、外付けされるものであってもよい。表示部14は、ユーザが操作可能なグラフィカルユーザインターフェース(Graphical User Interface:GUI)の画面を表示する。これは例えば、CRTディスプレイ、液晶ディスプレイ、有機ELディスプレイ及びプラズマディスプレイ等の表示デバイスを使い分けて実施することが好ましい。 For example, the display unit 14 may be included in the housing of the information processing device 1 or may be externally attached. The display unit 14 displays a screen of a graphical user interface (GUI) that can be operated by the user. It is preferable to use display devices such as a CRT display, a liquid crystal display, an organic EL display, and a plasma display, for example.
 入力部15は、情報処理装置1の筐体に含まれるものであってもよいし、外付けされるものであってもよい。例えば、入力部15は、表示部14と一体となってタッチパネルとして実施されてもよい。タッチパネルであれば、ユーザは、タップ操作、スワイプ操作等を入力することができる。もちろん、タッチパネルに代えて、スイッチボタン、マウス、QWERTYキーボード等を採用してもよい。すなわち、入力部15がユーザによってなされた操作入力を受け付ける。当該入力が命令信号として、通信バス10を介して制御部13に転送され、制御部13が必要に応じて所定の制御や演算を実行しうる。 The input unit 15 may be included in the housing of the information processing device 1 or may be externally attached. For example, the input unit 15 may be integrated with the display unit 14 and implemented as a touch panel. With a touch panel, the user can input a tap operation, a swipe operation, or the like. Of course, a switch button, a mouse, a QWERTY keyboard, or the like may be employed instead of the touch panel. That is, the input unit 15 receives an operation input made by the user. The input is transferred as a command signal to the control unit 13 via the communication bus 10, and the control unit 13 can execute predetermined control and calculation as necessary.
2.機能構成
 本節では、本実施形態の機能構成について説明する。前述の通り、記憶部12に記憶されているソフトウェアによる情報処理がハードウェアの一例である制御部13によって具体的に実現されることで、制御部13に含まれる各機能部が実行されうる。換言すると、情報処理システムの一例である情報処理装置1は、制御部13(プロセッサ)を備える。制御部13は、各機能部のステップを実行させるプログラムを実行するように構成される。
2. Functional Configuration This section describes the functional configuration of this embodiment. As described above, information processing by software stored in the storage unit 12 is specifically realized by the control unit 13, which is an example of hardware, so that each functional unit included in the control unit 13 can be executed. In other words, the information processing device 1, which is an example of an information processing system, includes a control unit 13 (processor). The control unit 13 is configured to execute a program that causes the steps of each functional unit to be executed.
 図2は、情報処理装置1における制御部13等によって実現される機能を示すブロック図である。具体的には、情報処理装置1は、受付部131と、変換部132と、入力処理部133と、出力処理部134と、再構成部135と、判定部136と、検出部137と、送信部138とを備える。 FIG. 2 is a block diagram showing functions realized by the control unit 13 and the like in the information processing device 1. As shown in FIG. Specifically, the information processing apparatus 1 includes a reception unit 131, a conversion unit 132, an input processing unit 133, an output processing unit 134, a reconstruction unit 135, a determination unit 136, a detection unit 137, a transmission and a portion 138 .
 受付部131は、通信部11を介して外部から受け付けた種々の情報を受け付けるように構成される。例えば、受付部131は、受付ステップの一例として、時系列信号である元信号SG0を受け付けてもよい。 The reception unit 131 is configured to receive various types of information received from the outside via the communication unit 11 . For example, the receiving unit 131 may receive the original signal SG0, which is a time-series signal, as an example of the receiving step.
 変換部132は、情報処理装置1が取り扱う種々の情報を変換するように構成される。例えば、変換部132は、変換ステップの一例として、受け付けた元信号SG0を、周波数成分ごとに分解されたスペクトログラムに変換してもよい。 The conversion unit 132 is configured to convert various information handled by the information processing device 1 . For example, as an example of the conversion step, the conversion unit 132 may convert the received original signal SG0 into a spectrogram decomposed for each frequency component.
 入力処理部133は、記憶部12に予め記憶されたニューラルネットワーク2(図3参照)に、入力として必要な情報を入力するように構成される。例えば、入力処理部133は、入力処理ステップの一例として、時系列信号である第1の信号SG1をニューラルネットワーク2に入力してもよい。 The input processing unit 133 is configured to input necessary information as input to the neural network 2 (see FIG. 3) pre-stored in the storage unit 12 . For example, the input processing unit 133 may input the first signal SG1, which is a time-series signal, to the neural network 2 as an example of the input processing step.
 出力処理部134は、記憶部12に予め記憶されたニューラルネットワーク2(図3参照)から、種々の情報を出力するように構成される。 The output processing unit 134 is configured to output various information from the neural network 2 (see FIG. 3) pre-stored in the storage unit 12 .
 再構成部135は、出力処理部134より出力された情報から所望の情報を再構成するように構成される。例えば、再構成部135は、再構成ステップの一例として、ニューラルネットワーク2より出力された複数の出力信号から第1の信号SG1を再構成するように、第2の信号SG2を生成してもよい。 The reconstruction unit 135 is configured to reconstruct desired information from the information output from the output processing unit 134 . For example, as an example of the reconstruction step, the reconstruction unit 135 may generate the second signal SG2 so as to reconstruct the first signal SG1 from a plurality of output signals output from the neural network 2. .
 判定部136は、種々の情報を判定するように構成される。例えば、判定部136は、記憶部12に記憶された参照基準RCを用いて、異常の有無を判定してもよい。 The determination unit 136 is configured to determine various information. For example, the determination unit 136 may determine whether there is an abnormality using the reference RC stored in the storage unit 12 .
 検出部137は、検出ステップの一例として、判定部136による判定結果に基づいて、第1の信号SG1に関する異常を検出してもよい。 As an example of the detection step, the detection unit 137 may detect an abnormality related to the first signal SG1 based on the determination result of the determination unit 136.
 送信部138は、種々の情報を出力又は送信するように構成される。種々の情報は、各種の信号SGでもよいし、異常に関する音声データでもよいし表示情報でもよい。表示情報とは、画面、画像、アイコン、テキスト等といった、ユーザが視認可能な態様で生成された視覚情報そのものでもよいし、例えば表示部14に画面、画像、アイコン、テキスト等を表示させるためのレンダリング情報であってもよい。 The transmission unit 138 is configured to output or transmit various information. The various information may be various signals SG, audio data relating to the abnormality, or display information. The display information may be visual information such as a screen, an image, an icon, text, or the like generated in a user-visible manner. It may be rendering information.
3.ニューラルネットワーク2の構成
 本節では、情報処理装置1におけるニューラルネットワーク2の構成について説明する。
3. Configuration of Neural Network 2 In this section, the configuration of the neural network 2 in the information processing device 1 will be described.
 図3は、ニューラルネットワーク2の構成を示す概要図である。このニューラルネットワーク2は、入力層21と、処理層22と、出力層23とを含む。 FIG. 3 is a schematic diagram showing the configuration of the neural network 2. This neural network 2 includes an input layer 21 , a processing layer 22 and an output layer 23 .
 入力層21には、入力信号として、第1の信号SG1が入力される。この入力層21は、一例として、入力ターミナル211~213を有しているが、あくまでも例示でありこの限りではない。 A first signal SG1 is input to the input layer 21 as an input signal. This input layer 21 has input terminals 211 to 213 as an example, but it is only an example and is not limited to this.
 処理層22は、ニューラルネットワーク2の主たる層であり、複数のニューロンが結合されている。具体的には、図3において、種々のニューロン31~37が図示されている。結合線を通る演算結果は、白抜きの丸が付されていない側から白抜きの丸が付されている側に送信される。例えば、ニューロン31は、入力ターミナル211から入力を受け、ニューロン32とニューロン34とにそれぞれ重み(荷重)付けをして演算結果を送信する。ニューロン32は、ニューロン31から入力を受け、後述の出力ニューロン231に重み付けをして演算結果を送信する。 The processing layer 22 is the main layer of the neural network 2, and multiple neurons are connected. Specifically, in FIG. 3 various neurons 31-37 are illustrated. Calculation results passing through the connecting line are transmitted from the side not marked with a white circle to the side marked with a white circle. For example, the neuron 31 receives an input from the input terminal 211, assigns weights to the neurons 32 and 34, and transmits the computation results. The neuron 32 receives an input from the neuron 31, weights an output neuron 231, which will be described later, and transmits the operation result.
 特に好ましくは、処理層22は、リカレント結合を有するリザバー3を含むとよい。リカレント結合の例として、入力ターミナル212から信号SGがニューロン34に入力され、その後、ニューロン37、ニューロン36及びニューロン33を経て、再びニューロン34に再入力されている。このような態様によれば、一般的に時系列の情報を用いないリザバーコンピューティングの分野において、時系列信号を入力としたリザバーコンピューティングを実現することができる。 Particularly preferably, the processing layer 22 should include a reservoir 3 with recurrent coupling. As an example of the recurrent connection, the signal SG is input from the input terminal 212 to the neuron 34, then via the neurons 37, 36 and 33, and is input again to the neuron 34 again. According to such an aspect, in the field of reservoir computing, which generally does not use time-series information, it is possible to realize reservoir computing using a time-series signal as an input.
 出力層23は、出力ニューロン231~233を含む。すなわち、リザバー3を通して処理された出力信号が出力ニューロン231~233を介して出力され、これらの要素信号が前述の再構成部135によって再構成されることで、第2の信号SG2が得られる。 The output layer 23 includes output neurons 231-233. That is, the output signal processed through the reservoir 3 is output through the output neurons 231 to 233, and these element signals are reconstructed by the reconstructing unit 135 to obtain the second signal SG2.
4.情報処理方法
 本節では、前述した情報処理装置1の情報処理方法について説明する。本実施形態に係る情報処理方法は、前述の、情報処理システムの一例である情報処理装置1の各ステップを備える。図4は、情報処理装置1によって実行される情報処理の流れを示すアクティビティ図である。以下、このアクティビティ図の各アクティビティに沿って、説明するものとする。
4. Information Processing Method In this section, the information processing method of the information processing apparatus 1 described above will be described. The information processing method according to the present embodiment includes each step of the information processing apparatus 1 as an example of the information processing system described above. FIG. 4 is an activity diagram showing the flow of information processing executed by the information processing apparatus 1. As shown in FIG. Each activity in this activity diagram will be described below.
 なお、本実施形態では一例として、情報処理装置1が工場に設置された、ロボット、工作機械等の専用装置に係る装置であり、センサ51がこれら装置の動作音を集音(検知)可能なマイクロフォンであるものとして説明する。すなわち、センサ51が時系列信号として音声信号を記録し、これが通信部11を介して元信号SG0として情報処理装置1に送信される。つまり、情報処理装置1(情報処理システム)に1対1に対応するセンサ51が想定されている。このような態様によれば、異常の元となる箇所を容易に判別することができ、ユーザビリティを向上させることができる。 In this embodiment, as an example, the information processing device 1 is a device related to a dedicated device such as a robot or a machine tool installed in a factory, and the sensor 51 can collect (detect) the operation sound of these devices. It is described as being a microphone. That is, the sensor 51 records an audio signal as a time-series signal, which is transmitted to the information processing apparatus 1 as the original signal SG0 via the communication section 11. FIG. In other words, the sensors 51 are assumed to correspond one-to-one to the information processing apparatus 1 (information processing system). According to such an aspect, it is possible to easily determine the location of the source of the abnormality, and improve usability.
 まず、センサ51は、継続的に装置の動作音を時系列の信号SGとして集音する。すると、受付部131は、受付ステップの一例として、かかる動作音を時系列信号である元信号SG0として受け付ける(アクティビティA101)。換言すると、受付部131は、情報処理システムに1対1に対応するセンサ51から元信号SG0(時系列信号)を受け付ける。なお、元信号SG0は、wav、aiff等の非圧縮の形式で受け付けられてもよいし、aac、wmv、mp3等の種々の圧縮形式で受け付けられてもよい。受け付けられた元信号SG0は、記憶部12の一時記憶領域に記憶される。 First, the sensor 51 continuously collects the operation sound of the device as a time-series signal SG. Then, as an example of a receiving step, the receiving unit 131 receives the operation sound as an original signal SG0, which is a time-series signal (activity A101). In other words, the reception unit 131 receives the original signal SG0 (time-series signal) from the sensor 51 corresponding to the information processing system on a one-to-one basis. The original signal SG0 may be received in an uncompressed format such as wav or aiff, or may be received in various compressed formats such as aac, wmv, or mp3. The accepted original signal SG0 is stored in the temporary storage area of storage unit 12 .
 続いて、変換部132は、記憶部12の一時記憶領域に記憶された元信号SG0を、予め記憶部12に記憶された専用プログラムを用いてフーリエ変換する(アクティビティA102)。換言すると、変換部132は、変換ステップの一例として、受け付けた元信号SG0を、周波数成分ごとに分解されたスペクトログラムに変換する。 Subsequently, the conversion unit 132 Fourier-transforms the original signal SG0 stored in the temporary storage area of the storage unit 12 using a dedicated program stored in advance in the storage unit 12 (activity A102). In other words, as an example of the conversion step, the conversion unit 132 converts the received original signal SG0 into a spectrogram decomposed for each frequency component.
 続いて、入力処理部133は、入力処理ステップの一例として、時系列信号である第1の信号SG1をニューラルネットワーク2に入力する。より好ましくは、入力処理部133は、スペクトログラムを第1の信号SG1としてニューラルネットワーク2に入力する(アクティビティA103)。つまり、入力された第1の信号SG1が入力ターミナル211~213に入力される。特に、第1の信号SG1に含まれる周波数成分ごとに分類した後に、入力ターミナル211~213それぞれに異なる周波数成分が入力されるとよい。このような態様によれば、元信号SG0を直接ニューラルネットワーク2に入力する場合に比して、入力された信号SGを、周波数領域を含めてより定量的に解析することができる。その結果、より精度の高い異常検出を実現することができる。 Subsequently, the input processing unit 133 inputs the first signal SG1, which is a time-series signal, to the neural network 2 as an example of the input processing step. More preferably, the input processing unit 133 inputs the spectrogram to the neural network 2 as the first signal SG1 (activity A103). That is, the input first signal SG1 is input to the input terminals 211-213. In particular, it is preferable to input different frequency components to each of the input terminals 211 to 213 after classifying each frequency component included in the first signal SG1. According to such an aspect, compared to the case where the original signal SG0 is directly input to the neural network 2, the input signal SG can be analyzed more quantitatively including the frequency domain. As a result, more accurate abnormality detection can be realized.
 続いて、処理層22に含まれるリザバー3において、入力された第1の信号SG1に対してリカレント演算を含む演算が実行される(アクティビティA104)。すなわち、処理層22は、過去に入力層21に入力された第1の信号SG1を有限時間保持するように構成される。これにより、ある時刻に対応する第1の信号SG1に対応する第2の信号SG2を出力するために、ある時刻よりも前に入力された第1の信号SG1の成分を使用することができる。 Subsequently, in the reservoir 3 included in the processing layer 22, calculations including recurrent calculations are performed on the input first signal SG1 (activity A104). That is, the processing layer 22 is configured to hold the first signal SG1 input to the input layer 21 in the past for a finite time. This makes it possible to use the component of the first signal SG1 input before a certain time in order to output the second signal SG2 corresponding to the first signal SG1 corresponding to a certain time.
 続いて、出力処理部134は、処理層22を通過して処理された信号SGを、複数の出力信号として出力層23に出力する(アクティビティA105)。その後、リザバー3のニューロン32,35,37から出力された出力信号の成分が出力ニューロン231,232,233に分配されて入力される。 Subsequently, the output processing unit 134 outputs the signal SG processed through the processing layer 22 as a plurality of output signals to the output layer 23 (activity A105). After that, the components of the output signals output from the neurons 32, 35 and 37 of the reservoir 3 are distributed to the output neurons 231, 232 and 233 and input.
 続いて、再構成部135は、再構成ステップの一例として、ニューラルネットワーク2より出力された複数の出力信号から第1の信号SG1を再構成するように、第2の信号SG2を生成する(アクティビティA106)。より具体的には、再構成部135は、出力信号と、出力層23における重み付けを機械学習させた学習済みモデルとに基づいて、第2の信号SG2を生成する。このような態様によれば、機械学習にかかる処理負荷を低減しつつ、精度の高い第2の信号SG2の生成を実現することができる。 Subsequently, as an example of the reconstruction step, the reconstruction unit 135 generates the second signal SG2 so as to reconstruct the first signal SG1 from the plurality of output signals output from the neural network 2 (activity A106). More specifically, the reconstruction unit 135 generates the second signal SG2 based on the output signal and a learned model obtained by machine-learning weighting in the output layer 23 . According to such an aspect, it is possible to generate the second signal SG2 with high accuracy while reducing the processing load on machine learning.
 なお、出力層23より出力される第2の信号SG2は、入力された当時又はそれ以前の第1の信号SG1を再構成するように生成された信号であることが好ましい。つまり好ましくは、出力層23における重み付けを機械学習させるための教師信号は、入力層21に入力された当時又はそれ以前の第1の信号SG1であるとよい。このような態様によれば、ニューラルネットワーク2において往々にして行われる未来の予測信号を再構成する場合に比べて、再構成そのものの精度が向上し、その結果、より精度の高い異常検出を実現することができる。 It should be noted that the second signal SG2 output from the output layer 23 is preferably a signal generated so as to reconstruct the first signal SG1 at or before it was input. That is, preferably, the teacher signal for machine-learning the weighting in the output layer 23 is the first signal SG1 at or before the input to the input layer 21 . According to this aspect, the accuracy of the reconstruction itself improves compared to the case where the future prediction signal is often reconstructed in the neural network 2, and as a result, more accurate abnormality detection is realized. can do.
 続いて、判定部136は、生成された第2の信号SG2について種々の判定を行う。具体的には、判定部136は、第1の信号SG1及び第2の信号SG2の差分を抽出する(アクティビティA107)。次に、判定部136は、記憶部12等に予め記憶された参照基準RCを参照する(アクティビティA108)。これらの差分を参照基準RCに突合させることで、工場に設置された装置の異常(第1の信号SG1に関する異常)の有無が判定される。換言すると、検出部137は、第1の信号SG1と第2の信号SG2との誤差と、予め定められた参照基準RCとに基づいて、第1の信号SG1に関する異常を検出する(アクティビティA109)。異常が検出された場合、異常を知らせるための通知を含む視覚情報が表示部14に表示されるとよい。さらに、送信部138が異常をユーザに知らせるための通知を、ユーザが把握可能な不図示の別端末に送信してもよい。以上の通り説明した情報処理が、アクティビティA109において動作の異常を検出するまで繰り返されるとよい。 Subsequently, the determination unit 136 performs various determinations on the generated second signal SG2. Specifically, the determination unit 136 extracts the difference between the first signal SG1 and the second signal SG2 (activity A107). Next, the determination unit 136 refers to the reference standard RC stored in advance in the storage unit 12 or the like (activity A108). By comparing these differences with the reference standard RC, it is determined whether or not there is an abnormality (abnormality related to the first signal SG1) in the device installed in the factory. In other words, the detection unit 137 detects an abnormality in the first signal SG1 based on the error between the first signal SG1 and the second signal SG2 and the predetermined reference standard RC (activity A109). . When an anomaly is detected, visual information including a notice of the anomaly may be displayed on the display unit 14 . Furthermore, the transmission unit 138 may transmit a notification for notifying the user of the abnormality to another terminal (not shown) that the user can grasp. The information processing described above may be repeated until an abnormal operation is detected in activity A109.
 なお、第2の信号SG2は、入力された当時又はそれ以前の第1の信号SG1を再構成するように生成された信号であるため、差分を抽出する際には、適切な時刻の第1の信号SG1との差分を抽出することに留意されたい。例えば、第2の信号SG2が1単位時刻前の第1の信号SG1を再構成するように生成された信号である場合は、この第2の信号SG2と1単位時刻前の第1の信号SG1とを比較して、これらの差分が抽出されるとよい。 It should be noted that the second signal SG2 is a signal generated to reconstruct the first signal SG1 at or before it was input, so when extracting the difference, the first signal at an appropriate time is used. is extracted from the signal SG1. For example, when the second signal SG2 is a signal generated to reconstruct the first signal SG1 one unit time earlier, the second signal SG2 and the first signal SG1 one unit time earlier are compared to extract these differences.
 また、参照基準RCは、第1の信号SG1及び第2の信号SG2の差分(誤差)に関する閾値の情報をまとめたルックアップテーブルであってよい。判定部136は、差分が閾値以上又は閾値を超える場合に、情報処理装置1に関する工場の装置に異常があるものと判断しうる。 Also, the reference standard RC may be a lookup table that summarizes threshold information regarding the difference (error) between the first signal SG1 and the second signal SG2. The determination unit 136 can determine that there is an abnormality in the factory apparatus related to the information processing apparatus 1 when the difference is equal to or greater than the threshold value.
 さらに好ましくは、参照基準RCは、採用条件に関する情報を有するとよい。そして、第1の信号SG1のうち採用条件を満たさない信号は、検出部137による検出ステップにおいて使用されないようにするとよい。このような態様によれば、異常検出において好ましくない信号SGを排除し、より精度の高い異常検出を実現することができる。特にはじめのうち(所定時間内)の信号SGは、リザバー3の初期内部状態に依存しやすいので、これを採用しないことが好ましい。 More preferably, the reference standard RC should have information on recruitment conditions. Then, it is preferable not to use the signal of the first signal SG1 that does not satisfy the adoption condition in the detection step by the detection unit 137 . According to such an aspect, it is possible to eliminate the signal SG which is undesirable in abnormality detection, and to realize more accurate abnormality detection. In particular, the signal SG at the beginning (within a predetermined period of time) tends to depend on the initial internal state of the reservoir 3, so it is preferable not to employ this.
 換言すると、採用条件は、入力処理部133を開始してからの時間に関するものである。つまり、第1の信号SG1のうち入力処理部133を開始してから所定時間内である信号は、検出部137による検出ステップにおいて使用されないようにするとよい。 In other words, the employment condition relates to the time after the input processing unit 133 is started. In other words, it is preferable not to use the first signal SG1 in the detection step by the detection unit 137 if it is within a predetermined period of time after the input processing unit 133 is started.
 なお、採用しない所定時間(個数とも解する)は、具体的には例えば、10,20,30,40,50,60,70,80,90,100,110,120,130,140,150,160,170,180,190,200,210,220,230,240,250,260,270,280,290,300,310,320,330,340,350,360,370,380,390,400,410,420,430,440,450,460,470,480,490,500,510,520,530,540,550,560,570,580,590,600,610,620,630,640,650,660,670,680,690,700,710,720,730,740,750,760,770,780,790,800,810,820,830,840,850,860,870,880,890,900,910,920,930,940,950,960,970,980,990,1000であり、ここで例示した数値の何れか2つの間の範囲内であってもよい。 In addition, the predetermined time not to be adopted (also understood as the number of times) is specifically, for example, 160, 170, 180, 190, 200, 210, 220, 230, 240, 250, 260, 270, 280, 290, 300, 310, 320, 330, 340, 350, 360, 370, 380, 390, 400, 410,420,430,440,450,460,470,480,490,500,510,520,530,540,550,560,570,580,590,600,610,620,630,640,650, 660,670,680,690,700,710,720,730,740,750,760,770,780,790,800,810,820,830,840,850,860,870,880,890,900, 910, 920, 930, 940, 950, 960, 970, 980, 990, 1000, and may be in the range between any two of the numbers exemplified herein.
 ところで、図4に示されるアクティビティ図では、所定時間等に係る採用条件を満たさない場合、差分との閾値比較の処理よりも前に次の単位時刻の信号処理に遷移している(閾値との比較をスキップ)。これはあくまでも例であり、アクティビティA101~103よりも前にこのようなスキップ処理を行うように実施してもよい。 By the way, in the activity diagram shown in FIG. 4, when the employment conditions related to the predetermined time, etc., are not satisfied, the process transitions to the signal processing of the next unit time before the process of comparing the difference with the threshold value. skip comparison). This is just an example, and the skip processing may be performed before the activities A101-103.
 このような一態様によれば、より汎用的な現象に基づいて、動作の異常を検出することができる。 According to such an aspect, an abnormality in operation can be detected based on a more general phenomenon.
5.理論と実験結果
 本節では、数式を用いた理論と、ニューラルネットワーク2を用いた異常検出の実験結果について説明する。図5は、第1の信号SG1と第2の信号SG2との時間シフトを表す概要図である。
5. Theory and Experimental Results In this section, the theory using mathematical formulas and the experimental results of anomaly detection using neural network 2 are explained. FIG. 5 is a schematic diagram representing the time shift between the first signal SG1 and the second signal SG2.
 リザバー3には、正常データの入力時系列信号である第1の信号SG1が次々と入力される。それとともに、これを適当に時刻シフト(図5ではn_shiftと表記)させた第1の信号SG1を出力層23に提示する。そして、時刻ごとに学習中の一時的な出力信号である第2の信号SG2と教師信号である第1の信号SG1との差のノルム2(kに関して平均をとる二乗平均平方根誤差(root mean square error:RMSE))であるE(n)を算出する(数1参照)。
Figure JPOXMLDOC01-appb-M000001
A first signal SG1, which is an input time-series signal of normal data, is input to the reservoir 3 one after another. At the same time, the output layer 23 is presented with a first signal SG1 obtained by appropriately time-shifting this (represented by n_shift in FIG. 5). Then, the norm 2 of the difference between the second signal SG2, which is a temporary output signal during learning, and the first signal SG1, which is a teacher signal, at each time (root mean square error averaging with respect to k error: RMSE)) is calculated (see Equation 1).
Figure JPOXMLDOC01-appb-M000001
 これは、瞬時誤差ともいえるものであり、この値が小さくなるよう学習を行うことが好ましい。例えば、1時刻ごとに勾配法で荷重を更新して、最適な荷重W{^opt}_out(数4参照)を得ることができる。あるいは、信号が統計的に定常状態ならば、リザバー3から得られる時系列信号を並べて規定される行列X(数2参照/x(n)は各ニューロンからの出力信号)と、教師信号を並べて規定される行列S_out(数3参照)とによって、最適な荷重W{^opt}_out(数4参照)を得てもよい。
Figure JPOXMLDOC01-appb-M000002
Figure JPOXMLDOC01-appb-M000003
Figure JPOXMLDOC01-appb-M000004
This can be said to be an instantaneous error, and it is preferable to perform learning so that this value becomes small. For example, the load can be updated by the gradient method every time to obtain the optimum load W{̂opt}_out (see Equation 4). Alternatively, if the signal is in a statistically stationary state, the matrix X (see Equation 2/x(n) is the output signal from each neuron) defined by arranging the time-series signals obtained from the reservoir 3 and arranging the teacher signal Optimal weight W{^opt}_out (see Equation 4) may be obtained by the defined matrix S_out (see Equation 3).
Figure JPOXMLDOC01-appb-M000002
Figure JPOXMLDOC01-appb-M000003
Figure JPOXMLDOC01-appb-M000004
 ただし、XダガーはXの擬逆行列であり、N'はx(n)の個数(不採用の要素を除く)であり、fインバースはfの逆関数であり、要素ごとに働くものとする。ここで、n_shift≧0であれば、リザバー3は内部の遅延をうまく使って過去の第1の信号SG1(入力波形)を出力するように学習することになり、この課題を入力信号の再構成とよぶ。一方、n_shift<0ならば、未来の入力波形を予測することとなる。本実施形態では、n_shift≧0の場合を好ましい態様として採用している。 where Xdagger is the pseudoinverse of X, N' is the number of x(n) (excluding rejected elements), and finverse is the inverse of f, working element by element. . Here, if n_shift≧0, the reservoir 3 learns to output the past first signal SG1 (input waveform) by making good use of the internal delay. called. On the other hand, if n_shift<0, the future input waveform is predicted. In this embodiment, the case of n_shift≧0 is adopted as a preferred mode.
 n_shift=1として、学習済みのニューラルネットワークに正常データまたは異常データを入力する実験を行った。そのときの誤差E(n)を、図6に示す。図6Aは、正常データを入力した場合を示し、図6Bは、異常データを入力した場合を示している。特に、図6Aの正常データを入力したときよりも図6Bの異常データの方が、誤差E(n)のフロアが上昇している。また変動も、異常データを使用した場合の方が大きいことが確認される。このことより、適切なE(n)の閾値を設定することで、入力信号の再構成による異常検知が可能であることが示される。 An experiment was conducted in which normal data or abnormal data was input to a trained neural network with n_shift=1. The error E(n) at that time is shown in FIG. FIG. 6A shows the case of inputting normal data, and FIG. 6B shows the case of inputting abnormal data. In particular, the floor of the error E(n) is higher with the abnormal data in FIG. 6B than when the normal data in FIG. 6A is input. It is also confirmed that the variation is larger when abnormal data is used. This indicates that setting an appropriate threshold for E(n) enables anomaly detection by reconstruction of the input signal.
 図7Aは、荷重w_outjj'<0.05の非主要な結合を採用して正常な第1の信号SG1を評価した場合の誤差E(n)を示し、図7Bは、荷重w_outjj'≧0.05の主要な結合を採用して正常な第1の信号SG1を評価した場合の誤差E(n)を示している。図8Aは、荷重w_outjj'<0.05の非主要な結合を採用して異常な第1の信号SG1を評価した場合の誤差E(n)を示し、図8Bは、荷重w_outjj'≧0.05の主要な結合を採用して異常な第1の信号SG1を評価した場合の誤差E(n)を示している。 FIG. 7A shows the error E(n) when evaluating the normal first signal SG1 employing non-dominant combinations with weights w_outjj'<0.05, and FIG. 7B shows the error E(n) with weights w_outjj'≧0. 05 leading combination is used to evaluate the normal first signal SG1 error E(n). FIG. 8A shows the error E(n) when evaluating the abnormal first signal SG1 employing a non-dominant combination with weights w_outjj′<0.05 and FIG. 8B shows the error E(n) when weights w_outjj′≧0.05. 05 dominant combination is used to evaluate the abnormal first signal SG1, the error E(n).
 異常な第1の信号SG1を評価した場合は、荷重w_outjj'によらずいずれも誤差値が大きくなっているが、その傾向に相違がある。非主要な結合のみを用いた場合には、誤差のフロアがいずれも大幅に上昇している。その値は、正常データに対しても異常データに対しても類似の反応を見せていて、異常検知がうまく行われない状況となっていることがわかる。主要な結合のみを用いた場合には、誤差のフロアがやや持ち上がるがその幅は大きくない。ただし、正常データに対する誤差のフロアは異常データと同じぐらいに高くなっており、ここでも正常と異常の区別をすることができない状況になっている。また、その揺らぎも大きくなっている。すなわち、リザバー3内のニューロンには、大勢を決めているニューロンと、詳細を合わせ込むニューロンとが存在しているといえる。 When the abnormal first signal SG1 is evaluated, the error value is large regardless of the load w_outjj', but there are differences in the tendencies. Both error floors are significantly elevated when only minor connections are used. The value shows a similar response to both normal data and abnormal data, and it can be seen that the abnormality detection is not performed well. When only the principal couplings are used, the error floor rises slightly, but not significantly. However, the error floor for normal data is as high as for abnormal data, and here too, it is impossible to distinguish between normal and abnormal data. Moreover, the fluctuation is also increasing. In other words, it can be said that the neurons in the reservoir 3 include neurons that determine the majority and neurons that adjust the details.
 この結果は、リザバー3が自己符号化器としての処理をしている面があるものの、異常検知には自己符号化器とは異なって、少ない数のニューロンで情報を絞ればよいのではなく、小さい信号をうまく合わせ込む必要があることを示している。それは、時系列信号は静的信号と異なって時間方向の変化を有するため、その再構成には多くのニューロンを要するととらえることもできる。 This result shows that the reservoir 3 performs processing as an autoencoder, but unlike an autoencoder, for anomaly detection, information should be narrowed down with a small number of neurons rather than an autoencoder. It shows that it is necessary to fit small signals well. It can also be understood that since time-series signals have changes in the time direction unlike static signals, many neurons are required for their reconstruction.
[第2の実施形態]
 次に、第2の実施形態に係る情報処理装置1について説明する。なお、第1の実施形態に係る情報処理装置1と略同様の構成や機能については、その説明を省略する。図9は、第2の実施形態に係る情報処理システムのハードウェア構成を示すブロック図である。図示の通り、情報処理システムに、情報処理装置1以外の構成要素が含まれてもよい。具体的には、第2の実施形態に係る情報処理システムは、情報処理装置1と、センサ51等を含む外部機器5とを備え、これらの構成要素が通信ネットワーク4を介して接続されている。
[Second embodiment]
Next, the information processing device 1 according to the second embodiment will be described. It should be noted that descriptions of configurations and functions that are substantially the same as those of the information processing apparatus 1 according to the first embodiment will be omitted. FIG. 9 is a block diagram showing the hardware configuration of an information processing system according to the second embodiment. As illustrated, the information processing system may include components other than the information processing device 1 . Specifically, the information processing system according to the second embodiment includes an information processing device 1 and an external device 5 including a sensor 51 and the like, and these components are connected via a communication network 4. .
 このように第2の実施形態においては、情報処理装置1は、サーバ(クラウド形態)であり、例えば、SaaS(Software as a Service)やクラウドコンピューティングという形態で、図4に示される情報処理を採用することができる。かかる場合、受付部131は、受付ステップの一例として、通信ネットワーク4を介して、複数のセンサ51又は外部機器5から元信号SG0(時系列信号)を受け付けるとよい(アクティビティA101)。このような一態様によっても、より汎用的な現象に基づいて、動作の異常を検出することができる。特に、外部機器5や複数のセンサ51等から送信された情報を集約的に使用することができ、より高度なデータ活用(いわゆるビッグデータ)や深層学習等の機械学習に応用することができる。 As described above, in the second embodiment, the information processing apparatus 1 is a server (cloud form), and performs the information processing shown in FIG. 4 in the form of SaaS (Software as a Service) or cloud computing, for example. can be adopted. In such a case, as an example of a receiving step, the receiving unit 131 may receive the original signal SG0 (time-series signal) from the plurality of sensors 51 or the external device 5 via the communication network 4 (activity A101). According to such an aspect, it is also possible to detect an abnormal operation based on a more general phenomenon. In particular, the information transmitted from the external device 5 and a plurality of sensors 51 can be collectively used, and can be applied to more advanced data utilization (so-called big data) and machine learning such as deep learning.
[その他]
 前述した情報処理装置システムに関して、以下のような態様を採用してもよい。
[others]
Regarding the information processing apparatus system described above, the following aspects may be adopted.
 前述の各実施形態では、情報処理装置1の構成として種々の機能を説明したが、コンピュータに、情報処理システムの一例である情報処理装置1の各ステップを実行させるプログラムが提供されてもよい。 In each of the above-described embodiments, various functions have been described as the configuration of the information processing device 1, but a computer may be provided with a program for executing each step of the information processing device 1, which is an example of an information processing system.
 前述の実施形態では、受付部131がセンサ51から時系列信号である元信号SG0を受け付け、変換部132がフーリエ変換してスペクトログラムを生成し、入力処理部133がスペクトログラムである第1の信号SG1をニューラルネットワーク2に入力する態様を採用したが、受付部131がセンサ51から受け付けた時系列信号を変換せずに第1の信号SG1としてニューラルネットワーク2に入力するようにしてもよい。 In the above-described embodiment, the receiving unit 131 receives the original signal SG0, which is a time-series signal, from the sensor 51, the transforming unit 132 performs Fourier transform to generate a spectrogram, and the input processing unit 133 generates the first signal SG1, which is a spectrogram. is input to the neural network 2, the time-series signal received by the receiving unit 131 from the sensor 51 may be input to the neural network 2 as the first signal SG1 without conversion.
 前述の実施形態では、参照基準RCがルックアップテーブルであるものとして説明したが、参照基準RCは、ルックアップテーブルに限らず、データベースであってもよく、複数の情報を数学的に関係づけた数理モデルでもよく、複数の情報の相関性を予め機械学習させた学習済みモデルであってもよい。具体的には、第1の信号SG1及び第2の信号SG2の誤差と、動作の異常有無とを学習させた学習済みモデルであってもよい。 In the above-described embodiment, the reference standard RC is described as a lookup table, but the reference standard RC is not limited to a lookup table, and may be a database in which a plurality of pieces of information are mathematically related. A mathematical model may be used, or a trained model obtained by machine-learning the correlation of a plurality of pieces of information in advance may be used. Specifically, it may be a trained model that has learned the error between the first signal SG1 and the second signal SG2 and whether there is an abnormality in the operation.
 本実施形態では、受付部131、変換部132、入力処理部133、出力処理部134、再構成部135、判定部136、検出部137及び送信部138を、情報処理装置1の制御部13によって実現される機能部として説明しているが、この少なくとも一部を、他の装置において実施することで、情報処理システムを実現してもよい。 In this embodiment, the reception unit 131, the conversion unit 132, the input processing unit 133, the output processing unit 134, the reconstruction unit 135, the determination unit 136, the detection unit 137, and the transmission unit 138 are controlled by the control unit 13 of the information processing apparatus 1. Although the description is given as a functional unit to be implemented, the information processing system may be implemented by implementing at least a part of this in another device.
 さらに、次に記載の各態様で提供されてもよい。 In addition, it may be provided in each of the following aspects.
(1)情報処理システムであって、プロセッサを備え、前記プロセッサは、次の各ステップを実行させるプログラムを実行するように構成され、入力処理ステップでは、時系列信号である第1の信号をニューラルネットワークに入力し、再構成ステップでは、前記ニューラルネットワークより出力された複数の出力信号から前記第1の信号を再構成するように、第2の信号を生成し、検出ステップでは、前記第1の信号と前記第2の信号との誤差と、予め定められた参照基準とに基づいて、前記第1の信号に関する異常を検出する、もの。 (1) An information processing system comprising a processor, the processor being configured to execute a program for executing the following steps, and in the input processing step, a first signal that is a time-series signal input to the network, and in the reconstruction step, generate a second signal so as to reconstruct the first signal from a plurality of output signals output from the neural network, and in the detection step, the first signal Detecting anomalies in the first signal based on the error between the signal and the second signal and a predetermined reference standard.
(2)上記(1)に記載の情報処理システムにおいて、前記ニューラルネットワークは、入力層と、処理層と、出力層とを含み、前記処理層は、過去に前記入力層に入力された前記第1の信号を有限時間保持するように構成され、前記出力層より出力される前記第2の信号は、入力された当時又はそれ以前の前記第1の信号を再構成するように生成された信号となる、もの。 (2) In the information processing system described in (1) above, the neural network includes an input layer, a processing layer, and an output layer, and the processing layer includes the first layer input to the input layer in the past. The second signal is configured to hold a signal of 1 for a finite time, and the second signal output from the output layer is a signal generated so as to reconstruct the first signal at or before it was input. Become.
(3)上記(2)に記載の情報処理システムにおいて、前記処理層は、リカレント結合を有するリザバーを含む、もの。 (3) In the information processing system described in (2) above, the processing layer includes a reservoir having recurrent coupling.
(4)上記(2)又は(3)に記載の情報処理システムにおいて、前記再構成ステップでは、前記出力信号と、前記出力層における重み付けを機械学習させた学習済みモデルとに基づいて、前記第2の信号を生成する、もの。 (4) In the information processing system described in (2) or (3) above, in the reconstruction step, the first 2 signals.
(5)上記(4)に記載の情報処理システムにおいて、前記機械学習の教師信号は、前記入力層に入力された当時又はそれ以前の前記第1の信号である、もの。 (5) In the information processing system described in (4) above, the machine learning teacher signal is the first signal at or before input to the input layer.
(6)上記(1)~(5)の何れか1つに記載の情報処理システムにおいて、さらに、受付ステップでは、時系列信号である元信号を受け付け、さらに、変換ステップでは、受け付けた前記元信号を、周波数成分ごとに分解されたスペクトログラムに変換し、前記入力処理ステップでは、前記スペクトログラムを前記第1の信号として前記ニューラルネットワークに入力する、もの。 (6) In the information processing system according to any one of (1) to (5) above, further, the receiving step receives an original signal that is a time-series signal, and the converting step receives the received original signal. A signal is converted into a spectrogram decomposed for each frequency component, and in the input processing step, the spectrogram is input to the neural network as the first signal.
(7)上記(1)~(6)の何れか1つに記載の情報処理システムにおいて、さらに、受付ステップでは、前記情報処理システムに1対1に対応するセンサから時系列信号を受け付ける、もの。 (7) In the information processing system according to any one of (1) to (6) above, further, in the receiving step, a time-series signal is received from a sensor corresponding to the information processing system on a one-to-one basis. .
(8)上記(1)~(6)の何れか1つに記載の情報処理システムにおいて、さらに、受付ステップでは、通信ネットワークを介して、複数のセンサ又は外部機器から時系列信号を受け付ける、もの。 (8) In the information processing system according to any one of (1) to (6) above, further, in the receiving step, time-series signals are received from a plurality of sensors or external devices via a communication network. .
(9)上記(1)~(8)の何れか1つに記載の情報処理システムにおいて、前記参照基準は、採用条件に関する情報を有し、前記第1の信号のうち前記採用条件を満たさない信号は、前記検出ステップにおいて使用されない、もの。 (9) In the information processing system according to any one of (1) to (8) above, the reference standard has information about employment conditions, and the first signal does not satisfy the employment conditions. A signal is not used in said detecting step.
(10)上記(9)に記載の情報処理システムにおいて、前記採用条件は、前記入力処理ステップを開始してからの時間に関するもので、前記第1の信号のうち前記入力処理ステップを開始してから所定時間内である信号は、前記検出ステップにおいて使用されない、もの。 (10) In the information processing system described in (9) above, the employment condition relates to the time after the input processing step is started, and the input processing step is started in the first signal. signals that are within a predetermined time from are not used in the detection step.
(11)情報処理方法であって、上記(1)~(10)の何れか1つに記載の情報処理システムの各ステップを備える、方法。 (11) An information processing method, comprising the steps of the information processing system according to any one of (1) to (10) above.
(12)プログラムであって、コンピュータに、上記(1)~(10)の何れか1つに記載の情報処理システムの各ステップを実行させる、もの。
 もちろん、この限りではない。
(12) A program that causes a computer to execute each step of the information processing system according to any one of (1) to (10) above.
Of course, this is not the only case.
 最後に、本発明に係る種々の実施形態を説明したが、これらは、例として提示したものであり、発明の範囲を限定することは意図していない。当該新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。当該実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。 Finally, although various embodiments of the present invention have been described, these are presented as examples and are not intended to limit the scope of the invention. The novel embodiment can be embodied in various other forms, and various omissions, replacements, and modifications can be made without departing from the scope of the invention. The embodiment and its modifications are included in the scope and gist of the invention, and are included in the scope of the invention described in the claims and equivalents thereof.
1    :情報処理装置
10   :通信バス
11   :通信部
12   :記憶部
13   :制御部
131  :受付部
132  :変換部
133  :入力処理部
134  :出力処理部
135  :再構成部
136  :判定部
137  :検出部
138  :送信部
14   :表示部
15   :入力部
2    :ニューラルネットワーク
21   :入力層
211  :入力ターミナル
212  :入力ターミナル
213  :入力ターミナル
22   :処理層
23   :出力層
231  :出力ニューロン
232  :出力ニューロン
233  :出力ニューロン
3    :リザバー
31   :ニューロン
32   :ニューロン
33   :ニューロン
34   :ニューロン
35   :ニューロン
36   :ニューロン
37   :ニューロン
4    :通信ネットワーク
5    :外部機器
51   :センサ
RC   :参照基準
SG   :信号
SG0  :元信号
SG1  :第1の信号
SG2  :第2の信号
1: information processing device 10: communication bus 11: communication unit 12: storage unit 13: control unit 131: reception unit 132: conversion unit 133: input processing unit 134: output processing unit 135: reconstruction unit 136: determination unit 137: Detector 138 : Transmitter 14 : Display 15 : Input 2 : Neural network 21 : Input layer 211 : Input terminal 212 : Input terminal 213 : Input terminal 22 : Processing layer 23 : Output layer 231 : Output neuron 232 : Output neuron 233: output neuron 3: reservoir 31: neuron 32: neuron 33: neuron 34: neuron 35: neuron 36: neuron 37: neuron 4: communication network 5: external device 51: sensor RC: reference standard SG: signal SG0: original signal SG1: first signal SG2: second signal

Claims (12)

  1. 情報処理システムであって、
     プロセッサを備え、
     前記プロセッサは、次の各ステップを実行させるプログラムを実行するように構成され、
     入力処理ステップでは、時系列信号である第1の信号をニューラルネットワークに入力し、
     再構成ステップでは、前記ニューラルネットワークより出力された複数の出力信号から前記第1の信号を再構成するように、第2の信号を生成し、
     検出ステップでは、前記第1の信号と前記第2の信号との誤差と、予め定められた参照基準とに基づいて、前記第1の信号に関する異常を検出する、もの。
    An information processing system,
    with a processor
    The processor is configured to execute a program that causes the following steps to be performed:
    In the input processing step, the first signal, which is a time-series signal, is input to the neural network,
    In the reconstruction step, generating a second signal so as to reconstruct the first signal from a plurality of output signals output from the neural network;
    The detection step detects an abnormality in the first signal based on an error between the first signal and the second signal and a predetermined reference standard.
  2. 請求項1に記載の情報処理システムにおいて、
     前記ニューラルネットワークは、入力層と、処理層と、出力層とを含み、
     前記処理層は、過去に前記入力層に入力された前記第1の信号を有限時間保持するように構成され、
     前記出力層より出力される前記第2の信号は、入力された当時又はそれ以前の前記第1の信号を再構成するように生成された信号となる、もの。
    In the information processing system according to claim 1,
    The neural network includes an input layer, a processing layer, and an output layer,
    the processing layer is configured to hold the first signal input to the input layer in the past for a finite time;
    The second signal output from the output layer is a signal generated so as to reconstruct the first signal at or before the input.
  3. 請求項2に記載の情報処理システムにおいて、
     前記処理層は、リカレント結合を有するリザバーを含む、もの。
    In the information processing system according to claim 2,
    The processing layer includes a reservoir with recurrent coupling.
  4. 請求項2又は請求項3に記載の情報処理システムにおいて、
     前記再構成ステップでは、前記出力信号と、前記出力層における重み付けを機械学習させた学習済みモデルとに基づいて、前記第2の信号を生成する、もの。
    In the information processing system according to claim 2 or claim 3,
    In the reconstruction step, the second signal is generated based on the output signal and a learned model obtained by machine-learning the weighting in the output layer.
  5. 請求項4に記載の情報処理システムにおいて、
     前記機械学習の教師信号は、前記入力層に入力された当時又はそれ以前の前記第1の信号である、もの。
    In the information processing system according to claim 4,
    The machine learning teacher signal is the first signal at or before input to the input layer.
  6. 請求項1~請求項5の何れか1つに記載の情報処理システムにおいて、
     さらに、受付ステップでは、時系列信号である元信号を受け付け、
     さらに、変換ステップでは、受け付けた前記元信号を、周波数成分ごとに分解されたスペクトログラムに変換し、
     前記入力処理ステップでは、前記スペクトログラムを前記第1の信号として前記ニューラルネットワークに入力する、もの。
    In the information processing system according to any one of claims 1 to 5,
    Furthermore, in the receiving step, the original signal, which is a time-series signal, is received,
    Furthermore, in the conversion step, the received original signal is converted into a spectrogram decomposed for each frequency component,
    In the input processing step, the spectrogram is input to the neural network as the first signal.
  7. 請求項1~請求項6の何れか1つに記載の情報処理システムにおいて、
     さらに、受付ステップでは、前記情報処理システムに1対1に対応するセンサから時系列信号を受け付ける、もの。
    In the information processing system according to any one of claims 1 to 6,
    Furthermore, in the receiving step, time-series signals are received from sensors corresponding to the information processing system on a one-to-one basis.
  8. 請求項1~請求項6の何れか1つに記載の情報処理システムにおいて、
     さらに、受付ステップでは、通信ネットワークを介して、複数のセンサ又は外部機器から時系列信号を受け付ける、もの。
    In the information processing system according to any one of claims 1 to 6,
    Furthermore, in the receiving step, time-series signals are received from a plurality of sensors or external devices via a communication network.
  9. 請求項1~請求項8の何れか1つに記載の情報処理システムにおいて、
     前記参照基準は、採用条件に関する情報を有し、
     前記第1の信号のうち前記採用条件を満たさない信号は、前記検出ステップにおいて使用されない、もの。
    In the information processing system according to any one of claims 1 to 8,
    The reference standard has information on recruitment conditions,
    Signals that do not satisfy the adoption condition among the first signals are not used in the detection step.
  10. 請求項9に記載の情報処理システムにおいて、
     前記採用条件は、前記入力処理ステップを開始してからの時間に関するもので、
     前記第1の信号のうち前記入力処理ステップを開始してから所定時間内である信号は、前記検出ステップにおいて使用されない、もの。
    In the information processing system according to claim 9,
    The employment condition relates to the time from the start of the input processing step,
    A signal of the first signal that is within a predetermined period of time after starting the input processing step is not used in the detecting step.
  11. 情報処理方法であって、
     請求項1~請求項10の何れか1つに記載の情報処理システムの各ステップを備える、方法。
    An information processing method,
    A method comprising the steps of an information processing system according to any one of claims 1-10.
  12. プログラムであって、
     コンピュータに、請求項1~請求項10の何れか1つに記載の情報処理システムの各ステップを実行させる、もの。
    a program,
    A computer that executes each step of the information processing system according to any one of claims 1 to 10.
PCT/JP2022/046506 2021-12-20 2022-12-16 Information processing system, information processing method, and program WO2023120438A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-206366 2021-12-20
JP2021206366A JP2023091563A (en) 2021-12-20 2021-12-20 Information processing system, information processing method, and program

Publications (1)

Publication Number Publication Date
WO2023120438A1 true WO2023120438A1 (en) 2023-06-29

Family

ID=86902710

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/046506 WO2023120438A1 (en) 2021-12-20 2022-12-16 Information processing system, information processing method, and program

Country Status (2)

Country Link
JP (1) JP2023091563A (en)
WO (1) WO2023120438A1 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018150616A1 (en) * 2017-02-15 2018-08-23 日本電信電話株式会社 Abnormal sound detection device, abnormality degree calculation device, abnormal sound generation device, abnormal sound detection learning device, abnormal signal detection device, abnormal signal detection learning device, and methods and programs therefor
JP2019036112A (en) * 2017-08-15 2019-03-07 日本電信電話株式会社 Abnormal sound detector, abnormality detector, and program
US20190312898A1 (en) * 2018-04-10 2019-10-10 Cisco Technology, Inc. SPATIO-TEMPORAL ANOMALY DETECTION IN COMPUTER NETWORKS USING GRAPH CONVOLUTIONAL RECURRENT NEURAL NETWORKS (GCRNNs)
JP2020009411A (en) * 2018-07-09 2020-01-16 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited Sparse neural network-based abnormality detection in multidimensional time series

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018150616A1 (en) * 2017-02-15 2018-08-23 日本電信電話株式会社 Abnormal sound detection device, abnormality degree calculation device, abnormal sound generation device, abnormal sound detection learning device, abnormal signal detection device, abnormal signal detection learning device, and methods and programs therefor
JP2019036112A (en) * 2017-08-15 2019-03-07 日本電信電話株式会社 Abnormal sound detector, abnormality detector, and program
US20190312898A1 (en) * 2018-04-10 2019-10-10 Cisco Technology, Inc. SPATIO-TEMPORAL ANOMALY DETECTION IN COMPUTER NETWORKS USING GRAPH CONVOLUTIONAL RECURRENT NEURAL NETWORKS (GCRNNs)
JP2020009411A (en) * 2018-07-09 2020-01-16 タタ コンサルタンシー サービシズ リミテッドTATA Consultancy Services Limited Sparse neural network-based abnormality detection in multidimensional time series

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
TANAKA, GOUHEI: "Concept of reservoir computing and its recent trends", JOURNAL OF THE INSTITUTE OF ELECTRONICS, INFORMATION AND COMMUNICATION ENGINEERS, DENSHI JOHO TSUSHIN GAKKAI, TOKYO., JP, vol. 102, no. 2, 30 November 2018 (2018-11-30), JP , pages 108 - 113, XP009537648, ISSN: 0913-5693 *

Also Published As

Publication number Publication date
JP2023091563A (en) 2023-06-30

Similar Documents

Publication Publication Date Title
EP3776113B1 (en) Apparatus and method for controlling system
Yan et al. Degradation assessment and fault modes classification using logistic regression
US11934184B2 (en) Automated analysis of non-stationary machine performance
US11115295B2 (en) Methods and systems for online monitoring using a variable data
JP2016085704A (en) Information processing system, information processing device, information processing method, and program
JP4079892B2 (en) Encoder and motor control device
JP6542096B2 (en) Failure diagnosis system
EP3796115B1 (en) Anomaly detection for robotic arms using vibration data
EP3674946B1 (en) System and method for detecting anomalies in cyber-physical system with determined characteristics
WO2023120438A1 (en) Information processing system, information processing method, and program
US10078062B2 (en) Device health estimation by combining contextual information with sensor data
JP2006285884A (en) Failure diagnosis method and control apparatus therewith
US11366460B2 (en) System for monitoring electrical devices and a method thereof
WO2021075583A1 (en) Manufacturing automation using acoustic separation neural network
US20230184699A1 (en) Information processing apparatus, information processing method, non-transitory computer readable media storing program, and x-ray analysis apparatus
KR102248299B1 (en) User customized monitoring system and mehtod performing thereof
CN117254593B (en) Cloud-edge-collaboration-based intelligent management and control platform and method for power grid inspection operation
US20230123872A1 (en) Method for detection of anomolous operation of a system
KR102108529B1 (en) Device and method for remotely diagnosing programmable logic controller
Denkena et al. Process Monitoring with Variational Auto Encoders
RU2793797C2 (en) Intelligent audio-analytical device and method for spacecrafts
US20220335257A1 (en) Neural network based anomaly detection for time-series data
KR20240032405A (en) Apparatus for diagnosing fault in cable
CN115271117A (en) Method and device for diagnosing faults of internal equipment of converter station and computer equipment
JP2024040655A (en) Failure prediction system and failure prediction method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22911141

Country of ref document: EP

Kind code of ref document: A1