JP2014203245A

JP2014203245A - 多チャンネルデータ識別装置および多チャンネルデータ識別方法

Info

Publication number: JP2014203245A
Application number: JP2013078556A
Authority: JP
Inventors: 小林　匠; Takumi Kobayashi; 匠小林
Original assignee: National Institute of Advanced Industrial Science and Technology AIST
Current assignee: National Institute of Advanced Industrial Science and Technology AIST
Priority date: 2013-04-04
Filing date: 2013-04-04
Publication date: 2014-10-27
Anticipated expiration: 2033-04-04
Also published as: JP6206947B2

Abstract

【課題】複数チャネルの時系列情報等を高精度かつ高速に学習し、識別する多チャンネルデータ識別装置および多チャンネルデータ識別方法を提供する。【解決手段】多チャンネルデータ識別装置は、学習用の評価値付きの複数の多チャンネルデータ行列に基づき、学習用の各多チャンネルデータ行列の識別誤差の和と、識別行列のトレースノルムとの和を目的関数とし、目的関数の値が最小になるような識別行列を求める学習手段と、識別行列を使用して入力された多チャンネルデータ行列を識別し、識別結果を出力する識別手段とを備える。大域的最適解が保障され、情報の識別精度が向上する。また、凸２次計画法を繰り返すのみなので、学習時の計算量が小さい。【選択図】図１

Description

本発明は、多チャンネルデータ識別装置および多チャンネルデータ識別方法に関するものであり、特に複数の計測装置から得られる複数チャネルの時系列情報から正常／異常などを識別（判定）する多チャンネルデータ識別装置および多チャンネルデータ識別方法に関する。

多数のセンサーからの時系列情報や、複数の計測装置から得られる複数チャネルの時系列情報である多チャンネル信号は例えば縦軸をチャネル番号、横軸を時間とする特徴行列（特徴次元×物理次元）の形式で表現することができる。そして、多チャンネル時系列信号から正常／異常を判定するには双線形モデルを用いることができ、その双線形モデルの学習（最適化）手法については幾つかの近似手法が提案されている。しかし、近似手法においては局所解となる恐れが存在し、最適性が保証されないので識別精度が低いという問題点があった。

そこで、最適解を求めるために、ＳＤＰ（Semi-definite_programming：半正定値計画法）という手法が提案されている。下記の特許文献１には、半正定値計画法（ＳＤＰ）を用いて解を求める制御系解析・設計装置が開示されている。

特開平１１−３２８２３９号公報

しかしながら前記したＳＤＰにおいては、学習のための計算時間が膨大となってしまい、多数のサンプルを学習に用いることが困難になるという問題点があった。本発明の目的は、前記のような従来技術の問題点を解決し、複数の計測装置から得られる複数チャネルの時系列情報を高精度かつ高速に学習し、識別する多チャンネルデータ識別装置および多チャンネルデータ識別方法を提供することにある。

本発明の多チャンネルデータ識別装置および多チャンネルデータ識別方法は、双線形モデルの学習を計算量が少ない凸最適化問題として定式化した点に特長がある。

本発明の多チャンネルデータ識別装置は、学習用の教示信号（クラスラベルや評価値など）付きの複数の多チャンネルデータ行列に基づいて識別行列を求める学習手段と、前記識別行列を使用して入力された多チャンネルデータ行列を識別し、識別結果を出力する識別手段とを備えた多チャンネルデータ識別装置において、前記学習手段は、学習用の各多チャンネルデータ行列の識別誤差の和と、前記識別行列のトレースノルムとの和を目的関数とし、前記目的関数の値が最小になるような識別行列を求めることを主要な特長とする。

また、前記した多チャンネルデータ識別装置において、前記学習手段は、前記目的関数を双対問題に基づいて変形し、変形した目的関数の値が最小になるように、最急降下法によって識別行列を求める点にも特長がある。また、前記した多チャンネルデータ識別装置において、前記学習手段は、前記目的関数を後述する数式に変形し、数式を目的関数として識別行列を求める点にも特長がある。

本発明の多チャンネルデータ識別方法は、学習用の教示信号（クラスラベルや評価値など）付きの複数の多チャンネルデータ行列に基づき、学習用の各多チャンネルデータ行列の識別誤差の和と、前記識別行列のトレースノルムとの和を目的関数とし、前記目的関数の値が最小になるような識別行列を求める学習ステップと、前記識別行列を使用して入力された多チャンネルデータ行列を識別し、識別結果を出力する識別ステップとを含むことを主要な特長とする。

本発明の多チャンネルデータ識別装置および多チャンネルデータ識別方法には以下のような効果がある。（１）大域的最適解が保証され、双線形モデルは特徴行列の本質的な構造を抽出することができるので、入力データの識別精度が向上する。（２）ＳＤＰではなく、計算量の小さい凸２次計画法を繰り返すのみなので、学習時の計算量が小さい。（３）双線形モデルのランク数が自動的に決まり、高速の学習、識別処理が可能となる。

図１は本発明の多チャンネルデータ識別装置のハードウェア構成を示すブロック図である。図２は本発明の多チャンネルデータ識別方法における学習処理の内容を示すフローチャートである。

以下に、この発明の実施の形態を実施例によって図面に基づき詳細に説明する。

まず、本発明の識別方法について説明する。複数の計測装置から得られる複数チャネルの時系列信号である多チャンネル信号は、縦軸をチャネル番号、横軸を時間（時刻）として電圧などの各測定値を２次元に並べた特徴行列で表すことができる。このような特徴行列に対する双線形モデルによる識別（判定、推定値を求める）は以下の数式１によって行われる。なお、特徴行列の行数は列数よりも大きいものとする。（なお、列数が行数よりも大きい場合には特徴行列を転置すればよい。）

なお、ｔｒはトレース（行列の対角和）である。識別値（判定値、推定値）ｙハットは特徴行列Ｘと識別行列Ｗから算出される。識別行列Ｗは、数式２に示す学習用の特徴行列（学習サンプル）Ｘおよびその教示信号（評価値、学習サンプルのラベル）ｙ（例えば正常が＋１、異常が−１）から後述する学習処理によって求める。

ここで、識別行列Ｗとしては以下のような条件が必要とされる。即ち、（１）識別対象を高精度で識別する。（２）計算量が少なく高速な識別を可能とするためにランク数は出来る限り小さい。なお、ランク数（行列の階数、rank）とは、行列の列ベクトルの一次独立なものの最大個数であり、ランク数が増えると計算量がランク数に線形に増加する。これらの条件を満足させるために、以下の数式３に示す目的関数を最小化するような識別行列Ｗを求める必要がある。

なお、数式３の第１項はＷのランク数を表す項であり、第２項は各学習データの識別誤差の和を表す項である。しかし、ランク数を直接最小化させる数式３の最適化問題は効率的に解くことが困難である。そこで、本発明においては識別行列Ｗの特異値の和であるトレースノルム｜Ｗ｜_Σに着目し、トレースノルム｜Ｗ｜_Σが小さければランク数も小さいことを利用して、以下の数式４に示すように目的関数のランク数をトレースノルムに置き換える。

以下、この数式４の目的関数の式の変形を行う。まず、トレースノルム｜Ｗ｜_Σは以下の数式５の不等式を満足するので、数式４は以下に示す数式６に変形できる。

更に、数式６の第２項および第３項は、数式７に示すような式の置き換え（双対問題）が可能であるので、最適化対象であるＷ_cをΣ_c＝Ｗ_c＊Ｗ_c ^Tに置き換えることで数式６は数式８に変形できる。

なお、数式７の最後の行の不等号に似た記号および０は非負定値を表す。

本発明においては、この数式８を目的関数として、後述する最急降下法によって新たな最適化対象であるΣ_cを求め、Σ_cから以下の数式９によって識別行列Ｗを求める。

そして、識別処理においては特徴行列Ｘから特徴行列Ｗを用いて識別値ｙを求める。

次に、実施例の装置について説明する。図１は本発明の多チャンネルデータ識別装置のハードウェア構成を示すブロック図である。図１はセンサー信号を入力するための構成であり、複数のセンサー１０、１１、１２は例えば農業用ビニールハウスの内部の温度、湿度、ＣＯ₂濃度をデジタル信号に変換し、コンピューター１５に出力する。

コンピューター１５は例えばアナログ電気信号を取り込むための複数のインターフェイス回路（アナログ信号入力回路：サンプリング、Ａ／Ｄ変換回路）あるいはデジタル信号を取り込むための複数のインターフェイス回路を備えた周知のパソコン（ＰＣ）であってもよい。本発明は、パソコンなどの周知の任意のコンピューター１５に後述する処理を実行するプログラムを作成、インストールすることにより実現される。

モニタ装置１２はコンピューター１１の周知の出力装置であり、例えばハウス内の環境や病気予兆の有無について適／不適、正常／異常などの識別結果等をオペレータに表示するために使用される。キーボード１３およびマウス１４は、オペレータが入力に使用する周知の入力装置である。

図２は本発明を使用した学習処理の内容を示すフローチャートである。学習処理においては最急降下法と言われる最適化手法を採用している。前記した数式８に示す目的関数の１次微分を数式１０に示す。

学習処理においては上記した数式１０の一次微分の大きさが所定の値ε未満になるまで処理を繰り返す。学習処理においては、まず、数式２に示す学習用の特徴行列Ｘおよびその評価値ｙ（例えば正常が＋１、異常が−１）のセットを多数コンピューター１５の外部記憶装置などに用意しておく。

Ｓ１０においては、行列Σ_cをランダムな値で初期化し、ｊ＝０の時の初期値とする。Ｓ１１においては、ｊに１を代入する。Ｓ１２においては、λに１を代入する。

Ｓ１３においては、Σ_c ^[j]＝Σ_c ^[j-1]−λ∇Ｊ(Σ_c ^[j-1])を計算する。Ｓ１４においては、Ｓ１３で求めたΣ_c ^[j]を、Σ_c ^[j]＝ＶΩＶ^T＝Σ_i ^dω_iｖ_iｖ_i ^Tと固有分解する。なお、Ｖ＝［ｖ₁,…,ｖ_d］：固有ベクトル、Ω＝diag(ω₁,…,ω_d)：固有値を対角に並べた対角行列である。

Ｓ１５においては、負の固有値を除外して、Σ_cを更新する。Σ_c ^[j]＝Σ_i|ωi>0ω_iｖ_iｖ_i ^T、Ｓ１６においては、Ｊ(Σ_c ^[j])＜Ｊ(Σ_c ^[j-1])？か否かが判定され、判定結果が否定の場合にはＳ１７に移行するが、肯定の場合にはＳ１８に移行する。Ｓ１７においては、λに0.5λを代入してＳ１３に移行する。

Ｓ１８においては、||∇Ｊ(Σ_c ^[j]) ||²＜εか否かが判定され、判定結果が否定の場合にはＳ１９に移行するが、肯定の場合には学習処理を終了する。なお、「||…||」はノルムを表す記号であり、εは非常に小さな定数（例えばε＝１０^-4）である。Ｓ１９においては、ｊに１を加算して、Ｓ１２に移行する。以上の装置および学習処理によって、高精度かつ少ない計算量で識別行列Ｗが得られる。

本発明は多数のセンサーからの測定信号を初め、心電計からの出力信号、音声その他の音響信号などコンピューターに入力可能な任意の複数の信号の認識、識別、機械の故障等による異音、異常検出に適用可能である。

１０〜１２…センサー１３…心電計１５…コンピューター１６…モニタ装置１７…キーボード１８…マウス

Claims

学習用の教示信号付きの複数の多チャンネルデータ行列に基づき、識別行列を求める学習手段と、前記識別行列を使用して入力された多チャンネルデータ行列を識別し、識別結果を出力する識別手段とを備えた多チャンネルデータ識別装置において、前記学習手段は、学習用の各多チャンネルデータ行列の識別誤差の和と、前記識別行列のトレースノルムとの和を目的関数とし、前記目的関数の値が最小になるような識別行列を求めることを特長とする多チャンネルデータ識別装置。
前記学習手段は、前記目的関数を双対問題を用いて変形し、変形した目的関数の値が最小になるように、最急降下法によって識別行列を求めることを特長とする請求項１に記載の多チャンネルデータ識別装置。
前記学習手段は、前記目的関数を以下に示す数式１１に変形し、

数式１１を目的関数として識別行列を求めることを特長とする請求項２に記載の多チャンネルデータ識別装置。
学習用の評価値付きの複数の多チャンネルデータ行列に基づき、学習用の各多チャンネルデータ行列の識別誤差の和と、前記識別行列のトレースノルムとの和を目的関数とし、前記目的関数の値が最小になるような識別行列を求める学習ステップと、前記識別行列を使用して入力された多チャンネルデータ行列を識別し、識別結果を出力する識別ステップとを含むことを特長とする多チャンネルデータ識別方法。