JP2016206784A - データ分析装置及びデータ分析方法 - Google Patents

Abstract

【課題】データのクラスタリングを好適に行うことが可能な特徴空間を生成するデータ分析装置及びデータ分析方法を提供する。
【解決手段】分析対象システムの大局的な状態を区別することができる特徴量（第１特徴量）と、分析対象システムの局所的な状態を区別することができる特徴量（第２特徴量）と、を組み合わせて、特徴空間に係る基底Ｆを生成する。これにより、データのクラスタリングをより高い精度で行うことができる特徴空間を生成することが可能となる。
【選択図】図２

Description

本発明は、データ分析装置及びデータ分析方法に関する。

機械システム等において、種々のセンサから取得された複数の測定値（変数）を含んで構成されるデータは、機械システムの運用条件等によって複数のクラスタ（集合）により形成されている場合がある。このデータを利用して機械システムの異常診断等を行う場合、複数のクラスタにデータを分離した後に診断を行うことで、異常診断の精度が向上する。したがって、複数のデータをクラスタ毎に分離する（クラスタリング）手法が種々検討されている。このようなクラスタリングの手法としては、例えば、ｋ平均法、カーネルｋ平均法等が知られている。このようなクラスタリングの手法として、特徴空間に対してデータを写像した後に、写像したデータを利用して複数のクラスタに分離することが知られている（例えば、非特許文献１参照）。

矢入健久、他３名，「次元削減とクラスタリングによる宇宙機テレメトリ監視法」，日本航空宇宙学論文集，２０１１年８月，第５９巻，第６９１号，ｐ．１９７−２０５

一般的に、機械システム等から取得されるデータに含まれるクラスタ構造には、システム全体の状態が変化することに由来して複数の変数の大半が変化するために区別されるクラスタ構造と、システムの一部の状態が変化するために一部の変数のみが変化することにより区別されるクラスタ構造と、の２種類がある。しかしながら、従来用いられている特徴空間への写像を利用したクラスタリングの手法では、２種類のクラスタ構造の双方を好適に分離することが困難であり、改善の余地があった。

本発明は上記を鑑みてなされたものであり、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができるデータ分析装置及びデータ分析方法を提供することを目的とする。

上記目的を達成するため、本発明の一形態に係るデータ分析装置は、分析対象システムに係る複数の項目に対応した値を有するデータセットを複数含む単位データを取得する単位データ取得手段と、前記単位データを利用して、前記分析対象システムの大局的な状態を区別することができる１以上の第１特徴量を生成する第１特徴量生成手段と、前記単位データを利用して、前記分析対象システムの局所的な状態を区別することができる１以上の第２特徴量を生成する第２特徴量生成手段と、前記第１特徴量及び前記第２特徴量に基づいて、特徴空間を定義する基底を生成する特徴空間定義手段と、を備えることを特徴とする。

また、本発明の一形態に係るデータ分析方法は、分析対象システムに係る複数の項目に対応した値を有するデータセットを複数含む単位データを取得する単位データ取得ステップと、前記単位データを利用して、前記分析対象システムの大局的な状態を区別することができる１以上の第１特徴量を生成する第１特徴量生成ステップと、前記単位データを利用して、前記分析対象システムの局所的な状態を区別することができる１以上の第２特徴量を生成する第２特徴量生成ステップと、前記第１特徴量及び前記第２特徴量に基づいて、特徴空間を定義する基底を生成する特徴空間定義ステップと、を備えることを特徴とする。

上記のデータ分析装置及びデータ分析方法によれば、分析対象システムの大局的な状態を区別することができる１以上の第１特徴量と、分析対象システムの局所的な状態を区別することができる１以上の第２特徴量と、に基づいて、特徴空間を定義する基底を生成する。第１特徴量は、分析対象システムの大局的な状態、すなわち、システム全体の状態が変化するクラスタ構造がある場合にこれらを区別することができる。また、第２特徴量、分析対象システムの局所的な状態、すなわち、システムの一部のみが変化するクラスタ構造がある場合にこれらを区別することができる。このような第１特徴量及び第２特徴量を組み合わせた基底を生成することで、当該基底により定義される特徴空間内では、各クラスタを高い精度で分離することができる。したがって、上記のデータ分析装置及びデータ分析方法によれば、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

ここで、前記特徴空間定義手段により生成された前記基底を用いて、前記単位データを前記特徴空間に対して写像する写像手段と、前記特徴空間に対して写像された前記単位データを、複数のクラスタに分類するクラスタリング手段と、を更に備える態様とすることもできる。

このように、写像手段及びクラスタリング手段を備える場合、特徴空間定義手段により定義された特徴空間を用いたデータのクラスタリングをデータ分析装置において好適に行うことが可能となる。

また、前記クラスタリング手段により分類された前記複数のクラスタについて、各クラスタの特徴を示すクラスタ特徴情報を抽出するクラスタ特徴抽出手段と、前記単位データに含まれる複数の項目に対応した値を有するデータセットを複数含む診断データを取得する診断データ取得手段と、前記特徴空間定義手段により生成された前記基底を用いて、前記診断データを前記特徴空間に対して写像する診断データ写像手段と、前記特徴空間に対して写像された前記診断データを、前記複数のクラスタに係る前記クラスタ特徴情報に基づいて前記複数のクラスタのいずれかにデータセット毎に分類するラベリング手段と、を更に備える態様とすることもできる。

この場合、データ分析装置を利用して、診断データを特徴空間に写像した後に、特徴空間における単位データのクラスタリングの結果から導かれるクラスタ特徴情報に基づいて、診断データをデータセット毎にクラスタに分類することができる。したがって、特徴空間定義手段により定義された特徴空間を用いて、データのクラスタリングを高い精度で行うことができる。

ここで、前記第１特徴量生成手段は、前記単位データに対して主成分分析を行うことにより前記第１特徴量を生成する態様とすることができる。

このように、主成分分析を用いることで、分析対象システムの大局的な状態を好適に区別することができる第１特徴量を生成することができる。したがって、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

また、前記第２特徴量生成手段は、前記単位データを構成する前記複数の項目に含まれる１以上の項目を前記第２特徴量として用いる態様とすることができる。

分析対象システムが単位データの特定の項目の影響を大きく受けている場合、上記のように単位データを構成する項目を直接第２特徴量として用いることで、これらを好適に区別することができる。したがって、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

また、前記第２特徴量は、互いに異なる複数の手法を用いて生成された複数種類の特徴量を含む態様とすることができる。

このように、第２特徴量として複数種類の特徴量を用いることで、より多くの手法を用いて得られた分析対象システムの局所的な状態を区別することができ、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

また、前記クラスタリング手段は、混合正規分布によりクラスタリングを行う態様とすることができる。

このように、混合正規分布を用いてクラスタリングを行う場合、他の手法を用いる場合と比較して、特徴空間において高い精度でクラスタリングを行うことができる。

また、前記単位データ取得手段により取得された前記単位データを正規化する正規化処理手段を更に備え、前記第１特徴量生成手段は、前記正規化処理手段により正規化された単位データを用いて前記第１特徴量を生成し、前記第２特徴量生成手段は、前記正規化処理手段により正規化された単位データを用いて前記第１特徴量を生成し、前記第２特徴量を生成する態様とすることができる。

このように、正規化処理手段を更に備える構成とした場合、分析対象の単位データに含まれる複数データセットについて、物理的な次元が互いに異なる場合であっても、正規化を行うことにより、特徴空間の生成を好適に行うことができる。

また、前記単位データに対して主成分分析とは異なる手法を用いて１以上の第３特徴量を生成する第３特徴量生成手段と、前記特徴空間定義手段は、前記第１特徴量及び前記第２特徴量及び前記第３特徴量に基づいて、前記基底を生成する態様とすることができる。

このように、第３特徴量にも基づいて特徴空間の基底を生成する態様とした場合、第１特徴量、第２特徴量とは異なる手法により生成された第３特徴量も考慮した特徴空間を生成することができるため、データのクラスタリングをより好適に行うことが可能な特徴空間を生成することができる。

本発明によれば、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができるデータ分析装置及びデータ分析方法が提供される。

実施形態に係るクラスタリング装置を説明するブロック図である。 クラスタリング装置による特徴空間の基底の算出方法を説明する概念図である。 主成分分析により得られる第１特徴量を説明する図である。 項目指定により得られる第２特徴量を説明する図である。 写像手段による写像データの算出方法を説明する概念図である。 クラスタリング装置によるデータ分析方法（第１の工程）を説明するフローチャートである。 クラスタリング装置によるデータ分析方法（第２の工程）を説明するフローチャートである。 変形例に係るクラスタリング装置を説明するブロック図である。 変形例に係るクラスタリング装置によるデータ分析方法（第１の工程）を説明するフローチャートである。 変形例に係るクラスタリング装置によるデータ分析方法（第２の工程）を説明するフローチャートである。 変形例に係るクラスタリング装置における特徴空間の基底の算出方法を説明する概念図である。

以下、添付図面を参照して、本発明を実施するための形態を詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。

図１は、本実施形態に係るデータ分析装置を含んで構成されるクラスタリング装置を説明するブロック図である。図１に示すクラスタリング装置１は、例えばガスタービン、真空炉、航空エンジン等の機械システム（分析対象システム）における異常診断を行う装置に組み込むことができる。このような機械システムでは、システムの動作状況を確認するために、例えば、温度、圧力、回転数等を測定するための複数のセンサを取り付けて、センサからの測定値により構成される機械システムに係るデータ（診断対象となる診断データ）を取得し、これに基づいて異常の診断を行う。診断データには、例えば同時刻に測定された複数のセンサ（複数の項目）による測定値から構成されるデータセットが複数含まれる。異常診断装置では、まず、診断データに含まれる複数のデータセットを、それぞれ複数のクラスタ（集合）に振り分ける。これは、機械システムの動作条件等が変更されると、診断データに含まれる測定値が正常状態であっても変動することが考えられるからである。したがって、取得された複数のデータセットがまずどのクラスタに属するかの分類（クラスタリング）を行った後に、データセットについて、そのデータセットが属するクラスタに応じて設定された基準に基づいて異常診断を行う。

本実施形態に係るデータ分析装置を含むクラスタリング装置は、上記のようなクラスタ毎に異常診断を行う異常診断装置等に組み込むことができる。この場合、本実施形態に係るクラスタリング装置は、異常診断装置等において、上記のように診断データに含まれるデータセットを複数のクラスタに分類するクラスタリングとして機能する。また、以下の説明では、異常診断を行う対象となる機械システムを分析対象システムという。

また、本実施形態に係るクラスタリング装置１は、診断データのクラスタリングに用いる特徴空間を定義する基底を生成することを特徴とする。クラスタリング装置１では、診断データのクラスタリングを行う際に、診断データに含まれるデータセットをそれぞれ特徴空間に投影した後に、データセットが属する集合（クラスタ）をそれぞれ判断する。特徴空間は、類似しているデータセット同士が集合する分布となるベクトル空間であり、事前に準備された単位データから生成された基底を用いて定義される。一般的に、特徴空間をどのように定義するかによって、診断データのクラスタリングの精度が変わる。クラスタリング装置１では、単位データを主成分分析（Principal Component Analysis：ＰＣＡ）することにより得られた主成分に基づく１以上の特徴量（第１特徴量）と、クラスタリング装置１のユーザが選択した特定の項目に基づく１以上の特徴量（第２特徴量）と、を組み合わせて特徴空間の基底を生成する。そして、クラスタリング装置１は、この基底を用いて単位データを特徴空間に写像した後に、特徴空間において単位データから各クラスタの特徴を抽出し、診断データのクラスタリングに利用する。この点については後述する。

図１に示すように、クラスタリング装置１は、入力装置２から送信された設定データＤ１を取得して記憶装置２０に格納する設定手段１１（第２特徴量生成手段）と、単位データＤ２を取得し、単位データＤ２に基づいて、設定データＤ１により設定された条件で特徴空間を定義するための特徴空間データＤ３を生成する特徴空間定義手段１２（単位データ取得手段、第１特徴量生成手段、特徴空間定義手段）と、特徴空間定義手段１２により定義された特徴空間に対して単位データＤ２及び診断データＤ５を写像する写像手段１３（写像手段、診断データ取得手段、診断データ写像手段）と、特徴空間へ写像された単位データについてクラスタリングを行い、各クラスタの特徴を示す情報をクラスタ特徴情報として抽出してクラスタ特徴データＤ４を生成するクラスタ特徴抽出手段１４（クラスタリング手段、クラスタ特徴抽出手段）と、特徴空間へ写像された診断データについてクラスタ毎に分類してラベリングを行うことでラベルデータＤ６を生成するラベリング手段１５と、ラベルデータＤ６から診断データに係るラベルを取得し、出力装置３に送信する出力手段１６と、を含んで構成される。

クラスタリング装置１は、例えば、ＣＰＵ（Central Processing Unit）１０及び記憶装置２０を備える情報処理装置として実現され、記憶装置２０に記憶されるクラスタリングプログラムＰが読みだされて実行されることで、ＣＰＵ１０に含まれる設定手段１１、特徴空間定義手段１２、写像手段１３、クラスタ特徴抽出手段１４、ラベリング手段１５、及び出力手段１６に係る機能が発揮される。

クラスタリング装置１では、設定データＤ１、単位データＤ２、特徴空間データＤ３、クラスタ特徴データＤ４、診断データＤ５、ラベルデータＤ６が記憶装置２０に記憶されている。このうち、診断データＤ５とは、クラスタリングの対象となるデータ群であり複数の項目に対応した変数を含む測定データ（データセット）が複数含まれるものである。また、単位データＤ２とは、正常（又は定常）の状態で取得された測定データ（データセット）が複数含まれるデータ群であり、クラスタリングに用いる特徴空間を定義する際に用いるデータ群である。単位データＤ２は、クラスタリング装置１における分析対象となるデータに対応して準備される。

また、クラスタリング装置１は、入力装置２及び出力装置３と接続される。入力装置２は、例えば、キーボード、マウス、操作ボタン、タッチパネル等により構成され、クラスタリング装置１のユーザがクラスタリング装置１に対して操作を加える場合等に用いられる。また、出力装置３は、例えば、ディスプレイ等により構成され、クラスタリング装置１によるクラスタリングに係る処理の結果を出力する機能を有する。クラスタリング装置１が入力装置２及び出力装置３を含んで構成されていてもよい。

次に、クラスタリング装置１に含まれる各機能部について説明する。設定手段１１は、入力装置から設定パラメータを受信し、設定データＤ１として記憶装置２０に保存する機能を有する。設定パラメータとは、クラスタリングを実施するための特徴空間の定義に用いられるパラメータであり、ユーザによって予め設定されるものである。表１に設定パラメータの一例を示す。

表１に示すパラメータのうち、クラスタ数Ｎとは、特徴空間を用いてクラスタリングを行いたいクラスタの数である。また、特定する主成分数ｒとは、主成分分析を実行した後に特徴空間の定義の際に利用する主成分の数である。また、特定する項目番号Ｌとは、主成分分析とは別にユーザにより指定して特徴空間の定義に利用する項目の番号である。この３つのパラメータは、ユーザにより予め指定される。そして、設定データＤ１に基づいて以降の処理が実行される。

特徴空間定義手段１２は、特徴空間の定義に係る処理を行う機能を有する。ここで、特徴空間定義手段１２により行われる処理の概念を図２に示す。図２では、単位データＤ２、特徴空間を定義する基底を生成するまでの処理の概要を示している。図２に示すように、特徴空間定義手段１２では、単位データＤ２から２種類の手法を組み合わせて特徴量を選択して、特徴空間を定義する基底を生成する。１つは、主成分分析の結果を利用する手法であり、もう１つは、ユーザによる項目の選択であり、設定データＤ１の中に特定する項目番号Ｌとして含まれるものである。図２では、主成分分析の結果得られる第１主成分と、ユーザが指定する項目｛２，５｝とを組み合わせて基底を生成する場合を示している。

主成分分析を利用した手法に関して具体的に説明する。まず、設定データＤ１から特定する主成分数ｒ（表１参照）を取得したとする。また、単位データＤ２を読み込んだとする。ここで、単位データのサンプル数がｎであり、項目数がｐである場合、単位データＤ２に対応する（ｎ，ｐ）行列をＸとし、単位データ行列Ｘに含まれるデータセット数をｎとしたとき、単位データ行列Ｘの分散共分散行列Ｒは以下の数式（１）により求められる。

主成分分析を用いて、Ｒを以下の数式（２）のように表す。

なお、数式（２）において、ＵはＲの主成分ベクトルを列に持つ正規直交行列であり、Ｓは降順で並べたＲの特異値を対角成分に持つ対角行列である。

次に、行列Ｕのうち、最初のｒ列を成分に持つ部分行列Ｕ_ｒを抽出する。図３に部分行列Ｕ_ｒの抽出方法を示す。図３（Ａ）に示すように行列Ｕは、主成分１〜８が列を形成し、項目１〜８が行を形成している。このうち、部分行列Ｕ_ｒは、表１に示す特定する主成分数ｒで指定された列のみを抽出したものであり、主成分分析により生成された特徴量（第１特徴量）を示す行列である。図３（Ａ）及び図３（Ｂ）では、特定する主成分数ｒが３である場合の例を示している。なお、図２に示す概念図では、特定する主成分数ｒが１である場合を示している。

一方、特定する項目番号Ｌとしてユーザにより選択された項目番号に対応する基底行列Ｅを生成する。基底行列Ｅは、以下の数式（３）により定義することができる。

基底行列Ｅの生成例を図４に示す。図４（Ａ）は、主成分分析により求められる行列Ｕである。ここで、特定する項目番号Ｌとして項目｛２，５｝が指定されている場合、図４（Ｂ）に示すように、項目番号２，５に対応する成分が「１」となり、他の成分は「０」となる行列が基底行列Ｅとして生成される。この基底行列Ｅが、ユーザにより指定された項目に基づく特徴量（第２特徴量）を示す行列である。

上記の手順により、部分行列Ｕ_ｒと、基底行列Ｅとを生成した後に、図２に示すように、これを組み合わせて特徴空間の基底Ｆを生成する。具体的には、以下の数式（４）に基づいて基底Ｆを算出する。

算出された基底Ｆは、特徴空間データＤ３として保存される。このように、特徴空間定義手段１２は、特徴空間データＤ３として特徴空間を定義する基底Ｆを生成して、記憶装置２０に保存する機能を有する。なお、図２に示す概念図では、特定する主成分数γが１であり、特定する項目番号Ｌとして２つの項目が選ばれているので、基底Ｆは３列の行列となっているが、列数は特徴量（第１特徴量及び第２特徴量の合計）の数に応じて変更される。

次に、写像手段１３は、特徴空間定義手段１２により定義された特徴空間に対して単位データＤ２及び診断データＤ５を写像する機能を有する。写像手段１３により行われる処理の概念を図５に示す。図５では、単位データＤ２又は診断データＤ５に対して基底Ｆを適用することで、写像後のデータを生成する処理の概要を示している。図５に示すように、写像手段１３では、単位データＤ２又は診断データＤ５を構成するデータセットを読み込み、特徴空間データＤ３である基底Ｆとの積を求めることで、データセットを特徴空間に対して写像する。単位データＤ２行列又は診断データＤ５行列をＭとすると、写像後の行列は以下の数式（５）に基づいて算出される。これにより、単位データＤ２又は診断データＤ５について、特徴空間へ写像が行われる。

クラスタ特徴抽出手段１４は、特徴空間に写像した後の単位データＤ２をクラスタに振り分けた後に、クラスタに応じた特徴を示す情報をクラスタ特徴情報として抽出する機能を有する。具体的には、クラスタ特徴抽出手段１４では、まず設定データＤ１からクラスタ数Ｎを取得すると共に、写像手段１３から写像後の単位データ行列

を取得する。そして、写像後のデータ行列に対して、混合正規分布によるクラスタリングを適用し、Ｎ個のクラスタに分離する。混合正規分布（Gaussian Mixture Model：ＧＭＭ）とは、多変量正規分布を用いて、単位データから、各クラスタの混合比、中心、分散共分散行列をＥＭアルゴリズムと呼ばれる繰り返し計算によって求める方法である。この結果、各クラスタｋに関して、クラスタの混合係数π_ｋ、クラスタの中心μ_ｋ、クラスタの分散行列Σ_ｋが得られる。これらの情報がクラスタ特徴情報となる。各クラスタｋに係る混合係数π_ｋ、中心μ_ｋ、分散行列Σ_ｋ及びクラスタ数Ｎは、クラスタ特徴データＤ４として記憶装置２０に格納される。写像手段１３により写像された後のデータ行列は、写像前のデータと比較して次元を低くすることができる。なお、混合正規分布に代えてｋ平均法等のアルゴリズムを用いてクラスタリングを行うこともできる。

ラベリング手段１５は、クラスタ特徴データＤ４に含まれる混合係数π_ｋ、中心μ_ｋ、分散行列Σ_ｋ及びクラスタ数Ｎを取得すると共に、特徴空間へ写像後の診断データ行列

を取得して、特徴空間における各クラスタと、診断データ行列に含まれるｉ行目（ｉサンプル目）のデータセット

との距離ｌ（ｉ，ｋ）を以下の数式（６）により計算する。

なお、｜Σ_ｋ｜はクラスタｋの分散行列の行列式であり、Σ_ｋ ^−１はクラスタｋの分散行列の逆行列であり、Ｔは転置演算子である。

次に、数式（６）の計算結果を利用して、各データセット

に対して、距離ｌ（ｉ，ｋ）を最小化するためのクラスタラベルｌ_ｉを以下の数式（７）により求める。

なお、距離ｌ（ｉ，ｋ）を最小化するためのクラスタラベルｌ_ｉの算出に係る計算は対数尤度の反対値からクラスタに依存しない項をなくしたものである。

その後、診断データに対するクラスタラベル（各データセットに係るクラスタラベルを全て含む）を、以下の数式（８）によりベクトルとしてまとめる。

なお、ｍは診断データのデータセット数である。上記の手順により算出されたクラスタラベルベクトルｌ_ＹをラベルデータＤ６として保存する。

出力手段１６は、ラベルデータＤ６を出力装置３に対して送信する機能を有する。出力装置３に対して送信されたラベルデータＤ６は、出力装置３によってユーザに対してクラスタリングの結果を通知するために利用される。また、診断データＤ５をクラスタ毎に分類する際にも利用される。

次に、上記の機能を有するクラスタリング装置１によるデータ分析方法について、図６及び図７を参照しながら説明する。

クラスタリング装置１によるデータ分析方法には大きく分けて２つの工程が含まれる。すなわち、診断データのクラスタリングを行うための特徴空間を定義し、特徴空間内での各クラスタの特徴を抽出する第１の工程と、特徴空間及びクラスタの特徴を利用して、診断データをクラスタリングする第２の工程と、である。

図６では、特徴空間内でのクラスタの特徴を抽出する第１の工程を示している。まず、入力装置２から設定パラメータが入力される（Ｓ０１：第２特徴量生成ステップ）。入力された設定パラメータは、設定手段１１により、設定データＤ１として保存される（Ｓ０２）。次に、特徴空間定義手段１２は、入力装置２から単位データＤ２を取得し、記憶装置２０に保存する（Ｓ０３：単位データ取得ステップ）。この単位データＤ２について、特徴空間定義手段１２において、主成分分析を行い（Ｓ０４：第１特徴量生成ステップ）、主成分分析に基づく特徴量を特定する部分行列Ｕ_ｒを求めると共に、設定パラメータの特定する項目番号Ｌに基づいて基底行列Ｅを生成した上で、特徴空間を定義する基底Ｆを構成する（Ｓ０５：第１特徴量生成ステップ、第２特徴量生成ステップ、特徴空間定義ステップ）。その後、この基底Ｆを用いて単位データＤ２を特徴空間に写像し（Ｓ０６：写像ステップ）、混合正規分布により単位データＤ２に含まれる各データセットのクラスタリングを行い、各クラスタのクラスタ特徴データＤ４を抽出する（Ｓ０７：クラスタリングステップ、クラスタ特徴抽出ステップ）。以上により、第１の工程が終了する。

図７では、診断データをクラスタリングする第２の工程を示している。まず、入力装置２から診断データＤ５を取得し、記憶装置２０に保存する（Ｓ１１）。写像手段１３は診断データＤ５と特徴空間データＤ３とを読み込み、特徴空間へ投影した診断データを計算する（Ｓ１２：診断データ写像ステップ）。その後、ラベリング手段１５において、対数尤度関数を用いた計算（Ｓ１３）を行ってクラスタラベルを算出する（Ｓ１４：ラベリングステップ）。算出されたクラスタラベルにより構成されるクラスタラベルベクトルｌ_Ｙを、ラベルデータＤ６として記憶装置２０に保存すると共に出力装置３に対して出力する（Ｓ１５）。以上により、第２の工程が終了する。

以上のように、本実施形態に係るデータ分析装置及びデータ分析方法によれば、分析対象システムの大局的な状態を区別することができる１以上の第１特徴量と、分析対象システムの局所的な状態を区別することができる１以上の第２特徴量と、に基づいて、特徴空間を定義する基底を生成するので、データのクラスタリングをより高い精度で行うことができる特徴空間を生成することが可能となる。

クラスタリング装置１において使用されるデータ群、例えば、分析対象システムである機械システムにおける複数のセンサにおける測定値等により構成されるデータ群の場合、システム全体の状態の変化に由来して複数の変数の大半が変化するために区別されるクラスタ構造と、システムの一部の状態の変化に由来して一部の変数のみが変化することにより区別されるクラスタ構造と、の２種類がある。システム全体の状態の変化に由来して複数の変数の大半が変化するために区別されるクラスタ構造としては、例えば、ガスタービンにおける燃焼モードの切り替え等が挙げられる。一方、システムの一部の状態の変化に由来して一部の変数のみが変化することにより区別されるクラスタ構造としては、例えば、周辺機器の配置の変更等のように、システム全体に大きな影響がない設定の変更が挙げられる。

従来のクラスタリングで用いられる手法では、両方のクラスタ構造を好適に分離させることは困難であった。例えば、従来から知られている主成分分析等のアルゴリズムを用いて生成される主成分を特徴量とする特徴空間では、分析対象システムの大局的な状態、すなわち、システム全体の状態が変化する側のクラスタの分離は好適に行うことができていたが、局所的な状態であるシステムの一部のみが変化する側のクラスタの分離に関しては分離精度が低かった。したがって、両者が存在する場合には、主成分分析等の従来の手法では分離精度の改善の余地があった。

これに対して、本実施形態に係るデータ分析装置（クラスタリング装置１）及びデータ分析方法によれば、分析対象システムの大局的な状態を区別することができる１以上の第１特徴量と、分析対象システムの局所的な状態を区別することができる１以上の第２特徴量とを組み合わせて基底を生成する。これにより、分析対象システムにおいてその一部のみが変化するクラスタ構造がある場合に、分析対象システムの局所的な状態を区別することができる１以上の第２特徴量を生成し、第１特徴量と第２特徴量とを組み合わせた基底を生成することで、基底により定義される特徴空間内では、各クラスタを高い精度で分離することができる。したがって、各クラスタの特徴を高い精度で抽出することができる。このように、上記のデータ分析装置（クラスタリング装置１）及びデータ分析方法によれば、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

また、本実施形態に係るクラスタリング装置１及びデータ分析方法では、主成分分析を用いて第１特徴量を生成すると共に、単位データＤ２を構成する複数の項目のうちユーザによって指定された項目を利用して第２特徴量を基底行列として生成し、両者を組み合わせて、特徴空間に係る基底を生成することで、データのクラスタリングをより高い精度で行うことができる特徴空間を生成することが可能となる。

また、特徴空間に写像された単位データを用いて、混合正規分布によるクラスタリングを実施することで各クラスタの特徴を抽出する構成とすることで、上述の２種類のクラスタ構造が混合しているデータ群においても、クラスタリング装置１及びデータ分析方法によって基底Ｆにより定義される特徴空間では各クラスタを高い精度で分離することができ、各クラスタの特徴を抽出することができる。また、２種類のうちの一方側のクラスタ構造のみにより構成されるデータ群であっても、クラスタリング装置１及びデータ分析方法によって生成される基底Ｆにより定義される特徴空間では各クラスタを高い精度で分離することができ、各クラスタの特徴を高い精度で抽出することができる。すなわち、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

また、混合正規分布によるクラスタリングを実施するときには、特徴空間へ写像したデータが解析対象である。特徴空間は、低次元の空間であるため、高次元の空間におけるクラスタリングと比較して、データにおけるクラスタリングの精度が下がる問題（所謂次元の呪い）を回避でき、クラスタリング精度を向上させることができる。

（変形例）
次に、本実施形態に係るデータ分析装置及びデータ分析方法の変形例について、図８を参照しながら説明する。図８に示すように、変形例に係るクラスタリング装置１Ａでは、正規化装置５０として、正規化処理手段５１と、正規化基準を格納する正規化基準記憶手段５２と、を含むことを特徴とする。

正規化処理手段５１は、分析対象のデータの物理的な次元が異なる場合に、データを正規化（無次元化）するために用いられる。具体的には、特徴空間定義手段１２において単位データＤ２を用いた特徴空間の基底の生成を行う前に、正規化処理手段５１において、単位データＤ２を用いて正規化基準を求め、得られた正規化基準を用いて単位データＤ２自体を正規化した後に、特徴空間の定義等が行われる。このような手法としては、例えば、単位データＤ２に含まれる各データセットについて項目毎の平均値を算出して正規化基準とした後、単位データＤ２に含まれる各データセットと平均値（正規化基準）との差分をそれぞれ求めた後に特徴空間の定義に用いる方法が挙げられる。

正規化基準の正規化基準記憶手段５２は、上記の方法で算出された正規化基準を保存する機能を有する。単位データＤ２から算出される正規化基準は、診断データＤ５のクラスタリングの際にも用いられる。したがって、正規化基準記憶手段５２に格納しておき、必要時に読み込んで処理を行う。

次に、上記の正規化に係る機能を有するクラスタリング装置１Ａによるデータ分析方法について、図９及び図１０を参照しながら説明する。

図９では、特徴空間内でのクラスタの特徴を抽出する第１の工程を示している。まず、入力装置２から設定パラメータが入力される（Ｓ２１）。入力された設定パラメータは、設定手段１１により、設定データＤ１として保存される（Ｓ２２）。次に、入力装置２から単位データＤ２を取得し、記憶装置２０に保存する（Ｓ２３）。ここで、正規化装置５０の正規化処理手段５１により正規化基準が定義され（Ｓ２４）、正規化装置に正規化基準が正規化基準記憶手段５２に格納される。その後、単位データＤ２に係る正規化（Ｓ２５）が行われる。

次に、正規化された単位データＤ２について、特徴空間定義手段１２において、主成分分析を行い（Ｓ２６）、主成分分析に基づく部分行列Ｕ_ｒを求めると共に、設定パラメータの特定する項目番号Ｌに基づいて基底行列Ｅを生成した上で、特徴空間を定義する基底Ｆを構成する（Ｓ２７）。その後、この基底Ｆを用いて単位データＤ２を特徴空間に写像し（Ｓ２８）、混合正規分布により単位データＤ２に含まれる各データセットのクラスタリングを行い、各クラスタのクラスタ特徴データＤ４を抽出する（Ｓ２９）。以上により、第１の工程が終了する。

図１０では、診断データをクラスタリングする第２の工程を示している。まず、入力装置２から診断データＤ５を取得し、記憶装置２０に保存する（Ｓ３１）。次に、正規化装置５０の正規化処理手段５１において、正規化基準記憶手段５２に格納される正規化基準を用いて、診断データＤ５の正規化を行う（Ｓ３２）。正規化後の診断データＤ５に関して、写像手段１３において、特徴空間データＤ３を読み込み、特徴空間へ投影した診断データを計算する（Ｓ３３）。その後、ラベリング手段１５において、対数尤度関数を用いた計算（Ｓ３４）を行ってクラスタラベルを算出する（Ｓ３５）。算出されたクラスタラベルにより構成されるクラスタラベルベクトルｌ_Ｙを、ラベルデータＤ１６として記憶装置２０に保存すると共に出力装置３に対して出力する（Ｓ３６）。以上により、第２の工程が終了する。

このように、正規化装置５０を備えているクラスタリング装置１Ａの場合には、分析対象のデータの物理的な次元が異なる場合であっても、正規化を行うことにより、分析を可能とすることができる。そして、正規化を行った単位データＤ２及び診断データＤ５を用いた場合でも、正規化を行わない場合と同様に各クラスタを高い精度で分離することができ、各クラスタの特徴を高い精度で抽出することができる。

図１１は、他の変形例において、特徴空間定義手段１２により行われる処理の概念を示す図である。図１１は図２に対応する図であり、単位データＤ２から特徴空間の基底を生成するまでの処理の流れを示している。

上記実施形態では、主成分分析を用いて算出された特徴量（第１特徴量）と、単位データを構成する複数の項目のうちユーザによって指定された項目に係る特徴量（第２特徴量）とを組み合わせて基底Ｆを生成する構成について説明した。しかしながら、本発明に係るデータ分析装置及びデータ分析方法では、基底Ｆを生成する際に、分析対象システムの大局的な状態を区別することができる１以上の第１特徴量と、分析対象システムの局所的な状態を区別することができる１以上の第２特徴量とを組み合わせることを特徴とする。すなわち、第１特徴量を生成するための手法は主成分分析に限定されない。また、第２特徴量を生成するための手法についても、単位データを構成する複数項目を利用する上記実施形態の手法に限定されない。また、第３特徴量という第１特徴量及び第２特徴量とは異なる手法で生成された特徴量を組み合わせて基底Ｆを生成してもよい。図１１では、多次元尺度法を用いて第１特徴量を生成し、線形結合及び非線形関数を用いて第２特徴量を生成し、さらに、その他の手法を用いて第３特徴量を生成し、これらを組み合わせて基底Ｆを生成することを示している。

例えば、第１特徴量を生成するための手法としては、主成分分析（ＰＣＡ）から派生した分析手法である疎主成分分析（Sparse Principal Component Analysis：Sparse ＰＣＡ）、カーネル主成分分析（Kernel Principal Component Analysis：ＫＰＣＡ）、ベクトル量子化主成分分析（Vector Quantization Principal Component Analysis：ＶＱＰＣＡ）等を用いることができる。また、第１特徴量を生成するための他の手法として、多次元尺度法（Multidimensional Scaling：ＭＤＳ）、局所線形埋め込み（Local Linear Embedding：ＬＬＥ）等も用いることができる。

さらに、上記の公知の分析手法に加えて、分析対象である機械システムのモデルから導出した写像方法を用いることができる。具体的な例を挙げると、Ｘ（スカラ変数：指令値的振舞いをする信号の計測値）とＹ（ベクトル形式で９個の要素をもつ計測値）からなる、合計１０個のセンサからなる産業機械があるとする。このとき、測定値は（Ｘ、Ｙ＿１、Ｙ＿２、…、Ｙ＿９）の１０次元を構成する。ここで、産業機械がＸの動きに合わせて、システム全体が線形的に応答するとする。具体的には、以下の関係式を満たすとする。
Ｙ＿１＝１×Ｘ＋ノイズ
Ｙ＿２＝２×Ｘ＋ノイズ
…
Ｙ＿９＝９×Ｘ＋ノイズ
上記は設計時のモデルであるが、関係式から（１、１、２、…、９）で示される斜め方向に延びる軸の周囲にデータが散乱することが考えられる。すなわち、上記の軸を分析対象システムの大局的な状態を区別することができる第１の特徴量として利用することができる。このように、第１特徴量の選定方法は適宜選択することができる。

一方、第２特徴量を生成するための手法としては、上記のように単位データを構成する項目を利用する方法の他、２変数以上の線形結合、１変数以上の非線形関数等が挙げられる。２変数以上の線形結合とは、ｐを項目数とし、ａ０〜ａｐを計数とした場合に、例えば、「特徴量＝ａ０＋ａ１×項目１＋ａ２×項目２＋…＋ａｐ×項目ｐ」という数式で表されるものである。また、１変数以上の非線形関数とは、ｆ（…）を非線形関数とした場合に、「特徴量＝ｆ(項目１、…、項目ｐ)」という数式で表されるものである。また、第２特徴量として、単位データを構成する項目を利用する上記の実施形態では、基底行列Ｅを生成していたが、単位データの項目を利用しない場合には、分析手法に応じて適宜第２特徴量が生成される。すなわち、基底行列Ｅを生成することは必須ではない。

さらに、上記の公知の分析手法に加えて、分析対象である機械システムの「製品知識」を用いることができる。具体的な例を挙げると、機械システムＡのサブシステムＢにおいて、制御ロジックの切り替えがあり、サブシステムＢの制御ロジックの切り替えは、システム全体の状態に影響がほとんど与えないという前提がある場合に、サブシステムＢに関連する項目の項目ペアごとの散布図をプロットし、特定の項目ｘ及び項目ｙの散布図にクラスタ構造が現れた場合に、その２項目から特徴量を生成するという方法が挙げられる。このようにして導かれる特徴量の算出式としては、例えば、「特徴量＝項目ｙ−項目ｘ」という式が考えられる。このように、第２特徴量の選定方法は適宜選択することができる。

また、第２特徴量については、互いに異なる複数の手法を用いて生成された複数種類の特徴量を組み合わせて使用する構成としてもよい。図１１では、２種類の手法により生成された特徴量を組み合わせる構成を示しているがこれに限定されるものではない。互いに異なる複数種類の手法により、分析対象システムの局所的な状態を区別することができる場合、各手法から導き出される第２特徴量を併せて利用することで、データのクラスタリングを好適に行うことが可能な特徴空間を生成することができる。

なお、第２特徴量の生成に対して何らかの分析を行う場合（すなわち、単位データを構成する複数の項目から第２特徴量として用いる項目を選択する構成ではない場合）、特徴空間定義手段１２が第２特徴量生成手段としても機能する。この場合、上記実施形態における第２特徴量生成手段、すなわち、設定データＤ１に基づいて第２特徴量を設定する設定手段１１に代えて、特徴空間定義手段１２が第２特徴量生成手段としても機能する。

さらに、第１特徴量及び第２特徴量とは異なる他の手法により抽出される特徴量（第３の特徴量）も用いることができる。この第３特徴量は、分析対象システムの大局的な状態を区別する第１特徴量、及び、分析対象システムの局所的な状態を区別する第２特徴量とは異なるものであり、ユーザにより任意に設定することができる。このような事例として、ここでは、複数のサブシステムから構成される分析対象システムを想定する。サブシステムを代表する振舞いが、他のサブシステム中の項目や、他のサブシステムを代表する値と関係を持つことによりできる群構造やモード状態切り替えを抽出するために、サブシステムが支配する範囲の広がりを持つ特徴次元またはサブシステムを代表する振舞いの次元を縮小した特徴次元が必要になる場合がある。この場合、同じサブシステムに属するセンサ値から生成した特徴量を第３の特徴量とし、第３の基底ベクトルに射影されるように第３の特徴量を追加するような構成とすることができる。この場合、特徴空間定義手段１２が第３特徴量生成手段としても機能する。

上記のように基底Ｆに用いる特徴量を増やした場合、特徴量の数に応じて基底Ｆの列数が変更される。図１１では、第１特徴量が１列、第２特徴量が２列、第３特徴量が１列であるため、基底Ｆが４列の行列となった例を示している。ただし、基底に用いる特徴量を増やすと、特徴空間の次元が増えることになるため、データにおけるクラスタリングの精度が下がる問題（所謂次元の呪い）が生じる可能性がある。したがって、特徴量の選択数はデータの特性等に応じて適宜検討することが好ましい。

以上、本発明の好適な実施形態について説明したが、本発明は上記実施形態に限られるものではなく、各請求項に記載した要旨を変更しない範囲で変形し、又は他の構成に適用したものであってもよい。

例えば、上記実施形態では、クラスタリング装置１が診断データＤ５のクラスタリングも行う構成について説明したが、クラスタリング装置１は、少なくとも単位データＤ２に基づいてクラスタリングを行うための基底空間を定義する基底Ｆを生成する構成を備えていればよい。その場合基底Ｆを特定する情報を他の装置に出力することにより、他のデータ分析装置において単位データＤ２のクラスタリング等を実行することが可能となる。

１ クラスタリング装置
２ 入力装置
３ 出力装置
１０ ＣＰＵ
１１ 設定手段
１２ 特徴空間定義手段
１３ 写像手段
１４ クラスタ特徴抽出手段
１５ ラベリング手段
１６ 出力手段
２０ 記憶装置
５０ 正規化装置
５１ 正規化処理手段
５２ 正規化基準記憶手段

Claims (10)

1. 分析対象システムに係る複数の項目に対応した値を有するデータセットを複数含む単位データを取得する単位データ取得手段と、
   前記単位データを利用して、前記分析対象システムの大局的な状態を区別することができる１以上の第１特徴量を生成する第１特徴量生成手段と、
   前記単位データを利用して、前記分析対象システムの局所的な状態を区別することができる１以上の第２特徴量を生成する第２特徴量生成手段と、
   前記第１特徴量及び前記第２特徴量に基づいて、特徴空間を定義する基底を生成する特徴空間定義手段と、
   を備えるデータ分析装置。
2. 前記特徴空間定義手段により生成された前記基底を用いて、前記単位データを前記特徴空間に対して写像する写像手段と、
   前記特徴空間に対して写像された前記単位データを、複数のクラスタに分類するクラスタリング手段と、
   を更に備える請求項１に記載のデータ分析装置。
3. 前記クラスタリング手段により分類された前記複数のクラスタについて、各クラスタの特徴を示すクラスタ特徴情報を抽出するクラスタ特徴抽出手段と、
   前記単位データに含まれる複数の項目に対応した値を有するデータセットを複数含む診断データを取得する診断データ取得手段と、
   前記特徴空間定義手段により生成された前記基底を用いて、前記診断データを前記特徴空間に対して写像する診断データ写像手段と、
   前記特徴空間に対して写像された前記診断データを、前記複数のクラスタに係る前記クラスタ特徴情報に基づいて前記複数のクラスタのいずれかにデータセット毎に分類するラベリング手段と、
   を更に備える請求項２に記載のデータ分析装置。
4. 前記第１特徴量生成手段は、前記単位データに対して主成分分析を行うことにより前記第１特徴量を生成する請求項１〜３のいずれか一項に記載のデータ分析装置。
5. 前記第２特徴量生成手段は、前記単位データを構成する前記複数の項目に含まれる１以上の項目を前記第２特徴量として用いる請求項１〜４のいずれか一項に記載のデータ分析装置。
6. 前記第２特徴量は、互いに異なる複数の手法を用いて生成された複数種類の特徴量を含む請求項１〜５のいずれか一項に記載のデータ分析装置。
7. 前記クラスタリング手段は、混合正規分布によりクラスタリングを行う請求項２又は３に記載のデータ分析装置。
8. 前記単位データ取得手段により取得された前記単位データを正規化する正規化処理手段を更に備え、
   前記第１特徴量生成手段は、前記正規化処理手段により正規化された単位データを用いて前記第１特徴量を生成し、
   前記第２特徴量生成手段は、前記正規化処理手段により正規化された単位データを用いて前記第１特徴量を生成し、前記第２特徴量を生成する請求項１〜７のいずれか一項に記載のデータ分析装置。
9. 前記単位データに基づいて、前記第１特徴量及び前記第２特徴量とは異なる１以上の第３特徴量を生成する第３特徴量生成手段と、
   前記特徴空間定義手段は、前記第１特徴量及び前記第２特徴量及び前記第３特徴量に基づいて、前記基底を生成する請求項１〜８のいずれか一項に記載のデータ分析装置。
10. 分析対象システムに係る複数の項目に対応した値を有するデータセットを複数含む単位データを取得する単位データ取得ステップと、
    前記単位データを利用して、前記分析対象システムの大局的な状態を区別することができる１以上の第１特徴量を生成する第１特徴量生成ステップと、
    前記単位データを利用して、前記分析対象システムの局所的な状態を区別することができる１以上の第２特徴量を生成する第２特徴量生成ステップと、
    前記第１特徴量及び前記第２特徴量に基づいて、特徴空間を定義する基底を生成する特徴空間定義ステップと、
    を備えるデータ分析方法。