JP6766374B2 - 分類装置、分類方法、プログラム、及びパラメータ生成装置 - Google Patents

分類装置、分類方法、プログラム、及びパラメータ生成装置 Download PDF

Info

Publication number
JP6766374B2
JP6766374B2 JP2016035641A JP2016035641A JP6766374B2 JP 6766374 B2 JP6766374 B2 JP 6766374B2 JP 2016035641 A JP2016035641 A JP 2016035641A JP 2016035641 A JP2016035641 A JP 2016035641A JP 6766374 B2 JP6766374 B2 JP 6766374B2
Authority
JP
Japan
Prior art keywords
data
teacher
negative
matrix
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016035641A
Other languages
English (en)
Other versions
JP2017151872A (ja
Inventor
理敏 関根
理敏 関根
前野 蔵人
蔵人 前野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2016035641A priority Critical patent/JP6766374B2/ja
Publication of JP2017151872A publication Critical patent/JP2017151872A/ja
Application granted granted Critical
Publication of JP6766374B2 publication Critical patent/JP6766374B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Investigating Or Analyzing Materials By The Use Of Ultrasonic Waves (AREA)

Description

本発明は、分類装置、分類方法、プログラム、及びパラメータ生成装置に関する。
従来、センシングにより得られた信号等の連続的に発生する時系列データを、複数のクラスに分類する技術がある。例えば、特許文献1には、びんに打撃を与えた時の打音を収音して得られた音響信号のパワースペクトルにおける、特定周波数のパワーの大きさに基づいて、びんが不良であるか否か分類(判別)する技術が開示されている。
また、音響信号等のデータを解析するために、非負値行列因子分解を用いた技術も研究されている(特許文献2〜4、非特許文献1,2)。
特開平1−224659号公報 特開2014−137389号公報 特開2015−079110号公報 特開2011−133780号公報
Lee, H. S. Seung, "Learning the parts of objects by nonnegative matrix factorization," Nature,(英国), Oct. 1999, vol.401 pp.788−791. Lee, H. S. Seung, "Algorithms for non−negative matrix factorization," Advances in neural information processing systems, Dec. 2001, pp.556−562.
しかし、従来の分類技術では、例えば、ある周波数範囲において、分類したいクラスの周波数帯が複数含まれる場合、それぞれのクラスの特徴に寄与する周波数帯を明確に特定することが困難であり、分類精度の低下につながる恐れがあった。また、複数のクラスの特徴に寄与する周波数帯が存在する場合に、従来の分類技術では当該周波数帯を用いて分類することは困難であるため、やはり分類精度が低下する恐れがあった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、分類精度を向上させることが可能な、新規かつ改良された分類装置、分類方法、プログラム、及びパラメータ生成装置を提供することにある。
上記課題を解決するために、本発明のある観点によれば、時系列データのうち処理対象となる対象区間を特定する区間特定部と、前記時系列データと前記対象区間に基づいて、非負の評価データを取得する前処理部と、所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータを記憶する記憶部と、前記教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する特徴抽出部と、前記評価係数行列を前記分類モデルパラメータに基づいて分類する分類部と、を備える分類装置が提供される。
前記区間特定部は、前記対象区間に含まれる所定の時刻を少なくとも示す参照信号に基づいて、前記対象区間を特定してもよい。
前記区間特定部は、前記時系列データにおける振幅の大きさに基づいて、前記対象区間を特定してもよい。
前記前処理部は、前記対象区間に含まれる少なくとも一部のデータを周波数領域表現に変換することにより、前記非負の評価データを取得してもよい。
前記前処理部は、前記対象区間に含まれる少なくとも一部のデータに対して、フーリエ変換、短時間フーリエ変換、ウェーブレット変換のうち少なくともいずれかの変換を行うことにより、前記非負の評価データを取得してもよい。
前記特徴抽出部は、前記教師基底行列の擬似逆行列に基づいて、前記評価係数行列を生成してもよい。
前記前処理部は、前記時系列データのうち前記対象区間以外の区間に含まれるノイズデータに基づいて、ノイズ除去処理を行ってもよい。してもよい。
前記前処理部は、少なくとも前記対象区間の値が0である窓関数を前記時系列データにかけることで前記ノイズデータを取得してもよい。
前記前処理部は、周波数領域において、前記ノイズ除去処理を行ってもよい。
前記前処理部による前記ノイズ除去処理は、前記時系列データのうち前記対象区間のデータに基づいて得られるスペクトルから、前記ノイズデータに基づいて得られるスペクトルを差し引くことを含んでもよい。
前記前処理部は、少なくとも周波数領域、または時間領域において表現された前記時系列データに基づくデータを、周波数領域、または時間領域において分割して所定のデータ領域を特定し、前記所定のデータ領域から評価データを取得してもよい。
前記時系列データは、測定対象物に対する打音の収音に基づいて得られたデータであり、前記対象区間は、前記打音が行われた時刻を含んでもよい。
また、上記課題を解決するために、本発明の別の観点によれば、時系列データのうち処理対象となる対象区間を特定することと、前記時系列データと前記対象区間に基づいて、非負の評価データを取得することと、所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成することと、前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類することと、を含む分類方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータに、時系列データのうち処理対象となる対象区間を特定する機能と、前記時系列データと前記対象区間に基づいて、非負の評価データを取得する機能と、所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する機能と、前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類する機能と、を実現させるための、プログラムが提供される。
時系列データのうち処理対象となる対象区間を特定する区間特定部と、前記時系列データと前記対象区間に基づいて、非負の教師データを取得する前処理部と、前記教師データに対して非負値行列因子分解を行うことで、教師係数行列を生成する教師データ処理部と、前記教師係数行列と、前記教師データに対応付けられた正解ラベルに基づいて、データを分類するための分類モデルパラメータを生成するパラメータ生成部と、を備える、パラメータ生成装置が提供される。
以上説明したように本発明によれば、分類精度を向上させることが可能である。
本発明の第一の実施形態に係る情報処理装置1の構成例を説明するためのブロック図である。 同実施形態に係る区間特定部104による、参照信号に基づく対象区間の特定例を示す説明図である。 同実施形態に係るNMFの処理例を模式的に示す説明図である。 NMFによる次元の削減を説明するための模式である。 学習フェーズにおける同実施形態の動作例を示すフローチャート図である。 分類フェーズにおける同実施形態の動作例を示すフローチャート図である。 本発明の第二の実施形態に係る情報処理装置の構成例を示す説明図である。 同実施形態に係る区間特定部204による、対象区間とノイズ区間の特定例を示す説明図である。 時系列データから打音成分とノイズ成分を含む打音・ノイズデータを取得する処理を示す模式図である。 時系列データからノイズ成分のみを含むノイズデータを取得する処理を示す模式図である。 ノイズ除去部230によるスペクトルサブトラクションを模式的に示す説明図である。 学習フェーズにおける同実施形態の動作例を示すフローチャート図である。 分類フェーズにおける同実施形態の動作例を示すフローチャート図である。 時間・周波数・振幅データの全体に対してNMFを適用した例を示す模式図である。 領域を限定して部分的にNMFを適用した例を示す模式図である。 本発明の第三の実施形態に係る情報処理装置の構成例を示す説明図である。 同実施形態に係るデータ分割部312によるデータ分割と、分離度評価部313による教師データと評価データの取得の例を示す説明図である。 学習フェーズにおける同実施形態の動作例を示すフローチャート図である。 分類フェーズにおける同実施形態の動作例を示すフローチャート図である。 ハードウェア構成例を示す説明図である。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
<<1.第一の実施形態>>
<1−1.第一の実施形態の構成例>
まず、図1を参照して、本発明の第一の実施形態に係る情報処理装置の構成例を説明する。
図1は、本発明の第一の実施形態に係る情報処理装置1の構成例を説明するためのブロック図である。図1に示すように、本実施形態に係る情報処理装置1は、データ取得部102、区間特定部104、前処理部106、操作部112、教師データ処理部114、パラメータ生成部116、記憶部118、特徴抽出部120、分類部122、及び出力部124を備える。
情報処理装置1は、センシングにより得られる信号等の連続的に発生する時系列データを、複数のクラスに分類するための分類モデルパラメータを生成するパラメータ生成装置としての機能と、時系列データを複数のクラスに分類する分類装置としての機能とを有する。本実施形態において、例えば時系列データは、測定対象物(例えばコンクリート等)に対してハンマー等の打具で打撃した際の打音を収音して得られた音響信号であってもよい。また、以下では、一例として、情報処理装置1が、当該音響信号に基づいて当該測定対象物が正常であるか異常であるかを示す2つのクラスに分類(判別)する機能を有する例について説明するが、本発明は係る例に限定されるものではない。
データ取得部102は、時系列データを取得する。例えば、データ取得部102は、観測対象の状態を信号等の時系列データとして取得する(センシングする)センサであってもよい。本実施形態に係るデータ取得部102は、周辺の音を音響信号(時系列データの一例)として取得するマイクロフォンであってもよい。
なお、本実施形態は上記の例に限定されない。例えば、データ取得部102は、加速度データを取得する加速度センサであってもよいし、温度データを取得する温度センサであってもよい。また、データ取得部102は、情報処理装置1の外部に存在するセンサ(不図示)から、時系列データを取得してもよい。
区間特定部104は、データ取得部102により取得された時系列データのうち、分類モデルパラメータ生成処理、または分類処理の処理対象となる対象区間(時間区間)を特定する。
係る構成により、後述する分類モデルパラメータの生成処理及び、分類処理において、不要なデータを含む区間について処理を行わなくてよいため、処理量を抑制することができる。また、不要なデータを含んで上記処理を行うと、分類精度が低下する恐れがあるため、係る構成により、分類精度をより向上させることが可能である。
例えば、区間特定部104は、対象区間に含まれる所定の時刻を少なくとも示す参照信号に基づいて、対象区間を特定してもよい。例えば、参照信号は、打撃された瞬間の(打音が発生した)時刻を示してもよいし、当該打撃された瞬間の(打音が発生した)時刻を含む所定区間を示してもよい。また、参照信号は、打具に取り付けられた加速度センサや衝撃センサ等のセンサから出力されて、データ取得部102により取得されてもよいし、打撃の制御を行う制御装置から出力されて、データ取得部102により取得されてもよい。
図2は、区間特定部104による、参照信号に基づく対象区間の特定例を示す説明図である。区間特定部104は、図2に示す時系列データG11から、参照信号G12に基づいて対象区間を特定する。図2において、参照信号G12は、打撃された瞬間の時刻を含む区間として、振幅の値が所定の値Pである区間を示している。係る場合、例えば区間特定部104は、参照信号G12において振幅の値が値Pである区間に対応する、時系列データG12における区間D10を対象区間として特定してもよい。なお、区間特定部104は、参照信号G12において振幅の値が所定の閾値以上である区間に対応する、時系列データG12における区間を対象区間として特定してもよい。
係る構成によれば、区間特定部104は高精度に対象区間を特定することが可能である。
また、区間特定部104は、時系列データにおける振幅の大きさに基づいて、対象区間を特定してもよい。例えば、時系列データにおいて、振幅の大きさが所定の閾値を超える区間を対象区間として特定してもよいし、振幅の大きさが所定の閾値を超える時刻の所定時間前から当該時刻の所定時間後までを、対象区間として特定してもよい。
係る構成によれば、参照信号を出力するセンサや制御装置がない場合であっても、対象区間を特定することが可能である。
図1に示す前処理部106は、データ取得部102により取得された時系列データと、区間特定部104により特定された対象区間に基づいて、分類モデルパラメータ生成処理のための教師データ、及び分類処理のための評価データを取得する。また、図1に示すように、本実施形態に係る前処理部106は、変換部108、及び対応付け部110としての機能を有する。
変換部108は、区間特定部104により特定された対象区間に含まれる少なくとも一部のデータを、周波数領域表現に変換する。例えば、変換部108は、区間特定部104により特定された対象区間に含まれる少なくとも一部のデータに対して、フーリエ変換、短時間フーリエ変換、ウェーブレット変換のうち少なくともいずれかの変換を行う。本実施形態に係る変換部108は、時系列データのうち、区間特定部104により特定されたデータを、フーリエ変換によりパワースペクトルに変換してもよい。
前処理部106は、変換部108の変換により得られる非負の観測ベクトル(周波数領域表現に変換されたデータ)を含む非負の観測行列を、教師データ、または評価データとして、取得してもよい。なお、前処理部106により取得される観測行列は、1の対象区間から得られる観測ベクトルを、1または複数並べた行列である。また、以下では、教師データとして取得される観測行列を教師観測行列と呼び、評価データとして取得される観測行列を評価観測行列と呼んで区別する場合がある。観測行列については、図4を参照して後述する。
また、変換部108の変換により得られる観測ベクトルは、フーリエ変換により得られるパワースペクトル、短時間フーリエ変換により得られるスペクトログラム、またはウェーブレット変換により得られるスカログラム等であってもよい。
パワースペクトル、スペクトログラム、スカログラム等のような周波数領域で表現されるデータを用いることで、後述の教師データ処理部114、または特徴抽出部120等の処理において、分類したいクラスの特徴をより高精度に抽出することが可能となる。
前処理部106は、操作部112を介したユーザの入力に基づいて、教師データを取得するか、または評価データを取得するか(取得した観測行列が教師観測行列であるか、または評価観測行列であるか)を判定してもよい。前処理部106が教師データを取得する場合、対応付け部110は、教師データと、操作部112を介してユーザにより入力される正解ラベルとを、対応付ける。
正解ラベルは、教師観測行列(教師データ)に含まれる各観測ベクトルが属するクラスを示すラベルである。例えば、ユーザが操作部112を操作して、データ取得部102により現在取得されている時系列データに対応するクラスを示す情報を入力することで、正解ラベルが得られてもよい。
前処理部106は、取得した教師データ(教師観測行列)を教師データ処理部114に提供し、取得した評価データ(評価観測行列)を特徴抽出部120に提供する。
なお、前処理部106は、上記の処理に加えて、変換部108による変換前のデータからオフセット値を引く処理、変換後のデータに対する周波数フィルタリング処理等の処理を必要に応じて行ってもよい。
操作部112は、ユーザの入力を受け付け、前処理部106に提供する。例えば、ユーザは、操作部112を操作して、教師データを取得するか、または評価データを取得するかを示す情報を入力してもよい。また、ユーザは、操作部112を操作して、データ取得部102により現在取得されている時系列データに対応するクラスを示す情報を入力してもよい。なお、操作部112は、例えばマウス、キーボード、タッチパネル、ボタン、スイッチ、レバー、またはダイヤルなどにより実現されてもよい。
教師データ処理部114は、前処理部106から受け取った教師観測行列(教師データ)に対して、非負値行列因子分解を行うことで、教師基底行列、及び教師係数行列を生成する。以下、非負値行列因子分解について、図3を参照して説明を行う。
非負値行列因子分解(Non−negative
Matrix Factorization、以下、NMFとも呼ぶ)は、1の非負行列Yを2つの非負行列W、Hの積(例えばWH)に分解するアルゴリズムである。2つの非負行列W、Hを解析的に求めることは困難であるため、初期値を与えてYとWHの誤差が局所最適解になるよう、反復的に近似解を求める手法が提案されている(例えば非特許文献1、2等)。なお、一般に、局所最適解は初期値に依存して変化する。
図3は、本実施形態に係るNMFの処理例を模式的に示す説明図である。図3に示すように、NMFにより、例えば非負の観測行列Y(教師観測行列、または評価観測行列)は、非負の係数行列W、及び非負の基底行列Hの積に分解される。
図3に示すように、本実施形態に係る観測行列Yは、例えばm次元の観測ベクトルyが行ベクトルとなって、時系列データにおける対象区間の数nだけの行で構成されたn行m列の行列である。
本実施形態に係る基底行列Hは、例えば観測行列YにNMFを適用し、分解されたm次元の基底ベクトルhが行ベクトルとなって、基底ベクトルの数kだけの行で構成されたk行m列の行列である。
本実施形態に係る係数行列Wは、例えばk次元の係数ベクトルwが行ベクトルとなって、観測ベクトルの数nだけの行で構成されたn行k列の行列である。ここで係数ベクトルwは、ある観測ベクトルにおいて、基底行列Hに含まれる各基底ベクトルの成分がどれだけ含まれるか、という加重値を示す行ベクトルである。
図3に示すように上記の行列には、次式の関係がある。
Figure 0006766374
なお、以下では教師観測行列Yを分解して得られる基底行列、及び係数行列を、それぞれ教師基底行列H、教師係数行列Wと呼ぶ。
教師データ処理部114は、教師観測行列Yに対して、一括してNMFを適用してもよいし、教師観測行列Yに対応付けられた正解ラベルのクラスごとにNFMを適用してもよい。以下では、教師観測行列Yに対応付けられた正解ラベルのクラスごとにNFMを適用して、教師基底行列H、教師係数行列Wを得る例について説明する。
教師データ処理部114は、まず教師観測行列Yの各クラス(c1,c2,・・・,cN)のデータセット(観測ベクトルまたは観測行列)YC1,YC2,・・・,YCNごとにNMFを適用する。教師データ処理部114は、データセットYC1,YC2,・・・,YCNのそれぞれが分解されて得られたベクトルまたは行列HC1,HC2,・・・,HCNにより、教師基底行列H={HC1,HC2,・・・,HCN}を生成する。
教師基底行列Hに基づいて、教師観測行列Yから生成される係数行列を教師係数行列Wとすると、数式(1)より、教師観測行列Y、教師係数行列W、及び教師基底行列Hの関係は、以下の数式で表される。
Figure 0006766374
上記数式(2)より、教師係数行列Wを得るためには、教師基底行列Hの逆行列を用いる必要がある。しかし、教師基底行列Hは、一般に正則行列とは限らないため、逆行列を持たない場合がある。そこで、教師データ処理部114は、例えば教師基底行列の疑似逆行列(ムーア‐ペンローズの疑似逆行列)に基づいて、教師係数行列Wを生成してもよい。教師基底行列Hの疑似逆行列H は、k×mの行列であり、一般にk<mであるため、擬似逆行列H は、次式で得られる。
Figure 0006766374
上記数式(3)で得られた疑似逆行列H を用いて、教師係数行列Wは次式で表される。
Figure 0006766374
NMFは、一般に振幅が大きく、頻出する度合が大きいデータに対応する特徴を持つ規定が生成されやすい。したがって、全てのデータセットに対して一括でNMFを適用すると、クラスによって振幅の小さいデータや出現回数の低いデータがあると、そのクラスのデータに対応した特徴を持つ基底が生成され難い場合がある。そこで、上記のように、クラスごとにNMFを適用することで、振幅の小さいデータや、出現回数の低いデータに対応した特徴を持つ基底も生成されやすくなり、分類精度がより向上する。なお、複数のクラス、または全てのクラスのデータセットに対して一括でNMFが適用されてもよい。
教師データ処理部114は、生成した教師基底行列Hを、図1に示す記憶部118に、記憶させる。また、教師データ処理部114は、生成した教師係数行列Wを、正解ラベルと対応付けて、パラメータ生成部116に提供する。
パラメータ生成部116は、教師係数行列W、及び正解ラベルに基づいて、データを分類するための分類モデルパラメータを生成する。パラメータ生成部116が生成する分類モデルパラメータは、後述する分類部122における分類モデルに応じたパラメータであってもよい。例えば、分類部122が閾値判別を行う場合の分類モデルパラメータは閾値であってもよい。また、分類部122が線形判別を行う場合の分類モデルパラメータはクラスの境界を決定する線形判別関数の係数であってもよく、分類部122が二次判別を行う場合の分類モデルパラメータはクラスの境界を決定する二次判別関数の係数であってもよい。
パラメータ生成部116は、上記のようにして生成した分類モデルパラメータを、記憶部118に記憶させる。
記憶部118は、情報処理装置1の各構成が機能するためのプログラムやパラメータを記憶する。また、記憶部118は、教師データ処理部114が教師データに対して非負値行列因子分解を行うことで生成された教師基底行列Hと、パラメータ生成部116により生成された分類モデルパラメータと、を記憶する。
特徴抽出部120は、記憶部118に記憶された教師基底行列Hに基づいて、前処理部106により提供された評価データ(評価観測行列)から評価係数行列を生成する。以下、特徴抽出部120による評価係数行列の生成例について説明する。
教師基底行列Hに基づいて、評価観測行列Yから生成される係数行列を評価係数行列Wとすると、数式(1)より、評価観測行列Y、評価係数行列W、及び教師基底行列Hの関係は、以下の数式で表される。
Figure 0006766374
上記数式(3)と同様な方法で得られた疑似逆行列H を用いて、評価係数行列Wは次式で表される。
Figure 0006766374
特徴抽出部120は、上記のようにして生成した評価係数行列Wを、分類部122に提供する。
分類部122は、評価係数行列Wを、記憶部118に記憶された分類モデルパラメータに基づいて分類する。
分類部122は、評価係数行列Wに含まれる係数ベクトルを特徴ベクトルとし、様々な分類モデルを用いて、当該分類モデルに応じた分類モデルパラメータに基づいた分類することが可能である。例えば、分類部122は閾値判別、線形判別、二次判別、またはSVM(Support Vector Machine)等に基づく分類モデルを用いて、分類してもよい。なお、分類部122による分類結果は、評価係数行列Wに含まれる係数ベクトルの分類結果であると共に、各係数ベクトルに対応する、時系列データにおける対象区間の分類結果でもある。
以上のように、基底行列に対する重みを示す係数ベクトルを特徴ベクトルとして用いて分類することで、例えば特定周波数のパワーの大きさに基づいて分類するよりも、分類精度を向上させることが可能である。
また、評価データ自体を用いて分類処理を行った場合に比べ、評価データから生成される評価係数行列Wを用いて分類処理を行うことで、分類処理における特徴ベクトルの次元が削減され、分類処理の処理量を抑制することが可能となる。図4は、次元の削減を説明するための模式である。
図4に示すように、NMF、または特徴抽出部120の処理により、パワースペクトルである評価データG20は、基底ベクトルG21及び係数wの積と、基底ベクトルG22及び係数wの積と、の和で表される。図4の例において、評価データG20を特徴ベクトルとして分類処理を行う場合には、評価データG20における周波数分解能に応じた次元での処理が必要となる。一方、図4の例において、係数ベクトルの次元は2である。上述したように、評価データG20の次元よりも係数ベクトルの次元数の方が小さいため、評価係数行列Wを用いて分類処理を行うことで、分類処理における特徴ベクトルの次元が削減され、分類処理の処理量を抑制することが可能となる。
図1に示す出力部124は、分類部122による分類結果を出力する。出力部124は、例えば分類結果を表示するディスプレイ等の表示装置、または分類結果を音声出力するスピーカ等であってもよい。
<1−2.第一の実施形態の動作例>
以上、本発明の第一の実施形態に係る情報処理装置1の構成例について説明した。続いて、本実施形態の動作例について、分類モデルパラメータを生成する学習フェーズと、分類モデルパラメータを用いて分類する分類フェーズに分け、それぞれ図5,6を参照して説明する。なお、学習フェーズと、分類フェーズの動作の切り替えは、例えば図1を参照して説明した操作部112に対するユーザの入力により行われてもよい。
(学習フェーズの動作例)
図5は、学習フェーズにおける本実施形態の動作例を示すフローチャート図である。図5に示すように、まず、データ取得部102が、時系列データを取得し(S102)、区間特定部104が取得された時系列データのうち、分類モデルパラメータ生成処理の処理対象となる対象区間を特定する(S104)。
続いて、前処理部106の変換部108が、時系列データのうち対象区間に含まれるデータを周波数領域表現に変換し、変換後のデータである観測ベクトルが教師データ(教師観測行列)に追加される。さらに、前処理部106の対応付け部110が、教師データに追加される観測ベクトルと、操作部112を介してユーザにより入力される正解ラベルとを、対応付ける(S108)。
教師データの取得が終了していない場合(S110においてNO)、処理はステップS102に戻る。なお、教師データの取得が終了したか否かの判定は、例えば操作部112の入力に基づいて、前処理部106により行われてもよい。
教師データの取得が終了した場合(S110においてYES)、教師データ処理部114は、教師データ(教師観測行列)にNMFを適用して、教師基底行列と教師係数行列を取得する(S112)。取得された教師基底行列は、記憶部118に記憶される。また、取得された教師係数行列と、正解ラベルとに基づいて、パラメータ生成部116が分類モデルパラメータを生成する(S114)。
以上、学習フェーズにおける本実施形態の動作例を説明した。続いて、学習フェーズで生成された分類モデルパラメータを用いた、分類フェーズにおける本実施形態の動作例について、図6を参照して説明する。
(分類フェーズの動作例)
図6は、分類フェーズにおける本実施形態の動作例を示すフローチャート図である。まず、データ取得部102が、時系列データを取得し(S202)、区間特定部104が取得された時系列データのうち、分類処理の処理対象となる対象区間を特定する(S204)。
続いて、前処理部106の変換部108が、時系列データのうち対象区間に含まれるデータを周波数領域表現に変換することで、評価データ(評価観測行列)が取得される(S206)。なお、評価フェーズにおいて、評価データ(評価観測行列)に含まれる観測ベクトルは1つでもよいし、複数であってもよい。評価データに複数の観測ベクトルが含まれる場合、上記のステップS202〜S206が繰り返されてもよい。
続いて、特徴抽出部120は、上述した学習フェーズで取得され、記憶部118に記憶された教師基底行列に基づいて、評価データから評価係数行列を生成する(S208)。
続いて、分類部122が、上述した学習フェーズで生成され、記憶部118に記憶された分類モデルパラメータに基づいて、評価係数行列を分類する(S210)。最後に、ステップS210における分類結果が、出力部124により出力される(S212)。
<1−3.第一の実施形態の効果>
以上、本発明の第一の実施形態について説明した。本実施形態によれば、基底行列に対する重みを示す係数ベクトルを特徴ベクトルとして用いて分類することで、分類精度を向上させることが可能である。
<<2.第二の実施形態>>
続いて、以下では、第二の実施形態として、前処理部がノイズ除去を行う例について説明する。
<2−1.第二の実施形態の構成例>
本発明の第二の実施形態に係る情報処理装置は、図1を参照して説明した第一の実施形態に係る情報処理装置1と一部において同様の構成を有するため、適宜省略しながら説明を行う。以下では、図7を参照して、第二の実施形態に係る情報処理装置の構成例について説明する。
図7は、本実施形態に係る情報処理装置の構成例を示す説明図である。図7に示すように、本実施形態に係る情報処理装置2は、データ取得部102、区間特定部204、前処理部206、操作部112、教師データ処理部114、パラメータ生成部116、記憶部118、特徴抽出部120、分類部122、及び出力部124を備える。なお、図7に示す構成のうち、図1に示した各構成と実質的に同様の構成については同一の符号を付してあるため、説明を省略する。
区間特定部204は、図1を参照して説明した区間特定部104と同様に、データ取得部102により取得された時系列データのうち、分類モデルパラメータ生成処理、または分類処理の処理対象となる対象区間(時間区間)を特定する。なお、以下では、時系列データが測定対象物(例えばコンクリート等)に対してハンマー等の打具で打撃した際の打音を収音して得られた音響信号である場合を例に説明する。
また、区間特定部204は、さらに、ノイズ区間を特定する。ノイズ区間は、例えば、分類モデルパラメータ生成処理、または分類処理の処理対象となるデータを含まない区間であってもよい。また、区間特定部204は、ノイズ区間が上記の対象区間の一部、または全部を含まないように、ノイズ区間を特定してもよい。
図8は、本実施形態に係る区間特定部204による、対象区間とノイズ区間の特定例を示す説明図である。なお、図8に示す例では、図2を参照して説明した例と同様に、参照信号に基づいた区間の特定が行われているが、区間特定部204は、時系列データにおける振幅の大きさに基づいて、各区間を特定してもよい。
区間特定部204は、まず、図8に示す時系列データG31から、参照信号G32に基づいて対象区間D32(例えば打音が発生した時刻を含む区間)を特定する。図8における、参照信号G32は、図2における参照信号G12と同様であるため、説明を省略する。
区間特定部204は、続いて、対象区間D32の前後の時間区間を、ノイズ区間D31,及びD33として特定する。区間特定部204は、例えば対象区間D32以前の所定期間をノイズ区間D31とし、対象区間D32以後の所定期間をノイズ区間D33として、特定してもよい。なお、区間特定部204は、区間D31〜D33、すなわち図8に示す区間D30に、対象区間D32以外の対象区間を含まないように、各区間を特定してもよい。
ここで、打音を収音して得られた音響信号である時系列データG31において、区間D30には、打音に由来する打音成分と、周囲の雑音(ノイズ)等に由来するノイズ成分とが含まれる。また、区間特定部204により特定されるノイズ区間D31,D33には、打音成分が含まれず、ノイズ成分のみが含まれる。そこで、例えば、区間D30のスペクトルから、区間D30のノイズ成分スペクトルを差し引くことで、区間D30の打音成分を抽出することが出来る。なお、区間D30のうち、ノイズ区間D31,D33には、打音成分が含まれないため、区間D30の打音成分は、対象区間D32の打音成分と等価となる。
なお、上記のノイズ区間を、例えば対象区間に比べて十分長くとることで、定常的なノイズ成分を精度よく抽出でき、より高精度なノイズ除去処理が可能となる。また、上記のように、時系列データのうち、打音成分が含まれる対象区間、及びノイズ成分のみが含まれるノイズ区間を特定することで、時系列データ全体に対してノイズ除去処理を行うよりも処理量を抑制することが可能となる。
図7に示す本実施形態に係る前処理部206は、図1を参照して説明した前処理部106と同様に、分類モデルパラメータ生成処理のための教師データ、及び分類処理のための評価データを取得する。また、図7に示すように、本実施形態に係る前処理部206は、変換部208、ノイズ除去部230、及び対応付け部110としての機能を有する。
変換部208は、区間特定部204により特定された対象区間に含まれる少なくとも一部のデータを、周波数領域表現に変換する。さらに、変換部208は、同様に区間特定部204により特定されたノイズ区間に含まれる少なくとも一部のデータを、周波数領域表現に変換する。
また、変換部208は、時系列データに、区間特定部204により特定された各区間に基づく窓関数をかけた後に、周波数領域表現に変換してもよい。窓関数をかける処理により、例えば、時系列データから、打音成分とノイズ成分とを含む打音・ノイズデータ、及びノイズ成分のみを含むノイズデータを取得することが可能である。以下、変換部208が時系列データに窓関数をかける処理について、図9、10を参照して説明する。
図9は、時系列データから打音成分とノイズ成分を含む打音・ノイズデータを取得する処理を示す模式図である。例えば、変換部208は、図9に示すように、時系列データG40に、対象区間の少なくとも一部の値が0ではない窓関数Wsnをかけて、打音成分とノイズ成分とを含む打音・ノイズデータG42を取得する。つまり、打音・ノイズデータG42は、時系列データのうち、対象区間のデータを少なくとも一部含む。
図10は、時系列データからノイズ成分のみを含むノイズデータを取得する処理を示す模式図である。例えば、変換部208は、図10に示すように、時系列データG40に、少なくとも対象区間の値が0であり、ノイズ区間の少なくとも一部の値が0ではない窓関数Wnをかけて、ノイズ成分のみを含むノイズデータG44を取得する。つまり、ノイズデータG44は、時系列データのうち、対象区間以外の区間に含まれるノイズデータである。
変換部208は、上記のよう時系列データに窓関数をかけて得られた打音成分とノイズ成分とを含むデータ、及びノイズデータを周波数領域表現に変換する。例えば、本実施形態に係る変換部208は、上記のようにして得られた打音成分とノイズ成分とを含むデータ、及びノイズデータに対してフーリエ変換を行い、パワースペクトル等のスペクトルを取得してもよい。
ノイズ除去部230は、変換部208により取得されたスペクトルに基づいて、周波数領域において、ノイズ除去処理を行う。例えば、ノイズ除去部230は、打音・ノイズデータに基づいて得られるスペクトルと、ノイズデータに基づいて得られるスペクトルと、を用いたスペクトルサブトラクションにより、ノイズ除去処理を行ってもよい。すなわち、ノイズ除去部230によるノイズ除去処理は、打音・ノイズデータに基づいて得られるスペクトルから、ノイズデータに基づいて得られるスペクトルを差し引くことを含んでもよい。
ここで、打音・ノイズデータ、及びノイズデータの取得に係る窓関数は異なるため、ノイズ除去部230は、スペクトル同士を差し引く際に、窓関数の差に係る補正を行ってもよい。
図11は、ノイズ除去部230によるスペクトルサブトラクションを模式的に示す説明図である。図11において、スペクトルG51は、打音・ノイズデータをフーリエ変換することで得られたパワースペクトルであり、スペクトルG52は、ノイズデータをフーリエ変換することで得られたパワースペクトルである。ここで、ノイズ除去部230がスペクトル同士を差し引く際に、スペクトルG52に乗ずる係数kは、例えば近似的に次式で表される。
Figure 0006766374
ノイズ除去部230のノイズ除去処理により得られたパワースペクトルG53は、例えば観測行列に含まれる観測ベクトルとして、教師データ処理部114、または特徴抽出部120に提供される。なお、パワースペクトルG53に対してフーリエ逆変換が行われて、時間領域表現に変換された後に、さらに他の周波数領域表現に変換された結果が観測ベクトルとして観測行列に含まれてもよい。
<2−2.第二の実施形態の動作例>
以上、本発明の第二の実施形態に係る情報処理装置2の構成例を説明した。続いて、本実施形態の動作例について、第一の実施形態の動作例の説明と同様に、学習フェーズと分類フェーズに分けて、それぞれ図12,13を参照して説明する。
(学習フェーズの動作例)
図12は、学習フェーズにおける本実施形態の動作例を示すフローチャート図である。図12に示すように、まず、データ取得部102が、時系列データを取得し(S302)、区間特定部204が取得された時系列データのうち、分類モデルパラメータ生成処理の処理対象となる対象区間、及びノイズ成分のみが含まれるノイズ区間を特定する(S304)。
続いて、前処理部206の変換部208が、時系列データのうち対象区間に基づく打音成分とノイズ成分とを含む打音・ノイズデータ、及びノイズ区間に基づくノイズ成分のみを含むノイズデータのスペクトルを取得する(S306)。変換部208は、図9、10を参照して説明したように、時系列データに窓関数をかけて打音成分とノイズ成分とを含むデータ、及びノイズ成分のみを含むデータを取得した後に、周波数領域表現に変換して、各スペクトルを取得してもよい。
続いて、ノイズ除去部230が、ステップS306により得られたスペクトルに基づいてノイズ除去処理を行う(S308)。ノイズ除去部230は、図11を参照して説明したように、打音・ノイズデータのスペクトルから、ノイズデータのスペクトルに係数を乗じて、差し引くスペクトルサブトラクションにより、ノイズ除去を行ってもよい。ステップS308により得られたスペクトルは、観測ベクトルとして、教師データ(教師観測行列)に追加される。
続くステップS310〜ステップS316の処理は、図5を参照して説明したステップS108〜S114の処理と同様であるため、説明を省略する。
以上、学習フェーズにおける本実施形態の動作例を説明した。続いて、学習フェーズで生成された分類モデルパラメータを用いた、分類フェーズにおける本実施形態の動作例について、図13を参照して説明する。
(分類フェーズの動作例)
図13は、分類フェーズにおける本実施形態の動作例を示すフローチャート図である。まず、データ取得部102が、時系列データを取得し(S402)、区間特定部204が取得された時系列データのうち、分類処理の処理対象となる対象区間、及びノイズ成分のみが含まれるノイズ区間を特定する(S404)。
続くステップS406、及びステップS408の処理は、図12を参照して説明したステップS306、及びステップS308の処理と同様であるため、説明を省略する。なお、評価フェーズにおいて、ステップS408により得られたスペクトルは、評価データ(評価観測行列)として用いられる。また、評価データ(評価観測行列)に含まれる観測ベクトルは1つでもよいし、複数であってもよい。評価データに複数の観測ベクトルが含まれる場合、上記のステップS402〜S408が繰り返されてもよい。
続くステップS410〜ステップS414の処理は、図6を参照して説明したステップS208〜S212の処理と同様であるため、説明を省略する。
<2−3.第二の実施形態の効果>
以上、本発明の第二の実施形態について説明した。本実施形態によれば、ノイズ成分が除去されたデータに基づいて学習、及び分類を行うことで、分類精度をより向上させることが可能である。
<<3.第三の実施形態>>
続いて、以下では、第三の実施形態として、クラス分離度の高い係数行列が得られるように限定した範囲のデータに部分的にNMFを適用する例について説明する。
<3−1.第三の実施形態の概要>
まず、図14、15を参照して、本実施形態の概要について説明する。なお、以下では、時系列データから、フーリエ変換により得られるパワースペクトル、スペクトログラムや、ウェーブレット変換によって得られるスカログラム等、時間、周波数、及び振幅の関係を表したデータを総称して時間・周波数・振幅データと呼ぶ。時間・周波数・振幅データは、例えば、周波数領域、及び時間領域における振幅の値を示すデータとして表現されてもよい。
上記で説明した第一の実施形態、及び第二の実施形態では、時間・周波数・振幅データの全体に対してNMFを適用していた。しかし、スペクトログラムや、スカログラムは、時間と周波数の2軸を有するデータとなり、スペクトログラムや、スカログラムに対してNMFを適用すると、計算量が大きくなる場合があった。
また、NMFは、一般に振幅の値や、出現頻度が高い基底が選ばれやすい。したがって、時間・周波数・振幅データの全体に対してNMFを適用すると、例えば、クラスの分離能力が低く振幅の大きな基底が選ばれ、クラスの分離能力が高く振幅の小さな基底が選ばれてしまい、分離精度が低下する恐れがある。図14は、時間・周波数・振幅データの全体に対してNMFを適用した例を示す模式図である。
図14に示すスペクトログラムG61、G62は、それぞれクラス1、クラス2の特徴を示すスペクトログラムである。スペクトログラムG61、G62において、黒色の濃さが振幅の大きさを示している。
また、図14に示す例において、振幅の大きい領域R1における振幅の大きさは、クラス1の特徴を示すスペクトログラムG61、及びクラス2の特徴を示すスペクトログラムG62に共通して現れ、分類(判別)に有効な特徴ではない。一方、図14に示す例において、振幅の小さい領域R2、及び領域R3における振幅の大きさは、クラス1、及びクラス2の分類に有効な特徴である。しかし、スペクトログラムG61、G62のデータ全体に対してNMFを適用してしまうと、振幅の大きい領域R1に対応する基底G611、G621が選択され、クラス1とクラス2の分類に有効な特徴を示す振幅の小さな基底は選択されない恐れがある。その結果、スペクトログラムG61から得られる係数G613、及びスペクトログラムG62から得られる係数G623が同一となり、クラス1とクラス2を分類(判別)することは困難である。
そこで、本実施形態では、図15に示すように、クラス分類に有効な時間領域と周波数領域に限定して部分的にNMFを適用する。図15は、領域を限定して部分的にNMFを適用した例を示す模式図である。
図15に示すスペクトログラムG71、G72は、図14に示したスペクトログラムG61、G62と同様に、それぞれクラス1、クラス2の特徴を示すスペクトログラムである。図15に示すように、スペクトログラムG71、G72の領域R4に限定して部分的にNMFを適用すると、領域R2に対応する基底G711、G721と、領域R3に対応する基底G712、G722が選択される。その結果、スペクトログラムG71から得られる係数G713、及び係数G714と、スペクトログラムG72から得られる係数G723、及び係数724とが大きく異なり、容易にクラス1とクラス2を分類(判別)可能である。また、領域R4に限定してNMFを適用すればよいため、処理量を抑制することも可能となる。
例えば、一般に打音データは限られた時間帯のデータであり、時間・周波数・振幅データにおいて振幅が現れる一部の時間帯に限定して目的に応じた分析を行えば十分である。また、特定の周波数帯の音を出力する機械の振動音等のデータは、その周波数帯に限定して目的に応じた分析を行えば十分である。
以上、本実施形態の概要について説明した。続いて、本実施形態による情報処理装置1の構成例と、動作について順次詳細に説明する。
<3−2.第三の実施形態の構成例>
本発明の第三の実施形態に係る情報処理装置は、図1を参照して説明した第一の実施形態に係る情報処理装置1と一部において同様の構成を有するため、適宜省略しながら説明を行う。以下では、図16を参照して、第三の実施形態に係る情報処理装置の構成例について説明する。
図16は、本実施形態に係る情報処理装置の構成例を示す説明図である。図7に示すように、本実施形態に係る情報処理装置3は、データ取得部102、区間特定部104、前処理部306、操作部112、教師データ処理部114、パラメータ生成部116、記憶部118、特徴抽出部120、分類部122、及び出力部124を備える。なお、図16に示す構成のうち、図1に示した各構成と実質的に同様の構成については同一の符号を付してあるため、説明を省略する。
図16に示す本実施形態に係る前処理部306は、図1を参照して説明した前処理部106と同様に、分類モデルパラメータ生成処理のための教師データ(教師観測行列)、及び分類処理のための評価データ(評価観測行列)を取得する。また、図16に示すように、本実施形態に係る前処理部306は、変換部308、対応付け部310、データ分割部312、及び分離度評価部313としての機能を有する。
変換部308は、区間特定部104により特定された対象区間に含まれる少なくとも一部のデータを、時間・周波数・振幅データに変換する。例えば、変換部308の変換により得られる時間・周波数・振幅データは、パワースペクトル、スペクトログラム、またはスカログラムであってもよい。
対応付け部310は、前処理部306が教師データを取得する場合に、区間特定部104により特定される対象区間のデータと、操作部112を介してユーザにより入力される正解ラベルとを、対応付ける。
データ分割部312は、変換部308により取得される時間・周波数・振幅データを、周波数領域、または時間領域において分割する。また、分離度評価部313は、データ分割部312により分割されたデータごとにNMFを適用し、クラス分離度を評価して分離度の高いデータを教師データとして取得する。また、分離度評価部313は、教師データが取得された領域から、評価データを取得する。
図17は、データ分割部312によるデータ分割と、分離度評価部313による教師データと評価データの取得の例を示す説明図である。図17に示すように、時間・周波数・振幅データの領域A0において、データ分割部312は、4つの領域A1、A2、A3、A4にデータを分割する。データ分割部312による分割数は、2以上の任意の数であってもよい。分離度評価部313は、分割されたそれぞれのデータに対して、NMFを適用し、ある複数のランクで基底行列及び係数行列を取得する。なお、時間・周波数・振幅データは、NMFを適用するために、1次元の列ベクトルに変換されてもよい。
以下では、例としてクラスC1とクラスC2の2つのクラスが存在する場合について説明する。まず、クラスC1に属する複数の時間・周波数・振幅データの領域A1、A2、A3、A4から、基底行列HC1,A1、HC1,A2、HC1,A3、HC1,A4、及び係数行列WC1,A1、WC1,A2、WC1,A3、WC1,A4、がそれぞれ得られる。続いて、クラスC2に属する複数の時間・周波数・振幅データの領域A1、A2、A3、A4から、同様に基底行列HC2,A1、HC2,A2、HC2,A3、HC2,A4、及び係数行列WC2,A1、WC2,A2、WC2,A3、WC2,A4、がそれぞれ得られる。なお、分解される基底の数を示すランクは、1から元のデータの次元数までの範囲である。
続いて、分離度評価部313は、それぞれの分割された時間領域、及び周波数領域で、各領域での分類能力を示す分離度を特定する。分離度を示す指標として、例えばクラスの分類(判別)正解率が用いられてもよい。
以下では、領域A0において、クラスC1またはクラスC2の分離度を示す指標として、クラスC1またはクラスC2の分類正解率が用いられる例を説明する。まず、分離度評価部313は、クラスC1、C2のそれぞれから得られた基底HC1,A1、HC2,A1を組み合わせた共通の基底HC1‐C2,A1={HC1,A1,HC2,A1}を求める。元のクラスC1のデータYC1,A0、クラスC2のデータYC2,A0にHC1―C2,A1の擬似逆行列HC1―C2,A1 をかけて、各クラスの係数行列WC1,A0、WC2,A0は次式で得られる。
Figure 0006766374
分離度評価部313は、係数行列WC1,A0、WC2,A0を、それぞれクラスC1、クラスC2の特徴ベクトルとして、分類して、分類正解率を求める。ここで分離度評価部313が行う分類の方式は、例えば図1を参照して説明した分類部122の分類方式と同様であってもよい。
また、分離度を示す他の指標として、クラス内・クラス間分散比が用いられてもよい。クラス内分散σw 2、及びクラス間分散σB 2は以下のように表される。
Figure 0006766374
ただし、上記数式(10)、(11)において、nは全データ数、nはクラスiのデータ数、xは特徴ベクトル、mはクラスiの特徴量ベクトルの平均、mは全特徴量ベクトルの平均である。上記クラス内分散σw 2、及びクラス間分散σB 2を用いて、クラス内・クラス間分散比Jは以下のよう表される。
Figure 0006766374
上記のクラス内・クラス間分散比Jが大きい程、分離度が大きく、良い特徴量であると考えられる。なお、分離度を示す指標は、上記に限定されず、例えばマハラノビス距離が用いられてもよい。
分離度評価部313は、上述のように、4つの領域A1、A2、A3、A4でそれぞれ分離度を求め、分離度の値が予め設定された閾値L以上の場合は、それらの領域を組み合わせた時間領域・周波数領域のデータで同様に分離度を求める。例えば、領域A1とA3で分離度が閾値L以上であった場合、分離度評価部313は、領域A1及びA3の時間領域・周波数領域のそれぞれで得られた特徴量で分離度を求める。上述のように、分離度の高い複数の領域から得られたデータを用いることで、より高い分離度の特徴量が得られる効果がある。
また、データ分割部312は、図17に示す4つの領域A1、A2、A3、A4のそれぞれにおいて、さらに再帰的にデータを分割してもよい。例えば、図17に示す領域A1は、4つの領域A11、A12、A13、A14に分割されてもよい。また、分離度評価部313は、分割されたデータや、分割されたデータを組み合わせたデータに対して、それぞれ分離度を求める。上記の再帰的な分割は、時間領域・周波数領域が最小の単位になるまで分割されるか、あるいは分割されたデータの大きさが所定の値となるまで、繰り返されてもよい。
なお、上記では、分離度が高い時間領域・周波数領域を効率よく抽出するために、再帰的に分割する例を説明したが、本発明は係る例に限定されない。例えば、一部、あるいは全ての時間領域・周波数領域の分離度を評価してもよいし、他の方法で分離度の高い時間領域・周波数領域を抽出してもよい。
分離度評価部313は、学習フェーズにおいて、分離度が最も高くなる時間領域・周波数領域でのデータを教師用データ(教師観測行列)として取得する。また、分離度評価部313は、教師データを取得した時間領域・周波数領域を、評価データを取得するためのデータ領域として特定し、当該データ領域から評価データ(評価観測行列)を取得する。
<3−3.第三の実施形態の動作例>
以上、本発明の第三の実施形態に係る情報処理装置3の構成例を説明した。続いて、本実施形態の動作例について、第一の実施形態、及び第二の実施形態の動作例の説明と同様に、学習フェーズと分類フェーズに分けて、それぞれ図18,19を参照して説明する。
(学習フェーズの動作例)
図18は、学習フェーズにおける本実施形態の動作例を示すフローチャート図である。図18に示すように、まず、データ取得部102が、時系列データを取得し(S502)、区間特定部104が取得された時系列データのうち、分類モデルパラメータ生成処理の処理対象となる対象区間を特定する(S504)。続いて、前処理部306の対応付け部310が、特定された対象区間と、操作部112を介してユーザにより入力される正解ラベルとを、対応付ける(S506)。なお、ステップS506で対象区間と対応付けられた正解ラベルは、後述するステップS518で取得される教師データに含まれる、当該対象区間と対応する教師観測ベクトルとも、対応付けられてよい。
学習に用いられるデータの取得が終了していない場合(S508においてNO)、処理はステップS502に戻る。なお、学習に用いられるデータの取得が終了したか否かの判定は、例えば操作部112の入力に基づいて、前処理部306により行われてもよい。
学習に用いられるデータの取得が終了した場合(S508においてYES)、前処理部306の変換部308が、時系列データのうち対象区間に含まれるデータを時間・周波数・振幅データに変換する(S510)。続いて、前処理部306のデータ分割部312が、時間領域、及び周波数領域で時間・周波数・振幅データを分割する(S512)。
続いて、分離度評価部313が、データ分割部312により分割されたデータごとにNMFを適用し、クラス分離度を評価し(S514)、分離度の高いデータを選択し(S516)、選択されたデータを教師データとして取得する(S518)。
続くステップS520〜ステップS522の処理は、図5を参照して説明したステップS112〜S114の処理と同様であるため、説明を省略する。
以上、学習フェーズにおける本実施形態の動作例を説明した。続いて、学習フェーズで生成された分類モデルパラメータを用いた、分類フェーズにおける本実施形態の動作例について、図19を参照して説明する。
(分類フェーズの動作例)
図19は、分類フェーズにおける本実施形態の動作例を示すフローチャート図である。まず、データ取得部102が、時系列データを取得し(S602)、区間特定部204が取得された時系列データのうち、分類処理の処理対象となる対象区間を特定する(S604)。
続いて、前処理部306の変換部308が、時系列データのうち対象区間に含まれるデータを時間・周波数・振幅データに変換し(S606)、前処理部306のデータ分割部312が、時間領域、及び周波数領域で時間・周波数・振幅データを分割する(S608)。
続いて、分割された時間・周波数・振幅データにおいて、図18を参照して説明した学習フェーズのステップS516で選択されたデータの領域と、同一領域のデータが選択される(S612)。さらに、分離度評価部313は、選択されたデータから、評価データを取得する(S614)。
続くステップS616〜ステップS620の処理は、図6を参照して説明したステップS208〜S212の処理と同様であるため、説明を省略する。
<3−4.第三の実施形態の効果>
以上、本発明の第三の実施形態について説明した。本実施形態によれば、分類に利用される時間領域・周波数領域の範囲を限定することで、処理量を抑制することが可能となる。また、分離度の高い領域から教師データ、及び評価データを取得することにより、分類に有効な基底が選択されやすくなり、分類精度がより向上する。
<3−5.第三の実施形態の補足>
なお、第三の実施形態に係る前処理部306は、第二の実施形態で説明したノイズ除去機能(ノイズ除去部230としての機能)を有してもよい。
<<4.ハードウェア構成>>
以上、本発明の各実施形態と各変形例を説明した。上述した区間特定処理、前処理、教師データ処理、パラメータ生成処理、特徴抽出処理、分類処理などの情報処理は、ソフトウェアと、情報処理装置1〜3のハードウェアとの協働により実現される。以下では、本発明の実施形態に係る情報処理装置である情報処理装置1〜3のハードウェア構成例として、情報処理装置1000のハードウェア構成例について説明する。
図20は、発明の実施形態に係る情報処理装置1000のハードウェア構成例を示す説明図である。図20に示したように、情報処理装置1000は、CPU(Central Processing Unit)1001と、ROM(Read Only Memory)1002と、RAM(Random Access Memory)1003と、入力装置1004と、出力装置1005と、ストレージ装置1006と、通信装置1007とを備える。
CPU1001は、演算処理装置及び制御装置として機能し、各種プログラムに従って情報処理装置1000内の動作全般を制御する。また、CPU1001は、マイクロプロセッサであってもよい。ROM1002は、CPU1001が使用するプログラムや演算パラメータなどを記憶する。RAM1003は、CPU1001の実行において使用するプログラムや、その実行において適宜変化するパラメータなどを一時記憶する。これらはCPUバスなどから構成されるホストバスにより相互に接続されている。主に、CPU1001、ROM1002及びRAM1003とソフトウェアとの協働により、例えば、区間特定部104、前処理部106、教師データ処理部114、パラメータ生成部116、特徴抽出部120、分類部122の機能が実現される。
入力装置1004は、マウス、キーボード、タッチパネル、ボタン、マイクロフォン、スイッチ及びレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU1001に出力する入力制御回路などから構成されている。情報処理装置1000のユーザは、該入力装置1004を操作することにより、情報処理装置1000に対して各種のデータを入力したり処理動作を指示したりすることができる。なお、入力装置1004は、操作部112に対応する。
出力装置1005は、例えば、液晶ディスプレイ(LCD)装置、OLED装置及びランプなどの表示装置を含む。さらに、出力装置1005は、スピーカ及びヘッドホンなどの音声出力装置を含む。例えば、表示装置は、撮像された画像や生成された画像などを表示する。一方、音声出力装置は、音声データなどを音声に変換して出力する。なお、出力装置1005は、出力部124に対応する。
ストレージ装置1006は、データ格納用の装置である。ストレージ装置1006は、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置及び記憶媒体に記録されたデータを削除する削除装置などを含んでもよい。ストレージ装置1006は、CPU1001が実行するプログラムや各種データを格納する。なお、ストレージ装置1006は、記憶部118に対応する。
通信装置1007は、例えば、通信網に接続するための通信デバイスなどで構成された通信インタフェースである。また、通信装置1007は、無線LAN(Local Area Network)対応通信装置、LTE(Long Term Evolution)対応通信装置、有線による通信を行うワイヤー通信装置、またはブルートゥース(登録商標)通信装置を含んでもよい。
<<5.むすび>>
以上説明したように、本発明の実施形態によれば、分類精度を向上させることが可能である。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、上記実施形態では、教師データと、評価データを同一の装置(情報処理装置1〜3)が取得する例を説明したが、本発明は係る例に限定されない。例えば、教師データと評価データを取得する装置は別々の装置であってもよいし、教師データや正解ラベルは、予め記憶部に記憶されていてもよい。
また、上記実施形態では、情報処理装置1〜3が、分類モデルパラメータを生成するパラメータ生成装置としての機能と、時系列データを複数のクラスに分類する分類装置としての機能とを有する例を説明したが、本発明は係る例に限定されない。例えば、分類モデルパラメータの生成処理を行うパラメータ生成装置と、パラメータ生成装置で生成された分類モデルパラメータを用いて分類処理を行う分類装置とが、異なる装置であってもよい。
また、上記実施形態では、打音の収音に基づいて得られたデータが、正常または異常の2クラスのいずれかに分類される例を説明したが、本発明は係る例に限定されない。例えば、本実施形態の分類対象となるデータは、打音の収音に基づくデータに限定されず、また、3以上のクラスに分類されてもよい。
また、情報処理装置1〜3に内蔵されるCPU1001、ROM1002、及びRAM1003などのハードウェアに、上述した情報処理装置1〜3の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
1 情報処理装置
102 データ取得部
104 区間特定部
106 前処理部
108 変換部
110 対応付け部
112 操作部
114 教師データ処理部
116 パラメータ生成部
118 記憶部
120 特徴抽出部
122 分類部
124 出力部
230 ノイズ除去部
312 データ分割部
313 分離度評価部

Claims (15)

  1. 時系列データのうち処理対象となる対象区間を前記時系列データにおける振幅の大きさに基づいて特定する区間特定部と、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得する前処理部と、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータを記憶する記憶部と、
    前記教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する特徴抽出部と、
    前記評価係数行列を前記分類モデルパラメータに基づいて分類する分類部と、
    を備える分類装置。
  2. 時系列データのうち処理対象となる対象区間を特定する区間特定部と、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得するとともに、前記時系列データのうち前記対象区間以外の区間に含まれるノイズデータに基づいて、ノイズ除去処理を行う前処理部と、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータを記憶する記憶部と、
    前記教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する特徴抽出部と、
    前記評価係数行列を前記分類モデルパラメータに基づいて分類する分類部と、
    を備える分類装置。
  3. 前記前処理部は、少なくとも前記対象区間の値が0である窓関数を前記時系列データにかけることで前記ノイズデータを取得する、請求項に記載の分類装置。
  4. 前記前処理部は、周波数領域において、前記ノイズ除去処理を行う、請求項またはに記載の分類装置。
  5. 前記前処理部による前記ノイズ除去処理は、前記時系列データのうち前記対象区間のデータに基づいて得られるスペクトルから、前記ノイズデータに基づいて得られるスペクトルを差し引くことを含む、請求項に記載の分類装置。
  6. 時系列データのうち処理対象となる対象区間を特定する区間特定部と、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得する前処理部と、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータを記憶する記憶部と、
    前記教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する特徴抽出部と、
    前記評価係数行列を前記分類モデルパラメータに基づいて分類する分類部と、
    を備え、
    前記時系列データは、測定対象物に対する打音の収音に基づいて得られたデータであり、前記対象区間は、前記打音が行われた時刻を含む、
    分類装置。
  7. 時系列データのうち処理対象となる対象区間を前記時系列データにおける振幅の大きさに基づいて特定することと、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得することと、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師係数行列に基づいて、前記評価データから評価係数行列を生成することと、
    前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師基底行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類することと、
    を含む、分類装置が実行する分類方法。
  8. 時系列データのうち処理対象となる対象区間を特定することと、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得するとともに、前記時系列データのうち前記対象区間以外の区間に含まれるノイズデータに基づいて、ノイズ除去処理を行うことと、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成することと、
    前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類することと、
    を含む、分類装置が実行する分類方法。
  9. 時系列データのうち処理対象となる対象区間を特定することと、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得することと、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成することと、
    前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類することと、
    を含み、
    前記時系列データは、測定対象物に対する打音の収音に基づいて得られたデータであり、前記対象区間は、前記打音が行われた時刻を含む、
    分類装置が実行する分類方法。
  10. コンピュータに、
    時系列データのうち処理対象となる対象区間を前記時系列データにおける振幅の大きさに基づいて特定する機能と、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得する機能と、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する機能と、
    前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類する機能と、
    を実現させるための、プログラム。
  11. コンピュータに、
    時系列データのうち処理対象となる対象区間を特定する機能と、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得するとともに、前記時系列データのうち前記対象区間以外の区間に含まれるノイズデータに基づいて、ノイズ除去処理を行う機能と、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する機能と、
    前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類する機能と、
    を実現させるための、プログラム。
  12. コンピュータに、
    時系列データのうち処理対象となる対象区間を特定する機能と、
    前記時系列データと前記対象区間に基づいて、非負の評価データを取得する機能と、
    所定の非負の教師データに対して非負値行列因子分解を行うことで生成された教師基底行列に基づいて、前記評価データから評価係数行列を生成する機能と、
    前記評価係数行列を、前記教師データに対して非負値行列因子分解を行うことで生成された教師係数行列、及び前記教師データに対応付けられた正解ラベル、に基づいて生成された分類モデルパラメータに基づいて分類する機能と、
    を実現させるための、プログラムであって、
    前記時系列データは、測定対象物に対する打音の収音に基づいて得られたデータであり、前記対象区間は、前記打音が行われた時刻を含む、プログラム。
  13. 時系列データのうち処理対象となる対象区間を前記時系列データにおける振幅の大きさに基づいて特定する区間特定部と、
    前記時系列データと前記対象区間に基づいて、非負の教師データを取得する前処理部と、
    前記教師データに対して非負値行列因子分解を行うことで、教師係数行列を生成する教師データ処理部と、
    前記教師係数行列と、前記教師データに対応付けられた正解ラベルに基づいて、データを分類するための分類モデルパラメータを生成するパラメータ生成部と、
    を備える、パラメータ生成装置。
  14. 時系列データのうち処理対象となる対象区間を特定する区間特定部と、
    前記時系列データと前記対象区間に基づいて、非負の教師データを取得するとともに、前記時系列データのうち前記対象区間以外の区間に含まれるノイズデータに基づいて、ノイズ除去処理を行う前処理部と、
    前記教師データに対して非負値行列因子分解を行うことで、教師係数行列を生成する教師データ処理部と、
    前記教師係数行列と、前記教師データに対応付けられた正解ラベルに基づいて、データを分類するための分類モデルパラメータを生成するパラメータ生成部と、
    を備える、パラメータ生成装置。
  15. 時系列データのうち処理対象となる対象区間を特定する区間特定部と、
    前記時系列データと前記対象区間に基づいて、非負の教師データを取得する前処理部と、
    前記教師データに対して非負値行列因子分解を行うことで、教師係数行列を生成する教師データ処理部と、
    前記教師係数行列と、前記教師データに対応付けられた正解ラベルに基づいて、データを分類するための分類モデルパラメータを生成するパラメータ生成部と、
    を備え、
    前記時系列データは、測定対象物に対する打音の収音に基づいて得られたデータであり、前記対象区間は、前記打音が行われた時刻を含む、
    パラメータ生成装置。

JP2016035641A 2016-02-26 2016-02-26 分類装置、分類方法、プログラム、及びパラメータ生成装置 Active JP6766374B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016035641A JP6766374B2 (ja) 2016-02-26 2016-02-26 分類装置、分類方法、プログラム、及びパラメータ生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016035641A JP6766374B2 (ja) 2016-02-26 2016-02-26 分類装置、分類方法、プログラム、及びパラメータ生成装置

Publications (2)

Publication Number Publication Date
JP2017151872A JP2017151872A (ja) 2017-08-31
JP6766374B2 true JP6766374B2 (ja) 2020-10-14

Family

ID=59739880

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016035641A Active JP6766374B2 (ja) 2016-02-26 2016-02-26 分類装置、分類方法、プログラム、及びパラメータ生成装置

Country Status (1)

Country Link
JP (1) JP6766374B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6506817B1 (ja) * 2017-11-13 2019-04-24 東急建設株式会社 構造物の点検方法
JP7013965B2 (ja) * 2018-03-15 2022-02-01 沖電気工業株式会社 情報処理装置、情報処理方法、及びプログラム
JP6892634B2 (ja) * 2018-03-15 2021-06-23 オムロン株式会社 情報処理装置、情報処理方法、およびプログラム
JP7000991B2 (ja) * 2018-05-23 2022-01-19 株式会社リコー 状態識別装置、状態識別方法および状態識別プログラム
JP6957762B2 (ja) * 2018-08-29 2021-11-02 株式会社東芝 異常診断システム、方法及びプログラム
GB2577920A (en) 2018-10-10 2020-04-15 Guided Ultrasonics Ltd Determining thickness of an elongate or extended structure
CN109870697A (zh) * 2018-12-27 2019-06-11 东莞理工学院 一种基于超声波声学的物体检测和分类方法
JP7263770B2 (ja) * 2018-12-27 2023-04-25 沖電気工業株式会社 分類装置、分類システム、分類方法及びプログラム
JP7188143B2 (ja) * 2019-01-31 2022-12-13 株式会社明電舎 異常予兆検出システム、異常予兆検出方法
KR102455758B1 (ko) * 2020-01-30 2022-10-17 가부시키가이샤 스크린 홀딩스 데이터 처리 방법, 데이터 처리 장치 및 기억 매체
JP7467979B2 (ja) 2020-02-26 2024-04-16 沖電気工業株式会社 分類システム、情報処理装置、分類方法およびプログラム
CN111428078B (zh) * 2020-03-20 2023-05-23 腾讯科技(深圳)有限公司 音频指纹编码方法、装置、计算机设备及存储介质
JP7403826B2 (ja) 2020-06-23 2023-12-25 株式会社テイエルブイ 肉厚測定システム、肉厚測定方法、肉厚測定プログラム及び肉厚測定装置
JP7191148B2 (ja) * 2021-03-18 2022-12-16 三菱電機株式会社 内燃機関制御装置
CN114780719A (zh) * 2022-03-28 2022-07-22 京东城市(北京)数字科技有限公司 文本分类模型的训练方法、文本分类方法及装置

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5458815B2 (ja) * 2009-11-11 2014-04-02 株式会社デンソーアイティーラボラトリ マルチメディア検索システム
JP6299140B2 (ja) * 2013-10-17 2018-03-28 ヤマハ株式会社 音響処理装置および音響処理方法
US9477895B2 (en) * 2014-03-31 2016-10-25 Mitsubishi Electric Research Laboratories, Inc. Method and system for detecting events in an acoustic signal subject to cyclo-stationary noise

Also Published As

Publication number Publication date
JP2017151872A (ja) 2017-08-31

Similar Documents

Publication Publication Date Title
JP6766374B2 (ja) 分類装置、分類方法、プログラム、及びパラメータ生成装置
Javier et al. Application of linear predictive coding for human activity classification based on micro-Doppler signatures
Mushrif et al. Texture classification using a novel, soft-set theory based classification algorithm
JP2020126021A (ja) 異常音検知装置および異常音検知方法
JP5458815B2 (ja) マルチメディア検索システム
JP4606800B2 (ja) 非定常信号の成分を検出するシステム、および非定常信号の成分を検出するシステムに用いられる方法
JP6334895B2 (ja) 信号処理装置及びその制御方法、プログラム
JP5051746B2 (ja) 特徴抽出装置及び方法並びにプログラム
CN110414306B (zh) 一种基于meanshift算法和SVM的婴儿异常行为检测方法
CN115471781A (zh) 智能垃圾分类系统及其分类方法
US9058748B2 (en) Classifying training method and apparatus using training samples selected at random and categories
JP2020042519A (ja) 異常検知装置、異常検知方法、及び異常検知プログラム
JP2018206252A (ja) 画像処理システム、評価モデル構築方法、画像処理方法及びプログラム
JP6747447B2 (ja) 信号検知装置、信号検知方法、および信号検知プログラム
JP2002300538A5 (ja) 係数データの生成装置および生成方法、それを使用した情報信号の処理装置および処理方法、並びに情報提供媒体
Khorsandi et al. Ear recognition via sparse representation and Gabor filters
WO2019159318A1 (en) Information processing apparatus, method, and program
CN111693279B (zh) 基于mpga参数化共振稀疏分解的机械故障诊断方法
JP7263770B2 (ja) 分類装置、分類システム、分類方法及びプログラム
CN107894837A (zh) 动态情感分析模型样本处理方法及装置
KR101110535B1 (ko) 복수 개의 냄새 인식 방법
US20100217572A1 (en) Method and device for automatic pattern recognition
JP5353482B2 (ja) パターン認識用辞書生成装置、パターン認識装置、及びパターン認識用辞書生成方法
JP5351835B2 (ja) 音信号区間抽出装置及び音信号区間抽出方法
Shahnaz et al. Emotion recognition based on EMD-Wavelet analysis of speech signals

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181115

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190327

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190328

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191016

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191023

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191217

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200716

C60 Trial request (containing other claim documents, opposition documents)

Free format text: JAPANESE INTERMEDIATE CODE: C60

Effective date: 20200716

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200722

C21 Notice of transfer of a case for reconsideration by examiners before appeal proceedings

Free format text: JAPANESE INTERMEDIATE CODE: C21

Effective date: 20200728

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200818

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200831

R150 Certificate of patent or registration of utility model

Ref document number: 6766374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150