JP7304223B2 - ハイブリッド学習技法を生成するための方法およびシステム - Google Patents

Description

（関連出願の相互参照）
本出願は、２０１８年７月９日に提出されたインド国仮特許出願第２０１８２１０２５６２５号明細書（特許文献１）の優先権を主張する。前述の出願の内容全体は、参照により本明細書に組み込まれる。

本明細書の開示は、一般に学習方法に関し、より詳細には深層学習、機械学習、および信号処理を含む複数の学習技法の組合せであるハイブリッド学習技法を生成するための方法およびシステムに関する。

技術の進展と共に、複数のセンサを使用して、膨大な量のデータが収集され、このデータは、さまざまなプラットフォームにわたり記憶され、処理され、分散させられ、分析されなければならない。収集されたデータを分析して、実際的な価値を持つ情報を導出し、分析したデータを異なる種類の活動のためにさらに利用することは重要である。収集されたデータの分析は、収集されたデータのタイプに基づき、収集された入力ごとに個々に予測される場合、効率的であり、実際的な価値を持つ。したがって、収集されたデータを分析し、データ処理技法／学習方法を予測して、収集されたデータから実際的な価値を持つ情報を導出して、実際的な価値を持つ情報をさらに数多くの用途のために使用することは重要である。

インド国仮特許出願第２０１８２１０２５６２５号

多数のＩｏＴ（Ｉｎｔｅｒｎｅｔ ｏｆ ｔｈｉｎｇｓ）機器が、異なる用途にわたり複数のセンサを使用して、時間に関してさまざまなデータを取り込む。複数のセンサにより取り込まれた時系列センサ信号は、異なるタイプのデータからなり、数多くの用途で、後に使用するために分析する必要がある、さまざまなタイプの情報を備えている場合がある。さまざまな時系列センサ信号を分析するための周知のデータ分析技法／学習方法が使用されており、それらの中でも、機械学習および深層学習が一般に使用されている。しかしながら、時系列センサ信号を分析するために使用される技法は、エキスパートが介在する必要がある場合がある、または人間が介在しなければそれほど効率的ではない。さらに、機械学習技法は、短期セグメントおよび局所的現象に対して効率的に機能するが、一方では、深層学習は、長期セグメントおよび過去の現象に対して効率的に機能する。

本開示の実施形態は、従来のシステムで本発明者らが認識した、上述の技術的問題の１つまたは複数に対する解決手段として技術的改善を提示する。たとえば、一実施形態では、ハイブリッド学習技法を生成するための方法が提供される。ハイブリッド学習技法は、さらにまた業務要件および計算上の制約を含む領域制約を考慮しながら、深層学習、機械学習、および信号処理を含む複数の技法のハイブリッドな組合せである学習技法を指す。さらに、生成された複数のハイブリッド学習技法から、最適化技法に基づく性能行列に基づき、単一のハイブリッド学習技法を選ぶ。提案する多数の学習技法のハイブリッドな組合せにより、豊かな特徴空間表現および分類器構築が可能になる。システムは、複数の異なるセンサを使用して取り込んだセンサ信号を入力として受信するための入力モジュールを含む。システムは、雑音を取り除くために、受信したセンサ信号を処理するための前処理および雑音浄化モジュールをさらに含む。システムは、複数の領域制約に基づき、処理されたセンサ信号に関する複数の学習技法を選ぶための経路選択器をさらに含む。システムは、複数の学習技法から複数のハイブリッド学習技法を生成するための、特徴生成モジュール、特徴推奨モジュール、および分類モジュールをさらに含む。システムは、最適化技法に基づき、複数のハイブリッド学習技法ごとに個々に生成された性能行列に基づき、生成された複数の学習技法から１つのハイブリッド学習技法を選ぶための最適化モジュールと、受信したセンサ信号の、選ばれたハイブリッド学習技法信号分析論を表示するための出力モジュールとをさらに含む。

別の様態では、ハイブリッド学習技法を生成するための方法が提供される。方法は、複数の異なるセンサを使用して取り込んだセンサ信号を入力として受信するステップを含む。さらに、方法は、雑音を取り除くために、受信したセンサ信号を処理するステップを含む。さらに、方法は、複数の領域制約に基づき、処理されたセンサ信号に関する複数の学習技法を選ぶステップをさらに含む。さらに、方法は、複数の学習技法から複数のハイブリッド学習技法を生成するステップを含む。さらに、方法は、最適化技法に基づき、複数のハイブリッド学習技法ごとに性能行列を個々に生成するステップを含む。さらに、方法は、性能行列に基づき、生成された複数のハイブリッド学習技法からハイブリッド学習技法を予測するステップと、予測されたハイブリッド学習技法に関する固有の特徴表現を生成するステップとを含む。

さらに別の様態では、ハイブリッド学習技法を生成するための非一時的コンピュータ可読媒体が提供される。プログラムは、複数の異なるセンサを使用して取り込んだセンサ信号を入力として受信するステップを含む。プログラムは、雑音を取り除くために、受信したセンサ信号を処理するステップをさらに含む。さらに、プログラムは、複数の領域制約に基づき、処理されたセンサ信号に関する複数の学習技法を選ぶステップを含む。さらに、プログラムは、複数の学習技法から複数のハイブリッド学習技法を生成するステップを含む。さらに、プログラムは、最適化技法に基づき、複数のハイブリッド学習技法ごとに性能行列を個々に生成するステップを含む。さらに、プログラムは、性能行列に基づき、生成された複数のハイブリッド学習技法からハイブリッド学習技法を予測するステップと、予測されたハイブリッド学習技法に関する固有の特徴表現を生成するステップとを含む。

前述の一般的説明も以下の詳細な説明も、代表的なものであり、説明のためだけのものであり、特許請求される本発明を限定するものではないことを理解されたい。

本開示に組み込まれ、本開示の一部を構成する添付図面は、代表的実施形態を示し、本明細書と共に、開示する原理を説明するのに役立つ。

本開示のいくつかの実施形態による、ハイブリッド学習技法を生成するための代表的システムを示す説明図 本開示のいくつかの実施形態による、ハイブリッド学習技法を生成するための機能構成図 本開示のいくつかの実施形態による、センサ信号分析論に関するハイブリッド学習技法を生成するステップを示す説明図 ハイブリッド学習技法の固有の特徴表現に関する例示的使用事例の説明図 本開示のいくつかの実施形態による、センサ信号分析論に関するハイブリッド学習技法を生成するステップに関する例示的使用事例の説明図

添付図面を参照して、代表的実施形態について記述する。図では、参照番号の１つまたは複数の左端の数字は、参照番号が最初に出現する図を識別する。好都合なときはいつでも、同じまたは類似する部分を指すために、図面全体を通して同じ参照番号を使用する。開示する原理の例および特徴について本明細書で記述するが、開示する実施形態の範囲を逸脱することなく、修正形態、適応形態、および他の実装形態が可能である。以下の詳細な説明は、ただ単に代表的であると考えられ、真の範囲は、以下の特許請求の範囲により示されることが意図される。

次に、図面を参照すると、より詳細には、類似する参照文字が図全体を通して、対応する特徴を一貫して示す図１～図４を参照すると、好ましい実施形態が示されており、これらの実施形態について、以下の代表的なシステムおよび／または方法に関連して記述する。

図１は、本開示の一実施形態による、ハイブリッド学習技法を生成するためのシステム１００の代表的構成図を示す。一実施形態では、システム１００は、１つまたは複数のプロセッサ１０４と、１つもしくは複数の通信インタフェース機器または１つもしくは複数の入出力（Ｉ／Ｏ）インタフェース１０６と、１つまたは複数のプロセッサ１０４に動作可能に結合された１つもしくは複数のデータ記憶装置またはメモリ１０２とを備える。メモリ１０２は、１つまたは複数のモジュール１０８と、データベース１１０とを備える。ハードウェアプロセッサである１つまたは複数のプロセッサ１０４を、１つまたは複数のマイクロプロセッサ、マイクロコンピュータ、マイクロコントローラ、デジタル・シグナル・プロセッサ、中央処理装置、状態機械、論理回路、および／または動作命令に基づき信号を操作する任意の機器として実装することができる。他の能力の中でも、１つまたは複数のプロセッサは、メモリに記憶されたコンピュータ可読命令を取り出して、実行するように構成される。一実施形態では、システム１００を、ラップトップコンピュータ、ノートブック、ハンドヘルド機器、ワークステーション、メインフレームコンピュータ、サーバ、ネットワーククラウドなどのような、さまざまなコンピューティングシステムの形で実装することができる。

１つまたは複数のＩ／Ｏインタフェース１０６は、さまざまなソフトウェアインタフェースおよびハードウェアインタフェースを、たとえば、ウェブインタフェース、グラフィックを対象とするインタフェースなどを含むことができ、有線ネットワーク、たとえばＬＡＮ、ケーブルなど、およびＷＬＡＮ、携帯電話、または衛星などの無線ネットワークを含む、多種多様のネットワークＮ／Ｗおよびプロトコルのタイプの範囲で多重通信を容易にすることができる。一実施形態では、１つまたは複数のＩ／Ｏインタフェース機器は、いくつかの機器を互いに、または別のサーバに接続するための、１つまたは複数のポートを含むことができる。

メモリ１０２は、たとえば、スタティック・ランダム・アクセス・メモリ（ｓｔａｔｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ、ＳＲＡＭ）およびダイナミック・ランダム・アクセス・メモリ（ｄｙｎａｍｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ、ＤＲＡＭ）などの揮発性メモリ、ならびに／または読出し専用メモリ（ｒｅａｄ ｏｎｌｙ ｍｅｍｏｒｙ、ＲＯＭ）、消去可能プログラム可能ＲＯＭ、フラッシュメモリ、ハードディスク、光ディスク、および磁気テープなどの不揮発性メモリを含む、当技術分野で公知の任意のコンピュータ可読媒体を含んでもよい。

図１を参照して、図２のシステム１００は、本開示の一実施形態による、図１のシステム１００のメモリ１０２に記憶されたさまざまなモジュール１０８の構成図を表す。本開示の一実施形態では、図２は、複数のセンサを使用して取り込んだセンサ信号を入力として受信するための入力モジュール２０２を備える。センサ信号を受信すると、受信したセンサ信号は、雑音を取り除くために、前処理および雑音浄化モジュール２０４で処理される。さらに、領域知識２０８モジュールから得られる複数の領域制約に基づき、処理されたセンサ信号のための経路選択器２０６で、複数の学習技法を選ぶ。さらに、特徴生成モジュール２１０、特徴推奨モジュール２１６、分類モジュール２１８で、選ばれた複数の学習技法から複数のハイブリッド学習技法を生成する。最適化モジュール２２４で最適化技法に基づき、後に使用するために単一のハイブリッド学習技法を選ぶ。選ばれたハイブリッド学習技法を出力モジュール２２６に表示する。

本開示の一実施形態によれば、システム１００は、複数のセンサを使用して取り込んだセンサ信号を入力として受信するように構成された入力モジュール２０２を備える。一実施形態では、複数のセンサは、心電図記録（Ｅｌｅｃｔｒｏｃａｒｄｉｏｇｒａｐｈｙ、ＥＣＧ）と、脳波記録（Ｅｌｅｃｔｒｏｅｎｃｅｐｈａｌｏｇｒａｐｈｙ、ＥＥＧ）と、加速度計、ジャイロメータ、磁力計、温度センサを含む動きセンサとを含む、代表的領域の生理学的時系列センサ信号を含む多様な適用領域から得られる時系列を備える。

本開示の一実施形態によれば、システム１００は、雑音を取り除くために、受信したセンサ信号を処理するように構成された前処理および雑音浄化モジュール２０４を備える。受信した複数のセンサ信号を、正規化技法に基づき前処理する。前処理および雑音除去は、Ｚ－スコア、ｍｉｎ－ｍａｘ、自動しきい値および統計隔離に基づく正規化技法を含む、公知の正規化技法を使用して遂行される。

本開示の一実施形態によれば、システム１００は、複数の領域制約に基づき、処理されたセンサ信号に関する複数の学習技法を選ぶように構成された経路選択器２０６を備える。規則に基づくエンジン、および領域知識２０８モジュールから得られる領域制約を使用して、複数の学習技法を選ぶ。規則エンジンに基づく経路選択器２０６は、精度、感度、および特異性を含むパラメータに基づき選択された最大性能を伴う学習経路を選択する。領域知識２０８モジュールから得られた領域制約は、業務要件および計算上の制約を含む。一実施形態では、学習経路（実行可能な、トレーニングのハイブリッド経路）を計算能力、コンピューティング機器のメモリ可用性、および用途のリアルタイム応答要件のような実際的制約に基づき選ぶ。

本開示の一実施形態によれば、システム１００は、複数の学習技法から複数のハイブリッド学習技法を生成するための、特徴生成モジュール２１０、特徴推奨モジュール２１６、および分類モジュール２１８を備える。

一実施形態では、特徴生成モジュール２１０は、深層学習モジュール２１２および信号処理モジュール２１４を備える。特徴生成技法は、深層学習および信号処理技法情報理論、ならびに事前にトレーニングされた深層再帰型ニューラルネットワークの特徴と共に統計的特徴を含む、管理されていない学習技法に基づき生成される。生成された特徴は、本質的にハイブリッドであり、融合されて、特徴推奨および分類技法のためにさらに処理されるハイブリッド特徴生成技法をもたらす。この融合により、ハイブリッド特徴生成技法の特徴表現がもたらされる。

一実施形態では、信号処理モジュール２１４での信号処理に基づく特徴生成に関する使用事例は、複数のセンサ信号の各々を複数の時間窓に分割するステップと、複数の時間窓の各々内にある複数のセンサ信号の各々を時間領域、周波数領域、およびウェーブレット領域に変換するステップと、複数の統計情報の組合せの少なくとも１つ、または複数の統計情報の組合せを備える一般的特徴セットに基づき、時間領域、周波数領域、およびウェーブレット領域を処理するステップとを伴い、さらに、複数の統計情報は、平均値、標準偏差、尖度、歪度、ゼロ交差、エネルギー、２乗平均（Ｒｏｏｔ Ｍｅａｎ Ｓｑｕａｒｅ、ＲＭＳ）、ボックスピアース統計情報（ｂｏｘ ｐｉｅｒｃｅ ｓｔａｔｉｓｔｉｃｓ）、ハースト指数、および複数のセンサ信号の各々に対応する特徴行列生成を備え、特徴行列は、複数のセンサ信号の固有の特徴空間表現を提供する。さらに、１つまたは複数のハードウェアプロセッサを介して特徴選択を遂行することにより、特徴行列から少なくとも１つの実際的な価値を持つ特徴を選択し、１つまたは複数のハードウェアプロセッサを介して、少なくとも１つの実際的な価値を持つ特徴に基づき、多段２値分類またはマルチクラス分類を含む分類器に基づき複数のセンサ信号を分類する。

一実施形態では、深層学習モジュール２１２での特徴生成に関する別の使用事例は、ＴｉｍｅＮｅＴに基づく特徴抽出に基づき遂行され、ＴｉｍｅＮｅＴ形式表現は、受信したセンサ信号に関して生成され、この場合、ＴｉｍｅＮｅＴ形式は、固定次元特徴ベクトルを備える固有の特徴セットである。さらに、複数のパラメータの各々に関係する固有の特徴セットを連結して、固定次元連結特徴ベクトルを備える、連結された特徴セットを得る。さらに、連結された特徴セットに基づき非時間的線形分類モデルを生成し、非時間的線形分類モデルの学習中、連結された特徴セットの中の各特徴に重みを割り当てる。

一実施形態では、特徴生成に関する別の使用事例は、ＳＰＧＦ－ＴｉｍｅＮｅＴに基づき、統計的、時間的、空間的、および形態学的な特性を取り込むための、時系列センサデータからの自動特徴抽出である。ＳＰＧＦ－ＴｉｍｅＮｅＴは、信号処理と、情報理論と、時系列分類のためのＵＣＲ時系列分類（Ｔｉｍｅ Ｓｅｒｉｅｓ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ、ＴＳＣ）アーカイブからの多様なベンチマークデータセットに対する経験的評価を通して、事前にトレーニングされた深層再帰型ニューラルネットワーク（ＴｉｍｅＮｅＴ）から得られる特徴を伴う統計的特徴（信号特性に基づく一般的特徴（Ｓｉｇｎａｌ Ｐｒｏｐｅｒｔｉｅｓ ｂａｓｅｄ Ｇｅｎｅｒｉｃ Ｆｅａｔｕｒｅｓ、ＳＰＧＦ））との融合を可能にする、時系列センサ信号に関する一般的特徴抽出器である。さらに、ＳＰＧＦ－ＴｉｍｅＮｅＴに基づくハイブリッド特徴および一般的特徴に関してトレーニングされた分類器を、分類のために使用する。

一実施形態では、特徴推奨モジュール２１６は、統計的尺度、順位づけ、および分類技法に基づき実装される特徴推奨技法を生成するように構成される。

一実施形態では、特徴推奨技法は、統計的尺度、順位づけ、および分類技法を備え、１組の特徴は、抽出された複数の生成された特徴に対応する複数の統計的尺度に基づき、抽出された複数の生成された特徴から導出される。

一実施形態では、分類モジュール２１８は、深層学習（ｄｅｅｐ ｌｅａｒｎｉｎｇ、ＤＬ）技法および機械学習（ｍａｃｈｉｎｅ ｌｅａｒｎｉｎｇ、ＭＬ）技法を含む分類技法を生成するための、深層学習分類モジュール２２０および機械学習分類モジュール２２２をさらに備える。

ハイブリッド学習技法は、深層学習と、機械学習と、特徴生成モジュール２１０、特徴推奨モジュール２１６、および分類モジュール２１８で遂行される信号処理とを含む、複数の技法のハイブリッドな組合せである学習技法を指す。ハイブリッド学習技法は、以下に列挙するいくつかのハイブリッド学習技法を含む、深層学習、機械学習、および信号処理の任意の可能なハイブリッドな組合せとすることができる。
１．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、深層学習モジュール２１２での深層学習と信号処理モジュール２１４での信号処理からなる特徴生成の組合せからなる。一実施形態では、技法を融合して、この特有のハイブリッド学習技法に関するハイブリッド学習技法を表す固有の特徴表現を生成する。
２．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、信号処理モジュール２１４での複数の学習技法の特徴生成、続いて特徴推奨モジュール２１６での複数の学習技法に関して生成された特徴に関するサブセットの推奨、および最後にＭＬ分類モジュール２２２での複数の学習技法の分類からなる。
３．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、ＤＬ分類モジュール２２０で、前処理されたトレーニング時系列センサ信号の分類を遂行するステップからなる。
４．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、信号処理モジュール２１４での前処理されたトレーニング時系列センサ信号の特徴生成、続いて特徴推奨モジュール２１６での前処理されたトレーニング時系列センサ信号に関して生成された特徴に関するサブセットの推奨、および最後にＤＬ分類モジュール２２０での複数の学習技法の分類からなる。
５．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、信号処理モジュール２１４での複数の学習技法の特徴生成、続いて特徴推奨モジュール２１６、続いてＭＬ分類モジュール２２２での複数の学習技法の分類からなる。
６．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、深層学習モジュール２１２での、または信号処理モジュール２１４による、または深層学習モジュール２１２および信号処理モジュール２１４のハイブリッドな組合せによる、複数の学習技法の特徴生成、続いてＤＬ分類モジュール２２０またはＭＬ分類モジュール２２２への直接供給、または続いて特徴推奨モジュール２１６、続いてＤＬ分類モジュール２２０またはＭＬ分類モジュール２２２での複数の学習技法の分類からなる。
７．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、深層学習モジュール２１２での複数の学習技法の特徴生成、続いて特徴推奨モジュール２１６での複数の学習技法に関して生成された特徴に関するサブセットの推奨、および最後にＤＬ分類モジュール２２０での複数の学習技法の分類からなる。
８．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、深層学習モジュール２１２での複数の学習技法の特徴生成、続いて特徴推奨モジュール２１６での複数の学習技法に関して生成された特徴に関するサブセットの推奨、および最後にＭＬ分類モジュール２２２での複数の学習技法の分類からなる。
９．複数の学習技法に関して生成されたハイブリッド学習技法の１つは、深層学習モジュール２１２での複数の学習技法の特徴生成、続いてＤＬ分類モジュール２２０での複数の学習技法の分類からなる。

提案する技法は、上記で列挙するような、複数のハイブリッド学習技法のリストを生成する。さらに、生成された多数の複数のハイブリッド学習技法のリストをさらに最適化して、生成された技法の中から最適な複数のハイブリッド学習技法を選び、これについては、後の節で説明する。しかしながら、ハイブリッド学習技法がただ１つの単一モジュールから生成される場合、技法を融合して、深層学習モジュール２１２での深層学習と信号処理モジュール２１４での信号処理からなる特徴生成の組合せの場合のように、ハイブリッド学習技法を表す固有の特徴表現を生成する。

本開示の一実施形態によれば、システム１００は、最適化技法に基づき複数のハイブリッド学習技法ごとに個々に生成された性能行列に基づき、生成された複数のハイブリッド学習技法から１つのハイブリッド学習技法を選ぶように構成された最適化モジュール２２４を備える。特徴生成モジュール２１０と特徴推奨モジュール２１６と分類モジュール２１８の組合せを使用して生成された複数の多数のハイブリッド学習技法をさらに個々に最適化して、生成されたハイブリッド学習技法の中から最適なハイブリッド学習技法を選ぶ。

性能行列は、最適化技法に基づき複数のハイブリッド学習技法ごとに個々に生成され、ハイブリッド学習技法ごとに性能行列を個々に予測するための最適化技法は、制約最適化技法を遂行するステップに基づく。一実施形態では、ハイブリッド学習技法ごとに個々に生成された性能行列ごとに制約最適化技法を遂行する。一実施形態では、性能行列の予測は、感度が「０．７」よりも大きくなるように「Ｆ１－スコア」パラメータを最大化するステップを含んでもよい。さらに、ハイブリッド学習技法ごとに性能行列を個々に予測するために、提案する制約最適化技法を遂行した後、感度が「０．７」よりも大きいハイブリッド学習技法をハイブリッド学習技法として選んで、受信したセンサ信号の試験をさらに行う。しかしながら、２つ以上のハイブリッド学習技法が「０．７」よりも大きな感度を有する場合、それらのハイブリッド学習技法をすべて比較し、最大値を伴うハイブリッド学習技法をハイブリッド学習技法として選んで、受信したセンサ信号の試験をさらに行う。

本開示の一実施形態によれば、システム１００は、受信したセンサ信号の、選ばれたハイブリッド学習技法分析論を表示するための出力モジュール２２６を備える。

図３は、本開示のいくつかの実施形態による、図１のシステムを使用してハイブリッド学習技法を生成する方法３００に伴うステップを示す流れ図である。

図３に示すように、ステップ３０２で、方法３００は、入力モジュール２０２で複数のセンサを使用して取り込んだセンサ信号を入力として受信するステップを含む。複数のセンサは、心電図記録（ＥＣＧ）、脳波記録（ＥＥＧ）、動きセンサ、ジャイロメータ、磁力計、温度センサを含む、代表的領域の生理学的時系列センサ信号を含む多様な適用領域のセンサを含む。

ステップ３０４で、方法３００は、正規化技法に基づき前処理および雑音浄化モジュール２０４で雑音を取り除くために、受信したセンサ信号を処理するステップを含む。

ステップ３０６で、方法３００は、領域知識２０８モジュールから得た複数の領域制約に基づき、処理されたセンサ信号に関して経路選択器２０６で複数の学習技法を選ぶステップを含む。規則に基づくエンジンおよび領域制約を使用して複数の学習技法を選び、領域制約は、業務要件および計算上の制約を含む。

ステップ３０８で、方法３００は、特徴生成モジュール２１０、特徴推奨モジュール２１６、および分類モジュール２１８で複数の学習技法から複数のハイブリッド学習技法を生成するステップを含む。ハイブリッド学習技法は、深層学習、機械学習、および信号処理を含む複数の技法のハイブリッドな組合せである学習技法を指す。特徴生成モジュール２１０で遂行される特徴生成技法は、深層学習および信号処理技法（特徴空間探索）情報理論と、事前にトレーニングされた深層再帰型ニューラルネットワークの特徴に加えて統計的特徴とを含む、管理されていない学習技法に基づく。さらに、本質的にハイブリッドである、生成された特徴生成技法を融合して、特徴推奨および分類技法のためにさらに処理されるハイブリッド特徴生成技法をもたらす。さらに、特徴推奨モジュール２１６で遂行される特徴推奨技法は、統計的尺度、順位づけ、および分類技法に基づき実装される。さらに、分類モジュール２１８で遂行される分類技法は、深層学習および機械学習の技法を含む。

ステップ３１０で、方法３００は、最適化モジュール２２４で最適化技法に基づき複数のハイブリッド学習技法ごとに性能行列を個々に生成するステップを含む。性能行列は、制約最適化を遂行するステップを含む最適化技法に基づき生成され、そこでは、パラメータは、事前に規定されたしきい値に基づき最大化される。

ステップ３１２で、方法３００は、最適化モジュール２２４で性能行列に基づき、生成された複数のハイブリッド学習技法から１つのハイブリッド学習技法を選ぶステップを含む。受信したセンサ信号の、選ばれたハイブリッド学習技法信号分析は、出力モジュール２２６に表示される。

ステップ３１４で、方法３００は、ハイブリッド学習技法の一部として固有の特徴表現を生成するステップを含む。一実施形態では、ハイブリッド学習技法の固有の特徴表現が、図４に示されており、そこでは、エンジン雑音の分類に関する使用事例である３９２個のＳＰＧＦ特徴から生成されたハイブリッド学習技法が、固有の特徴表現として示され、ｘ軸は特徴インデックスを表し、ｙ軸は振幅を表す。

図５は、本開示のいくつかの実施形態による、センサ信号分析論に関するハイブリッド学習技法を生成するステップに関する例示的使用事例である。ＴｉｍｅＮｅＴおよびＳＰＧＦ（Ｓｉｇｎａｌ Ｐｒｏｐｅｒｔｙ ｂａｓｅｄ Ｇｅｎｅｒｉｃ Ｆｅａｔｕｒｅｓ）に基づきセンサ信号の特徴を抽出し、そこでは、ＴｉｍｅＮｅＴに基づき１８０個の固有の特徴が抽出され、ＳＰＧＦ技法に基づき３９２個の特徴が抽出された。抽出された特徴を融合し、ハイパーパラメータ最適化を遂行して、ハイブリッド分析技法を推論する。

記載した記述は、任意の当業者が実施形態を作成し、使用することができるようにする、本明細書の主題について記述している。主題の実施形態の範囲は、特許請求の範囲により規定され、当業者が思いつく他の修正形態を含んでもよい。そのような他の修正形態は、特許請求の範囲の文言と異ならない類似の要素を有する場合、または特許請求の範囲の文言とわずかな差を有する均等の要素を含む場合、特許請求の範囲に入ることが意図される。

本明細書の本開示の実施形態は、ハイブリッド学習技法を生成するための方法およびシステムについて記述する。ハイブリッド学習技法は、さらにまた業務要件および計算上の制約を含む領域制約を考慮しながら、深層学習、機械学習、および信号処理を含む複数の技法のハイブリッドな組合せである学習技法を指す。さらに、生成された複数のハイブリッド学習技法から、最適化技法に基づく性能行列に基づき、単一のハイブリッド学習技法を選ぶ。提案する、多数の学習技法のハイブリッドな組合せにより、豊かな特徴空間表現および分類器構築が可能になる。

保護の範囲は、そのようなプログラムに、さらには中にメッセージを有するコンピュータ可読手段に拡張され、そのようなコンピュータ可読記憶手段は、プログラムがサーバもしくは移動体機器、または任意の適切なプログラム可能機器上で走るとき、方法の１つまたは複数のステップを実装するためのプログラムコード手段を含有することを理解されたい。ハードウェア機器は、たとえば、サーバもしくはパーソナルコンピュータなど、またはそれらの任意の組合せのような任意の種類のコンピュータを含む、プログラムすることができる任意の種類の機器とすることができる。機器はまた、たとえば、特定用途向け集積回路（ａｐｐｌｉｃａｔｉｏｎ－ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ、ＡＳＩＣ）、フィールド・プログラマブル・ゲート・アレイ（ｆｉｅｌｄ－ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ、ＦＰＧＡ）などのようなハードウェア手段、またはＡＳＩＣおよびＦＰＧＡ、もしくは少なくとも１つのマイクロプロセッサおよび中にソフトウェア処理構成要素が配置された少なくとも１つのメモリなどのハードウェア手段とソフトウェア手段の組合せとすることができる手段を含んでもよい。したがって、手段は、ハードウェア手段とソフトウェア手段の両方を含むことができる。本明細書で記述する方法の実施形態を、ハードウェアおよびソフトウェアの形で実装することができる。機器はまた、ソフトウェア手段を含んでもよい。あるいは、たとえば複数のＣＰＵを使用して、異なるハードウェア機器上に実施形態を実装してもよい。

本明細書の実施形態は、ハードウェア要素およびソフトウェア要素を備えることができる。ソフトウェアの形で実装された実施形態は、ファームウェア、常駐ソフトウェア、マイクロコードなどを含むが、それらに限定されない。本明細書で記述するさまざまな構成要素が遂行する機能を、他の構成要素で、または他の構成要素を組み合わせて実装してもよい。本明細書が意図するところでは、コンピュータ使用可能媒体またはコンピュータ可読媒体は、命令実行システム、装置、もしくは機器により使用する、またはそれらと共に使用するためのプログラムを備える、記憶する、伝達する、伝播する、または移送することができる任意の装置とすることができる。

例示するステップは、示されている代表的実施形態を説明するために提示され、継続的技術開発により、特定の機能を遂行する手法が変わることを認識されたい。これらの例は、例示のために本明細書に提示され、限定するために提示されているわけではない。さらに、記述の便宜上、機能構成要素の境界について、本明細書で任意に規定してきた。指定された機能およびそれらの結びつきが適切に遂行される限り、代わりの境界を規定することができる。代替形態（本明細書で記述する実施形態の均等形態、拡張形態、変形形態、偏向形態などを含む）は、本明細書に含有される教示に基づき、１つまたは複数の関連技術分野の当業者に明らかであろう。そのような代替形態は、開示する実施形態の範囲に入る。また、用語「ｃｏｍｐｒｉｓｉｎｇ（備える）」、「ｈａｖｉｎｇ（有する）」、「ｃｏｎｔａｉｎｉｎｇ（含有する）」、および「ｉｎｃｌｕｄｉｎｇ（含む）」、ならびに他の類似の形態は、意味が同等であることが意図され、これらの用語の任意の１つに続く１つまたは複数の項目が、そのような１つまたは複数の項目の網羅的な列挙であることを意味することも、列挙した１つまたは複数の項目だけに限定されることを意味することもないという点で、オープンエンド形式であることが意図される。また、本明細書および添付の特許請求の範囲で使用するとき、単数形「ａ」、「ａｎ」、および「ｔｈｅ」は、前後関係が他の方法で明確に規定しない限り、複数の参照を含むことに留意しなければならない。

さらに、本開示と整合性のある実施形態を実装する際、１つまたは複数のコンピュータ可読記憶媒体を利用してもよい。コンピュータ可読記憶媒体は、プロセッサにより可読の情報またはデータを記憶してもよい、任意のタイプの物理メモリを指す。したがって、コンピュータ可読記憶媒体は、本明細書で記述する実施形態と矛盾しないステップまたはステージを１つまたは複数のプロセッサに遂行させるための命令を含む、１つまたは複数のプロセッサにより実行するための命令を記憶してもよい。用語「コンピュータ可読媒体」は、有形の項目を含み、かつ搬送波および過渡信号を除外する、すなわち、非一時的であることを理解されたい。例には、ランダム・アクセス・メモリ（ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ、ＲＡＭ）、読出し専用メモリ（ｒｅａｄ－ｏｎｌｙ ｍｅｍｏｒｙ、ＲＯＭ）、揮発性メモリ、不揮発性メモリ、ハードドライブ、ＣＤ ＲＯＭ、ＤＶＤ、フラッシュドライブ、ディスク、および任意の他の公知の物理的記憶媒体が含まれる。

本開示および本例はただ単に代表的であると考えられ、かつ開示する実施形態の真の範囲は、以下の特許請求の範囲により示されることが意図される。

Claims (15)

1. センサ信号分析論のためのハイブリッド学習技法を生成するためのプロセッサ実装方法であって、
   複数の異なるセンサを使用して取り込んだセンサ信号を入力として受信するステップと、
   雑音を取り除くために、前記受信したセンサ信号を処理するステップと、
   複数の領域制約に基づき、前記処理されたセンサ信号に関する複数の学習技法を選ぶステップと、
   前記複数の学習技法から複数のハイブリッド学習技法を生成するステップと、
   最適化技法に基づき、前記複数のハイブリッド学習技法ごとに性能行列を個々に予測するステップと、
   前記性能行列に基づき、前記生成された複数のハイブリッド学習技法から前記ハイブリッド学習技法を選択するステップと、
   前記予測されたハイブリッド学習技法から固有の特徴表現を生成するステップとを備え、
   前記性能行列の予測のための最適化手法は、制約最適化の遂行に基づく
   ことを特徴とするプロセッサ実装方法。
2. 前記ハイブリッド学習技法は、深層学習、機械学習、および信号処理を含む複数の技法のハイブリッドな組合せである学習技法を指す
   請求項１に記載のプロセッサ実装方法。
3. 複数のセンサは、心電図記録（Ｅｌｅｃｔｒｏｃａｒｄｉｏｇｒａｐｈｙ、ＥＣＧ）と、脳波記録（Ｅｌｅｃｔｒｏｅｎｃｅｐｈａｌｏｇｒａｐｈｙ、ＥＥＧ）と、加速度計、ジャイロメータ、磁力計、温度センサを含む動きセンサとを含む、代表的領域の生理学的時系列センサ信号を含む多様な適用領域に由来する
   請求項１に記載のプロセッサ実装方法。
4. 前記複数の学習技法は、規則に基づくエンジンおよび領域制約を使用して選ばれ、前記領域制約は、業務要件および計算上の制約を含む
   請求項１に記載のプロセッサ実装方法。
5. 前記複数のハイブリッド学習技法は、特徴生成、特徴推奨、および分類の技法に基づき生成される
   請求項１に記載のプロセッサ実装方法。
6. 特徴生成技法は、深層学習および信号処理技法（特徴空間探索）情報理論と、事前にトレーニングされた深層再帰型ニューラルネットワークの特徴に加えて統計的特徴とを含む、管理されていない学習技法に基づく
   請求項５に記載のプロセッサ実装方法。
7. 前記生成された特徴生成技法を融合して、出力モジュール（２２６）に表示すべき、前記ハイブリッド学習技法を表す固有の特徴表現を生成する
   請求項６に記載のプロセッサ実装方法。
8. 前記特徴推奨技法は、統計的尺度、順位づけ、分類技法に基づき実装され、分類技法は、深層学習および機械学習の技法を含む
   請求項５に記載の方法。
9. 前記性能行列は、制約最適化を遂行するステップを含む最適化技法に基づき生成され、パラメータは、事前に規定されたしきい値に基づき最大化される
   請求項１に記載のプロセッサ実装方法。
10. 前記予測されたハイブリッド学習技法およびその対応する前記固有の特徴表現は、前記受信したセンサ信号の信号分析論のために出力モジュール（２２６）に表示される
    請求項１に記載のプロセッサ実装方法。
11. センサ信号分析論のためのハイブリッド学習技法を生成するためのシステム（１００）であって、
    命令および１つまたは複数のモジュール（１０８）を記憶するメモリ（１０２）と、
    データベース（１１０）と、
    １つまたは複数の通信または入出力インタフェース（１０６）と、
    前記１つまたは複数の通信インタフェース（１０６）を介して前記メモリ（１０２）に結合された１つまたは複数のプロセッサ（１０４）と
    を備え、前記１つまたは複数のプロセッサ（１０４）は、
    複数の異なるセンサを使用して取り込んだセンサ信号を入力として受信する入力モジュール（２０２）と、
    雑音を取り除くために、前記受信したセンサ信号を処理するための前処理および雑音浄化モジュール（２０４）と、
    複数の領域制約に基づき、前記処理されたセンサ信号に関する複数の学習技法を選ぶ経路選択器（２０６）と、
    前記複数の学習技法から複数のハイブリッド学習技法を生成するための、特徴生成モジュール（２１０）、特徴推奨モジュール（２１６）、および分類モジュール（２１８）と、
    最適化技法に基づき前記複数のハイブリッド学習技法ごとに個々に予測された性能行列に基づき、前記生成された複数のハイブリッド学習技法から１つのハイブリッド学習技法を選ぶための最適化モジュール（２２４）と、
    前記受信したセンサ信号の前記選ばれたハイブリッド学習技法の信号分析論を表示するための出力モジュール（２２６）と
    を備える１つまたは複数のモジュール（１０８）を実行するための前記命令により構成され、
    前記性能行列の予測のための最適化手法は、制約最適化の遂行に基づく
    ことを特徴とするシステム。
12. 前記特徴生成モジュール（２１０）は、深層学習および信号処理と、情報理論分析と、事前にトレーニングされた深層再帰型ニューラルネットワークの特徴に加えて統計的分析とを含む、管理されていない学習技法を生成するための、深層モジュール（２１２）および信号処理モジュール（２１４）をさらに備える
    請求項１１に記載のシステム。
13. 前記分類モジュール（２１８）は、深層学習および機械学習の技法を含む分類技法を生成するための、深層学習（ＤＬ）分類モジュール（２２０）および機械学習（ＭＬ）分類モジュール（２２２）をさらに備える
    請求項１１に記載のシステム。
14. 前記処理されたセンサ信号に関する複数の学習技法を選ぶために、前記経路選択器（２０６）に領域制約を提供するための領域知識（２０８）をさらに含む
    請求項１１に記載のシステム。
15. プログラムが記録された記録媒体であって、前記プログラムは、コンピューティング機器上で実行されたとき、前記コンピューティング機器に、
    複数の異なるセンサを使用して取り込んだセンサ信号を入力として受信させ、
    雑音を取り除くために、前記受信したセンサ信号を処理させ、
    複数の領域制約に基づき、前記処理されたセンサ信号に関する複数の学習技法を選ばせ、
    前記複数の学習技法から複数のハイブリッド学習技法を生成させ、
    最適化技法に基づき前記複数のハイブリッド学習技法ごとに性能行列を個々に予測させ、
    前記性能行列に基づき、前記生成された複数のハイブリッド学習技法から前記ハイブリッド学習技法を選択させ、
    前記予測されたハイブリッド学習技法から固有の特徴表現を生成させ、
    前記性能行列の予測のための最適化手法は、制約最適化の遂行に基づく
    ことを特徴とするプログラムが記録された記録媒体。

Images