JP7483180B2 - 因果関係推定装置、因果関係推定方法、及び因果関係推定プログラム - Google Patents
因果関係推定装置、因果関係推定方法、及び因果関係推定プログラム Download PDFInfo
- Publication number
- JP7483180B2 JP7483180B2 JP2024513679A JP2024513679A JP7483180B2 JP 7483180 B2 JP7483180 B2 JP 7483180B2 JP 2024513679 A JP2024513679 A JP 2024513679A JP 2024513679 A JP2024513679 A JP 2024513679A JP 7483180 B2 JP7483180 B2 JP 7483180B2
- Authority
- JP
- Japan
- Prior art keywords
- time series
- series data
- causal relationship
- variables
- causal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000001364 causal effect Effects 0.000 title claims description 271
- 238000000034 method Methods 0.000 title claims description 55
- 230000006870 function Effects 0.000 claims description 46
- 238000012795 verification Methods 0.000 claims description 46
- 230000008569 process Effects 0.000 claims description 36
- 238000005457 optimization Methods 0.000 claims description 35
- 238000004364 calculation method Methods 0.000 claims description 30
- 239000011159 matrix material Substances 0.000 claims description 28
- 230000008859 change Effects 0.000 claims description 20
- 238000010200 validation analysis Methods 0.000 claims 2
- 238000010276 construction Methods 0.000 description 30
- 238000010586 diagram Methods 0.000 description 30
- 238000007781 pre-processing Methods 0.000 description 25
- 238000012545 processing Methods 0.000 description 16
- 238000003860 storage Methods 0.000 description 16
- 230000000694 effects Effects 0.000 description 9
- 238000007906 compression Methods 0.000 description 6
- 230000006835 compression Effects 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 230000008707 rearrangement Effects 0.000 description 4
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 239000010779 crude oil Substances 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 230000001537 neural effect Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000004540 process dynamic Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 208000027697 autoimmune lymphoproliferative syndrome due to CTLA4 haploinsuffiency Diseases 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000003921 oil Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011946 reduction process Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N99/00—Subject matter not provided for in other groups of this subclass
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Description
《1-1》構成
《1-1-1》因果関係推定装置100
図1は、実施の形態1に係る因果関係推定装置100の構成を示すブロック図である。因果関係推定装置100は、実施の形態1に係る因果関係推定方法(すなわち、学習方法)を実施することができる装置である。図1に示されるように、因果関係推定装置100は、データ取得部10と、学習部20とを有してる。因果関係推定装置100は、例えば、コンピュータである。学習によって得られた因果関係パラメータは、記憶部の因果関係パラメータDB26に記憶される。因果関係パラメータDB26は、因果関係推定装置100の一部としての記憶部(後述の図2の記憶部103)に格納されてもよいが、因果関係推定装置100とは別の外部装置(例えば、因果関係推定装置100と通信可能なネットワーク上のサーバ)の記憶部に格納されてもよい。
データ取得部10の入力部14は、時系列データDB12から状態変数の時系列データの集合X(0:t)(すなわち、複数個の時系列データ)及び観測変数の時系列データの集合Y(0:t)(すなわち、複数個の時系列データ)を取得し、これらを前処理部16に出力する。
X(0:t)={x1(0:t),x2(0:t),…,xQ(0:t)}である。
Y(0:t)は、観測変数の時系列データの集合を表す。すなわち、
Y(0:t)={y1(0:t),y2(0:t),…,yD(0:t)}である。
なお、xq(0:t)は、状態qの状態変数の時系列データを表す。また、yd(0:t)は、d次元目の観測変数の時系列データを表す。
データ取得部10の前処理部16は、入力部14から出力された状態変数の時系列データの集合X(0:t)と観測変数の時系列データの集合Y(0:t)とを取得し、これらに前処理を施し、前処理済みの状態変数の時系列データの集合X(0:t)と前処理済みの観測変数の時系列データの集合Y(0:t)とを、学習部20の計算部22に出力する。
学習部20の計算部22は、前処理部16から前処理済の状態変数の時系列データの集合X(0:t)と前処理済の観測変数の時系列データの集合Y(0:t)を受け取り、ガウス過程の分散共分散行列K(X,X´)の計算を行い、最適化部24に分散共分散行列K(X,X´)を出力する。
ガウス過程状態空間モデルでは、モデルの状態遷移関数f(x)及び状態関数g(x)のガウス過程によるモデル化が行われ、ガウス過程の表記を用いて、一般に、以下の式(3)、(4)のように表される。
g(x)~gp(0,Kg) (3)
f(x)~gp(0,Kf) (4)
式(3)は、状態の非線形な時間発展を表し、式(4)は、状態関数から観測関数への変換を表す。また、Kg、Kfは、グラム行列を表す。
図8は、因果関係パラメータθの初期値と個数の例を表形式で示す図である。これらの因果関係パラメータは、学習部20の最適化部24で最適化される。
図9は、実施の形態1に係る因果関係推定装置100の動作(すなわち、学習方法)を示すフローチャートである。まず、ステップS101で、入力部14は、時系列データDB12から状態変数の時系列データの集合X(0:t)と観測変数の時系列データの集合Y(0:t)を取得する。
実施の形態1によれば、複数の状態変数と複数の観測変数との間の因果関係がわかるようになり、任意数の変量の時系列データの因果関係を推定することができる。
《2-1》構成
《2-1-1》因果関係推定装置200
因果関係推定装置200は、因果関係パラメータDBから、複数の状態変数の時系列データと複数の観測変数の時系列データとの間の階層ごとの因果関係を示す因果関係パラメータθを読み出し、因果関係パラメータに基づいて、複数の状態変数の時系列データと複数の観測変数の時系列データとを階層ごとに配置換えし、複数の状態変数の時系列データの集合X(0:t)と複数の観測変数の時系列データの集合Y(0:t)とを含む検証用データを取得し、配置換えされた複数の状態変数の時系列データと複数の観測変数の時系列データに対し、グレンジャー因果の検証用データを用いた検証と疑似相関の前記検証用データを行いた検証との一方又は両方を行う。
データ取得部40は、実施の形態1のデータ取得部10と同様の機能を有している。ただし、入力部44は、後述するグレンジャー因果と疑似相関を用いた因果グラフの検証用のデータを取得する。
構築部30の因果グラフ構築部32は、因果関係パラメータDB80に保存されている因果関係パラメータ
図14(A)及び(B)は、構築部30の因果グラフ検証部34によって行われる検証処理の例を示す図である。グレンジャー因果は、例えば、図14(A)に示されるように、状態変数x2を含めて状態変数x1,x2,x3によって観測変数y1,y2を予測した場合(ケース1)に比べて、図14(B)に示されるように、状態変数x2を削除して状態変数x1,x3によって観測変数y1,y2を予測した場合(ケース2)に予測精度が下がると、状態変数x2は観測変数y1,y2に対してグレンジャー因果があると考える。また、状態変数x1,x2,x3によって観測変数y1,y2を予測した場合(ケース1)に比べて、状態変数x1,x3によって観測変数y1,y2を予測した場合(ケース2)に予測精度が上がると、状態変数x2は観測変数y1,y2に対してグレンジャー因果がないと考える。グレンジャー因果がない場合には、状態変数x2の配置換え又は状態変数x2の因果グラフからの削除を行う。
実施の形態2によれば、因果グラフを構築することで、直接測定できない場所のセンサ値の予測又は異常原因の探索等が可能となる。
[観測値の予測]
図17(A)及び(B)は、因果関係推定装置200によって時系列データ間の関係性から観測されていない時系列データを予測する処理を行う学習部と推論部とを示す。この場合、因果関係推定装置100は、図17(A)に示される過去のA1駅、A2駅、A3駅の混雑情報をマルチタスク学習することで、学習済みモデルを生成する。因果関係推定装置100は、A1駅、A2駅、A3駅のうちの、A1駅とA2駅の混雑情報のみがわかり、A3駅の混雑情報がわからない場合(図17(B)の場合)に、マルチタスク学習で生成された学習済みモデルを用いて、お互いの混雑度の相関又はラグ情報からA3駅の混雑度を推論部で予測(推論)することが可能である。
図18は、因果関係推定装置100にChange Point Kernelを導入することでセンサデータの変化点又は故障を学習した場合の動作を示す図である。センサデータの変化点又は故障の学習によって生成された学習済みモデルを用いることで、故障予知を行うことができる。
公知の時系列因果の推論フレームワーク(例えば、Causal Impact)において、標準の線形状態空間モデルを、実施の形態の方法(GPDM+MTGPモデル)で置き換えることも可能である。この場合、非線形又は非定常の相関も考慮できるようになり、予測精度を向上させることができる。
上述したMTGPモデルの計算は、計算量O(D3N3)、メモリO(D2N2)と計算負荷又はメモリコストが高い。このため、例えば、乱択化フーリエ特徴(Random Fourier features)又は変分化フーリエ特徴(Variational Fourier features)を用いることで、マルチタスク学習を高速化し、メモリコストを削減することが可能である。
Claims (12)
- 複数の状態変数の時系列データの集合と複数の観測変数の時系列データの集合とを含む学習用データを取得するデータ取得部と、
前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間の因果関係を示す因果関係パラメータを計算し、前記学習用データと前記因果関係パラメータとからガウス過程の分散共分散行列を計算し、前記因果関係パラメータをマルチタスクガウス過程モデルで表現する計算部と、
前記分散共分散行列に基づいて最適化関数を計算し、前記最適化関数に基づいて前記因果関係パラメータを更新する最適化部と、
を有することを特徴とする因果関係推定装置。 - 前記因果関係パラメータは、前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間の相関を示す相関係数と、前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間のラグを示すラグ係数とを含み、
前記計算部は、前記相関を、前記マルチタスクガウス過程モデルのLMCカーネルの線形相関で表現する
ことを特徴とする請求項1に記載の因果関係推定装置。 - 前記データ取得部は、前記複数の状態変数の時系列データの次元変更を行い、次元変更された前記状態変数の時系列データを前記計算部に提供する
ことを特徴とする請求項1又は2に記載の因果関係推定装置。 - 前記複数の状態変数の時系列データは、時刻情報の時系列データを含む
ことを特徴とする請求項1又は2に記載の因果関係推定装置。 - 前記複数の状態変数の時系列データは、角度情報の時系列データを含む
ことを特徴とする請求項1又は2に記載の因果関係推定装置。 - 前記最適化部は、更新された前記因果関係パラメータを因果関係パラメータデータベースに保存する
ことを特徴とする請求項1又は2に記載の因果関係推定装置。 - 前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間の階層ごとの因果関係を示す前記因果関係パラメータに基づいて、前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとを前記階層ごとに配置換えする因果グラフ構築部と、
複数の状態変数の時系列データの集合と複数の観測変数の時系列データの集合とを含む検証用データを取得する他のデータ取得部と、
配置換えされた前記複数の状態変数の時系列データと前記複数の観測変数の時系列データに対し、グレンジャー因果の前記検証用データを用いた検証と疑似相関の前記検証用データを行いた検証との一方又は両方を行う因果グラフ検証部と、
を有することを特徴とする請求項1又は2に記載の因果関係推定装置。 - 因果関係パラメータデータベースから、複数の状態変数の時系列データと複数の観測変数の時系列データとの間の階層ごとの因果関係を示す因果関係パラメータを読み出し、前記因果関係パラメータに基づいて、前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとを前記階層ごとに配置換えする因果グラフ構築部と、
複数の状態変数の時系列データの集合と複数の観測変数の時系列データの集合とを含む検証用データを取得するデータ取得部と、
配置換えされた前記複数の状態変数の時系列データと前記複数の観測変数の時系列データに対し、グレンジャー因果の前記検証用データを用いた検証と疑似相関の前記検証用データを行いた検証との一方又は両方を行う因果グラフ検証部と、
を有することを特徴とする因果関係推定装置。 - 前記因果関係パラメータは、前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間の相関を示す相関係数と、前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間のラグを示すラグ係数とを含む
ことを特徴とする請求項8に記載の因果関係推定装置。 - 予測対象に関する複数の状態変数の時系列データと複数の観測変数の時系列データとを取得し、前記予測対象に関する前記複数の状態変数の時系列データと前記複数の観測変数の時系列データから未観測の次元の観測情報を予測するための、前記因果関係パラメータに基づく学習済みモデルを用いて、前記未観測の次元の観測情報を予測する推論部をさらに有する
ことを特徴とする請求項1、2、8、9のいずれか1項に記載の因果関係推定装置。 - 因果関係推定装置によって実施される因果関係推定方法であって、
複数の状態変数の時系列データの集合と複数の観測変数の時系列データの集合とを含む学習用データを取得するステップと、
前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間の因果関係を示す因果関係パラメータを計算し、前記学習用データと前記因果関係パラメータとからガウス過程の分散共分散行列を計算し、前記因果関係パラメータをマルチタスクガウス過程モデルで表現するステップと、
前記分散共分散行列に基づいて最適化関数を計算し、前記最適化関数に基づいて前記因果関係パラメータを更新するステップと、
を有することを特徴とする因果関係推定方法。 - 複数の状態変数の時系列データの集合と複数の観測変数の時系列データの集合とを含む学習用データを取得するステップと、
前記複数の状態変数の時系列データと前記複数の観測変数の時系列データとの間の因果関係を示す因果関係パラメータを計算し、前記学習用データと前記因果関係パラメータとからガウス過程の分散共分散行列を計算し、前記因果関係パラメータをマルチタスクガウス過程モデルで表現するステップと、
前記分散共分散行列に基づいて最適化関数を計算し、前記最適化関数に基づいて前記因果関係パラメータを更新するステップと、
をコンピュータに実行させることを特徴とする因果関係推定プログラム。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2022/020680 WO2023223461A1 (ja) | 2022-05-18 | 2022-05-18 | 因果関係推定装置、因果関係推定方法、及び因果関係推定プログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JPWO2023223461A1 JPWO2023223461A1 (ja) | 2023-11-23 |
JPWO2023223461A5 JPWO2023223461A5 (ja) | 2024-04-26 |
JP7483180B2 true JP7483180B2 (ja) | 2024-05-14 |
Family
ID=88834904
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2024513679A Active JP7483180B2 (ja) | 2022-05-18 | 2022-05-18 | 因果関係推定装置、因果関係推定方法、及び因果関係推定プログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP7483180B2 (ja) |
WO (1) | WO2023223461A1 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019057198A (ja) | 2017-09-22 | 2019-04-11 | 株式会社神戸製鋼所 | 油圧システムのパラメータ推定方法 |
US20200241171A1 (en) | 2016-05-12 | 2020-07-30 | The Climate Corporation | Statistical blending of weather data sets |
JP2022054018A (ja) | 2020-09-25 | 2022-04-06 | 株式会社Gsユアサ | 推定装置、推定方法、及びコンピュータプログラム |
-
2022
- 2022-05-18 JP JP2024513679A patent/JP7483180B2/ja active Active
- 2022-05-18 WO PCT/JP2022/020680 patent/WO2023223461A1/ja unknown
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200241171A1 (en) | 2016-05-12 | 2020-07-30 | The Climate Corporation | Statistical blending of weather data sets |
JP2019057198A (ja) | 2017-09-22 | 2019-04-11 | 株式会社神戸製鋼所 | 油圧システムのパラメータ推定方法 |
JP2022054018A (ja) | 2020-09-25 | 2022-04-06 | 株式会社Gsユアサ | 推定装置、推定方法、及びコンピュータプログラム |
Non-Patent Citations (2)
Title |
---|
FUKUMIZU, Kenji et al.,Dimensionality Reduction for Supervised Learning with Reproducing Kernel Hilbert Spaces,The Journal of Machine Learning Research,The MIT Press,2004年01月,Vol. 5,pp. 73-99,Retrieved from the Internet: <URL: http://www.jmlr.org/papers/volume5/fukumizu04a/fukumizu04a.pdf>,ISSN: 1532-4435 [retrieved on 2022.08.01] |
小堀 良行,共分散構造解析に基づく音の関数分解と合成,電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会,2011年06月23日,Vol. 111, No. 106,Pages 107-112,ISSN: 0913-5685 |
Also Published As
Publication number | Publication date |
---|---|
JPWO2023223461A1 (ja) | 2023-11-23 |
WO2023223461A1 (ja) | 2023-11-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Entezami et al. | Early damage assessment in large-scale structures by innovative statistical pattern recognition methods based on time series modeling and novelty detection | |
US6928398B1 (en) | System and method for building a time series model | |
JP7082461B2 (ja) | 故障予知方法、故障予知装置および故障予知プログラム | |
CN110008301B (zh) | 基于机器学习的区域性地质灾害易发性预测方法及装置 | |
CN112598248B (zh) | 负荷预测方法、装置、计算机设备和存储介质 | |
EP3874426A1 (en) | Finite rank deep kernel learning for robust time series forecasting and regression | |
CN114580263A (zh) | 基于知识图谱的信息系统故障预测方法及相关设备 | |
CN107016571A (zh) | 数据预测方法及其系统 | |
CN103778474A (zh) | 资源负载量预测方法、分析预测系统及业务运营监控系统 | |
WO2016149906A1 (en) | Analyzing equipment degradation for maintaining equipment | |
AU2020325094B2 (en) | Finite rank deep kernel learning with linear computational complexity | |
KR102533460B1 (ko) | 시계열 예측을 위한 어텐션 기반 스태킹 방법 | |
US20230306505A1 (en) | Extending finite rank deep kernel learning to forecasting over long time horizons | |
JP2017146888A (ja) | 設計支援装置及び方法及びプログラム | |
Ouhame et al. | Multivariate workload prediction using Vector Autoregressive and Stacked LSTM models | |
CN114048544B (zh) | 飞行器结构响应特性预示方法、装置、设备和介质 | |
CN113110961B (zh) | 设备异常检测方法、装置、计算机设备及可读存储介质 | |
JP7483180B2 (ja) | 因果関係推定装置、因果関係推定方法、及び因果関係推定プログラム | |
Leong et al. | Control variates for efficient long-term extreme analysis of mooring lines | |
JP6967099B2 (ja) | 学習モデル作成システム及び学習モデル作成方法 | |
JP6615892B2 (ja) | 物理システムの経時変化プロファイリングエンジン | |
JP2020181318A (ja) | 最適化装置、最適化方法、及びプログラム | |
CN114861871A (zh) | 一种卷积神经网络在加速器上的推理性能评估系统 | |
KR102289396B1 (ko) | 군장비 수리부속 품목 수요예측의 고도화를 위한 강화학습 적용 | |
Verma et al. | Reliability Assessment of Multi-release Software System Under Imperfect Fault Removal Phenomenon |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240228 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240228 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20240228 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240402 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240430 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7483180 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |