JP2022092827A - 計算機システム及びデータ処理方法 - Google Patents

計算機システム及びデータ処理方法 Download PDF

Info

Publication number
JP2022092827A
JP2022092827A JP2020205762A JP2020205762A JP2022092827A JP 2022092827 A JP2022092827 A JP 2022092827A JP 2020205762 A JP2020205762 A JP 2020205762A JP 2020205762 A JP2020205762 A JP 2020205762A JP 2022092827 A JP2022092827 A JP 2022092827A
Authority
JP
Japan
Prior art keywords
time
series data
block
attention
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020205762A
Other languages
English (en)
Other versions
JP7168639B2 (ja
Inventor
志明 顧
Shimei Ko
慎二 中川
Shinji Nakagawa
雄二 諏訪
Yuji Suwa
和朗 徳永
Kazuro Tokunaga
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2020205762A priority Critical patent/JP7168639B2/ja
Priority to US17/411,290 priority patent/US20220187486A1/en
Publication of JP2022092827A publication Critical patent/JP2022092827A/ja
Application granted granted Critical
Publication of JP7168639B2 publication Critical patent/JP7168639B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/30Analysis
    • G01V1/303Analysis for determining velocity profiles or travel times
    • G01V1/305Travel times
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/01Measuring or predicting earthquakes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/288Event detection in seismic signals, e.g. microseismics
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V1/00Seismology; Seismic or acoustic prospecting or detecting
    • G01V1/28Processing seismic data, e.g. for interpretation or for event detection
    • G01V1/36Effecting static or dynamic corrections on records, e.g. correcting spread; Correlating seismic signals; Eliminating effects of unwanted energy
    • G01V1/364Seismic filtering
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V2210/00Details of seismic processing or analysis
    • G01V2210/60Analysis
    • G01V2210/62Physical property of subsurface
    • G01V2210/622Velocity, density or impedance
    • G01V2210/6222Velocity; travel time
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01VGEOPHYSICS; GRAVITATIONAL MEASUREMENTS; DETECTING MASSES OR OBJECTS; TAGS
    • G01V2210/00Details of seismic processing or analysis
    • G01V2210/60Analysis
    • G01V2210/67Wave propagation modeling
    • G01V2210/679Reverse-time modeling or coalescence modelling, i.e. starting from receivers

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Mathematics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Remote Sensing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Operations Research (AREA)
  • Probability & Statistics with Applications (AREA)
  • Evolutionary Biology (AREA)
  • Algebra (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Acoustics & Sound (AREA)
  • Environmental & Geological Engineering (AREA)
  • Geology (AREA)
  • General Life Sciences & Earth Sciences (AREA)
  • Geophysics (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Image Analysis (AREA)

Abstract

【課題】時系列データから特定の波の初動時刻を予測する。【解決手段】計算機システムは、ダウンサンプリングブロックを用いたエンコード演算と、アップサンプリングブロックを用いたデコード演算とを時系列データに対して実行するU-netを定義するモデル情報を管理し、モデル情報を用いて入力された時系列データに対して、エンコード演算及びデコード演算を実行し、ダウンサンプリングブロック及びアップサンプリングブロックは残差ブロックを含み、残差ブロックは、特徴マップにおける特定の時間領域を強調する時間軸方向アテンションを算出する時間軸方向アテンションブロックを含み、時間軸方向アテンションブロックは、異なる時間幅のアテンションを算出し、複数のアテンションを用いて時間軸方向アテンションが付加された特徴マップを算出する演算を含む。【選択図】図5

Description

本発明は、弾性波の分析技術に関する。
地質分析では、地中に人工的な振動を加えて、地中を伝わる弾性波を計測し、計測された弾性波の振幅及び伝搬速度等に基づいて地質の構造を分析する。弾性波の時系列データから任意の波(ターゲット波)の初動時刻を求めることによって、当該波の伝搬速度を算出することができる。
従来は、人が様々なノイズが含まれる波の時系列データからターゲット波の初動時刻を求めていた。初動時刻を求めるためには高度な知識及び経験が必要であり、手間がかかり、人の能力に依存する。そのため、自動的に初動時刻を算出する技術が求められている。弾性波を分析する技術として、特許文献1及び非特許文献1に記載のような技術が知られている。
特許文献1には、「複数個の受振器12の人工震源11からの離隔距離を特定するオフセットと、人工震源11に振動を生じさせた時からの経過時間を特定する走時とのマトリクス上に、受振器12の出力信号から得られた振幅Aの大きさを、例えば濃淡で表現した振動波画像の画像データを生成し、振動波画像に含まれている最初のピーク波形の形状をトレースした初動画像の画像データを生成し、教師データによって学習された画像データ中の特徴から導かれる画像を出力データとして出力する全層畳み込みネットワークに、振動波画像の画像データを入力データ、初動画像の画像データを教師データとして入力する。」ことが記載されている。
非特許文献1には、残差構造の畳み込み層及びLSTM(Long Short-Term Memory)ユニットを含む深層ニューラルネットワークが開示されている。
特開2019-178913号公報
S. Mostafa Mousavi、他3名、「A Deep Residual Network of Convolutional and Recurrent Units for Earthquake Signal Detection」、[令和2年11月2日検索]、インターネット〈URL:https://arxiv.org/abs/1810.01965〉 Olaf Ronneberger、他2名、「U-Net: Convolutional Networks for Biomedical Image Segmentation」、[令和2年11月2日検索]、インターネット〈https://arxiv.org/abs/1505.04597〉
特許文献1に記載の技術は、画像を入力として扱うものであり、予め画像を用意する必要がある。また、特許文献1に記載の技術では、精度よく初動時刻を算出することができない。非特許文献1に記載の技術は、波の分類に関する技術であり、初動時刻を予測する技術ではない。また、非特許文献1に記載の技術では、FFT(Fast Fourier Transform)を用いて、波の時系列データをスペクタクル画像に変換する必要があり、計算コストが高いという課題もある。
本発明は、時系列データを用いて、計算コストを抑え、かつ、高い精度で波の初動時刻を予測するシステム及び方法を実現することを目的とする。
本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、時系列データを入力として受け付け、ターゲット波の初動時刻を予測する計算機システムであって、演算装置及び前記演算装置に接続される記憶装置を有する計算機を少なくとも一つ備え、複数のダウンサンプリングブロックを用いて、前記ターゲット波に関する特徴マップを抽出するエンコード演算と、複数のアップサンプリングブロックを用いて、前記ターゲット波の初動時刻を予測するためのデータを出力するデコード演算と、を入力された時系列データに対して実行するU-netを定義するモデル情報を管理し、前記少なくとも一つの計算機は、前記モデル情報を用いて入力された時系列データに対して、前記エンコード演算及び前記デコード演算を実行し、前記ダウンサンプリングブロック及び前記アップサンプリングブロックは、少なくとも一つの残差ブロックを含み、前記ダウンサンプリング及び前記アップサンプリングのいずれかに含まれる前記残差ブロックは、前記特徴マップにおける特定の時間領域を強調する時間軸方向アテンションを算出する時間軸方向アテンションブロックを含み、前記時間軸方向アテンションブロックは、異なる時間幅のアテンションを算出し、複数の前記アテンションを用いて前記時間軸方向アテンションが付加された特徴マップを算出する演算を含む。
本発明によれば、時系列データを用いて、計算コストを抑え、かつ、高い精度で波の初動時刻を予測できる。上記した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
実施例1の計算機システムの構成例を示す図である。 実施例1のモデルの構造を示す図である。 実施例1のモデルに入力される波の時系列データの一例を示す図である。 実施例1のモデルから出力されるデータの一例を示す図である。 実施例1の教師データの一例を示す図である。 実施例1のダウンサンプリングブロックの構造の一例を示す図である。 実施例1のアップサンプリングブロックの構造の一例を示す図である。 実施例1の残差ブロックの構造の一例を示す図である。 実施例1の時間軸方向アテンションのイメージを示す図である。 実施例1のチャネル方向アテンションブロックの実装例を示す図である。 実施例1のチャネル方向アテンションブロックの実装例を示す図である。 実施例1のチャネル方向アテンションブロックの実装例を示す図である。 実施例1の時間軸方向アテンションブロックの実装例を示す図である。 実施例1の時間軸方向アテンションブロックの実装例を示す図である。 実施例1の学習部が実行する処理を説明するフローチャートである。 実施例1の学習部が実行するデータ拡張処理の一例を示す図である。 実施例1の予測部が実行する処理を説明するフローチャートである。 実施例1の確率の時系列データの一例を示す図である。
以下、本発明の実施例を、図面を用いて説明する。ただし、本発明は以下に示す実施例の記載内容に限定して解釈されるものではない。本発明の思想ないし趣旨から逸脱しない範囲で、その具体的構成を変更し得ることは当業者であれば容易に理解される。
以下に説明する発明の構成において、同一又は類似する構成又は機能には同一の符号を付し、重複する説明は省略する。
本明細書等における「第1」、「第2」、「第3」等の表記は、構成要素を識別するために付するものであり、必ずしも、数又は順序を限定するものではない。
図面等において示す各構成の位置、大きさ、形状、及び範囲等は、発明の理解を容易にするため、実際の位置、大きさ、形状、及び範囲等を表していない場合がある。したがって、本発明では、図面等に開示された位置、大きさ、形状、及び範囲等に限定されない。
図1は、実施例1の計算機システムの構成例を示す図である。
計算機システムは、計算機100、101、端末103、及び計測装置104から構成される。各装置は、WAN(Wide Area Network)及びLAN(Local Area Network)等のネットワーク105を介して互いに接続される。
計算機100は、任意の波(ターゲット波)の初動時刻の予測に使用するモデルを学習する。計算機101は、複数の波が重ね合わさった波の時系列データを受け付け、学習されたモデルを用いて、ターゲット波の初動時刻を予測する。例えば、計算機101は、地中を伝播する弾性波の時系列データを受け付け、P波の初動時刻を予測する。
端末103は、計算機100、101を操作するために使用する端末であり、例えば、パーソナルコンピュータ、スマートフォン、及びタブレット端末等である。ユーザは、端末を用いて、学習データの登録、予測に使用する波の時系列データの入力等を行う。計測装置104は、波の時系列データを計測する。
なお、複数の計算機100から構成されるシステムがモデルを学習してもよい。また、複数の計算機101から構成されるシステムがターゲット波の初動時刻を予測してもよい。
ここで、計算機100、101のハードウェア構成及びソフトウェア構成について説明する。
計算機100は、プロセッサ110、主記憶装置111、副記憶装置112、及びネットワークインタフェース113を備える。各ハードウェア要素は内部バスを介して互いに接続される。
プロセッサ110は、主記憶装置111に格納されるプログラムを実行する。プロセッサ110がプログラムにしたがって処理を実行することによって、特定の機能を実現するモジュールとして動作する。以下の説明では、モジュールを主語に処理を説明する場合、プロセッサ110が当該モジュールを実現するプログラムを実行していることを示す。
主記憶装置111は、DRAM(Dynamic Random Access Memory)等の記憶装置であり、プロセッサ110が実行するプログラム及びプログラムが使用する情報を格納する。また、主記憶装置111はワークエリアとしても使用される。
主記憶装置111は、学習部120を実現するプログラムを格納する。学習部120はモデルの学習処理を実行する。
副記憶装置112は、HDD(Hard Disk Drive)及びSSD(Solid State Drive)等の記憶装置であり、永続的に情報を格納する。
副記憶装置112は、学習データ管理情報130及びモデル情報140を格納する。
学習データ管理情報130は、学習処理に用いる学習データを管理するための情報である。学習データは、モデルに入力する波の時系列データと、モデルの出力の正解となる教師データとを含む。
モデル情報140はモデルを定義する情報である。モデル情報140には、各種パラメータの値が含まれる。学習処理では、学習アルゴリズムに基づいてパラメータの値が更新される。
なお、主記憶装置111に格納されるプログラム及び情報は、副記憶装置112に格納されてもよい。この場合、プロセッサ110は、副記憶装置112からプログラム及び情報を読み出し、主記憶装置111にロードする。
計算機101のハードウェア構成は計算機100と同一である。
計算機101の副記憶装置112は、学習部120から送信されたモデル情報140を格納する。計算機101の主記憶装置111は、予測部150を実現するプログラムを格納する。予測部150は、波の時系列データを受け付け、モデル情報140を用いてターゲット波の初動時刻を予測する。
予測部150に入力される波の時系列データは、端末103及び計測装置104の少なくともいずれかから入力されるものとする。なお、計算機101が、キーボード、マウス、及びタッチパネル等の入力装置、並びに、ディスプレイ等の出力装置を備える場合、ユーザは、入力装置及び出力装置を用いて、波の時系列データを入力してもよい。
なお、計算機100、101が有するモジュールについては、一つのモジュールを機能毎に複数のモジュールに分けてもよい。なお、計算機100、101のモジュールを一つの計算機にまとめてもよい。
次に、図2から図6を用いて実施例1のモデル情報140に定義されるモデルの構造について説明する。
図2は、実施例1のモデルの構造を示す図である。図3Aは、実施例1のモデルに入力される波の時系列データの一例を示す図である。図3Bは、実施例1のモデルから出力されるデータの一例を示す図である。図3Cは、実施例1の教師データの一例を示す図である。
実施例1のモデルは、非特許文献2に記載されているU-netをベースとしたモデルである。実施例1のモデルは、特徴抽出を行うためのエンコード演算を実現する、4層のダウンサンプリングブロック300と、デコード演算を実現する、4層のアップサンプリングブロック310を含む。
本明細書では、1種類の演算を行う構成を「層」と記載し、複数種類の演算を行う構成をブロックと記載する。
モデルには、図3Aに示すような波の時系列データが入力される。波の時系列データは1次元のデータであり、図3Aの波の時系列データは、データサイズを表すタイムステップ(時間幅)が10000である。
実線の矢印の数字は、入力又は出力されるデータのタイムステップ数及びチャネル数を表す。例えば、1層目のダウンサンプリングブロック300には、タイムステップが10000である波の時系列データが入力され、タイムステップが2000である特徴マップが8つ(チャネル数が8)出力される。ダウンサンプリングブロック300からアップサンプリングブロック310への点線の矢印は連結を示す。
実施例1のモデルは、後述するように、ダウンサンプリングブロック300及びアップサンプリングブロック310に時間軸方向アテンションを算出するアテンション機構を組み込んでいることを特徴とする。
モデルは、波の時系列データを処理することによって、図3Bに示すような、タイムステップ毎のターゲット波が到達しているか否かを示す確率の時系列データを出力する。横軸はタイムステップを示し、縦軸はターゲット波が到達している確率を示す。ターゲット波が到達している場合、確率は1となる。
なお、実施例1の学習データは、図3Aに示すような波の時系列データと、図3Cに示すような教師データとから構成されるものとする。教師データは、ターゲット波が到着していない場合は値が0であり、ターゲット波が到着している場合は値が1であるグラフである。
図4Aは、実施例1のダウンサンプリングブロック300の構造の一例を示す図である。図4Bは、実施例1のアップサンプリングブロック310の構造の一例を示す図である。
ダウンサンプリングブロック300は、1次元の畳み込み層400、二つの1次元の残差ブロック401、及び1次元のマックスプーリング層402から構成される。なお、図4Aに示すダウンサンプリングブロック300の構造は一例であってこれに限定されない。構成の一部を含まなくてもよいし、他の構成を含んでもよい。また、入出力の順番を入れ替えてもよい。
アップサンプリングブロック310は、1次元のアップサンプリング層、連結層404、1次元の畳み込み層400、及び二つの1次元の残差ブロック401から構成される。なお、図4Bに示すアップサンプリングブロック310の構造は一例であってこれに限定されない。構成の一部を含まなくてもよいし、他の構成を含んでもよい。また、入出力の順番を入れ替えてもよい。
図5は、実施例1の残差ブロック401の構造の一例を示す図である。図6は、実施例1の時間軸方向アテンションのイメージを示す図である。
残差ブロック401は、BECブロック500、BCブロック501、チャネル方向アテンションブロック502、時間軸方向アテンションブロック503、BEブロック504を含む。
BECブロック500は、バッチノーマライゼーション、ELU活性化関数、及び1次元の畳み込み層を用いた演算を行うブロックである。BCブロック501は、バッチノーマライゼーション、及び1次元の畳み込み層を用いた演算を行うブロックである。BEブロック504は、バッチノーマライゼーション、及びELU活性化関数を用いた演算を行うブロックである。
実施例1の残差ブロック401は、二つのBECブロック500の後に、チャネル方向アテンションブロック502及び時間軸方向アテンションブロック503を含む点に特徴がある。
二つのBECブロック500から出力される、複数チャネルの特徴マップは、チャネル方向アテンションブロック502及び時間軸方向アテンションブロック503のそれぞれに入力される。
チャネル方向アテンションブロック502は、特定のチャネルの特徴マップが強調された特徴マップ(アテンション付き特徴マップ)を出力する。時間軸方向アテンションブロック503は、特定の時間幅が強調された特徴マップ(アテンション付き特徴マップ)を出力する。例えば、時間軸方向アテンションブロック503は、図6の時間幅600が強調された特徴マップが出力される。
残差ブロック401では、チャネル方向アテンションブロック502及び時間軸方向アテンションブロック503の各々のアテンション付き特徴マップを足し合わせた出力と、BCブロック501から出力された特徴マップとが足し合わせられる。残差ブロック401では、複数の特徴マップを足し合わせた特徴マップがBEブロック504に入力される。
なお、残差ブロック401には、時間軸方向アテンションブロック503のみが含まれてもよい。
なお、ダウンサンプリングブロック300及びアップサンプリングブロック310の少なくともいずれか一方の残差ブロック401にのみ、チャネル方向アテンションブロック502及び時間軸方向アテンションブロック503が含まれるモデル構造でもよい。
図7A、図7B、及び図7Cは、実施例1のチャネル方向アテンションブロック502の実装例を示す図である。
実施例1のチャネル方向アテンションブロック502には、タイムステップ数(T)サイズの特徴マップをチャネル数(C)だけ含む2次元のデータが入力される。
図7Aの実装例について説明する。チャネル方向アテンションブロック502は、特徴マップを1次元のGlobal Average Pooling(GAP)層に入力し、各チャネルの全振幅の平均値を算出する。チャネル方向アテンションブロック502は、全結合層にGAP層の出力を入力することによって、当該出力を圧縮し、さらに、圧縮された出力を変換前のチャネル数に復元することによって、チャネル方向アテンションを算出する。さらに、チャネル方向アテンションブロック502は、変換前の特徴マップにチャネル方向アテンションを掛け合わせて、チャネル方向アテンションが付加された特徴マップを出力する。
図7Bの実装例について説明する。チャネル方向アテンションブロック502は、特徴マップを1次元のGAP層と、1次元のGlobal Max Pooling(GMP)層とに入力することによって、各チャネルの全振幅の平均値を算出する。チャネル方向アテンションブロック502は、各層の各チャネルの全振幅の平均値を足し合わせた後、全結合層に入力することによって、出力を圧縮し、さらに、圧縮された出力を変換前のチャネル数に復元することによってチャネル方向アテンションを算出する。さらに、チャネル方向アテンションブロック502は、変換前の特徴マップにチャネル方向アテンションを掛け合わせて、チャネル方向アテンションが付加された特徴マップを出力する。
図7Cの実装例について説明する。チャネル方向アテンションブロック502は、特徴マップを1次元のGAP層に入力し、各チャネルの全振幅の平均値を算出する。チャネル方向アテンションブロック502は、全結合層にGAP層の出力を入力することによって、当該出力を圧縮し、さらに、圧縮された出力を変換前のチャネル数に復元することによって、チャネル方向アテンションを算出する。チャネル方向アテンションブロック502は、特徴マップを1次元のGMP層に入力し、各チャネルの全振幅の平均値を算出する。チャネル方向アテンションブロック502は、全結合層にGMP層の出力を入力することによって、当該出力を圧縮し、さらに、圧縮された出力を変換前のチャネル数に復元することによって、チャネル方向アテンションを算出する。チャネル方向アテンションブロック502は、二つのチャネル方向アテンションを足し合わせ、さらに、変換前の特徴マップに足し合わせたチャネル方向アテンションを掛け合わせて、チャネル方向アテンションが付加された特徴マップを出力する。
図8A及び図8Bは、実施例1の時間軸方向アテンションブロック503の実装例を示す図である。
実施例1の時間軸方向アテンションブロック503には、タイムステップ数(T)サイズの特徴マップをチャネル数(C)だけ含む2次元のデータが入力される。
図8Aの実装例について説明する。時間軸方向アテンションブロック503は、特徴マップを、ピラミッド構造を持つ、尺度が異なる複数の畳み込み層に入力し、アテンション(特徴マップ)を算出する。ここでは、1×1、1×3、及び1×5の三つの畳み込み層が用いられている。数字のかけ算は、(次元)×(カーネルサイズ)を表す。時間軸方向アテンションブロック503は、各尺度のアテンションを足し合わせて、時間軸方向アテンションが付加された特徴マップを出力する。
図8Bの実装例について説明する。時間軸方向アテンションブロック503は、特徴マップを、ピラミッド構造を持つ、尺度が異なる複数の畳み込み層に入力し、アテンション(特徴マップ)を算出する。ここでは、1×1、1×3、及び1×5の三つの畳み込み層が用いられている。時間軸方向アテンションブロック503は、各尺度のアテンションを連結し、連結されたアテンションを1次元の畳み込み層に入力する。1次元畳み込み層から出力されるアテンション(特徴マップ)と、変換前の特徴マップとを掛け合わせて、時間軸方向アテンションが付加された特徴マップを出力する。
なお、尺度の違いは時間幅の違いに対応する。様々な尺度のアテンションを用いることによって、波の特徴の表現を改善できる。
次に、学習部120及び予測部150が実行する処理について説明する。
図9は、実施例1の学習部120が実行する処理を説明するフローチャートである。図10は、実施例1の学習部120が実行するデータ拡張処理の一例を示す図である。
学習部120は、実行指示を受け付けた場合、以下で説明する処理を実行する。
学習部120は、学習データを構成する波の時系列データに対して前処理を実行する(ステップS101)。前処理ではデータの正規化等が行われる。
次に、学習部120は、学習データに対してデータ拡張処理を実行する(ステップS102)。
具体的には、学習部120は、図10に示すように、波の時系列データ1000を時間方向に反転させることによって拡張波の時系列データ1001を生成する。このとき、教師データも同様に時間方向に反転させる。学習部120は、拡張波の時系列データ及び拡張教師データを学習データとして学習データ管理情報130に格納する。これによって、学習データを水増しできる。
次に、学習部120は、学習データを一つ選択し、モデルに当該学習データを構成する波の時系列データを入力する(ステップS103)。
具体的には、学習部120は、モデル情報140を用いて、波の時系列データに対する演算処理を実行する。例えば、図3Aに示す波の時系列データに対する演算処理の結果として、図3Bに示すような確率の時系列データが出力される。
このとき、学習部120は、モデルが扱うデータサイズに合わせて、波の時系列データを整形してもよい。例えば、データサイズが大きい場合、学習部120は、波の時系列データを分割し、分割された波の時系列データに対して演算を実行する。また、データサイズが大きい場合、学習部120は、任意のウィンドウ幅のウィンドウを時間軸に沿って移動させ、ウィンドウ内の波の時系列データをモデルに入力してもよい。
次に、学習部120は、モデルの出力及び教師データを用いる学習アルゴリズムに基づいて、モデルのパラメータを更新する(ステップS104)。
学習アルゴリズムは、例えば、最急降下法等の公知のアルゴリズムを用いる。なお、本発明は、使用する学習アルゴリズムに限定されない。
実施例1の学習では、初動時刻を含む時間領域が強調されるように時間軸方向アテンションブロック503のアテンション機構のパラメータが更新される。
次に、学習部120は、学習を終了するか否かを判定する(ステップS105)。
例えば、学習部120は、学習回数をカウントし、学習回数が閾値より大きい場合、学習を終了すると判定する。また、学習部120は、テスト用のデータを用いて予測精度を検証し、予測精度が閾値より大きい場合、学習を終了すると判定する。
学習を終了しないと判定された場合、学習部120は、ステップS103に戻り、同様の処理を実行する。
学習処理を終了すると判定された場合、学習部120は、モデル情報140を計算機101に送信し、その後、処理を終了する(ステップS106)。
図11は、実施例1の予測部150が実行する処理を説明するフローチャートである。図12は、実施例1の確率の時系列データの一例を示す図である。
予測部150は、波の時系列データの入力を受け付けた場合、以下で説明する処理を実行する。
予測部150は、波の時系列データに対して前処理を実行する(ステップS201)。前処理ではデータの正規化等が行われる。
予測部150は、波の時系列データに対してデータ拡張処理を実行する(ステップS202)。
具体的には、学習部120は、図10に示すように、波の時系列データ1000を時間方向に反転させることによって拡張波の時系列データ1001を生成する。
次に、予測部150は、波及び拡張波の時系列データの各々をモデルに入力する(ステップS203)。
具体的には、予測部150は、モデル情報140を用いて、波の時系列データに対する演算処理を実行する。例えば、図3Aに示す波の時系列データに対する演算処理の結果として、図3Bに示すような確率の時系列データが出力される。なお、モデルには二つの波の時系列データが入力されているため、各波の時系列データに対して確率の時系列データが出力される。
次に、予測部150は、確率の時系列データの移動平均を算出する(ステップS204)。ここでは、二つの確率の時系列データの各々について移動平均が算出される。
例えば、図3Bに示す確率の時系列データの移動平均を算出した場合、図12に示すような出力が得られる。
次に、予測部150は、確率の時系列データの移動平均に基づいて、予測初動時刻を算出する(ステップS205)。
具体的には、予測部150は、二つの確率の時系列データの各々について、確率の移動平均を算出し、各タイムステップの移動平均が閾値(例えば、0.5)より大きくなった時刻の中で、最も過去の時刻を特定する。予測部150は、二つの時刻の平均値を予測初動時刻として算出する。
次に、予測部150は、予測初動時刻を含む予測結果を出力し(ステップS206)、その後、処理を終了する。
例えば、予測部150は端末103に予測結果を送信する。予測結果には、確率の時系列データ、及び確率の時系列データの移動平均等が含まれてもよい。
なお、予測部150は、ステップS205の処理を実行せずに、確率の時系列データ及び確率の時系列データの少なくともいずれかを含む予測結果を出力してもよい。
以上で説明したように、本発明に係るモデルは、時間軸方向アテンションブロック503を含むことによって、ターゲット波の初動時刻を含む時間領域に着目した演算処理が可能となる。これによって、効率的、かつ、高い精度で、ターゲット波の初動時刻を予測することができる。したがって、弾性波の分析を自動化することができ、分析に要するコストを低減し、かつ、分析精度を高めることができる。
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。また、例えば、上記した実施例は本発明を分かりやすく説明するために構成を詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、各実施例の構成の一部について、他の構成に追加、削除、置換することが可能である。
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、本発明は、実施例の機能を実現するソフトウェアのプログラムコードによっても実現できる。この場合、プログラムコードを記録した記憶媒体をコンピュータに提供し、そのコンピュータが備えるプロセッサが記憶媒体に格納されたプログラムコードを読み出す。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施例の機能を実現することになり、そのプログラムコード自体、及びそれを記憶した記憶媒体は本発明を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、CD-ROM、DVD-ROM、ハードディスク、SSD(Solid State Drive)、光ディスク、光磁気ディスク、CD-R、磁気テープ、不揮発性のメモリカード、ROMなどが用いられる。
また、本実施例に記載の機能を実現するプログラムコードは、例えば、アセンブラ、C/C++、perl、Shell、PHP、Python、Java(登録商標)等の広範囲のプログラム又はスクリプト言語で実装できる。
さらに、実施例の機能を実現するソフトウェアのプログラムコードを、ネットワークを介して配信することによって、それをコンピュータのハードディスクやメモリ等の記憶手段又はCD-RW、CD-R等の記憶媒体に格納し、コンピュータが備えるプロセッサが当該記憶手段や当該記憶媒体に格納されたプログラムコードを読み出して実行するようにしてもよい。
上述の実施例において、制御線や情報線は、説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。全ての構成が相互に接続されていてもよい。
100、101 計算機
103 端末
104 計測装置
105 ネットワーク
110 プロセッサ
111 主記憶装置
112 副記憶装置
113 ネットワークインタフェース
120 学習部
130 学習データ管理情報
140 モデル情報
150 予測部
300 ダウンサンプリングブロック
310 アップサンプリングブロック
400 畳み込み層
401 残差ブロック
402 マックスプーリング層
404 連結層
500 BECブロック
501 BCブロック
502 チャネル方向アテンションブロック
503 時間軸方向アテンションブロック
504 BEブロック

Claims (14)

  1. 時系列データを入力として受け付け、ターゲット波の初動時刻を予測する計算機システムであって、
    演算装置及び前記演算装置に接続される記憶装置を有する計算機を少なくとも一つ備え、
    複数のダウンサンプリングブロックを用いて、前記ターゲット波に関する特徴マップを抽出するエンコード演算と、複数のアップサンプリングブロックを用いて、前記ターゲット波の初動時刻を予測するためのデータを出力するデコード演算と、を入力された時系列データに対して実行するU-netを定義するモデル情報を管理し、
    前記少なくとも一つの計算機は、前記モデル情報を用いて入力された時系列データに対して、前記エンコード演算及び前記デコード演算を実行し、
    前記ダウンサンプリングブロック及び前記アップサンプリングブロックは、少なくとも一つの残差ブロックを含み、
    前記ダウンサンプリングブロック及び前記アップサンプリングブロックのいずれかに含まれる前記残差ブロックは、前記特徴マップにおける特定の時間領域を強調する時間軸方向アテンションを算出する時間軸方向アテンションブロックを含み、
    前記時間軸方向アテンションブロックは、異なる時間幅のアテンションを算出し、複数の前記アテンションを用いて前記時間軸方向アテンションが付加された特徴マップを算出する演算を含むことを特徴とする計算機システム。
  2. 請求項1に記載の計算機システムであって、
    前記時間軸方向アテンションブロックは、
    入力された特徴マップを、ピラミッド構造を持つ、複数の畳み込み層に入力して、アテンションを算出する演算と、
    前記複数のアテンションを足し合わせて、前記時間軸方向アテンションが付加された特徴マップを算出する演算と、を含むことを特徴とする計算機システム。
  3. 請求項1に記載の計算機システムであって、
    前記時間軸方向アテンションブロックは、
    入力された特徴マップを、ピラミッド構造を持つ、複数の畳み込み層に入力して、アテンションを算出する演算と、
    前記複数のアテンションを連結して、畳み込み層に入力し、当該畳み込み層から出力される特徴マップと、前記入力された特徴マップとを掛け合わせて、前記時間軸方向アテンションが付加された特徴マップを算出する演算と、を含むことを特徴とする計算機システム。
  4. 請求項1に記載の計算機システムであって、
    前記少なくとも一つの計算機は、
    前記入力された時系列データに対する前記U-netの演算結果として、前記ターゲット波が到達している確率の時系列データを出力し、
    前記確率の時系列データの移動平均を算出し、
    前記確率の時系列データの移動平均に基づいて、前記確率が閾値より大きい時刻であって、最も過去の時刻を、前記ターゲット波の初動時刻として算出することを特徴とする計算機システム。
  5. 請求項4に記載の計算機システムであって、
    前記少なくとも一つの計算機は、
    前記入力された時系列データを、時間方向に反転させて、拡張時系列データを生成し、
    前記入力された時系列データに対応する前記確率の時系列データの移動平均に基づいて特定された時刻と、前記拡張時系列データに対応する前記確率の時系列データの移動平均に基づいて特定された時刻と、に基づいて前記ターゲット波の初動時刻を算出することを特徴とする計算機システム。
  6. 請求項1に記載の計算機システムであって、
    前記ダウンサンプリングブロック及び前記アップサンプリングブロックのいずれかに含まれる前記残差ブロックは、複数のチャネルの前記特徴マップのうち、特定のチャネルを強調するチャネル方向アテンションを算出するチャネル方向アテンションブロックを含むことを特徴とする計算機システム。
  7. 請求項1に記載の計算機システムであって、
    学習用の時系列データ及び前記U-netの正解の出力を示す教師データとから構成される学習データを管理する学習データ管理情報を保持し、
    前記少なくとも一つの計算機は、前記学習データを用いて、前記U-netのパラメータを更新する学習処理を実行することを特徴とする計算機システム。
  8. 計算機システムが実行する、時系列データを用いてターゲット波の初動時刻を予測するデータ処理方法であって、
    前記計算機システムは、
    演算装置及び前記演算装置に接続される記憶装置を有する計算機を少なくとも一つ含み、
    複数のダウンサンプリングブロックを用いて、前記ターゲット波に関する特徴マップを抽出するエンコード演算と、複数のアップサンプリングブロックを用いて、前記ターゲット波の初動時刻を予測するためのデータを出力するデコード演算と、を入力された時系列データに対して実行するU-netを定義するモデル情報を管理し、
    前記データ処理方法は、
    前記少なくとも一つの計算機が、時系列データの入力を受け付ける第1のステップと、
    前記少なくとも一つの計算機が、前記モデル情報を用いて入力された時系列データに対して、前記エンコード演算及び前記デコード演算を実行する第2のステップと、
    を含み、
    前記ダウンサンプリングブロック及び前記アップサンプリングブロックは、少なくとも一つの残差ブロックを含み、
    前記ダウンサンプリングブロック及び前記アップサンプリングブロックのいずれかに含まれる前記残差ブロックは、前記特徴マップにおける特定の時間領域を強調する時間軸方向アテンションを算出する時間軸方向アテンションブロックを含み、
    前記時間軸方向アテンションブロックは、異なる時間幅のアテンションを算出し、複数の前記アテンションを用いて前記時間軸方向アテンションが付加された特徴マップを算出する演算を含むことを特徴とするデータ処理方法。
  9. 請求項8に記載のデータ処理方法であって、
    前記時間軸方向アテンションブロックは、
    入力された特徴マップを、ピラミッド構造を持つ、複数の畳み込み層に入力し、アテンションを算出する演算と、
    前記複数のアテンションを足し合わせて、前記時間軸方向アテンションが付加された特徴マップを算出する演算と、を含むことを特徴とするデータ処理方法。
  10. 請求項8に記載のデータ処理方法であって、
    前記時間軸方向アテンションブロックは、
    入力された特徴マップを、ピラミッド構造を持つ、複数の畳み込み層に入力し、アテンションを算出する演算と、
    前記複数のアテンションを連結して、畳み込み層に入力し、当該畳み込み層から出力される特徴マップと、前記入力された特徴マップとを掛け合わせて、前記時間軸方向アテンションが付加された特徴マップを算出する演算と、を含むことを特徴とするデータ処理方法。
  11. 請求項8に記載のデータ処理方法であって、
    前記第2のステップは、
    前記少なくとも一つの計算機が、前記入力された時系列データに対する前記U-netの演算結果として、前記ターゲット波が到達している確率の時系列データを出力する第3のステップと、
    前記少なくとも一つの計算機が、前記確率の時系列データの移動平均を算出する第4のステップと、
    前記少なくとも一つの計算機が、前記確率の時系列データの移動平均に基づいて、前記確率が閾値より大きい時刻であって、最も過去の時刻を、前記ターゲット波の初動時刻として算出する第5のステップと、を含むことを特徴とするデータ処理方法。
  12. 請求項11に記載のデータ処理方法であって、
    前記第1のステップは、前記少なくとも一つの計算機が、前記入力された時系列データを、時間軸方向に反転させて、拡張時系列データを生成するステップを含み、
    前記第3のステップは、前記少なくとも一つの計算機が、前記拡張時系列データに対応する前記確率の時系列データを出力するステップを含み、
    前記第4のステップは、前記少なくとも一つの計算機が、前記拡張時系列データに対応する前記確率の時系列データの移動平均を算出するステップを含み、
    前記第5のステップは、前記少なくとも一つの計算機が、前記入力された時系列データに対応する前記確率の時系列データの移動平均に基づいて特定された時刻と、前記拡張時系列データに対応する前記確率の時系列データの移動平均に基づいて特定された時刻と、に基づいて前記ターゲット波の初動時刻を算出するステップを含むことを特徴とするデータ処理方法。
  13. 請求項8に記載のデータ処理方法であって、
    前記ダウンサンプリングブロック及び前記アップサンプリングブロックのいずれかに含まれる前記残差ブロックは、複数のチャネルの前記特徴マップのうち、特定のチャネルを強調するチャネル方向アテンションを算出するチャネル方向アテンションブロックを含むことを特徴とするデータ処理方法。
  14. 請求項8に記載のデータ処理方法であって、
    前記計算機システムは、学習用の時系列データ及び前記U-netの正解の出力を示す教師データとから構成される学習データを管理する学習データ管理情報を保持し、
    前記データ処理方法は、前記少なくとも一つの計算機が、前記学習データを用いて、前記U-netのパラメータを更新する学習処理を実行するステップを含むことを特徴とするデータ処理方法。
JP2020205762A 2020-12-11 2020-12-11 計算機システム及びデータ処理方法 Active JP7168639B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020205762A JP7168639B2 (ja) 2020-12-11 2020-12-11 計算機システム及びデータ処理方法
US17/411,290 US20220187486A1 (en) 2020-12-11 2021-08-25 Computer system and data processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020205762A JP7168639B2 (ja) 2020-12-11 2020-12-11 計算機システム及びデータ処理方法

Publications (2)

Publication Number Publication Date
JP2022092827A true JP2022092827A (ja) 2022-06-23
JP7168639B2 JP7168639B2 (ja) 2022-11-09

Family

ID=81941419

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020205762A Active JP7168639B2 (ja) 2020-12-11 2020-12-11 計算機システム及びデータ処理方法

Country Status (2)

Country Link
US (1) US20220187486A1 (ja)
JP (1) JP7168639B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11947061B2 (en) * 2019-10-18 2024-04-02 Korea University Research And Business Foundation Earthquake event classification method using attention-based convolutional neural network, recording medium and device for performing the method
CN116594061B (zh) * 2023-07-18 2023-09-22 吉林大学 一种基于多尺度u形注意网络的地震数据去噪方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
MOUSAVI, S. MOSTAFA ET AL.: ""CRED: A Deep Residual Network of Convolutional and Recurrent Units for Earthquake Signal Detection"", ARXIV [ONLINE], JPN6022041452, October 2018 (2018-10-01), ISSN: 0004893067 *
WOO, SANGHYUN ET AL.: ""CBAM: Convolutional Block Attention Module"", ARXIV [ONLINE], JPN6022041451, July 2018 (2018-07-01), ISSN: 0004893068 *

Also Published As

Publication number Publication date
US20220187486A1 (en) 2022-06-16
JP7168639B2 (ja) 2022-11-09

Similar Documents

Publication Publication Date Title
JP7149197B2 (ja) 異常音検知装置および異常音検知方法
CN108229667B (zh) 基于人工神经网络类别的修剪
CN111523640B (zh) 神经网络模型的训练方法和装置
Tandeo et al. Combining analog method and ensemble data assimilation: application to the Lorenz-63 chaotic system
Sony et al. Multiclass damage identification in a full-scale bridge using optimally tuned one-dimensional convolutional neural network
CN111046027A (zh) 时间序列数据的缺失值填充方法和装置
US10482491B2 (en) Targeted marketing for user conversion
CN112363251A (zh) 天气预测模型的生成方法、天气预测方法、装置
JP2022092827A (ja) 計算機システム及びデータ処理方法
Myers et al. Partitioning a large simulation as it runs
CN113538235B (zh) 图像处理模型的训练方法、装置、电子设备及存储介质
KR102477509B1 (ko) 기상 예측 정보 생성 방법 및 이를 수행하기 위한 컴퓨팅 장치
US20220292315A1 (en) Accelerated k-fold cross-validation
CN117407771B (zh) 基于数字孪生的轴承健康状态评估方法、装置及相关设备
EP3920072A1 (en) System for providing a simulation model, system for illustrating estimated fluid movements around a structure, methods therefore and a computer program product
CN115903018A (zh) 一种基于物理信息神经网络的背景噪声程函成像方法
Bhalaji Cloud load estimation with deep logarithmic network for workload and time series optimization
Rizvi et al. From data to insight, enhancing structural health monitoring using physics-informed machine learning and advanced data collection methods
CN118173121A (zh) 设备运行状态评估方法、装置、计算机设备和存储介质
JP2020177509A (ja) 計算機及びデータ処理方法
WO2020261509A1 (ja) 機械学習装置、機械学習プログラム、及び機械学習方法
JP7504601B2 (ja) 信号処理装置、信号処理方法およびプログラム
JP2023535202A (ja) コンテキスト・アウェア・アノマリ検出
CN113850686A (zh) 投保概率确定方法、装置、存储介质及电子设备
JPWO2020162294A1 (ja) 変換方法、訓練装置及び推論装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210716

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221011

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221027

R150 Certificate of patent or registration of utility model

Ref document number: 7168639

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150