JPWO2020044866A1 - 変位計測装置及び変位計測方法 - Google Patents

変位計測装置及び変位計測方法 Download PDF

Info

Publication number
JPWO2020044866A1
JPWO2020044866A1 JP2020540147A JP2020540147A JPWO2020044866A1 JP WO2020044866 A1 JPWO2020044866 A1 JP WO2020044866A1 JP 2020540147 A JP2020540147 A JP 2020540147A JP 2020540147 A JP2020540147 A JP 2020540147A JP WO2020044866 A1 JPWO2020044866 A1 JP WO2020044866A1
Authority
JP
Japan
Prior art keywords
image
displacement
noise
machine learning
learning model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020540147A
Other languages
English (en)
Other versions
JP7281660B2 (ja
Inventor
晃浩 野田
晃浩 野田
今川 太郎
太郎 今川
日下 博也
博也 日下
悠樹 丸山
悠樹 丸山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2020044866A1 publication Critical patent/JPWO2020044866A1/ja
Application granted granted Critical
Publication of JP7281660B2 publication Critical patent/JP7281660B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • EFIXED CONSTRUCTIONS
    • E01CONSTRUCTION OF ROADS, RAILWAYS, OR BRIDGES
    • E01DCONSTRUCTION OF BRIDGES, ELEVATED ROADWAYS OR VIADUCTS; ASSEMBLY OF BRIDGES
    • E01D22/00Methods or apparatus for repairing or strengthening existing bridges ; Methods or apparatus for dismantling bridges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • G01C11/12Interpretation of pictures by comparison of two or more pictures of the same area the pictures being supported in the same relative position as when they were taken
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0041Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by determining deflection or stress
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0075Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by means of external apparatus, e.g. test benches or portable test systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0091Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by using electromagnetic excitation or detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/16Measuring arrangements characterised by the use of optical techniques for measuring the deformation in a solid, e.g. optical strain gauge
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Quality & Reliability (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Structural Engineering (AREA)
  • Electromagnetism (AREA)
  • Civil Engineering (AREA)
  • Architecture (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Abstract

変位計測装置(100)は、対象物(300)を含む、ノイズが乗った1の画像から、対象物(300)を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデル(10)と、対象物(300)を含む、ノイズが乗った第1の画像と、対象物(300)を含む、ノイズが乗った第2の画像とを取得する第1取得部(20)と、第1機械学習モデル(10)を利用して、第1の画像から、対象物(300)を含むM(Mは2以上の整数)のテンプレート画像を生成し、第2の画像から、対象物(300)を含むMのターゲット画像を生成する第1生成部(30)と、Mのテンプレート画像と、Mのターゲット画像とから、対象物(300)のMの仮想変位を算出する仮想変位算出部(40)と、Mの仮想変位に対して統計処理を行い、対象物(300)の変位を算出する変位算出部(50)と、を備える。

Description

計測対象となる対象物の変位を検出する変位検出装置及び変位検出方法に関する。
従来、計測対象となる対象物を撮像した第1の画像と第2の画像とから、その対象物の変位を計測する技術が知られている。
特開2006−254349号公報
計測対象となる対象物の撮像において、撮像する画像に、例えば、撮像装置と対象物との間の空間における、熱、風等による大気の揺らぎに起因するノイズ、降雨時における落下中の水滴に起因するノイズ等が乗ってしまうことがある。
従来の技術では、対象物の変位の計測において、計測に利用する画像にノイズが乗っていると、ノイズが乗っていない場合に比べて、その計測精度が低下してしまう。
そこで、本発明は、対象物を含む、ノイズが乗った第1の画像と第2の画像とから、その対象物の変位を計測する場合において、従来よりも高精度に変位を計測することができる変位計測装置及び変位計測方法を提供することを目的とする。
本開示の一態様に係る変位計測装置は、計測対象となる対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデルと、前記対象物を含む、ノイズが乗った第1の画像と、前記対象物を含む、ノイズが乗った第2の画像とを取得する第1取得部と、前記第1機械学習モデルを利用して、前記第1の画像から、前記対象物を含むM(Mは2以上の整数)のテンプレート画像を生成し、前記第2の画像から、前記対象物を含むMのターゲット画像を生成する第1生成部と、前記Mのテンプレート画像と、前記Mのターゲット画像とから、前記対象物のMの仮想変位を算出する仮想変位算出部と、前記Mの仮想変位に対して統計処理を行い、前記対象物の変位を算出する変位算出部と、を備える。
また、本開示の一態様に係る変位計測方法は、計測対象となる対象物を含む、ノイズが乗った第1の画像と、前記対象物を含む、ノイズが乗った第2の画像とを取得し、前記対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデルを利用して、前記1の第1の画像から、前記対象物を含むM(Mは2以上の整数)のテンプレート画像を生成し、前記第2の画像から、前記対象物を含むMのターゲット画像を生成し、前記Mのテンプレート画像と、前記Mのターゲット画像とから、前記対象物のMの仮想変位を算出し、前記Mの仮想変位に対して統計処理を行い、前記対象物の変位を算出する。
本開示の一態様に係る変位計測装置及び変位計測方法によれば、対象物を含む、ノイズが乗った第1の画像と第2の画像とから、その対象物の変位を計測する場合において、従来よりも高精度に変位を計測することができる。
図1Aは、真の変位とノイズあり変位との関係の一例を模式的に示す概念図である。 図1Bは、ノイズが乗った複数のテンプレート画像と、ノイズが乗った複数のターゲット画像とから、真の変位を再現する様子を模式的に示す概念図である。 図2は、実施の形態1に係る変位計測システムの一構成例を示す外観図である。 図3は、実施の形態1に係る変位計測装置の構成を示すブロック図である。 図4は、実施の形態1に係る第1学習モデルが学習する様子の一例を示す模式図である。 図5は、実施の形態1に係る第1生成部が、Mのテンプレート画像とMのターゲット画像とを生成する様子の一例を示す模式図である。 図6は、実施の形態1に係る仮想変位算出部が、Mの仮想変位を算出する様子の一例を示す模式図である。 図7は、実施の形態1に係る変位算出部が、変位を算出する様子の一例を示す模式図である。 図8は、実施の形態1に係る第1学習処理のフローチャートである。 図9は、実施の形態1に係る第1変位計測処理のフローチャートである。 図10は、実施の形態2に係る変位計測装置の構成を示すブロック図である。 図11は、実施の形態2に係る第1機械学習モデルの構成の一例を示す模式図である。 図12は、実施の形態2に係る第1機械学習モデルが学習する様子の一例を示す模式図である。 図13は、実施の形態2に係る第2学習処理のフローチャートである。 図14は、実施の形態3に係る変位計測装置の構成を示すブロック図である。 図15は、実施の形態3に係る第3学習処理のフローチャートである。 図16は、実施の形態4に係る変位計測装置の構成を示すブロック図である。 図17は、実施の形態4に係る第1生成部の構成を示すブロック図である。
(本開示の一態様を得るに至った経緯)
計測対象となる対象物を撮像した第1の画像と第2の画像とから、その対象物の変位を計測する場合において、それらの画像にノイズが乗っている場合と、ノイズが乗っていない場合とで、計測結果として得られる変位に差が生じてしまうことがある。ここで、画像に乗ってしまうノイズとしては、例えば、撮像装置と対象物との間の空間における、熱、風等による大気の揺らぎに起因するノイズ、降雨時における落下中の水滴に起因するノイズ等が考えられる。
図1Aは、ノイズが乗らない画像から計測結果として得られる対象物の変位(以下、「真の変位」とも呼ぶ。)と、ノイズが乗った画像から計測結果として得られる対象物の変位(以下、「ノイズあり変位」とも呼ぶ。)との関係の一例を模式的に示す概念図である。
図1Aに示されるように、ノイズが乗った1の撮像されたテンプレート画像と、ノイズが乗った1の撮像されたターゲット画像とから得られるノイズあり変位は、真の変位に対する誤差を含む場合がある。
発明者は、ノイズが乗った1の撮像された画像は、取り得る様々なノイズパターンのうちのある1のパターンのノイズが乗った瞬間に撮像された画像であるにすぎないと考えた。そして、発明者は、ノイズが乗った1の撮像されたテンプレート画像から、取り得る様々なノイズパターンのノイズが乗った複数のテンプレート画像を再現し、ノイズが乗った1の撮像されたターゲット画像から、取り得る様々なノイズパターンのノイズが乗った複数のターゲット画像を再現することができれば、取り得る様々なノイズパターンに対応する、複数のノイズあり変位を再現することができると考えた。そして、再現された複数のノイズあり変位に対して、統計処理を行うことで、真の変位を復元することができるのではないかと考えた。
図1Bは、ノイズが乗った複数のテンプレート画像と、ノイズが乗った複数のターゲット画像とから、真の変位を再現する様子を模式的に示す概念図である。
図1Bに示されるように、複数のノイズあり変位が、真の変位に対して統計的な分布(例えば、ガウス分布)を示す場合には、複数のノイズあり変位に対して統計処理を行うことで、真の変位を再現することができる。
発明者は、上記考えに基づいて、下記変位計測装置及び変位計測方法に想到した。
本発明の一態様に係る変位計測装置は、計測対象となる対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデルと、前記対象物を含む、ノイズが乗った第1の画像と、前記対象物を含む、ノイズが乗った第2の画像とを取得する第1取得部と、前記第1機械学習モデルを利用して、前記第1の画像から、前記対象物を含むM(Mは2以上の整数)のテンプレート画像を生成し、前記第2の画像から、前記対象物を含むMのターゲット画像を生成する第1生成部と、前記Mのテンプレート画像と、前記Mのターゲット画像とから、前記対象物のMの仮想変位を算出する仮想変位算出部と、前記Mの仮想変位に対して統計処理を行い、前記対象物の変位を算出する変位算出部と、を備える。
上記変位計測装置は、ノイズが乗った1の第1オリジナル画像と、ノイズが乗った1の第2オリジナル画像とから、それぞれ、Mのテンプレート画像と、Mのターゲット画像とを生成する。そして、Mのテンプレート画像と、Mのターゲット画像とからMの仮想変位を算出し、算出した仮想変位に対して統計処理を行って、対象物の変位を算出する。このため、上記変位計測装置によると、従来の、ノイズが乗った1の画像と、ノイズが乗った1の画像とから、統計処理を行うことなく直接的に変位を算出する変位計測装置よりも、より高精度に変位を計測することができる。
また、前記第1機械学習モデルが生成する前記1以上の画像は、ノイズが乗った画像であり、さらに、前記対象物を含む、ノイズが乗ったN(Nは2以上の整数)の画像を取得する第2取得部と、前記Nの画像それぞれについて、当該画像を入力とし、他のN−1の画像の少なくとも一部を正解として、前記第1機械学習モデルに学習させる第1学習部と、を備えるとしてもよい。これにより、第1機械学習モデルに、ノイズが乗った画像を生成するよう学習させることができるようになる。
また、前記第1機械学習モデルは、前記対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが除去された1のノイズ除去画像を生成するよう学習された第2機械学習モデルと、前記1のノイズ除去画像から、前記対象物を含む、ノイズが乗った1以上の画像を生成するよう学習された第3機械学習モデルと、を含み、前記第2取得部は、さらに、前記対象物を含む、ノイズが乗っていない1の基準画像を取得し、前記第1学習部は、前記Nの画像それぞれについて、当該画像を入力とし、前記1の基準画像を正解として、前記第2機械学習モデルに学習させ、前記1の基準画像を入力とし、他のN−1の画像の少なくとも一部を正解として前記第3機械学習モデルに学習させることで、前記第1機械学習モデルに学習させるとしてもよい。これにより、より効率的に、第1機械学習モデルに学習させることができるようになる。
また、前記第1機械学習モデルが生成する前記1以上の画像は、ノイズが除去された画像であり、さらに、前記対象物を含む、ノイズが乗ったN(Nは2以上の整数)の画像と、前記対象物を含む、ノイズが乗っていない1の基準画像とを取得する第2取得部と、前記Nの画像それぞれについて、当該画像を入力とし、前記1の基準画像を正解として、前記第1機械学習モデルに学習させる第2学習部と、を備えるとしてもよい。これにより、第1機械学習モデルに、ノイズが除去された画像を生成するよう学習させることができるようになる。
また、前記第1生成部は、前記対象物の概略変位を取得する概略変位取得部と、前記1の第1の画像に対して、前記概略変位に応じた量だけ画素を移動させて第1の画素移動画像を生成し、前記1の第2の画像に対して、前記概略変位に応じた量だけ画素を移動させて第2の画素移動画像を生成する第2生成部と、前記第1機械学習モデルを利用して、前記第1の画素移動画像から、前記Mのテンプレート画像を生成し、前記第2の画素移動画像から、前記Mのターゲット画像を生成する第3生成部と、を含むとしてもよい。これにより、比較的大きな変位がある場合であっても、変位を計測することができるようになる。
本発明の一態様に係る変位計測方法は、計測対象となる対象物を含む、ノイズが乗った第1の画像と、前記対象物を含む、ノイズが乗った第2の画像とを取得し、前記対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデルを利用して、前記1の第1の画像から、前記対象物を含むM(Mは2以上の整数)のテンプレート画像を生成し、前記第2の画像から、前記対象物を含むMのターゲット画像を生成し、前記Mのテンプレート画像と、前記Mのターゲット画像とから、前記対象物のMの仮想変位を算出し、前記Mの仮想変位に対して統計処理を行い、前記対象物の変位を算出する。
上記変位計測方法は、ノイズが乗った1の第1オリジナル画像と、ノイズが乗った1の第2オリジナル画像とから、それぞれ、Mのテンプレート画像と、Mのターゲット画像とを生成する。そして、Mのテンプレート画像と、Mのターゲット画像とからMの仮想変位を算出し、算出した仮想変位に対して統計処理を行って、対象物の変位を算出する。このため、上記変位計測方法によると、従来の、ノイズが乗った1の画像と、ノイズが乗った1の画像とから、統計処理を行うことなく直接的に変位を算出する変位計測方法よりも、より高精度に変位を計測することができる。
以下、本開示の一態様に係る変位計測装置及び変位計測方法の具体例について、図面を参照しながら説明する。ここで示す実施の形態は、いずれも本開示の一具体例を示すものである。従って、以下の実施の形態で示される数値、形状、構成要素、構成要素の配置及び接続形態、並びに、ステップ(工程)及びステップの順序等は、一例であって本開示を限定するものではない。以下の実施の形態における構成要素のうち、独立請求項に記載されていない構成要素については、任意に付加可能な構成要素である。また、各図は、模式図であり、必ずしも厳密に図示されたものではない。
なお、本開示の包括的又は具体的な態様は、システム、方法、集積回路、コンピュータプログラム又はコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラム及び記録媒体の任意な組み合わせで実現されてもよい。
(実施の形態1)
[1−1.変位計測システムの概要]
ここでは、計測対象となる対象物の画像を複数撮像し、撮像した複数の画像から、対象物の変位を算出する変位計測システム、及びその変位計測システムを構成する変位計測装置について説明する。
図2は、実施の形態1に係る変位計測システム1の一構成例を示す外観図である。
図2に示されるように、変位計測システム1は、撮像装置200と、変位計測装置100とを含んで構成される。
撮像装置200は、計測対象となる対象物300の画像を撮像する。撮像装置200は、例えば、固定された画角において対象物300の画像を経時的に複数撮像する。
例えば、撮像装置200は、変位計測装置100が、後述の第1機械学習モデル10を学習させようとする場合には、対象物300に変位が生じていないとき、すなわち、対象物300に掛かる荷重が変化していないときに、対象物300の画像を複数撮像する。例えば、対象物300が橋梁である場合には、撮像装置200は、車両が橋梁を走行していないときに複数の画像を撮像する。
また、例えば、撮像装置200は、変位計測装置100が対象物300の変位を計測しようとする場合には、対象物300に変位が生じている期間中又は/及び変位が生じていない期間中に、すなわち、対象物300に掛かる荷重が変化している期間中又は/及び荷重が変化していない期間中に、対象物300の画像を複数撮像する。つまり、撮像装置200は、変位計測装置100の変位計測期間中に、対象物300の画像を複数撮像する。例えば、対象物300が橋梁である場合には、撮像装置200は、車両が橋梁を走行している期間中又は/及び走行していない期間中に複数の画像を撮像する。
また、撮像装置200は、通信機能を有し、外部の機器と通信する。外部の機器には、変位計測装置100が含まれる。撮像装置200は、例えば、有線通信により外部の機器と通信してもよいし、無線通信により外部の機器と通信してもよい。
撮像装置200は、例えば、イメージセンサを備えるデジタルビデオカメラ又はデジタルスチルカメラによって実現される。
撮像装置200により撮像される画像にノイズが乗ってしまうことがある。ここで、画像に乗ってしまうノイズとしては、例えば、撮像装置と対象物との間の空間における、熱、風等による大気の揺らぎに起因するノイズ、降雨時における落下中の水滴に起因するノイズ等が考えられる。
変位計測装置100は、撮像装置200によって撮像された、対象物300を含む複数の画像から、対象物300の変位を算出する。
また、変位計測装置100は、通信機能を有し、外部の機器と通信する。外部の機器には、撮像装置200が含まれる。変位計測装置100は、例えば、有線通信により外部の機器と通信してもよいし、無線通信により外部の機器と通信してもよい。
変位計測装置100は、例えば、プロセッサとメモリとを備えるコンピュータ装置において、プロセッサが、メモリに記憶されるプログラムを実行することによって実現される。
以下、変位計測装置100の詳細について、図面を参照しながら説明する。
[1−2.変位計測装置100の構成]
図3は、変位計測装置100の構成を示すブロック図である。
図3に示されるように、変位計測装置100は、第1機械学習モデル10と、第1取得部20と、第1生成部30と、仮想変位算出部40と、変位算出部50と、第2取得部60と、第1学習部70とを含んで構成される。
第1機械学習モデル10は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう学習された機械学習モデルである。第1機械学習モデル10は、第1学習部70によって学習される。第1学習部70による第1機械学習モデル10の学習については後述する。
第2取得部60は、撮像装置200から、対象物300を含む、ノイズが乗ったN(Nは2以上の整数)の画像を取得する。第2取得部60によって取得されるNの画像は、後述する第1機械学習モデル10の学習において利用される。後述する第1機械学習モデル10の学習において利用される画像は、対象物300に変位が生じていないときに撮像された画像であることが好ましい。このため、第2取得部60は、対象物300に変位が生じていないときに撮像されたNの画像を取得する。
第1学習部70は、第2取得部60によって取得されたNの画像のそれぞれについて、当該画像を入力とし、他のN−1の画像の少なくとも一部を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル10に学習させる。
図4は、第1学習部70により、第1機械学習モデル10が学習する様子の一例を示す模式図である。
以下、図4を用いて、第1学習部70による第1機械学習モデル10の学習の具体的な一例について説明する。この例では、撮像装置200が、対象物300に変位が生じていないとき、すなわち、対象物300に掛かる荷重が変化していないときに、対象物300の動画像を撮像し、第2取得部60が、撮像装置200によって撮像された上記動画像のうちのNのフレームを、対象物300を含む、ノイズが乗ったNの画像として取得する。
図4に示されるように、第1学習部70は、Nの画像それぞれについて、対象物300が映っている画素領域の中から、1以上の計測点を設定する。ここで、1以上の計測点のそれぞれは、互いに隣接する複数の画素からなる局所領域であって、Nの画像に共通の位置の画素領域である。図4に示す例では、第1学習部70は、Nの画像それぞれについて、計測点301と計測点302とを設定する。
そして、第1学習部70は、Nの画像それぞれについて、設定した各計測点(計測点301、計測点302)に含まれる画素を学習の対象として、当該画像を入力とし、他のN−1の画像を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル10に学習させる。ここで、第1学習部70は、例えば、計測点毎に、第1機械学習モデル10に学習させてもよいし、全計測点同時に、第1機械学習モデル10に学習させてもよい。
以下、第1学習部70は、対象物300を含む、ノイズが乗ったM(Mは2以上の整数)の画像を生成するよう第1機械学習モデル10に学習させるとして説明する。これに対して、別の一例として、第1学習部70は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1の画像を生成するよう第1機械学習モデル10に学習させて、第1機械学習モデル10は、画像を生成する際に、第1機械学習モデル10のパラメータをそれぞれM回変更して動作することで、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗ったMの画像を生成するとしてもよい。また、さらなる別の一例として、第1学習部70は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1の画像を生成するよう第1機械学習モデル10に学習させて、第1機械学習モデル10は、画像を生成する際に、GAN(Generative Adversarial Network)を用いて、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗ったMの画像を生成するとしてもよい。
再び図3に戻って、変位計測装置100の説明を続ける。
第1取得部20は、撮像装置200から、対象物300を含む、ノイズが乗った第1の画像と、対象物300を含む、ノイズが乗った第2の画像とを取得する。第1取得部20によって取得される第1の画像と第2の画像とは、後述する対象物300の変位の算出において利用される。このため、第1取得部20は、対象物300に変位が生じている期間中又は/及び変位が生じていない期間中に撮像された第1の画像と第2の画像とを取得する。
第1生成部30は、第1機械学習モデル10を利用して、第1取得部20によって取得された第1の画像から、対象物300を含む、ノイズが乗ったMのテンプレート画像を生成し、第1取得部20によって取得された第2の画像から、対象物300を含む、ノイズが乗ったMのターゲット画像を生成する。
図5は、第1生成部30が、第1機械学習モデル10を利用して、ノイズが乗った第1の画像から、ノイズが乗ったMのテンプレート画像を生成し、ノイズが乗った第2の画像から、ノイズが乗ったMのターゲット画像を生成する様子の一例を示す模式図である。
以下、図5を用いて、第1生成部30による、第1機械学習モデル10を利用した、第1の画像からのMのテンプレート画像の生成と、第2の画像からのMのターゲット画像の生成との具体的な一例について説明する。この例では、撮像装置200が、対象物300に変位が生じている期間中又は/及び変位が生じていない期間中に、すなわち、対象物300に掛かる荷重が変化している期間中又は/及び変位が生じていない期間中に、対象物300の動画像を撮像し、第1取得部20が、撮像装置200によって撮像された上記動画像のうちの1のフレームを第1の画像として取得し、他の1のフレームを第2の画像として取得する。
図5に示されるように、第1生成部30は、第1機械学習モデル10を利用して、第1学習部70によって設定された各計測点(計測点301、計測点302)に含まれる画素を生成の対象として、ノイズが乗った第1の画像から、ノイズが乗ったMのテンプレート画像を生成し、ノイズが乗った第2の画像から、ノイズが乗ったMのターゲット画像を生成する。
再び図3に戻って、変位計測装置100の説明を続ける。
仮想変位算出部40は、第1生成部30によって生成された、ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とから、対象物300のMの変位を算出する。以下、仮想変位算出部40によって、Mのテンプレート画像とMのターゲット画像とから算出された対象物300のMの変位のことを、対象物300のMの仮想変位と呼ぶ。
図6は、仮想変位算出部40が、ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とから、Mの仮想変位を算出する様子の一例を示す模式図である。
以下、図6を用いて、仮想変位算出部40による、Mのテンプレート画像とMのターゲット画像とからのMの仮想変位の算出の具体的な一例について説明する。
図6に示されるように、仮想変位算出部40は、ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とを1対1に対応付けてM組のペアを作る。そして、仮想変位算出部40は、各ペアについて、第1学習部70によって設定された各計測点(計測点301、計測点302)を算出の対象として、テンプレート画像とターゲット画像とにおける対象物300の変位を仮想変位として算出する。これにより、仮想変位算出部40は、各計測点における対象物300のMの仮想変位を算出する。この例では、仮想変位算出部40は、計測点301における対象物300の仮想変位として、x、x、…、xを算出し、計測点302における対象物300の仮想変位として、y、y、…、yを算出する。
仮想変位算出部40は、各ペアにおいて、テンプレート画像とターゲット画像とにおける対象物300の変位を、例えば、デジタル画像相関法を用いて算出してもよいし、例えば、サンプリングモアレ法を用いて算出してもよい。
仮想変位算出部40は、仮想変位として、例えば、画像における画素数を算出するとしてもよいし、例えば、実空間における距離を算出するとしてもよい。
再び図3に戻って、変位計測装置100の説明を続ける。
変位算出部50は、仮想変位算出部40によって算出されたMの仮想変位に対して統計処理を行い、対象物300の変位を算出する。
図7は、変位算出部50が、Mの仮想変位に対して統計処理を行い、対象物300の変位を算出する様子の一例を示す模式図である。
以下、図7を用いて、変位算出部50による、対象物300の変位の算出の具体的な一例について説明する。この例は、変位算出部50が、計測点301における対象物300の仮想変位を算出する例であるとして説明するが、計測点302における対象物300の仮想変位を算出する場合も同様であるとしてよい。
図7に示されるように、変位算出部50は、仮想変位算出部40によって算出された、計測点301における対象物300のMの仮想変位に対してヒストグラムを生成する。そして、そのヒストグラムから、最も頻度の多い仮想変位を特定し、特定した仮想変位を、計測点301における対象物300の変位として算出する。これに対して、別の一例として、変位算出部50は、仮想変位算出部40によって算出された、計測点301における対象物300のMの仮想変位に対して、例えば、平均値を算出して、算出した平均値を、計測点301における対象物300の変位として算出してもよいし、例えば、中央値を算出して、算出した中央値を、計測点301における対象物300の変位として算出してもよいし、例えば、刈り込み平均値を算出して、算出した刈り込み平均値を、計測点301における対象物300の変位として算出してもよい。また、さらなる別の一例として、変位算出部50は、仮想変位算出部40によって算出された、計測点301における対象物300のMの仮想変位のヒストグラムに対して、適切な関数(例えば、ガウス関数)によるフィッティングを行い、そのフィッティング結果に基づいて、計測点301における対象物300の変位を算出してもよい。
[1−3.変位計測装置100の動作]
以下、上記構成の変位計測装置100が行う動作について説明する。
変位計測装置100は、第1学習処理と、第1変位計測処理とを行う。以下、変位計測装置100が行う、第1学習処理と、第1変位計測処理とについて順に説明する。
第1学習処理は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル10に学習させる処理である。
図8は、変位計測装置100が行う第1学習処理のフローチャートである。
第1学習処理は、例えば、撮像装置200が、対象物300に変位が生じていないときに対象物300の動画像を撮像した場合において、撮像した動画像を構成する各フレームにノイズが乗っていたときに、変位計測装置100を利用するユーザにより、変位計測装置100に対して、第1学習処理を開始させる旨の操作がなされることで開始される。
第1学習処理が開始されると、第2取得部60は、撮像装置200から、対象物300を撮像した動画像を構成するフレームのうちのNのフレームを、対象物300を含む、ノイズが乗ったNの画像として取得する(ステップS100)。つまり、変位が生じていないときに撮像されたNの画像を取得する。
ノイズが乗ったNの画像が取得されると、第1学習部70は、ノイズが乗ったNの画像のうちの未選択の画像の中から、ノイズが乗った1の画像を選択する(ステップS110)。ここで、未選択の画像とは、ステップS110の処理〜ステップS130:Yesの処理(後述)で形成されるループ処理において、過去のステップS110の処理において選択されたことのない画像のことをいう。
ノイズが乗った1の画像が選択されると、第1学習部70は、選択されたノイズが乗った1の画像を入力とし、他の、ノイズが乗ったN−1の画像を正解とする、1の訓練データを生成する(ステップS120)。
1の訓練データを生成すると、第1学習部70は、ノイズが乗ったNの画像の中に未選択の画像が存在するか否かを調べる(ステップS130)。
ステップS130の処理において、未選択の画像が存在する場合に(ステップS130:Yes)、変位計測装置100は、再びステップS110の処理に進む。
ステップS130の処理において、未選択の画像が存在しない場合に(ステップS130:No)、第1学習部70は、ステップS110の処理〜ステップS130:Yesの処理で形成されるループ処理をN回繰り返すことで得られたNの訓練データを用いて、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル10に学習させる(ステップS140)。
ステップS140の処理が終了すると、変位計測装置100は、その第1学習処理を終了する。
第1変位計測処理は、対象物300を含む、ノイズが乗った第1の画像と、対象物300を含む、ノイズが乗った第2の画像とから、対象物300の変位を算出する処理である。
図9は、変位計測装置100が行う第1変位計測処理のフローチャートである。
第1変位計測処理は、例えば、撮像装置200が、対象物300に変位が生じている期間中又は/及び変位が生じていない期間中に対象物300の動画像を撮像した場合において、撮像した動画像を構成する各フレームにノイズが乗っていたときに、変位計測装置100を利用するユーザにより、変位計測装置100に対して、第1変位計測処理を開始させる旨の操作がなされることで開始される。
第1変位計測処理が開始されると、第1取得部20は、撮像装置200から、対象物300を撮像した動画像を構成するフレームの中から、1のフレームを、対象物300を含む、ノイズが乗った第1の画像として取得し、他の1のフレームを、対象物300を含む、ノイズが乗った第2の画像として取得する(ステップS200)。
ノイズが乗った第1の画像と、ノイズが乗った第2の画像とが取得されると、第1生成部30は、第1機械学習モデル10を利用して、ノイズが乗った第1の画像からノイズが乗ったMのテンプレート画像を生成し、ノイズが乗った第2の画像からノイズが乗ったMのターゲット画像を生成する(ステップS210)。
ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とが生成されると、仮想変位算出部40は、ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とから、Mの仮想変位を算出する(ステップS220)。
Mの仮想変位が算出されると、変位算出部50は、Mの仮想変位に対して統計処理を行い、対象物300の変位を算出する(ステップS230)。
ステップS230の処理が終了すると、変位計測装置100は、その第1変位計測処理を終了する。
[1−4.考察]
上述したように、変位計測装置100は、ノイズが乗った第1の画像からノイズが乗ったMのテンプレート画像を生成し、ノイズが乗った第2の画像からノイズが乗ったMのターゲット画像を生成する。そして、変位計測装置100は、ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とから、Mの仮想変位を算出し、算出したMの仮想変位に対して統計処理を行い、対象物300の変位を算出する。このため、変位計測装置100は、従来の、ノイズが乗った第1の画像と、ノイズが乗った第2の画像とから、統計処理を行うことなく直接的に対象物300の変位を算出するタイプの変位計測装置よりも、精度良く変位を算出することができる。
(実施の形態2)
ここでは、実施の形態1に係る変位計測装置100から、その構成の一部が変更された実施の形態2に係る変位計測装置について説明する。
以下、実施の形態2に係る変位計測装置について、実施の形態1に係る変位計測装置100との相違点を中心に説明する。
[2−1.変位計測装置400の構成]
図10は、実施の形態2に係る変位計測装置400の構成を示すブロック図である。
図10に示されるように、変位計測装置400は、実施の形態1に係る変位計測装置100から、第1機械学習モデル10が第1機械学習モデル410に変更され、第2取得部60が第2取得部460に変更され、第1学習部70が第1学習部470に変更されて構成される。
第1機械学習モデル410は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう学習された機械学習モデルであって、その内部に、第2機械学習モデルと、第3機械学習モデルとを含んで構成される。
図11は、第1機械学習モデル410の構成の一例を示す模式図である。
図11に示されるように、第1機械学習モデル410は、第2機械学習モデル411と第3機械学習モデル412とを含んで構成される。
第2機械学習モデル411は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう学習された機械学習モデルである。第2機械学習モデル411は、第1学習部470によって学習される。第1学習部470による第2機械学習モデル411の学習については後述する。
第3機械学習モデル412は、対象物300を含む、ノイズが除去された1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう学習された機械学習モデルである。第3機械学習モデル412は、第1学習部470によって学習される。第1学習部470による第3機械学習モデル412の学習については後述する。
第3機械学習モデル412は、学習後には、第2機械学習モデル411によって生成される、対象物300を含む、ノイズが除去された1の画像が入力される。
第2取得部460は、撮像装置200から、対象物300を含む、ノイズが乗ったNの画像と、対象物300を含む、ノイズが除去された(すなわち、ノイズが乗っていない)1の基準画像とを取得する。第2取得部460によって取得されるNの画像及び1の基準画像は、後述する第1機械学習モデル410の学習において利用される。後述する第1機械学習モデル410の学習において利用される画像は、対象物300に変位が生じていないときに撮像された画像であることが好ましい。このため、第2取得部460は、対象物300に変位が生じていないときに撮像されたNの画像及び1の基準画像を取得する。
第2取得部460は、例えば、撮像装置200が、対象物300を含む、ノイズが除去された1の画像を撮像することが難しい場合には、撮像装置200から取得した、対象物300を含む、ノイズが乗ったNの画像の加算平均を取ることで、対象物300を含む、ノイズが除去された1の基準画像を取得するとしてもよい。また、第2取得部460は、例えば、ノイズが乗らないように、撮像装置200を対象物300の近傍に移動させた状態で撮像装置200により撮像された、対象物300を含む1の画像を、Nの画像と同じ画角に投影された画像となるように変形することで、対象物300を含む、ノイズが除去された1の基準画像を取得するとしてもよい。
第1学習部470は、第2取得部460によって取得されたNの画像のそれぞれについて、当該画像を入力とし、他のN−1の画像の少なくとも一部を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル410に学習させる。より具体的には、第1学習部470は、第2取得部460によって取得されたNの画像のそれぞれについて、当該画像を入力とし、第2取得部460によって取得された1の基準画像を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう第2機械学習モデル411に学習させる。そして、第1学習部470は、第2取得部460によって取得された1の基準画像を入力とし、第2取得部460によって取得された、他のN−1の画像の少なくとも一部を正解として、対象物300を含む、ノイズが除去された1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第3機械学習モデル412に学習させることで、第1機械学習モデル410に学習させる。
図12は、第1学習部470により、第1機械学習モデル410が学習する様子の一例を示す模式図である。
以下、図12を用いて、第1学習部470による第1機械学習モデル410の学習の具体的な一例について説明する。この例では、撮像装置200が、対象物300に変位が生じていないとき、すなわち、対象物300に掛かる荷重が変化していないときに、対象物300の動画像を撮像し、第2取得部460が、撮像装置200によって撮像された上記動画像のうちのNのフレームを、対象物300を含む、ノイズが乗ったNの画像として取得する。そして、第1学習部470は、対象物300を含む、ノイズが乗ったNの画像の加算平均を取ることで、対象物300を含む、ノイズが除去された1の基準画像を取得する。
図12に示されるように、第1学習部470は、Nの画像及び1の基準画像のそれぞれについて、対象物300が映っている画素領域の中から、1以上の計測点を設定する。図12に示す例では、第1学習部470は、Nの画像及び1の基準画像のそれぞれについて、図4に示す例と同様に、計測点301と計測点302とを設定する。
そして、第1学習部470は、Nの画像それぞれについて、設定した各計測点(計測点301、計測点302)に含まれる画素を学習の対象として、当該画像を入力とし、他のN−1の画像を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル10に学習させる。
以下では、第1学習部470は、対象物300を含む、ノイズが乗ったMの画像を生成するよう第1機械学習モデル410に学習させるとして説明する。
より具体的には、第1学習部470は、Nの画像それぞれについて、設定した各計測点(計測点301、計測点302)に含まれる画素を学習の対象として、当該画像を入力とし、第2取得部460によって取得された1の基準画像を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう第2機械学習モデル411に学習させる。そして、第1学習部470は、設定した各計測点(計測点301、計測点302)に含まれる画素を学習の対象として、第2取得部460によって取得された1の基準画像を入力とし、第2取得部460によって取得されたNの画像を正解として、対象物300を含む、ノイズが除去された1の画像から、対象物300を含む、ノイズが乗ったMの画像を生成するよう第3機械学習モデル412に学習させる。
[2−2.変位計測装置400の動作]
以下、上記構成の変位計測装置400が行う動作について説明する。
変位計測装置400は、実施の形態1に係る変位計測装置100が行う第1変位計測処理と同様の処理に加えて、第2学習処理を行う。以下、変位計測装置400が行う、第2学習処理について説明する。
第2学習処理は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが乗った1以上の画像を生成するよう第1機械学習モデル410に学習させる処理である。
図13は、変位計測装置400が行う第2学習処理のフローチャートである。
第2学習処理は、例えば、撮像装置200が、対象物300に変位が生じていないときに対象物300の動画像を撮像した場合において、撮像した動画像を構成する各フレームにノイズが乗っていたときに、変位計測装置100を利用するユーザにより、変位計測装置100に対して、第2学習処理を開始させる旨の操作がなされることで開始される。
第2学習処理が開始されると、第2取得部460は、撮像装置200から、対象物300を撮像した動画像を構成するフレームのうちのNのフレームを、対象物300を含む、ノイズが乗ったNの画像として取得する(ステップS300)。
対象物300を含む、ノイズが乗ったNの画像を取得すると、第2取得部460は、対象物300を含む、ノイズが乗ったNの画像の加算平均を取ることで、対象物300を含む、ノイズが除去された1の基準画像を取得する(ステップS310)。
対象物300を含む、ノイズが除去された1の基準画像を取得すると、第2取得部460は、ノイズが乗ったNの画像のうちの未選択の画像の中から、ノイズが乗った1の画像を選択する(ステップS320)。ここで、未選択の画像とは、ステップS320の処理〜ステップS350:Yesの処理(後述)で形成されるループ処理において、過去のステップS320の処理において選択されたことのない画像のことをいう。
ノイズが乗った1の画像が選択されると、第1学習部470は、選択されたノイズが乗った1の画像を入力とし、1の基準画像を正解とする、1の第1訓練データを生成する(ステップS330)。そして、第1学習部470は、1の基準画像を入力とし、選択されたノイズが乗った1の画像を正解とする、1の第2訓練データを生成する(ステップS340)。
1の第1訓練データと1の第2訓練データとを生成すると、第1学習部470は、ノイズが乗ったNの画像の中に未選択の画像が存在するか否かを調べる(ステップS350)。
ステップS350の処理において、未選択の画像が存在する場合に(ステップS350:Yes)、変位計測装置400は、再びステップS320の処理に進む。
ステップS350の処理において、未選択の画像が存在しない場合に(ステップS350:No)、第1学習部470は、ステップS320の処理〜ステップS350:Yesの処理で形成されるループ処理をN回繰り返すことで得られたNの第1訓練データを用いて、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう第2機械学習モデル411に学習させる(ステップS360)。そして、第1学習部470は、ステップS320の処理〜ステップS350:Yesの処理で形成されるループ処理をN回繰り返すことで得られたNの第2訓練データを用いて、対象物300を含む、ノイズが除去された1の画像から、対象物300を含む、ノイズが乗ったMの画像を生成するよう第3機械学習モデル412に学習させる(ステップS370)。
ステップS370の処理が終了すると、変位計測装置400は、その第2学習処理を終了する。
[2−3.考察]
上述したように、変位計測装置400は、実施の形態1に係る変位計測装置100と同様に、ノイズが乗った第1の画像からノイズが乗ったMのテンプレート画像を生成し、ノイズが乗った第2の画像からノイズが乗ったMのターゲット画像を生成する。そして、変位計測装置400は、ノイズが乗ったMのテンプレート画像と、ノイズが乗ったMのターゲット画像とから、Mの仮想変位を算出し、算出したMの仮想変位に対して統計処理を行い、対象物300の変位を算出する。このため、変位計測装置400は、実施の形態1に係る変位計測装置100と同様に、従来の、ノイズが乗った第1の画像と、ノイズが乗った第2の画像とから、統計処理を行うことなく直接的に対象物300の変位を算出するタイプの変位計測装置よりも、精度良く変位を算出することができる。
(実施の形態3)
ここでは、実施の形態2に係る変位計測装置400から、その構成の一部が変更された実施の形態3に係る変位計測装置について説明する。
以下、実施の形態3に係る変位計測装置について、実施の形態2に係る変位計測装置400との相違点を中心に説明する。
[3−1.変位計測装置500の構成]
図14は、実施の形態3に係る変位計測装置500の構成を示すブロック図である。
図14に示されるように、変位計測装置500は、実施の形態2に係る変位計測装置400から、第1機械学習モデル410が第1機械学習モデル510に変更され、第1生成部30が第1生成部530に変更され、仮想変位算出部40が仮想変位算出部540に変更され、第1学習部470が第2学習部570に変更されて構成される。
第1機械学習モデル510は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1以上の画像を生成するよう学習された機械学習モデルである。第1機械学習モデル510は、第2学習部570によって学習される。
第2学習部570は、第2取得部460によって取得されたNの画像のそれぞれについて、当該画像を入力とし、第2取得部460によって取得された1の基準画像を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1以上の画像を生成するよう第1機械学習モデル510に学習させる。
以下、図12を流用し、図12が、第2学習部570により、第1機械学習モデル510が学習する様子の一例を示す模式図であると読み替えて、第2学習部570による第1機械学習モデル510の学習の具体的な一例について説明する。この例では、撮像装置200が、対象物300に変位が生じていないとき、すなわち、対象物300に掛かる荷重が変化していないときに、対象物300の動画像を撮像し、第2取得部460が、撮像装置200によって撮像された上記動画像のうちのNのフレームを、対象物300を含む、ノイズが乗ったNの画像として取得する。そして、第2取得部460は、対象物300を含む、ノイズが乗ったNの画像の加算平均を取ることで、対象物300を含む、ノイズが除去された1の基準画像を取得する。
図12に示されるように、第2学習部570は、Nの画像及び1の基準画像のそれぞれについて、対象物300が映っている画素領域の中から、1以上の計測点を設定する。図12に示す例では、第2学習部570は、Nの画像及び1の基準画像のそれぞれについて、図4に示す例と同様に、計測点301と計測点302とを設定する。
そして、第2学習部570は、Nの画像それぞれについて、設定した各計測点(計測点301、計測点302)に含まれる画素を学習の対象として、当該画像を入力とし、第2取得部460によって取得された1の基準画像を正解として、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1以上の画像を生成するよう第1機械学習モデル510に学習させる。
以下では、第2学習部570は、対象物300を含む、ノイズが除去されたMの画像を生成するよう第1機械学習モデル510に学習させるとして説明する。これに対して、別の一例として、第2学習部570は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう第1機械学習モデル510に学習させて、第1機械学習モデル510は、画像を生成する際に、第1機械学習モデル510のパラメータをそれぞれM回変更して動作することで、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去されたMの画像を生成するとしてもよい。また、さらなる別の一例として、第2学習部570は、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう第1機械学習モデル510に学習させて、第1機械学習モデル510は、画像を生成する際に、GAN(Generative Adversarial Network)を用いて、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去されたMの画像を生成するとしてもよい。
再び、図14に戻って、変位計測装置500の説明を続ける。
第1生成部530は、第1機械学習モデル510を利用して、第1取得部20によって取得された第1の画像から、対象物300を含む、ノイズが除去されたMのテンプレート画像を生成し、第1取得部20によって取得された第2の画像から、対象物300を含む、ノイズが除去されたMのターゲット画像を生成する。
第1生成部530は、実施の形態1に係る第1生成部30の有する機能に対して、ノイズが乗ったMのテンプレート画像を、ノイズが除去されたMのテンプレート画像に読み替えて、ノイズが乗ったMのターゲット画像を、ノイズが除去されたMのターゲット画像に読み替えた機能と同様の機能を有する。このため、第1生成部530のより詳細な説明については、説明済みであるとして、その説明を省略する。
仮想変位算出部540は、第1生成部530によって生成された、ノイズが除去されたMのテンプレート画像と、ノイズが除去されたMのターゲット画像とから、対象物300のMの仮想変位を算出する。
仮想変位算出部540は、実施の形態1に係る仮想変位算出部40の有する機能に対して、ノイズが乗ったMのテンプレート画像を、ノイズが除去されたMのテンプレート画像に読み替えて、ノイズが乗ったMのテンプレート画像を、ノイズが除去されたMのテンプレート画像に読み替えた機能と同様の機能を有する。このため、仮想変位算出部540のより詳細な説明については、説明済みであるとして、その説明を省略する。
[3−2.変位計測装置500の動作]
以下、上記構成の変位計測装置500が行う動作について説明する。
変位計測装置500は、第3学習処理と、第2変位計測処理とを行う。以下、変位計測装置500が行う、第3学習処理と、第2変位計測処理とについて順に説明する。
第3学習処理は、実施の形態2に係る第2学習処理から、その一部が変更された処理であって、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1以上の画像を生成するよう第1機械学習モデル410に学習させる処理である。
図15は、変位計測装置500が行う第3学習処理のフローチャートである。
図15に示されるように、第3学習処理は、実施の形態2に係る第2学習処理から、ステップS340の処理とステップS370の処理とが削除され、ステップS330の処理がステップS430の処理に変更され、ステップS360の処理がステップS460の処理に変更された処理である。よって、ここでは、ステップS430の処理とステップS460の処理とを中心に説明する。
ステップS320の処理において、ノイズが乗った1の画像が選択されると、第2学習部570は、選択されたノイズが乗った1の画像を入力とし、1の基準画像を正解とする、1の訓練データを生成する(ステップS430)。そして、変位計測装置500は、ステップS350の処理に進む。
ステップS350の処理において、未選択の画像が存在しない場合に(ステップS350:No)、第2学習部570は、ステップS320の処理〜ステップS350:Yesの処理で形成されるループ処理をN回繰り返すことで得られたNの訓練データを用いて、対象物300を含む、ノイズが乗った1の画像から、対象物300を含む、ノイズが除去された1の画像を生成するよう第1機械学習モデル510に学習させる(ステップS560)。
ステップS370の処理が終了すると、変位計測装置500は、その第3学習処理を終了する。
第2変位計測処理は、実施の形態1に係る第1変位計測処理に対して、変位計測装置100を変位計測装置500に読み替えて、第1機械学習モデル10を第1機械学習モデル510に読み替えて、第1生成部30を第1生成部530に読み替えて、仮想変位算出部40を仮想変位算出部540に読み替えて、ノイズが乗ったMのテンプレート画像を、ノイズが除去されたMのテンプレート画像に読み替えて、ノイズが乗ったMのテンプレート画像を、ノイズが除去されたMのテンプレート画像に読み替えた処理と同様の処理である。このため、第2変位計測処理のより詳細な説明ついては、説明済みであるとして、その説明を省略する。
[3−3.考察]
上述したように、変位計測装置500は、ノイズが乗った第1の画像からノイズが削除されたMのテンプレート画像を生成し、ノイズが乗った第2の画像からノイズが削除されたMのターゲット画像を生成する。そして、変位計測装置500は、ノイズが削除されたMのテンプレート画像と、ノイズが削除されたMのターゲット画像とから、Mの仮想変位を算出し、算出したMの仮想変位に対して統計処理を行い、対象物300の変位を算出する。このため、変位計測装置500は、従来の、ノイズが乗った第1の画像と、ノイズが乗った第2の画像とから、ノイズが削除された画像を生成することなく直接的に対象物300の変位を算出するタイプの変位計測装置よりも、精度良く変位を算出することができる。
(実施の形態4)
ここでは、実施の形態1に係る変位計測装置100から、その構成の一部が変更された実施の形態4に係る変位計測装置について説明する。
以下、実施の形態4に係る変位計測装置について、実施の形態1に係る変位計測装置100との相違点を中心に説明する。
[4−1.変位計測装置600の構成]
図16は、実施の形態4に係る変位計測装置600の構成を示すブロック図である。
図16に示されるように、変位計測装置600は、実施の形態1に係る変位計測装置100から、第1生成部30が第1生成部630に変更されて構成される。
第1生成部630は、実施の形態1に係る第1生成部30と同様に、第1機械学習モデル10を利用して、第1取得部20によって取得された第1の画像から、対象物300を含む、ノイズが乗ったMのテンプレート画像を生成し、第1取得部20によって取得された第2の画像から、対象物300を含む、ノイズが乗ったMのターゲット画像を生成する。第1生成部630は、そのMのテンプレート画像の生成方法及びMのターゲット画像の生成方法が、実施の形態1に係る第1生成部30と相違している。
図17は、第1生成部630の構成を示すブロック図である。
図17に示されるように、第1生成部630は、概略変位取得部631と、第2生成部632と、第3生成部633とを含んで構成される。
概略変位取得部631は、対象物300の概略変位を取得する。ここで、対象物300の概略変位とは、予め算出された、必ずしも精度の高くない対象物300の変位である。例えば、対象物300の概略変位は、ノイズが乗った第1の画像と、ノイズが乗った第2の画像とから、ノイズが削除された画像を生成することなく直接的に対象物300の変位を算出するタイプの従来の変位計測装置によって算出された変位であってよい。
第2生成部632は、第1取得部20によって取得された第1の画像に対して、概略変位取得部631によって取得された概略変位に応じた量だけ画素を移動させて第1の画素移動画像を生成し、第1取得部20によって取得された第2の画像に対して、概略変位取得部631によって取得された概略変位に応じた量だけ画素を移動させて第2の画素移動画像を生成する。
第3生成部633は、第1機械学習モデル10を利用して、第2生成部632によって生成された第1の画素移動画像から、対象物300を含む、ノイズが乗ったMのテンプレート画像を生成し、第2生成部632によって生成された第2の画素移動画像から、対象物300を含む、ノイズが乗ったMのターゲット画像を生成する。
[4−2.考察]
対象物300の変位が比較的大きい場合には、計測点に含まれる画素のずれが、計測点の範囲を逸脱してしまうことがある。
これに対して、変位計測装置600は、計測点に含まれる画素のずれが、計測点の範囲を逸脱してしまうような場合であっても、概略変位を用いて、第1の画像から、計測点における画素のずれが、計測点の範囲から逸脱していない第1の画素移動画像を生成し、第2の画像から、計測点における画素のずれが、計測点の範囲から逸脱していない第2の画素移動画像を生成することができる。そして、変位計測装置600は、第1機械学習モデル10を利用して、第1の画素移動画像からMのテンプレート画像を生成し、第2の画素移動画像からMのターゲット画像を生成する。このように、変位計測装置600は、対象物300の変位が比較的大きい場合であっても、対象物300の変位を精度良く算出することができる。
なお、変位計測装置600によって算出される、対象物300の変位は、概略変位取得部631によって取得された概略変位と、対象物300の実際の変位との差分である。このため、対象物300の実際の変位を算出するためには、概略変位取得部631によって取得された概略変位と、変位計測装置600によって算出される、対象物300の変位とを加算する必要がある。
(他の実施の形態)
以上、本開示の1つまたは複数の態様に係る変位計測装置について、実施の形態1〜実施の形態4に基づいて説明したが、本開示は、これら実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形をこれら実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本開示の1つまたは複数の態様の範囲内に含まれてもよい。
(1)実施の形態1において、変位計測装置100は、一例として、対象物300を含む、ノイズが乗ったNの画像を取得する第2取得部60と、第2取得部60によって取得されたNの画像を用いて、第1機械学習モデル10に学習させる第1学習部70とを含む構成であるとして説明した。これに対して、別の一例として、変位計測装置100は、第2取得部60と、第1学習部とを含まず、第1機械学習モデル10に学習させることがない構成であってもよい。この場合には、変位計測装置100は、例えば、外部装置等により予め学習させた学習済みの第1機械学習モデル10を利用すればよい。
(2)実施の形態1において、計測対象となる対象物が、一例として、橋梁であるとして説明した。しかしながら、計測対象となる対象物は、橋梁である例に限定される必要はない。計測対象となる対象物は、例えば、橋梁以外の、ビル、鉄塔といった構造物であってもよいし、路面、ボール、動物等であってもよい。例えば、計測対象が、ボール、動物等の動く対象物である場合には、「対象物の変位」のことを「対象物の動き」と解釈してもよい。
(3)実施の形態1において、変位計測装置100は、一例として、プロセッサとメモリとを備えるコンピュータ装置において、プロセッサが、メモリに記憶されるプログラムを実行することによって実現されるとして説明した。これに対して、別の一例として、変位計測装置100は、それぞれがプロセッサとメモリとを備える、互いに通信可能な複数のコンピュータ装置からなるコンピューティングシステムにおいて、分散コンピューティング又はクラウドコンピューティングによって実現されるとしてもよい。
(4)実施の形態1において、変位計測装置100は、一例として、撮像装置200を含まない構成であるとして説明した。これに対して、別の一例として、変位計測装置100は、撮像装置200を含んで構成されるとしてもよい。この場合には、撮像装置200は、変位計測装置100の一部である撮像部として機能する。
(5)実施の形態1において、変位計測装置100に含まれる構成要素の一部または全部は、1個のシステムLSI(Large Scale Integration:大規模集積回路)から構成されているとしてもよい。
システムLSIは、複数の構成部を1個のチップ上に集積して製造された超多機能LSIであり、具体的には、マイクロプロセッサ、ROM(Read Only Memory)、RAM(Random Access Memory)などを含んで構成されるコンピュータシステムである。ROMには、コンピュータプログラムが記憶されている。マイクロプロセッサが、コンピュータプログラムに従って動作することにより、システムLSIは、その機能を達成する。
なお、ここでは、システムLSIとしたが、集積度の違いにより、IC、LSI、スーパーLSI、ウルトラLSIと呼称されることもある。また、集積回路化の手法はLSIに限るものではなく、専用回路または汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)、あるいはLSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
(6)本開示の一態様は、実施の形態1〜実施の形態4に係る変位計測装置だけではなく、変位計測装置に含まれる特徴的な構成部をステップとする変位計測方法であってもよい。また、本開示の一態様は、変位計測方法に含まれる特徴的な各ステップをコンピュータに実行させるコンピュータプログラムであってもよい。また、本開示の一態様は、そのようなコンピュータプログラムが記録された、コンピュータ読み取り可能な非一時的な記録媒体であってもよい。
本開示は、計測対象となる対象物の変位を検出する変位検出装置に広く利用可能である。
1 変位計測システム
10、410、510 第1機械学習モデル
20 第1取得部
30、530、630 第1生成部
40、540 仮想変位算出部
50 変位算出部
60、460 第2取得部
70、470 第1学習部
100、400、500、600 変位計測装置
200 撮像装置
300 対象物
411 第2機械学習モデル
412 第3機械学習モデル
570 第2学習部
631 概略変位取得部
632 第2生成部
633 第3生成部

Claims (6)

  1. 計測対象となる対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデルと、
    前記対象物を含む、ノイズが乗った第1の画像と、前記対象物を含む、ノイズが乗った第2の画像とを取得する第1取得部と、
    前記第1機械学習モデルを利用して、前記第1の画像から、前記対象物を含むM(Mは2以上の整数)のテンプレート画像を生成し、前記第2の画像から、前記対象物を含むMのターゲット画像を生成する第1生成部と、
    前記Mのテンプレート画像と、前記Mのターゲット画像とから、前記対象物のMの仮想変位を算出する仮想変位算出部と、
    前記Mの仮想変位に対して統計処理を行い、前記対象物の変位を算出する変位算出部と、を備える
    変位計測装置。
  2. 前記第1機械学習モデルが生成する前記1以上の画像は、ノイズが乗った画像であり、
    さらに、
    前記対象物を含む、ノイズが乗ったN(Nは2以上の整数)の画像を取得する第2取得部と、
    前記Nの画像それぞれについて、当該画像を入力とし、他のN−1の画像の少なくとも一部を正解として、前記第1機械学習モデルに学習させる第1学習部と、を備える
    請求項1に記載の変位計測装置。
  3. 前記第1機械学習モデルは、
    前記対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが除去された1のノイズ除去画像を生成するよう学習された第2機械学習モデルと、
    前記1のノイズ除去画像から、前記対象物を含む、ノイズが乗った1以上の画像を生成するよう学習された第3機械学習モデルと、を含み、
    前記第2取得部は、さらに、前記対象物を含む、ノイズが乗っていない1の基準画像を取得し、
    前記第1学習部は、前記Nの画像それぞれについて、当該画像を入力とし、前記1の基準画像を正解として、前記第2機械学習モデルに学習させ、前記1の基準画像を入力とし、他のN−1の画像の少なくとも一部を正解として前記第3機械学習モデルに学習させることで、前記第1機械学習モデルに学習させる
    請求項2に記載の変位計測装置。
  4. 前記第1機械学習モデルが生成する前記1以上の画像は、ノイズが除去された画像であり、
    さらに、
    前記対象物を含む、ノイズが乗ったN(Nは2以上の整数)の画像と、前記対象物を含む、ノイズが乗っていない1の基準画像とを取得する第2取得部と、
    前記Nの画像それぞれについて、当該画像を入力とし、前記1の基準画像を正解として、前記第1機械学習モデルに学習させる第2学習部と、を備える
    請求項1に記載の変位計測装置。
  5. 前記第1生成部は、
    前記対象物の概略変位を取得する概略変位取得部と、
    前記1の第1の画像に対して、前記概略変位に応じた量だけ画素を移動させて第1の画素移動画像を生成し、前記1の第2の画像に対して、前記概略変位に応じた量だけ画素を移動させて第2の画素移動画像を生成する第2生成部と、
    前記第1機械学習モデルを利用して、前記第1の画素移動画像から、前記Mのテンプレート画像を生成し、前記第2の画素移動画像から、前記Mのターゲット画像を生成する第3生成部と、を含む
    請求項1から請求項4のいずれか1項に記載の変位計測装置。
  6. 計測対象となる対象物を含む、ノイズが乗った第1の画像と、前記対象物を含む、ノイズが乗った第2の画像とを取得し、
    前記対象物を含む、ノイズが乗った1の画像から、前記対象物を含む、ノイズが乗った、又はノイズが除去された1以上の画像を生成するよう学習された第1機械学習モデルを利用して、前記1の第1の画像から、前記対象物を含むM(Mは2以上の整数)のテンプレート画像を生成し、前記第2の画像から、前記対象物を含むMのターゲット画像を生成し、
    前記Mのテンプレート画像と、前記Mのターゲット画像とから、前記対象物のMの仮想変位を算出し、
    前記Mの仮想変位に対して統計処理を行い、前記対象物の変位を算出する
    変位計測方法。
JP2020540147A 2018-08-30 2019-07-23 変位計測装置及び変位計測方法 Active JP7281660B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018161936 2018-08-30
JP2018161936 2018-08-30
PCT/JP2019/028739 WO2020044866A1 (ja) 2018-08-30 2019-07-23 変位計測装置及び変位計測方法

Publications (2)

Publication Number Publication Date
JPWO2020044866A1 true JPWO2020044866A1 (ja) 2021-09-02
JP7281660B2 JP7281660B2 (ja) 2023-05-26

Family

ID=69644211

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020540147A Active JP7281660B2 (ja) 2018-08-30 2019-07-23 変位計測装置及び変位計測方法

Country Status (3)

Country Link
US (1) US11373295B2 (ja)
JP (1) JP7281660B2 (ja)
WO (1) WO2020044866A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023067906A1 (ja) * 2021-10-22 2023-04-27 ソニーセミコンダクタソリューションズ株式会社 情報処理装置、情報処理方法およびプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015049757A1 (ja) * 2013-10-03 2015-04-09 株式会社島津製作所 変位場およびひずみ場の測定方法、および、材料試験機
JP2018028439A (ja) * 2016-08-15 2018-02-22 国立大学法人福井大学 変位を測定する方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006254349A (ja) 2005-03-14 2006-09-21 Toshiba Corp 動きベクトル検出方法、動きベクトル検出装置およびコンピュータ上で動きベクトル検出処理を実行するコンピュータプログラム
US8265356B2 (en) * 2008-01-30 2012-09-11 Computerized Medical Systems, Inc. Method and apparatus for efficient automated re-contouring of four-dimensional medical imagery using surface displacement fields
WO2016022952A1 (en) * 2014-08-08 2016-02-11 Applied Research Associates, Inc. Systems, methods, and apparatuses for measuring deformation of a surface
US10380745B2 (en) * 2016-09-01 2019-08-13 Massachusetts Institute Of Technology Methods and devices for measuring object motion using camera images
WO2019106850A1 (ja) * 2017-12-01 2019-06-06 日本電気株式会社 Sar画像解析システム、画像処理装置、画像処理方法および画像処理プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015049757A1 (ja) * 2013-10-03 2015-04-09 株式会社島津製作所 変位場およびひずみ場の測定方法、および、材料試験機
JP2018028439A (ja) * 2016-08-15 2018-02-22 国立大学法人福井大学 変位を測定する方法

Also Published As

Publication number Publication date
JP7281660B2 (ja) 2023-05-26
US11373295B2 (en) 2022-06-28
WO2020044866A1 (ja) 2020-03-05
US20210104032A1 (en) 2021-04-08

Similar Documents

Publication Publication Date Title
JP7281661B2 (ja) 変位計測装置及び変位計測方法
Abdelhamed et al. Noise flow: Noise modeling with conditional normalizing flows
US9361510B2 (en) Efficient facial landmark tracking using online shape regression method
JP2020129276A5 (ja)
JP2020009435A (ja) 鋼材成分学習装置、鋼材成分推定装置、鋼種判定装置、鋼材成分学習方法、鋼材成分推定方法、鋼種判定方法、及びプログラム
JP5839796B2 (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
JP7281660B2 (ja) 変位計測装置及び変位計測方法
CN112204957A (zh) 白平衡处理方法和设备、可移动平台、相机
JP7484924B2 (ja) 撮像装置、画像処理システム、画像処理方法及びプログラム
JP2009294733A (ja) 画像処理装置および画像処理方法
JP6583923B2 (ja) カメラのキャリブレーション装置、方法及びプログラム
JP2016099932A (ja) 距離検出装置
JP2015207090A (ja) 画像処理装置、及びその制御方法
JP2008276613A (ja) 移動体判定装置、コンピュータプログラム及び移動体判定方法
JP2023055848A5 (ja)
CN116309729A (zh) 目标追踪方法、装置、终端、系统及可读存储介质
JP6604783B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2023003763A (ja) 学習装置、画像処理装置、学習処理方法、及びプログラム
JP5152144B2 (ja) 画像処理装置
Kogler Design and evaluation of stereo matching techniques for silicon retina cameras
JP6074198B2 (ja) 画像処理装置及び画像処理方法
JP7365435B2 (ja) コンピュータにより実行される身体採寸方法
JP7370840B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム及び記憶媒体
WO2024116996A1 (ja) 学習モデルの生成方法、情報処理方法、コンピュータプログラム及び情報処理装置
CN110956582B (zh) 一种图像处理方法、装置及设备

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230328

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230420

R151 Written notification of patent or utility model registration

Ref document number: 7281660

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151