JP2023538706A - 歪み測定を行うための融合ベースのデジタル画像相関フレームワーク - Google Patents

歪み測定を行うための融合ベースのデジタル画像相関フレームワーク Download PDF

Info

Publication number
JP2023538706A
JP2023538706A JP2023534581A JP2023534581A JP2023538706A JP 2023538706 A JP2023538706 A JP 2023538706A JP 2023534581 A JP2023534581 A JP 2023534581A JP 2023534581 A JP2023534581 A JP 2023534581A JP 2023538706 A JP2023538706 A JP 2023538706A
Authority
JP
Japan
Prior art keywords
image
sequential
sharp
state
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2023534581A
Other languages
English (en)
Inventor
リウ,デホン
シー,ライシー
政樹 梅田
紀彦 葉名
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JP2023538706A publication Critical patent/JP2023538706A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/579Depth or shape recovery from multiple images from motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/32Indexing scheme for image data processing or generation, in general involving image mosaicing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Abstract

対象物の変位を測定するための画像処理方法が提供される。この方法は、第1のシーケンシャル画像および第2のシーケンシャル画像を取得することを含み、第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、第1のシーケンシャル画像は、第1の状態における対象物の第1の3次元(3D)表面に対応し、第2のシーケンシャル画像は、第2の状態における対象物の第2の3D表面に対応する。この方法は、ブラインドデコンボリューション法に基づいて、第1のシーケンシャル画像および第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された第1のシーケンシャル画像および鮮明化された第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、第1の鮮明な3D画像および第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、2次元デジタル画像補正(DIC)法を実行することによって、第1の2D画像および第2の2D画像から変位マップを生成することとをさらに含む。

Description

本発明は、一般的に、歪み測定を行うための融合ベースのデジタル画像相関フレームワークのための装置および方法に関する。
負荷または機械的損傷を受けている材料の歪み測定は、様々な工業用途において不可欠な作業である。歪み測定を行うために、広く使用されているポイントごとの歪みゲージ技術とは別に、非接触および非干渉光学技術としてのデジタル画像相関(DIC)が、単純な実験設定を用いて表面の全視野歪み分布を提供することができるため、多くの注目を集めている。DICは、変形前後の表面のデジタルグレー濃度画像を比較し、ピクセル変位の微分値を当該ピクセルの歪みの尺度として採用することによって、実行される。
様々な用途において、大きな3D対象物の曲面に対して全視野2次元(2D)DIC解析を実行することは重要である。殆どの工業材料に対して歪みによる変位が一般的に非常に微小であるため、DICは、正確なピクセル変位を得るために、変形前後に撮影された画像に対して厳密な要件、例えば、画像解像度、画像表示およびカメラレンズ歪みの補償を有する。したがって、目標シナリオにおける要件は、既存の2D DIC解析の2つの主な制限をもたらす。第1に、DIC法は、通常、3D曲面ではなく2D平面の対象物表面に限定される。第2に、DIC法は、通常、DIC解析を行うための画像の非常に高いピクセル解像度に起因して、小さい表面に制限される。さまざまなシナリオで操作することが困難である精密な較正および画像スティッチングを含む、双眼ステレオビジョンまたはマルチカメラシステム環境に基づく3D DIC方法に対して、多くの努力がなされてきた。
この作業は、よく較正されたマルチカメラシステムではなく、通常の単一の移動カメラによって撮影された画像をスティッチングする。
本発明のフレームワークは、画像融合およびカメラ姿勢推定を組み込むことによって、試験中の曲面の多数の画像を自動的にスティッチングする。この作業は、画像融合およびスティッチングングに基づく用途の範囲を機械工学の歪み測定に拡張する。
本発明のフレームワークは、画像融合問題を、非反復的方法および反復的方法の両方を使用して広く探索されている一連の周知のPnP問題に分離する。いくつかは、余分な異常値拒否を含むまたは観察不確実性情報を組み込む。バンドル調整原理と反復PnP法とを組み合わせた本発明の画像融合法は、既存のPnP法よりも優れており、適用可能な融合精度を達成する。
本開示は、曲面を含む大きな3次元対象物の歪み測定を行うように2次元デジタル画像相関(DIC)を可能にするという問題に対処する。ぼけ、歪みおよび単一画像がカバーできる表面の視野が狭いため、DICに必要とされる表面の全視野適格画像を取得することは、困難である。この課題を克服するために、本発明は、画像融合原理を組み込んだエンドツーエンドDICフレームワークを提案することによって、曲面全体の全視野歪み測定を達成する。まず、ブラインドデコンボリューションを用いて、一連のぼけ画像を入力として用いて鮮明な画像を回復し、次いで、RRWLMと呼ばれる本発明の遠近法n点(PnP)法によって推定されたカメラ姿勢を用いて、回復された鮮明な画像を曲面に投影する。次いで、歪み解析のために、DICを用いて曲面に投影された画像をスティッチングし、展開する。数値実験を実施して、既存の方法と比較することによって、RRWLMを使用する本発明のフレームワークを検証する。
本発明のいくつかの実施形態は、単一のカメラを用いて大きなサイズの3D対象物曲面に沿った歪み測定を可能にするエンドツーエンド融合ベースのDICフレームワークを提案する。まず、大きな3D表面の上方の移動カメラを用いて、表面テクスチャの一連の2Dぼけ画像を取得する。これらのぼけ画像に基づき、ブラインドデコンボリューションを用いて対応する鮮明な画像を回復し、本発明の画像融合を行うためのロバスト遠近法n点(PnP)法によって推定されたカメラ姿勢を用いて、鮮明な画像のピクセルを3D表面に投影する。スティッチングされた変形前および変形後の3D表面画像の両方を2D融合画像にそれぞれ展開し、さらなるDIC解析を行うために、3D歪み測定を2D歪み測定に変換する。前述したように、変位が微小(典型的にはサブピクセル)であるため、それらの微分および対応する歪みは、融合画像の画質に極めて敏感である。したがって、処理中の最も困難な課題は、正確な歪み測定を行うために画像融合方法の厳しい精度(少なくともサブピクセルレベル)要件である。
本発明のいくつかの実施形態によれば、対象物の歪みを測定するための画像処理装置が提供される。この画像処理装置は、第1のシーケンシャル画像および第2のシーケンシャル画像を取得するように構成されるインターフェイスを備え、第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、第1のシーケンシャル画像は、第1の状態における対象物の第1の3次元(3D)表面に対応し、第2のシーケンシャル画像は、第2の状態(第1の状態は、初期状態と呼ばれてもよく、第2の状態は、動作時間の後の状態であってもよい)における対象物の第2の3D表面に対応し、画像ぼけ除去法、姿勢精緻化法、融合ベースの相関法、歪み測定法、および画像補正法を含むコンピュータ実行可能なプログラムを記憶するためのメモリと、コンピュータ実行可能なプログラムを実行するように構成されたプロセッサとを備え、プロセッサは、ブラインドカーネルデコンボリューション法に基づいて、第1のシーケンシャル画像および第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された第1のシーケンシャル画像および鮮明化された第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、第1の鮮明な3D画像および第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、2次元デジタル画像補正(DIC)法を実行することによって、第1の2D画像および第2の2D画像から変位マップを生成することとを実行する。
本発明のいくつかの実施形態は、画像融合を歪み測定パイプラインに組み込んだエンドツーエンドDICフレームワークを提供する。本発明のフレームワークは、DICベースの歪み測定用途の範囲を、大きいサイズの3D対象物の曲面に拡張する。
また、本発明は、対象物の歪みを測定する画像処理方法を提供する。この画像処理方法は、第1のシーケンシャル画像および第2のシーケンシャル画像を取得することを含み、第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、第1のシーケンシャル画像は、第1の状態における対象物の第1の3次元(3D)表面に対応し、第2のシーケンシャル画像は、第2の状態における対象物の第2の3D表面に対応し、ブラインドデコンボリューション法に基づいて、第1のシーケンシャル画像および第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された第1のシーケンシャル画像および鮮明化された第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、第1の鮮明な3D画像および第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、2次元デジタル画像補正(DIC)法を実行することによって、第1の2D画像および第2の2D画像から変位(歪み)マップ画像を生成することとを含む。
さらに、本発明のいくつかの実施形態は、コンピュータに方法を実行させるプログラム命令を含む非一時的なコンピュータ可読媒体を提供する。この場合、方法は、第1のシーケンシャル画像および第2のシーケンシャル画像を取得することを含み、第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、第1のシーケンシャル画像は、第1の状態における対象物の第1の3次元(3D)表面に対応し、第2のシーケンシャル画像は、第2の状態における対象物の第2の3D表面に対応し、ブラインドデコンボリューション法に基づいて、第1のシーケンシャル画像および第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された第1のシーケンシャル画像および鮮明化された第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、第1の鮮明な3D画像および第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、2次元デジタル画像補正(DIC)法を実行することによって、第1の2D画像および第2の2D画像から変位(歪み)マップ画像を生成することとを含む。
本発明の別の実施形態は、画像融合を行うためのPnP法およびバンドル調整原理に基づく2段階の方法を提案する。本発明の方法は、最新技術よりも優れており、DIC解析による歪み測定に適用可能な画像融合精度を達成する。
本発明のさらなる理解を提供するために含まれる添付の図面は、本発明の実施形態を示し、説明と共に本発明の原理を説明する。
本発明の実施形態に従う、画像処理装置の一例を示す図である。 本発明の実施形態に従う、歪みマップを生成するための画像処理ステップを示すブロック図である。 本発明の実施形態に従う、画像処理装置に使用される画像ぼけ除去モジュールを示すブロック図である。 本発明の実施形態に従う、画像処理装置に使用される画像スティッチングモジュールを示すブロック図である。 本発明の実施形態に従う、画像取得パイプラインおよび歪み測定フレームワークを示す概略図である。 本発明の実施形態に従う、画像取得パイプラインおよび歪み測定フレームワークを示す概略図である。 本発明の実施形態に従う、改良ロバスト重み付きLM(RRWLM)を記述するアルゴリズムを示す図である。 本発明の実施形態に従う、カメラ姿勢推定の平均誤差および画像融合結果のPSNRを示す図である。 本発明の実施形態に従う、小さい領域の歪みマップの比較を示す図である。 本発明の実施形態に従う、小さい領域の歪みマップの比較を示す図である。 本発明の実施形態に従う、小さい領域の歪みマップの比較を示す図である。 本発明の実施形態に従う、異なる方法に基づく表面画像の比較を示す図である。 本発明の実施形態に従う、異なる方法に基づく表面画像の比較を示す図である。 本発明の実施形態に従う、異なる方法に基づく表面画像の比較を示す図である。 本発明の実施形態に従う、大きい領域の歪みマップの比較を示す図である。 本発明の実施形態に従う、大きい領域の歪みマップの比較を示す図である。
以下、図面を参照しながら、本発明の様々な実施形態を説明する。なお、図面は、縮尺通りに描かれておらず、全ての図面において、同様の構造または機能を有する要素は、同様の参照番号によって示されている。また、図面は、本発明の特定の実施形態の説明を容易にすることを意図している。図面は、本発明の網羅的な説明としてまたは本発明の範囲に対する限定として意図されていない。さらに、本発明の特定の実施形態に関連して記載された特徴は、必ずしもその実施形態に限定されず、本発明の任意の他の実施形態において実施することができる。
Figure 2023538706000002
Figure 2023538706000003
Figure 2023538706000004
画像ぼけ除去
Figure 2023538706000005
Figure 2023538706000006
画像融合
Figure 2023538706000007
カメラ姿勢推定
Figure 2023538706000008
Figure 2023538706000009
Figure 2023538706000010
Figure 2023538706000011
Figure 2023538706000012
Figure 2023538706000013
Figure 2023538706000014
カメラ姿勢の精緻化および画像融合
Figure 2023538706000015
DIC
Figure 2023538706000016
数値実験
実験の設定
図4A~4Bに示すように、移動カメラを用いて、試験中の3D表面の変形前後の2つのシーケンシャル画像をそれぞれ撮影する。円筒の外側の領域は、黒色であると仮定される。3D円筒は、半径r=500mm、高さH=80mmを有する。カメラの移動軌道は、概ね半径r=540mmの同軸仮想円筒の円形表面にある。ランダム摂動によって、第1の画像のカメラ姿勢を除いて、全ての撮影された画像のカメラ姿勢は、正確に知られていない。
表面テクスチャを超解像度で再構築するために、スネークスキャンパターンでカメラを移動する。カメラを軸方向に沿って移動するときに5つの画像を撮影し、次いで、カメラを接線方向に沿って前方に移動し、軸方向に沿って次の5つの画像を撮影する。以下は同様である。これによって、各シーケンシャル画像の合計p=160個の画像(サイズm×n=500×600)を収集する。両方のシーケンシャル画像は、カメラ開始位置がわずかに異なるが、変形前後の円筒表面の約60度の同じ領域をカバーし、360度の表面に直接に広げることができる。
実行および評価
Figure 2023538706000017
Figure 2023538706000018
Figure 2023538706000019
Figure 2023538706000020
したがって、本発明のいくつかの実施形態は、大きいサイズの3D対象物の曲面に沿って2D歪み測定を行うために、エンドツーエンド融合ベースのDICフレームワークを提供する。表面の単一画像の狭い視野の課題に対処するために、本発明は、画像融合原理を組み込み、画像融合問題を一連の複数の遠近法n点(PnP)問題に分離する。本発明のPnP法は、バンドル調整と併せて、多数の画像をスティッチングすることによって3D表面テクスチャを正確に回復し、DIC法を用いて適切な歪み測定を達成する。本発明は、数値実験を実施して、既存の方法よりも優れている性能を示す。
上述した本開示の実施形態は、多くの方法で実装されてもよい。例えば、実施形態は、ハードウェア、ソフトウェア、またはそれらの組み合わせで実装されてもよい。ソフトウェアで実装される場合、ソフトウェアコードは、単一のコンピュータに設けられたまたは複数のコンピュータに分散されたことにも拘らず、任意の適切なプロセッサまたは一組のプロセッサ上で実行されてもよい。このようなプロセッサは、集積回路として実装されてもよい。1つの集積回路要素は、1つ以上のプロセッサを含むことができる。しかしながら、プロセッサは、任意の適切な回路で実装されてもよい。
また、本開示の実施形態は、一例として提供された方法として具現化されてもよい。本方法の一部として実行される動作は、任意の適切な方法で順序付けられてもよい。したがって、例示的な実施形態において順次に実行される動作とは異なる順序で動作を実行すること、一部の動作を同時に実行することを含み得る実施形態を構築することができる。
請求項において請求項要素を修飾するための順序用語、例えば第1、第2などの使用は、別の請求項要素に対する1つの請求項要素の優先順位、前後順位もしくは順序、または方法の動作を実行する時間順序を意味しておらず、単に請求項要素を区別するためのラベルとして使用され、(順序用語を使用することによって)特定の名前を有する1つの請求項要素と同じ名前を有する別の要素とを区別させる。
好ましい実施形態を参照して本発明を説明したが、理解すべきことは、本発明の精神および範囲内で、様々な他の改造および修正を行うことができることである。
したがって、添付の特許請求の範囲は、本発明の真の精神および範囲内にある全ての変形および修正を網羅する。
図1は、本開示の実施形態に従う、対象表面140の変位マップを生成するための歪み測定システム100を示す概略図である。場合によっては、変位マップは、歪みマップであってもよい。
歪み測定システム100は、カメラ/センサ141から画像を受信し、ディスプレイ142上で画像を表示するように構成されたネットワークインターフェイスコントローラ(インターフェイス)110を含むことができる。カメラ/センサ141は、対象表面140の重畳画像を撮影するように構成されている。
また、歪み測定システム100は、コンピュータ実行可能なプログラムをストレージ200に記憶するためのメモリ/CPUユニット120を含んでもよい。コンピュータ実行可能なプログラム/アルゴリズムは、画像ぼけ除去ユニット220と、画像スティッチングユニット230と、デジタル画像相関(DIC)ユニット240と、画像変位マップユニット250とを含んでもよい。コンピュータ実行可能なプログラムは、ストレージ200にアクセスすることによってコンピュータ実行可能なプログラムをロードするためのメモリ/CPUユニット120と接続するように構成されている。
メモリ/CPUユニット120は、ネットワーク150を介してカメラ/センサ151または画像データサーバ152から画像(データ)を受信し、上述した変位測定100を実行するように構成されている。
歪み測定システム100は、対象表面140の画像を撮影するように構成された少なくとも1つのカメラをさらに含むことができ、少なくとも1つのカメラは、インターフェイスを介して撮影した画像をディスプレイ装置142に送信することができる。
図2は、本開示のいくつかの実施形態に従う、カメラ/センサによって撮影された表面の画像を用いて変位マップを生成するためのストレージ200を示す概略図を示す。ストレージモジュール200は、それぞれ末尾のAおよびBで標記された変形前後の撮影画像を用いて、変位マップ250を生成する。まず、ぼけ重畳画像215Aは、変形前画像収集処理210Aによって取り込まれ、その後、画像ぼけ除去処理220Aによって鮮明な重畳画像225Aとして鮮明化される。次いで、画像スティッチングプロセス230Aは、鮮明な重畳画像をスティッチングすることによって、大きな鮮明な表面画像235Aを形成する。同様に、変形後に撮影された画像は、画像ぼけ除去220Bおよび画像スティッチング230Bによって処理され、大きな鮮明な表面画像235Bを形成する。DIC解析240は、画像235Aおよび235Bを比較することによって、表面上の歪みを示す変位マップ250を生成する。
図3Aは、本開示のいくつかの実施形態に従う、カメラ/センサによって撮影された表面の画像のぼけを除去するための画像ぼけ除去モジュール220を示す概略図である。まず、式(5)に示されたように、ウィーナフィルタを用いて正規化スパース度を最小化することによって、初期のぼけカーネル2201を推定する。次いで、式(4)の反復ブラインドデコンボリューション問題を解くことによって、画像を鮮明化する。各反復において、撮影画像を用いてぼけカーネル2202をデコンボリューションすることによって、鮮明な画像を生成し、過去の鮮明な画像と比較することによって、収束2203を確認する。両者の差(または相対誤差)が小さい場合、アルゴリズムが収束したことを意味し、画像ぼけ除去モジュール220は、現在の鮮明な画像を鮮明な重畳画像として出力する。そうでなければ、ぼけカーネルは、式(4)を最小化することによって更新され、アルゴリズムが収束するまで次の反復デコンボリューションプロセス2202に使用される。
図3Bは、本開示のいくつかの実施形態に従う、鮮明な重畳画像を大きな鮮明な表面画像にスティッチングするための画像スティッチングモジュール230を示す概略図である。まず、i番目の画像を近傍画像集合L内のj番目の近傍画像とスティッチングする。この場合、j番目の画像の位置hが既知であり、マッチング点Aj,iは、マッチングSIFT特徴を用いて決定される(2301)。既知のカメラ姿勢hを用いて、j番目の画像上のマッチング点を円筒面に投影する(2302)。i番目の画像カメラ位置が未知である場合(2303)、アルゴリズム1を用いてカメラ姿勢hを推定することによって、PnP問題を解く(2304)。hを含むことによって既知のカメラ姿勢集合Hを更新し、i番目の画像を含むことによって近傍画像集合Lを更新する。次いで、第(i+1)の画像をその近傍画像にスティッチングする。全ての画像に関連するカメラ姿勢が決定された場合、すなわち、hが未知ではない場合(2303)、画像のカメラ姿勢を用いて画像を円筒表面に投影し、補間すること(2307)によって、大きな鮮明な表面画像235を生成する。
上述した本発明の実施形態は、ハードウェア、ソフトウェア、またはハードウェアとソフトウェアの組み合わせを用いて実施することができる。
また、本開示の実施形態は、一例として提供された方法として具現化されてもよい。本方法の一部として実行される動作は、任意の適切な方法で順序付けられてもよい。したがって、例示的な実施形態において順次に実行される動作とは異なる順序で動作を実行すること、一部の動作を同時に実行することを含み得る実施形態を構築することができる。
請求項において請求項要素を修飾するための順序用語、例えば第1、第2などの使用は、別の請求項要素に対する1つの請求項要素の優先順位、前後順位もしくは順序、または方法の動作を実行する時間順序を意味しておらず、単に請求項要素を区別するためのラベルとして使用され、(順序用語を使用することによって)特定の名前を有する1つの請求項要素と同じ名前を有する別の要素とを区別させる。

Claims (20)

  1. 対象物の歪みを測定する画像処理装置であって、
    第1のシーケンシャル画像および第2のシーケンシャル画像を取得するように構成されたインターフェイスを備え、前記第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、前記第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、前記第1のシーケンシャル画像は、第1の状態における前記対象物の第1の3次元(3D)表面に対応し、前記第2のシーケンシャル画像は、第2の状態における前記対象物の第2の3D表面に対応し、
    画像ぼけ除去法、姿勢精緻化法、融合ベースの相関法、歪み測定法、および画像補正法を含むコンピュータ実行可能なプログラムを記憶するためのメモリと、
    前記コンピュータ実行可能なプログラムを実行するように構成されたプロセッサとを備え、
    前記プロセッサは、
    ブラインドカーネルデコンボリューション法に基づいて、前記第1のシーケンシャル画像および前記第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、
    カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された前記第1のシーケンシャル画像および鮮明化された前記第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、
    前記第1の鮮明な3D画像および前記第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、
    2次元デジタル画像補正(DIC)法を実行することによって、前記第1の2D画像および前記第2の2D画像から変位マップを生成することとを実行する、画像処理装置。
  2. 前記第1の状態は、初期時間内に操作されていないオブジェクトの基準状態であり、
    前記第2の状態は、操作時間内に操作されたオブジェクトの事後状態である、請求項1に記載の画像処理装置。
  3. 前記変位マップを用いて前記対象物の前記表面上の局所歪みを解析することをさらに含む、請求項1に記載の画像処理装置。
  4. 前記カメラ姿勢推定は、遠近法n点(PnP)問題を解くことによって実行される、請求項1に記載の画像処理装置。
  5. 前記遠近法n点(PnP)問題は、スケール不変特徴変換(SIFT)特徴に基づくマッチング点を使用する、請求項1に記載の画像処理装置。
  6. 前記ぼけ除去は、ブラインドデコンボリューション法によって実行される、請求項1に記載の画像処理装置。
  7. 前記変位マップは、特徴追跡法に基づいて計算される、請求項1に記載の画像処理装置。
  8. 前記第1のシーケンシャル画像および前記第2のシーケンシャル画像は、前記対象物の曲面から取得される、請求項1に記載の画像処理装置。
  9. 前記対象物は、円筒形である、請求項1に記載の画像処理装置。
  10. 前記第1のシーケンシャル画像は、前記対象物が変形される前に取得され、
    前記第2のシーケンシャル画像は、前記対象物が変形された後に取得される、請求項1に記載の画像処理装置。
  11. 前記第1のシーケンシャル画像のうちの少なくとも第1の画像のカメラ姿勢は、既知であり、
    前記第2のシーケンシャル画像のうちの少なくとも第1の画像のカメラ姿勢は、既知である、請求項1に記載の画像処理装置。
  12. 前記カメラ姿勢推定は、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムによって更新される、請求項1に記載の画像処理装置。
  13. 対象物の歪みを測定するための画像処理方法であって、
    第1のシーケンシャル画像および第2のシーケンシャル画像を取得することを含み、前記第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、前記第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、前記第1のシーケンシャル画像は、第1の状態における前記対象物の第1の3次元(3D)表面に対応し、前記第2のシーケンシャル画像は、第2の状態における前記対象物の第2の3D表面に対応し、
    ブラインドデコンボリューション法に基づいて、前記第1のシーケンシャル画像および前記第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、
    カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された前記第1のシーケンシャル画像および鮮明化された前記第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、
    前記第1の鮮明な3D画像および前記第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、
    2次元デジタル画像補正(DIC)法を実行することによって、前記第1の2D画像および前記第2の2D画像から変位(歪み)マップ画像を生成することとを含む、方法。
  14. 前記第1の状態は、初期時間内に操作されていないオブジェクトの基準状態であり、
    前記第2の状態は、操作時間内に操作されたオブジェクトの事後状態である、請求項13に記載の方法。
  15. 前記変位マップを用いて前記対象物の前記表面上の局所歪みを解析することをさらに含む、請求項13に記載の方法。
  16. 前記カメラ姿勢推定は、遠近法n点(PnP)問題を解くことによって実行される、請求項13に記載の方法。
  17. コンピュータに方法を実行させるプログラム命令を含むコンピュータ可読媒体であって、
    前記方法は、
    第1のシーケンシャル画像および第2のシーケンシャル画像を取得することを含み、前記第1のシーケンシャル画像の2つの隣接する画像は、第1の重畳部分を含み、前記第2のシーケンシャル画像の2つの隣接する画像は、第2の重畳部分を含み、前記第1のシーケンシャル画像は、第1の状態における前記対象物の第1の3次元(3D)表面に対応し、前記第2のシーケンシャル画像は、第2の状態における前記対象物の第2の3D表面に対応し、
    ブラインドデコンボリューション法に基づいて、前記第1のシーケンシャル画像および前記第2のシーケンシャル画像をぼけ除去することによって、鮮明な焦点面画像を取得することと、
    カメラ姿勢推定に基づいて、改良ロバスト重み付きレベンバーグ・マルカート(RRWLM)アルゴリズムを用いて、遠近法n点(PnP)問題を解くことによって、鮮明化された前記第1のシーケンシャル画像および鮮明化された前記第2のシーケンシャル画像をそれぞれ第1の鮮明な3D画像および第2の鮮明な3D画像にスティッチングすることと、
    前記第1の鮮明な3D画像および前記第2の鮮明な3D画像をそれぞれ展開することによって、第1の2次元(2D)画像および第2の2D画像を形成することと、
    2次元デジタル画像補正(DIC)法を実行することによって、前記第1の2D画像および前記第2の2D画像から変位(歪み)マップ画像を生成することとを含む、コンピュータ可読媒体。
  18. 前記第1の状態は、初期時間内に操作されていないオブジェクトの基準状態であり、
    前記第2の状態は、操作時間内に操作されたオブジェクトの事後状態である、請求項17に記載のコンピュータ可読媒体。
  19. 前記変位マップを用いて前記対象物の前記表面上の局所歪みを解析することをさらに含む、請求項17に記載のコンピュータ可読媒体。
  20. 前記カメラ姿勢推定は、遠近法n点(PnP)問題を解くことによって実行される、請求項17に記載のコンピュータ可読媒体。
JP2023534581A 2020-10-14 2021-09-01 歪み測定を行うための融合ベースのデジタル画像相関フレームワーク Pending JP2023538706A (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US202063091491P 2020-10-14 2020-10-14
US63/091,491 2020-10-14
US17/148,609 US20220114713A1 (en) 2020-10-14 2021-01-14 Fusion-Based Digital Image Correlation Framework for Strain Measurement
US17/148,609 2021-01-14
PCT/JP2021/036360 WO2022080151A1 (en) 2020-10-14 2021-09-01 Fusion-based digital image correlation framework for strain measurement

Publications (1)

Publication Number Publication Date
JP2023538706A true JP2023538706A (ja) 2023-09-08

Family

ID=81079359

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023534581A Pending JP2023538706A (ja) 2020-10-14 2021-09-01 歪み測定を行うための融合ベースのデジタル画像相関フレームワーク

Country Status (5)

Country Link
US (1) US20220114713A1 (ja)
JP (1) JP2023538706A (ja)
CN (1) CN116710955A (ja)
DE (1) DE112021004192T5 (ja)
WO (1) WO2022080151A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115115708B (zh) * 2022-08-22 2023-01-17 荣耀终端有限公司 一种图像位姿的计算方法及系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9311566B2 (en) * 2012-08-03 2016-04-12 George Mason Research Foundation, Inc. Method and system for direct strain imaging
CN106012778B (zh) * 2016-05-18 2018-07-20 东南大学 用于高速公路路面应变测量的数字图像采集分析方法
CN110146029B (zh) * 2019-05-28 2021-04-13 北京林业大学 一种细长构件准静态全场变形测量装置及方法

Also Published As

Publication number Publication date
DE112021004192T5 (de) 2023-06-01
WO2022080151A1 (en) 2022-04-21
CN116710955A (zh) 2023-09-05
US20220114713A1 (en) 2022-04-14

Similar Documents

Publication Publication Date Title
JP6079333B2 (ja) 校正装置、方法及びプログラム
JP6363863B2 (ja) 情報処理装置および情報処理方法
CN105701827B (zh) 可见光相机与红外相机的参数联合标定方法及装置
JP5580164B2 (ja) 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム
CN110099267B (zh) 梯形校正系统、方法以及投影仪
WO2020010945A1 (zh) 图像处理方法和装置、电子设备、计算机可读存储介质
JP5070435B1 (ja) 3次元相対座標計測装置およびその方法
JP2012058076A (ja) 3次元計測装置及び3次元計測方法
JP6641729B2 (ja) ラインセンサカメラのキャリブレーション装置及び方法
CN116433737A (zh) 一种激光雷达点云与图像配准的方法、装置及智能终端
JP6411188B2 (ja) ステレオマッチング装置とステレオマッチングプログラムとステレオマッチング方法
JP2023538706A (ja) 歪み測定を行うための融合ベースのデジタル画像相関フレームワーク
JP7044016B2 (ja) ラインセンサカメラのキャリブレーション装置及び方法
JP2018179577A (ja) 位置計測装置
JP5648159B2 (ja) 3次元相対座標計測装置およびその方法
CN109859313B (zh) 3d点云数据获取方法、装置、3d数据生成方法及系统
JP6486083B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2017059998A (ja) 画像処理装置およびその方法、並びに、撮像装置
CN111998834B (zh) 一种裂缝监测方法及系统
CN115631245A (zh) 一种校正方法、终端设备及存储介质
CN113012279B (zh) 一种非接触三维成像测量方法、系统及计算机可读存储介质
CN115272080A (zh) 基于图像拼接的全局变形测量方法和系统
JP6843552B2 (ja) 画像処理装置、画像処理方法およびプログラム。
Tagoe et al. Determination of the Interior Orientation Parameters of a Non-metric Digital Camera for Terrestrial Photogrammetric Applications
Pai et al. High-fidelity camera-based method for noncontact vibration testing of structures

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230215

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240206

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240321

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240507