JP2023028713A - 画像処理装置、および画像処理方法ならびにプログラム - Google Patents
画像処理装置、および画像処理方法ならびにプログラム Download PDFInfo
- Publication number
- JP2023028713A JP2023028713A JP2021134585A JP2021134585A JP2023028713A JP 2023028713 A JP2023028713 A JP 2023028713A JP 2021134585 A JP2021134585 A JP 2021134585A JP 2021134585 A JP2021134585 A JP 2021134585A JP 2023028713 A JP2023028713 A JP 2023028713A
- Authority
- JP
- Japan
- Prior art keywords
- image
- water
- laser beam
- depth
- image sensor
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 97
- 238000003672 processing method Methods 0.000 title claims description 19
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 claims abstract description 144
- 238000012937 correction Methods 0.000 claims abstract description 104
- 238000005259 measurement Methods 0.000 claims abstract description 49
- 238000003384 imaging method Methods 0.000 claims abstract description 30
- 230000007246 mechanism Effects 0.000 claims description 31
- 230000001678 irradiating effect Effects 0.000 claims description 3
- 238000000034 method Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 9
- 230000000694 effects Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000015654 memory Effects 0.000 description 3
- 230000015556 catabolic process Effects 0.000 description 2
- 230000001364 causal effect Effects 0.000 description 2
- 230000000052 comparative effect Effects 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02A—TECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
- Y02A90/00—Technologies having an indirect contribution to adaptation to climate change
- Y02A90/30—Assessment of water resources
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
【課題】水深に応じた撮像画像の歪みを正しく補正することを可能にする。
【解決手段】本開示の画像処理装置は、水中における計測対象物を撮像する画像センサと、水中において第1のレーザ光を出射する第1のレーザ光源と、水中において第1のレーザ光源とは異なる位置から第2のレーザ光を出射する第2のレーザ光源と、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する補正用データ生成部とを備える。
【選択図】図1
【解決手段】本開示の画像処理装置は、水中における計測対象物を撮像する画像センサと、水中において第1のレーザ光を出射する第1のレーザ光源と、水中において第1のレーザ光源とは異なる位置から第2のレーザ光を出射する第2のレーザ光源と、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する補正用データ生成部とを備える。
【選択図】図1
Description
本開示は、画像処理装置、および画像処理方法に関する。
例えば自律型水中ロボット(Autonomous Underwater Vehicle:AUV)においてステレオカメラを用いて水中の3次元計測を行う技術が求められている。一方で、水深が深ければ深いほどロボットやカメラ容器に耐圧がかかり、撮れる画像が歪んでくるため、3次元計測を正しく行うことが困難になってくる。特許文献1では、あらかじめ取得しておいた補正データを用いて撮像画像をキャリブレーションする方法が提案されている。
あらかじめ取得しておいた補正データを用いて撮像画像をキャリブレーションする方法では、あらかじめ想定していた耐圧と実際に3次元計測を行う際に発生する耐圧との因果関係が正しくない可能性があり、撮像画像の歪みを正しく補正することは困難である。
水深に応じた撮像画像の歪みを正しく補正することが可能な画像処理装置、および画像処理方法ならびにプログラムを提供することが望ましい。
本開示の一実施の形態に係る画像処理装置は、水中における計測対象物を撮像する画像センサと、水中において第1のレーザ光を出射する第1のレーザ光源と、水中において第1のレーザ光源とは異なる位置から第2のレーザ光を出射する第2のレーザ光源と、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する補正用データ生成部とを備える。
本開示の一実施の形態に係る画像処理方法は、水中における計測対象物を画像センサによって撮像することと、水中において第1のレーザ光を出射することと、水中において第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することとを含む。
本開示の一実施の形態に係るプログラムは、水中において第1のレーザ光を出射することと、水中において第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することとを含む処理をコンピュータに実行させる。
本開示の一実施の形態に係る画像処理装置、または画像処理方法、またはプログラムでは、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データが生成される。
以下、本開示の実施の形態について図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
0.比較例
1.第1の実施の形態(図1~図9)
1.1 構成
1.2 動作
1.3 効果
2.第2の実施の形態(図10~図11)
3.第3の実施の形態(図12)
4.第4の実施の形態(図13)
5.第5の実施の形態(図14~図16)
6.その他の実施の形態
0.比較例
1.第1の実施の形態(図1~図9)
1.1 構成
1.2 動作
1.3 効果
2.第2の実施の形態(図10~図11)
3.第3の実施の形態(図12)
4.第4の実施の形態(図13)
5.第5の実施の形態(図14~図16)
6.その他の実施の形態
<0.比較例>
例えば海中において、点検等や自律型水中ロボットの自律移動のために3次元計測を行う技術が求められている。特に点検では高分解能および高精度な3次元計測技術が求められている。高分解能および高精度を達成する技術として、地上で多く使われているステレオカメラ方式が有力である。一方で、水深が深ければ深いほどロボットやカメラ容器に耐圧がかかり、撮れる画像が歪んでくるため、3次元計測を正しく行うことが困難になってくる。
例えば海中において、点検等や自律型水中ロボットの自律移動のために3次元計測を行う技術が求められている。特に点検では高分解能および高精度な3次元計測技術が求められている。高分解能および高精度を達成する技術として、地上で多く使われているステレオカメラ方式が有力である。一方で、水深が深ければ深いほどロボットやカメラ容器に耐圧がかかり、撮れる画像が歪んでくるため、3次元計測を正しく行うことが困難になってくる。
特許文献1(特開2011-248414号公報)には、常圧環境下で撮影した画像と同等の画像が得られるようにする画像処理システムとして、あらかじ各耐圧における補正データを取得する方法が提案されている。しかし、あらかじめキャリブレーションを行うため、想定した耐圧と実際に発生している耐圧との因果関係が正しくない可能性がある。特許文献1で提案されている技術では、事前に各圧力における補正情報をあらかじめ取得し、常圧環境下との差分パラメータ(移動ベクトル)を算出するが、使用される環境測定用の圧力センサや温度センサの精度に依存したり、実際に高圧環境下へ沈んだ際に発生するメカ的な形状変化が取得済みのパラメータと一致するとは限らないため、正しい3次元計測ができない可能性がある。
<1.第1の実施の形態>
[1.1 構成]
図1は、本開示の第1の実施の形態に係る画像処理装置の一構成例を概略的に示している。
[1.1 構成]
図1は、本開示の第1の実施の形態に係る画像処理装置の一構成例を概略的に示している。
第1の実施の形態に係る画像処理装置は、例えば自律型水中ロボットに搭載され、海中などの水中における3次元計測に用いられる。
第1の実施の形態に係る画像処理装置は、ステレオカメラ10と、歪み補正部20と、パラメータ補正部21と、ステレオマッチング部22と、生成済キャリブレーションパラメータ保持部23とを備える。第1の実施の形態に係る画像処理装置は、さらに、レーザ30と、スキャン機構31と、ラインレーザキャリブレーション部32と、圧力センサ50とを備える。
ステレオマッチング部22は、本開示の技術における「深度画像生成部」の一具体例に相当する。ラインレーザキャリブレーション部32は、本開示の技術における「補正用データ生成部」の一具体例に相当する。
歪み補正部20、パラメータ補正部21、ステレオマッチング部22、およびラインレーザキャリブレーション部32は、例えば1または複数のCPU(Central Processing Unit)と、1または複数のROM(Read Only Memory)と、1または複数のRAM(Random Access Memory)とを備えたコンピュータで構成されてもよい。この場合、歪み補正部20、パラメータ補正部21、ステレオマッチング部22、およびラインレーザキャリブレーション部32による各部の処理は、1または複数のROMまたはRAMに記憶されたプログラムに基づく処理を1または複数のCPUが実行することで実現し得る。また、歪み補正部20、パラメータ補正部21、ステレオマッチング部22、およびラインレーザキャリブレーション部32による各部の処理は、例えば有線または無線によるネットワークにより外部から供給されたプログラムに基づく処理を1または複数のCPUが実行することで実現してもよい。
図2は、レーザ30による2つのラインレーザ光L1,L2の照射状態およびステレオカメラ10による視野範囲の一例を示している。
ステレオカメラ10は、水中における計測対象物を撮像する画像センサである。ステレオカメラ10は、図2に示したように、左カメラ10Lと、右カメラ10Rとを有している。図2には、左カメラ10Lの視野範囲11Lと、右カメラ10Rの視野範囲11Rの一例を示す。
生成済キャリブレーションパラメータ保持部23は、例えば陸上においてあらかじめ生成された、キャリブレーションの基準となる生成済キャリブレーションパラメータを保持する。
パラメータ補正部21は、ラインレーザキャリブレーション部32によって生成された補正用データ(補正パラメータ)に基づいて、ステレオカメラ10による撮像画像の歪みを補正するために用いられるキャリブレーションパラメータ(生成済キャリブレーションパラメータ)を補正する。
歪み補正部20は、左カメラ用の歪み補正部20Lと、右カメラ用の歪み補正部20Rとを有する。歪み補正部20は、パラメータ補正部21によって補正された補正済キャリブレーションパラメータに基づいて、ステレオカメラ10によって撮像された計測対象物の撮像画像の歪みを補正する。
ステレオマッチング部22は、歪み補正部20によって補正された計測対象物の撮像画像に基づいて深度画像を生成する深度画像生成部である。ステレオマッチング部22は、歪み補正部20Lによって補正された歪み補正後の左カメラ10Lによる撮像画像と、歪み補正部20Rによって補正された歪み補正後の右カメラ10Rによる撮像画像とに対してステレオマッチング処理を行い、3次元計測情報を含む深度画像を生成する。
レーザ30は、図2に示したように、左レーザ30Lと、右レーザ30Rとを有する。左レーザ30Lは、水中において第1のレーザ光としてのラインレーザ光L1を出射する第1のレーザ光源である。右レーザ30Rは、水中において左レーザ30Lとは異なる位置から第2のレーザ光としてのラインレーザ光L2を出射する第2のレーザ光源である。図2には、左レーザ30Lから出射されたラインレーザ光L1の光路と、右レーザ30Rから出射されたラインレーザ光L2の光路との一例を示す。
左レーザ30Lは、例えば左カメラ10Lの左側に配置される。右レーザ30Rは、例えば右カメラ10Rの右側に配置される。なお、レーザ30の数は2つに限らない。例えば、キャリブレーションの処理速度の向上のために、左レーザ30Lと右レーザ30Rとに加えて、さらに、上下方向にレーザを2つ設置するようにしてもよい。
スキャン機構31は、後述する図4~図6に示すように、左スキャンミラー31Lと、右スキャンミラー31Rとを有する。左スキャンミラー31Lは、左レーザ30Lから出射されたラインレーザ光L1をスキャンする第1のスキャン機構である。右スキャンミラー31Rは、右レーザ30Rから出射されたラインレーザ光L2をスキャンする第2のスキャン機構である。左スキャンミラー31Lおよび右スキャンミラー31Rはそれぞれ、例えばMEMS(Micro Electro Mechanical Systems)ミラーであってもよい。
ラインレーザキャリブレーション部32は、補正用データ保持部33を有する。なお、補正用データ保持部33は、ラインレーザキャリブレーション部32の外部に設けられていてもよい。
例えば海中においてレーザ光を照射すると、プランクトンなどにより後方散乱光が発生する。この後方散乱光をステレオカメラ10で見るとレーザ光の光路が見えるようになる。ラインレーザキャリブレーション部32は、スキャン機構31によって2つのラインレーザ光L1,L2をスキャン制御することで、ステレオカメラ10の全画素について2つのラインレーザ光L1,L2の交点の情報を取得する。ラインレーザキャリブレーション部32は、あらかじめ水深が浅い位置(第1の水深)においてステレオカメラ10から見える2つのラインレーザ光L1,L2の交点の情報を参照データとして保持する。第1の実施の形態に係る画像処理装置では、この参照データと、第1の水深よりも耐圧がかかった状態(第2の水深)において取得された2つのラインレーザ光L1,L2の交点の情報とを比較することによってステレオカメラ10の撮像画像の歪み量を算出し、画像の歪み補正を行う。
ラインレーザキャリブレーション部32は、第1の水深(浅い水深)においてステレオカメラ10によってラインレーザ光L1およびラインレーザ光L2を撮像することによって取得された第1の情報と、ステレオカメラ10によって計測対象物を撮像する際の水深である第2の水深(深い水深)においてステレオカメラ10によってラインレーザ光L1およびラインレーザ光L2を撮像することによって取得された第2の情報とに基づいて、第2の水深におけるステレオカメラ10による撮像画像の歪みを補正するために用いられる補正用データ(補正パラメータ)を生成する。
ラインレーザキャリブレーション部32は、第1の水深においてステレオカメラ10によって撮像されたラインレーザ光L1とラインレーザ光L2との第1の交点の情報を第1の情報として取得すると共に、第2の水深においてステレオカメラ10によって撮像されたラインレーザ光L1とラインレーザ光L2との第1の交点に相当する第2の交点の情報を第2の情報として取得し、ステレオカメラ10による撮像画像上における第1の交点と第2の交点との移動量の情報に基づいて、補正用データ(補正パラメータ)を生成する。
ラインレーザキャリブレーション部32は、ステレオカメラ10による撮像画像上の全画素において第1の交点の情報と第2の交点の情報とが得られるように、左スキャンミラー31Lと右スキャンミラー31Rとをスキャン制御する。
補正用データ保持部33は、第1の交点の情報と第2の交点の情報との情報をそれぞれ、左スキャンミラー31Lによる第1のスキャン角度の情報と右スキャンミラー31Rによる第2のスキャン角度の情報とに関連付けて保持する。
圧力センサ50は、水中における圧力を計測する水圧計であり、深度を推定可能である。
図3は、ステレオカメラ10による2つのラインレーザ光L1,L2の撮像画像の一例を示している。
図3の上段は、水深が浅いケース、すなわちキャリブレーションパラメータが、基準となる生成済キャリブレーションパラメータと一致しているケースのため、2つのラインレーザ光L1,L2の交点がエピポーラ線上にある。このため、歪み補正部20による歪み補正が正しくできる。図3の下段は、水深が深いケースで、画像処理装置を搭載する機器への高耐圧の影響で画像が歪んでいる。この場合、2つのラインレーザ光L1,L2の交点がエピポーラ線上にない。このため、基準となる生成済キャリブレーションパラメータをそのまま使用した場合、歪み補正部20において正しい補正画像が作れず、ステレオマッチング部22で演算される距離画像(深度画像)も正しい結果が得られない。
図4は、スキャン機構31による2つのラインレーザ光L1,L2のスキャンの一例を示している。
図4には、一例として左カメラ10Lの全画素で2つのラインレーザ光L1,L2の交点を撮影できるように、スキャン機構31を用いて2つのラインレーザ光L1,L2を走査する例を示す。図4の例では左側のラインレーザ光L1を走査している様子を示す。水深が浅い位置(第1の水深)で、補正用データ保持部33に全画素位置のスキャン角度を記憶し、水深が変化した際(第2の水深)に同じスキャン角度での交点と記憶した画素位置とを比較することにより、水深による交点の移動量を得ることができる。
図5は、水深が浅い場合(第1の水深)における2つのラインレーザ光L1,L2の交点の一例を示している。図6は、水深が深い場合(第2の水深)における2つのラインレーザ光L1,L2の交点の一例を示している。図7は、補正用データ保持部33に保持される情報の一例を示している。
図5に示したように、水深が浅いときに、2つのラインレーザ光L1,L2の交点が左カメラ10Lの撮像画像上では座標(xL,yL)、右カメラ10Rの撮像画像上では座標(xR,yR)となり、そのときの左スキャンミラー31Lの角度が(θx,θy)、右スキャンミラー31Rの角度が(Φx,Φy)だったとする。また、図6に示したように、水深が深いときに、図5に示したときと同一のスキャン機構31の角度(θx,θy),(Φx,Φy)にした場合における2つのラインレーザ光L1,L2の交点が左カメラ10Lの撮像画像上の座標で(XL,YL)、右カメラ10Rの撮像画像上の座標で(XR,YR)となったとする。ラインレーザキャリブレーション部32では、これらの座標の移動量の情報として、左カメラ10L用の移動量(XL-xL,YL-yL)と右カメラ10R用の移動量(XR-xR,YR-yR)とを割り出し、ステレオカメラ10の撮像画像上の全画素の座標について、同様の処理を実視し、得られた情報(図7)を補正用データ(補正パラメータ)として補正用データ保持部33に保持する。
[1.2 動作]
第1の実施の形態に係る画像処理装置において、耐圧に応じたキャリブレーションを行う場合は、ラインレーザキャリブレーション部32がスキャン機構31を制御しながら2つのラインレーザ光L1,L2を出力し、ステレオカメラ10から得られた撮像画像を使ってラインレーザキャリブレーションを行い、上記手法で補正パラメータが得られる。パラメータ補正部21および歪み補正部20は、ステレオカメラ10から得られた撮像画像と、あらかじめ生成されたキャリブレーションの基準となる生成済キャリブレーションパラメータと、上記補正パラメータとを元にステレオカメラ10から得られた撮像画像の歪み補正を行う。ステレオマッチング部22では、歪み補正された撮像画像からステレオマッチングを行い、深度画像を生成する。ラインレーザキャリブレーションはステレオカメラ10の撮影の毎フレーム行うのではなく、水圧が変動したり、画像処理装置を搭載したロボット等の機器が下降した際に定期的に行うようにしてもよい。
第1の実施の形態に係る画像処理装置において、耐圧に応じたキャリブレーションを行う場合は、ラインレーザキャリブレーション部32がスキャン機構31を制御しながら2つのラインレーザ光L1,L2を出力し、ステレオカメラ10から得られた撮像画像を使ってラインレーザキャリブレーションを行い、上記手法で補正パラメータが得られる。パラメータ補正部21および歪み補正部20は、ステレオカメラ10から得られた撮像画像と、あらかじめ生成されたキャリブレーションの基準となる生成済キャリブレーションパラメータと、上記補正パラメータとを元にステレオカメラ10から得られた撮像画像の歪み補正を行う。ステレオマッチング部22では、歪み補正された撮像画像からステレオマッチングを行い、深度画像を生成する。ラインレーザキャリブレーションはステレオカメラ10の撮影の毎フレーム行うのではなく、水圧が変動したり、画像処理装置を搭載したロボット等の機器が下降した際に定期的に行うようにしてもよい。
図8は、第1の実施の形態に係る画像処理装置において、水深が浅い場合に行われるレファレンスデータ(参照データ)の作成処理の一例を示すフローチャートである。
まず、レーザ30およびスキャン機構31によって、2つのラインレーザ光L1,L2を照射する(ステップS101)。次に、2つのラインレーザ光L1,L2の光路をステレオカメラ10でキャプチャする(ステップS102)。次に、ラインレーザキャリブレーション部32は、2つのラインレーザ光L1,L2の交点のデータを参照データとして補正用データ保持部33に保持する(ステップS103)。
次に、ラインレーザキャリブレーション部32は、ステレオカメラ10の全画素についてスキャンが完了したか否かを判断する(ステップS104)。全画素についてのスキャンが完了していないと判断した場合(ステップS104;N)、ラインレーザキャリブレーション部32は、次に、スキャン機構31によるスキャン角度を変更し(ステップS105)、ステップS102の処理に戻る。
一方、全画素についてのスキャンが完了したと判断した場合(ステップS104;Y)、ラインレーザキャリブレーション部32は、レーザ30を停止する(ステップS106)。
図9は、第1の実施の形態に係る画像処理装置において、水深が深い場合に行われるキャリブレーション処理の一例を示すフローチャートである。
まず、レーザ30およびスキャン機構31によって、2つのラインレーザ光L1,L2を照射する(ステップS201)。次に、2つのラインレーザ光L1,L2の光路をステレオカメラ10でキャプチャする(ステップS202)。次に、ラインレーザキャリブレーション部32は、2つのラインレーザ光L1,L2の交点のデータを現データとして補正用データ保持部33に保持する(ステップS203)。
次に、ラインレーザキャリブレーション部32は、ステレオカメラ10の全画素についてスキャンが完了したか否かを判断する(ステップS204)。全画素についてのスキャンが完了していないと判断した場合(ステップS204;N)、ラインレーザキャリブレーション部32は、次に、スキャン機構31によるスキャン角度を変更し(ステップS205)、ステップS202の処理に戻る。
一方、全画素についてのスキャンが完了したと判断した場合(ステップS204;Y)、ラインレーザキャリブレーション部32は、レーザ30を停止する(ステップS206)。次に、ラインレーザキャリブレーション部32は、補正用データ保持部33に保持された参照データと現データとから補正パラメータを生成する(ステップS207)。次に、ステレオカメラ10で計測対象物の撮像画像をキャプチャする(ステップS208)。次に、パラメータ補正部21で補正パラメータを使い、生成済キャリブレーションパラメータを補正する(ステップS209)。次に、歪み補正部20で補正済キャリブレーションパラメータを使い、ステレオカメラ10による撮像画像(ステレオカメラ画像)の歪みを補正する(ステップS210)。次に、ステレオマッチング部22で歪み補正済ステレオ画像から深度画像を生成する(ステップS211)。
次に、ラインレーザキャリブレーション部32は、圧力センサ50からの情報に基づいて深度が変化したか否かを判断する(ステップS212)。深度が変化していないとラインレーザキャリブレーション部32が判断した場合(ステップS212;N)、ステップS208の処理に戻る。一方、深度が変化したとラインレーザキャリブレーション部32が判断した場合(ステップS212;Y)、ステップS201の処理に戻る。
[1.3 効果]
以上説明したように、第1の実施の形態に係る画像処理装置によれば、水深に応じた撮像画像の歪みを正しく補正することが可能となる。
以上説明したように、第1の実施の形態に係る画像処理装置によれば、水深に応じた撮像画像の歪みを正しく補正することが可能となる。
第1の実施の形態に係る画像処理装置によれば、リアルタイムに撮像画像の歪みの変化を計測し、歪み補正部20にフィードバックするため、常に正しく補正した画像で3次元計測が可能となる。その際、3次元計測を行う場所において、容易に撮像画像のキャリブレーションが可能となる。実際に発生する歪みが事前計測と異なっていても、その場(リアルタイム)でキャリブレーションを行えるため正しく補正することが可能となる。
第1の実施の形態に係る画像処理装置によれば、複数の耐圧下でも実データを元に撮像画像のキャリブレーションを行うことが可能になるため、正しく画像を補正することができ、最終的にステレオマッチングにより正しい深度画像を算出することができるようになる。海中で高分解能および高精度な3次元計測技術としてステレオカメラ方式を使用した際に、耐圧の影響で発生する画像歪みによる測距エラーの課題に対し、レーザ30とスキャン機構31とを用いてキャリブレーションを行うことにより、容易かつリアルタイムに正しく補正することが可能になる。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。以降の他の実施の形態の効果についても同様である。
<2.第2の実施の形態>
次に、本開示の第2の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1の実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
次に、本開示の第2の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1の実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
図10は、第2の実施の形態に係る画像処理装置の一構成例を概略的に示している。図11は、第2の実施の形態に係る画像処理装置が適用される自律型水中ロボット1の一構成例を概略的に示している。
第2の実施の形態に係る画像処理装置は、上記第1の実施の形態に係る画像処理装置の構成(図1)に対して、パターンプロジェクタ40が追加された構成となっている。
パターンプロジェクタ40は、計測対象物に所定のパターンを照射する(図11の右側)。これにより、計測対象物がステレオマッチングが不得意なテクスチャのないものであっても、ステレオマッチングに適したテクスチャを投影することで、正しく3次元計測することが可能となる。なお、図11の左側に示したように、キャリブレーションを行う際には、上記第1の実施の形態に係る画像処理装置と同様に、レーザ30を使用する。
その他の構成、動作および効果は、上記第1の実施の形態に係る画像処理装置、および画像処理方法と略同様であってもよい。
<3.第3の実施の形態>
次に、本開示の第3の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1または第2の実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
次に、本開示の第3の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1または第2の実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
図12は、第3の実施の形態に係る画像処理装置の一構成例を概略的に示している。
第3の実施の形態に係る画像処理装置は、上記第1の実施の形態に係る画像処理装置の構成(図1)に対して、2つのパターンプロジェクタ41,42が追加された構成となっている。2つのパターンプロジェクタ41,42は、計測対象物に互いに波長帯の異なる所定のパターンを照射可能となっている。例えば、パターンプロジェクタ41は、530nm帯の所定のパターンを照射可能であってもよい。パターンプロジェクタ42は、850nm帯の所定のパターンを照射可能であってもよい。
なお、3つ以上のパターンプロジェクタを備え、波長帯の異なる3つ以上の所定のパターンを照射可能な構成であってもよい。
ラインレーザキャリブレーション部32は、耐圧がかかった状態(第2の水深)におけるステレオカメラ10によるラインレーザ光L1およびラインレーザ光L2の撮像画像に基づいて水中の濁度を推測し、推測した水中の濁度に基づいて、2つのパターンプロジェクタ41,42のうちいずれか1つを所定のパターンを照射するパターンプロジェクタとして選択する。
第3の実施の形態に係る画像処理装置では、光の波長が青(440nm帯)に近いほど水中での吸収率が低いため光の到達距離が長くなる現象と、水中の濁度が高い環境では光の波長に依存して後方散乱光量が異なる(近赤外帯は可視帯より少ない)ことを活用する。ラインレーザキャリブレーション部32で2つのラインレーザ光L1,L2を照射した場合の光の到達距離を、ステレオカメラ10でキャプチャした画像から推測し、さらに水中の濁度を推測する。濁度が低い場合は水中での吸収率が少ない530nm帯のパターンプロジェクタ41、高い場合は530nm帯では後方散乱光が多くパターンが不明確になるため後方散乱光の少ない850nm帯のパターンプロジェクタ42に切り替えて使用することによりロバスト性の高い3次元計測が可能となる。
その他の構成、動作および効果は、上記第1の実施の形態に係る画像処理装置、および画像処理方法と略同様であってもよい。
<4.第4の実施の形態>
次に、本開示の第4の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1ないし第3のいずれかの実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
次に、本開示の第4の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1ないし第3のいずれかの実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
図13は、第4の実施の形態に係る画像処理装置における補正用データ保持部33に保持される情報の一例を示している。
第4の実施の形態に係る画像処理装置の基本的な構成は、第3の実施の形態に係る画像処理装置の構成(図12)と略同様であってもよい。ただし、第4の実施の形態に係る画像処理装置では、図13に示したように、補正用データ保持部33が保持する情報として、図7に示した情報に加えて、深度(水深)情報を保持する。補正用データ保持部33は、ラインレーザキャリブレーション部32で生成された補正用データ(補正パラメータ)を第2の水深(深い水深)の深度情報に関連付けて保持する
深度が変わるごとにラインレーザキャリブレーションを行うと、画像処理装置を搭載したロボット等の機器の活動時間に影響が出てしまう。このため、1度ラインレーザキャリブレーションを行った深度(水深)では再度ラインレーザキャリブレーションを行わないようにしてもよい。補正用データ保持部33には、圧力センサ50から推測された深度情報と合わせて補正パラメータの保持を行う。1度ラインレーザキャリブレーションを行った深度(水深)では、補正用データ保持部33に保持済みの補正パラメータに基づいて撮像画像の歪みを補正するようにしてもよい。
その他の構成、動作および効果は、上記第1の実施の形態または第4の実施の形態に係る画像処理装置、および画像処理方法と略同様であってもよい。
<5.第5の実施の形態>
次に、本開示の第5の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1ないし第4のいずれかの実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
次に、本開示の第5の実施の形態に係る画像処理装置、および画像処理方法について説明する。なお、以下では、上記第1ないし第4のいずれかの実施の形態に係る画像処理装置、および画像処理方法の構成要素と略同じ部分については、同一符号を付し、適宜説明を省略する。
図14は、第5の実施の形態に係る画像処理装置の一構成例を概略的に示している。図15は、第5の実施の形態に係る画像処理装置が適用される自律型水中ロボット1の一構成例を概略的に示している。
第5の実施の形態に係る画像処理装置は、上記第1の実施の形態に係る画像処理装置の構成(図1)に対して、パターンプロジェクタ40とZ距離推定部60とが、追加された構成となっている。
Z距離推定部60は、耐圧がかかった状態(第2の水深)におけるステレオカメラ10によるラインレーザ光L1およびラインレーザ光L2の撮像画像に基づいて、計測対象物までの距離Zを推定する。ステレオマッチング部22は、Z距離推定部60によって推定された距離Zに基づいて、深度画像を生成する計測対象物の探索範囲を設定する。
第5の実施の形態に係る画像処理装置は、図15に示したように、ダムの壁70などの平面状の物を測距する場合に好適である。2つのラインレーザ光L1,L2を壁70に照射し、ステレオカメラ10によってキャプチャすることで、壁70に照射した2つのラインレーザ光L1,L2が照射された複数のポイントに基づいて、三角測量により壁70までの距離Zを推定することが可能となる。一般的に、ブロックマッチングを使用したステレオ測距では、有限なメモリリソースや高速化のため測距可能な範囲を限定的にしている。そこで壁70までの推定距離を使用して、ステレオマッチング部22による探索範囲をさらに限定的にすることにより、さらなる低リソース化、および高速化が可能となる。またステレオマッチング部22による探索範囲を限定することのメリットとして、誤マッチングによる距離推定エラーを防ぐといったロバスト性向上も期待ができる。
図16は、第5の実施の形態に係る画像処理装置において、深度画像を生成する処理の一例を示すフローチャートである。
まず、レーザ30およびスキャン機構31によって、2つのラインレーザ光L1,L2を照射する(ステップS301)。次に、Z距離推定部60は、2つのラインレーザ光L1,L2のキャプチャ画像から壁70との距離Zを推定する(ステップS302)。次に、ステレオマッチング部22の探索範囲を距離Zに最適化する(ステップS303)。
次に、パターンプロジェクタ40によって壁70に所定のパターンを照射する(ステップS304)。次に、ステレオマッチング部22によってステレオ測距を行う(ステップS305)。次に、ステレオマッチング部22は、ロバストな深度画像を生成する(ステップS306)。
その他の構成、動作および効果は、上記第1の実施の形態または第2の実施の形態に係る画像処理装置、および画像処理方法と略同様であってもよい。
<6.その他の実施の形態>
本開示による技術は、上記各実施の形態の説明に限定されず種々の変形実施が可能である。
本開示による技術は、上記各実施の形態の説明に限定されず種々の変形実施が可能である。
例えば、本技術は以下のような構成を取ることもできる。
以下の構成の本技術によれば、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する。これにより、水深に応じた撮像画像の歪みを正しく補正することが可能となる。
以下の構成の本技術によれば、第1の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第1の情報と、画像センサによって計測対象物を撮像する際の水深である第2の水深において画像センサによって第1のレーザ光および第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、第2の水深における画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する。これにより、水深に応じた撮像画像の歪みを正しく補正することが可能となる。
(1)
水中における計測対象物を撮像する画像センサと、
水中において第1のレーザ光を出射する第1のレーザ光源と、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射する第2のレーザ光源と、
第1の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって前記計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する補正用データ生成部と
を備える
画像処理装置。
(2)
前記補正用データ生成部によって生成された前記補正用データに基づいて、前記画像センサによる前記撮像画像の歪みを補正するために用いられるキャリブレーションパラメータを補正するパラメータ補正部、をさらに備える
上記(1)に記載の画像処理装置。
(3)
前記パラメータ補正部によって補正された前記キャリブレーションパラメータに基づいて、前記画像センサによって撮像された前記計測対象物の撮像画像の歪みを補正する歪み補正部、をさらに備える
上記(2)に記載の画像処理装置。
(4)
前記歪み補正部によって補正された前記計測対象物の撮像画像に基づいて深度画像を生成する深度画像生成部、をさらに備える
上記(3)に記載の画像処理装置。
(5)
前記第2の水深における前記画像センサによる前記第1のレーザ光および前記第2のレーザ光の撮像画像に基づいて、前記計測対象物までの距離を推定する距離推定部、をさらに備え、
前記深度画像生成部は、前記距離推定部によって推定された距離に基づいて、前記深度画像を生成する前記計測対象物の探索範囲を設定する
上記(4)に記載の画像処理装置。
(6)
前記補正用データ生成部は、前記第1の水深において前記画像センサによって撮像された前記第1のレーザ光と前記第2のレーザ光との第1の交点の情報を前記第1の情報として取得すると共に、前記第2の水深において前記画像センサによって撮像された前記第1のレーザ光と前記第2のレーザ光との前記第1の交点に相当する第2の交点の情報を前記第2の情報として取得し、前記画像センサによる撮像画像上における前記第1の交点と前記第2の交点との移動量の情報に基づいて、前記補正用データを生成する
上記(1)ないし(5)のいずれか1つに記載の画像処理装置。
(7)
前記第1のレーザ光源から出射された前記第1のレーザ光をスキャンする第1のスキャン機構と、
前記第2のレーザ光源から出射された前記第2のレーザ光をスキャンする第2のスキャン機構と
をさらに備え、
前記補正用データ生成部は、前記画像センサによる前記撮像画像上の全画素において前記第1の交点の情報と前記第2の交点の情報とが得られるように、前記第1のスキャン機構と前記第2のスキャン機構とをスキャン制御する
上記(6)に記載の画像処理装置。
(8)
前記第1の交点の情報と前記第2の交点の情報との情報をそれぞれ、前記第1のスキャン機構による第1のスキャン角度の情報と前記第2のスキャン機構による第2のスキャン角度の情報とに関連付けて保持する補正用データ保持部、をさらに備える
上記(7)に記載の画像処理装置。
(9)
前記補正用データ保持部は、前記補正用データを前記第2の水深の深度情報に関連付けて保持する
上記(8)に記載の画像処理装置。
(10)
前記計測対象物に所定のパターンを照射するパターンプロジェクタ、をさらに備える
上記(1)ないし(9)のいずれか1つに記載の画像処理装置。
(11)
前記計測対象物に互いに波長帯の異なる所定のパターンを照射する複数のパターンプロジェクタ、をさらに備える
上記(1)ないし(10)のいずれか1つに記載の画像処理装置。
(12)
前記補正用データ生成部は、前記第2の水深における前記画像センサによる前記第1のレーザ光および前記第2のレーザ光の撮像画像に基づいて水中の濁度を推測し、推測した前記水中の濁度に基づいて、前記複数のパターンプロジェクタのうちいずれか1つを前記所定のパターンを照射するパターンプロジェクタとして選択する
上記(11)に記載の画像処理装置。
(13)
水中における計測対象物を画像センサによって撮像することと、
水中において第1のレーザ光を出射することと、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、
第1の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって前記計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することと
を含む
画像処理方法。
(14)
水中において第1のレーザ光を出射することと、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、
第1の水深において画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することと
を含む処理をコンピュータに実行させるためのプログラム。
水中における計測対象物を撮像する画像センサと、
水中において第1のレーザ光を出射する第1のレーザ光源と、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射する第2のレーザ光源と、
第1の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって前記計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する補正用データ生成部と
を備える
画像処理装置。
(2)
前記補正用データ生成部によって生成された前記補正用データに基づいて、前記画像センサによる前記撮像画像の歪みを補正するために用いられるキャリブレーションパラメータを補正するパラメータ補正部、をさらに備える
上記(1)に記載の画像処理装置。
(3)
前記パラメータ補正部によって補正された前記キャリブレーションパラメータに基づいて、前記画像センサによって撮像された前記計測対象物の撮像画像の歪みを補正する歪み補正部、をさらに備える
上記(2)に記載の画像処理装置。
(4)
前記歪み補正部によって補正された前記計測対象物の撮像画像に基づいて深度画像を生成する深度画像生成部、をさらに備える
上記(3)に記載の画像処理装置。
(5)
前記第2の水深における前記画像センサによる前記第1のレーザ光および前記第2のレーザ光の撮像画像に基づいて、前記計測対象物までの距離を推定する距離推定部、をさらに備え、
前記深度画像生成部は、前記距離推定部によって推定された距離に基づいて、前記深度画像を生成する前記計測対象物の探索範囲を設定する
上記(4)に記載の画像処理装置。
(6)
前記補正用データ生成部は、前記第1の水深において前記画像センサによって撮像された前記第1のレーザ光と前記第2のレーザ光との第1の交点の情報を前記第1の情報として取得すると共に、前記第2の水深において前記画像センサによって撮像された前記第1のレーザ光と前記第2のレーザ光との前記第1の交点に相当する第2の交点の情報を前記第2の情報として取得し、前記画像センサによる撮像画像上における前記第1の交点と前記第2の交点との移動量の情報に基づいて、前記補正用データを生成する
上記(1)ないし(5)のいずれか1つに記載の画像処理装置。
(7)
前記第1のレーザ光源から出射された前記第1のレーザ光をスキャンする第1のスキャン機構と、
前記第2のレーザ光源から出射された前記第2のレーザ光をスキャンする第2のスキャン機構と
をさらに備え、
前記補正用データ生成部は、前記画像センサによる前記撮像画像上の全画素において前記第1の交点の情報と前記第2の交点の情報とが得られるように、前記第1のスキャン機構と前記第2のスキャン機構とをスキャン制御する
上記(6)に記載の画像処理装置。
(8)
前記第1の交点の情報と前記第2の交点の情報との情報をそれぞれ、前記第1のスキャン機構による第1のスキャン角度の情報と前記第2のスキャン機構による第2のスキャン角度の情報とに関連付けて保持する補正用データ保持部、をさらに備える
上記(7)に記載の画像処理装置。
(9)
前記補正用データ保持部は、前記補正用データを前記第2の水深の深度情報に関連付けて保持する
上記(8)に記載の画像処理装置。
(10)
前記計測対象物に所定のパターンを照射するパターンプロジェクタ、をさらに備える
上記(1)ないし(9)のいずれか1つに記載の画像処理装置。
(11)
前記計測対象物に互いに波長帯の異なる所定のパターンを照射する複数のパターンプロジェクタ、をさらに備える
上記(1)ないし(10)のいずれか1つに記載の画像処理装置。
(12)
前記補正用データ生成部は、前記第2の水深における前記画像センサによる前記第1のレーザ光および前記第2のレーザ光の撮像画像に基づいて水中の濁度を推測し、推測した前記水中の濁度に基づいて、前記複数のパターンプロジェクタのうちいずれか1つを前記所定のパターンを照射するパターンプロジェクタとして選択する
上記(11)に記載の画像処理装置。
(13)
水中における計測対象物を画像センサによって撮像することと、
水中において第1のレーザ光を出射することと、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、
第1の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって前記計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することと
を含む
画像処理方法。
(14)
水中において第1のレーザ光を出射することと、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、
第1の水深において画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することと
を含む処理をコンピュータに実行させるためのプログラム。
1…自律型水中ロボット(Autonomous Underwater Vehicle:AUV)、10…ステレオカメラ(画像センサ)、10L…左カメラ(画像センサ)、10R…右カメラ(画像センサ)、11L…左カメラ10Lの視野範囲、11R…右カメラ10Rの視野範囲、20…歪み補正部、20L…歪み補正部(左カメラ用の歪み補正部)、20R…歪み補正部(右カメラ用の歪み補正部)、21…パラメータ補正部、22…ステレオマッチング部(深度画像生成部)、23…生成済(基準)キャリブレーションパラメータ保持部、30…レーザ(レーザ光源)、30L…左レーザ(第1のレーザ光源)、30R…右レーザ(第2のレーザ光源)、31…スキャン機構、31L…左スキャンミラー(第1のスキャン機構)、31R…右スキャンミラー(第2のスキャン機構)、32…ラインレーザキャリブレーション部(補正用データ生成部)、33…補正用データ保持部、40…パターンプロジェクタ、41…パターンプロジェクタ(530nm)、42…パターンプロジェクタ(850nm)、50…圧力センサ(水圧計)、60…Z距離推定部、70…壁(計測対象物、ダムなどの壁)、L1…ラインレーザ光(第1のレーザ光)、L2…ラインレーザ光(第2のレーザ光)。
Claims (14)
- 水中における計測対象物を撮像する画像センサと、
水中において第1のレーザ光を出射する第1のレーザ光源と、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射する第2のレーザ光源と、
第1の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって前記計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成する補正用データ生成部と
を備える
画像処理装置。 - 前記補正用データ生成部によって生成された前記補正用データに基づいて、前記画像センサによる前記撮像画像の歪みを補正するために用いられるキャリブレーションパラメータを補正するパラメータ補正部、をさらに備える
請求項1に記載の画像処理装置。 - 前記パラメータ補正部によって補正された前記キャリブレーションパラメータに基づいて、前記画像センサによって撮像された前記計測対象物の撮像画像の歪みを補正する歪み補正部、をさらに備える
請求項2に記載の画像処理装置。 - 前記歪み補正部によって補正された前記計測対象物の撮像画像に基づいて深度画像を生成する深度画像生成部、をさらに備える
請求項3に記載の画像処理装置。 - 前記第2の水深における前記画像センサによる前記第1のレーザ光および前記第2のレーザ光の撮像画像に基づいて、前記計測対象物までの距離を推定する距離推定部、をさらに備え、
前記深度画像生成部は、前記距離推定部によって推定された距離に基づいて、前記深度画像を生成する前記計測対象物の探索範囲を設定する
請求項4に記載の画像処理装置。 - 前記補正用データ生成部は、前記第1の水深において前記画像センサによって撮像された前記第1のレーザ光と前記第2のレーザ光との第1の交点の情報を前記第1の情報として取得すると共に、前記第2の水深において前記画像センサによって撮像された前記第1のレーザ光と前記第2のレーザ光との前記第1の交点に相当する第2の交点の情報を前記第2の情報として取得し、前記画像センサによる撮像画像上における前記第1の交点と前記第2の交点との移動量の情報に基づいて、前記補正用データを生成する
請求項1に記載の画像処理装置。 - 前記第1のレーザ光源から出射された前記第1のレーザ光をスキャンする第1のスキャン機構と、
前記第2のレーザ光源から出射された前記第2のレーザ光をスキャンする第2のスキャン機構と
をさらに備え、
前記補正用データ生成部は、前記画像センサによる前記撮像画像上の全画素において前記第1の交点の情報と前記第2の交点の情報とが得られるように、前記第1のスキャン機構と前記第2のスキャン機構とをスキャン制御する
請求項6に記載の画像処理装置。 - 前記第1の交点の情報と前記第2の交点の情報との情報をそれぞれ、前記第1のスキャン機構による第1のスキャン角度の情報と前記第2のスキャン機構による第2のスキャン角度の情報とに関連付けて保持する補正用データ保持部、をさらに備える
請求項7に記載の画像処理装置。 - 前記補正用データ保持部は、前記補正用データを前記第2の水深の深度情報に関連付けて保持する
請求項8に記載の画像処理装置。 - 前記計測対象物に所定のパターンを照射するパターンプロジェクタ、をさらに備える
請求項1に記載の画像処理装置。 - 前記計測対象物に互いに波長帯の異なる所定のパターンを照射する複数のパターンプロジェクタ、をさらに備える
請求項1に記載の画像処理装置。 - 前記補正用データ生成部は、前記第2の水深における前記画像センサによる前記第1のレーザ光および前記第2のレーザ光の撮像画像に基づいて水中の濁度を推測し、推測した前記水中の濁度に基づいて、前記複数のパターンプロジェクタのうちいずれか1つを前記所定のパターンを照射するパターンプロジェクタとして選択する
請求項11に記載の画像処理装置。 - 水中における計測対象物を画像センサによって撮像することと、
水中において第1のレーザ光を出射することと、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、
第1の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって前記計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することと
を含む
画像処理方法。 - 水中において第1のレーザ光を出射することと、
水中において前記第1のレーザ光源とは異なる位置から第2のレーザ光を出射することと、
第1の水深において画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第1の情報と、前記画像センサによって計測対象物を撮像する際の水深である第2の水深において前記画像センサによって前記第1のレーザ光および前記第2のレーザ光を撮像することによって取得された第2の情報とに基づいて、前記第2の水深における前記画像センサによる撮像画像の歪みを補正するために用いられる補正用データを生成することと
を含む処理をコンピュータに実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021134585A JP2023028713A (ja) | 2021-08-20 | 2021-08-20 | 画像処理装置、および画像処理方法ならびにプログラム |
PCT/JP2022/011861 WO2023021765A1 (ja) | 2021-08-20 | 2022-03-16 | 画像処理装置、および画像処理方法ならびにプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021134585A JP2023028713A (ja) | 2021-08-20 | 2021-08-20 | 画像処理装置、および画像処理方法ならびにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023028713A true JP2023028713A (ja) | 2023-03-03 |
Family
ID=85240286
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021134585A Pending JP2023028713A (ja) | 2021-08-20 | 2021-08-20 | 画像処理装置、および画像処理方法ならびにプログラム |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2023028713A (ja) |
WO (1) | WO2023021765A1 (ja) |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4827193B2 (ja) * | 2007-03-23 | 2011-11-30 | オリンパスイメージング株式会社 | 電子撮像装置 |
JP2009200589A (ja) * | 2008-02-19 | 2009-09-03 | Sanyo Electric Co Ltd | 画像処理装置およびその色補正撮影方法 |
JP5467548B2 (ja) * | 2010-05-22 | 2014-04-09 | 独立行政法人海洋研究開発機構 | 画像処理システム及び方法 |
JP5458270B2 (ja) * | 2010-07-09 | 2014-04-02 | 独立行政法人土木研究所 | 水中構造物点検システム及び画像処理装置 |
JP6940843B2 (ja) * | 2014-11-18 | 2021-09-29 | 朝日航洋株式会社 | 水底観測システム |
WO2017145202A1 (ja) * | 2016-02-26 | 2017-08-31 | パナソニックIpマネジメント株式会社 | 検査システム、検査方法および検査プログラム |
-
2021
- 2021-08-20 JP JP2021134585A patent/JP2023028713A/ja active Pending
-
2022
- 2022-03-16 WO PCT/JP2022/011861 patent/WO2023021765A1/ja unknown
Also Published As
Publication number | Publication date |
---|---|
WO2023021765A1 (ja) | 2023-02-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6299111B2 (ja) | レーザ加工装置 | |
US8295587B2 (en) | Image processing apparatus, image processing method, image processing program and position detecting apparatus as well as mobile object having the same | |
JP5140761B2 (ja) | 測定システムを較正する方法、コンピュータプログラム、電子制御装置、及び、測定システム | |
CN107505324B (zh) | 基于双目协同激光的3d扫描装置及扫描方法 | |
CN103649674B (zh) | 测量设备以及信息处理设备 | |
EP2751521B1 (en) | Method and system for alignment of a pattern on a spatial coded slide image | |
JP3930482B2 (ja) | 3次元視覚センサ | |
US20150146215A1 (en) | Three-dimensional shape measurement apparatus and control method thereof | |
US20110096182A1 (en) | Error Compensation in Three-Dimensional Mapping | |
US8451878B2 (en) | Surface profile inspection device | |
JP2001116526A (ja) | 3次元形状計測装置 | |
JP2006252473A (ja) | 障害物検出装置、キャリブレーション装置、キャリブレーション方法およびキャリブレーションプログラム | |
JP2014006179A (ja) | ステレオカメラキャリブレーション装置及び方法、並びに距離測定装置 | |
JP2009115512A (ja) | 物品検査方法 | |
US20200193568A1 (en) | Multi-projection system, image projection method and projector | |
US10277884B2 (en) | Method and apparatus for acquiring three-dimensional image, and computer readable recording medium | |
JP4379626B2 (ja) | 3次元形状計測方法及びその装置 | |
WO2023021765A1 (ja) | 画像処理装置、および画像処理方法ならびにプログラム | |
So et al. | Calibration of a dual-laser triangulation system for assembly line completeness inspection | |
KR20090082816A (ko) | 평행한 레이저 빔을 이용한 다중 카메라 교정 방법 및시스템 | |
WO2019087253A1 (ja) | ステレオカメラのキャリブレーション方法 | |
JP2011053025A (ja) | 距離計測装置および距離計測方法 | |
KR20200032442A (ko) | 자기보정이 가능한 3차원 정보 생성 장치 및 방법 | |
JP2004309318A (ja) | 位置検出方法、その装置及びそのプログラム、並びに、較正情報生成方法 | |
JP6969619B2 (ja) | 校正方法 |