JP6922399B2 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents
画像処理装置、画像処理方法及び画像処理プログラム Download PDFInfo
- Publication number
- JP6922399B2 JP6922399B2 JP2017096212A JP2017096212A JP6922399B2 JP 6922399 B2 JP6922399 B2 JP 6922399B2 JP 2017096212 A JP2017096212 A JP 2017096212A JP 2017096212 A JP2017096212 A JP 2017096212A JP 6922399 B2 JP6922399 B2 JP 6922399B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- scene
- feature amount
- stereo
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 272
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000000034 method Methods 0.000 claims description 306
- 230000008569 process Effects 0.000 claims description 211
- 238000012937 correction Methods 0.000 claims description 202
- 238000005259 measurement Methods 0.000 claims description 119
- 238000004458 analytical method Methods 0.000 claims description 44
- 238000012549 training Methods 0.000 claims description 18
- 239000002131 composite material Substances 0.000 claims description 5
- 230000015572 biosynthetic process Effects 0.000 claims description 4
- 238000003786 synthesis reaction Methods 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 238000012986 modification Methods 0.000 description 30
- 230000004048 modification Effects 0.000 description 30
- 238000003702 image correction Methods 0.000 description 29
- 238000004891 communication Methods 0.000 description 23
- 238000010586 diagram Methods 0.000 description 22
- 238000011156 evaluation Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 21
- 238000003909 pattern recognition Methods 0.000 description 18
- 238000004364 calculation method Methods 0.000 description 16
- 238000012706 support-vector machine Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 10
- 238000004590 computer program Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 238000013139 quantization Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000000717 retained effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 241000282320 Panthera leo Species 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003708 edge detection Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- HAHMABKERDVYCH-ZUQRMPMESA-N neticonazole hydrochloride Chemical compound Cl.CCCCCOC1=CC=CC=C1\C(=C/SC)N1C=NC=C1 HAHMABKERDVYCH-ZUQRMPMESA-N 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Landscapes
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
上記第1画像が撮影された撮影環境と、上記第2画像が撮影された撮影環境とに応じて、上記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定し、
上記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御することを含む。
以下、本開示に係る技術を実現可能な第1の実施形態(第1実施形態)について説明する。以下において説明する画像処理装置は、単体の装置(物理的又は仮想的な装置)として実装されてもよく、複数の離間した装置(物理的又は仮想的な装置)を用いたシステムとして実装されてもよい。画像処理装置が、複数の装置を用いて実装される場合、各装置の間は有線、無線、又はそれらを適切に組み合わせた通信ネットワークにより通信可能に接続されてもよい。以下において説明する画像処理装置を実現可能なハードウェア構成については、後述する。
以下、画像処理装置100を実現可能な具体例について説明する。
適切性判定部101は、第1の判定処理として、画像提供装置200から提供されたステレオ画像に関するヒストグラムを用いて、そのステレオ画像の適切性を判定してもよい。以下、第1の判定処理について、図6に示す説明図を用いて説明する。
図6に示す具体例の場合、ステレオ画像Aから生成された第1ヒストグラムAと、第2ヒストグラムAとは、比較的類似した形状である。適切性判定部101は、例えば、類似性判定処理S602において、第1ヒストグラムAと、第2ヒストグラムAとの間の類似度を表すスコア値を”0.9”と算出する。一方、上記したように、第2画像Bは、逆光(光源が画像に移り込んでいる)状態で撮影された画像であり、第1ヒストグラムBと、第2ヒストグラムBとは非類似である。適切性判定部101は、例えば、類似性判定処理S602において、第1ヒストグラムBと、第2ヒストグラムBとの間の類似度を表すスコアスコア値を”0.4”と算出する。
適切性判定部101は、第2の判定処理として、パターン認識技術を用いて、あるステレオ画像が距離の計測に適しているか否かを判定してもよい。
(参考文献3):佐藤 敦、”一般化学習ベクトル量子化による画像認識”、精密工学会誌、Vol.83(2017)No.4、p.335−340.
(参考文献4):岡谷貴之、”深層学習”、講談社、2015年4月、p.23−53、79−110
これらのパターン認識技術が用いられる場合、まず、学習フェーズにおいて、学習データを用いたモデル(適切性判定モデル)の学習処理が実行される。そして、運用フェーズ(評価フェーズ)において、学習済みモデルを用いて、評価データ(本実施形態の場合は、画像提供装置200から提供されるステレオ画像)が評価される。
適切性判定部101は、第3の判定処理として、ステレオ画像に含まれる画像の特徴点を用いて、そのステレオ画像が距離の計測に適しているか否かを判定してもよい。特徴点を検出する方法は特に限定されず、適切に選択されてよい。
以下、SIFT特徴点を用いる場合の第3の判定処理について、図8に示す説明図を用いて説明する。
以下、出力部102によるアラート処理の具体例について説明する。なお、以下に記載する具体例は、説明のための一例であり、本実施形態はこれに限定されるものではない。
以下、本開示に係る技術を実現可能な第2の実施形態(第2実施形態)について説明する。
以下、第2実施形態の変形例について説明する。本変形例における画像処理装置1000の構成は図10に例示する構成と同様としてよい。本変形例においては、適切性判定部1001及び補正部1003の処理が、第2実施形態と一部相違する。
以下、本開示に係る技術を実現可能な第3の実施形態(第3実施形態)について説明する。
以下、図15に例示する説明図を用いて、シーン判定処理、及び、シーンに応じたステレオ画像の補正処理について説明する。
以下、第3実施形態に関する第1の変形例について説明する。本変形例における画像処理装置1400の構成は図14に例示する構成と同様としてよい。本変形例においては、適切性判定部1401及びシーン解析部1403の処理が、第3実施形態と一部相違する。本変形例において、画像処理装置1400は、第2実施形態における明るさ補正処理の代わりに、第3実施形態におけるシーン判定及びシーンごとの画像補正処理を実行する。
以下、第3実施形態に関する第2の変形例について説明する。本変形例における画像処理装置1400の構成は図14に例示する構成と同様としてよい。本変形例においては、適切性判定部1401及びシーン解析部1403の処理が、第3実施形態と一部相違する。本変形例において、画像処理装置1400は、第2実施形態の変形例における明るさ補正処理の代わりに、第3実施形態におけるシーン判定及びシーンごとの画像補正処理を実行する。
以下、本開示に係る技術を実現可能な第4の実施形態(第4実施形態)について説明する。
以下、上記説明した各実施形態及び変形例を実現可能なハードウェア構成について説明する。以下の説明においては、上記各実施形態において説明した各画像処理装置(100、1000、1400、1800)を、まとめて「画像処理装置」と記載する。
第1画像及び第2画像を含むステレオ画像を受けつけ、上記第1画像が撮影された撮影環境と、上記第2画像が撮影された撮影環境とに応じて、上記ステレオ画像について、撮影された対象物に対する距離の計測に適しているか否かを判定する適切性判定手段と、
上記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御可能な出力手段と、を備える
画像処理装置。
上記適切性判定手段は、
上記第1画像を表す第1特徴量と、上記第2画像を表す第2特徴量とを抽出し、
上記第1特徴量及び上記第2特徴量を用いて、上記第1画像及び上記第2画像に関する撮影環境の類似性を判定するか、又は、
上記第1特徴量及び上記第2特徴量の少なくとも一方を用いて、上記第1画像及び上記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定する
付記1に記載の画像処理装置。
上記適切性判定手段は、
上記第1特徴量と、上記第2特徴量とに基づいて、上記第1画像に関する撮影環境と、上記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、上記ステレオ画像が距離の計測に適しているか否かを判定する
付記2に記載の画像処理装置。
上記適切性判定手段は、距離の計測に適しているか否かを表す教師ラベルが付与された画像を学習データとして、ある上記ステレオ画像が距離の計測に適した撮影環境における画像であるか否かを判定するよう学習されたモデルである適切性判定モデルと、上記第1特徴量及び上記第2特徴量と、を用いて、上記第1画像及び上記第2画像が、距離の計測に適した撮影環境における画像に分類されるか否かを判定可能なスコアを算出し、そのスコアの値に応じて、上記ステレオ画像が距離の計測に適しているか否かを判定する
付記2に記載の画像処理装置。
ある上記ステレオ画像に含まれる上記第1画像と、上記第2画像との少なくとも一方について、輝度とコントラストとの少なくとも一方を補正する第1補正処理を適用する補正手段を更に備え、
上記補正手段は、上記適切性判定手段により距離の計測に不適切であると判定された上記第1画像と、上記適切性判定手段により距離の計測に不適切であると判定された上記第2画像と、の少なくとも一方について上記第1補正処理を実行し、
上記適切性判定手段は、上記補正手段による補正後の上記第1画像に関する上記第1特徴量と、上記補正手段による補正後の上記第2画像に関する上記第2特徴量と、の少なくとも一方を用いて、上記スコアを算出し、そのスコアに基づいて、上記ステレオ画像の距離の計測に関する適切性を再度判定する
付記3又は4に記載の画像処理装置。
ある上記ステレオ画像に含まれる上記第1画像と、上記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、上記シーンに応じて、上記第1画像と、上記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行可能なシーン解析手段を更に備え、
上記適切性判定手段は、上記シーン解析手段による補正後の上記第1画像に関する上記第1特徴量と、上記シーン解析手段による補正後の上記第2画像に関する上記第2特徴量と、の少なくとも一方を用いて、上記スコアを算出し、そのスコアに基づいて、上記ステレオ画像の距離の計測に関する適切性を判定する
付記3又は4に記載の画像処理装置。
上記シーン解析手段は、
上記第2補正処理に用いられる補正パラメータを、上記シーンごとに保持し、
上記シーンを特定可能な教師ラベルが付与された画像を学習データとして、上記第1画像及び上記第2画像が含まれる上記シーンを判定可能に学習されたシーン判定モデルを用いて、上記第1画像及び上記第2画像について、それぞれ上記シーンを判定し、
判定した上記シーンに応じた上記補正パラメータを用いて、上記第1画像と、上記第2画像との少なくとも一方について、上記第2補正処理を実行する
付記6に記載の画像処理装置。
上記シーン解析手段は、
上記第2補正処理に用いられる補正パラメータを、上記シーンごとに保持し、
上記シーンを特定可能な教師ラベルが付与された画像を学習データとして、上記第1画像及び上記第2画像について、上記シーンに含まれることの尤もらしさを表す帰属度を算出可能に学習されたモデルであるシーン判定モデルを用いて、上記第1画像と、上記第2画像とについて、各上記シーンに関する帰属度を算出し、
上記シーンごとに保持している上記補正パラメータを、上記シーンごとの帰属度に応じて合成することで、上記第2補正処理に用いられる合成パラメータを生成し、
上記合成パラメータを用いて、上記第1画像と、上記第2画像との少なくとも一方について、上記第2補正処理を実行する
付記6に記載の画像処理装置。
上記出力手段は、ある上記ステレオ画像が、距離の計測に不適切であると判定された場合、
当該ステレオ画像を用いた距離の計測を抑制し、当該ステレオ画像が距離の計測に不適切であることを提示するアラート処理を実行する
付記1乃至付記8のいずれかに記載の画像処理装置。
第1画像及び第2画像を含むステレオ画像を受けつけ、
上記第1画像が撮影された撮影環境と、上記第2画像が撮影された撮影環境とに応じて、上記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定し、
上記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御する、
画像処理方法。
画像処理装置を構成するコンピュータに、
第1画像及び第2画像を含むステレオ画像を受けつける処理と、
上記第1画像が撮影された撮影環境と、上記第2画像が撮影された撮影環境とに応じて、上記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定する処理と、
上記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御する処理と、を実行させる
画像処理プログラム。
上記適切性判定手段は、
上記第1特徴量として、上記第1画像の画素値に関する第1ヒストグラムを算出し、
上記第2特徴量として、上記第2画像の画素値に関する第2ヒストグラムを算出し、
上記第1ヒストグラムと上記第2ヒストグラムとの類似性を表す上記スコアを算出する
付記3に記載の画像処理装置。
上記適切性判定手段は、
上記第1画像及び上記第2画像から、それぞれ複数の上記第1特徴量と、上記第2特徴量とを、抽出し、
上記第1特徴量と、上記第2特徴量との間の距離に基づいて、上記第1画像と上記第2画像とにおいて対応する上記第1特徴量及び上記第2特徴量の組である特徴点ペアを特定し、
1以上の上記特徴点ペアに含まれる上記第1特徴量及び上記第2特徴量の間の距離と、上記第1特徴量及び上記第2特徴量の間の距離がある特定の距離以下である上記特徴点ペアの個数と、の少なくとも一方に基づいて、上記スコアを算出する
付記3に記載の画像処理装置。
上記適切性判定モデルは、距離の計測に適していることを表す上記教師ラベルが付与された画像と、距離の計測に不適切であることを表す上記教師ラベルが付与された画像と、を上記学習データとして用いることで、少なくとも、距離の画像に適した画像を表すカテゴリと、距離の計測に不適切な画像を表すカテゴリとを判定するよう学習された評価関数を含み、
上記適切性判定手段は、上記第1特徴量及び第2特徴量を上記評価関数に入力することで得られる出力を、上記スコアとして算出する
付記4に記載の画像処理装置。
上記第2補正処理は、少なくとも、輝度補正処理と、コントラスト補正処理と、デフォグ処理と、エッジ先鋭化処理との中の1以上の処理を含み、
上記シーン解析手段は、上記第2補正処理において、上記シーンごとに、画像の明度を補正可能な補正パラメータと、彩度を補正可能な補正パラメータと、コントラストを補正可能な補正パラメータと、シャープネスを補正可能な補正パラメータとのうち少なくとも1つを用いて上記第1画像と、上記第2画像との少なくとも一方を補正する
付記6に記載の画像処理装置。
(付記16)
上記出力手段は、ある上記ステレオ画像が、距離の計測に不適切であると判定された場合、
当該ステレオ画像を用いた距離の計測を抑制し、当該ステレオ画像に関して上記適切性判定手段により算出された上記スコアを提示するとともに、当該ステレオ画像が距離の計測に不適切であることを提示するアラート処理を実行する
付記3乃至付記6のいずれかに記載の画像処理装置。
上記出力手段は、ある上記ステレオ画像が、距離の計測に不適切であると判定された場合、上記シーン解析手段により判定された上記シーンに応じて、上記ステレオ画像を撮影した撮影装置における撮影パラメータを制御する
付記6乃至付記8のいずれかに記載の画像処理装置。
ある上記ステレオ画像に含まれる上記第1画像と、上記第2画像との少なくとも一方について、輝度とコントラストとの少なくとも一方を補正する第1補正処理を適用する補正手段を更に備え、
上記補正手段は、上記適切性判定手段により、距離の計測に適切であると判定された上記第1画像及び上記第2画像の少なくとも一方について上記第1補正処理を実行し、
上記適切性判定手段は、上記補正手段による補正後の上記第1画像に関する上記第1特徴量と、上記補正手段による補正後の上記第2画像に関する上記第2特徴量と、の少なくとも一方を用いて、上記スコアを算出し、そのスコアに基づいて、上記ステレオ画像の距離の計測に関する適切性を再度判定する
付記3又は4に記載の画像処理装置。
ある上記ステレオ画像に含まれる上記第1画像と、上記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、上記シーンに応じて、上記第1画像と、上記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行可能なシーン解析手段を更に備え、
上記シーン解析手段は、上記適切性判定手段により、距離の計測に適切であると判定された上記第1画像及び上記第2画像の少なくとも一方について上記第2補正処理を実行し、
上記適切性判定手段は、上記シーン解析手段による補正後の上記第1画像に関する上記第1特徴量と、上記シーン解析手段による補正後の上記第2画像に関する上記第2特徴量と、の少なくとも一方を用いて、上記スコアを算出し、そのスコアに基づいて、上記ステレオ画像の距離の計測に関する適切性を再度判定する
付記3又は4に記載の画像処理装置。
101 適切性判定部
102 出力部
200 画像提供装置
201 カメラ
202 画像提供部
300 距離計測装置
400 表示装置
1000 画像処理装置
1001 適切性判定部
1002 出力部
1003 補正部
1400 画像処理装置
1401 適切性判定部
1402 出力部
1403 シーン解析部
1800 画像処理装置
1801 適切性判定部
1802 出力部
Claims (6)
- 第1画像及び第2画像を含むステレオ画像を受けつけ、前記第1画像が撮影された撮影環境と、前記第2画像が撮影された撮影環境とに応じて、前記ステレオ画像について、撮影された対象物に対する距離の計測に適しているか否かを判定する適切性判定手段と、
前記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御可能な出力手段と、を備え、
前記適切性判定手段は、
前記第1画像を表す特徴量である第1特徴量と、前記第2画像を表す特徴量である第2特徴量とを抽出し、
前記第1特徴量及び前記第2特徴量を用いて、前記第1画像及び前記第2画像に関する撮影環境の類似性を判定するか、又は、
前記第1特徴量及び前記第2特徴量の少なくとも一方を用いて、前記第1画像及び前記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定し、
前記適切性判定手段は、
前記第1特徴量と、前記第2特徴量とに基づいて、前記第1画像に関する撮影環境と、前記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、前記ステレオ画像が距離の計測に適しているか否かを判定し、
ある前記ステレオ画像に含まれる前記第1画像と、前記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、前記シーンに応じて、前記第1画像と、前記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行可能なシーン解析手段を更に備え、
前記適切性判定手段は、前記シーン解析手段による補正後の前記第1画像に関する前記第1特徴量と、前記シーン解析手段による補正後の前記第2画像に関する前記第2特徴量と、の少なくとも一方を用いて、前記スコアを算出し、そのスコアに基づいて、前記ステレオ画像の距離の計測に関する適切性を判定し、
前記シーン解析手段は、
前記第2補正処理に用いられる補正パラメータを、前記シーンごとに保持し、
前記シーンを特定可能な教師ラベルが付与された画像を学習データとして、前記第1画像及び前記第2画像が含まれる前記シーンを判定可能に学習されたシーン判定モデルを用いて、前記第1画像及び前記第2画像について、それぞれ前記シーンを判定し、
判定した前記シーンに応じた前記補正パラメータを用いて、前記第1画像と、前記第2画像との少なくとも一方について、前記第2補正処理を実行する、
画像処理装置。 - 第1画像及び第2画像を含むステレオ画像を受けつけ、前記第1画像が撮影された撮影環境と、前記第2画像が撮影された撮影環境とに応じて、前記ステレオ画像について、撮影された対象物に対する距離の計測に適しているか否かを判定する適切性判定手段と、
前記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御可能な出力手段と、を備え、
前記適切性判定手段は、
前記第1画像を表す特徴量である第1特徴量と、前記第2画像を表す特徴量である第2特徴量とを抽出し、
前記第1特徴量及び前記第2特徴量を用いて、前記第1画像及び前記第2画像に関する撮影環境の類似性を判定するか、又は、
前記第1特徴量及び前記第2特徴量の少なくとも一方を用いて、前記第1画像及び前記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定し、
前記適切性判定手段は、
前記第1特徴量と、前記第2特徴量とに基づいて、前記第1画像に関する撮影環境と、前記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、前記ステレオ画像が距離の計測に適しているか否かを判定し、
ある前記ステレオ画像に含まれる前記第1画像と、前記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、前記シーンに応じて、前記第1画像と、前記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行可能なシーン解析手段を更に備え、
前記適切性判定手段は、前記シーン解析手段による補正後の前記第1画像に関する前記第1特徴量と、前記シーン解析手段による補正後の前記第2画像に関する前記第2特徴量と、の少なくとも一方を用いて、前記スコアを算出し、そのスコアに基づいて、前記ステレオ画像の距離の計測に関する適切性を判定し、
前記シーン解析手段は、
前記第2補正処理に用いられる補正パラメータを、前記シーンごとに保持し、
前記シーンを特定可能な教師ラベルが付与された画像を学習データとして、前記第1画像及び前記第2画像について、前記シーンに含まれることの尤もらしさを表す帰属度を算出可能に学習されたモデルであるシーン判定モデルを用いて、前記第1画像と、前記第2画像とについて、各前記シーンに関する帰属度を算出し、
前記シーンごとに保持している前記補正パラメータを、前記シーンごとの帰属度に応じて合成することで、前記第2補正処理に用いられる合成パラメータを生成し、
前記合成パラメータを用いて、前記第1画像と、前記第2画像との少なくとも一方について、前記第2補正処理を実行する、
画像処理装置。 - 第1画像及び第2画像を含むステレオ画像を受けつけ、
前記第1画像が撮影された撮影環境と、前記第2画像が撮影された撮影環境とに応じて、前記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定し、
前記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御し、
前記対象物に対する距離の計測に適しているか否かを判定するステップにおいて、
前記第1画像を表す特徴量である第1特徴量と、前記第2画像を表す特徴量である第2特徴量とを抽出し、
前記第1特徴量及び前記第2特徴量を用いて、前記第1画像及び前記第2画像に関する撮影環境の類似性を判定するか、又は、
前記第1特徴量及び前記第2特徴量の少なくとも一方を用いて、前記第1画像及び前記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定し、
さらに前記対象物に対する距離の計測に適しているか否かを判定するステップにおいて、
前記第1特徴量と、前記第2特徴量とに基づいて、前記第1画像に関する撮影環境と、前記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、前記ステレオ画像が距離の計測に適しているか否かを判定し、
さらに、ある前記ステレオ画像に含まれる前記第1画像と、前記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、前記シーンに応じて、前記第1画像と、前記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行し、
前記対象物に対する距離の計測に適しているか否かを判定するステップにおいて、前記第2補正処理による補正後の前記第1画像に関する前記第1特徴量と、前記第2補正処理による補正後の前記第2画像に関する前記第2特徴量と、の少なくとも一方を用いて、前記スコアを算出し、そのスコアに基づいて、前記ステレオ画像の距離の計測に関する適切性を判定し、
前記第2補正処理を実行するステップにおいて、
前記第2補正処理に用いられる補正パラメータを、前記シーンごとに保持し、
前記シーンを特定可能な教師ラベルが付与された画像を学習データとして、前記第1画像及び前記第2画像が含まれる前記シーンを判定可能に学習されたシーン判定モデルを用いて、前記第1画像及び前記第2画像について、それぞれ前記シーンを判定し、
判定した前記シーンに応じた前記補正パラメータを用いて、前記第1画像と、前記第2画像との少なくとも一方について、前記第2補正処理を実行する、
画像処理方法。 - 第1画像及び第2画像を含むステレオ画像を受けつけ、
前記第1画像が撮影された撮影環境と、前記第2画像が撮影された撮影環境とに応じて、前記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定し、
前記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御し、
前記対象物に対する距離の計測に適しているか否かを判定するステップにおいて、
前記第1画像を表す特徴量である第1特徴量と、前記第2画像を表す特徴量である第2特徴量とを抽出し、
前記第1特徴量及び前記第2特徴量を用いて、前記第1画像及び前記第2画像に関する撮影環境の類似性を判定するか、又は、
前記第1特徴量及び前記第2特徴量の少なくとも一方を用いて、前記第1画像及び前記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定し、
さらに前記対象物に対する距離の計測に適しているか否かを判定するステップにおいて、
前記第1特徴量と、前記第2特徴量とに基づいて、前記第1画像に関する撮影環境と、前記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、前記ステレオ画像が距離の計測に適しているか否かを判定し、
さらに、ある前記ステレオ画像に含まれる前記第1画像と、前記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、前記シーンに応じて、前記第1画像と、前記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行し、
前記対象物に対する距離の計測に適しているか否かを判定するステップにおいて、前記第2補正処理による補正後の前記第1画像に関する前記第1特徴量と、前記第2補正処理による補正後の前記第2画像に関する前記第2特徴量と、の少なくとも一方を用いて、前記スコアを算出し、そのスコアに基づいて、前記ステレオ画像の距離の計測に関する適切性を判定し、
前記第2補正処理を実行するステップにおいて、
前記第2補正処理に用いられる補正パラメータを、前記シーンごとに保持し、
前記シーンを特定可能な教師ラベルが付与された画像を学習データとして、前記第1画像及び前記第2画像について、前記シーンに含まれることの尤もらしさを表す帰属度を算出可能に学習されたモデルであるシーン判定モデルを用いて、前記第1画像と、前記第2画像とについて、各前記シーンに関する帰属度を算出し、
前記シーンごとに保持している前記補正パラメータを、前記シーンごとの帰属度に応じて合成することで、前記第2補正処理に用いられる合成パラメータを生成し、
前記合成パラメータを用いて、前記第1画像と、前記第2画像との少なくとも一方について、前記第2補正処理を実行する、
画像処理方法。 - 画像処理装置を構成するコンピュータに、
第1画像及び第2画像を含むステレオ画像を受けつける処理と、
前記第1画像が撮影された撮影環境と、前記第2画像が撮影された撮影環境とに応じて、前記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定する処理と、
前記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御する処理と、を実行させ、
前記判定する処理において、
前記第1画像を表す特徴量である第1特徴量と、前記第2画像を表す特徴量である第2特徴量とを抽出し、
前記第1特徴量及び前記第2特徴量を用いて、前記第1画像及び前記第2画像に関する撮影環境の類似性を判定するか、又は、
前記第1特徴量及び前記第2特徴量の少なくとも一方を用いて、前記第1画像及び前記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定し、
さらに前記判定する処理において、
前記第1特徴量と、前記第2特徴量とに基づいて、前記第1画像に関する撮影環境と、前記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、前記ステレオ画像が距離の計測に適しているか否かを判定し、
さらに、ある前記ステレオ画像に含まれる前記第1画像と、前記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、前記シーンに応じて、前記第1画像と、前記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行させる処理を実行させ、
前記判定する処理において、前記第2補正処理による補正後の前記第1画像に関する前記第1特徴量と、前記第2補正処理による補正後の前記第2画像に関する前記第2特徴量と、の少なくとも一方を用いて、前記スコアを算出し、そのスコアに基づいて、前記ステレオ画像の距離の計測に関する適切性を判定し、
前記第2補正処理を実行する処理において、
前記第2補正処理に用いられる補正パラメータを、前記シーンごとに保持し、
前記シーンを特定可能な教師ラベルが付与された画像を学習データとして、前記第1画像及び前記第2画像が含まれる前記シーンを判定可能に学習されたシーン判定モデルを用いて、前記第1画像及び前記第2画像について、それぞれ前記シーンを判定し、
判定した前記シーンに応じた前記補正パラメータを用いて、前記第1画像と、前記第2画像との少なくとも一方について、前記第2補正処理を実行する、
画像処理プログラム。 - 画像処理装置を構成するコンピュータに、
第1画像及び第2画像を含むステレオ画像を受けつける処理と、
前記第1画像が撮影された撮影環境と、前記第2画像が撮影された撮影環境とに応じて、前記ステレオ画像が、そのステレオ画像に撮影された対象物に対する距離の計測に適しているか否かを判定する処理と、
前記ステレオ画像が距離の計測に適しているか否かに応じて、そのステレオ画像を用いた距離の計測を実行するか否かを制御する処理と、を実行させ、
前記判定する処理において、
前記第1画像を表す特徴量である第1特徴量と、前記第2画像を表す特徴量である第2特徴量とを抽出し、
前記第1特徴量及び前記第2特徴量を用いて、前記第1画像及び前記第2画像に関する撮影環境の類似性を判定するか、又は、
前記第1特徴量及び前記第2特徴量の少なくとも一方を用いて、前記第1画像及び前記第2画像について、距離の計測に適した撮影環境における画像であるか否かを判定することにより、
当該ステレオ画像が距離の計測に適しているか否かを判定し、
さらに前記判定する処理において、
前記第1特徴量と、前記第2特徴量とに基づいて、前記第1画像に関する撮影環境と、前記第2画像に関する撮影環境との間の類似性を表すスコアを算出し、
そのスコアの値に応じて、前記ステレオ画像が距離の計測に適しているか否かを判定し、
さらに、ある前記ステレオ画像に含まれる前記第1画像と、前記第2画像との少なくとも一方について、その画像が撮影された状況を表すシーンを判定し、前記シーンに応じて、前記第1画像と、前記第2画像との少なくとも一方について、その画像を鮮明化する処理である第2補正処理を実行させる処理を実行させ、
前記判定する処理において、前記第2補正処理による補正後の前記第1画像に関する前記第1特徴量と、前記第2補正処理による補正後の前記第2画像に関する前記第2特徴量と、の少なくとも一方を用いて、前記スコアを算出し、そのスコアに基づいて、前記ステレオ画像の距離の計測に関する適切性を判定し、
前記第2補正処理を実行する処理において、
前記第2補正処理に用いられる補正パラメータを、前記シーンごとに保持し、
前記シーンを特定可能な教師ラベルが付与された画像を学習データとして、前記第1画像及び前記第2画像について、前記シーンに含まれることの尤もらしさを表す帰属度を算出可能に学習されたモデルであるシーン判定モデルを用いて、前記第1画像と、前記第2画像とについて、各前記シーンに関する帰属度を算出し、
前記シーンごとに保持している前記補正パラメータを、前記シーンごとの帰属度に応じて合成することで、前記第2補正処理に用いられる合成パラメータを生成し、
前記合成パラメータを用いて、前記第1画像と、前記第2画像との少なくとも一方について、前記第2補正処理を実行する、
画像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017096212A JP6922399B2 (ja) | 2017-05-15 | 2017-05-15 | 画像処理装置、画像処理方法及び画像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017096212A JP6922399B2 (ja) | 2017-05-15 | 2017-05-15 | 画像処理装置、画像処理方法及び画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018194346A JP2018194346A (ja) | 2018-12-06 |
JP6922399B2 true JP6922399B2 (ja) | 2021-08-18 |
Family
ID=64570191
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017096212A Active JP6922399B2 (ja) | 2017-05-15 | 2017-05-15 | 画像処理装置、画像処理方法及び画像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6922399B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111383256B (zh) * | 2018-12-29 | 2024-05-17 | 北京市商汤科技开发有限公司 | 图像处理方法、电子设备及计算机可读存储介质 |
US11301974B2 (en) * | 2019-05-27 | 2022-04-12 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, image capturing apparatus, and storage medium |
JP7406886B2 (ja) * | 2019-08-02 | 2023-12-28 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
CN112686289A (zh) * | 2020-12-24 | 2021-04-20 | 微梦创科网络科技(中国)有限公司 | 图片分类方法和装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001028056A (ja) * | 1999-07-14 | 2001-01-30 | Fuji Heavy Ind Ltd | フェールセーフ機能を有するステレオ式車外監視装置 |
JP2008157780A (ja) * | 2006-12-25 | 2008-07-10 | Konica Minolta Holdings Inc | 3次元データ生成装置、画像取得装置、3次元データ生成方法、画像取得方法およびプログラム |
JP2010271143A (ja) * | 2009-05-20 | 2010-12-02 | Ricoh Co Ltd | 撮像装置、距離測定装置、及び車外監視装置、並びに撮像方法 |
JP2011027595A (ja) * | 2009-07-27 | 2011-02-10 | Toyota Infotechnology Center Co Ltd | 地図データ検証システム |
JP4957850B2 (ja) * | 2010-02-04 | 2012-06-20 | カシオ計算機株式会社 | 撮像装置、警告方法、および、プログラム |
JP2016176697A (ja) * | 2015-03-18 | 2016-10-06 | 株式会社リコー | 距離測定装置、距離測定プログラム、距離測定方法、車両 |
JP6537385B2 (ja) * | 2015-07-17 | 2019-07-03 | 日立オートモティブシステムズ株式会社 | 車載環境認識装置 |
WO2017022033A1 (ja) * | 2015-07-31 | 2017-02-09 | 富士通株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
WO2016013691A1 (ja) * | 2015-10-15 | 2016-01-28 | 株式会社小松製作所 | 位置計測システム及び位置計測方法 |
-
2017
- 2017-05-15 JP JP2017096212A patent/JP6922399B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018194346A (ja) | 2018-12-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10997696B2 (en) | Image processing method, apparatus and device | |
US20200043225A1 (en) | Image processing apparatus and control method thereof | |
US8849062B2 (en) | Eye defect detection in international standards organization images | |
WO2019085792A1 (en) | Image processing method and device, readable storage medium and electronic device | |
US10304164B2 (en) | Image processing apparatus, image processing method, and storage medium for performing lighting processing for image data | |
US7868922B2 (en) | Foreground/background segmentation in digital images | |
US10074029B2 (en) | Image processing system, image processing method, and storage medium for correcting color | |
JP6922399B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
US8363933B2 (en) | Image identification method and imaging apparatus | |
US10430962B2 (en) | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and storage medium that calculate a three-dimensional shape of an object by capturing images of the object from a plurality of directions | |
JP5779089B2 (ja) | エッジ検出装置、エッジ検出プログラム、およびエッジ検出方法 | |
JP2017520050A (ja) | 局所的適応ヒストグラム平坦化 | |
JP6553624B2 (ja) | 計測機器、及びシステム | |
US10839529B2 (en) | Image processing apparatus and image processing method, and storage medium | |
US10455163B2 (en) | Image processing apparatus that generates a combined image, control method, and storage medium | |
KR20170027301A (ko) | 화상 처리 장치, 화상 처리 방법 및 기억 매체 | |
US20190042869A1 (en) | Image processing apparatus and control method therefor | |
US20200250799A1 (en) | Information processing apparatus to determine candidate for lighting effect, information processing method, and storage medium | |
JP2015176252A (ja) | 画像処理装置および画像処理方法 | |
US10140503B2 (en) | Subject tracking apparatus, control method, image processing apparatus, and image pickup apparatus | |
JP6565513B2 (ja) | 色補正装置、色補正方法及び色補正用コンピュータプログラム | |
JP6776532B2 (ja) | 画像処理装置、撮像装置、電子機器及び画像処理プログラム | |
US20240265729A1 (en) | Information processing apparatus, information processing system, information processing method, and storage medium | |
US20240046434A1 (en) | Image processing method and image processing apparatus performing the same | |
JP2011198116A (ja) | 画像処理装置、画像処理プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200415 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210224 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210309 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210506 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210629 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210712 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6922399 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |