JPWO2012137437A6 - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JPWO2012137437A6
JPWO2012137437A6 JP2013508741A JP2013508741A JPWO2012137437A6 JP WO2012137437 A6 JPWO2012137437 A6 JP WO2012137437A6 JP 2013508741 A JP2013508741 A JP 2013508741A JP 2013508741 A JP2013508741 A JP 2013508741A JP WO2012137437 A6 JPWO2012137437 A6 JP WO2012137437A6
Authority
JP
Japan
Prior art keywords
image
pixel
pair
image processing
weight
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013508741A
Other languages
English (en)
Other versions
JP5901614B6 (ja
JP5901614B2 (ja
JPWO2012137437A1 (ja
Inventor
啓介 早田
裕人 冨田
智生 木村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority claimed from PCT/JP2012/002044 external-priority patent/WO2012137437A1/ja
Publication of JPWO2012137437A1 publication Critical patent/JPWO2012137437A1/ja
Publication of JPWO2012137437A6 publication Critical patent/JPWO2012137437A6/ja
Application granted granted Critical
Publication of JP5901614B2 publication Critical patent/JP5901614B2/ja
Publication of JP5901614B6 publication Critical patent/JP5901614B6/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

撮影物体境界の不鮮明化を抑えた状態で、撮影画像の画質を改善すること。画像処理装置(100)は、左目画像と右目画像との間の対応画素対と、対応画素対のデプス情報およびマッチングスコアとを取得する画像・距離取得部(200)と、対応画素対ごとに、デプス情報およびマッチングスコアに基づいて当該対応画素対を注目画素として含む所定の領域範囲の各画素に対して重みを決定する重み情報計算部(300)と、2つの画像の少なくとも一方において、対応画素対ごとに、上述の所定の領域範囲において画素値に重みを適用し平滑化を行い、所定の領域範囲の注目画素の画素値を、平滑化により得られた値で置き換えてから2つの画像を画素単位で重畳する画素値重畳部(400)と、を有する。

Description

本発明は、複数の画像を合成して高画質な画像を生成する、画像処理装置および画像処理方法に関する。
従来、撮影画像の画質の改善を図る技術としては、同一の対象を撮影した2つの画像から合成画像を生成する技術が知られている(例えば、特許文献1参照)。
特許文献1記載の技術(以下「従来技術」という)は、同一の対象を撮影した短時間露光画像と長時間露光画像から、対応する画素対ごとに画素値を重畳することにより、合成画像を生成する。この際、従来技術は、長時間露光画像における物体のエッジのぶれ範囲については、短時間露光画像の画素値の比率を高くする。短時間露光画像は、ノイズは多いがエッジが鮮明である。長時間露光画像は、エッジが不鮮明だがノイズが少ない。したがって、従来技術は、全体として画素値のダイナミックレンジを2倍としつつ、両画像の長所を生かした合成画像を生成することができる。
特開2007−324770号公報
しかしながら、従来技術は、長時間露光画像においては動物体のぶれや、カメラぶれによる撮影対象のぶれが合成画像に残り、結果、撮影物体境界が不鮮明になるという課題を有する。エッジ情報だけでは、物体の境界を判定することができず、境界をまたがった範囲で合成などの計算処理を行い得るからである。
本発明の目的は、撮影物体境界の不鮮明化を抑えてダイナミックレンジを拡大し、撮影画像の画質を改善することができる画像処理装置および画像処理方法を提供することである。
本発明の画像処理装置は、撮影により得られた2つの画像から合成画像を生成する画像処理装置であって、前記2つ画像の間の対応画素対と、前記対応画素対のデプス情報およびマッチングスコアとを取得する画像・距離取得部と、前記対応画素対ごとに、前記デプス情報および前記マッチングスコアに基づいて、当該対応画素対を注目画素として含む所定の領域範囲の各画素に対して重みを決定する重み情報計算部と、前記2つの画像の少なくとも一方において、前記対応画素対ごとに、前記所定の領域範囲において画素値に前記重みを適用し平滑化を行い、前記所定の領域範囲の前記注目画素の画素値を、前記平滑化により得られた値で置き換えて、前記2つの画像を画素単位で重畳する画素値重畳部と、を有する。
本発明の画像処理方法は、撮影により得られた2つの画像から合成画像を生成する画像処理方法であって、前記左目画像と前記右目画像との間の対応画素対と、前記対応画素対のデプス情報およびマッチングスコアとを取得するステップと、前記対応画素対ごとに、前記デプス情報および前記マッチングスコアに基づいて、当該対応画素対を注目画素として含む所定の領域範囲の各画素に対して重みを決定するステップと、前記2つの画像の少なくとも一方において、前記対応画素対ごとに、前記所定の領域範囲において画素値に前記重みを適用し平滑化を行い、前記所定の領域範囲の前記注目画素の画素値を、前記平滑化により得られた値で置き換えて、前記2つの画像を画素単位で重畳するステップと、を有する。
本発明によれば、撮影物体境界の不鮮明化を抑えてダイナミックレンジを拡大し、撮影画像の画質を改善することができる。
本発明の実施の形態1に係る画像処理装置の構成を示すブロック図 本発明の実施の形態2に係る画像処理装置を含む撮影システムの構成を示すシステム構成図 本発明の実施の形態2に係る画像処理装置の構成の一例を示すブロック図 本発明の実施の形態2における利用範囲サイズ情報の内容の一例を示す図 本発明の実施の形態2における重み設定情報の内容の例を示す第1の図 本発明の実施の形態2における重み設定情報の内容の例を示す第2の図 本発明の実施の形態2に係る画像処理装置の動作の一例を示すフローチャート 本発明の実施の形態2における画像合わせ込み処理の一例を示すフローチャート 本発明の実施の形態2における画像合わせ込み処理の様子を模式的に示す図 本発明の実施の形態2における重み算出処理の一例を示すフローチャート 本発明の実施の形態2における合成画像生成処理の一例を示すフローチャート 本発明の実施の形態2における正規化後重みおよび平滑化後画素値の算出の様子を模式的に示す図
以下、本発明の各実施の形態について、図面を参照して詳細に説明する。
(実施の形態1)
本発明の実施の形態1は、本発明の基本的態様の例である。
図1は、本実施の形態に係る画像処理装置の構成を示すブロック図である。
図1において、画像処理装置100は、同時撮影により得られた2つの画像から合成画像を生成する装置である。
画像処理装置100は、画像・距離取得部200、重み情報計算部300、および画素値重畳部400を有する。
画像・距離取得部200は、同時撮影された2つの画像との間の対応画素対と、対応画素対のデプス情報およびマッチングスコアとを取得する。なお、対応画素対は、一方の画像の画素と他方の画像の画素との組のうち、同一の位置(同一の点)を撮影していると推定される画素の組である。また、デプス(Depth)情報は、上記ステレオ撮影を行ったステレオカメラから、画素に撮影されている対象(点)までの、推定距離(以下単に「距離」という)を示す情報である。また、マッチングスコアは、一方の画像の画素と他方の画像の画素とが、同一の物体または背景部分であることを示す尤もらしさを示す値である。
重み情報計算部300は、対応画素対ごとに、デプス情報およびマッチングスコアに基づいて、当該対応画素対を注目画素として含む所定の領域範囲の各画素に対して重みを決定する。
画素値重畳部400は、2つの画像の少なくとも一方において、対応画素対ごとに、上記所定の領域範囲において画素値に重みを適用し平滑化(重み付け加算)を行う。そして、画素値重畳部400は、当該所定の領域範囲の注目画素の画素値を、平滑化により得られた値で置き換えて、2つの画像を画素単位で重畳(加算)する。
なお、画像処理装置100は、例えば、CPU(central processing unit)、制御プログラムを格納したROM(read only memory)などの記憶媒体、およびRAM(random
access memory)などの作業用メモリをそれぞれ有する。この場合、上記した各装置部の機能は、CPUが制御プログラムを実行することにより、ハードウエアと協働して実現される。
このような画像処理装置100は、同時撮影された2つの撮影画像から、合成画像を生成する。また、画像処理装置100は、対応画素対ごとに、その対応画素対を含む所定の領域範囲の画素値を平滑化して得られる値を重畳して、合成画像を生成する。また、画像処理装置100は、この平滑化に先立って、デプス情報に基づいて決定された重みを、各画素に適用する。
これにより、画像処理装置100は、デプス情報を用いるので、距離が異なる物体のエッジの内側部分と外側部分とを切り分けた状態で、ノイズ除去のための平滑化を行い、合成画像を生成することができる。すなわち、画像処理装置100は、撮影物体境界の不鮮明化を抑えてダイナミックレンジを拡大し、撮影画像の画質を改善することができる。
なお、本実施の形態に係る画像処理装置100は、例えば、ステレオカメラに適用することにより、視写体の移動ずれなどのない2つの画像の同時撮影を可能とし、画像撮影のための特別な装置を不要とすることができる。すなわち、画像処理装置100は、既存のステレオカメラに対する軽微な変更により、境界の不鮮明さを抑えてダイナミックレンジを拡大するという、上記効果を得ることができる。
(実施の形態2)
本発明の実施の形態2は、本発明の具体的態様として、本発明に係る画像処理装置を、ステレオカメラを用いて撮影を行う撮影システムに適用した例である。
まず、本実施の形態に係る画像処理装置およびこれを含む撮影システムの構成について説明する。
図2は、本発明の実施の形態2に係る画像処理装置を含む撮影システムの構成を示すシステム構成図である。
図2において、撮影システム500は、ステレオカメラ510、画像処理装置100、および画像表示装置520を有する。
ステレオカメラ510は、ステレオ撮影により左目画像および右目画像(以下適宜「ステレオ画像」という)を同時に取得し、取得したステレオ画像を、有線通信または無線通信により、画像処理装置100へ出力する。ステレオカメラ510は、例えば、CMOS(complementary metal oxide semiconductor)などのイメージセンサを備えたステレオデジタルビデオカメラである。
画像処理装置100は、入力された左目画像および右目画像の少なくとも一方において、ステレオ画像の対応画素対ごとに、その対応画素対を含む所定の領域範囲(以下「利用範囲」という)において画素値に重みを適用し平滑化を行う。そして、画像処理装置100は、当該利用範囲の注目画素の画素値を、平滑化により得られた値で置き換えて、左目画像と右目画像とを画素単位で重畳(加算)する。この際、画像処理装置100は、利用範囲内の画素ごとに、そのデプス情報に基づいて重みを決定する。重畳の対象となる画素値は、例えば、色ごとの輝度値である。画像処理装置100は、対応画素対ごとに、得られた重畳結果を新たな画素値とすることにより、合成画像を生成する。そして、画像処理装置100は、生成した合成画像を、有線通信、無線通信、または着脱可能な情報記録媒体を介した伝送などにより、画像表示装置520へ出力する。
画像表示装置520は、入力された合成画像を、画面に表示する。画像表示装置520は、例えば、液晶ディスプレイ装置である。
このような撮影システム500は、ステレオ撮影を行い、同時に得られたステレオ画像から、画質が改善された合成画像を生成して、表示することができる。
なお、本実施の形態において、撮影システム500は、左目画像を基準画像として、合成画像を生成するものとする。
図3は、画像処理装置100の構成の一例を示すブロック図である。
図3において、画像処理装置100は、画像・距離取得部200、領域分割部210、分割領域特徴点抽出部220、画像特徴点抽出部230、領域メッシュ生成部240、領域変形部250、利用範囲計算部260、重み情報計算部300、画素値重畳部400、色調・レンジ調整部410、および画像出力部420を有する。
画像・距離取得部200は、ステレオカメラ510(図2参照)から、ステレオ画像を取得する。そして、画像・距離取得部200は、左目画像の全ての画素について、ステレオ画像の対応画素対と、デプス情報と、マッチングスコアとを取得する。
具体的には、例えば、画像・距離取得部200は、左目画像と右目画像との間で画像マッチングを行い、左目画像の画素と右目画像の画素との組み合わせごとに、マッチングスコアを算出する。マッチングスコアは、左目画像の画素と右目画像の画素とが、同一の物体または背景部分を撮影していることの尤もらしさを示す値である。画像マッチングの手法としては、例えば、両画像をブロック化し、ブロック間の一致度を求める手法を用いることができる。この場合、かかる一致度に基づく値は、マッチングスコアとして用いることができる。
ブロック間の一致度の評価手法としては、例えば、輝度差の総和(SAD:Sum of Absolute Difference)、輝度値の2乗和(SSD:Sum of Squared Difference)、または正規化互換相関(NCC:Normalized Cross-Correlation)を用いることができる。
SADは、例えば、以下の式(1)により、M(x,x)として表される。ここで、(xL,yL)と(xR,yR)は、対応画素対の、左目画像における座標および右目画像における座標である。Iは、対応画素対の左目画像における画素値(例えば輝度値)であり、Iは、対応画素対の右目画像における画素値(例えば輝度値)である。
Figure 2012137437
同様に、SSDは、例えば、以下の式(2)により、M(x,x)として表される。
Figure 2012137437
また、SSDは、例えば、以下の式(3)〜式(5)により、M(x,x)として表される。
Figure 2012137437
Figure 2012137437
Figure 2012137437
SAD、SSDでは、評価値は正値で、その値が小さいほど一致度が高い。したがって、マッチングスコアは、評価値の逆数あるいは定数から評価値を引いた値など、評価値が小さいほど高い値となるような関数で表現される値とすることができる。NCCでは、評価値が1〜−1の値を取り、1のときに一致度が最も高い。したがって、マッチングスコアは、評価値をそのまま用いることが可能である。もちろん、マッチングスコアは、評価値の3乗値など、評価値が高いほどより重みが大きくなるような関数で表現される値とすることができる。
そして、画像・距離取得部200は、左目画像の画素ごとに、マッチングスコアが最も高い右目画像の画素を特定し、特定された画素との組を、対応画素対に決定する。
そして、画像・距離取得部200は、対応画素対ごとに、ステレオ法により、該当する画素に撮影されている対象までの距離を算出する。ステレオ法とは、ステレオカメラ510の設置パラメータを用いて、三角測量の原理により、画素間の視差から、各画素で撮影された点までの距離を算出する手法である。
そして、画像・距離取得部200は、左目画像、右目画像、左目画像の各画素の対応画素対となる右目画像の画素位置を示す情報(以下「対応画素対情報」という)、および左目画像の各画素のデプス情報を、領域分割部210を出力する。また、画像・距離取得部200は、左目画像の各画素のマッチングスコアおよびデプス情報を、利用範囲計算部260へ出力する。なお、画像・距離取得部200は、各画素のデプス情報を付加した左目画像を、左目距離画像として出力してもよい。
領域分割部210は、入力された左目画像および右目画像から、左目画像と右目画像との間の対応分割領域対を取得する。なお、対応分割領域対は、左目画像と右目画像との間で、同一の物体または背景部分を撮影していると推定される領域の組である。
具体的には、領域分割部210は、例えば、デプス情報に基づいて、各画素の距離の差分が所定の範囲内となっている連続する画像領域ごとに、左目画像を分割する。または、領域分割部210は、色やエッジなど他の情報に基づいて、物体の像を検出し、物体の像ごとに左目画像を分割してもよい。領域分割部210は、左目画像を分割した左目分割画像ごとに、対応画素対情報に基づいて、右目画像において左目分割画像に対応する右目分割画像を特定する。そして、領域分割部210は、これらの左目分割画像および右目分割画像を、対応分割領域対とする。
そして、領域分割部210は、左目画像、右目画像、対応画素対情報、および各左目分割画像の範囲を示す情報(以下「左目分割画像情報」という)を、分割領域特徴点抽出部220へ出力する。
なお、対応画素対情報と左目分割画像情報との組は、各左目分割画像の対応分割領域対となる相手先(右目分割画像)を示す。すなわち、領域分割部210は、左目分割画像と右目分割画像との組である対応分割領域対を、分割領域特徴点抽出部220へ出力する。
分割領域特徴点抽出部220は、入力された対応分割領域対ごとに、複数の対応輪郭特徴点対を抽出する。なお、対応輪郭特徴点対は、左目分割画像の輪郭の特徴点(以下「左目輪郭特徴点」という)と、右目分割画像の輪郭の特徴点(以下「右目輪郭特徴点」という)との組のうち、同一の位置(点)を撮影していると推定される組である。
具体的には、分割領域特徴点抽出部220は、例えば、左目分割画像から、左目分割画像の輪郭線のコーナー部分や、輪郭線上に定間隔で配置した点などを、左目輪郭特徴点として抽出する。
そして、分割領域特徴点抽出部220は、左目画像、右目画像、対応画素対情報、左目分割画像情報、および左目輪郭特徴点を、画像特徴点抽出部230へ出力する。
なお、対応画素対情報と左目輪郭特徴点との組は、各左目輪郭特徴点の対応輪郭特徴点対の相手先(右目輪郭特徴点)を示す。また、上述の通り、対応画素対情報と左目分割画像情報との組は、対応分割領域対を示す。すなわち、分割領域特徴点抽出部220は、左目輪郭特徴点と右目輪郭特徴点との組である対応輪郭特徴点対と、上述の対応分割領域対とを、画像特徴点抽出部230へ出力する。
画像特徴点抽出部230は、入力された対応分割領域対ごとに、1つまたは複数の対応画像特徴点対を抽出する。なお、対応画像特徴点対は、左目分割画像の内部の特徴点(以下「左目画像特徴点」という)と、右目分割画像の内部の特徴点(以下「右目画像特徴点」という)との組のうち、同一の位置を撮影していると推定される組である。
具体的には、画像特徴点抽出部230は、例えば、左目分割画像から、物体のコーナー部分などの特徴的な形状を有する部分や、マッチングスコアが特に高い点などを、左目画像特徴点として抽出する。特徴点の抽出手法としては、例えば、Harris作用素の抽出手法(Harris Corner Detector)を採用することができる。
そして、画像特徴点抽出部230は、左目画像、右目画像、対応画素対情報、左目分割画像情報、左目輪郭特徴点、および左目画像特徴点を、画像特徴点抽出部230へ出力する。
なお、対応画素対情報と左目画像特徴点との組は、各左目画像特徴点の対応画像特徴点対の相手先(右目画像特徴点)を示す。また、上述の通り、対応画素対情報と左目分割画像情報との組は、対応画像領域対を示し、対応画素対情報と左目輪郭特徴点との組は、対応輪郭特徴点対を示す。すなわち、画像特徴点抽出部230は、左目画像特徴点と右目画像特徴点との組である対応画像特徴点対と、対応画像領域対と、対応輪郭特徴点対とを、領域メッシュ生成部240へ出力する。
領域メッシュ生成部240は、左目画像および右目画像をそれぞれ小領域に分割(メッシュ化、ポリゴン化)する。具体的には、領域メッシュ生成部240は、入力された対応画像領域対および対応輪郭特徴点対と、左目画像の四隅の点(以下「特徴点」と総称する)とに基づいて、左目画像および右目画像をそれぞれ小領域に分割する。なお、分割した小領域は、左目メッシュ領域および右目メッシュ領域という。そして、領域メッシュ生成部240は、分割された小領域から、対応画像領域対を抽出する。なお、対応画像領域対は、左目メッシュ領域と右目メッシュ領域との組のうち、同一の範囲を撮影していると推定される組である。
具体的には、例えば、領域メッシュ生成部240は、左目分割画像ごとに、左目輪郭特徴点および左目画像特徴点を直線で結び、この直線を境界線として、左目メッシュ領域を抽出する。メッシュ化の手法としては、例えば、ドレネー三角形分割(Delaunay Triangulation)の手法を採用することができる。
そして、領域メッシュ生成部240は、左目画像、右目画像、対応画素対情報、および抽出した左目メッシュ領域を示す情報(以下「左目メッシュ領域情報」という)を、領域変形部250へ出力する。
なお、対応画素対情報と左目メッシュ領域情報との組は、各左目メッシュ領域の対応分割領域対の相手先(右目メッシュ領域)を示す。すなわち、領域メッシュ生成部240は、対応画像領域対を、領域変形部250へ出力する。
領域変形部250は、入力された対応画像領域対ごとに、合成画像における領域形状を一致させる。
具体的には、領域変形部250は、例えば、各右目メッシュ領域を、その外形が、対応する左目メッシュ領域の外形に一致するように変形させる。領域変形の手法としては、例えば、アフィン変換(Affine Transformation)を採用することができる。そして、領域変形部250は、変形後の各右目メッシュ領域を組み合わせて、変形後の右目画像を生成する。
そして、領域変形部250は、左目画像、変形後の右目画像、および左目画像と変形後の右目画像との間の対応画素対(以下「変形後の対応画素対」という)を示す情報を、画素値重畳部400へ出力する。変形後の対応画素対を示す情報(以下「変形後の対応画素対情報」という)は、つまり、合成画像における画素位置を示す情報である。
次に、利用範囲計算部260は、入力された左目画像の画素ごと(対応画素対ごと)に、当該画素(対応画素対)のマッチングスコアが低いほどより広い範囲となるように、上述の利用範囲を決定する。この際、利用範囲計算部260は、注目画素を中心とした同心円状の領域を、利用範囲として決定する。
具体的には、利用範囲計算部260は、例えば、マッチングスコアに対応付けて、注目画素を中心とした正方形の利用範囲のサイズ(以下「利用範囲サイズ」という)を記述した、利用範囲サイズ情報を予め格納する。利用範囲計算部260は、左目画像の画素ごとに、利用範囲サイズ情報を用いて、マッチングスコアに対応する利用範囲サイズを取得する。
そして、利用範囲計算部260は、左目画像の各画素の、マッチングスコア、デプス情報、および取得した利用範囲サイズを、重み情報計算部300へ出力する。
図4は、利用範囲サイズ情報の内容の一例を示す図である。図4において、横軸はマッチングスコア(Matching Score)を示し、縦軸は利用範囲サイズを正方形の一辺当たりの画素数(以下「レンジ(Range)」という)で示す。
図4に示すように、利用範囲サイズ情報610は、例えば、高いマッチングスコアに、「1」というレンジを対応付けている。これは、マッチングスコアが十分に高い画素については、その画素のみを用い、他の画素との平滑化を行わない事を示す。そして、利用範囲サイズ情報610は、マッチングスコアが低くなるほど、「3」、「5」、・・・とより高い値のレンジを対応付けている。これは、マッチングスコアが低くなるほど、より広い範囲で、利用範囲の注目画素以外の画素(以下「周辺画素という」との平滑化を行うことを示す。マッチングスコアは、そのマッチングスコアが低い場合、その注目画素に対して行われている右目画像の画素との対応付けの信頼性が低いことを示すからである。
例えば、「3」というレンジの場合、利用範囲サイズは、注目画素を中心とする、3画素×3画素となる。そして、利用範囲の画素数は、9となる。
図3の重み情報計算部300は、入力された左目画像の画素ごと(対応画素対ごと)に、デプス情報に基づいて、当該画素(対応画素対)の利用範囲の各画素に対して重みを決定する。この際、重み情報計算部300は、利用範囲の注目画素および各周辺画素に対して、当該画素のデプス情報が示す距離と注目画素の前記デプス情報が示す距離との差分(以下「距離差分という」)が大きいほど、より低い値の重みを決定する。
具体的には、重み情報計算部300は、例えば、注目画素の距離ごとに生成された重み設定情報を、予め格納する。重み設定情報は、距離差分に対応付けて、重みと、重みを0にする際の閾値とを記述した情報である。重み情報計算部300は、左目画像の各画素について、周辺画素ごとに、重み設定情報を用いて、距離差分に対応する重みを取得する。
そして、重み情報計算部300は、左目画像の各画素の、マッチングスコア、利用範囲サイズ、および取得した各周辺画素の重みを、平滑化前重みとして、画素値重畳部400へ出力する。
図5は、重み設定情報の内容の例を示す第1の図である。図5において、横軸は、距離差分(ΔDepth)を示し、縦軸は重みを示す。
図5に示すように、重み設定情報の第1の例621は、線形的に、距離差分が大きいほど、より小さい重みが対応付けられている。そして、重み設定情報の第1の例621は、閾値Th以上の距離差分に対して、「0」という重みが対応付けられている。なお、閾値Thは、重み設定情報の第2の例622に示すように、必ずしも設定されなくてもよい。
図6は、重み設定情報の内容の例を示す第2の図であり、図5に対応するものである。
図6に示すように、重み設定情報の第3の例623は、上に凸型の非線形的(二次曲線的)に、距離差分と重みとが対応付けられ、閾値Thが設定されている。なお、重み設定情報の第4の例624のように、閾値Thは、必ずしも設定されなくてもよい。また、重み設定情報の第5の例625は、下に凸型の非線形的(二次曲線的)に、距離差分と重みとが対応付けられ、閾値Thが設定されている。
重み設定情報の第3および第4の例623、624のように、上に凸型の場合には、距離差分の重要性が低くなり、利用範囲全体の平均を得る計算に近くなるため、ノイズ低減の効果が高くなる。一方、重み設定情報の第5の例625のように、下に凸型の場合には、距離差分が小さいものにのみ大きい重みが設定されるため、ノイズ低減の効果は抑え気味で、エッジ保持の効果が高くなる。
閾値Thは、注目画素の距離が近いほど、より小さい値が設定されることが望ましい。これは、より近くに位置する被写体ほど、視差が大きく、視差に対応する画素数に対する距離差分の相対的な大きさが、より小さくなるためである。
なお、重み情報計算部300は、閾値Thを設定しない場合や、固定の閾値Thを設定する場合には、必ずしも、注目画素の距離ごとに重み設定情報を格納しなくてもよい。また、重み情報計算部300は、ユーザ設定や環境情報などの他の情報に応じて、複数の重み設定情報を使い分けてもよい。
図3の画素値重畳部400は、変形後の右目画像において、対応画素対ごとに、利用範囲において画素値に重みを適用し平滑化を行う。そして、画素値重畳部400は、当該利用範囲の注目画素の画素値を、平滑化により得られた値で置き換えて、左目画像と変形後の右目画像とを重畳する。
具体的には、画素値重畳部400は、利用範囲ごと(変形後の対応画素対ごと)に、利用範囲における重みの総和が一定(例えば1)となるように、入力された平滑化前重みを正規化する。
そして、画素値重畳部400は、利用範囲ごと(変形後の対応画素対ごと)および利用範囲の画素ごとに、正規化後重みを変形後の右目画像の画素値に乗じた値を算出する。画素値重畳部400は、利用範囲ごと(変形後の対応画素対ごと)に、各画素の積和値を平滑化して得られた値を、変形後の右目画像の各画素の画素値とする(以下「平滑化後画素値」という)。平滑化の手法としては、例えば、利用範囲内の乗算値の合計値(つまり重み付き加算値)を採用することができる。
そして、画素値重畳部400は、変形後の対応画素対ごとに、左目画像の画素値と、変形後の右目画像の平滑化後画素値とを重畳する。そして、画素値重畳部400は、重畳により得られた値を、合成画像の画素値とする。なお、画素値重畳部400は、左目画像の画素値と、変形後の右目画像の平滑化後画素値とのそれぞれに、合計値が1となる重み(以下「画像重み」という)をそれぞれに乗じて、加算を行うことにより、画素値の重畳を行う。
そして、画素値重畳部400は、左目画像の全ての画素(変形後の対応画素対)について画素値を算出すると、画素と画素値とを対応付けたデータを、合成画像として、色調・レンジ調整部410へ出力する。
色調・レンジ調整部410は、入力された合成画像に対して、色調の補正、画素値のレンジの調整、バイラテラルフィルタ(bilateral filter)などの平滑化フィルタによるノイズ除去処理などの所定の画像処理を行う。そして、色調・レンジ調整部410は、処理済みの合成画像を、画像出力部420へ出力する。
画像出力部420は、入力された処理済みの合成画像を、画像表示装置520へ出力する。
なお、画像処理装置100は、例えば、CPU、制御プログラムを格納したROMなどの記憶媒体、およびRAMどの作業用メモリをそれぞれ有する。この場合、上記した各装置部の機能は、CPUが制御プログラムを実行することにより、ハードウエアと協働して実現される。
このような画像処理装置100は、対応画素対ごとに、利用範囲の画素値を平滑化して得られる値を、重畳する。画素値の平滑化により、ビニング(Binning)処理によるノイズ低減効果と同様の効果を得ることができる。すなわち、画像処理装置100は、画素値のダイナミックレンジを実質的に2倍にしつつ、ノイズが低減された、合成画像を生成することができる。
また、本実施の形態に係る画像処理装置100は、平滑化に先立って、デプス情報に基づいて決定される重みを各画素に適用する。
注目画素が物体の撮影物体境界部分にあたる場合、その利用範囲は、撮影物体境界の内側部分と撮影物体境界の外側部分との両方を含むことになる。この場合、注目画素が撮影物体境界の内側部分であるか撮影物体境界の外側部分であるかによらず、利用範囲を一様に平滑化してしまうと、合成画像において、その部分の撮影物体境界が不明瞭となってしまう。
そこで、画像処理装置100は、ある物体(前景)とその背景とでは、通常、距離が異なるということを利用し、デプス情報を用いることにより、物体の撮影物体境界の内側部分と外側部分とを区別して重みを決定する。これにより、画像処理装置100は、物体の撮影物体境界が鮮明な合成画像を生成することができる。
また、画像処理装置100は、左目画像においては撮影されているが、右目画像においては陰になるなどして撮影されていない部分(オクルージョン(occlusion:隠蔽))に対して、マッチングスコアを低く算出する。そして、画像処理装置100は、このようなマッチングスコアが低い部分の画素に対して、より広い範囲を利用範囲とし、周囲の部分で合成画像を補完する。これにより、画像処理装置100は、実際の像との誤差を低減した合成画像を生成することができる。
また、画像処理装置100は、左目画像に合わせて左目画像の各メッシュ領域を変形させてから、重畳を行う。更に、画像処理装置100は、重畳に先立って、右目画像に対して、利用範囲ごとに、重み加算による平滑化を行う。これにより、画像処理装置100は、左目画像には撮影されていないオクルージョン部分の影響を低減させた状態で、合成画像の生成を行うことができる。
すなわち、本実施の形態に係る画像処理装置100は、従来技術に比べて、撮影物体境界の不鮮明化を抑え、撮影画像の画質を改善することができる。
しかも、本実施の形態に係る画像処理装置100は、通常は同時に撮影されるステレオ画像から合成画像を生成するので、従来技術のように長時間露光画像を必要としない。また、これにより、画像処理装置100は、被写体の動き、カメラの動き、および光線などの周囲環境の変化の影響を受けずに、高画質な撮影画像を得ることができる。
なお、画像処理装置100の各装置部は、取得した情報を順次後段の装置部へ出力するのではなく、共通の情報格納部に格納するようにしてもよい。この場合、各装置部は、必要な情報を、この情報格納部を参照して取得する。
以上で、画像処理装置100および撮影システム500の構成についての説明を終える。
次に、画像処理装置100の動作について説明する。
図7は、画像処理装置100の動作の一例を示すフローチャートである。
まず、ステップS1000において、画像・距離取得部200は、ステレオカメラ510(図2参照)からステレオ画像を取得する。そして、画像・距離取得部200は、ステレオ画像から、基準画像である左目画像の全ての画素に対して、対応画像対情報、デプス情報、およびマッチングスコアを取得する。
そして、ステップS2000において、領域分割部210〜領域変形部250は、左目画像に合わせて右目画像を変形させる画像合わせ込み処理を行う。
そして、ステップS3000において、利用範囲計算部260および重み情報計算部300は、正規化後重みを算出する重み算出処理を行う。
なお、利用範囲計算部260および重み情報計算部300は、ステップS3000の処理を、ステップS2000の前に行ってもよい。
そして、ステップS4000において、画素値重畳部400〜画像出力部420は、左目画像と変形後の右目画像とを重畳して合成画像を生成する合成画像生成処理を行う。
そして、ステップS5000において、画像・距離取得部200は、ユーザ操作などにより合成画像の生成の処理の終了を指示されたか否かを判断する。画像・距離取得部200は、処理の終了を指示されていない場合(S5000:NO)、ステップS1000へ戻る。また、画像・距離取得部200は、処理の終了を指示された場合(S5000:YES)、一連の処理を終了する。
図8は、画像合わせ込み処理(図7のステップS2000)の一例を示すフローチャートである。
まず、ステップS2010において、領域分割部210は、左目画像および右目画像を領域分割して、対応分割領域対(左目分割画像および右目分割画像)を取得する。
そして、ステップS2020において、分割領域特徴点抽出部220は、対応分割領域ごとに、対応輪郭特徴点対(左目輪郭特徴点および右目輪郭特徴点)を抽出する。
そして、ステップS2030において、画像特徴点抽出部230は、対応分割領域対ごとに、対応画像特徴点対(左目画像特徴点および右目画像特徴点)を抽出する。
そして、ステップS2040において、領域メッシュ生成部240は、特徴点に基づいて、対応画像領域対(左目メッシュ領域および右目メッシュ領域)を抽出する。
そして、ステップS2050において、領域変形部250は、対応画像領域対ごとに、右目メッシュ領域を左目メッシュ領域に合わせて変形させて、変形後の右目画像を生成し、図7の処理へ戻る。
図9は、ある利用範囲に対する、画像合わせ込み処理の様子を模式的に示す図である。
図9Aに示すように、左目画像710lおよび右目画像710rのそれぞれに、ピラミッド型の物体の画像711l、711rと、背景の画像712l、712rが含まれていたとする。画像711l、711rは、同一の物体の像であるが、カメラ位置が異なるため、画像平面上での位置および形状が若干異なる。
次に、図9Bに示すように、領域分割部210は、物体の左目分割画像713lおよび右目分割画像713rを抽出する。そして、分割領域特徴点抽出部220および画像特徴点抽出部230は、それぞれの輪郭線714l、714r等から、複数の特徴点715l、715rを抽出する。
次に、図9Cに示すように、領域メッシュ生成部240は、複数の特徴点715l、715rを結んで得られる複数の境界線716l、716rにより、複数の左目メッシュ領域717lおよび右目メッシュ領域717rを抽出する。そして、領域変形部250は、例えば矢印に示すように、各右目メッシュ領域717rの形状を、対応する左目メッシュ領域717lの形状に一致するように変形する。
これにより、図9Dに示すように、領域変形部250は、左目画像710lと変形後の右目画像710'rの各対応画素対の位置を一致させる。この結果、図9Eに示すように、画素値重畳部400は、後段の合成画像生成処理により、左目画像710lの画質を改善した画像として、例えばコントラストの高い合成画像718を生成することが可能となる。
図10は、重み算出処理(図7のステップS3000)の一例を示すフローチャートである。
まず、ステップS3010において、利用範囲計算部260は、画像・距離取得部200から、左目画像の各画素のマッチングスコアおよびデプス情報を取得する。そして、利用範囲計算部260は、対応画像対情報が示す対応画素対の中から、1つ(左目画像の座標x,yで表す)を選択する。
そして、ステップS3020において、利用範囲計算部260は、注目画素のマッチングスコアSx,yから、利用範囲(利用範囲サイズ)を決定する。
対応画像対ごとの利用範囲サイズRは、利用範囲サイズ情報の内容が関数gで表されるとき、例えば、以下の式(6)を用いて算出することができる。
Figure 2012137437
そして、ステップS3030において、重み情報計算部300は、注目画素の距離D ,yから、距離差分の閾値Thx,yを決定する。
そして、ステップS3040において、重み情報計算部300は、利用範囲内の画素の中から、1つ(注目画素を基準とした相対位置i,jで表す)を選択する。
そして、ステップS3050において、重み情報計算部300は、選択中の画素(i,j)と、注目画素(x、y)との間の距離差分dx,y,i,jを求める。そして、重み情報計算部300は、求めた距離差分dx,y,i,jが、閾値Thx,y以上であるか否かを判断する。重み情報計算部300は、距離差分dx,y,i,jが閾値Thx,y未満である場合(S3050:NO)、ステップS3060へ進む。また、重み情報計算部300は、距離差分dx,y,i,jが閾値Thx,y以上である場合(S3050:YES)、ステップS3070へ進む。
ステップS3060において、重み情報計算部300は、距離差分dx,y,i,jに応じた重みwx,y,i,jを、正規化前重みWx,y,i,jに決定する。
また、ステップS3070において、重み情報計算部300は、0を、正規化前重みW x,y,i,jに決定する。
正規化前重みWx,y,i,jは、重み設定情報の内容が関数fで表されるとき、例えば、以下の式(7)を用いて算出することができる。
Figure 2012137437
そして、図10のステップS3080において、重み情報計算部300は、選択中の対応画素対(x,y)の利用範囲における全ての画素(注目画素および周辺画素)を処理したか否かを判断する。重み情報計算部300は、処理していない画素が残っている場合(S3080:NO)、ステップS3040へ戻り、未処理の画素を選択する。また、重み情報計算部300は、全ての画素を処理した場合(S3080:YES)、ステップS3090へ進む。
ステップS3090において、重み情報計算部300は、利用範囲内で正規化前重みW x,y,i,jを正規化し、正規化後重みW’x,y,i,jを算出する。
正規化後重みW'x,y,i,jは、例えば、以下の式(8)および式(9)を用いて算出することができる。
Figure 2012137437
Figure 2012137437
そして、ステップS3100において、重み情報計算部300は、全ての対応画素対を処理したか否かを判断する。重み情報計算部300は、処理していない対応画素対が残っている場合(S3100:NO)、ステップS3010へ戻り、未処理の対応画素対を選択する。また、重み情報計算部300は、全ての対応画素対を処理した場合(S3100:YES)、図7の処理へ戻る。
図11は、合成画像生成処理(図7のステップS4000)の一例を示すフローチャートである。
まず、ステップS4010において、画素値重畳部400は、変形後の対応画像対情報が示す、変形後の対応画素対の中から、1つ(左目画像の座標x,yで表す)を選択する。
そして、ステップS4020において、画素値重畳部400は、利用範囲内の画素の中から、1つ(注目画素を基準とした相対位置i,jで表す)を選択する。
そして、ステップS4030において、画素値重畳部400は、右目画像における選択中の画素の画素値Cr,x,y,i,jに対して、対応する正規化後重みW'x,y,i, を乗算する。
そして、ステップS4040において、画素値重畳部400は、選択中の対応画素対(x,y)の利用範囲における全ての画素(注目画素および周辺画素)を処理したか否かを判断する。画素値重畳部400は、処理していない画素が残っている場合(S4040:NO)、ステップS4020へ戻り、未処理の画素を選択する。また、画素値重畳部400は、全ての画素を処理した場合(S4040:YES)、ステップS4050へ進む。
ステップS4050において、画素値重畳部400は、ステップS4030で算出した乗算値を、利用範囲内で平滑化する。そして、画素値重畳部400は、平滑化により得られた平滑化後画素値C'r,x,yと、左目画像の画素値Cl,x,yとを加算し、得られた加算値を、合成画像の画素値C'x,yに設定する。
合成画像の画素値C'x,yは、画像重みw'l,x,y、w'r,x,yを用いて、例えば、以下の式(10)および式(11)を用いて算出することができる。
Figure 2012137437
Figure 2012137437
なお、画像重みw'l,x,y、w'r,x,yは、0.5などの固定値であってもよいし、画素ごとに異なってもよい。例えば、左目画像の背景部分のうち、前景となっている物体の左側の撮影物体境界近傍外側の部分は、右目画像においてオクルージョンが発生する。したがって、画素値重畳部400は、このような部分については、右目画像の画像重みw'r,x,yを左目画像の画像重みw'l,x,yよりも小さくしてもよい。同様に、画素値重畳部400は、前景となっている物体の右側の撮影物体境界近傍外側の背景部分については、左目画像の画像重みw'l,x,yを右目画像の画像重みw'r,x,yよりも小さくしてもよい。
そして、ステップS4060において、画素値重畳部400は、全ての対応画素対を処理したか否かを判断する。画素値重畳部400は、処理していない対応画素対が残っている場合(S4060:NO)、ステップS4010へ戻り、未処理の対応画素対を選択する。また、画素値重畳部400は、全ての対応画素対を処理した場合(S4060:YES)、ステップS4070へ進む。
ステップS4070において、色調・レンジ調整部410は、合成画像に対して、必要に応じて色調補正などを行う所定の画像処理を行い、処理後の合成画像を、画像出力部420を介して画像表示装置520(図2参照)へ出力する。そして、画像処理装置100は、図7の処理へ戻る。
このような動作により、画像処理装置100は、ステレオ画像から、画質が向上した合成画像を得ることができる。
図12は、ある利用範囲に対する、正規化後重みおよび平滑化後画素値の算出の様子を模式的に示す図である。なお、各図の間における縦方向のスケールは、必ずしも一致しない。
図12Aに示すように、注目画素811を中心とする3画素×3画素の利用範囲812において、各画素の距離差分813の一部(例えば周辺画素814)は、閾値Th以上であったとする。
この場合、図12Bに示すように、周辺画素814には、正規化後重み815として、いわば足切りにより、0が設定される。したがって、図12Cに示すように、周辺画素814の輝度値816が高かったとしても、図12Dに示すように、正規化後重み815と輝度値816との乗算値817は、0となる。また、他の画素には、その正規化後重み815が高いほど、より高い乗算値817が算出される。
そして、図12Eに示すように、利用範囲812で各乗算値が平滑化(加算)された値は、利用範囲812の注目領域の平滑化後画素値818となる。すなわち、画像処理装置100は、注目画素との距離が大きく異なる周辺画素の影響を抑えた状態で、各画素の平滑化後画素値818を算出する。
画像処理装置100は、このように、距離差分が大きいほどより小さい重みを設定する。これにより、画像処理装置100は、例えば、前景と背景とを切り分けて後段の平滑化処理を行うことができ、合成画像における各物体の境界を、鮮明にすることができる。
以上のように、本実施の形態に係る画像処理装置100は、ステレオ画像を取得し、利用範囲ごとの平滑化に先立って、デプス情報に基づいて決定される重みを、各画素に適用する。これにより、画像処理装置100は、デプス情報を用いて、撮影物体境界の内側部分と外側部分とを切り分けて平滑化ができるので、撮影物体境界の不鮮明化を抑えてダイナミックレンジを拡大し、撮影画像の画質を改善することができる。
また、本実施の形態に係る画像処理装置100を含む撮影システム500は、ステレオ画像を撮影し、撮影したステレオ画像を利用して、高画質な撮影画像を取得し、これを表示することができる。
なお、以上説明した実施の形態2では、利用範囲ごと(変形後の対応画素対ごと)の画素値の平滑化を、右目画像のみに対して行ったが、左目画像に対しても行ってもよい。
また、左目画像を基準画像としたが、画像処理装置100は、右目画像を基準画像として左目画像を変形させてもよい。また、画像処理装置は、左目画像および右目画像の両方を変形させて、各メッシュ領域の合わせ込みを行ってもよい。
また、画像処理装置100は、基準画像の各画素のデプス情報を取得可能であれば、ステレオ画像以外の各種の複数の(3以上でもよい)画像から、合成画像を生成してもよい。但し、かかる複数画像は、同一の対象を同時撮影した画像である必要がある。したがって、例えば、画像処理装置100は、単眼カメラで同一の対象を連続して複数回撮影し、画角内の各位置までの距離を測距センサで取得し、複数の撮影画像から合成画像を生成してもよい。あるいは、画像処理装置100は、垂直方向や斜め方向に並べて配置され、撮影範囲が共通する2つのカメラによって同時撮影された2つの画像から、合成画像を生成してもよい。
2011年4月8日出願の特願2011−086736の日本出願に含まれる明細書、図面および要約書の開示内容は、すべて本願に援用される。
本発明に係る画像処理装置および画像処理方法は、撮影物体境界の不鮮明化を抑え、撮影画像の画質を改善することができる画像処理装置および画像処理方法として有用である。
100 画像処理装置
200 画像・距離取得部
210 領域分割部
220 分割領域特徴点抽出部
230 画像特徴点抽出部
240 領域メッシュ生成部
250 領域変形部
260 利用範囲計算部
300 重み情報計算部
400 画素値重畳部
410 色調・レンジ調整部
420 画像出力部
500 撮影システム
510 ステレオカメラ
520 画像表示装置

Claims (9)

  1. 撮影により得られた2つの画像から合成画像を生成する画像処理装置であって、
    前記2つの画像の間の対応画素対と、前記対応画素対のデプス情報およびマッチングスコアとを取得する画像・距離取得部と、
    前記対応画素対ごとに、前記デプス情報および前記マッチングスコアに基づいて、当該対応画素対を注目画素として含む所定の領域範囲の各画素に対して重みを決定する重み情報計算部と、
    前記2つの画像の少なくとも一方において、前記対応画素対ごとに、前記所定の領域範囲において画素値に前記重みを適用し平滑化を行い、前記所定の領域範囲の前記注目画素の画素値を、前記平滑化により得られた値で置き換えて、前記2つの画像を画素単位で重畳する画素値重畳部と、を有する、
    画像処理装置。
  2. 前記重み情報計算部は、
    前記注目画素および前記所定の領域範囲の前記注目画素以外の画素である周辺画素に対して、当該画素の前記デプス情報と前記注目画素の前記デプス情報との間の距離差分が大きいほど、より低い値の前記重みを決定する、
    請求項1記載の画像処理装置。
  3. 前記対応画素対ごとに、当該対応画素対の前記マッチングスコアが低いほどより広い範囲となるように、前記所定の領域範囲を決定する利用範囲計算部、を更に有する、
    請求項2記載の画像処理装置。
  4. 前記重み情報計算部は、
    前記対応画素対ごとの前記所定の領域範囲における前記重みの総和が一定となるように、前記重みを決定する、
    請求項3記載の画像処理装置。
  5. 前記利用範囲計算部は、
    前記注目画素を中心とした同心円状の領域を、前記所定の領域範囲として決定し、
    前記重み情報計算部は、
    前記距離差分が所定の閾値以上である前記周辺画素の前記重みを0とする、
    請求項4記載の画像処理装置。
  6. 前記重み情報計算部は、
    前記注目画素の前記距離差分が短いほど、より小さい値の前記所定の閾値を用いる、
    請求項5記載の画像処理装置。
  7. 前記2つの画像の間の対応画像領域対を取得する領域分割部と、
    前記対応画像領域対ごとに、前記合成画像における領域形状を一致させる領域変形部と、を更に有する、
    請求項6記載の画像処理装置。
  8. 前記2つの画像は、ステレオ画像により得られた左目画像および右目画像である、
    請求項1記載の画像処理装置。
  9. 撮影により得られた2つの画像から合成画像を生成する画像処理方法であって、
    前記2つの画像との間の対応画素対と、前記対応画素対のデプス情報およ
    びマッチングスコアとを取得するステップと、
    前記対応画素対ごとに、前記デプス情報および前記マッチングスコアに基づいて、当該対応画素対を注目画素として含む所定の領域範囲の各画素に対して重みを決定するステップと、
    前記2つの画像の少なくとも一方において、前記対応画素対ごとに、前記所定の領域範囲において画素値に前記重みを適用し平滑化を行い、前記所定の領域範囲の前記注目画素の画素値を、前記平滑化により得られた値で置き換えて、前記2つの画像を画素単位で重畳するステップと、を有する、
    画像処理方法。
JP2013508741A 2011-04-08 2012-03-23 画像処理装置および画像処理方法 Expired - Fee Related JP5901614B6 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011086736 2011-04-08
JP2011086736 2011-04-08
PCT/JP2012/002044 WO2012137437A1 (ja) 2011-04-08 2012-03-23 画像処理装置および画像処理方法

Publications (4)

Publication Number Publication Date
JPWO2012137437A1 JPWO2012137437A1 (ja) 2014-07-28
JPWO2012137437A6 true JPWO2012137437A6 (ja) 2014-07-28
JP5901614B2 JP5901614B2 (ja) 2016-04-13
JP5901614B6 JP5901614B6 (ja) 2018-06-27

Family

ID=46968851

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013508741A Expired - Fee Related JP5901614B6 (ja) 2011-04-08 2012-03-23 画像処理装置および画像処理方法

Country Status (4)

Country Link
US (1) US8818127B2 (ja)
JP (1) JP5901614B6 (ja)
CN (1) CN103026380B (ja)
WO (1) WO2012137437A1 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7818444B2 (en) 2004-04-30 2010-10-19 Move Networks, Inc. Apparatus, system, and method for multi-bitrate content streaming
CN103026380B (zh) * 2011-04-08 2016-04-13 松下电器(美国)知识产权公司 图像处理装置及图像处理方法
WO2014167676A1 (ja) * 2013-04-10 2014-10-16 株式会社 東芝 電子機器および画像処理方法
JP6221333B2 (ja) * 2013-05-07 2017-11-01 富士通株式会社 画像処理装置、画像処理回路及び画像処理方法
US9262696B2 (en) * 2013-10-30 2016-02-16 Intel Corporation Image capture feedback
JP6645682B2 (ja) 2015-03-17 2020-02-14 キヤノン株式会社 距離取得装置、距離画像信号補正装置、撮像装置、距離画像量子化装置、および方法
US9933264B2 (en) * 2015-04-06 2018-04-03 Hrl Laboratories, Llc System and method for achieving fast and reliable time-to-contact estimation using vision and range sensor data for autonomous navigation
CN105657252B (zh) * 2015-12-25 2018-01-02 青岛海信移动通信技术股份有限公司 一种移动终端中的图像处理方法和移动终端
CN107220997B (zh) * 2017-05-22 2020-12-25 成都通甲优博科技有限责任公司 一种立体匹配方法及系统
CN107194869B (zh) * 2017-05-23 2022-11-29 腾讯科技(上海)有限公司 一种图像处理方法及终端、计算机存储介质、计算机设备
WO2020170565A1 (ja) * 2019-02-19 2020-08-27 ソニーセミコンダクタソリューションズ株式会社 信号処理方法および撮像装置
US11270415B2 (en) * 2019-08-22 2022-03-08 Adobe Inc. Image inpainting with geometric and photometric transformations
CN110675404B (zh) * 2019-09-03 2023-03-21 RealMe重庆移动通信有限公司 图像处理方法、图像处理装置、存储介质与终端设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10206397B4 (de) * 2002-02-15 2005-10-06 Siemens Ag Verfahren zur Darstellung von Projektions- oder Schnittbildern aus 3D-Volumendaten eines Untersuchungsvolumens
JP2004105256A (ja) * 2002-09-13 2004-04-08 Fuji Photo Film Co Ltd 画像表示装置
JP2005311725A (ja) * 2004-04-21 2005-11-04 Nippon Telegr & Teleph Corp <Ntt> ステレオ画像の隠蔽装置、及びステレオ画像の隠蔽方法、隠蔽画像の復元装置、及び隠蔽画像の復元方法、並びに、そのプログラム及び記憶媒体
JP3974633B1 (ja) 2006-05-30 2007-09-12 京セラ株式会社 撮像装置および撮像方法
CN100562894C (zh) * 2007-03-23 2009-11-25 北京中星微电子有限公司 一种图像合成方法及装置
US8463019B2 (en) * 2007-07-19 2013-06-11 JVC Kenwood Corporation Pseudo 3D image generation device, image encoding device, image encoding method, image transmission method, image decoding device, and image decoding method
JP4424429B2 (ja) * 2008-04-09 2010-03-03 コニカミノルタビジネステクノロジーズ株式会社 画像処理装置
CN101656829A (zh) * 2008-08-21 2010-02-24 英华达(上海)电子有限公司 数码照相装置及其防抖方法
JP4661922B2 (ja) * 2008-09-03 2011-03-30 ソニー株式会社 画像処理装置、撮像装置、固体撮像素子、画像処理方法およびプログラム
JP2010239493A (ja) * 2009-03-31 2010-10-21 Olympus Corp 撮像装置および映像信号の補正処理方法
CN103026380B (zh) * 2011-04-08 2016-04-13 松下电器(美国)知识产权公司 图像处理装置及图像处理方法

Similar Documents

Publication Publication Date Title
JP5901614B6 (ja) 画像処理装置および画像処理方法
JPWO2012137437A6 (ja) 画像処理装置および画像処理方法
US10997696B2 (en) Image processing method, apparatus and device
US9208396B2 (en) Image processing method and device, and program
JP6159298B2 (ja) 複数スケールの規格化された相互相関を用いた、hdr画像処理におけるゴーストアーティファクトの検出および除去方法
JP5968073B2 (ja) 画像処理装置、撮像装置、画像処理方法、および画像処理プログラム
JP6142611B2 (ja) ステレオマッチングのための方法及びステレオマッチングのためのシステム
TWI441095B (zh) 距離估算方法及其距離估算裝置,及其機器可讀取媒體
JP6347675B2 (ja) 画像処理装置、撮像装置、画像処理方法、撮像方法及びプログラム
TWI462054B (zh) Estimation Method of Image Vagueness and Evaluation Method of Image Quality
JP7403594B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2015035658A (ja) 画像処理装置、画像処理方法、および撮像装置
JP7234057B2 (ja) 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム
JP2020129276A5 (ja)
JP7378219B2 (ja) 撮像装置、画像処理装置、制御方法、及びプログラム
JP2005309560A (ja) 画像処理方法および装置並びにプログラム
US20150292871A1 (en) Image processing apparatus and image processing method
JP5900017B2 (ja) 奥行き推定装置、再構成画像生成装置、奥行き推定方法、再構成画像生成方法及びプログラム
JP2016134661A (ja) 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体
JP7191588B2 (ja) 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体
JP2016156702A (ja) 撮像装置および撮像方法
JP6949494B2 (ja) 画像処理装置および画像処理方法、撮像装置、プログラム
JP2020160756A5 (ja)
JP2015207841A5 (ja)
JP6468751B2 (ja) 画像処理装置、画像処理方法及びプログラム