JP5014274B2 - 画像処理装置、画像処理方法、画像処理システム、プログラム、記録媒体および集積回路 - Google Patents
画像処理装置、画像処理方法、画像処理システム、プログラム、記録媒体および集積回路 Download PDFInfo
- Publication number
- JP5014274B2 JP5014274B2 JP2008172225A JP2008172225A JP5014274B2 JP 5014274 B2 JP5014274 B2 JP 5014274B2 JP 2008172225 A JP2008172225 A JP 2008172225A JP 2008172225 A JP2008172225 A JP 2008172225A JP 5014274 B2 JP5014274 B2 JP 5014274B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- vanishing point
- information
- unit
- depth
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Image Analysis (AREA)
Description
人間は、両眼視差のみならず、色情報、彩度、明暗、(色情報や明るさ情報の)コントラスト、陰影、肌理の勾配、相対的大きさ等の単眼情報を利用して、2次元画像に奥行き感や立体感を知覚することが明らかとなっている。表示画像において「奥行き感」や「立体感」を向上させる場合、如何にして2次元画像に対する奥行き情報を推定するかがポイントとなる。
図47は、その従来の画像処理装置(立体化装置)9100の構成を示すブロック図である。
画像処理装置9100は、入力される画像信号が輝度信号Yで、画像信号が形成する画像においてエッジ付加輪郭強調により輪郭強調を行うものである。画像処理装置9100は、入力される画像信号(入力画像信号)に対して微分処理を行う微分回路9101と、入力画像信号の1次微分値および2次微分値より、画像の遠近領域の検出を行う遠近検出部9102と、遠近検出部9102の検出結果に応じて2次微分信号に係数値を乗算する係数加重部9103と、タイミングを調整するため遅延部9104により遅延された入力画像信号Y’と係数加重部9103により係数加重された後の微分信号EGとの加算を行う加算部9105と、そして入力画像信号の処理タイミングを調整するための遅延部9104と、から構成される。
また、2次元画像からシーンの3次元構造を推定し、その推定結果を用いて画像の合成処理や仮想的な視点移動処理を実現しようとするアプローチが種々検討されている。その中で、遠近法における消失点を算出し、算出された消失点に基づいて画像の合成処理や仮想的な視点移動処理等の処理を実現させる技術がある(例えば、非特許文献1、特許文献2参照)。
さらに、非特許文献1や特許文献2のような擬似立体画像作成装置および擬似立体画像作成方法では、様々な画像に対して、消失点の決定を自動的に行うことは困難である。特許文献2のように被写体内の傾斜している稜線の交差する点や遠近法的手法より中心点(消失点)を求める手法では、消失点の決定を自動的に行うことは、かなり困難である。さらに、入力されるすべてのシーンに対して消失点による遠近法的な構造が人間の視覚にとって違和感の少ない立体画像を実現しない可能性も高い。
この画像処理装置では、消失点推定部により推定された消失点情報と、関心度推定部により推定された関心度とに基づいて、画像信号に対して奥行き補正処理を行うので、消失点からの距離に応じた補正ゲイン制御と画像内における人間の関心度・注目度とを結びつけることができ、処理画像において、より自然な奥行き感向上を実現することができる。
なお、ここで、「関心度」とは、処理対象としている画素(注目画素)または複数画素からなる画素領域(注目画素領域)が、人間が、当該注目画素(または注目画素領域)が含まれる画像を見たときに、当該注目画素(または注目画素領域)にどの程度注目するかの度合い(どの程度関心を示すかの度合い)を指標化したものである。したがって、「関心度」を、人間の視覚特性を考慮した指標とすることが好ましい。
また、「奥行き度」とは、画素ごとまたは複数画素からなる画素領域ごとに設定される値であり、例えば、実際の3次元空間をカメラで撮影して取得した2次元画像の場合では、2次元画像上の画素(または画素領域)に対応する実際の3次元空間内の位置と、その2次元画像を取得したときのカメラの3次元空間内の位置との距離の程度を示すものである。そして、例えば、奥行き度fbiは、奥行き度fbiの値が大きいほど、奥行き度fbiに対応する画素i(注目画素i)が画像上の近景領域に含まれることを示し、奥行き度fbiの値が小さいほど、奥行き度fbiに対応する画素iが遠景領域に含まれることを示すものと定義される。
(1)γカーブ(ガンマ特性)による階調補正処理、
(2)明るさ対比効果を考慮した階調補正処理、
(3)単純な彩度・色相補正処理、
(4)色対比効果を考慮した彩度・色相補正処理、
(5)エンハンサ(エッジ鮮鋭化)処理、
(6)平滑化処理、
(7)陰影付加・光付加処理、
(8)記憶色補正処理、
(9)Dレンジ(ダイナミック・レンジ)伸張処理
等が挙げられる。
これにより、明るさ対比量RKiを用いて関心度を精度良く求めることができる。なお、周辺画素の明るさ情報AKiは、例えば、周辺画素の画素値の平均値や周辺画素の画素値の重付平均値(ガウス関数を利用した重付を利用した平均値等)により求めることができる。
これにより、簡単に、明るさ対比量RKiを算出することができ、また、人間の視覚特性に適合した関心度を求めることができる。
第4の発明は、第1から第3のいずれかの発明であって、消失点推定部は、輪郭算出部と、ハフ変換部と、分布算出部と、消失点抽出部と、を有する。輪郭算出部は、明るさ情報から輪郭情報を算出し、輪郭情報に基づいて画像上の輪郭部にある特徴点を抽出する。ハフ変換部は、特徴点を結ぶ画像上の直線をハフ変換することで、ハフ空間内の点に変換する。分布算出部は、ハフ空間内の点についてのヒストグラム分布を算出する。消失点抽出部は、ハフ空間内の点についてのヒストグラム分布に基づいて、画像上の消失点情報を抽出する。
第5の発明は、第4の発明であって、消失点抽出部は、画像を複数のブロックに分割し、分布算出部により算出されたヒストグラム分布において、第1閾値より大きい頻度値を有しているハフ空間内の点に相当する画像上の直線がブロックを通過する数であるブロック内直線数を算出し、ブロック内直線数が所定の値より多い場合、ブロックの重心点を画像上の消失点情報とする。
これにより、画像上で、多数の消失点の候補がある場合であっても、適切に消失点(消失点情報)を抽出することができる。
第6の発明は、第2から第5のいずれかの発明であって、奥行き推定部は、奥行き度の最小値である奥行き度最小値Min_fbiおよび奥行き度の最大値である奥行き度最大値Max_fbi(≧Min_fbi)を、注目画素と消失点情報との画像上での距離に対して単調増加の関係となる値に設定し、奥行き度fbiを、奥行き度最小値Min_fbiから奥行き度最大値Max_fbiの範囲において、関心度に対して単調増加の関係となる値に設定し、補正ゲインを、奥行き度fbiに対して単調増加の関係となる値に設定する。そして、奥行き補正部は、補正ゲインの値が大きい程、注目画素が視覚的に注目される度合いが高くなるように、画像信号に対して奥行き補正処理を行う。
特に、この画像処理装置では、消失点からの距離Leniが小さく、かつ、関心度の高い画素iに対して奥行き度fbiの値を高めに設定することができるので、人間の視覚特性上、注目されやすい、画像上において、消失点から近くに存在する、関心度の高い画素iに対して、視覚特性上、より注目されるように補正することができ、処理画像上の奥行き感(遠近感)を効果的に向上させることができる。
第7の発明は、第1の発明であって、画像信号から、画素または画素領域ごとに、色情報を算出する色情報算出部をさらに備える。関心度推定部は、関心度を、明るさ情報および色情報から推定する。
この画像処理装置では、色情報をも考慮して関心度を推定するので、人間がより注目しやすい画像上の画素(または画素領域)についての関心度をより精度よく推定することができる。
第8の発明は、第1から第7のいずれかの発明であって、画像信号から、複数の画素または複数の画素領域からなるブロックごとに、周波数情報を算出する周波数情報算出部をさらに備える。関心度推定部は、周波数情報にも基づいて、関心度を推定する。
この画像処理装置では、周波数情報をも考慮して関心度を推定するので、人間がより注目しやすい画像上の画素(または画素領域)についての関心度を、さらに精度よく推定することができる。
第9の発明は、第8の発明であって、関心度推定部は、ブロックごとに、所定の周波数以上の周波数成分の和である高周波成分和sumHFreqを求め、高周波成分和sumHFreqのブロックの全周波数成分の和sumAllFreqに対する比率RBi(=sumHFreq/sumAllFreq)を求め、比率RBiに基づいて、関心度を推定する。
これにより、簡単かつ適切に、周波数情報に基づく情報である比率RBiにより関心度を推定することができる。比率RBiは、ブロックに含まれる高周波成分の比率であるので、この値が高い程、画素iに対して、人間が注目する度合いが高くなる傾向がある。したがって、この画像処理装置により、比率RBiを算出し、比率RBiをも考慮した関心度を求めることで、より精度の高い奥行き補正処理を行うことができる。
第11の発明は、第10の発明であって、消失点推定部は、消失点推定判断部により消失点決定情報が出力された場合、現フレーム画像から消失点情報を推定する処理を実行しない。
第12の発明は、第10の発明であって、消失点選択部は、消失点推定判断部により消失点決定情報が出力されない場合、p個の過去フレーム画像の消失点情報を平滑化した平滑化消失点情報を、現フレーム画像における消失点情報に設定する。そして、消失点推定部は、現フレーム画像から消失点情報を推定する処理を実行しない。
これにより、この画像処理装置では、現フレーム画像の画像特徴と類似する画像特徴量を持つ過去フレーム画像を検出することができなかった場合でも、処理量を削減しつつ、動画像に対応した適切な奥行き処理を実行することができる。
第13の発明は、第10から第12のいずれかの発明であって、消失点推定判断部は、現フレーム画像特徴量と過去フレーム画像特徴量との2乗誤差が最小である過去フレーム画像を最小誤差過去フレーム画像として特定し、最小誤差過去フレーム画像の過去フレーム画像特徴量と現フレーム画像特徴量との2乗誤差が所定値以下である場合、消失点置換決定情報を出力する。
第14の発明は、第13の発明であって、画像特徴量は、明るさ対比量、色対比量、および、複数の画素または複数の画素領域からなるブロックごとに算出される周波数情報に基づく量、の少なくとも1つにより算出されるものである。
第15の発明は、第14の発明であって、周波数情報に基づく量は、ブロックごとに、所定の周波数以上の周波数成分の和である高周波成分和sumHFreqを求め、高周波成分和sumHFreqのブロックの全周波数成分の和sumAllFreqに対する比率RBi(=sumHFreq/sumAllFreq)である。
第16の発明は、第1から第15のいずれかの発明であって、奥行き補正処理部は、奥行き補正処理として、明るさ情報補正処理、色情報補正処理、輪郭強調処理、および平滑化処理の少なくとも1つの処理を行う。
これにより、この画像処理システムにおいて、ユーザは、処理モードを選択することができる。特に、ユーザは、表示部に表示される処理画像を確認しながら、処理モードを選択することができるため、ユーザの所望の画像処理特性による画像処理を、この画像処理システムにおいて実現させることができる。
第18の発明は、第17の発明であって、ユーザモード選択部は、少なくとも、画像処理装置において実行される奥行き補正処理の強度に関する情報を含む処理モードを選択する。
第19の発明は、第17または第18の発明であって、表示部は、画像処理装置により推定された消失点情報を、画像処理装置により処理された画像とともに表示する。ユーザモード選択部は、ユーザの指示に従い、画像処理装置により推定された消失点情報を修正する。
第20の発明は、明るさ情報算出ステップと、関心度推定ステップと、消失点推定ステップと、奥行き推定ステップと、を備える画像処理方法である。明るさ情報算出ステップでは、画素からなる画像を形成することができる画像信号から、画素または複数の画素からなる画素領域ごとに、明るさ情報を算出する。関心度推定ステップでは、画素または画素領域が、画像上で、視覚的に注目される度合いを示す関心度を、明るさ情報から推定する。消失点推定ステップでは、明るさ情報から、画像上の消失点情報を推定する。奥行き推定ステップでは、関心度と消失点情報とに基づいて奥行き度を推定し、奥行き度に基づいて画像信号に対して奥行き補正処理を行うための補正ゲインを算出する。奥行き補正ステップでは、補正ゲインに基づいて、画像信号に対して奥行き補正処理を行う。
第21の発明は、コンピュータを、明るさ情報算出部、関心度推定部、消失点推定部、奥行き推定部、奥行き補正部、として機能させるためのプログラムである。明るさ情報算出部は、画素からなる画像を形成することができる画像信号から、画素または複数の画素からなる画素領域ごとに、明るさ情報を算出する。関心度推定部は、画素または画素領域が、画像上で、視覚的に注目される度合いを示す関心度を、明るさ情報から推定する。消失点推定部は、明るさ情報から、画像上の消失点情報を推定する。奥行き推定部は、関心度と消失点情報とに基づいて奥行き度を推定し、奥行き度に基づいて画像信号に対して奥行き補正処理を行うための補正ゲインを算出する。奥行き補正部は、補正ゲインに基づいて、画像信号に対して奥行き補正処理を行う。
第22の発明は、コンピュータを、明るさ情報算出部、関心度推定部、消失点推定部、奥行き推定部、奥行き補正部、として機能させるためのプログラムを記録したコンピュータにより取り可能な記録媒体である。明るさ情報算出部は、画素からなる画像を形成することができる画像信号から、画素または複数の画素からなる画素領域ごとに、明るさ情報を算出する。関心度推定部は、画素または画素領域が、画像上で、視覚的に注目される度合いを示す関心度を、明るさ情報から推定する。消失点推定部は、明るさ情報から、画像上の消失点情報を推定する。奥行き推定部は、関心度と消失点情報とに基づいて奥行き度を推定し、奥行き度に基づいて画像信号に対して奥行き補正処理を行うための補正ゲインを算出する。奥行き補正部は、補正ゲインに基づいて、画像信号に対して奥行き補正処理を行う。
第23の発明は、明るさ情報算出部と、関心度推定部と、消失点推定部と、奥行き推定部と、奥行き補正部と、を備える集積回路である。明るさ情報算出部は、画素からなる画像を形成することができる画像信号から、画素または複数の画素からなる画素領域ごとに、明るさ情報を算出する。関心度推定部は、画素または画素領域が、画像上で、視覚的に注目される度合いを示す関心度を、明るさ情報から推定する。消失点推定部は、明るさ情報から、画像上の消失点情報を推定する。奥行き推定部は、関心度と消失点情報とに基づいて奥行き度を推定し、奥行き度に基づいて画像信号に対して奥行き補正処理を行うための補正ゲインを算出する。奥行き補正部は、補正ゲインに基づいて、画像信号に対して奥行き補正処理を行う。
第1実施形態では、明るさに関する視覚特性である明るさ対比量を使って算出された関心度と、推定された消失点からの距離により算出された奥行き度とに応じて、画像上の対象領域の画素値補正を実施する画像処理装置および画像処理方法について説明する。
第2実施形態では、明るさに関する視覚特性である明るさ対比量と色に対する視覚特性である色対比量とを使って、推定された消失点からの距離により算出された奥行き度に応じて画像上の対象領域の画素値補正を実施する画像処理装置および画像処理方法について説明する。
第3実施形態では、明るさに関する視覚特性である明るさ対比量、色に対する視覚特性である色対比量、および周波数情報による鮮鋭程度量を使ってと推定された消失点からの距離により算出された奥行き度に応じて、画像上の対象領域の画素値補正を実施する画像処理装置および画像処理方法について説明する。
第5実施形態では、第2実施形態の明るさ対比量と色対比量とによる関心度算出の実施形態に、第4実施形態の現時点のフレーム内画像特徴量と過去pフレーム時刻前から1フレーム時刻前の画像内特徴量とを比較し、その差分より定義される評価値をもとに消失点推定の有無を判断し、消失点推定を実施しない場合は、最適な評価値をもつ過去フレームの消失点を選択する機能部を組み合わせた画像処理装置および画像処理方法について説明する。
第7実施形態では、第1実施形態の明るさ対比量による関心度算出の実施形態に、過去数フレームの消失点を平滑化する機能部を組み合わせた画像処理装置および画像処理方法について説明する。
第8実施形態では、第2実施形態の明るさ対比量と色対比量とによる関心度算出の実施形態に、過去数フレームの消失点を合わせて平滑化する機能部を組み合わせた画像処理装置および画像処理方法について説明する。
第10実施形態では、第1から第9実施形態に係る画像処理装置を画像処理部として用い、その補正レベル等の処理モードをユーザが選択することができる画像処理装置と画像処理方法について説明する。
[第1実施形態]
図1から図12を用いて、本発明の第1実施形態として、関心度と消失点からの距離とに応じて奥行き度を推定し画素値補正を行う画像処理方法及び画像処理装置について説明する。
図1に、本発明の第1実施形態に係る画像処理装置1000の構成図を示す。
画像処理装置1000は、入力画像信号vIiから明るさ情報Kiを算出する明るさ情報算出部1と、明るさ情報Kiから関心度Siを推定する関心度推定部2と、明るさ情報Kiから消失点情報vVPkを推定する消失点推定部3と、を備える。さらに、画像処理装置1000は、関心度Siと消失点情報vVPkとから奥行き度を推定し、補正ゲインGiを算出する奥行き推定部4と、補正ゲインGiに基づいて入力画像信号vIiに対して奥行き補正を行う奥行き補正部5と、奥行き補正された画像信号を所定の形式の出力画像信号vOiにして出力する出力部6と、を備える。
明るさ情報算出部1は、入力画像信号vIiから明るさ情報(輝度)Kiを算出し、算出した明るさ情報Kiを関心度推定部2および消失点推定部3に出力する。
関心度推定部2は、図2に示すように、周辺明るさ情報算出部20と、明るさ対比量算出部21と、関心度変換部22と、を有する。
明るさ対比量算出部は、明るさ情報Kiおよび周辺明るさ情報算出部20により算出された代表明るさ情報AKiを入力とし、明るさ情報Kiおよび代表明るさ情報AKiから明るさ対比量RKiを算出し、関心度変換部22に出力する。
関心度変換部22は、明るさ対比量RKiから関心度Siを算出し、算出した関心度Siを奥行き推定部4に出力する。
消失点推定部3は、図3に示すように、輪郭算出部30と、ハフ変換部31と、分布算出部32と、消失点抽出部33と、を有する。
ハフ変換部31は、特徴点RPk(x,y)のそれぞれを結ぶ直線をハフ変換することにより、画像空間内の直線をハフ空間内の点(ρ,θ)に変換する(詳細については後述)。
分布算出部32は、画像空間内の直線が変換されたハフ空間内の点(ρ,θ)についてヒストグラムを算出し、消失点抽出部33に出力する。
奥行き推定部4は、関心度推定部2により推定された関心度Siと消失点推定部3により推定された消失点情報vVPkとを入力とし、関心度Siおよび消失点情報vVPkから奥行き度を推定し、その推定された奥行き度に基づいて補正ゲインGiを算出する。奥行き推定部4は、算出した補正ゲインGiを奥行き補正部5に出力する。
奥行き補正部5は、補正ゲインGiおよび入力画像信号vIiを入力とし、補正ゲインGiに基づいて入力画像信号vIiに対して奥行き補正を行い、奥行き補正した画像信号を出力部6に出力する。
<1.2:画像処理装置の動作>
以上のように構成された画像処理装置1000の動作について、以下説明する。
また、図4に、第1実施形態に係る画像処理方法の処理フローチャートを、図5に、関心度推定処理の処理フローチャートを、図6に、消失点推定処理の処理フローチャートを示す。
本発明に係る画像処理装置1000は、画像データ(画像信号)を処理することで、画像内の画素ごと(または複数の画素からなる領域ごと)の奥行き度を推定して、画像信号に対して施される所定の画像処理の補正ゲイン値を制御することで、画像信号に対して奥行き補正処理を行う装置であり、例えば、デジタルスチルカメラやデジタルビデオカメラのような撮影機器、これらの撮影機器で取得したデジタル画像を編集する画像編集装置、モバイル環境下で使用する携帯電話やカーモバイル機器・PDA等、あるいは、様々な環境下で使用される大型映像表示機器等へ搭載される。
画像処理装置1000に画素iにおける画素値vIiをもつ画像データ(画像信号)が入力されると、明るさ情報算出部1において、画像データ(画像信号)vIiを構成する各画素i(x、y)のデータは、所定の明るさ情報Kiへ変換される。ここでは、画像入力データは、色情報を扱いやすい色相H、彩度Sおよび明度Vより構成されるHSV空間データにおける明度Vや、輝度Y、色差Cbおよび色差Crより構成されるYCbCr空間データの輝度Yや、明度L、色a*およびb*より構成されるLa*b*空間データの明度L等に変換される。本実施形態では、YCbCr空間における輝度Yを明るさ情報Kiとして用いる場合について説明する。
関心度推定部2では、まず明るさ情報算出部1で得られた明るさ情報Kiに対する明るさ対比量RKiが算出される。
つまり、物体自体の明るさよりもその物体の周囲を取り囲む明るさが高い場合、物体の明るさは低く感じられる。逆に、物体自体の明るさよりもその物体の周囲を取り囲む明るさが低い場合、物体の明るさは高く感じられる。
中心の円は均一な明るさ情報を持つ。一方、左の矩形内は中心円よりやや高い明るさを持ち、右の矩形内は中心円よりもずっと低い明るさを持つ(ずっと暗い)とする。この場合、中心円境界上で2つの星印で示された位置の画素Aの明るさと画素Bの明るさとを確認する。本来、画素Aの明るさと画素Bの明るさとは、同じ明るさを持つ。しかし、画素Bでは、周辺領域内の明るさよりも画素Bがずっと明るいため、その対比効果により本来の画素Bの明るさよりもずっと明るく感じる傾向がある。それに対して、画素Aでは、周辺領域内の明るさよりも画素Aの明るさがやや低いため、これも対比効果により、本来の画素Aの明るさよりもやや暗く感じてしまう。その結果、ユーザは、画素Bの方が画素Aよりも明るく感じる現象が発生するのである。
(a)明るさ情報Kiの、その周辺を代表する明るさ情報AKiに対する比、
(b)明るさ情報Kiから、その周辺を代表する明るさ情報AKiを減算した値、
等の定義を採用することができる。なお、これ以外にも多くの定義があるが、ここでは対比をより明確に表すために、(a)の明るさ情報Kiのその周辺を代表する明るさ情報AKiに対する比を用いることとした。
次に、画素i(x,y)における明るさ対比量RKi(x,y)と関心度Si(x,y)との関連付けが行なわれる。この処理は、関心度変換部22で実施される。
この明るさ対比量RKiを用いて、画像内の関心度Siが推定される。
図9に、その考え方を模式的に示す。図9の左図の中に2つの花弁がある。2つの花弁の花びらは同じ明るさ情報を持つ。それに対して、左の花弁の中心は周囲の花びらより明るさが高く、右の花弁の中心は周囲の花びらより明るさが低いと仮定する。この場合、左の花弁中心部内の画素Pcで得られる明るさ対比量RKPcと右の花弁中心部内の画素Qcで得られる明るさ対比量RKQcを比較すると、RKPc>RKQcとなる。その結果、この明るさ対比の影響により、左の花弁中心部では、視覚特性上、実際の明るさKPcよりも明るく感じられることとなり、右の花弁中心部では実際の明るさKQcよりも暗く感じられることとなる。そのため、左の花弁中心部では、より人間の関心度が高くなる。それに対して、右の花弁中心部では、人間の関心度が落ちてしまう(低くなる)。
まず、絵画の遠近法表現でよく使用される「消失点」について説明する。3次元空間で平行な2直線を延長した線を、平面に投影した場合、それらの線は必ず1点に収束する。この点のことを「消失点」と呼ぶ。このため、まず、画像内より複数の直線を検出し、その直線が多く交わる点を消失点情報vVPk(x,y)=(VPkx,VPky)とする。この消失点の数NVPは複数であってもよいが、以下では簡単のために消失点が1つである場合の例で、消失点推定部3により実行される消失点推定の処理について説明する。
画像内から直線を抽出する前準備として、輪郭情報が輪郭算出部30で算出される。この手法として、従来より知られている多くの方法を用いることができるが、ここでは、エッジ抽出フィルタ(例えば、3画素×3画素のサイズのSobelフィルタ)により画素i(x,y)のエッジ量EDGEi(x,y)を求め、その値を所定のしきい値THEDGEと比較して、エッジ量EDGEi≧THEDGEの画素i(x,y)を輪郭上にある特徴点RPk(x,y)とする。(数式3)は、Sobelフィルタの係数の一例を示している。vSobelxは、x方向エッジ成分検出用マトリックスであり、vSobelyはy方向エッジ成分検出用マトリックスである。THEDGEは、所定の正定数であり、画像内で最大のエッジ量をもとに決めてもよい。
ハフ変換による直線検出処理について、図10を用いて説明する。ハフ変換では、まず、図10の左図のように、直線Lを極座標表現(ρ,θ)を用いて表現する。ρは、原点から直線に垂線を引いたときの原点から当該直線と当該垂線との交点までの長さ、θは、当該垂線とx軸とのなす角を示す。ただし、垂線がy<0の領域にあるときはρ<0とする。θの範囲は0≦θ≦πとなる。
図10の左図のような特徴点A、B、Cを通過する直線L0の表現は、(ρ0,θ0)と定義される。(数式4)に、その直線L0の式を示す。
消失点推定部3における処理のアルゴリズム概要は、次の通りである。
《ハフ変換による直線検出》
(1)ハフ変換部31は、(θ−ρ)空間を離散化し、θ、ρに関する2次元空間PP(θ,ρ)を用意する。原画像(x−y空間)のサイズをw画素×w画素とした場合、ρの取りうる範囲は[−1.414w/2,1.414w/2]なので、1.414w/2だけシフトして[0,1.414w]の範囲をρが取りうる範囲とする。この場合、θ、ρにおける離散化間隔Δθ=1度、Δρ=1のとき、2次元配列PP(θ,ρ)の大きさは180×1.414wとなる。ここで、「1.414」は、「2」の平方根である。
(3)全画素の走査完了の後、PP(θ,ρ)の値の最大値MaxCountをもとに所定のしきい値ThCountによるしきい値判定を行い、ThCountよりも小さい場合は、消失点なしと見なして、vVPk(x,y)=(−1,−1)を設定して、抽出処理を終了する。
(5)抽出された極座標(θs,ρs)(s=1,・・・,NL)の各々に対応する画像空間内の直線Lsと、画像(x,y)を細分化したブロックBmn(m=1,・・・,NBx,n=1,・・・,NBy)のブロック頂点座標とを比較することで、画像空間内のブロックBmnを通過する直線Lsの直線数をカウントする。直線Lsの直線数の最大となるブロックBMaxmnの重心を消失点vVP(x,y)の座標とする。ここではvVP(x,y)=(VPkx,VPky)とする。つまり、そのブロックを通過する直線Lsの数(直線数)が最大となるブロックの重心を消失点vVP(x,y)とする。なお、消失点は、必ずしも1点である必要はなく、複数であってもよい。その場合、そのブロックを通過する直線Lsの数(直線数)が所定のしきい値以上となるブロックの重心を消失点vVPk(x,y)(k=0,1,・・・)とする。
このようにして得られた消失点情報vVPk(x,y)と、関心度Si(x,y)とに基づいて、奥行き推定部により、対象画素iの奥行き度fbiが求められる。その考え方を図11に示す。
一方、図11(b)は、領域Aの明るさよりも領域Bの明るさの方が明るい場合を模式的に示している。この場合、領域Bは消失点から比較的近い位置にあるが、明るさの対比効果で、視覚特性上、人間の関心が集まりやすくなり、領域Bは、実際よりも近くにあると感じられる傾向がある。それに対して、領域Aは、本来、消失点の距離から遠く、視覚的に近景に感じられるはずだが、関心がBに集まりやすいことから、領域Aは、実際よりもやや遠くにあるように感じられる傾向がある。
図12(a)は、上記の関係を模式的に示した図である。図12(a)は、横軸に関心度Siをとり、縦軸に消失点からの距離Leniをとり、各座標領域(図12の左図では4つの座標領域に分割している。)に含まれる画素が視覚的にどのように感じられるか(近景領域に含まれるように感じられる、あるいは、遠景領域に含まれるように感じられる等)を模式的に示したグラフである。なお、ここで、関心度Siは、画素iの関心度であり、その最大値をMaxSとする。MaxSの値は、通常、「1.0」に設定すればよい。Leniは、消失点vVPk(x,y)=(VPkx,VPky)から画素iまでの距離を示し、0≦Leni≦1.0のように正規化されているものとする。
なお、消失点が複数ある場合、各消失点について、図12(b)および図12(c)の関数で奥行き度fbkiを求め、その和により最終的な奥行き度fbiを求める。また、各消失点vVPkによる奥行き度fbkiに、所定の変換関数による変換を行い、変換された値を用いて、奥行き度を求めるようにしてもよい。
また、(数式5)に、図12(b)に示した特性に相当する数式を示し、(数式6)および(数式7)に、図12(c)のMaxf_biおよびMin_fbiに相当する数式を示す。
0.0<Maxoff≦1.0,
0.0<Maxkeisu≦1.0
となる。
Minkeisuも、所定の正定数であり、
0.0<Minkeisu<1.0
となる。
なお、上記以外にも、関心度Siと、消失点vVPk(x,y)=(VPkx,VPky)からの距離Leniとの2変数で制御される関数であり、なめらかに連続となる関数であれば、その関数を、奥行き度fbiを決定する関数として、適用することも可能である。
そして、奥行き推定部4により算出された補正ゲインGiは、奥行き補正部5に出力される。
奥行き補正部5では、所定の奥行き補正用の画像処理が画素i(x,y)に対して実施される。
奥行き補正部5では、例えば、
(1)γカーブ(ガンマ特性)による階調補正処理、
(2)明るさ対比効果を考慮した階調補正処理、
(3)単純な彩度・色相補正処理、
(4)色対比効果を考慮した彩度・色相補正処理、
(5)エンハンサ(エッジ鮮鋭化)処理、
(6)平滑化処理、
(7)陰影付加・光付加処理、
(8)記憶色補正処理、
(9)Dレンジ(ダイナミック・レンジ)伸張処理
等の処理が画素i(x,y)に対して実行される。
最後に、出力部6では、奥行き補正部5で得られた各画素iの色情報補正値とそれ以外の色情報値とをそのまま出力するようにしてもよい。また、出力部6では、奥行き補正部5で得られた各画素iの対象色情報の補正値とそれ以外の色情報値とを、使用機器により扱うことのできる所定の画像フォーマット(例えば、JPEG画像形式、BMP画像形式、MPEG形式、NTSC方式の映像形式等)に応じて変換し、変換して得られた処理画像データを出力するようにしてもよい。
このように、画像処理装置1000では、奥行き情報(近景領域に含まれる画素か遠景領域に含まれる画素か)に応じて、その画素値に対する補正ゲインの値を制御し、その補正ゲインを用いて画素値を補正することで、人間の視覚に自然に感じられる奥行き感向上を実現した画像信号を取得することができる。つまり、画像処理装置1000では、人間の単眼情報の手掛かりによる3次元認知特性により、画像(画像信号)に奥行き感・遠近感を感じる効果を簡易に与えることができる。
また、画像内で消失点が存在しない場合や、うまく抽出できない場合や、消失点の候補が多数あるような場合、消失点からの距離のみでは効果的な奥行き制御を行うことは困難である。しかし、本発明の第1実施形態に係る画像処理装置1000およびそれに用いられる画像処理方法では、そのような場合にも対応することができる。
なお、上記において、補正対象色情報としては彩度1つの場合について説明したが、例えば、彩度および色相の2つの色情報補正を組み合わせることも可能である。この場合、各々の色情報に対して、別々に奥行き情報(彩度に基づく奥行き情報および色相に基づく奥行き情報)からの補正ゲインの値を設定することも可能である。また、彩度に基づく奥行き情報および色相に基づく奥行き情報で、同じ補正ゲインの値を用いて処理するようにしてもよい。他の処理についても、上記で説明した処理と同様に行うことができる。
また、補正対象色情報Ciの色補正処理を行う際、所定の変動量DefCiにより(数式11)のように変化させることで、補正後の色情報Ci_newを求めるようにしてもよい。
また、色対比による色補正処理を行うことも可能である。その場合、一例として、(数式12)および(数式13)により、色補正処理を実行することも可能である。
なお、本実施形態に係る画像処理装置1000および画像処理方法において、処理画像上での奥行き感向上のために、上記で示した色補正処理を用いることは一例であり、他に多くの手法を用いることができるのは言うまでもない。
図14から図21を用いて、本発明の第2実施形態として、関心度を消失点からの距離に応じて奥行き度を推定し画素値補正を行う画像処理方法及び画像処理装置について説明する。
<2.1:画像処理装置の構成>
図14に、本発明の第2実施形態に係る画像処理装置2000の構成を示す。第2実施形態に係る画像処理装置2000では、図14に示すように、第1実施形態に係る画像処理装置1000と比べて、色情報算出部100を追加した点と、関心度推定部2を高度関心度推定部102に置換した点とが異なる。
なお、本実施形態に係る画像処理装置2000において、前述の実施形態と同様の部分については、同一の符号を付し、説明を省略する。
色情報算出部100は、入力画像信号vIiから色情報Ciを算出し、算出した色情報Ciを高度関心度推定部102に出力する。
高度関心度推定部102は、明るさ情報算出部1から出力された明るさ情報Kiおよび色情報算出部100から出力された色情報Ciを入力とし、明るさ情報Kiおよび色情報Ciに基づいて関心度Siを算出(推定)し、算出した関心度Siを奥行き推定部4に出力する。
高度関心度推定部102は、図15に示すように、周辺明るさ情報算出部20と、明るさ対比量算出部21と、周辺色情報算出部120と、色対比量算出部121と、高度関心度変換部123と、を有する。
周辺色情報算出部120は、色情報vCiを入力とし、周辺色情報ACiを算出し、算出した周辺色情報ACiを色対比量算出部121に出力する。
色対比量算出部121は、周辺色情報算出部120から出力された周辺色情報ACiおよび色情報算出部100から出力された色情報vCiを入力とし、周辺色情報ACiおよび色情報vCiに基づいて、色対比量RCiを算出し、高度関心度変換部123に出力する。
高度関心度変換部123は、明るさ対比量算出部21から出力された明るさ対比量RKiおよび色対比量算出部121から出力された色対比量RCiを入力とし、明るさ対比量RKiおよび色対比量RCiから関心度Siを算出し、奥行き推定部4に出力する。
次に、画像処理装置2000の動作について説明する。
図16に、第2実施形態に係る画像処理方法(画像処理装置2000で実行される画像処理方法)の処理フローチャートを示し、図17に、高度関心度推定処理の処理フローチャートを示す。
図14から図17を用いて、画像処理装置2000の処理について説明する。
画像処理装置2000に画像データ(画像信号)vIi(x,y)が入力され、画素iにおける所定の明るさ情報Kiの算出に加えて、色情報算出部100により画素iの色情報vCiが算出される。ここでは、画像入力データ(入力画像信号)は、色情報として扱いやすい色相H、彩度Sおよび明度Vより構成されるHSV空間データや、輝度Y、色差Crおよび色差Cbより構成されるYCbCr空間データや、明度L、色a*およびb*より構成されるLa*b*の均等色空間データ等に変換される。また、画像入力データ(入力画像信号)がRGB形式のデータ(信号)である場合は、入力画像信号をそのまま扱う(RGB色空間におけるR成分信号,G成分信号,B成分信号としてそのまま扱う)ことも可能である。
色対比量の概念について、図18から図20を用いて説明する。
この図18では、薄い黄色の背景の中に中心部分が開いた赤と青の2つの円が描かれている。なお、2つの円の中心領域は、背景と同じ薄い黄色をしている。人が、これらの円を、図18に示す星印にある視線位置に注目して観察した場合、人は、赤色の円の中心をやや青く感じる傾向があり、また、青色の円の中心をやや赤く感じる傾向がある。この現象は、視覚心理より明らかとされており、色対比と呼ばれる特性により生じる現象である。色対比特性とは、対象物体の周囲を異なる彩度や色相等が取り囲む場合に、対象物体の彩度や色相に与える影響のことをいう。そして、以下の(1)および(2)に示す特性が明らかになっている。
(2)対象物体の彩度よりも対象物体の周囲を取り囲む彩度が高い場合、対象物体の彩度は、実際よりも低く感じられる。逆に、対象物体の彩度よりも対象物体の周囲を取り囲む彩度が低い場合は、対象物体の彩度は実際よりも高く感じられる(例えば図19)。
本発明では、この色対比特性を第1実施形態で使用する明るさ対比特性と組み合わせることで、人間の視覚に近い印象を与える(人間が画像(映像)を見たときに人間の視覚特性上自然と感じる)関心度推定を行うことを特徴としている。
なお、この色対比の程度を表す色対比量vRCiの求め方としては、多くの手法があり、複数の成分をもつベクトル定義も可能である(例えば、ベクトルデータvRCiが、彩度Viおよび色相Hiの2つの色情報からなるデータとして定義することも可能である)。
周辺(対象画素iの周辺領域)の特徴を表す代表彩度AViの求め方としてもいろいろあり、視野領域(人間の視野領域に相当する所定の大きさを持つ画素領域)内の画素を対象として、当該領域内の画素の彩度についてのヒストグラム(彩度ヒストグラム)を求め、その彩度ヒストグラムにおいて、最も度数の多い彩度値や、視野領域内の統計的分布をもとにしたクラスタリング処理で得られた代表彩度等を、代表彩度AViとすることも可能である。
同様に、色相Hiに対する対比量(色相対比)RHiは、人間の視野領域に相当する所定の広さを持つ画像領域Ωi内の重み付き平均色相AHiと対象画素iの色相Hiとの比や差分で定義することができる。この場合の代表色相AHiも、視野領域内の画素を対象として、当該領域内の画素の色相についてのヒストグラム(色相ヒストグラム)を求め、その色相ヒストグラムにおいて、最も度数の多い色相値や、視野領域内の統計的分布をもとにしたクラスタリング処理で得られた代表色相等を、代表色相AHiとすることも可能である。
なお、色対比量vRCiは、複数成分を持つベクトル定義も可能であるが、これ以降では、簡単化のために、1つの色情報Ciに対する色対比量RCiをもとに説明する。複数の色対比量vRCi=(RC1i,RC2i,・・・,RCNi)の場合は、(数式18)に示すように、これらの成分の積tRCiや、所定の変換関数出力を求め、改めてRCiとして設定することで、以下と同様の処理を行うことが可能である。
色対比量算出部121では、画素iの色対比量RCiが求められる。
ここでは、
RCi=Ci/ACi
とし、対象画素iの色情報Ciの代表色情報ACiに対する比(Ci/ACi)を色対比量RCiとして定義する。
また、周辺明るさ情報算出部20および明るさ対比量算出部21により、第1実施形態と同様にして、明るさ情報Kiから明るさ対比量RKiが求められる。この明るさ対比量RKiと色対比量RCiとは、高度関心度変換部に入力され、高度関心度変換部123で、関心度Siが求められる。
第1実施形態と同様に対象画素iの明るさ対比量RKiが「1」より大きい画素は、周囲よりも明るいことで目立ち、関心度Siが高い領域に含まれる画素であると見なす。それと同様に、対象画素iの色対比量RCiが「1」より大きい画素は、周囲よりも鮮やかであることで目立ち、やはり関心度Siが高い領域に含まれる画素であると見なす。
図21の左図における右下の円領域はその部分に該当する。
一方、図21の左図における左上の円領域(斜線を付した領域)では、対象画素iの明るさ対比量RKiおよび色対比量RCiがともに「1」より小さい領域に相当し、周辺よりも暗くかつ彩度の落ちた領域に含まれる画素であると見なして、関心度Siも低い領域に含まれる画素であると見なす。
また、図21右上図のように、色対比量RCiが「1」より大きい画素は、関心度の高い領域に含まれる可能性が高いと見なして、RCiによる関心度S2iを高い値に設定する。関心度S2iは、0.0≦S2i≦1.0の間の値を取り、S2i=1.0で最も関心が高いことを示し、S2i=0.0で最も関心が低いことを示すものとした。色対比量RCiについても、明るさ対比量RKiと同様に、RCi=1.0の画素では、当該画素(画素i)に対して、通常の関心があるものと見なして、S2iを「0.5」に設定する。そして、色対比量RCiが所定の最大色対比量MaxRCに向かって増大するにしたがい、当該画素(画素i)への関心が大きくなるとして、関心度S2iも「1.0」へ向かって単調増加させる。逆に、色対比量RCiが「0.0」に向かって減少するにしたがい、当該画素(画素i)への関心が小さくなるものとして、関心度S2iも「0.0」へ向かって単調減少させる。
なお、画素iの関心度Siは、上記に限定されるものではなく、色対比量RCiと明るさ対比量RKiとを変数に持つ関数での近似を用いることにより算出されるものであってもよい。この場合、色対比量RCi、または明るさ対比量RKiがもっとも大きな値である場合、最大の関心度「1.0」となるように設定し、その最大の関心度となる点を中心に、関心度が色対比量RCiまたは明るさ対比量RKiの変化に従い、なだらかに減衰する関数(線形関数でも非線形関数でもよい)により関心度が算出されるようにしてもよい。また、色対比量RCiと明るさ対比量RKiとで定義された2次元空間を分割して、その分割された各領域内では、一定の関心度となるように設定し、各領域の境界で、関心度がなめらかに連続な値をとるように設定された関数を用いて、関心度を決定するようにしてもよい。
一方、消失点推定部3は、第1の実施形態と同様の方法で消失点情報vVPkを推定する。そして、消失点推定部3で得られた消失点情報vVPkと、高度関心度推定部102で得られた関心度Siとは、奥行き推定部4に入力される。そして、奥行き推定部4により、消失点情報vVPkおよび関心度Siに基づいて、画素i(x,y)の奥行き度fbi、そして補正ゲイン値Giが求められる。さらに、その補正ゲイン値Giをもとに奥行き補正部5により入力画像信号vIiに対して所定の奥行き補正処理が実施される。そして、奥行き補正された画像信号は、出力部6により、第1実施形態と同様の処理が実行され、出力画像信号vOiとして、画像処理装置2000から出力される。
[第3実施形態]
図22から図26を用いて、本発明の第3実施形態として、関心度と消失点からの距離に応じて奥行き度を推定し画素値補正を行う画像処理方法及び画像処理装置について説明する。
<3.1:画像処理装置の構成>
図22に、本発明の第3実施形態に係る画像処理装置3000の構成を示す。第3実施形態に係る画像処理装置3000では、図22に示すように、第2実施形態に係る画像処理装置2000と比べて、周波数成分算出部140を追加した点と、高度関心度推定部102を拡張関心度推定部142に置換した点とが異なる。
図23に、拡張関心度推定部142の構成を示す。拡張関心度推定部142において、明るさ対比量RKiおよび色対比量RCiに加えて画素i(x,y)における周波数情報vFiから得られる鮮鋭程度量RBiを関心度Siの推定に用いる点が、第2実施形態の高度関心度推定部102と異なる。
周波数成分算出部140は、入力画像信号vIiから周波数情報vFmnを算出し、算出した周波数情報vFmnを拡張関心度推定部142に出力する。
拡張関心度推定部142は、明るさ情報算出部1から出力された明るさ情報Ki、色情報算出部100から出力された色情報Ci、および周波数成分算出部140から出力された周波数情報vFmnを入力とし、明るさ情報Ki、色情報Ciおよび周波数情報vFmnに基づいて関心度Siを算出(推定)し、算出した関心度Siを奥行き推定部4に出力する。
周辺明るさ情報算出部20と、明るさ対比量算出部21と、周辺色情報算出部120と、色対比量算出部121と、は、第2実施形態の高度関心度推定部102のものと同様であるため、説明を省略する。
ブロック内該当周波数平均算出部150は、周波数情報vFmnを入力とし、周波数情報vFmnに基づいて、鮮鋭程度量RBiを算出し、拡張関心度変換部152に出力する。
拡張関心度変換部152は、明るさ対比量算出部から出力された明るさ対比量RKi、色対比量算出部121から出力された色対比量RCi、およびブロック内該当周波数平均算出部150から出力された鮮鋭程度量RBiを入力とし、明るさ対比量RKi、色対比量RCi、および鮮鋭程度量RBiに基づいて、関心度Siを算出し、算出した関心度Siを奥行き推定部4に出力する。
次に、画像処理装置3000の動作について説明する。
図24に、第3実施形態に係る画像処理方法の処理フローチャートを示し、図25に、拡張関心度推定処理の処理フローチャートを示す。
図22から図25を用いて、画像処理装置3000の処理について説明する。
画像処理装置3000に画像データ(画像信号)vIi(x,y)が入力され、画素i(x,y)におけるデータ(入力画像信号)が所定の明るさ情報Kiと色情報vCiに変換されるまでの処理は、前述の実施形態と同様である。これに加えて、周波数成分算出部140で、画素i(x,y)における周波数成分vFiが算出される。このvFiの算出としては、多くの変換方法があるが、画像処理装置3000では、画素i(x,y)に対して、従来からよく使用されている離散コサイン変換(DCT(Discrete cosine transform))による変換を行い、離散コサイン変換により得られたDCT係数を用いて処理を行う。なお、周波数成分算出部140での周波数成分を算出するために用いる変換は、離散コサイン変換に限定されることはなく、ウェーブレット変換(離散ウェーブレット変換を含む。)、フーリエ変換(高速フーリエ変換)(離散フーリエ変換、離散高速フーリエ変換を含む。)等の周波数成分を抽出することできる変換であれば他の変換であってよい。
まず、入力画像信号vIiにより形成される2次元画像において、画像内をNN画素×NN画素のブロックに細分化し、各ブロックBmn(m=1,・・・,Mmax, n=1,・・・,Nmax)において、明るさ情報Kiに対して離散コサイン変換を実施する。離散コサイン変換により得られたDCT係数をvFmn=(Fmn[s,t])(s=0,1,・・・,NN−1,t=0,1,・・・,NN−1)とする。vFmnは、(数式22)および(数式23)により算出される。
関心度Siは、(数式24)に示すように、明るさ対比量RKiによる関心度S1iと色対比量RCiによる関心度S2i、そして周波数情報vFmn(=vFi)より得られる鮮鋭程度量RBiによる関心度S3iの積で表現される。なお、関心度Siは、これに限定されることはなく、これら3つの変数で制御でき、これらの3つの変数に対してならめらかに連続な非線形関数により求められるものであってもよい。
鮮鋭程度量RBiについては、まず画素iの含まれる細分化されたブロックBmn内で所定のしきい値周波数ThFreqより高い周波数成分である周波数成分の和(高周波成分の和)sumHFreqを求め、ブロック内周波数の総和sumAllFreqに対する上記高周波成分の比を求め、その比を鮮鋭程度量RBiと定義する。すなわち、
RBi=sumHFreq/sumAllFreq
により、鮮鋭程度量RBiを定義する。
鮮鋭程度量RBiの値が大きいほど、画素iがあるブロック内に含まれる高周波成分が多いこととなり、画素iがあるブロックは、鮮鋭度が高いブロックである。逆に、鮮鋭程度量RBiの値が小さいほど、画素iがあるブロック内に含まれる高周波成分が少なくなり、画素iがあるブロックは、鮮鋭度が低い(ぼけ程度が高い)ブロックである。
図26に、上記に基づく、鮮鋭程度量RBiによる関心度S3iの算出方法を模式的に示す。
図26に示すように、ブロックkの鮮鋭程度量RBkとブロックuの鮮鋭程度量RBuに対してガウス分布を適用させて、ブロックkの鮮鋭程度量RBkが画素i(x,y)に与えるぼけ程度による関心度S3kiを(数式25)により算出し、ブロックuの鮮鋭程度量RBuが画素i(x,y)に与えるぼけ程度による関心度S3uiを(数式26)により算出する。
拡張関心度変換部152では、上記のようにして得られた各ブロックsの鮮鋭程度量RBsが処理画素i(x,y)に影響する関心度S3siの和を求めることで、画素iの鮮鋭程度量による関心度S3iを算出する。つまり、拡張関心度変換部152において、(数式27)により、画素iの鮮鋭程度量による関心度S3iが算出される。
一方、消失点推定部3は、前述の実施形態と同様の方法で消失点vVPkを求める。そして、消失点推定部3で得られた消失点情報vVPkと、拡張関心度変換部152で得られた関心度Siとは、奥行き推定部4に入力される。そして、奥行き推定部4により、消失点情報vVPkおよび関心度Siに基づいて、画素i(x,y)の奥行き度fbiと補正ゲイン値Giとが、奥行き推定部4により求められ、その補正ゲイン値Giをもとに奥行き補正部5が入力画像信号vIiに対して奥行き補正処理を実施する。そして、奥行き補正された画像信号は、出力部6により、前述の実施形態と同様の処理が実行され、出力画像信号vOiとして、画像処理装置3000から出力される。
[第4実施形態]
図27から図30を用いて、本発明の第4実施形態として、消失点と関心度とに応じて画素における奥行き情報を推定し補正を行う画像処理方法及び画像処理装置について説明する。
図27に、本発明の第4実施形態に係る画像処理装置4000の構成を示す。図29にこの第4実施形態である画像処理方法の処理フローチャートを示す。
<4.1:画像処理装置の構成>
第4実施形態に係る画像処理装置4000では、第1実施形態に係る画像処理装置1000に比べて、消失点推定判断部200と、消失点選択部201と、保持メモリ202と、切替部401とが加えられている点と、消失点推定部3が消失点推定部3’に置換されている点と、が異なる。
消失点推定判断部200は、明るさ情報算出部1から出力される明るさ情報Kiおよび保持メモリ202から出力される画像特徴量vGCmnを入力とし、明るさ情報Kiから、画像処理装置4000が現在処理対象としているフレーム画像(このフレーム画像を「現時刻tのフレーム画像」または「現フレーム画像」といい、「現時刻tのフレーム画像」のpフレーム前の画像を「時刻t−pのフレーム画像」という。)の画像内特徴量を取得する。そして、消失点推定判断部200は、現時刻tのフレーム画像の画像内特徴量を、画像処理装置4000が過去に処理したp個のフレーム画像(時刻(t−p)から(t−1)のフレーム画像)における画像特徴量(この画像特徴量は保持メモリ202から出力される。)と、それぞれ、比較して、現フレーム画像の特徴量と似た特徴量をもつ過去に処理されたフレーム画像Nminがあれば、その際に得られた消失点vVPk[Nmin]を改めて時刻t(現時刻)での消失点にするか否かを判定する。消失点推定判断部200は、消失点vVPk[Nmin]を時刻t(現時刻)での消失点とすることを決定した場合、消失点選択部201に消失点vVPk[Nmin]を選択させるための情報を出力するとともに、切替部401に対して、消失点選択部201から出力される消失点vVPkが奥行き推定部4に入力されるように消失点切替信号を切替部401に出力する。また、この場合、消失点推定判断部200は、消失点推定部3’に対して消失点推定処理禁止信号を出力し、消失点推定部3’にて、消失点推定処理が実行されないようにする。
保持メモリ202には、各フレーム画像の画像内特徴量および消失点vVPkの情報が記憶され、保持メモリ202は、それらの情報を保持し、消失点推定判断部200または消失点選択部201からの要求に従い、消失点推定判断部200または消失点選択部201に、保持メモリ202が保持している情報を出力する。
消失点選択部201は、消失点推定判断部200から出力される、消失点vVPk[Nmin]を選択させるための情報を入力とし、消失点vVPk[Nmin]を選択させるための情報に基づいて、消失点vVPk[Nmin]を切替部401に出力する。
切替部401は、消失点推定部3’からの出力と、消失点選択部201からの出力とのいずれか一方を奥行き推定部4に出力させるセレクタである。切替部401は、消失点推定判断部200から出力される消失点切替制御信号に基づいて、消失点推定部3’からの出力と、消失点選択部201からの出力とのいずれか一方を奥行き推定部4に出力させるように切り替える。
<4.2:画像処理装置の動作>
次に、図27及び図28を用いて、画像処理装置4000の動作について説明する。
第1実施形態と同様に、画像処理装置4000では、現時刻tのフレーム画像内の画素i(x,y)における明るさ対比量RKiをもとに、関心度Si[t]が関心度推定部2により求められる。
そして、画像処理装置4000では、次のようにして、この時刻tの消失点vVPkを決定する。
(1)外光による輪郭情報のゆらぎ等が原因とされる消失点情報のゆらぎを抑制すること、
(2)現フレームの消失点を過去に処理したフレームと画像特徴量が似たフレームNminの消失点で代用することでその推定時間を削減すること、
(3)そして、フレーム間のシーン変化による画像上の遠近感の矛盾を緩和すること、
を実現させるためである。この遠近感の矛盾(遠近感補正の違和感)が生じる例として、例えば(t−1)時刻には前景であった画像上の物体Aが、t時刻のシーン変化で、急に後景になることで遠近感の矛盾(遠近感補正の違和感)が生じる場合が挙げられる。また、このような消失点情報のゆらぎや遠近感補正の違和感は、シーン変化のみならず、主眼となる物体(人間が視覚的に注目しやすい物体)の動き変化によっても生じる可能性がある。動画像に対して、第1から第3実施形態を適用させる場合、このような消失点情報のゆらぎや遠近感補正の違和感に対する対策が必要となる。
このように、細分化されたブロック内での平均明るさ情報をその画像の特徴量として、現フレーム画像の画像特徴量と過去のフレーム時刻の画像の画像特徴量と比較して、似た画像特徴量をもつフレームNminで使用した消失点情報を、現フレームでの消失点情報として用いることで、画像処理装置4000において、動画像に対応した適切な奥行き処理が実行される。このように、過去に処理したフレームにおいて、その画像特徴量が現フレームの画像特徴量と似たフレームの消失点を、現フレームの消失点として採用することで、シーン変化による遠近感の矛盾(遠近感補正の違和感)の発生も緩和(抑制)することができる。つまり、画像処理装置4000は、(t−1)時刻には、画像上において前景であった物体Aが、t時刻のシーン変化で、急に後景になることで生じる奥行き補正の違和感を緩和することができる効果も持つ。また、画像処理装置4000では、シーン変化のみならず、主眼となる物体の動き変化によっても生じる奥行き補正による違和感も同様に低減できる。
消失点推定判断部200により、過去フレームtt=Nminにおける消失点情報vVPk[Nmin]を、現時刻tにおけるフレーム画像の消失点vVPk[t]=vVPk[Nmin]とすることが決定された場合、消失点選択部201により、消失点vVPk[t]=vVPk[Nmin]が切替部401に出力され、消失点推定判断部200からの消失点切替制御信号により、消失点選択部201の出力が奥行き推定部4に入力されるようになり、奥行き推定部4での処理が実行される。また、このとき、消失点推定判断部200から消失点推定処理禁止信号が、消失点推定部3’に出力され、消失点推定部3’では消失点推定処理が実行されない。
こうして得られた消失点情報vVPkと関心度Siとをもとに画素i(x,y)の奥行き度fbiと補正ゲイン値Giとが奥行き推定部4により求められ、その補正ゲイン値Giをもとに、奥行き補正部5により入力画像信号vIiに対して奥行き補正処理が実施される。
以上のように、第4実施形態に係る画像処理装置4000では、第1実施形態の明るさ対比により推定された関心度Siと消失点情報とによる奥行き補正効果に加えて、現フレーム画像(時刻tのフレーム画像)内の消失点を、現フレーム画像の画像特徴量と近い画像特徴量を持つ過去のフレーム画像(時刻t−pからt−1のフレーム画像)の消失点情報で代用する。これにより、画像処理装置4000では、環境光等による消失点抽出のゆらぎにより生じる奥行き補正の違和感や、画像上の物体の動きに起因する消失点変化により生じる奥行き補正の違和感を抑えることが可能となるとともに、処理量を削減することができる。
図31から図33を用いて、本発明の第5実施形態として、消失点と関心度とに応じて画素における奥行き情報を推定し補正を行う画像処理方法及び画像処理装置について説明する。
図31に、本発明の第5実施形態に係る画像処理装置5000の構成を示す。図33にこの第5実施形態である画像処理方法の処理フローチャートを示す。
図32は、本実施形態における高度消失点推定判断部220で判断に使用される画像特徴量vGCmn(m=1,・・・,M、n=1,・・・,N)についての説明図を示す。ここで、MとNは所定の正定数であり、Mは画像水平方向(x方向)のブロック分割数を示し、Nは画像垂直方向(y方向)のブロック分割数を示す。なお、例えば、HDTV形式の映像に対して、本発明の処理を行う場合、ブロックサイズを、16画素×16画素、32画素×32画素、64画素×64画素等に設定することが好ましい。
第5実施形態に係る画像処理装置5000では、第2実施形態に係る画像処理装置2000に比べて、高度消失点推定判断部220と、消失点選択部201と、保持メモリ202と、切替部401とが加えられている点と、消失点推定部3が消失点推定部3’に置換されている点と、が異なる。
なお、本実施形態に係る画像処理装置5000において、前述の実施形態と同様の部分については、同一の符号を付し、説明を省略する。
高度消失点推定判断部220は、図31に示すように、明るさ情報算出部1から出力される明るさ情報Kiと色情報算出部100から出力される色情報vCiと、保持メモリ202から出力される画像特徴量vGCmnとを入力とし、明るさ情報Kiおよび色情報vCiから、現フレーム画像(現時刻tのフレーム画像)の画像内特徴量を取得する。そして、高度消失点推定判断部220は、現時刻tのフレーム画像の画像内特徴量を、画像処理装置5000が過去に処理したp個のフレーム画像(時刻(t−p)から(t−1)のフレーム画像)における画像特徴量(この画像特徴量は保持メモリ202から出力される。)と、それぞれ、比較して、現フレーム画像の特徴量と似た特徴量をもつ過去に処理されたフレーム画像Nminがあれば、その際に得られた消失点vVPk[Nmin]を改めて時刻t(現時刻)での消失点にするか否かを判定する。高度消失点推定判断部220は、消失点vVPk[Nmin]を時刻t(現時刻)での消失点とすることを決定した場合、消失点選択部201に消失点vVPk[Nmin]を選択させるための情報を出力するとともに、切替部401に対して、消失点選択部201から出力される消失点vVPkが奥行き推定部4に入力されるように消失点切替信号を切替部401に出力する。また、この場合、高度消失点推定判断部220は、消失点推定部3’に対して消失点推定処理禁止信号を出力し、消失点推定部3’にて、消失点推定処理が実行されないようにする。
保持メモリ202には、各フレーム画像の画像内特徴量および消失点vVPkの情報が記憶され、保持メモリ202は、それらの情報を保持し、高度消失点推定判断部220または消失点選択部201からの要求に従い、高度消失点推定判断部220または消失点選択部201に、保持メモリ202が保持している情報を出力する。
消失点選択部201は、高度消失点推定判断部220から出力される、消失点vVPk[Nmin]を選択させるための情報を入力とし、消失点vVPk[Nmin]を選択させるための情報に基づいて、消失点vVPk[Nmin]を切替部401に出力する。
切替部401は、消失点推定部3’からの出力と、消失点選択部201からの出力とのいずれか一方を奥行き推定部4に出力させるセレクタである。切替部401は、高度消失点推定判断部220から出力される消失点切替制御信号に基づいて、消失点推定部3’からの出力と、消失点選択部201からの出力とのいずれか一方を奥行き推定部4に出力させるように切り替える。
<5.2:画像処理装置の動作>
次に、図31およびお図33を用いて、画像処理装置5000の動作について説明する。
第2実施形態と同様に、画像処理装置5000では、現時刻tのフレーム画像内の画素i(x,y)における明るさ対比量RKiおよび色対比量RCiをもとに、関心度Si[t]が高度関心度推定部102により求められる。
そして、画像処理装置5000では、次のようにして、この時刻tの消失点vVPkを決定する。
(1)外光による輪郭情報のゆらぎ等が原因とされる消失点情報のゆらぎを抑制すること、
(2)現フレームの消失点を、過去に処理したフレーム画像と画像特徴量が似たフレームNminの消失点で代用することで、その推定時間を削減すること、
を実現させるためである。
図32に示すように、フレーム時刻tt=t−pにおけるフレーム[t−p]内の画像特徴量vGCmn[t−p]=(AKmn[t−p],AVmn[t−p])(m=1,・・・,M、n=1,・・・,N)からフレーム時刻tt=t−1におけるフレーム[t−1]内の画像特徴量vGCmn[t−1]=(AKmn[t−1],AVmn[t−1])(m=1,・・・,M、n=1,・・・,N)が、保持メモリ202から読み出される。そして、高度消失点推定判断部220により、現時刻tt=tにおけるフレーム[t]内の画像特徴量vGCmn[t]=(AKmn[t],AVmn[t])(m=1,・・・,M、n=1,・・・,N)と、次式を使ってフレームttの評価関数Err[tt]とが求められる。この評価関数Err[tt]が最小となるフレームtt=Nminと評価関数Err[Nmin]とを求め、評価関数Err[Nmin]の値が所定のしきい値ThErrよりも小さい場合、過去フレームtt=Nminにおける消失点情報vVPk[Nmin]を、現時刻tにおけるフレーム画像の消失点vVPk[t]=vVPk[Nmin]とする。
このように、細分化されたブロック内での平均明るさ情報および平均彩度情報を、現フレーム画像の画像特徴量として、過去のフレーム時刻の画像の画像特徴量と比較して、似た画像特徴量をもつフレームNminで使用した消失点情報を、現フレームでの消失点情報として用いることで、画像処理装置5000において、上記(1)(2)の目的を達成することができる。特に、上記(1)に関連して、過去に処理したフレーム画像において、現フレーム画像の画像特徴量と似たフレーム画像の消失点で、現フレーム画像の消失点を代用することで、シーン変化による遠近感の矛盾も緩和できる。つまり、画像処理装置5000では、(t−1)時刻には、画像上で前景であった物体Aが、t時刻のシーン変化で、急に後景になることで生じる奥行き補正の違和感を緩和することもできる。このような消失点のゆらぎは、シーン変化のみならず、主眼となる物体の動き変化によっても生じる可能性がある。このような消失点のゆらぎが生じる可能性がある場合であっても、画像処理装置5000では、奥行き補正による違和感を低減することができる。
高度消失点推定判断部220により、過去フレームtt=Nminにおける消失点情報vVPk[Nmin]を、現時刻tにおけるフレーム画像の消失点vVPk[t]=vVPk[Nmin]とすることが決定された場合、消失点選択部201により、消失点vVPk[t]=vVPk[Nmin]が切替部401に出力され、高度消失点推定判断部220からの消失点切替制御信号により、消失点選択部201の出力が奥行き推定部4に入力されるようになり、奥行き推定部4での処理が実行される。また、このとき、高度消失点推定判断部220から消失点推定処理禁止信号が、消失点推定部3’に出力され、消失点推定部3’では消失点推定処理が実行されない。
こうして得られた消失点情報vVPkと関心度Siとをもとに画素i(x,y)の奥行き度fbiと補正ゲイン値Giとが奥行き推定部4により求められ、その補正ゲイン値Giをもとに、奥行き補正部5により入力画像信号vIiに対して奥行き補正処理が実施される。
なお、図32では平均彩度AVmn[tt]を用いたが、平均色相AHmn[tt]であってもよいし、色差の平均を用いてもよい。
図35から図37を用いて、本発明の第6実施形態として、消失点と関心度とに応じて画素における奥行き情報を推定し補正を行う画像処理方法及び画像処理装置について説明する。
図35に、本発明の第6実施形態に係る画像処理装置6000の構成を示す。図37にこの第6実施形態である画像処理方法の処理フローチャートを示す。
また、図36は、本実施形態における拡張消失点推定判断部240で判断に使用される画像特徴量vGCmn(m=1,・・・,M、n=1,・・・,N)についての説明図を示す。ここで、MとNは所定の正定数であり、Mは画像水平方向(x方向)のブロック分割数を示し、Nは画像垂直方向(y方向)のブロック分割数を示す。なお、例えば、HDTV形式の映像に対して、本発明の処理を行う場合、ブロックサイズを、16画素×16画素、32画素×32画素、64画素×64画素等に設定することが好ましい。
第6実施形態に係る画像処理装置6000では、第3実施形態に係る画像処理装置3000に比べて、拡張消失点推定判断部240と、消失点選択部201、保持メモリ202と、切替部401とが加えられている点と、消失点推定部3が消失点推定部3’に置換されている点と、が異なる。
なお、本実施形態に係る画像処理装置6000において、前述の実施形態と同様の部分については、同一の符号を付し、説明を省略する。
拡張消失点推定判断部240は、図35に示すように、明るさ情報算出部1から出力される明るさ情報Kiと色情報算出部100から出力される色情報vCiと周波数成分算出部140から出力される周波数情報vFmnと保持メモリ202から出力される画像特徴量vGCmnとを入力とし、明るさ情報Ki、色情報vCiおよび周波数情報vFmnから、現フレーム画像(現時刻tのフレーム画像)の画像内特徴量を取得する。そして、拡張消失点推定判断部240は、現時刻tのフレーム画像の画像内特徴量を、画像処理装置6000が過去に処理したp個のフレーム画像(時刻(t−p)から(t−1)のフレーム画像)における画像特徴量(この画像特徴量は保持メモリ202から出力される。)と、それぞれ、比較して、現フレーム画像の特徴量と似た特徴量をもつ過去に処理されたフレーム画像Nminがあれば、その際に得られた消失点vVPk[Nmin]を改めて時刻t(現時刻)での消失点にするか否かを判定する。拡張消失点推定判断部240は、消失点vVPk[Nmin]を時刻t(現時刻)での消失点とすることを決定した場合、消失点選択部201に消失点vVPk[Nmin]を選択させるための情報を出力するとともに、切替部401に対して、消失点選択部201から出力される消失点vVPkが奥行き推定部4に入力されるように消失点切替信号を切替部401に出力する。また、この場合、拡張消失点推定判断部240は、消失点推定部3’に対して消失点推定処理禁止信号を出力し、消失点推定部3’にて、消失点推定処理が実行されないようにする。
保持メモリ202には、各フレーム画像の画像内特徴量および消失点vVPkの情報が記憶され、保持メモリ202は、それらの情報を保持し、拡張消失点推定判断部240または消失点選択部201からの要求に従い、拡張消失点推定判断部240または消失点選択部201に、保持メモリ202が保持している情報を出力する。
消失点選択部201は、拡張消失点推定判断部240から出力される、消失点vVPk[Nmin]を選択させるための情報を入力とし、消失点vVPk[Nmin]を選択させるための情報に基づいて、消失点vVPk[Nmin]を切替部401に出力する。
切替部401は、消失点推定部3’からの出力と、消失点選択部201からの出力とのいずれか一方を奥行き推定部4に出力させるセレクタである。切替部401は、高度消失点推定判断部220から出力される消失点切替制御信号に基づいて、消失点推定部3’からの出力と、消失点選択部201からの出力とのいずれか一方を奥行き推定部4に出力させるように切り替える。
<6.2:画像処理装置の動作>
次に、図35および図36を用いて、画像処理装置6000の動作について説明する。
第3実施形態と同様に、画像処理装置6000では、現時刻tのフレーム画像内の画素i(x,y)における明るさ対比量RKi、色対比量RCi、および周波数情報vFmn(=vFi)をもとに、関心度Si[t]が拡張関心度推定部142により求められる。
そして、画像処理装置6000では、次のようにして、この時刻tの消失点vVPkを決定する。
図36に示すように、フレーム時刻tt=t−pにおけるフレーム[t−p]内の画像特徴量vGCmn[t−p]=(AKmn[t−p],AVmn[t−p],AFmn[t−p])(m=1,・・・,M、n=1,・・・,N)からフレーム時刻tt=t−1におけるフレーム[t−1]内の画像特徴量vGCmn[t−1]=(AKmn[t−1],AVmn[t−1],AFmn[t−1])(m=1,・・・,M、n=1,・・・,N)が、保持メモリ202から読み出される。そして、拡張消失点推定判断部240により、現時刻tt=tにおけるフレーム[t]内の画像特徴量vGCmn[t]=(AKmn[t],AVmn[t],AFmn[t])(m=1,・・・,M、n=1,・・・,N)と、次式を使ってフレームttの評価関数Err[tt]とが求められる。この評価関数Err[tt]が最小となるフレームtt=Nminと評価関数Err[Nmin]とを求め、評価関数Err[Nmin]の値が所定のしきい値ThErrよりも小さい場合、過去フレームtt=Nminにおける消失点情報vVPk[Nmin]を、現時刻tにおけるフレーム画像の消失点vVPk[t]=vVPk[Nmin]とする。
拡張消失点推定判断部240により、過去フレームtt=Nminにおける消失点情報vVPk[Nmin]を、現時刻tにおけるフレーム画像の消失点vVPk[t]=vVPk[Nmin]とすることが決定された場合、消失点選択部201により、消失点vVPk[t]=vVPk[Nmin]が切替部401に出力され、拡張消失点推定判断部240からの消失点切替制御信号により、消失点選択部201の出力が奥行き推定部4に入力されるようになり、奥行き推定部4での処理が実行される。また、このとき、拡張消失点推定判断部240から消失点推定処理禁止信号が、消失点推定部3’に出力され、消失点推定部3’では消失点推定処理が実行されない。
こうして得られた消失点情報vVPkと関心度Siとをもとに画素i(x,y)の奥行き度fbiと補正ゲイン値Giとが奥行き推定部4により求められ、その補正ゲイン値Giをもとに、奥行き補正部5により入力画像信号vIiに対して奥行き補正処理が実施される。
なお、図36では平均彩度AVmn[tt]を用いたが、平均色相AHmn[tt]であってもよいし、色差の平均を用いてもよい。
図39から図40を用いて、本発明の第7実施形態として、消失点と関心度とに応じて画素における奥行き情報を推定し補正を行う画像処理方法及び画像処理装置について説明する。
図39に、本発明の第7実施形態に係る画像処理装置7000の構成を示す。
図40に、この第7実施形態である画像処理方法の処理フローチャートを示す。
<7.1:画像処理装置の構成>
図39および図40に示すように、第7実施形態に係る画像処理装置7000では、第1実施形態に係る画像処理装置1000に比べて、消失点平滑化部300および保持メモリ202が加えられている点が異なる。
<7.2:画像処理装置の動作>
次に、画像処理装置7000の動作について説明する。
第1実施形態と同様に、画像処理装置7000では、画素i(x,y)のおける明るさ対比量RKiをもとに、関心度Si[t]が関心度推定部2により求められる。
一方、消失点推定部3により、現フレーム画像(時刻tのフレーム画像)内の消失点情報vVPk[t]が求められる。この後、現フレーム時刻tよりpフレーム時刻前の(t−p)における消失点情報vVPk[t−p]から(t−1)時刻における消失点情報vVPk[t−1]の合計p個のフレーム画像を使って、フレーム時刻tにおける消失点情報vVPk[t]の平滑化処理が実施される。この場合、単純に(t−p)からtまでの消失点情報vVPk[mm](mm=t−p,・・・,t)の各成分の平均化処理により平滑化処理を実現するようにしてもよいが、ここでは、(数式32)を用いた処理による平滑化処理を実行することとする。
画像処理装置7000において、このように処理することで、外光による輪郭情報のゆらぎ等が原因とされる消失点情報のゆらぎを抑制できるとともに、フレームシーン変化による遠近感の矛盾(奥行き補正の違和感)を緩和することができる。つまり、画像処理装置7000では、(t−1)時刻には、画像上で前景であった物体Aが、t時刻のシーン変化で、急に後景になることで生じる奥行き補正の違和感を緩和することもできる。このような消失点のゆらぎは、シーン変化のみならず、主眼となる物体の動き変化によっても生じる可能性がある。このような消失点のゆらぎが生じる可能性がある場合であっても、画像処理装置7000では、奥行き補正による違和感を低減することができる。
さらに、各フレーム時刻における消失点は1つでなくともよい。各フレーム時刻における消失点数NN[t]が同じ場合、その分(消失点の数)だけ平滑化処理を実施することとなる(例えば、消失点の数がn個の場合、n個の消失点のそれぞれについて平滑化処理が実行される)。一方、各フレーム時刻内での消失点数NN[t]が異なる場合、現時刻tにおける消失点vVPk[t](k=1,・・・,NN[t])をもとに、平滑化対象フレームtt=t−p,・・・,t−1内の消失点vVPs[tt](s=1,・・・,NN[tt])の中でvVPk[t]に距離(各フレーム画像の2次元座標上の距離)が近い候補を選択して実行をすればよい。その際、vVPk[t]からの距離が所定の値より小さい消失点情報がフレームtt=t−p,・・・,t−1内にない場合は、そのフレーム画像(時刻ttのフレーム画像)の消失点情報を平滑化処理の対象から外すような処理を行うようにすればよい。
以上のように、第7実施形態に係る画像処理装置7000では、第1実施形態の明るさ対比により推定された関心度Siと消失点情報とによる奥行き補正効果に加えて、過去の時刻t−pからt−1のフレーム画像の消失点情報の平滑化処理を行い、改めて現時刻tの消失点情報を求める。これにより、画像処理装置7000では、環境光等による消失点抽出のゆらぎにより生じる奥行き補正の違和感や、画像上の物体の動きに起因する消失点変化による奥行き補正の違和感を抑えることが可能となる。
図41および図42を用いて、本発明の第8実施形態として、消失点と関心度とに応じて画素における奥行き情報を推定し補正を行う画像処理方法及び画像処理装置について説明する。
図41に、本発明の第8実施形態に係る画像処理装置8000の構成を示す。図42にこの第8実施形態である画像処理方法の処理フローチャートを示す。
<8.1:画像処理装置の構成>
図41および図42に示すように、第8実施形態に係る画像処理装置8000では、第2実施形態の画像処理装置2000に比べて、消失点平滑化部300および保持メモリ202が加えられている点が異なる。
<8.2:画像処理装置の動作>
次に、画像処理装置8000の動作について説明する。
第2実施形態と同様に、画像処理装置8000では、画素i(x,y)のおける明るさ対比量RKiおよび色対比量RCiをもとに、関心度Si[t]が高度関心度推定部102により求められる。
一方、消失点推定部3により、現フレーム画像(時刻tのフレーム画像)内の消失点情報vVPk[t]が求められる。この後、現フレーム時刻tよりpフレーム時刻前の(t−p)における消失点情報vVPk[t−p]から(t−1)時刻における消失点情報vVPk[t−1]の合計p個のフレーム画像を使って、フレーム時刻tにおける消失点情報vVPk[t]の平滑化処理が実施される。この場合、単純に(t−p)からtまでの消失点情報vVPk[mm](mm=t−p,・・・,t)の各成分を平均化処理により平滑化処理を実現するようにしてもよいが、ここでは、第7実施形態と同様に、各フレーム時刻tt(tt=t−p,・・・,t−1,t)における重み係数を(数式32)により制御することで平滑化処理を実行させる。
なお、ここでは、過去(t−p)フレーム時刻からtフレーム時刻での消失点情報を平滑化することとしたが、過去の(t−p)フレームから現時刻tを中心に(t+p)フレーム時刻までの消失点情報vVPk[mm](mm=t−p,・・・t,・・・,t+p)を平滑化処理して求めた消失点情報を、時刻tの消失点情報とするようにしてもよい。ただし、この場合、奥行き補正処理において、遅延が発生する。
以上のように、第8実施形態に係る画像処理装置8000では、第2実施形態の明るさ対比・色対比により精度よく推定された関心度Siによる効果に加えて、第7実施形態における過去のフレーム時刻の消失点との平滑化処理による消失点情報のゆらぎを抑える効果を実現させることが可能となる。
[第9実施形態]
図43および図44を用いて、本発明の第9実施形態として、消失点と関心度とに応じて画素における奥行き情報を推定し補正を行う画像処理方法及び画像処理装置について説明する。
<9.1:画像処理装置の構成>
図43および図44に示すように、第9実施形態に係る画像処理装置9000では、第3実施形態の画像処理装置3000に比べて、消失点平滑化部300および保持メモリ202が加えられている点が異なる。
なお、本実施形態に係る画像処理装置9000において、前述の実施形態と同様の部分については、同一の符号を付し、説明を省略する。
<9.2:画像処理装置の動作>
次に、画像処理装置9000の動作について説明する。
一方、消失点推定部3により、現フレーム画像(時刻tのフレーム画像)内の消失点情報vVPk[t]が求められる。この後、現フレーム時刻tよりpフレーム時刻前の(t−p)における消失点情報vVPk[t−p]から(t−1)時刻における消失点情報vVPk[t−1]の合計p個のフレーム画像を使って、フレーム時刻tにおける消失点情報vVPk[t]の平滑化処理が実施される。この場合、単純に(t−p)からtまでの消失点情報vVPk[mm](mm=t−p,・・・,t)の各成分を平均化処理により平滑化処理を実現するようにしてもよいが、ここでは、第7実施形態と同様に、各フレーム時刻tt(tt=t−p,・・・,t−1,t)における重み係数を(数式32)により制御することで平滑化処理を実行させる。
なお、ここでは、過去(t−p)フレーム時刻からtフレーム時刻での消失点情報を平滑化することとしたが、過去の(t−p)フレームから現時刻tを中心に(t+p)フレーム時刻までの消失点情報vVPk[mm](mm=t−p,・・・t,・・・,t+p)を平滑化処理して求めた消失点情報を、時刻tの消失点情報とするようにしてもよい。ただし、この場合、奥行き補正処理において遅延が発生する。
以上のように、第9実施形態に係る画像処理装置9000では、第3実施形態の明るさ対比・色対比・ぼけ程度により精度よく推定された関心度Siによる効果に加えて、第7実施形態における過去のフレーム時刻の消失点との平滑化処理による消失点情報のゆらぎを抑える効果を実現させることが可能となる。
[第10実施形態]
図46に示された第10実施形態の画像処理システム10000について説明する。この発明は、第1から第9の実施形態における画像処理装置1000(または、2000、3000、4000、5000、6000、7000、8000、9000)(図46においては、画像処理装置1000を代表させて図示している。)に、ユーザが処理モードを選択するユーザモード選択部3001および表示部3002を加えたものである。
画像処理システム10000では、画像処理装置1000で行われた奥行き補正結果画像や消失点推定結果が表示部3002に表示される。画像処理システム10000により、ユーザは、表示部3002での処理画像を視覚的に確認して、処理モードをユーザモード選択部3001により選択することができ、より個々人の特性に応じた(ユーザの嗜好に応じた)色補正を実現させることができる。ここで、表示部3002は、画像処理装置1000により処理された画像信号(映像信号)等を表示させることができる機能を有するものであり、液晶ディスプレイ装置や、プラズマディスプレイ装置や、一般のTVのメイン画面表示装置あるいはサブ画面表示装置等であってもよい。ユーザモード選択部3001として、奥行き補正の強度選択の場合、例えば、(S−1)強モード、(S−2)中モード、(S−3)弱モード、(S−4)デフォルトモードのようなメニュー選択方式を用いる。
なお、画像処理システム10000では、メニュー選択方式の例を示したが、各補正強度レベルに応じたスイッチやボタン等による選択方式を採用するものであっても良い。スライダバーのように連続的に動くインターフェースによる強度選択を用いることも可能であり、そのバーはアナログ的に動くバーでもデジタル的に動くバーであってもよい。また、ここではデフォルトモードを用意したが、メニュー内の「中モード」を選択することで、補正ゲイン係数TSやオフセット値TOFFが、それぞれのデフォルト値に設定されるようにしてもよい。
上記実施形態において、消失点を推定することで消失点(消失点情報)を求める処理について説明したが、これに限定されることはなく、例えば、消失点情報が画像データ内のタグ情報やファイルフォーマット情報に付加されて入力されるようにしてもよい。また、ユーザによるマウスやポインタでの指摘による入力により消失点情報が入力されるものであってもよいし、大まかにブロック分割された場合のブロック番号により消失点位置のあるブロック番号をユーザに入力してもらうようにしてもよい。
上記実施形態において説明した本発明の画像処理方法および画像処理装置は、図7および図8に示すような明るさ対比特性と、図18から図20に示すように色対比特性を利用した処理方法及び処理装置を含む。よって、本発明の画像処理装置および画像処理方法の効果は、この特性に大きく影響される。
また、対象とする色情報の色対比量RCiとして、本発明の第2実施形態で示した、
(1)周辺の代表色情報に対する対象画素の色情報の比、
(2)対象画素の色情報と対象画素の周辺の代表色の差分量
以外にも、上記(1)と(2)とを所定の関数により変換して得られる値を用いることも可能である。同様に、明るさ情報の明るさ対比量RKiとして、本発明の第1実施形態で示した、
(3)周辺の代表明るさ情報に対する対象画素の明るさ情報の比、
(4)対象画素の明るさ情報と周辺の代表明るさ情報の差分量
以外にも、上記(3)と(4)を所定の関数により変換して得られる値を用いることも可能である。
上記実施形態において説明した本発明の画像処理方法および画像処理装置は、例えば、コンピュータ、テレビ、デジタルカメラ、携帯電話、PDA、カーTVなど、画像を取り扱う機器に内臓、あるいは接続して用いられる装置として実現されるものであり、LSIなどの集積回路としても実現される。
上記各実施形態で説明した各種処理を実現する各機能ブロックの一部または全部は、個別に1チップ化させてもよいし、一部又は全てを含むように1チップ化されても良い。なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
さらに、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてありえる。
また、上記各実施形態の各機能ブロックの処理の一部または全部は、プログラムにより実現されるものであってもよい。そして、上記各実施形態の各機能ブロックの処理の一部または全部は、コンピュータにおいて、中央演算装置(CPU)により行われる。また、それぞれの処理を行うためのプログラムは、ハードディスク、ROMなどの記憶装置に格納されており、ROMにおいて、あるいはRAMに読み出されて実行される。
なお、本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
10000 画像処理システム
1 明るさ情報算出部
2 関心度推定部
3 消失点推定部
4 奥行き推定部
5 奥行き補正部
6 出力部
20 周辺明るさ情報算出部
21 明るさ対比量算出部
22 関心度変換部
30 輪郭算出部
31 ハフ変換部
32 分布算出部
33 消失点抽出部
100 色情報算出部
102 高度関心度推定部
120 周辺色情報算出部
121 色対比量算出部
123 高度関心度変換部
140 周波数成分算出部
142 拡張関心度推定部
150 ブロック内該当周波数平均算出部
152 拡張関心度変換部
200 消失点推定判断部
201 消失点選択部
202 保持メモリ(記憶部)
220 高度消失点推定判断部
240 拡張消失点推定判断部
300 消失点平滑化部
3001 ユーザモード選択部
3002 表示部
Claims (22)
- 画素からなる画像を形成することができる画像信号から、前記画素または複数の前記画素からなる画素領域ごとに、明るさ情報を算出する明るさ情報算出部と、
前記画素または前記画素領域が、前記画像上で、視覚的に注目される度合いを示す関心度を、前記明るさ情報から推定する関心度推定部と、
前記明るさ情報から、前記画像上の消失点情報を推定する消失点推定部と、
前記関心度と前記消失点情報とに基づいて奥行き度を推定し、前記奥行き度に基づいて前記画像信号に対して奥行き補正処理を行うための補正ゲインを算出する奥行き推定部と、
前記補正ゲインに基づいて、前記画像信号に対して奥行き補正処理を行う奥行き補正部と、
を備え、
前記関心度推定部は、
前記画像信号において処理対象とされている前記画素である注目画素の周辺画素の前記明るさ情報から、周辺明るさ情報AKiを算出する周辺明るさ情報算出部と、
前記周辺明るさ情報AKiと前記注目画素の前記明るさ情報である注目明るさ情報Kiとから明るさ対比量RKiを算出する明るさ対比量算出部と、
前記明るさ対比量RKiに基づいて前記関心度を求める関心度変換部と、
を有する、
画像処理装置。 - 前記明るさ対比量算出部は、(前記明るさ対比量RKi)=(前記注目明るさ情報Ki)/(前記周辺明るさ情報AKi)により、前記明るさ対比量RKiを算出し、
前記関心度変換部は、前記明るさ対比量RKiの値が大きくなる程、前記関心度の値を大きな値に設定する、
請求項1に記載の画像処理装置。 - 前記消失点推定部は、
前記明るさ情報から輪郭情報を算出し、前記輪郭情報に基づいて前記画像上の輪郭部にある特徴点を抽出する輪郭算出部と、
前記特徴点を結ぶ前記画像上の直線をハフ変換することで、ハフ空間内の点に変換するハフ変換部と、
前記ハフ空間内の点についてのヒストグラム分布を算出する分布算出部と、
前記ハフ空間内の点についての前記ヒストグラム分布に基づいて、前記画像上の前記消失点情報を抽出する消失点抽出部と、
を有する、
請求項1または2に記載の画像処理装置。 - 前記消失点抽出部は、
前記画像を複数のブロックに分割し、
前記分布算出部により算出された前記ヒストグラム分布において、第1閾値より大きい頻度値を有している前記ハフ空間内の点に相当する画像上の直線が前記ブロックを通過する数であるブロック内直線数を算出し、前記ブロック内直線数が所定の値より多い場合、前記ブロックの重心点を前記画像上の前記消失点情報とする、
請求項3に記載の画像処理装置。 - 前記奥行き推定部は、
前記奥行き度の最小値である奥行き度最小値Min_fbiおよび前記奥行き度の最大値である奥行き度最大値Max_fbi(≧Min_fbi)を、前記注目画素と前記消失点情報との前記画像上での距離に対して単調増加の関係となる値に設定し、
前記奥行き度(fbi)を、前記奥行き度最小値Min_fbiから前記奥行き度最大値Max_fbiの範囲において、前記関心度に対して単調増加の関係となる値に設定し、
前記補正ゲインを、前記奥行き度(fbi)に対して単調増加の関係となる値に設定し、
前記奥行き補正部は、
前記補正ゲインの値が大きい程、前記注目画素が視覚的に注目される度合いが高くなるように、前記画像信号に対して奥行き補正処理を行う、
請求項1から4のいずれかに記載の画像処理装置。 - 前記画像信号から、前記画素または前記画素領域ごとに、色情報を算出する色情報算出部をさらに備え、
前記関心度推定部は、前記関心度を、前記明るさ情報および前記色情報から推定する、
請求項1に記載の画像処理装置。 - 前記画像信号から、複数の前記画素または複数の前記画素領域からなるブロックごとに、周波数情報を算出する周波数情報算出部をさらに備え、
前記関心度推定部は、前記周波数情報にも基づいて、前記関心度を推定する、
請求項1または6に記載の画像処理装置。 - 前記関心度推定部は、前記ブロックごとに、所定の周波数以上の周波数成分の和である高周波成分和sumHFreqを求め、前記高周波成分和sumHFreqの前記ブロックの全周波数成分の和sumAllFreqに対する比率RBi(=sumHFreq/sumAllFreq)を求め、前記比率RBiに基づいて、前記関心度を推定する、
請求項7に記載の画像処理装置。 - フレーム単位の前記画像であって、現フレームの1フレーム前から現フレームのpフレーム前(p:自然数)までのp個のフレーム単位の前記画像である過去フレーム画像および前記過去フレーム画像における前記消失点情報を記憶する記憶部と、
前記記憶部に記憶されているp個の前記過去フレーム画像のぞれぞれから画像の特徴量である過去フレーム画像特徴量を求め、現フレームにおけるフレーム単位の前記画像である現フレーム画像から画像の特徴量である現フレーム画像特徴量を求め、前記現フレーム画像特徴量と前記過去フレーム画像特徴量との差が最小である前記過去フレーム画像を最小誤差過去フレーム画像として特定し、前記最小誤差過去フレーム画像の前記過去フレーム画像特徴量と前記現フレーム画像特徴量との差が所定値以下である場合、消失点置換決定情報を出力する消失点推定判断部と、
前記消失点推定判断部により前記消失点置換決定情報が出力された場合、前記最小誤差過去フレーム画像における前記消失点情報を、前記現フレーム画像における前記消失点情報に設定する消失点選択部と、
をさらに備え、
前記奥行き推定部は、前記消失点選択部により設定された前記消失点情報と前記関心度とに基づいて前記奥行き度を推定する、
請求項1から8のいずれかに記載の画像処理装置。 - 前記消失点推定部は、前記消失点推定判断部により前記消失点決定情報が出力された場合、前記現フレーム画像から前記消失点情報を推定する処理を実行しない、
請求項9に記載の画像処理装置。 - 前記消失点選択部は、前記消失点推定判断部により前記消失点決定情報が出力されない場合、p個の前記過去フレーム画像の前記消失点情報を平滑化した平滑化消失点情報を、前記現フレーム画像における前記消失点情報に設定し、
前記消失点推定部は、前記現フレーム画像から前記消失点情報を推定する処理を実行しない、
請求項9に記載の画像処理装置。 - 前記消失点推定判断部は、前記現フレーム画像特徴量と前記過去フレーム画像特徴量との2乗誤差が最小である前記過去フレーム画像を最小誤差過去フレーム画像として特定し、前記最小誤差過去フレーム画像の前記過去フレーム画像特徴量と前記現フレーム画像特徴量との2乗誤差が所定値以下である場合、消失点置換決定情報を出力する、
請求項9から11のいずれかに記載の画像処理装置。 - 前記画像特徴量は、明るさ対比量、色対比量、および、複数の前記画素または複数の前記画素領域からなるブロックごとに算出される周波数情報に基づく量、の少なくとも1つにより算出されるものである、
請求項12に記載の画像処理装置。 - 前記周波数情報に基づく量は、前記ブロックごとに、所定の周波数以上の周波数成分の和である高周波成分和sumHFreqを求め、前記高周波成分和sumHFreqの前記ブロックの全周波数成分の和sumAllFreqに対する比率RBi(=sumHFreq/sumAllFreq)である、
請求項13に記載の画像処理装置。 - 前記奥行き補正部は、前記奥行き補正処理として、明るさ情報補正処理、色情報補正処理、輪郭強調処理、および平滑化処理の少なくとも1つの処理を行う、
請求項1から14のいずれかに記載の画像処理装置。 - 請求項1から15のいずれかに記載の画像処理装置と、
ユーザの指示に従い、処理モードを選択するユーザモード選択部と、
前記画像処理装置からの出力を画像として表示させる表示部と、
を備える画像処理システム。 - 前記ユーザモード選択部は、少なくとも、前記画像処理装置において実行される奥行き補正処理の強度に関する情報を含む前記処理モードを選択する、
請求項16に記載の画像処理システム。 - 前記表示部は、前記画像処理装置により推定された消失点情報を、前記画像処理装置により処理された画像とともに表示し、
前記ユーザモード選択部は、ユーザの指示に従い、前記画像処理装置により推定された前記消失点情報を修正する、
請求項16または17に記載の画像処理システム。 - 画素からなる画像を形成することができる画像信号から、前記画素または複数の前記画素からなる画素領域ごとに、明るさ情報を算出する明るさ情報算出ステップと、
前記画素または前記画素領域が、前記画像上で、視覚的に注目される度合いを示す関心度を、前記明るさ情報から推定する関心度推定ステップと、
前記明るさ情報から、前記画像上の消失点情報を推定する消失点推定ステップと、
前記関心度と前記消失点情報とに基づいて奥行き度を推定し、前記奥行き度に基づいて前記画像信号に対して奥行き補正処理を行うための補正ゲインを算出する奥行き推定ステップと、
前記補正ゲインに基づいて、前記画像信号に対して奥行き補正処理を行う奥行き補正ステップと、
を備え、
前記関心度推定ステップは、
前記画像信号において処理対象とされている前記画素である注目画素の周辺画素の前記明るさ情報から、周辺明るさ情報AKiを算出する周辺明るさ情報算出ステップと、
前記周辺明るさ情報AKiと前記注目画素の前記明るさ情報である注目明るさ情報Kiとから明るさ対比量RKiを算出する明るさ対比量算出ステップと、
前記明るさ対比量RKiに基づいて前記関心度を求める関心度変換ステップと、
を有する、
画像処理方法。 - コンピュータを、
画素からなる画像を形成することができる画像信号から、前記画素または複数の前記画素からなる画素領域ごとに、明るさ情報を算出する明るさ情報算出部、
前記画素または前記画素領域が、前記画像上で、視覚的に注目される度合いを示す関心度を、前記明るさ情報から推定する関心度推定部、
前記明るさ情報から、前記画像上の消失点情報を推定する消失点推定部、
前記関心度と前記消失点情報とに基づいて奥行き度を推定し、前記奥行き度に基づいて前記画像信号に対して奥行き補正処理を行うための補正ゲインを算出する奥行き推定部、
前記補正ゲインに基づいて、前記画像信号に対して奥行き補正処理を行う奥行き補正部、
として機能させるためのプログラムであって、
前記関心度推定部は、
前記画像信号において処理対象とされている前記画素である注目画素の周辺画素の前記明るさ情報から、周辺明るさ情報AKiを算出する周辺明るさ情報算出部と、
前記周辺明るさ情報AKiと前記注目画素の前記明るさ情報である注目明るさ情報Kiとから明るさ対比量RKiを算出する明るさ対比量算出部と、
前記明るさ対比量RKiに基づいて前記関心度を求める関心度変換部と、
を有する、
プログラム。 - コンピュータを、
画素からなる画像を形成することができる画像信号から、前記画素または複数の前記画素からなる画素領域ごとに、明るさ情報を算出する明るさ情報算出部、
前記画素または前記画素領域が、前記画像上で、視覚的に注目される度合いを示す関心度を、前記明るさ情報から推定する関心度推定部、
前記明るさ情報から、前記画像上の消失点情報を推定する消失点推定部、
前記関心度と前記消失点情報とに基づいて奥行き度を推定し、前記奥行き度に基づいて前記画像信号に対して奥行き補正処理を行うための補正ゲインを算出する奥行き推定部、
前記補正ゲインに基づいて、前記画像信号に対して奥行き補正処理を行う奥行き補正部、
として機能させるためのプログラムを記録したコンピュータにより取り可能な記録媒体であって、
前記関心度推定部は、
前記画像信号において処理対象とされている前記画素である注目画素の周辺画素の前記明るさ情報から、周辺明るさ情報AKiを算出する周辺明るさ情報算出部と、
前記周辺明るさ情報AKiと前記注目画素の前記明るさ情報である注目明るさ情報Kiとから明るさ対比量RKiを算出する明るさ対比量算出部と、
前記明るさ対比量RKiに基づいて前記関心度を求める関心度変換部と、
を有する、
記録媒体。 - 画素からなる画像を形成することができる画像信号から、前記画素または複数の前記画素からなる画素領域ごとに、明るさ情報を算出する明るさ情報算出部と、
前記画素または前記画素領域が、前記画像上で、視覚的に注目される度合いを示す関心度を、前記明るさ情報から推定する関心度推定部と、
前記明るさ情報から、前記画像上の消失点情報を推定する消失点推定部と、
前記関心度と前記消失点情報とに基づいて奥行き度を推定し、前記奥行き度に基づいて前記画像信号に対して奥行き補正処理を行うための補正ゲインを算出する奥行き推定部と、
前記補正ゲインに基づいて、前記画像信号に対して奥行き補正処理を行う奥行き補正部と、
を備え、
前記関心度推定部は、
前記画像信号において処理対象とされている前記画素である注目画素の周辺画素の前記明るさ情報から、周辺明るさ情報AKiを算出する周辺明るさ情報算出部と、
前記周辺明るさ情報AKiと前記注目画素の前記明るさ情報である注目明るさ情報Kiとから明るさ対比量RKiを算出する明るさ対比量算出部と、
前記明るさ対比量RKiに基づいて前記関心度を求める関心度変換部と、
を有する、
集積回路。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008172225A JP5014274B2 (ja) | 2007-07-06 | 2008-07-01 | 画像処理装置、画像処理方法、画像処理システム、プログラム、記録媒体および集積回路 |
US12/167,607 US8131098B2 (en) | 2007-07-06 | 2008-07-03 | Image processing device, image processing method, image processing system, program, storage medium, and integrated circuit |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007178803 | 2007-07-06 | ||
JP2007178803 | 2007-07-06 | ||
JP2008172225A JP5014274B2 (ja) | 2007-07-06 | 2008-07-01 | 画像処理装置、画像処理方法、画像処理システム、プログラム、記録媒体および集積回路 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009038794A JP2009038794A (ja) | 2009-02-19 |
JP5014274B2 true JP5014274B2 (ja) | 2012-08-29 |
Family
ID=40440303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008172225A Expired - Fee Related JP5014274B2 (ja) | 2007-07-06 | 2008-07-01 | 画像処理装置、画像処理方法、画像処理システム、プログラム、記録媒体および集積回路 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5014274B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5175910B2 (ja) | 2010-09-16 | 2013-04-03 | 株式会社東芝 | 画像処理装置、画像処理方法およびプログラム |
JP5210416B2 (ja) * | 2011-06-13 | 2013-06-12 | シャープ株式会社 | 立体画像生成装置、立体画像生成方法、プログラム、および記録媒体 |
WO2013094635A1 (ja) * | 2011-12-19 | 2013-06-27 | シャープ株式会社 | 画像処理装置、撮像装置および表示装置 |
JP5916199B2 (ja) * | 2011-12-22 | 2016-05-11 | シャープ株式会社 | 画像処理装置、撮像装置、表示装置、画像処理方法及び画像処理プログラム |
JP2013132018A (ja) * | 2011-12-22 | 2013-07-04 | Sharp Corp | 画像処理装置、撮像装置、表示装置、画像処理方法及び画像処理プログラム |
JP5881005B2 (ja) * | 2011-12-19 | 2016-03-09 | シャープ株式会社 | 画像処理装置、画像撮像装置、画像表示装置、画像処理方法およびプログラム |
JP6075243B2 (ja) * | 2013-08-22 | 2017-02-08 | 独立行政法人 国立印刷局 | 画像形成体 |
KR102276628B1 (ko) * | 2014-12-30 | 2021-07-12 | 엘지디스플레이 주식회사 | 영상변환장치 및 이를 구비하는 디스플레이 장치 |
CN113688259B (zh) * | 2020-05-19 | 2024-06-07 | 阿波罗智联(北京)科技有限公司 | 导航目标的标注方法及装置、电子设备、计算机可读介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001143086A (ja) * | 1999-11-16 | 2001-05-25 | Matsushita Electric Ind Co Ltd | 画像認識装置 |
JP2004159148A (ja) * | 2002-11-07 | 2004-06-03 | Fujitsu General Ltd | 立体的表現回路 |
JP2006013722A (ja) * | 2004-06-23 | 2006-01-12 | Matsushita Electric Ind Co Ltd | 画像処理装置および画像処理方法 |
JP4538630B2 (ja) * | 2004-08-13 | 2010-09-08 | 国立大学法人静岡大学 | 移動物体を検出するシステムとその方法 |
JP4617993B2 (ja) * | 2005-04-28 | 2011-01-26 | ソニー株式会社 | 画像処理装置および画像処理方法、プログラム、並びに、記録媒体 |
JP4635975B2 (ja) * | 2006-07-20 | 2011-02-23 | パナソニック株式会社 | 画像処理装置及び画像処理方法 |
-
2008
- 2008-07-01 JP JP2008172225A patent/JP5014274B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009038794A (ja) | 2009-02-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8131098B2 (en) | Image processing device, image processing method, image processing system, program, storage medium, and integrated circuit | |
JP5014274B2 (ja) | 画像処理装置、画像処理方法、画像処理システム、プログラム、記録媒体および集積回路 | |
US7869649B2 (en) | Image processing device, image processing method, program, storage medium and integrated circuit | |
US9218653B2 (en) | Method and apparatus for dynamic range enhancement of an image | |
JP5121294B2 (ja) | 画像処理方法、画像処理装置、プログラム、記録媒体および集積回路 | |
EP2833317B1 (en) | Image display device and/or method therefor | |
KR101314453B1 (ko) | 시각 처리 장치, 시각 처리 방법, 프로그램, 표시 장치 및 집적 회로 | |
KR100849845B1 (ko) | 영상 보정 방법 및 장치 | |
JP5434265B2 (ja) | 領域分類装置、画質改善装置、映像表示装置、およびそれらの方法 | |
JP6097588B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6160292B2 (ja) | 画像補正装置、撮像装置及び画像補正用コンピュータプログラム | |
JP2004038842A (ja) | 画像処理装置及び画像処理方法 | |
EP2372638B1 (en) | A black and white stretch method for dynamic range extension | |
JP5648849B2 (ja) | 画像処理装置、画像処理方法 | |
Kang et al. | Adaptive height-modified histogram equalization and chroma correction in YCbCr color space for fast backlight image compensation | |
JP2008252474A (ja) | 画像処理装置およびプログラム記録媒体 | |
JP5410378B2 (ja) | 映像信号補正装置および映像信号補正プログラム | |
JP6035153B2 (ja) | 画像処理装置、画像表示装置、プログラム、および、記憶媒体 | |
JP4769332B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2007234034A (ja) | 画像処理装置及び画像処理方法 | |
Toda et al. | High dynamic range rendering method for YUV images with global luminance correction | |
JP2010288040A (ja) | 輪郭補正方法及び輪郭補正装置 | |
JP2008257680A (ja) | 画像処理装置およびプログラム記録媒体 | |
Huo et al. | Evaluation of HDR tone mapped image and single exposure image | |
CN116596787A (zh) | 一种使用历史和当前边缘结合的时间抗锯齿方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110203 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120223 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120306 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120420 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120515 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120605 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150615 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5014274 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |