JP2014072595A - 映像処理装置 - Google Patents

映像処理装置 Download PDF

Info

Publication number
JP2014072595A
JP2014072595A JP2012215489A JP2012215489A JP2014072595A JP 2014072595 A JP2014072595 A JP 2014072595A JP 2012215489 A JP2012215489 A JP 2012215489A JP 2012215489 A JP2012215489 A JP 2012215489A JP 2014072595 A JP2014072595 A JP 2014072595A
Authority
JP
Japan
Prior art keywords
video
processing apparatus
unit
signal
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2012215489A
Other languages
English (en)
Other versions
JP6030396B2 (ja
Inventor
Nobuhiro Fukuda
伸宏 福田
Mitsuo Nakajima
満雄 中嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Consumer Electronics Co Ltd
Original Assignee
Hitachi Consumer Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Consumer Electronics Co Ltd filed Critical Hitachi Consumer Electronics Co Ltd
Priority to JP2012215489A priority Critical patent/JP6030396B2/ja
Priority to US13/875,767 priority patent/US8823876B2/en
Priority to CN201310170772.5A priority patent/CN103716503B/zh
Priority to CN201610553161.2A priority patent/CN106210437B/zh
Publication of JP2014072595A publication Critical patent/JP2014072595A/ja
Priority to US14/340,789 priority patent/US9053539B2/en
Application granted granted Critical
Publication of JP6030396B2 publication Critical patent/JP6030396B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3182Colour adjustment, e.g. white balance, shading or gamut
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof
    • H04N9/3194Testing thereof including sensor feedback
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20192Edge enhancement; Edge preservation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Studio Devices (AREA)

Abstract

【課題】より好適な映像補正処理を行う。
【解決手段】
入力映像信号を入力する入力部と、前記入力映像信号を補正する映像補正部とを備え、前記映像補正部は、入力映像信号から鏡面反射成分と拡散反射成分とを抽出し、該抽出した前記鏡面反射成分及び前記拡散反射成分に対する演算結果に基づいて補正映像信号を生成するように、プロジェクタまたは表示装置または撮像装置などの映像処理装置を構成する。
【選択図】 図1

Description

本発明は、映像処理技術に関する。
本技術分野の背景技術として、特開2005−004506号公報(特許文献1)がある。特許文献1は、その要約に「処理対象となる原画像の内容に依存することなく、良好なMultiScale Retinex処理ができる画像処理プログラムを提供する」ために「Multi Scale Retinex処理において、処理対象となる原画像D2の画素値レベルに応じて、スケールの異なる複数の周辺関数D3−1〜D3−3から生成されるぼけ具合の異なる複数のぼけ画像D4−1〜D4−3からいずれかを画素毎に選択することで、合成ぼけ画像D6を作成する。合成ぼけ画像D6に対してローパスフィルタ410を施すことによって、不自然な境界の不連続の発生を防止し、Retinex処理を行なう。」ことが開示されている。
特開2005−004506号公報
しかし、特許文献1に開示される技術では、複数のスケールに対する映像の寄与は考慮されているが、反射の性質に対する寄与は考慮されていない。それ故、映像中の被写体の材質に係わらず、一様な補正となり被写体の材質の質感の表現が十分とはいえないという課題があった。
本発明は、当該課題を鑑みてなされたものであり、その目的はより好適な映像補正処理を行うことにある。
上記課題を解決するために、本発明は、例えば、入力映像信号を入力する入力部と、前記入力映像信号を補正する映像補正部とを備え、前記映像補正部は、入力映像信号から鏡面反射成分と拡散反射成分とを抽出し、該抽出した前記鏡面反射成分及び前記拡散反射成分に対する演算結果に基づいて補正映像信号を生成するように構成すればよい。
本発明によれば、より好適な映像補正処理を行うことが可能となる。
本発明による映像処理装置の構成図の例である(実施例1)。 映像補正部の処理を説明する図である。 反射光検出部の処理を説明する図である。 反射光制御部の処理を説明する図である。 反射光制御部に輝度特性を加えた処理を説明する図である。 Phong反射モデルによる反射光の性質を説明する図である。 従来技術による反射光検出処理を説明する図である。 従来技術による反射光制御処理を説明する図である。 ガウシアン分布を説明する図である。 余弦による輝度分布を説明する図である。 余弦のべき乗による輝度分布を説明する図である。 映像の輝度値によるスペキュラ補正ゲインを説明する図である。 映像の輝度値によるディフューズ補正ゲインを説明する図である。 本発明による映像処理装置の構成図の例である(実施例2)。 ノイズおよび外光による適応制御例を説明する図である。 エッジ量とゲインの関係を説明する図である。 本発明による映像処理装置の構成図の例である(実施例3)。 本発明による映像処理装置の構成図の例である(実施例4)。
以下、本発明の実施の形態について図面に基づいて説明するが、本発明は必ずしもこれらの実施形態に限定されるものではない。なお、実施形態を説明する各図面において、同一の部材には同一の符号を付し、その繰り返しの説明は省略する。
光の反射の性質毎に映像を分解して映像補正を行う本発明に係る映像処理装置の例として、本実施例では、をプロジェクタとして構成した例を説明する。
図1は、本実施例の映像処理機能を有する映像処理装置1000(プロジェクタ)の構成図の例である。
本映像処理装置は、映像入力信号10を入力とし、例えば圧縮映像信号のデコーダ、IP変換、スケーラ等により内部映像信号12に変換する入力信号処理部11と、内部映像信号12を入力とする映像補正部100と、補正映像信号13を入力とし、補正映像信号を表示画面の水平・垂直同期信号に基づいて表示制御信号15を生成するタイミング制御部14と、映像を表示する光学系ユニット200などを含む。
光学系ユニット200は、光束を発生する光源203と、表示制御信号15により制御され、光源203からの光束の階調を画素毎に調整して映像を生成する表示素子202と、表示素子202を透過または反射した光束をスクリーンなどに出射するための投射レンズ201などを含む。なお、光源203と表示素子202との間の光路、及び表示素子202と投射レンズ201との間の光路には、仕様に応じて適宜必要なレンズ、ミラー、光学フィルタなどの光学素子を配置すればよい。表示素子202は、光源からの光を反射するデジタルミラーデバイス(DMD)でもよく、光源からの光を反射する反射型の液晶素子でもよく、光源からの光を透過する透過型の液晶素子でもよい。また、表示素子202は1つの素子である必要はなく、例えば複数の光の色(例えばR,G,Bの3色)にそれぞれ対応した素子をもうけた複数の素子として構成してもよい。
映像補正部100は、内部映像信号12を入力信号とし、Retinex理論に基づく映像処理を行うことで、2つの反射光成分101と102とを検出する反射光検出部150と、検出された2つの反射光成分を入力とし、反射光を調整した後、再合成を行うことで補正映像信号13を出力する反射光制御部180で構成される。
反射光検出部150と反射光制御部180の構成を説明する前に、従来のRetinex理論に基づく映像補正処理について説明する。なお、ここで説明する処理は、本実施例の処理と比較するために説明するものであり、本実施例の映像補正処理の説明から参照する部分を除いて、本実施例の映像補正処理と直接的な関係は無い。
Retinex理論によると、映像Iは照明光Lと反射光rとの積であらわされるため、I=L・rと記述できる。ここで、局所的な照明光成分がガウシアン分布に従うと推定し、反射光成分を抽出するRetinexであるCenter/Surround(以下、C/Sと記載する) Retinexでは、Lは映像中の注目画素を中心とするガウシアン分布に従うと推定し、対数空間の反射光Rを対数空間に於けるガウシアン分布と注目画素との差分により求める。ここで、注目画素の輝度値をI(x,y)、ガウシアンをF(x,y)とすると次の式で記載される。
Figure 2014072595
数式1に於いて、2次元空間上の原点を中心とする分散σのガウシアン分布は、次の式で記載される。
Figure 2014072595
また、図8Aは、縦軸を輝度のレベル、横軸を1次元位置座標で表現したガウシアン分布を説明する図である。このように、中心から離れるとレベルが低くなることが分かる。
さらに、F(x,y)とI(x,y)の積はコンボリューション積と呼び、次のような式で表される。
Figure 2014072595
ここで、数式1のように1つのスケールで表されるモデルをSingle Scale Retinexモデル(以下、SSR)と呼び、複数のスケールで表されるモデルをMulti-Scale Retinexモデル(以下、MSR)と呼ぶ。SSRは、一つのスケールに対する反射光の輝度成分を映像中から抽出するモデルである。SSRを拡張し、複数のスケールに対する反射光の輝度成分を映像中から抽出するモデルがMSRである。ここで、N個のスケールのMSRは、i番目のSSRの反射光成分を重みWで合成するとするならば、次の式で表される。
Figure 2014072595
構成図6および構成図7を用いて、数式4を説明する。尚、簡単のためにn=2、すなわち、2つのSSRで構成されるMSRを考える。また、構成図6および構成図7は、従来のRetinex理論に基づく映像補正処理を用いて入力映像信号12Bを補正映像信号13Bに変換する構成を説明するため図である。ここで説明する構成は、本実施例の構成と比較するために説明するものであり、実施例の構成である図1、図2とは直接的な関係は無い。
図6は、MSRの反射光検出部の処理を説明する図である。反射光検出部120は、2つのSSRで構成され、具体的には、スケール1によるフィルタ部121、スケール2によるフィルタ部123、対数変換部125および127で構成される。
スケール1によるフィルタ部121は、処理対象の映像信号12Bを数式3に表されるコンボリューション積で処理した結果の信号を出力する。対数変換部125は、コンボリューション積の結果信号122を対数変換する。対数変換された信号126は、元映像信号との差分により、スケール1による反射光成分101Bが出力される。即ち、これが数式4に於けるi=1のSSRの反射光成分である。
スケール2によるフィルタ部123は、映像信号12Bをスケール1によるフィルタ部121とは異なるスケール、例えばスケール1より大きなスケールのコンボリューション積で処理した結果信号を出力する。対数変換部127は、コンボリューション積の結果信号123を対数変換する。対数変換された信号128は、元映像信号との差分により、スケール2による反射光成分102Bが出力される。即ち、これが数式4に於けるi=2のSSRの反射光成分である。
図7は、図6の反射光検出部から出力される、反射光成分101Bと反射光成分102Bとを用いて補正映像信号13Bを生成する、MSRの反射光制御部の処理を説明する図である。反射光制御部は、重みW1とW2による加重平均で構成してもよく、指数変換部132と、重みW1とW2による加重平均およびゲインGで構成してもよい。特に前者をMSRの結果とすることが多いが、本実施例では後者の準同型フィルタの結果を用いる。また、ゲインGは、例えば、入力信号処理部11に入力される映像入力信号10のフォーマットや映像コンテンツの種類に応じて、変えてもよい。
反射光成分101および102は、それぞれW1およびW2で加重平均されて対数空間に於ける反射光131を生成する。即ち、これがSSRの加重平均で表現された一般的なMSRの数式4である。ここで、数式4にて信号131にゲインGで映像調整を行い、指数変換部132にて対数輝度空間から線形な輝度空間に戻すと、反射光rが求まる。
以上説明した従来のRetinex理論に基づく映像補正処理では、MSRを用いて照明光成分の影響を取り除き、反射光成分を抽出することができる。ところが、このMSRのように単に複数のスケールを調整してダイナミックレンジ圧縮の高性能化を行う技術では、複数のスケールに対する映像の寄与は考慮されているが、反射の性質に対する寄与は考慮されていない。それ故、映像中のオブジェクトの材質に係わらず、一様な補正となる。 次に、本実施例の映像処理に係る反射光検出部および反射光制御部を説明する。本実施例の映像処理では、以下のような考え方で反射光を取り扱う。
光の反射は、性質により、例えば、滑らかな表面で鏡のような鏡面反射をする光(以下、スペキュラと呼ぶ)、ざらざらした表面の細かな凹凸により拡散反射する光(以下、ディフューズと呼ぶ)、そして周囲の環境に対し反射等を繰り返すことで散乱した光である環境光(以下、アンビエントと呼ぶ)等に分類される。
例えば、3次元コンピュータグラフィックス分野に於いて、これら3つの光の性質を用いて物体表面の陰影を表現する反射モデルに、Phong反射モデルがある。Phong反射モデルによれば、材質は光の反射具合により表現できる。
例えば、プラスチック球体にスポットライトを当てた場合、輝度の高い小さな円形のハイライトができる。また、ゴム状の球体ではプラスチックよりハイライトの半径が広がるが、輝度は低くなる。このハイライトの部分がスペキュラである。また、ディフューズやアンビエントも材質に応じて輝度が異なる。
そこで、以下に説明する本発明は、反射光成分を抽出する際に、光の反射の性質毎に映像を分解し、それぞれの性質に応じて補正方法を変えることで、映像中の被写体の材質を考慮した、高画質な映像補正処理を提供する。例えば、反射光成分抽出時に、映像をスペキュラ、ディフューズ、アンビエントの成分に分解し、光沢のある金属やガラス表面などのスペキュラは強く、ゴムや粘土表面のスペキュラは弱く調整することで、被写体の材質を考慮した映像補正処理を提供する。
図5は、Phong反射モデルの例を説明する図である。図は、光源と光源から延びる光線、光線が到達した球体と球体を載せた床、この様子を観測する観測者で構成される。観測は、視点の位置で行われ、実際に目で観測しても、カメラ等の観測機器を使用してもよい。
図5に於いてスペキュラは、光線が被写体である球体表面で視線方向に反射した光501である。これは、光源が球体表面に映りこんだものであり、図中の円形のハイライト504がスペキュラの範囲である。例えば、プラスチックの球体の場合、輝度の高い小さな円形のハイライトができる。また、ゴム状の球体ではプラスチックよりハイライトの半径が広がるが、輝度は低くなる。Phong反射モデルでは、スペキュラは視線と反射光の余弦のべき乗に従うと仮定している。
図5に於いてディフューズは、光線が球体表面に当たった光502が拡散反射する光である。ディフューズの輝度は、光線と球体表面の向き、すなわち光線と法線との余弦で決まるため、球体表面で光が直接当たる部分がディフューズの範囲である。
図5に於いてアンビエントは、影となる部分に回りこんだ光503である。これは、周囲で幾度も反射し、散乱した光が環境全体に平均化されて留まったものあるため、直接光が届かない影の部分にも一定の輝度がある。
以上より、Phong反射モデルは、次の式で表される。
Figure 2014072595
そこで、本実施例による反射光検出部に於ける反射光は、アンビエント、ディフューズ、スペキュラで構成されるとし、映像中のアンビエントは、広いスケールのガウシアンに従い、ディフューズは余弦による輝度分布に従い、スペキュラは余弦のべき乗による輝度分布に従うとする。アンビエントのフィルタをFa(x,y)、ディフューズのフィルタをFd(x,y)、スペキュラのフィルタをFs(x,y)とすると、各フィルタは次式となる。
Figure 2014072595
Figure 2014072595
Figure 2014072595
また、図8A、図8B、図8Cは、それぞれ縦軸を輝度のレベル、横軸を1次元位置座標で表現したアンビエント、ディフューズ、スペキュラの分布を説明する図である。このように、アンビエントのガウシアン分布に比べ、ディフューズ、スペキュラの分布は急峻にレベルが下がることが分かる。
ここで、アンビエントのフィルタによる映像Iaは、全体を平均化するため、ほぼアンビエント成分のみとなる。ディフューズのフィルタによる映像Idは、スペキュラの成分はフィルタにより平均化され、ほぼアンビエント成分とディフューズ成分のみとなる。スペキュラのフィルタによる映像Isは、殆ど平均化されないため、アンビエント成分とディフューズ成分とスペキュラ成分すべてが残る。これを数式9に示す。
Figure 2014072595
これを、MSRと同様に対数空間による反射成分を求めると数式10となる。
Figure 2014072595
また、鏡や金属等のスペキュラは、全反射と考えられるため、余弦のべき乗は無限大となる。この時、スペキュラによる反射成分は、数式11を用いてもよい。
Figure 2014072595
また、アンビエントは環境全体の平均的な光であるため、ガウシアンフィルタの代わりに平均値フィルタまたは平均輝度を用いてもよい。例えば平均輝度を用いると数式12となる。
Figure 2014072595
また、スペキュラが目立つのは高輝度のハイライトであることが多く、ディフューズは中低輝度の場合が多い。そこで、例えば、数式10のスペキュラRspecularに対しては、図9Aに示すような高輝度領域のゲインを加え、ディフューズRdiffuseに対しては、図9Bに示すような中低輝度度領域のゲインを加えてもよい。ここで、図9Aの入出力曲線をg(I)とすると、入力輝度Iが低輝度の時はゲインが0となり、中輝度から徐々にゲインが高くなり、高輝度になるとゲインは1となる。図9Bの入出力曲線は1−g(I)で、低輝度の時にゲインが1で、中輝度から徐々にゲインが低くなり、高輝度でゲインが0となる。
また、MSRの例と同様、数式10は、加重平均後にゲインと指数関数を加えると準同型フィルタとなる。この準同型フィルタに対し、対数関数および指数関数を、例えばべき乗を用いた関数およびその逆関数で近似してもよい。この場合、関数fとすると数式13となる。
Figure 2014072595
以上の処理を行うことにより、本実施例に係る映像処理では、反射の性質を考慮した補正が行える。すなわち、本実施例に係る映像処理では、単に異なる複数のスケールを考慮して反射光を取り扱う映像処理とは異なり、性質の異なる複数の反射光成分をそれぞれ分離して、これらの性質を考慮した映像処理を行う。これにより、映像中のオブジェクトの材質の質感をより好適に表現することができる。
上述の映像処理を実現するための構成について、図3および図4を用いて説明する。
図3は、実施例1による反射光検出部の処理を説明する図である。反射光検出部150は、スペキュラフィルタ部151、ディフューズフィルタ部153と、アンビエントフィルタ部155と、関数変換部157、159、161と、スペキュラ検出部163と、ディフューズ検出部164とを含む。スペキュラフィルタ部151は例えば数式8に示されるフィルタによる処理を行う。ディフューズフィルタ部153は例えば数式7に示されるフィルタによる処理を行う。アンビエントフィルタ部155は例えば数式6に示されるフィルタによる処理を行う。次に、関数変換部157、159、161により関数変換された反射光成分を用いて、スペキュラ検出部163が数式10に示されるRSpecularを検出する。このとき上述のとおり、必要に応じて数式11に示されるRSpecularを検出する構成としてもよい。また、ディフューズ検出部164が同様に数式10に示されるRDiffuseを算出する。なお、上述のとおりアンビエント成分について、アンビエントフィルタ部155において、ガウシアンフィルタの代わりに平均値フィルタまたは平均輝度を用いる場合は、ディフューズ検出部164で検出するRDiffuseは、数式12となる。なお、関数変換部は、上述の数式に示されるように対数関数でもよいが、べき乗関数で近似してもよい。
図4Aは、実施例1による反射光制御部の処理を説明する図である。反射光制御部180は、重みW1とW2による加重平均とを含む。当該加重平均は、数式10のRPhongの算出処理に対応する処理である。反射光制御部180の出力を、逆関数変換部182において、関数変換部で用いた関数の逆関数での変換処理を行うことにより、反射光rが求まる。本実施例の映像処理装置では、当該反射光rを補正映像信号13として出力する。なお、図4Aに示すようにゲインGを設けてゲイン調整を行っても良い。ゲインGは、例えば、入力信号処理部11に入力される映像入力信号10のフォーマットや映像コンテンツの種類に応じて、変えてもよい。
また、図4Bに示すように、図4Aの構成に図9Aの高輝度域に高いゲインを持つスペキュラ補正ゲイン183と図9Bの中低輝度域に高いゲインを持つディフューズ補正ゲイン184を加えてもよい。
以上の構成によれば、反射光成分を抽出する際に、光の反射の性質毎、すなわちスペキュラ、ディフューズ、アンビエント毎に映像を分解し、それぞれの性質に応じて補正量を変えることで、映像中のオブジェクトの材質を考慮した映像補正処理を提供する。
したがって、以上説明した本発明の実施例1に係る映像処理装置によれば、反射光成分を抽出する際に、光の反射の性質毎に映像を分解し、それぞれの性質に応じて補正方法を変える。これにより、映像中のオブジェクトの材質を考慮した、高画質な映像補正処理を行うことが可能となる。すなわち、従来より好適な映像補正処理を行うことが可能となる。
実施例1では、光の反射の性質毎に映像を分解して映像補正を行う映像処理装置の例を説明した。実施例2では、本発明の応用として映像中のノイズおよび/または外光による適応制御例を説明する。
図10は、本実施例の映像処理装置1001(プロジェクタ)の構成図の例である。図1と同じ符号が付される要素は、図1と同様の動作、構成を有するものである。これらの要素の動作、構成は、実施例1で説明したとおりであるので、詳細な説明は省略する。
本映像処理装置は、映像入力信号10を入力とし、例えば圧縮映像信号のデコーダ、IP変換、スケーラ等により内部映像信号12に変換する入力信号処理部11と、外光を入力とし、例えば256段階の照度レベル信号32を出力する照度センサ31と、内部映像信号12と照度レベル信号32とを入力とする映像補正部300と、補正映像信号33を入力とし、補正映像信号を表示画面の水平・垂直同期信号に基づいて表示制御信号15を生成するタイミング制御部14と、映像を表示する表示素子202、光源203、投射レンズ203を含む光学系ユニット200などを有する。
次に、本実施例の発明に係る映像補正部300の構成を示す図11について説明する。映像補正部300は、内部映像信号12を入力信号とし、2つの反射光成分101と102とを検出する反射光検出部150と、検出された2つの反射光成分を入力とし、反射光を調整した後、再合成を行うことで補正映像信号13を出力する反射光制御部180と、内部映像信号12を入力信号とし、エッジ信号302を出力信号とするエッジ検出部301と、補正映像信号13とエッジ信号302と内部映像信号12と照度レベル信号32とを入力信号とし、照度レベルとエッジ信号により適応制御を行う適応制御部304とで構成される。
エッジ検出部301は、例えば、対象画素とその隣接画素との差分の絶対値を隣接画素分加算した値をエッジ量とすると、小振幅の粒状ノイズのような高周波領域はエッジ量が小さくなる。そこで、このような場合には補正を行わないようにすればよい。これによりノイズが強調されることを防ぐことができる。
図12は、エッジ量を横軸と補正値を制御するゲインを縦軸とし、エッジ量とゲインの関係とを説明する図である。この図に示すように、コア値として設定されたエッジ量まではゲインが0となり、エッジ量が大きくなると、ゲインは上限値で一定となる。例えば、この特性曲線をエッジ信号302とすることで、補正値を制御することができる。
ここで、エッジ検出部301は、エッジ量を取得したが、高周波濾過フィルタを用いてもよく、図12は、エッジ量の代わりにスペクトル量とし、補正値を制御してもよい。
適応制御部304は、注目画素の内部映像信号12をIin(x,y)、反射光を調整した信号13をr(x,y)、エッジ信号302をGedge、照度レベル信号32によるゲインをGlmとし、出力される補正映像信号33とすると、数式14となる。
Figure 2014072595
ここで、照度レベル信号32によるゲインGlmは、例えば照度レベルを256階調とすると、照度レベル信号/256である。
数式14によると、原画に対して補正量をゲインで調整しているが、本数式は一例を示すもので本数式に限るものではない。例えば、実施例1で示したRetinex理論の原理である、映像Iは照明光Lと反射光rとの積で表されるという関係式I=L・rを用いて、反射光rにゲインを加えることで、原画からの補正量を調整してもよい。ここで、照明光Lは、アンビエントフィルタ部155の出力及びディフューズフィルタ部153の出力に基づいて算出すればよい。数式14に基づく処理の場合でも、関係式I=L・rに基づく処理の場合でも、本実施例の適応制御部304は照明光成分を考慮した補正映像信号を出力することができる。
このように、外光の照度レベルが高いほど補正を強調することで、スクリーンに投影された映像中の被写体の光沢感が外光によって低下することを防止することができる。
なお、上述の例では、照度レベルとエッジ信号の両者を用いた適応制御を説明したが、どちらか一方のみに基づく適応制御でもそれぞれの効果を得ることができる。この場合、数式14におけるゲインは一方のもののみで十分であり、他方のゲインは不要である。あわせて不要な構成は図11から除いてかまわない。
以上の構成によれば、小振幅の粒状ノイズが含まれる領域ではノイズを強調しないという適応制御が可能である。また、外光が強い場合は、照度レベルに応じて強く補正し、外光がない場合は補正を行わないという外光による適応制御が可能となる。または、これらを組み合わせた適用処理が可能となる。
これにより、実施例2に係る映像処理装置によれば、実施例1の映像補正処理もより好適な映像補正処理が可能となる。
実施例1および2では、本発明の構成例の一例として、プロジェクタを用いた映像処理装置の例について説明した。
本実施例では、プロジェクタ以外の実装例として、表示パネル一体型表示装置である映像処理装置の例を説明する。
図13は、本実施例の映像処理装置の構成図の例である。
図1と同様、映像入力信号10を入力とし、例えば圧縮映像信号のデコーダ、IP変換、スケーラ等により内部映像信号12に変換する入力信号処理部11と、内部映像信号12を入力とする映像補正部100を有する。また、映像補正部100より出力される補正映像信号13を入力とする映像表示部500とを有する。映像表示部500は、入力した補正映像信号13を表示画面の水平・垂直同期信号に基づいて表示制御信号15を生成するタイミング制御部と、表示制御信号15を受けて対応する画素領域に映像を表示するパネル23で構成される。パネル23はバックライトからの光の透過を画素毎に制御する液晶パネルでもよく、画素毎に自発光するプラズマディスプレイパネルや有機ELパネルでもよい。視聴者は、パネル23に表示される映像を直接観賞することとなる。
映像補正部100は、実施例1で説明したとおり、従来技術に比べてより好適な映像補正処理を行うことが可能である。したがって、図13の構成により、実施例1の効果を有する表示パネル一体型表示装置を提供することが可能となる。
また、図13の構成のうち、映像補正部100より前段の各処理部を図10に示される実施例2の構成に変更してもよい。この場合、実施例2の効果を有する表示パネル一体型表示装置を提供することも可能である。
また、これらの表示パネル一体型表示装置において、入力信号処理部11にテレビチューナ機能を追加し、映像入力信号10をテレビ放送信号とすれば、より好適な映像補正処理を行うことが可能なテレビジョン受信装置を提供することが可能となる。
以上説明した本発明の実施例3に係る映像処理装置によれば、実施例1または実施例2の効果を有する表示パネル一体型表示装置を提供することが可能となる。
本実施例では、本発明のその他の実装例として、撮像装置である映像処理装置の例を説明する。
図14は、本実施例の映像処理装置の構成図の例である。
本映像処理装置は、撮像光学系ユニット400と、撮像光学系ユニット400より出力される映像信号12を入力とする映像補正部100と、映像補正部100より出力される補正映像信号13を入力とする映像表示部500と、同じく映像補正信号13を入力とし、映像を記憶する、例えば不揮発性メモリ、光ディスク、ハードディスク等の記録媒体に記録する記録再生部41で構成される。
ここで、映像補正部100は、実施例1と同様の構成を有するものである。
光学系装置400は、例えばCharge Coupled Device(以下、CCDと呼ぶ)イメージセンサで、光線を集光するレンズ401と、集光した光線から映像出力403するCCD402と、CCDを制御し映像信号12を出力するCCDドライバ404で構成される。
映像表示部500は、入力した補正映像信号13を表示画面の水平・垂直同期信号に基づいて表示制御信号15を生成するタイミング制御部と、表示制御信号15を受けて対応する画素領域に映像を表示するパネル23で構成される。なお、映像表示部500で表示する映像は、CCDドライバ404からのリアルタイムの撮像映像でも良く、記録再生部41が記録媒体に映像を記録したあとに当該記録媒体から再生した映像でも良い。
映像補正部100は、実施例1で説明したとおり、従来技術よりも好適な映像補正処理を行うことが可能である。よって、図14のような構成の撮像装置とすることにより、撮像映像についても、映像中の被写体の材質を考慮した映像補正を行うことが可能である。
また、記録部41により、当該映像補正を行った撮像映像を記録することができる。記録部41が、取り出し可能な記録媒体に当該映像補正を行った撮像映像を記録する構成とする場合は、他の装置において、当該記録媒体に記録された撮像映像を再生し、本発明による従来技術より好適な映像補正がなわれた映像を観賞することが可能である。
また、映像表示部500により、ユーザは当該映像補正を行った撮像映像を鑑賞することができる。ユーザにとっては、質感がより好適に表現された映像として鑑賞でき、見やすいという利点がある。また、質感がより好適に表現された映像として撮像または記録できていることが確認することができるというメリットがある。
11 入力信号処理部
14 タイミング制御部
41 記録再生部
100 映像補正部
120 反射光検出部
121 スケール1によるフィルタ部
123 スケール2によるフィルタ部
125、126 対数変換部
130 反射光制御部
132 指数変換部
150 反射光検出部
151 スペキュラフィルタ部
153 ディフューズフィルタ部
155 アンビエントフィルタ部
157、159、161 関数変換部
163 スペキュラ検出部
164 ディフューズ検出部
180 反射光制御部
182 逆関数変換部
183 スペキュラ補正ゲイン
184 ディフューズ補正ゲイン
200 光学系ユニット
201 投射レンズ
202 表示素子
203 光源
302 エッジ信号
403 映像
500 映像表示部
501 パネル
1000 映像処理装置
1001 映像処理装置

Claims (9)

  1. 入力映像信号を入力する入力部と、
    前記入力映像信号を補正する映像補正部とを備え、
    前記映像補正部は、入力映像信号から鏡面反射成分と拡散反射成分とを抽出し、該抽出した前記鏡面反射成分及び前記拡散反射成分に対する演算結果に基づいて補正映像信号を生成する
    ことを特徴とする映像処理装置。
  2. 請求項1に記載の映像処理装置であって、
    前記映像補正部は、抽出した前記鏡面反射成分と抽出した前記拡散反射成分とに重み付けを行って合成し、該合成結果に基づいて補正映像信号を生成する
    ことを特徴とする映像処理装置。
  3. 請求項2に記載の映像処理装置であって、
    前記映像補正部は、抽出した前記鏡面反射成分と抽出した前記拡散反射成分とに重み付けを行う前に、それぞれ異なるゲイン調整処理を行う
    ことを特徴とする映像処理装置。
  4. 請求項1乃至3に記載の映像処理装置であって、
    前記映像補正部は、前記入力映像信号から環境光成分を得る第1のフィルタ処理と、前記入力映像信号から環境光成分と拡散反射成分を含む成分を得る第2のフィルタ処理と、前記入力映像信号から環境光成分、拡散反射成分及び鏡面反射成分を含む成分を得る第3のフィルタ処理を行い、該3つのフィルタ処理の結果に基づいて、前記鏡面反射成分と前記拡散反射成分とを抽出する
    ことを特徴とする映像処理装置。
  5. 請求項1乃至4に記載の映像処理装置であって、
    前記映像補正部は、前記入力映像中のエッジを検出するエッジ検出部を備え、
    該エッジ検出部の検出結果に応じて映像補正処理を変更することを特徴とする映像処理装置。
  6. 請求項1乃至5に記載の映像処理装置であって、
    外光の照度を計測する照度センサを備え、
    前記映像補正部は、該照度センサの計測する外光の照度に応じて映像補正処理を変更することを特徴とする映像処理装置。
  7. 請求項1乃至6に記載の映像処理装置であって、
    さらに光源と、前記映像補正部が生成した補正映像信号に応じて光源からの光束の透過または反射を制御する表示素子と、当該表示素子を透過または反射した光束を出力する投射レンズを備えてプロジェクタを構成することを特徴とする映像処理装置。
  8. 請求項1乃至6に記載の映像処理装置であって、
    さらに前記映像補正部が生成した補正映像信号に応じて映像を表示する表示パネルを備えて表示装置を構成することを特徴とする映像処理装置。
  9. 請求項1乃至6に記載の映像処理装置であって、
    前記入力部が、撮像レンズとセンサを有する撮像光学ユニットであり、前記入力映像信号は、前記センサからの出力信号に基づいて生成された信号であり、撮像装置を構成することを特徴とする映像処理装置。
JP2012215489A 2012-09-28 2012-09-28 映像処理装置 Active JP6030396B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2012215489A JP6030396B2 (ja) 2012-09-28 2012-09-28 映像処理装置
US13/875,767 US8823876B2 (en) 2012-09-28 2013-05-02 Image processing apparatus
CN201310170772.5A CN103716503B (zh) 2012-09-28 2013-05-10 图像处理装置和投影仪
CN201610553161.2A CN106210437B (zh) 2012-09-28 2013-05-10 图像处理装置和投影仪
US14/340,789 US9053539B2 (en) 2012-09-28 2014-07-25 Image processing apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012215489A JP6030396B2 (ja) 2012-09-28 2012-09-28 映像処理装置

Publications (2)

Publication Number Publication Date
JP2014072595A true JP2014072595A (ja) 2014-04-21
JP6030396B2 JP6030396B2 (ja) 2016-11-24

Family

ID=50384830

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012215489A Active JP6030396B2 (ja) 2012-09-28 2012-09-28 映像処理装置

Country Status (3)

Country Link
US (2) US8823876B2 (ja)
JP (1) JP6030396B2 (ja)
CN (2) CN103716503B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017046905A1 (ja) * 2015-09-16 2017-03-23 日立マクセル株式会社 映像処理装置

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105210360B (zh) 2013-04-03 2018-05-18 麦克赛尔株式会社 影像显示装置
EP3057067B1 (en) * 2015-02-16 2017-08-23 Thomson Licensing Device and method for estimating a glossy part of radiation
WO2018097677A1 (en) * 2016-11-28 2018-05-31 Samsung Electronics Co., Ltd. Image processing apparatus, image processing method, and computer-readable recording medium thereof
KR102614906B1 (ko) * 2016-12-05 2023-12-18 삼성전자주식회사 영상 처리 방법 및 장치
CN107105221B (zh) * 2017-03-23 2019-04-09 武汉云信众汇通讯科技有限公司 一种3d电视自适应控制方法及装置
CN109671046B (zh) * 2017-10-12 2021-08-17 精诚工坊电子集成技术(北京)有限公司 利用皮肤图像分析皮肤水分的方法及装置
JP7027807B2 (ja) * 2017-10-30 2022-03-02 富士フイルムビジネスイノベーション株式会社 表示装置、スキャナ、表示システム及びプログラム
CN108564923B (zh) * 2018-01-30 2020-04-10 武汉华星光电技术有限公司 基于分区背光的高动态对比度图像显示方法及装置
CN109978789A (zh) * 2019-03-26 2019-07-05 电子科技大学 一种基于Retinex算法与引导滤波的图像增强方法
CN112738489B (zh) * 2020-12-23 2021-12-07 深圳市火乐科技发展有限公司 投影设备控制方法、装置、介质及电子设备
CN113781360B (zh) * 2021-09-27 2023-10-20 牟宗勇 基于人工智能的输液装置图像增强方法与系统
CN115272258A (zh) * 2022-08-03 2022-11-01 无锡九霄科技有限公司 基于机器视觉的金属圆柱面缺陷检测方法、系统和介质
CN116894793B (zh) * 2023-09-08 2023-11-28 南京道成网络科技有限公司 一种用于增强图像质量的方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003132350A (ja) * 2001-10-25 2003-05-09 Fuji Photo Film Co Ltd 画像表示方法、画像処理方法、画像処理装置、走査読取装置および画像信号作成方法
JP2008004085A (ja) * 2006-05-23 2008-01-10 Matsushita Electric Ind Co Ltd 画像処理装置、画像処理方法、プログラム、記録媒体および集積回路
JP2008281402A (ja) * 2007-05-09 2008-11-20 Nippon Telegr & Teleph Corp <Ntt> 知覚的な鏡面・拡散反射画像推定方法とその装置、及びプログラムと記憶媒体
US20110227922A1 (en) * 2010-03-22 2011-09-22 Samsung Electronics Co., Ltd. Apparatus and method extracting light and texture, and rendering apparatus using light and texture

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5991456A (en) 1996-05-29 1999-11-23 Science And Technology Corporation Method of improving a digital image
US6842543B2 (en) 2001-06-25 2005-01-11 Science And Technology Corporation Method of improving a digital image having white zones
US6834125B2 (en) 2001-06-25 2004-12-21 Science And Technology Corp. Method of improving a digital image as a function of its dynamic range
JP4345366B2 (ja) 2003-06-12 2009-10-14 コニカミノルタホールディングス株式会社 画像処理プログラムおよび画像処理装置
JP4459137B2 (ja) * 2005-09-07 2010-04-28 株式会社東芝 画像処理装置及びその方法
US8164594B2 (en) * 2006-05-23 2012-04-24 Panasonic Corporation Image processing device, image processing method, program, storage medium and integrated circuit
JP2010054576A (ja) * 2008-08-26 2010-03-11 Fuji Xerox Co Ltd 画像濃度制御装置及び画像形成装置
US8111943B2 (en) 2009-04-15 2012-02-07 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Smart image enhancement process

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003132350A (ja) * 2001-10-25 2003-05-09 Fuji Photo Film Co Ltd 画像表示方法、画像処理方法、画像処理装置、走査読取装置および画像信号作成方法
JP2008004085A (ja) * 2006-05-23 2008-01-10 Matsushita Electric Ind Co Ltd 画像処理装置、画像処理方法、プログラム、記録媒体および集積回路
JP2008281402A (ja) * 2007-05-09 2008-11-20 Nippon Telegr & Teleph Corp <Ntt> 知覚的な鏡面・拡散反射画像推定方法とその装置、及びプログラムと記憶媒体
US20110227922A1 (en) * 2010-03-22 2011-09-22 Samsung Electronics Co., Ltd. Apparatus and method extracting light and texture, and rendering apparatus using light and texture

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017046905A1 (ja) * 2015-09-16 2017-03-23 日立マクセル株式会社 映像処理装置
JPWO2017046905A1 (ja) * 2015-09-16 2018-07-05 マクセル株式会社 映像処理装置
US10706513B2 (en) 2015-09-16 2020-07-07 Maxell, Ltd. Image processing apparatus

Also Published As

Publication number Publication date
CN106210437B (zh) 2018-08-31
CN103716503B (zh) 2016-08-17
CN106210437A (zh) 2016-12-07
US8823876B2 (en) 2014-09-02
US20140333837A1 (en) 2014-11-13
JP6030396B2 (ja) 2016-11-24
US9053539B2 (en) 2015-06-09
CN103716503A (zh) 2014-04-09
US20140092307A1 (en) 2014-04-03

Similar Documents

Publication Publication Date Title
JP6030396B2 (ja) 映像処理装置
JP5367640B2 (ja) 撮像装置および撮像方法
EP2924651B1 (en) Video processing apparatus and projector apparatus applying the same therein
JP5781372B2 (ja) 画像処理装置及び撮像装置
US20170318270A1 (en) Projector and image display method
JP6381404B2 (ja) 画像処理装置及び方法、及び撮像装置
WO2017046905A1 (ja) 映像処理装置
JP5596427B2 (ja) 光学投影制御方法、光学投影制御装置、光学投影制御システムおよびプログラム
JP7180885B2 (ja) 画像調整装置及びプログラム
US10373293B2 (en) Image processing apparatus, image processing method, and storage medium
JP6335924B2 (ja) 映像表示装置
JP6046238B2 (ja) 映像表示装置
JP2004133919A (ja) 擬似3次元画像生成装置および生成方法並びにそのためのプログラムおよび記録媒体
WO2018167898A1 (ja) 映像表示装置
KR101872015B1 (ko) 적외선 영상 생성장치 및 방법
JP2019129469A (ja) 画像処理装置
JP2019149719A (ja) 画像処理装置及び方法、及び撮像装置
WO2020184173A1 (ja) 画像処理装置、画像処理方法、およびプログラム
JPWO2017154046A1 (ja) 表示装置
JP2016008886A (ja) 特性情報作成装置、特性情報作成プログラム、特性情報作成システム、特性情報作成方法、光学フィルムの設計方法及び光学フィルムの製造方法
JP2021026320A (ja) 画像処理装置、その制御方法、プログラム
JP2010101996A (ja) 画像補正装置、画像補正方法、プロジェクタおよびプロジェクションシステム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140310

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140317

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140318

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20140319

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20140911

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150311

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160112

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160301

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160425

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161020

R150 Certificate of patent or registration of utility model

Ref document number: 6030396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250