JP5327524B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP5327524B2
JP5327524B2 JP2009045284A JP2009045284A JP5327524B2 JP 5327524 B2 JP5327524 B2 JP 5327524B2 JP 2009045284 A JP2009045284 A JP 2009045284A JP 2009045284 A JP2009045284 A JP 2009045284A JP 5327524 B2 JP5327524 B2 JP 5327524B2
Authority
JP
Japan
Prior art keywords
adjustment amount
dimensional image
amount
eye
adjustment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009045284A
Other languages
English (en)
Other versions
JP2010200213A (ja
JP2010200213A5 (ja
Inventor
修一 高橋
功 大橋
拓哉 大井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2009045284A priority Critical patent/JP5327524B2/ja
Priority to CN2010101212574A priority patent/CN101820552B/zh
Priority to US12/708,707 priority patent/US20100220178A1/en
Publication of JP2010200213A publication Critical patent/JP2010200213A/ja
Publication of JP2010200213A5 publication Critical patent/JP2010200213A5/ja
Application granted granted Critical
Publication of JP5327524B2 publication Critical patent/JP5327524B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/001Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
    • G09G3/003Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/144Processing image signals for flicker reduction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/16Determination of a pixel data signal depending on the signal applied in the previous frame
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2213/00Details of stereoscopic systems
    • H04N2213/002Eyestrain reduction by processing stereoscopic signals or controlling stereoscopic devices

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像処理装置、画像処理方法、およびプログラムに関し、特に、クロストークをより低減した立体画像を表示させることができるようにする画像処理装置、画像処理方法、およびプログラムに関する。
近年、立体画像表示に関する研究が盛んに行われている。立体画像を鑑賞者に提示する方式には、例えば、人間の左眼と右眼に異なる2次元画像を提示し、その2つの2次元画像が有する視差によって立体画像を知覚させる方式がある。鑑賞者は、左眼用2次元画像と右眼用2次元画像に設けられた視差に応じた奥行きを知覚することで、視認した画像を立体画像として認識できる。
なお、立体画像データとしては、左眼用2次元画像と、それに対応する右眼用2次元画像とをセットとして保有する形式の他、2次元画像と、その奥行き情報とをセットで保有する形式もある。2次元画像と、その奥行き情報とをセットで保有する形式で立体画像データを保有している場合も、2次元画像と奥行き情報とから、左眼用2次元画像と右眼用2次元画像を生成するので、鑑賞者への画像の提示としては、上述した左眼用2次元画像と右眼用2次元画像における場合と同様である。
このような人間の左眼と右眼に異なる2次元画像を提示する方式では、左眼用2次元画像と右眼用2次元画像を分離する手段が必要となる。左眼用2次元画像と右眼用2次元画像を分離する手段としては、例えば、左眼側と右眼側で異なる偏光特性を有するメガネを着用する方式がある。また、メガネを着用せず、裸眼で画像を視認する方式では、ディスプレイ上にレンズシートを貼り付け、所定の位置にいる鑑賞者の左眼と右眼に異なる画像が入射されるように光路を調整する方式などがある。
人間の左眼と右眼に異なる2次元画像を提示することにより立体画像を知覚させる方式では、左眼用2次元画像と右眼用2次元画像の視差の量(視差量)をいかに適切に設定するかという問題がある。
左眼用2次元画像と右眼用2次元画像の視差量を調整する技術としては、例えば、特許文献1で提案されている技術が挙げられる。
特許文献1では、視差量を異なるものとした複数の左眼用2次元画像と右眼用2次元画像を鑑賞者に提示し、鑑賞者が、提示された画像を許容できるかどうか応答することで視差量を調整する方法が提案されている。これにより、鑑賞者が好ましいと感じる視差量に調整できる。また、一度調整された視差量を保存することができ、異なる画像に対しても同様の視差量で画像を表示できるようにもなされている。
第3749227号公報
特許文献1で提案されている視差量の調整方法は、左眼用2次元画像と右眼用2次元画像を完全に分離して視認できることが前提となっている。
しかしながら、一方の眼に他方の眼用の2次元画像が意図せずに入射されてしまう現象、すなわちクロストークは、少なからず発生してしまう。例えば、偏光フィルタを用いる方式では,5%程度のクロストークが発生する。即ち、左眼用2次元画像の5%分が右眼用2次元画像に重畳され、右眼用2次元画像の5%分が左眼用2次元画像に重畳される。
従って、特許文献1で提案されている視差量の調整方法において、鑑賞者が好ましいと感じた視差量の画像であっても、クロストークの発生している状態で調整された画像である可能性が高い。
クロストークが発生している場合、左眼用2次元画像と右眼用2次元画像が完全に一致している画素については、その影響はないが、一致していない画素については、2重の像として視認されることとなる。その結果、立体画像として知覚することができないだけでなく、鑑賞者に、頭痛等の生理反応が生じる場合もある。
本発明は、このような状況に鑑みてなされたものであり、クロストークをより低減した立体画像を表示させることができるようにするものである。
本発明の第1の側面の画像処理装置は、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を設定する調整量設定手段と、前記調整量設定手段により設定された調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する差分演算手段と、前記輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量を決定する最小値判定手段と、前記最小値判定手段により決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する視差量調整手段とを備え、前記輝度値の差分を用いた演算量は、前記輝度値の差分の総和または分散であり、前記最小値判定手段は、前記輝度値の差分の総和または分散を演算する総和演算手段と、前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を前記最適調整量として決定する最適調整量決定手段とを備える
本発明の第1の側面の画像処理方法は、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分の総和または分散を演算し、設定された複数の前記調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を最適調整量として決定し、決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整するステップを含む。
本発明の第1の側面のプログラムは、コンピュータに、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分の総和または分散を演算し、設定された複数の前記調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を最適調整量として決定し、決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する処理を実行させる。
本発明の第1の側面においては、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量が複数設定され、設定された調整量により視差量を変更した左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分の総和または分散が演算され、設定された複数の調整量のうち、輝度値の差分の総和または分散が最小となる調整量が最適調整量として決定され、決定された最適調整量に基づいて、左眼用2次元画像と右眼用2次元画像の視差量が調整される。
本発明の第2の側面の画像処理装置は、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を設定する調整量設定手段と、前記調整量設定手段により設定された調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する差分演算手段と、前記輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量を決定する最小値判定手段と、前記最小値判定手段により決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する視差量調整手段とを備え、前記輝度値の差分を用いた演算量は、前記輝度値の差分が所定の閾値以上である画素数であり、前記最小値判定手段は、前記輝度値の差分が所定の閾値以上である画素数を計測する画素数計測手段と、前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定する最適調整量決定手段とを備える。
本発明の第2の側面の画像処理方法は、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算し、前記輝度値の差分が所定の閾値以上である画素数を計測し、設定された複数の前記調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定し、決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整するステップを含む。
本発明の第2の側面のプログラムは、コンピュータに、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算し、前記輝度値の差分が所定の閾値以上である画素数を計測し、設定された複数の前記調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定し、決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する処理を実行させる。
本発明の第2の側面においては、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量が複数設定され、設定された調整量により視差量を変更した左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分が演算され、輝度値の差分が所定の閾値以上である画素数が計測され、設定された複数の調整量のうち、輝度値の差分が所定の閾値以上である画素数が最小となる調整量が最適調整量として決定され、決定された最適調整量に基づいて、左眼用2次元画像と右眼用2次元画像の視差量が調整される。
本発明の第3の側面の画像処理装置は、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を設定する調整量設定手段と、前記調整量設定手段により設定された調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する差分演算手段と、前記輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量を決定する最小値判定手段と、前記最小値判定手段により決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する視差量調整手段とを備え、前記最小値判定手段は、前記輝度値の差分を用いた演算量として、前記輝度値の差分の総和または分散を演算する総和演算手段と、前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を前記最適調整量として決定する第1の最適調整量決定手段と、前記輝度値の差分を用いた演算量として、前記輝度値の差分が所定の閾値以上である画素数を計測する画素数計測手段と、前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定する第2の最適調整量決定手段と、前記第1の最適調整量決定手段による第1の視差量調整処理か、または、前記第2の最適調整量決定手段による第2の視差量調整処理のいずれか一方を選択して実行させる制御手段とを備える。
本発明の第3の側面においては、左眼用2次元画像と右眼用2次元画像に対して視差量の調整量が設定され、設定された調整量により視差量を変更した左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分が演算され、輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量が決定され、決定された最適調整量に基づいて、左眼用2次元画像と右眼用2次元画像の視差量が調整される。最小となる調整量の判定では、輝度値の差分を用いた演算量として、輝度値の差分の総和または分散を演算し、設定された複数の調整量のうち、輝度値の差分の総和または分散が最小となる調整量を最適調整量として決定する第1の最適調整量処理か、または、輝度値の差分を用いた演算量として、輝度値の差分が所定の閾値以上である画素数を計測し、設定された複数の調整量のうち、輝度値の差分が所定の閾値以上である画素数が最小となる調整量を最適調整量として決定する第2の最適調整量処理のいずれか一方が選択して実行される。
なお、プログラムは、伝送媒体を介して伝送することにより、又は、記録媒体に記録して、提供できる。
画像処理装置は、独立した装置であっても良いし、1つの装置を構成している内部ブロックであっても良い。
本発明の第1および第2の側面によれば、クロストークをより低減した立体画像を表示させることができる。
立体画像を表示させる左眼用2次元画像と右眼用2次元画像を示す図である。 クロストークのない立体画像を示す図である。 クロストークが発生したときの画像を示す図である。 本発明を適用した画像処理装置による第1の視差量調整処理の処理結果例を示す図である。 本発明を適用した画像処理装置による第2の視差量調整処理の処理結果例を示す図である。 本発明を適用した画像処理装置の第1の実施の形態の構成例を示すブロック図である。 第1の視差量調整処理を説明するフローチャートである。 本発明を適用した画像処理装置の第2の実施の形態の構成例を示すブロック図である。 第2の視差量調整処理を説明するフローチャートである。 左眼用2次元画像および右眼用2次元画像の各画素の輝度値の例を示す図である。 図10における各画素の輝度値の差分を示す図である。 調整量を“−2”としたときの各画素の輝度値の差分を示す図である。 調整量を“−1”としたときの各画素の輝度値の差分を示す図である。 調整量を“+1”としたときの各画素の輝度値の差分を示す図である。 調整量を“+2”としたときの各画素の輝度値の差分を示す図である。 本発明を適用した画像処理装置の第3の実施の形態の構成例を示すブロック図である。 本発明を適用した画像処理装置の第4の実施の形態の構成例を示すブロック図である。 本発明を適用した画像処理装置の第5の実施の形態の構成例を示すブロック図である。 領域分割をした第1の視差量調整処理を説明するフローチャートである。 領域分割をした第2の視差量調整処理を説明するフローチャートである。 分割した領域の例を示す図である。 領域分割した図10の左眼用2次元画像および右眼用2次元画像を示す図である。 領域分割した図10の輝度値の差分を示す図である。 領域分割した図11の輝度値の差分を示す図である。 領域分割した図12の輝度値の差分を示す図である。 領域分割した図13の輝度値の差分を示す図である。 領域分割した図14の輝度値の差分を示す図である。 領域分割した図15の輝度値の差分を示す図である。 本発明を適用した画像処理装置の第7の実施の形態の構成例を示すブロック図である。 本発明を適用した立体画像表示装置の一実施の形態の構成例を示すブロック図である。 本発明を適用したコンピュータの一実施の形態の構成例を示すブロック図である。
[本発明の概念の説明]
最初に、本発明を適用した画像処理装置が行う処理の概念について説明する。
本発明を適用した画像処理装置は、鑑賞者に立体画像として知覚させるための左眼用2次元画像と右眼用2次元画像に設けられている視差量を調整する視差量調整装置である。
図1は、左眼用2次元画像と右眼用2次元画像の例を示している。
図1Aは、左眼用2次元画像を示し、図1Bは、右眼用2次元画像を示している。
図1において、左眼用2次元画像および右眼用2次元画像内の白抜きの円が所定のオブジェクトであるとする。左眼用2次元画像のオブジェクトの中心位置CLは、右眼用2次元画像のオブジェクトの中心位置CRよりも左側に配置されている。逆に言うと、右眼用2次元画像のオブジェクトの中心位置CRは、左眼用2次元画像のオブジェクトの中心位置CLよりも右側に配置されている。左眼用2次元画像のオブジェクトの中心位置CLと右眼用2次元画像のオブジェクトの中心位置CRは距離Dだけ異なっており、この距離Dは近似的に視差量に比例する。よって以下では、この距離Dを視差量として再定義し、用いることとする。
左眼用2次元画像と右眼用2次元画像の視差量Dが、左眼用2次元画像と右眼用2次元画像を表示する表示装置の表示面から鑑賞者までの距離に対して十分に小さい場合には、図2に示されるように、オブジェクトが両眼で融合し、画面奥側に知覚される(立体視される)。
一方、例えば、視差量Dが大きい場合には、図3に示される斜線部分がクロストークとして対象の眼と反対側の眼に知覚され得る。その結果、両眼に左眼用2次元画像と右眼用2次元画像の両方が視認されることになり、立体視が阻害される。即ち、鑑賞者には、オブジェクトは画面奥側に引き込まれずに、2つの円が画面上に張り付いているように視認される。従って、鑑賞者が画像の適切な飛び出しまたは引き込みを知覚するためには、クロストークを抑制することが必要である。
クロストークは、図3の斜線部分で示される、左眼用2次元画像と右眼用2次元画像の各画素の輝度値が大きく異なる領域で発生する。従って、左眼用2次元画像と右眼用2次元画像の各画素の輝度値の差分が、画像全体として、小さい場合に、よりクロストークを抑制できる。
そこで、本発明の画像処理装置は、次のような第1および第2の視差量調整処理により、視差量を調整する。画像処理装置は、第1の視差量調整処理として、左眼用2次元画像と右眼用2次元画像の各画素の輝度値の差分の画像全体における総和が最小となる視差量を最適な視差量とする。また、第2の視差量調整処理では、画像処理装置は、輝度値の僅かな差分は知覚することができないとして無視することとして、所定の閾値TH以上の差分を有する画素の数が最小となる視差量を、最適な視差量とする。
図4および図5は、所定の視差量を有する左眼用2次元画像と右眼用2次元画像に対して、第1および第2の視差量調整処理を行ったときの視差調整量を示している。
図4は、第1の視差量調整処理の処理結果である。図4の横軸は、入力された左眼用2次元画像と右眼用2次元画像の初期の視差量をゼロ(基準)として、調整した視差量(視差調整量)を示している。図4の縦軸は、各視差調整量における左眼用2次元画像と右眼用2次元画像の各画素の輝度値の差分の総和を示している。
図5は、第2の視差量調整処理の処理結果である。図5の横軸は、図4と同様の視差調整量であり、縦軸は、所定の閾値TH以上の差分を有する画素数を示している。
図4と図5に示すように、輝度値の差分の総和、または、差分が閾値TH以上である画素数が最小となる視差調整量が確かに存在する。本発明の画像処理装置は、入力された左眼用2次元画像と右眼用2次元画像の視差量を、このような輝度値の差分の総和または差分が閾値TH以上である画素数が最小となる視差量にする。これにより、クロストークをより低減させることができる左眼用2次元画像と右眼用2次元画像を生成し、鑑賞者にクロストークをより低減した立体画像を提示できる。
以下、本発明を実施するための形態(以下、実施の形態という)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(輝度差分の総和を最小にする第1の構成例)
2.第2の実施の形態(所定の輝度差以上の画素数を最小にする第2の構成例)
3.第3の実施の形態(立体画像データのフォーマット変換機能を有する第1の構成例)
4.第4の実施の形態(立体画像データのフォーマット変換機能を有する第2の構成例)
5.第5の実施の形態(領域分割を行う第1の構成例)
6.第6の実施の形態(領域分割を行う第2の構成例)
7.第7の実施の形態(第1と第2の視差量調整処理が選択可能な構成例)
8.第8の実施の形態(立体画像表示装置の構成例)
<1.第1の実施の形態>
[画像処理装置の構成例]
図6は、本発明を適用した画像処理装置の第1の実施の形態の構成例を示している。
図6の画像処理装置1は、2次元画像取得部11、輝度値演算部12、調整量設定部13、差分演算部14、総和演算部15、情報記憶部16、最適調整量決定部17、および視差量調整部18により構成されている。
画像処理装置1は、鑑賞者に立体画像として知覚させるための左眼用2次元画像と右眼用2次元画像の入力を受け、左眼用2次元画像と右眼用2次元画像に設けられている視差量を調整(変更)する。
なお、以下では、入力された左眼用2次元画像および右眼用2次元画像を、調整後の左眼用2次元画像および右眼用2次元画像と区別して入力左眼用2次元画像および入力右眼用2次元画像ともいう。
2次元画像取得部11は、外部から入力される左眼用2次元画像と右眼用2次元画像(のデータ)を取得し、輝度値演算部12と視差量調整部18のそれぞれに供給する。
輝度値演算部12は、2次元画像取得部11から供給された左眼用2次元画像と右眼用2次元画像を構成する各画素の輝度値を算出し、輝度値情報として差分演算部14に供給する。例えば、輝度値演算部12は、RGB信号からなる左眼用2次元画像と右眼用2次元画像のそれぞれを、ITU-R BT709で規定される輝度信号Yに変換する。そして、輝度値演算部12は、左眼用2次元画像と右眼用2次元画像のそれぞれの輝度信号Yの値(Y値)を、左眼用2次元画像と右眼用2次元画像の各画素の輝度値とする。なお、外部から入力される画像の信号フォーマットは、RGBからなる形式以外の形式でもよく、また、輝度値も、Y値により求めるもの以外の方法で算出してもよい。
調整量設定部13は、視差量の調整量(視差調整量)を設定し、調整量情報として差分演算部14および情報記憶部16に供給する。例えば、図示せぬ操作部において、視差量の調整範囲と調整間隔が入力できるようになっており、調整量設定部13は、入力された調整範囲と調整間隔に基づいて、調整量を設定する。
具体的には、操作部において、調整範囲「50」、調整間隔「10」が入力された場合には、入力左眼用2次元画像と入力右眼用2次元画像の視差量を基準(ゼロ)として含む、−50,−40,−30,−20,−10,0,10,20,30,40,50が調整量となる。
ここで、調整量は、例えば、左眼用2次元画像を基準として右眼用2次元画像の各画素をシフトさせる画素数をし、正の調整量は、右方向へシフトさせることを表し、負の調整量は、左方向へシフトさせることを表す。調整量が“50”である場合には、左眼用2次元画像を基準としてそのままとし、右眼用2次元画像の各画素の輝度値を右方向へ50画素だけシフトさせることを表す。そして、入力左眼用2次元画像と入力右眼用2次元画像に予め設定されている視差量をPとすると、調整量“50”で調整した後の左眼用2次元画像と右眼用2次元画像の視差量は、“P+50”となる。
なお、調整量情報としての視差量の調整範囲と調整間隔は、操作部で入力されるのではなく、予め決定され記憶されるようにしてもよい。また、調整量情報により特定される調整量は、基準としての“0”を含めて複数あればよい。
差分演算部14は、調整量情報で特定される所定の調整量を用いて、左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する。そして、差分演算部14は、演算された輝度値の差分の絶対値を総和演算部15に供給する。以下、差分とは、差分の絶対値をとったものをいうこととする。
例えば、調整量が“50”である場合には、入力右眼用2次元画像の各画素の輝度値を右方向へ50画素だけシフトさせたシフト右眼用2次元画像と、入力左眼用2次元画像の対応する画素どうしの輝度値の差分が、差分演算部14により演算される。また、調整量が“40”である場合には、入力右眼用2次元画像の各画素の輝度値を右方向へ40画素だけシフトさせたシフト右眼用2次元画像と、入力左眼用2次元画像の対応する画素どうしの輝度値の差分が、差分演算部14により演算される。以下同様に、“30”,・・・,“−50”のそれぞれについて輝度値の差分が演算される。差分演算部14により演算された調整量ごとの各画素の輝度値の差分は、それぞれ、輝度差情報として総和演算部15に供給される。なお、調整量だけ輝度値をシフトさせたために、シフト右眼用2次元画像と入力左眼用2次元画像とで対応する輝度値が存在しない画素は、演算から除外される。
総和演算部15は、差分演算部14から供給される、所定の調整量における各画素の輝度値の差分を用いて、輝度値の差分(輝度差分)の全画素についての総和を演算する。これにより、所定の調整量における輝度差分の総和が得られる。総和演算部15により求められた、所定の調整量の輝度差分の総和は、輝度差総和情報として、情報記憶部16に供給される。
本実施の形態では、総和演算部15において、上述したように、所定の調整量の各画素の輝度値の差分から、輝度差分の総和を演算することとするが、これに限らず、例えば、輝度値の差分の分散などを求めるようにしてもよい。また、シフト右眼用2次元画像と入力左眼用2次元画像とで対応する輝度値が存在しない画素は演算から除外されるため、画素数の違いによる影響をなくすため、輝度差分の総和を画素数で除算した値を、輝度差総和情報として求めるようにしてもよい。
情報記憶部16には、上述したように、調整量設定部13から調整量情報が供給される。また、情報記憶部16には、総和演算部15から輝度差総和情報も供給される。情報記憶部16は、調整量情報が表す所定の調整量と、輝度差総和情報が表す輝度差分の総和とを対応付けて記憶する。その結果、情報記憶部16は、調整範囲と調整間隔に基づいて設定される全ての調整量について、調整量と輝度差分の総和とを対応付けて記憶する。
最適調整量決定部17は、情報記憶部16に記憶されている、調整量と輝度差分の総和との組み合わせのなかから、輝度差分の総和が最も小さい調整量を判定(選択)することにより、最適な調整量を決定する。決定された調整量は、最適調整量情報として、視差量調整部18に供給される。なお、輝度差分の総和の最小値が複数存在する場合、最適調整量決定部17は、調整量の絶対値がより小さい方の調整量を、最適調整量とする。
視差量調整部18には、2次元画像取得部11から、入力左眼用2次元画像および入力右眼用2次元画像が供給され、最適調整量決定部17から、最適調整量情報が供給される。視差量調整部18は、入力左眼用2次元画像および入力右眼用2次元画像に対して、最適調整量情報で特定される調整量を調整することにより、輝度差分の総和が最も小さい左眼用2次元画像および右眼用2次元画像を生成する。生成された左眼用2次元画像および右眼用2次元画像は、視差量調整済みの左眼用2次元画像および右眼用2次元画像として出力される。
画像処理装置1は、以上のように構成される。
[図6の画像処理装置1による視差量調整処理]
次に、図7のフローチャートを参照して、図6の画像処理装置1により実行される第1の視差量調整処理について説明する。この処理は、例えば、画像処理装置1の2次元画像取得部11に左眼用2次元画像および右眼用2次元画像が供給されたとき、開始される。
初めに、ステップS1において、2次元画像取得部11は、外部から入力された左眼用2次元画像と右眼用2次元画像を取得し、輝度値演算部12と視差量調整部18のそれぞれに供給する。
ステップS2において、輝度値演算部12は、2次元画像取得部11から供給された左眼用2次元画像と右眼用2次元画像を構成する各画素の輝度値を算出し、輝度値情報として差分演算部14に供給する。
ステップS3において、調整量設定部13は、図示せぬ操作部において入力された調整範囲と調整間隔を取得する。
ステップS4において、調整量設定部13は、取得した調整範囲と調整間隔に基づいて所定の調整量を設定し、設定した調整量を、調整量情報として差分演算部14および情報記憶部16に供給する。差分演算部14は、調整量情報で特定される所定の調整量を用いて、左眼用2次元画像と右眼用2次元画像の視差量を変更する。例えば、差分演算部14は、調整量情報で特定される調整量が“50”である場合には、入力左眼用2次元画像を基準としてそのままとし、入力右眼用2次元画像の各画素の輝度値を右方向へ50画素だけシフトさせる。
ステップS5において、差分演算部14は、調整量情報として供給された調整量だけ視差量を調整した視差量における左眼用2次元画像と右眼用2次元画像の輝度値の差分(の絶対値)を演算し、その演算結果を総和演算部15に供給する。即ち、差分演算部14は、右眼用2次元画像の各画素の輝度値を調整量情報として供給された調整量だけシフトさせたシフト右眼用2次元画像と、入力左眼用2次元画像の対応する画素どうしの輝度値の差分を演算する。演算結果は、輝度差情報として総和演算部15に供給される。
ステップS6において、総和演算部15は、調整後の視差量における輝度差分の総和を演算する。即ち、総和演算部15は、シフト右眼用2次元画像と入力左眼用2次元画像の各画素の輝度値の差分を全画素について加算した結果を演算する。演算結果は、総和演算部15から、輝度差総和情報として情報記憶部16に供給される。
ステップS7において、情報記憶部16は、調整量情報が表す所定の調整量と、輝度差総和情報が表す輝度差分の総和を対応付けて記憶する。
ステップS8において、調整量設定部13は、調整範囲と調整間隔に基づいて特定される全ての調整量について輝度差分の総和を求めたかを判定する。ステップS8で、全ての調整量について輝度差分の総和を求めていないと判定された場合、処理はステップS4に戻り、ステップS4乃至ステップS8の処理が繰り返される。即ち、まだ設定されていない調整量が調整量情報として差分演算部14と情報記憶部16に供給され、所定の調整量における輝度差分の総和が演算される。
一方、ステップS8で、全ての調整量について輝度差分の総和が求められたと判定された場合、処理はステップS9に進む。ステップS9では、最適調整量決定部17は、情報記憶部16に記憶されている、調整量と輝度差分の総和の組み合わせのなかから、輝度差分の総和が最も小さい調整量を決定する。そして、ステップS10において、最適調整量決定部17は、輝度差分の総和が最小となる調整量を最適調整量情報として、視差量調整部18に供給する。
ステップS11において、視差量調整部18は、供給された最適調整量情報に基づいて、入力左眼用2次元画像および入力右眼用2次元画像を調整する。即ち、視差量調整部18は、調整後の左眼用2次元画像および右眼用2次元画像の視差量が、“入力左眼用2次元画像と入力右眼用2次元画像の視差量P+最適調整量”となる左眼用2次元画像および右眼用2次元画像を生成する。そして、視差量調整部18は、生成された左眼用2次元画像および右眼用2次元画像を出力して、処理を終了する。
以上のように、第1の実施の形態における画像処理装置1は、輝度差分の総和が最小となるように視差量を調整した左眼用2次元画像および右眼用2次元画像を出力する。輝度差分の総和が最小となる左眼用2次元画像および右眼用2次元画像は、クロストークとして知覚される輝度差のある領域が抑制されていることになる。従って、輝度差分の総和が最小となる左眼用2次元画像および右眼用2次元画像により、クロストークをより低減した立体画像を表示させることができる。
<2.第2の実施の形態>
次に、画像処理装置の第2の実施の形態について説明する。
[画像処理装置の構成例]
図8は、本発明を適用した画像処理装置の第2の実施の形態の構成例を示している。
図8の画像処理装置1は、2次元画像取得部11、輝度値演算部12、調整量設定部13、差分演算部14、情報記憶部16A、最適調整量決定部17A、視差量調整部18、閾値記憶部31、および画素数計測部32により構成されている。
図8において、図6と対応する部分については同一の符号を付してあり、その説明は適宜省略する。
即ち、図8の画像処理装置1では、図6の総和演算部15に代えて、閾値記憶部31および画素数計測部32が設けられている。また、情報記憶部16および最適調整量決定部17が、画素数計測部32の処理に対応する情報記憶部16Aおよび最適調整量決定部17Aとなっている。
閾値記憶部31は、画素数計測部32において画素数の計測に使用される閾値THを記憶する。閾値THは、予め決定した値として記憶させてもよいし、図示せぬ操作部等により入力された値を記憶させてもよい。
画素数計測部32には、差分演算部14から、所定の調整量における各画素の輝度値の差分が供給される。また、画素数計測部32には、閾値記憶部31から、閾値THが供給される。画素数計測部32は、輝度値の差分が閾値TH以上である画素数を計測する。そして、画素数計測部32は、計測された画素数を、画素数カウント情報として情報記憶部16Aに供給する。
情報記憶部16Aは、画素数計測部32から供給される画素数カウント情報と、調整量設定部13から供給される調整量情報に基づいて、調整量と、その調整量で視差量を調整したとき差分が閾値TH以上となる画素数を対応付けて記憶する。その結果、情報記憶部16Aには、調整範囲と調整間隔に基づいて設定される全ての調整量について、調整量と画素数が対応付けて記憶される。
最適調整量決定部17Aは、情報記憶部16Aに記憶されている、調整量と画素数との組み合わせのなかから、画素数が最小となる調整量を判定(選択)することにより、最適な調整量を決定する。決定された調整量は最適調整量情報として、視差量調整部18に供給される。
第2の実施の形態における画像処理装置1は、以上のように構成される。
[図8の画像処理装置1による視差量調整処理]
次に、図9のフローチャートを参照して、図8の画像処理装置1により実行される第2の視差量調整処理について説明する。この処理は、例えば、画像処理装置1の2次元画像取得部11に左眼用2次元画像および右眼用2次元画像が供給されたとき、開始される。
ステップS21乃至S25の処理は、上述したステップS1乃至S5の処理とそれぞれ同様であるので、その説明は省略する。
ステップS26において、画素数計測部32は、閾値記憶部31に記憶されている閾値THを読み出す。そして、画素数計測部32は、ステップS27において、輝度値の差分と閾値THを画素ごとに比較して、輝度値の差分が閾値TH以上である画素数を計測する。計測結果は、画素数カウント情報として、情報記憶部16Aに供給される。
ステップS28において、情報記憶部16Aは、調整量設定部13から供給される調整量情報が表す調整量と、画素数計測部32から供給される画素数カウント情報が表す画素数を対応付けて記憶する。
ステップS29において、調整量設定部13は、調整範囲と調整間隔に基づいて特定される全ての調整量について、輝度値の差分が閾値TH以上である画素数を求めたかを判定する。ステップS29で、全ての調整量について閾値TH以上の画素数を求めていないと判定された場合、処理はステップS24に戻り、ステップS24乃至ステップS29の処理が繰り返される。即ち、まだ設定されていない調整量が調整量情報として差分演算部14と情報記憶部16Aに供給され、所定の調整量における閾値TH以上の画素数が演算される。
一方、ステップS29で、全ての調整量について閾値TH以上の画素数が求められたと判定された場合、処理はステップS30に進む。ステップS30では、最適調整量決定部17Aは、情報記憶部16Aに記憶されている、調整量と画素数の組み合わせのなかから、画素数が最小となる調整量を決定する。そして、ステップS31において、最適調整量決定部17Aは、画素数が最小となる調整量を最適調整量情報として、視差量調整部18に供給する。
ステップS32において、視差量調整部18は、図7におけるステップS11の処理と同様に、供給された最適調整量情報に基づいて、入力左眼用2次元画像および入力右眼用2次元画像を調整して、処理を終了する。
以上のように、第2の実施の形態における画像処理装置1は、輝度値の差分が閾値TH以上である画素数が最小となるように視差量を調整した左眼用2次元画像および右眼用2次元画像を出力する。輝度値の差分が閾値TH以上である画素数が最小となる左眼用2次元画像および右眼用2次元画像は、クロストークとして知覚される輝度差のある領域が抑制されていることになる。従って、輝度値の差分が閾値TH以上である画素数が最小となる左眼用2次元画像および右眼用2次元画像により、クロストークをより低減した立体画像を表示させることができる。
[第1の視差調整処理と第2の視差調整処理の数値例]
次に、図10乃至図15を参照して、上述した第1の視差量調整処理と、第2の視差量調整処理についてさらに説明する。
最初に、第1の視差量調整処理について説明する。
横方向と縦方向の画素数がそれぞれ18画素と9画素であり、計162画素の画素数を有する左眼用2次元画像および右眼用2次元画像が、画像処理装置1に入力されたとする。輝度値演算部12は、左眼用2次元画像と右眼用2次元画像のそれぞれについて、各画素の輝度値を算出する。
図10は、輝度値演算部12により算出された、左眼用2次元画像および右眼用2次元画像の各画素の輝度値を示している。
図10Aは、左眼用2次元画像の各画素の輝度値を示しており、図10Bは、右眼用2次元画像の各画素の輝度値を示している。
調整量設定部13は、所定の調整範囲と調整間隔に基づいて、−2,−1,0,+1,+2を調整量として設定するものとする。そこで、例えば、調整量設定部13は、最初に調整量“0”を調整量情報として差分演算部14および情報記憶部16に供給する。
差分演算部14は、調整量情報で特定される調整量“0”を用いて、左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する。調整量が“0”であるので、差分演算部14は、画像処理装置1に入力された左眼用2次元画像と右眼用2次元画像そのものの、対応する画素どうしの輝度値の差分を演算する。
図11は、調整量が“0”である場合に、差分演算部14により演算された各画素の輝度値の差分を示している。
演算された各画素の輝度値の差分は、総和演算部15に供給される。総和演算部15は、差分演算部14から供給された、調整量“0”における各画素の輝度値の差分を用いて、輝度値の差分の全画素についての総和(輝度差分の総和)を演算する。図11に示される各画素の輝度値の差分に対して、輝度差分の総和を演算すると、その演算結果は、“6616”となる。演算結果である“6616”は、輝度差総和情報として、情報記憶部16に供給される。
情報記憶部16には、調整量設定部13から調整量情報としての調整量“0”と、総和演算部15から、輝度差総和情報としての“6616”が供給される。情報記憶部16は、調整量“0”と輝度差分の総和“6616”とを対応付けて記憶する。
次に、例えば、調整量“−2”が、調整量情報として差分演算部14および情報記憶部16に供給される。
差分演算部14は、調整量情報で特定される調整量“−2”を用いて、左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する。即ち、差分演算部14は、右眼用2次元画像の各画素の輝度値を、左方向へ2画素だけシフトさせたシフト右眼用2次元画像を生成する。そして、差分演算部14は、シフト右眼用2次元画像と左眼用2次元画像の対応する画素どうしの輝度値の差分を演算する。
図12は、調整量が“−2”である場合に、差分演算部14により演算された各画素の輝度値の差分を示している。
そして、図12で示される各画素の輝度値の差分に対して、総和演算部15により、輝度差分の総和が演算される。図12の輝度値の差分に対して、輝度差分の総和を演算すると、その演算結果は、“9416”となる。
情報記憶部16には、調整量設定部13から調整量情報としての調整量“−2”と、総和演算部15から、輝度差総和情報としての“9416”が供給される。情報記憶部16は、調整量“−2”と輝度差分の総和“9416”とを対応付けて記憶する。
以下、同様に、調整量設定部13から、差分演算部14および情報記憶部16に、調整量“−1”,“+1”,“+2”が、順次、調整量情報として供給される。
図13は、調整量が“−1”である場合に、差分演算部14により演算された各画素の輝度値の差分を示している。図13で示される各画素の輝度値の差分に対して、“4832”が輝度差分の総和として得られる。情報記憶部16は、調整量“−1”と輝度差分の総和“4832”とを対応付けて記憶する。
図14は、調整量が“+1”である場合に、差分演算部14により演算された各画素の輝度値の差分を示している。図14で示される各画素の輝度値の差分に対して、“5728”が輝度差分の総和として得られる。情報記憶部16は、調整量“+1”と輝度差分の総和“5728”とを対応付けて記憶する。
図15は、調整量が“+2”である場合に、差分演算部14により演算された各画素の輝度値の差分を示している。図15で示される各画素の輝度値の差分に対して、“8776”が輝度差分の総和として得られる。情報記憶部16は、調整量“+2”と輝度差分の総和“8776”とを対応付けて記憶する。
最適調整量決定部17は、情報記憶部16に記憶されている、調整量と輝度差分の総和との組み合わせのなかから、輝度差分の総和が最も小さい調整量を判定する。いま情報記憶部16には、調整量“0”と輝度差分の総和“6616”の対、調整量“−2”と輝度差分の総和“9416”の対、調整量“−1”と輝度差分の総和“4832”の対、調整量“+1”と輝度差分の総和“5728”の対、および、調整量“+2”と輝度差分の総和“8776”の対が、記憶されている。最適調整量決定部17は、それらのなかから、輝度差分の総和が最小である“4832”に対応する調整量“−1”を最適調整量と決定し、最適調整量情報として、視差量調整部18に供給する。
視差量調整部18は、入力左眼用2次元画像および入力右眼用2次元画像に対して、最適調整量情報としての調整量“−1”を調整することにより、輝度差分の総和が最も小さい左眼用2次元画像および右眼用2次元画像を生成する。
次に、第2の視差量調整処理について説明する。
図11乃至図15に示した各画素の輝度値の差分が、差分演算部14によって得られるまでは、上述した第1の視差量調整処理と同様である。
閾値記憶部31には、画素数計測部32において画素数の計測に使用される閾値THとして、“96”が記憶されているものとする。この閾値THとしての“96”は、画素数計測部32により読み出される。
そして、画素数計測部32は、図11に示される調整量“0”における各画素の輝度値の差分に対して、閾値TH=“96”以上である画素数を計測する。その結果、画素数として、“31”が得られる。
調整量が“−2”である場合、図12に示される調整量“−2”における各画素の輝度値の差分に対して、閾値TH=“96”以上である画素数が計測され、画素数として、“47”が得られる。
調整量が“−1”である場合、図13に示される調整量“−1”における各画素の輝度値の差分に対して、閾値TH=“96”以上である画素数が計測され、画素数として、“24”が得られる。
調整量が“+1”である場合、図14に示される調整量“+1”における各画素の輝度値の差分に対して、閾値TH=“96”以上である画素数が計測され、画素数として、“30”が得られる。
調整量が“+2”である場合、図15に示される調整量“+2”における各画素の輝度値の差分に対して、閾値TH=“96”以上である画素数が計測され、画素数として、“44”が得られる。
その結果、情報記憶部16Aには、調整量“0”と画素数“31”の対、調整量“−2”と画素数“47”の対、調整量“−1”と画素数“24”の対、調整量“+1”と画素数“30”の対、および、調整量“+2”と画素数“44”の対が記憶される。最適調整量決定部17Aは、それらのなかから、画素数が最小である“24”に対応する調整量“−1”を最適調整量と決定し、最適調整量情報として、視差量調整部18に供給する。
視差量調整部18は、入力左眼用2次元画像および入力右眼用2次元画像に対して、最適調整量情報としての調整量“−1”を調整することにより、画素数が最小である左眼用2次元画像および右眼用2次元画像を生成する。
<3.第3の実施の形態>
次に、画像処理装置の第3の実施の形態について説明する。
第3の実施の形態では、第1の視差量調整処理を行う画像処理装置が、立体画像のデータフォーマットの変換機能を備える。即ち、画像処理装置は、左眼用2次元画像と右眼用2次元画像とからなる第1の立体画像のデータフォーマットと、それと異なる第2の立体画像のデータフォーマットとの間でデータフォーマットを変換できる。これにより、様々なフォーマットの立体画像データの入出力に対応できる。
[画像処理装置の構成例]
図16は、本発明を適用した画像処理装置の第3の実施の形態の構成例を示している。
図16の画像処理装置1は、図6と同様の構成に加えて、画像入力部51、画像フォーマット識別変換部52、画像フォーマット変換部53、および画像出力部54を有している。図6と同様の構成の部分についての説明は省略する。
上述した第1の実施の形態では、左眼用2次元画像と右眼用2次元画像が入力されたが、画像入力部51には、様々なフォーマットによる立体画像のデータ(立体画像データ)が入力される。
例えば、画像入力部51に入力される立体画像のフォーマットとしては、上述した左眼用2次元画像と右眼用2次元画像から構成される形式がある。また、その他の立体画像のフォーマットとして、基準となる左眼用2次元画像または右眼用2次元画像いずれか一方の画像と、その差分で表される他方の画像とで構成される形式、2次元画像とその奥行き情報とで構成される形式、などがある。
画像入力部51は、入力された立体画像データを画像フォーマット識別変換部52に供給する。
画像フォーマット識別変換部52は、画像入力部51から供給される立体画像データの形式を識別する。そして、画像フォーマット識別変換部52は、立体画像データの形式が左眼用2次元画像と右眼用2次元画像から構成される形式でない場合には、左眼用2次元画像と右眼用2次元画像から構成される形式に変換し、2次元画像取得部11に供給する。
画像フォーマット変換部53には、視差量調整部18から、視差量調整後の左眼用2次元画像と右眼用2次元画像が供給される。画像フォーマット変換部53は、供給された左眼用2次元画像と右眼用2次元画像から構成される形式の立体画像のデータを、出力に適した形式に変換し、画像出力部54に供給する。変換後の立体画像データの形式は、例えば、操作部によって操作者が設定することにより決定される。また例えば、画像出力部54が、HDMI(商標)等により接続されている場合には、画像フォーマット変換部53は、HDMI信号に含まれる制御情報から、接続されている後段の装置が入力可能な形式を取得してもよい。立体画像データの形式を変換する必要がない場合には、画像フォーマット変換部53は、視差量調整後の左眼用2次元画像と右眼用2次元画像(のデータ)をそのまま画像出力部54に供給する。
画像出力部54は、画像フォーマット変換部53から供給される立体画像データを、表示装置などの後段の装置に出力する。
図16の画像処理装置1によれば、様々なフォーマットの立体画像データを入力することができ、入力された立体画像データが左眼用2次元画像と右眼用2次元画像から構成される形式に変換される。次に、輝度差分の総和が最小となるように視差量が調整され、調整された左眼用2次元画像および右眼用2次元画像が生成される。そして、後段の装置に適した形式の立体画像データに、生成された左眼用2次元画像および右眼用2次元画像が変換されて出力される。
従って、様々なフォーマットの立体画像データの入出力に対応することができ、かつ、クロストークをより低減した立体画像を表示させることができる。
<4.第4の実施の形態>
次に、画像処理装置の第4の実施の形態について説明する。
画像処理装置の第4の実施の形態は、第2の視差量調整処理を行う画像処理装置が、立体画像のデータフォーマットの変換機能を備えるものである。
[画像処理装置の構成例]
図17は、本発明を適用した画像処理装置の第4の実施の形態の構成例を示している。
図17の画像処理装置1は、図8と同様の構成に加えて、図16に示した画像入力部51、画像フォーマット識別変換部52、画像フォーマット変換部53、および画像出力部54を有している。
図17の画像処理装置1の各構成は、図8の対応するブロックまたは図16の対応するブロックと同様であるので、説明は省略する。
図17の画像処理装置1によれば、様々なフォーマットの立体画像データを入力することができ、入力された立体画像データが左眼用2次元画像と右眼用2次元画像から構成される形式に変換される。次に、閾値TH以上の画素数が最小となるように視差量が調整され、調整された左眼用2次元画像および右眼用2次元画像が生成される。そして、後段の装置に適した形式の立体画像データに変換されて出力される。
従って、様々なフォーマットの立体画像データの入出力に対応することができ、かつ、クロストークをより低減した立体画像を表示させることができる。
<5.第5の実施の形態>
次に、画像処理装置の第5の実施の形態について説明する。
[画像処理装置の構成例]
図18は、本発明を適用した画像処理装置の第5の実施の形態の構成例を示している。
上述した第1の実施の形態では、画像処理装置1は、左眼用2次元画像と右眼用2次元画像の全画素の輝度差分の総和を演算し、輝度差分の総和が最小となる調整量を最適調整量と決定した。
これに対して、第5の実施の形態では、入力された左眼用2次元画像と右眼用2次元画像を複数の領域に分割し、分割された領域ごとに、輝度差分の総和が演算される。そして、分割された領域ごとに、輝度差分の総和を最小とする調整量が最適調整量として決定される。これにより、各領域の持つ特性を考慮して、最適な視差量を決定できるようになる。
図18の画像処理装置1は、差分演算部14として、分割設定部61、領域分割部62、および領域別差分演算部63を有している点が、図6の画像処理装置1と相違する。また、図18では、図6の総和演算部15、情報記憶部16、および最適調整量決定部17が、図18の差分演算部14の構成に対応する総和演算部15B、情報記憶部16B、および最適調整量決定部17Bとなっている。それ以外は、図6の画像処理装置1と同様である。図6の画像処理装置1と同様の部分についての説明は、適宜省略する。
分割設定部61は、入力された左眼用2次元画像と右眼用2次元画像の分割数を設定する。例えば、分割設定部61は、画像の垂直方向と水平方向それぞれの分割数を領域分割部62に供給することにより、分割数を設定する。
領域分割部62は、左眼用2次元画像と右眼用2次元画像の全領域を、分割設定部61により設定された分割数で分割する。また、領域分割部62は、調整量情報で特定される所定の調整量を用いて、左眼用2次元画像と右眼用2次元画像の視差量を変更する。
領域別差分演算部63は、分割された領域ごとに、左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分(の絶対値)を演算する。そして、差分演算部14は、領域ごとの各画素の輝度値の差分を総和演算部15Bに供給する。
総和演算部15Bは、分割された領域ごとに、輝度値の差分の全画素についての総和を演算する。領域ごとの輝度差分の総和は、輝度差総和情報として、情報記憶部16Bに供給される。情報記憶部16Bは、調整量情報が表す所定の調整量と、輝度差総和情報が表す領域ごとの輝度差分の総和とを対応付けて記憶する。その結果、情報記憶部16Bは、調整範囲と調整間隔に基づいて設定される全ての調整量について、調整量と領域ごとの輝度差分の総和とを対応付けて記憶する。
最適調整量決定部17Bは、情報記憶部16Bに記憶されている、調整量と領域ごとの輝度差分の総和との組み合わせに基づいて、最適調整量を決定する。
ここで、最適調整量をどのように決定するかが問題となる。即ち、分割された各領域では、輝度差分の総和が最小となる調整量が最適調整量であるということができる。しかしながら、各領域で輝度差分の総和が最小となる調整量を最適調整量として決定し、領域ごとに最適調整量が異なる場合には、調整後の左眼用2次元画像および右眼用2次元画像が破綻してしまうからである。
そこで、最適調整量決定部17Bは、所定の判定基準により、全ての領域に対して共通の調整量を、最適調整量として決定する。
例えば、最適調整量決定部17Bは、輝度差分の総和が最小となる領域数が最も多い調整量を、最適調整量として決定する。この判定基準を第1の判定基準とする。第1の判定基準による最適調整量の決定については、図22乃至図28を参照して、後述する。
また、最適調整量決定部17Bは、輝度差分の総和の分散が最小となる調整量を、最適調整量として決定する。この判定基準を第2の判定基準とする。
輝度差分の総和が極端に大きい領域があると、その部分がクロストークとして知覚されやすくなるという側面がある。そのため、第2の判定基準は、輝度差分の総和が極端に大きい領域がない調整量を最適調整量として決定する方法である。
また、最適調整量決定部17Bは、画像の注視領域を考慮して最適調整量を決定する。この判定基準を第3の判定基準とする。具体的には、9分割された領域のうち、例えば、画像内の右側の領域の最適調整量が“−10”であり、画像内の左側の領域の最適調整量が“+10”であるとする。そして、最適調整量決定部17Bは、画像内の右側の領域に注視する物体があるなど、鑑賞者が画像内の右側の領域を注視するような状況においては右側の最適調整量“−10”を画像全体としての最適調整量に決定する。また、左側の領域を注視するような状況においては、左側の最適調整量“+10”を画像全体としての最適調整量に決定する。
なお、勿論、最適調整量決定部17Bは、上述した第1乃至第3の判定基準以外の決定方法により、最適調整量を決定してもよい。
[図18の画像処理装置1による視差量調整処理]
次に、図19のフローチャートを参照して、図18の画像処理装置1により実行される、領域分割をした第1の視差量調整処理について説明する。
図19のステップS51乃至S53は、上述した図7のステップS1乃至S3とそれぞれ同様であるので、その説明は省略する。
ステップS54において、分割設定部61は、入力された左眼用2次元画像と右眼用2次元画像の分割数を設定する。領域分割部62は、左眼用2次元画像と右眼用2次元画像の全領域を、分割設定部61により設定された分割数で分割する。
ステップS55において、調整量設定部13は、取得した調整範囲と調整間隔に基づいて所定の調整量を設定し、設定した調整量を、調整量情報として差分演算部14および情報記憶部16Bに供給する。差分演算部14の領域分割部62は、調整量情報で特定される所定の調整量を用いて、左眼用2次元画像と右眼用2次元画像の視差量を変更する。
ステップS56において、領域別差分演算部63は、分割された領域のなかで、輝度差分の演算を行う対象として注目する領域(以下、注目領域という)を設定する。
ステップS57において、領域別差分演算部63は、注目領域に対し、調整後の視差量における左眼用2次元画像と右眼用2次元画像の輝度値の差分(の絶対値)を演算し、その演算結果を総和演算部15Bに供給する。
ステップS58において、総和演算部15Bは、注目領域に対し、調整後の視差量における輝度差分の総和を演算する。演算結果は、総和演算部15Bから、注目領域の輝度差総和情報として情報記憶部16Bに供給される。
ステップS59において、情報記憶部16Bは、調整量情報が表す所定の調整量と、輝度差総和情報が表す注目領域の輝度差分の総和を対応付けて記憶する。
ステップS60において、領域別差分演算部63は、分割された領域の全ての領域について輝度差分の総和を求めたかを判定する。ステップS60で、全ての領域について輝度差分の総和を求めていないと判定された場合、処理はステップS56に戻り、ステップS56乃至ステップS60の処理が繰り返される。即ち、まだ輝度差分の総和を求めていない領域が注目領域に設定され、所定の調整量における輝度差分の総和が演算される。
一方、ステップS60で、全ての領域について輝度差分の総和が求められたと判定された場合、処理はステップS61に進む。
ステップS61において、調整量設定部13は、全ての調整量について輝度差分の総和を求めたかを判定する。ステップS61で、全ての調整量について輝度差分の総和を求めていないと判定された場合、処理はステップS55に戻り、ステップS55乃至ステップS61の処理が繰り返される。即ち、まだ設定されていない調整量が調整量情報として差分演算部14と情報記憶部16Bに供給され、所定の調整量における領域ごとの輝度差分の総和が演算される。
一方、ステップS61で、全ての調整量について輝度差分の総和が求められたと判定された場合、処理はステップS62に進む。
ステップS62において、最適調整量決定部17Bは、所定の判定基準により、最適調整量を決定する。例えば、最適調整量決定部17Bは、第1の判定基準を採用した場合には、輝度差分の総和が最小となる領域数が最も多い調整量を、最適調整量として決定する。また例えば、最適調整量決定部17Bは、第2の判定基準を採用した場合には、輝度差分の総和の分散が最小となる調整量を、最適調整量として決定する。
ステップS63において、最適調整量決定部17Bは、決定された最適調整量を最適調整量情報として、視差量調整部18に供給する。
ステップS64において、視差量調整部18は、供給された最適調整量情報に基づいて、入力左眼用2次元画像および入力右眼用2次元画像を調整し、調整後の左眼用2次元画像および右眼用2次元画像を出力して、処理を終了する。
以上のように、分割した領域ごとの輝度差分の総和に基づいて最適な調整量を判定することにより、入力された左眼用2次元画像および右眼用2次元画像全体に最適な調整量を決定できる。
<6.第6の実施の形態>
図19の処理は、図7を参照して説明した第1の視差量調整処理を、分割した領域ごとに行うようにした例であったが、図9を参照して説明した第2の視差量調整処理においても、分割した領域ごとに行うようにできる。
分割した領域ごとに、第2の視差量調整処理を行うようにする場合には、図6の画像処理装置1から図18の画像処理装置1への構成の変更と同様の変更を、図8の画像処理装置1に対して行えば良い。即ち、図8の画像処理装置1の差分演算部14が、分割設定部61、領域分割部62、および領域別差分演算部63を有し、それに対応する画素数計測部32、情報記憶部16B、および最適調整量決定部17Bも備える。
図20は、分割した領域ごとに第2の視差量調整処理を行うようにした場合の処理を示すフローチャートである。
図20のステップS71乃至S77は、上述した図19のステップS51乃至S57と、それぞれ同様であるので、その説明は省略する。
ステップS78において、画素数計測部32は、閾値記憶部31に記憶されている閾値THを読み出す。そして、画素数計測部32は、ステップS79において、注目領域に対し、輝度値の差分と閾値THを画素ごとに比較し、輝度値の差分が閾値TH以上である画素数を計測する。
ステップS80において、情報記憶部16Bは、調整量設定部13からの調整量情報が表す調整量と、画素数計測部32からの画素数カウント情報が表す注目領域の画素数を対応付けて記憶する。
ステップS81において、領域別差分演算部63は、分割された領域の全ての領域について閾値TH以上の画素数を求めたかを判定する。ステップS81で、全ての領域について閾値TH以上の画素数を求めていないと判定された場合、処理はステップS76に戻り、ステップS76乃至ステップS81の処理が繰り返される。即ち、まだ閾値TH以上の画素数を求めていない領域が注目領域に設定され、所定の調整量における画素数が演算される。
一方、ステップS81で、全ての領域について閾値TH以上の画素数が求められたと判定された場合、処理はステップS82に進む。
ステップS82において、調整量設定部13は、調整範囲と調整間隔に基づいて特定される全ての調整量について、閾値TH以上の画素数を求めたかを判定する。ステップS82で、全ての調整量について閾値TH以上の画素数を求めていないと判定された場合、処理はステップS75に戻り、ステップS75乃至ステップS82の処理が繰り返される。即ち、まだ設定されていない調整量が調整量情報として差分演算部14と情報記憶部16Bに供給され、所定の調整量における閾値TH以上の画素数が演算される。
一方、ステップS82で、全ての調整量について閾値TH以上の画素数が求められたと判定された場合、処理はステップS83に進む。
ステップS83において、最適調整量決定部17Bは、所定の判定基準により、最適調整量を決定する。例えば、最適調整量決定部17Bは、第1の判定基準を採用した場合には、閾値TH以上の画素数が最小となる領域数が最も多い調整量を、最適調整量として決定する。
ステップS84において、最適調整量決定部17Bは、決定された最適調整量を最適調整量情報として、視差量調整部18に供給する。
ステップS85において、視差量調整部18は、供給された最適調整量情報に基づいて、入力左眼用2次元画像および入力右眼用2次元画像を調整し、調整後の左眼用2次元画像および右眼用2次元画像を出力して、処理を終了する。
以上のように、分割した領域ごとの閾値TH以上の画素数に基づいて最適な調整量を判定することにより、入力された左眼用2次元画像および右眼用2次元画像全体に最適な調整量を決定できる。
[領域分割した第1の視差調整処理と第2の視差調整処理の数値例]
次に、図21乃至図28を参照して、領域分割した第1の視差量調整処理と、領域分割した第2の視差量調整処理についてさらに説明する。なお、この例では、判定基準として、第1の判定基準が採用されている。
分割設定部61は、横方向と縦方向に18画素×9画素の162画素の画素数を有する左眼用2次元画像および右眼用2次元画像を、垂直方向および水平方向それぞれに3分割する。その結果、図21に示されるように、左眼用2次元画像および右眼用2次元画像は、領域R11、領域R12、領域R13、領域R21、領域R22、領域R23、領域R31、領域R32、および領域R33に9分割される。
図22Aは、図10Aに対応する9分割の例である。即ち、図22Aは、領域R11乃至領域R33に9分割した図10Aの左眼用2次元画像を示している。
図22Bは、図10Bに対応する9分割の例である。即ち、図22Bは、領域R11乃至領域R33に9分割した図10Bの右眼用2次元画像を示している。
図23は、図11に対応する9分割の例である。即ち、図23は、調整量“0”として求めた図10Aの左眼用2次元画像と図10Bの右眼用2次元画像の各画素の輝度値の差分が9分割された例である。
図24は、図23に示した調整量“0”における領域R11乃至領域R33の各画素の輝度値の差分に対し、各領域内の輝度差分の総和および閾値TH以上の画素数を演算した演算結果を示している。なお、閾値THは、上述した例と同様の“96”である。
図24において、第1の視差量調整処理で計算される領域内の画素の輝度差分の総和の演算結果と、第2の視差量調整処理で計算される領域内の閾値TH=“96”以上の画素数が、各領域内の上段と下段に示されている。すなわち、領域R11乃至領域R33それぞれの上段は、第1の視差量調整処理で計算される輝度差分の総和であり、下段は、第2の視差量調整処理で計算される閾値TH以上の画素数である。
図25は、図12に示した調整量“−2”における各画素の輝度値の差分に対して、領域R11乃至領域R33に分割し、各領域内の輝度差分の総和および閾値TH以上の画素数を演算した演算結果を示している。
図26は、図13に示した調整量“−1”における各画素の輝度値の差分に対して、領域R11乃至領域R33に分割し、各領域内の輝度差分の総和および閾値TH以上の画素数を演算した演算結果を示している。
図27は、図14に示した調整量“+1”における各画素の輝度値の差分に対して、領域R11乃至領域R33に分割し、各領域内の輝度差分の総和および閾値TH以上の画素数を演算した演算結果を示している。
図28は、図15に示した調整量“+2”における各画素の輝度値の差分に対して、領域R11乃至領域R33に分割し、各領域内の輝度差分の総和および閾値TH以上の画素数を演算した演算結果を示している。
領域分割した第1の視差量調整処理では、図24乃至図28の各領域の上段に示される、輝度差分の総和が、調整量と対応付けられて、情報記憶部16Bに記憶される。
一方、領域分割した第2の視差量調整処理では、図24乃至図28の各領域の下段に示される、閾値TH以上の画素数が、調整量と対応付けられて、情報記憶部16Bに記憶される。
このような演算結果に対して、最適調整量決定部17Bが、第1の判定基準により、最適調整量を決定する。
領域分割した第1の視差量調整処理における最適調整量の決定では、最適調整量決定部17Bは、輝度差分の総和が最小となる領域数が最も多い調整量を、最適調整量として決定する。
図24乃至図28において、各領域の上段に示される輝度差分の総和のうち、5つの調整量のなかで輝度差分の総和が最小である調整量の領域には、灰色の影が付されている。
即ち、図26に示される調整量“−1”が、領域R11、領域R12、領域R13、領域R21、および領域R31については、5つの調整量のなかで、輝度差分の総和が最小である。図27に示される調整量“+1”が、領域R22、領域R32、および領域R33については、5つの調整量のなかで、輝度差分の総和が最小である。図24に示される調整量“0”が、領域R23については、5つの調整量のなかで、輝度差分の総和が最小である。
そうすると、5つの調整量のなかで、輝度差分の総和が最小である領域を最も多く有する調整量は、5つの領域を有する図26の調整量“−1”である。従って、最適調整量として調整量“−1”が、最適調整量決定部17Bにより決定される。
一方、領域分割した第2の視差量調整処理における最適調整量の決定では、最適調整量決定部17Bは、閾値TH以上の画素数が最小となる領域数が最も多い調整量を、最適調整量として決定する。
図24乃至図28において、各領域の下段に示される閾値TH以上の画素数のうち、5つの調整量のなかで閾値TH以上の画素数が最小である調整量の領域には、灰色の影が付されている。
即ち、図26に示される調整量“−1”が、領域R11、領域R12、領域R13、領域R21、および領域R31については、5つの調整量のなかで、画素数が最小である。図27に示される調整量“+1”が、領域R32および領域R33については、5つの調整量のなかで、画素数が最小である。図24に示される調整量“0”が、領域R22および領域R23については、5つの調整量のなかで、画素数が最小である。
そうすると、5つの調整量のなかで、画素数が最小である領域を最も多く有する調整量は、5つの領域を有する調整量“−1”である。従って、最適調整量として調整量“−1”が、最適調整量決定部17Bにより決定される。
なお、分割された領域のなかで、鑑賞者が注視する注視領域がある場合には、例えば、各領域の注視する度合いに応じた重み係数を、輝度差分の総和または画素数に乗算してもよい。重み付けされた輝度差分の総和または画素数を用いて、輝度差分の総和または画素数が最小である領域を決定することにより、上述した第3の判定基準のように、鑑賞者が注視する領域の調整量を優先できる。
以上のように、分割した領域ごとの輝度差分の総和、または、輝度値の差分が閾値TH以上の画素数に基づいて最適な調整量を判定することにより、入力された左眼用2次元画像および右眼用2次元画像全体に最適な調整量を決定できる。これにより、各領域の持つ特性や鑑賞者の状況を考慮して、クロストークをより低減した立体画像を表示させることができる。
<7.第7の実施の形態>
次に、画像処理装置の第7の実施の形態について説明する。
[画像処理装置の構成例]
図29は、本発明を適用した画像処理装置の第7の実施の形態の構成例を示している。
図29の画像処理装置1は、図16と図18の重複しない各構成の全てを有し、さらに制御部81を有している。ここで、情報記憶部16Cは、第1の実施の形態における情報記憶部16と、第2の実施の形態における情報記憶部16Aの両方の機能を有するものである。同様に、最適調整量決定部17Cは、第1の実施の形態における最適調整量決定部17と、第2の実施の形態における最適調整量決定部17Aの両方の機能を有するものである。
図29の画像処理装置1は、第1の視差量調整処理と第2の視差量調整処理が選択的に実行可能である。
即ち、制御部81は、第1の視差量調整処理と第2の視差量調整処理のいずれを実行するかを決定し、その決定に応じて各部を制御する。
差分演算部14は、演算された輝度値の差分(の絶対値)を総和演算部15と画素数計測部32に供給する。
制御部81により、第1の視差量調整処理が実行されることが選択された場合には、総和演算部15が、差分演算部14から供給される、所定の調整量における各画素の輝度値の差分に基づいて、輝度差分の総和を演算する。そして、総和演算部15は、その演算結果を、輝度差総和情報として情報記憶部16Cに供給する。
一方、制御部81により、第2の視差量調整処理が実行されることが選択された場合には、画素数計測部32が、差分演算部14から供給される、所定の調整量における各画素の輝度値の差分に基づいて、輝度値の差分が閾値TH以上である画素数を計測する。そして、画素数計測部32は、計測された画素数を、画素数カウント情報として情報記憶部16Cに供給する。
情報記憶部16Cは、第1の視差量調整処理においては調整量と輝度差分の総和とを対応付けて記憶するとともに、第2の視差量調整処理においては調整量と画素数を対応付けて記憶する。
最適調整量決定部17Cは、第1の視差量調整処理においては輝度差分の総和が最も小さい調整量を最適調整量として決定するとともに、第2の視差量調整処理においては画素数が最小となる調整量を最適調整量として決定する。
なお、制御部81は、第1の視差量調整処理と第2の視差量調整処理の両方を実行させ、いずれか一方の最適調整量を選択するようにしてもよい。
また、制御部81は、第1の視差量調整処理を実行するか、または、第2の視差量調整処理を実行するかを選択する他、入力される立体画像の仕様によって、最適調整量を変更する制御を行うことができる。ここで、立体画像の仕様とは、具体的には、“自然画”、“コンピュータグラフィックス”、“アニメーション”、“映画”などで分類される「立体画像の種類」や、空間周波数の分布、色や輝度の分布、背景とオブジェクトのコントラスト等の「立体画像が有する特性」などを表す。
例えば、入力される立体画像の種類が、鑑賞者にインパクトを与える映像を提示したい“映画”である場合、制御部81は、多少クロストークが知覚されても立体画像としてのインパクトを与えることを重要視した設定にできる。即ち、制御部81は、決定された最適調整量より画像全体で視差量が大きくなるように、視差量調整部18に最適調整量を変更させることができる。
また例えば、入力される立体画像が、背景とオブジェクトの隣接部分においてコントラストが小さいという特性を有している場合には、その隣接部分でクロストークが知覚されにくくなる。このような場合、制御部81は、決定された最適調整量より画像全体で視差量が大きくなるように、視差量調整部18に最適調整量を変更させることができる。このように、図29の画像処理装置1では、立体画像の仕様に応じた、3次元画像としての効果の強調を行うことができる。
さらに、制御部81は、画像出力部54の出力先である表示装置の仕様によっても、最適調整量を変更する制御を行うことができる。ここで、表示装置の仕様とは、具体的には、表示装置が表示可能な輝度値若しくはコントラスト比、表示デバイス仕様などを表す。
例えば、制御部81は、画像出力部54の出力先である表示装置の仕様として、コントラスト比を取得可能であるとする。一般に、輝度の高い領域と輝度の低い領域が隣接しているとクロストークが知覚されやすくなる。そこで、制御部81は、取得された表示装置のコントラスト比が所定の値以下である場合には、クロストークが知覚されにくくなるとして、鑑賞者に3次元画像のインパクトを与えることを重要視した設定にできる。即ち、制御部81は、決定された最適調整量より画像全体で視差量が大きくなるように、視差量調整部18に最適調整量を変更させることができる。
例えば、接続される表示装置として、コントラスト比が3,000:1の液晶ディスプレイと、コントラスト比が1,000,000:1の有機ELディスプレイがあるとする。
制御部81は、表示装置として有機ELディスプレイが接続され、高いコントラスト比が取得された場合には、第1または第2の視差量調整処理によって決定された最適調整量による左眼用2次元画像および右眼用2次元画像を生成する。一方、液晶ディスプレイが接続された場合には、制御部81は、決定された最適調整量より画像全体で視差量が大きくなるように、視差量調整部18に最適調整量を変更させる。このように、図29の画像処理装置1では、表示装置の仕様に応じた、3次元画像としての効果の強調を行うことができる。
以上のように、図29の画像処理装置1では、クロストークを抑制した最適調整量による立体画像を表示させることができるとともに、立体画像の仕様や表示装置の仕様に応じて、3次元画像としての効果を強調させる立体画像を表示させることもできる。なお、立体画像の仕様や表示装置の仕様は、鑑賞者に入力させても良いし、制御情報として表示装置自身から取得してもよい。
以上説明した第1乃至第7の実施の形態による画像処理装置1によれば、視差量調整後の左眼用2次元画像と右眼用2次元画像の対応する画素の輝度値の差分を用いた演算量(輝度差分の総和または閾値TH以上の画素数)が算出される。そして、その演算量が最小となる調整量を判定することにより、最適調整量が決定され、入力された左眼用2次元画像と右眼用2次元画像の視差量が調整される。これにより、クロストークをより低減した立体画像を表示できる。また、鑑賞者自身が、クロストーク低減のため、視差量を調整するような操作を行う必要がないので、ユーザの操作性が改善される。
<8.第8の実施の形態>
上述した例では、画像処理装置1が、クロストークを低減した立体画像データを生成し、後段に接続される表示装置等に出力する例について説明したが、画像処理装置1は、表示装置の一部として組み込まれていてもよい。
図30は、上述した第7の実施の形態の画像処理装置1が組み込まれた表示装置の構成例を示している。
図30の立体画像表示装置91は、図29の画像処理装置1の構成に加えて、表示部92を有している。
表示部92は、例えば、有機ELパネル、液晶パネルなどにより構成され、画像出力部54から供給される立体画像データに基づいて、左眼用2次元画像と右眼用2次元画像を表示する。
これにより、立体画像表示装置91は、クロストークをより低減した立体画像を表示できる。
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
図31は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)101,ROM(Read Only Memory)102,RAM(Random Access Memory)103は、バス104により相互に接続されている。
バス104には、さらに、入出力インタフェース105が接続されている。入出力インタフェース105には、入力部106、出力部107、記憶部108、通信部109、及びドライブ110が接続されている。
入力部106は、キーボード、マウス、マイクロホンなどよりなる。出力部107は、ディスプレイ、スピーカなどよりなる。記憶部108は、ハードディスクや不揮発性のメモリなどよりなる。通信部109は、ネットワークインタフェースなどよりなる。ドライブ110は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア111を駆動する。
以上のように構成されるコンピュータでは、CPU101が、例えば、記憶部108に記憶されているプログラムを、入出力インタフェース105及びバス104を介して、RAM103にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU101)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア111に記録して提供できる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供できる。
コンピュータでは、プログラムは、リムーバブルメディア111をドライブ110に装着することにより、入出力インタフェース105を介して、記憶部108にインストールできる。また、プログラムは、有線または無線の伝送媒体を介して、通信部109で受信し、記憶部108にインストールできる。その他、プログラムは、ROM102や記憶部108に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
1 画像処理装置, 12 輝度値演算部, 13 調整量設定部, 14 差分演算部, 15 総和演算部, 17,17A乃至17C 最適調整量決定部, 18 視差量調整部, 32 画素数計測部, 52 画像フォーマット識別部, 53 画像フォーマット変換部, 61 分割設定部, 62 領域分割部, 63 領域別差分演算部, 81 制御部, 91 立体画像表示装置, 92 表示部, 101 CPU, 102 ROM, 103 RAM, 108 記憶部

Claims (16)

  1. 左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を設定する調整量設定手段と、
    前記調整量設定手段により設定された調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する差分演算手段と、
    前記輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量を決定する最小値判定手段と、
    前記最小値判定手段により決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する視差量調整手段と
    を備え、
    前記輝度値の差分を用いた演算量は、前記輝度値の差分の総和または分散であり、
    前記最小値判定手段は、
    前記輝度値の差分の総和または分散を演算する総和演算手段と、
    前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を前記最適調整量として決定する最適調整量決定手段と
    を備える
    画像処理装置。
  2. 前記左眼用2次元画像と右眼用2次元画像を複数の領域に分割する領域分割手段を更に備え、
    前記最小値判定手段は、分割された領域ごとに前記輝度値の差分の総和または分散が最小となる調整量を判定することにより、最適調整量を決定する
    請求項に記載の画像処理装置。
  3. 前記最小値判定手段は、分割された領域ごとに前記輝度値の差分の総和または分散が最小となる調整量を判定し、さらに、前記輝度値の差分の総和または分散が最小となる領域数が最も多い調整量を最適調整量として決定する
    請求項に記載の画像処理装置。
  4. 前記最小値判定手段は、分割された領域に対して、各領域の注視する度合いに応じた重み係数を前記輝度値の差分の総和または分散に乗算し、乗算後の前記輝度値の差分の総和または分散が最小となる領域数が最も多い調整量を最適調整量として決定する
    請求項に記載の画像処理装置。
  5. 左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を設定する調整量設定手段と、
    前記調整量設定手段により設定された調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する差分演算手段と、
    前記輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量を決定する最小値判定手段と、
    前記最小値判定手段により決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する視差量調整手段と
    を備え、
    前記輝度値の差分を用いた演算量は、前記輝度値の差分が所定の閾値以上である画素数であり、
    前記最小値判定手段は、
    前記輝度値の差分が所定の閾値以上である画素数を計測する画素数計測手段と、
    前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定する最適調整量決定手段と
    を備える
    画像処理装置
  6. 前記左眼用2次元画像と右眼用2次元画像を複数の領域に分割する領域分割手段を更に備え、
    前記最小値判定手段は、分割された領域ごとに前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を判定することにより、最適調整量を決定する
    請求項に記載の画像処理装置。
  7. 前記最小値判定手段は、分割された領域ごとに前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を判定し、さらに、前記輝度値の差分が所定の閾値以上である画素数が最小となる領域数が最も多い調整量を最適調整量として決定する
    請求項に記載の画像処理装置。
  8. 前記最小値判定手段は、分割された領域に対して、各領域の注視する度合いに応じた重み係数を前記輝度値の差分が所定の閾値以上である画素数に乗算し、乗算後の前記輝度値の差分が所定の閾値以上である画素数が最小となる領域数が最も多い調整量を最適調整量として決定する
    請求項に記載の画像処理装置。
  9. 左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を設定する調整量設定手段と、
    前記調整量設定手段により設定された調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算する差分演算手段と、
    前記輝度値の差分を用いた演算量が最小となる調整量を判定することにより、最適調整量を決定する最小値判定手段と、
    前記最小値判定手段により決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する視差量調整手段と
    を備え、
    前記最小値判定手段は、
    前記輝度値の差分を用いた演算量として、前記輝度値の差分の総和または分散を演算する総和演算手段と、
    前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を前記最適調整量として決定する第1の最適調整量決定手段と
    前記輝度値の差分を用いた演算量として、前記輝度値の差分が所定の閾値以上である画素数を計測する画素数計測手段と、
    前記調整量設定手段により設定された複数の調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定する第2の最適調整量決定手段と
    前記第1の最適調整量決定手段による第1の視差量調整処理か、または、前記第2の最適調整量決定手段による第2の視差量調整処理のいずれか一方を選択して実行させる制御手段と
    を備える
    画像処理装置
  10. 前記左眼用2次元画像と右眼用2次元画像とからなる第1の立体画像のデータフォーマットと、前記第1の立体画像のデータフォーマットと異なる第2の立体画像のデータフォーマットとの間でデータフォーマットを変換する変換手段をさらに備える
    請求項1ないし9のいずれかに記載の画像処理装置。
  11. 前記左眼用2次元画像と右眼用2次元画像を表示する表示装置の仕様、または、立体画像としての前記左眼用2次元画像と右眼用2次元画像の仕様に応じて、前記最小値判定手段により決定された前記最適調整量を変更する変更手段をさらに備える
    請求項1ないし10のいずれかに記載の画像処理装置。
  12. 前記視差量調整手段により視差量が調整された前記左眼用2次元画像と右眼用2次元画像を表示する表示手段をさらに備える
    請求項1ないし11のいずれかに記載の画像処理装置。
  13. 左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、
    設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分の総和または分散を演算し、
    設定された複数の前記調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を最適調整量として決定し、
    決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する
    ステップを含む画像処理方法。
  14. コンピュータに、
    左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、
    設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分の総和または分散を演算し、
    設定された複数の前記調整量のうち、前記輝度値の差分の総和または分散が最小となる調整量を最適調整量として決定し、
    決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する
    処理を実行させるプログラム。
  15. 左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、
    設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算し、
    前記輝度値の差分が所定の閾値以上である画素数を計測し、
    設定された複数の前記調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定し、
    決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する
    ステップを含む画像処理方法。
  16. コンピュータに、
    左眼用2次元画像と右眼用2次元画像に対して視差量の調整量を複数設定し、
    設定された前記調整量により視差量を変更した前記左眼用2次元画像と右眼用2次元画像の対応する画素どうしの輝度値の差分を演算し、
    前記輝度値の差分が所定の閾値以上である画素数を計測し、
    設定された複数の前記調整量のうち、前記輝度値の差分が所定の閾値以上である画素数が最小となる調整量を前記最適調整量として決定し、
    決定された前記最適調整量に基づいて、前記左眼用2次元画像と右眼用2次元画像の視差量を調整する
    処理を実行させるプログラム。
JP2009045284A 2009-02-27 2009-02-27 画像処理装置、画像処理方法、およびプログラム Expired - Fee Related JP5327524B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2009045284A JP5327524B2 (ja) 2009-02-27 2009-02-27 画像処理装置、画像処理方法、およびプログラム
CN2010101212574A CN101820552B (zh) 2009-02-27 2010-02-11 图像处理设备、图像处理方法和三维图像显示设备
US12/708,707 US20100220178A1 (en) 2009-02-27 2010-02-19 Image processing apparatus, image processing method, program, and three-dimensional image display apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009045284A JP5327524B2 (ja) 2009-02-27 2009-02-27 画像処理装置、画像処理方法、およびプログラム

Publications (3)

Publication Number Publication Date
JP2010200213A JP2010200213A (ja) 2010-09-09
JP2010200213A5 JP2010200213A5 (ja) 2012-03-22
JP5327524B2 true JP5327524B2 (ja) 2013-10-30

Family

ID=42655458

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009045284A Expired - Fee Related JP5327524B2 (ja) 2009-02-27 2009-02-27 画像処理装置、画像処理方法、およびプログラム

Country Status (3)

Country Link
US (1) US20100220178A1 (ja)
JP (1) JP5327524B2 (ja)
CN (1) CN101820552B (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9135864B2 (en) 2010-05-14 2015-09-15 Dolby Laboratories Licensing Corporation Systems and methods for accurately representing high contrast imagery on high dynamic range display systems
EP2429199B1 (en) * 2010-09-13 2018-02-21 LG Electronics Inc. Image display apparatus and method for operating the same
JP5594067B2 (ja) * 2010-11-02 2014-09-24 ソニー株式会社 画像処理装置および画像処理方法
CN102480625A (zh) * 2010-11-26 2012-05-30 日立民用电子株式会社 立体影像处理装置及方法,立体显示装置和接收装置
CN102122075A (zh) * 2010-11-30 2011-07-13 上海大学 基于投影立体可视区域中图像间相互串扰的评价系统和方法
KR101212170B1 (ko) 2010-12-10 2012-12-13 엘지디스플레이 주식회사 패턴드 리타더를 이용한 입체 영상 표시 장치 및 그 구동 방법
JP5599063B2 (ja) * 2010-12-14 2014-10-01 キヤノン株式会社 表示制御装置、表示制御方法及びプログラム
EP2684184A4 (en) 2011-03-09 2014-08-13 Dolby Lab Licensing Corp CONTRASTING GRAY TREAT AND COLOR INDICATORS
GB2489929A (en) * 2011-04-08 2012-10-17 Sony Corp Generation of a Colour Difference Amount Between Pairs of Images
JP5914838B2 (ja) * 2011-05-23 2016-05-11 パナソニックIpマネジメント株式会社 画像表示装置
KR101803571B1 (ko) * 2011-06-17 2017-11-30 엘지디스플레이 주식회사 입체영상표시장치와 이의 구동방법
KR101901242B1 (ko) * 2011-09-30 2018-09-21 엘지디스플레이 주식회사 3차원 영상 데이터 보정방법
CN202332225U (zh) * 2011-11-28 2012-07-11 郑州中原显示技术有限公司 一种三维led显示系统
KR20130063372A (ko) * 2011-12-06 2013-06-14 삼성디스플레이 주식회사 3차원 영상 표시 장치
JP2013150249A (ja) * 2012-01-23 2013-08-01 Sony Corp 画像処理装置と画像処理方法およびプログラム
US9509970B2 (en) * 2012-07-18 2016-11-29 Qualcomm Incorporated Crosstalk reduction with location-based adjustment in multiview video processing
JP6380881B2 (ja) 2012-07-31 2018-08-29 Tianma Japan株式会社 立体画像表示装置、画像処理装置及び立体画像処理方法
CN103686118A (zh) * 2012-09-19 2014-03-26 珠海扬智电子科技有限公司 影像深度调整方法与装置
JP2014068256A (ja) * 2012-09-26 2014-04-17 Sharp Corp 表示装置、及びテレビジョン受信機
KR101970563B1 (ko) 2012-11-23 2019-08-14 엘지디스플레이 주식회사 3차원 입체 영상용 깊이지도 보정장치 및 보정방법
CN103414907B (zh) * 2013-07-26 2015-04-29 冠捷显示科技(厦门)有限公司 一种可改善3d显示器串扰的方法
JP2015095779A (ja) * 2013-11-12 2015-05-18 ソニー株式会社 画像処理装置、画像処理方法及び電子機器
JP2015149547A (ja) * 2014-02-05 2015-08-20 ソニー株式会社 画像処理方法、画像処理装置、及び電子機器
CN104539935B (zh) 2015-01-19 2017-05-31 北京京东方多媒体科技有限公司 图像亮度的调节方法及调节装置、显示装置
CN104795012B (zh) 2015-04-02 2017-04-05 京东方科技集团股份有限公司 显示面板、显示装置及像素驱动方法
CN105763863B (zh) * 2016-02-02 2018-07-27 福建天晴数码有限公司 快门式3d眼镜残影优化方法及系统
CN105959701B (zh) * 2016-05-13 2019-03-19 桂林电子科技大学 基于三维自组织映射的立体视频视差估计方法
WO2018042481A1 (ja) * 2016-08-29 2018-03-08 株式会社日立製作所 撮影装置及び撮影方法
CN107959846B (zh) * 2017-12-06 2019-12-03 苏州佳世达电通有限公司 影像显示设备及影像显示方法
CN114390271B (zh) * 2020-10-19 2023-08-18 苏州佳世达光电有限公司 判别连续影像顺序的系统及其方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3807583B2 (ja) * 1999-04-19 2006-08-09 本田技研工業株式会社 道路領域判定装置
JP2001298754A (ja) * 2000-04-11 2001-10-26 Tomohiko Hattori 立体画像におけるクロストーク消去方式および装置
JP2002077947A (ja) * 2000-09-05 2002-03-15 Sanyo Electric Co Ltd 立体画像補正方法及びこれを用いた立体画像装置
EP2357835A3 (en) * 2002-03-27 2012-02-22 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
US8369607B2 (en) * 2002-03-27 2013-02-05 Sanyo Electric Co., Ltd. Method and apparatus for processing three-dimensional images
JP2003284095A (ja) * 2002-03-27 2003-10-03 Sanyo Electric Co Ltd 立体画像処理方法および装置
JP2004118786A (ja) * 2002-09-30 2004-04-15 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2004221700A (ja) * 2003-01-09 2004-08-05 Sanyo Electric Co Ltd 立体画像処理方法および装置
US7697749B2 (en) * 2004-08-09 2010-04-13 Fuji Jukogyo Kabushiki Kaisha Stereo image processing device
JP4523368B2 (ja) * 2004-09-10 2010-08-11 株式会社マーキュリーシステム 立体視画像生成装置およびプログラム
US7643672B2 (en) * 2004-10-21 2010-01-05 Kazunari Era Image processing apparatus, image pickup device and program therefor
JP2007131178A (ja) * 2005-11-10 2007-05-31 Sumitomo Electric Ind Ltd 障害物位置特定システム
KR20080076628A (ko) * 2007-02-16 2008-08-20 삼성전자주식회사 영상의 입체감 향상을 위한 입체영상 표시장치 및 그 방법
JP2008228037A (ja) * 2007-03-14 2008-09-25 Matsushita Electric Ind Co Ltd 位相調整装置、位相調整方法およびデジタルカメラ
JP4331224B2 (ja) * 2007-03-29 2009-09-16 株式会社東芝 三次元画像表示装置及び三次元画像の表示方法
JP5194566B2 (ja) * 2007-05-30 2013-05-08 富士ゼロックス株式会社 画像処理装置、画像処理システム及び制御プログラム

Also Published As

Publication number Publication date
CN101820552B (zh) 2012-05-30
JP2010200213A (ja) 2010-09-09
CN101820552A (zh) 2010-09-01
US20100220178A1 (en) 2010-09-02

Similar Documents

Publication Publication Date Title
JP5327524B2 (ja) 画像処理装置、画像処理方法、およびプログラム
US9380284B2 (en) Image processing method, image processing device and recording medium
EP2259601B1 (en) Image processing method, image processing device, and recording medium
US8503764B2 (en) Method for generating images of multi-views
US9922441B2 (en) Image processing device, image processing method, and program
JP2011210027A (ja) 画像処理装置および方法並びにプログラム
US20090141121A1 (en) Calibration of a 3-dimensional display
KR20110129903A (ko) 3d 시청자 메타데이터의 전송
JP2011059658A (ja) 表示装置、表示方法およびコンピュータプログラム
JP2015156607A (ja) 画像処理装置、画像処理装置、及び電子機器
US10547832B2 (en) Image processing apparatus, method, and storage medium for executing gradation on stereoscopic images
US20130293533A1 (en) Image processing apparatus and image processing method
KR20130061289A (ko) 멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치
KR20130040771A (ko) 입체 영상 처리 장치 및 방법 및 프로그램
JP2015154101A (ja) 画像処理方法、画像処理装置及び電子機器
KR101731113B1 (ko) 2d-3d 영상 변환 방법 및 이를 이용한 입체 영상 표시장치
JP5100873B1 (ja) クロストーク補正量評価装置及びクロストーク補正量評価方法
JP2014011804A (ja) ディスプレイ装置及びその制御方法
JP5573426B2 (ja) 音声処理装置、音声処理方法、およびプログラム
TW201310072A (zh) 主動式偏光三維顯示裝置
CN102404583A (zh) 三维影像的深度加强系统及方法
US9053567B2 (en) Stereoscopic image processing device and stereoscopic image processing method
TW201306562A (zh) 用於改善三維顯示品質的方法
US9641821B2 (en) Image signal processing device and image signal processing method
JP5683214B2 (ja) 画像処理装置及びその制御方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130710

LAPS Cancellation because of no payment of annual fees