JP5909704B2 - 立体画像処理装置、立体画像処理方法およびプログラム - Google Patents

立体画像処理装置、立体画像処理方法およびプログラム Download PDF

Info

Publication number
JP5909704B2
JP5909704B2 JP2012552540A JP2012552540A JP5909704B2 JP 5909704 B2 JP5909704 B2 JP 5909704B2 JP 2012552540 A JP2012552540 A JP 2012552540A JP 2012552540 A JP2012552540 A JP 2012552540A JP 5909704 B2 JP5909704 B2 JP 5909704B2
Authority
JP
Japan
Prior art keywords
image
viewpoint
value
signal
stereoscopic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012552540A
Other languages
English (en)
Other versions
JPWO2012095914A1 (ja
Inventor
山下 春生
春生 山下
井東 武志
武志 井東
弘道 小野
弘道 小野
桑原 康浩
康浩 桑原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Publication of JPWO2012095914A1 publication Critical patent/JPWO2012095914A1/ja
Application granted granted Critical
Publication of JP5909704B2 publication Critical patent/JP5909704B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/122Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20004Adaptive image processing
    • G06T2207/20012Locally adaptive

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、立体画像(3次元立体画像)の品位を高める技術に関するものであり、立体撮像を行うカメラ(撮像装置)、立体画像(立体映像)を表示するディスプレイ装置、立体画像(立体映像)を処理する画像処理装置など、立体画像(立体映像)を扱う幅広い機器に応用できる技術に関する。
立体画像(左眼用画像および右眼用画像)を、独立して左右の目に投影できる表示装置(以下、「立体表示装置」という。)に表示することにより、立体画像を再現させるために、両眼視差が存在する状態で立体画像(左眼用画像および右眼用画像)を撮像する立体撮像装置が知られている。
立体撮像において、遠景(遠景の被写体)や近景(近景の被写体)が大きな視差を持つ状態で取得された立体画像(左眼用画像および右眼用画像)は、人間が立体視する際の融像限界を超え立体視が困難な画像になる、あるいは、当該立体画像を見ている人間に疲労感を生じさせる画像(疲れる画像)になる。このような不良な立体画像の生成を避けるために、視差調整やステレオベース調整(以下、「SB調整」という。)を行うことで、良好な立体画像を得る技術があり、このような技術は、映画などの本格的な立体撮影において広く用いられている。
視差調整は、主に遠景(遠景の被写体)が融像限界を超える場合に用いられる技術で、遠景(遠景の被写体)までの距離を非線形に圧縮するように視差調整することで、立体視する際に見にくかった遠景(遠景の被写体)を近づけ、立体視する際に見やすい立体画像(立体視が容易な立体画像)を取得することができる。
また、ステレオベース調整は、例えば、2台のカメラ(左眼用画像撮像用のカメラおよび右眼用画像撮像用のカメラ)の間隔を近づけることにより(ステレオベース(基線長)を小さくすることにより)、実行される技術であり、ステレオベース調整を行うことで、視差のダイナミックレンジを小さくすることができる。このため、上記のようにステレオベース調整を行った後、立体撮像を行うことで、近景(近景の被写体)から遠景(遠景の被写体)までの全体が融像域内に入る立体画像を取得することができる。
また、立体画像を小さなサイズのディスプレイ装置に表示した場合も、立体画像(左眼用画像および右眼用画像)の視差が小さくなるため、遠景が圧縮される。したがって、この場合、小さなサイズのディスプレイ装置に表示される立体画像は、見やすい立体画像となる。
立体撮像において、上記撮影技術(視差調整、ステレオベース調整)を駆使することにより、所定の表示環境において立体表示させたとき、十分見やすい画像(立体視しやすい立体画像)となる立体画像を撮影することができる(例えば、特許文献1参照)。
特許第3157384号
しかしながら、上記従来技術では、立体視の融像限界を考慮して、望ましい視差を減らすことにより(立体撮像の対象である被写体が立体視の融像域内に入るように、視差を本来の値から減少させることにより)、見やすい立体画像(立体視しやすい立体画像)を取得している訳であるから、立体画像における立体感・遠近感の自然さの観点では望ましいものではない。したがって、上記従来技術(視差調整、ステレオベース調整による技術)により取得される立体画像は、立体画像の品位について問題がある。
視差調整による技術では、見やすい(立体視しやすい)立体画像を取得することはできるが、遠景までの距離(撮像装置の位置から遠景被写体までの距離)が非線形に圧縮されることになるので、視差調整を行った立体画像では、奥行きが平板になる現象(遠景の被写体の厚み感が減少し、当該遠景の被写体が平板状の立体像として知覚される現象)が発生する。
また、SB調整による技術では、取得される立体画像において、全体的に遠近感が少なくなるため(最近点(立体映像を表示したときに最も近い位置に結像される被写体の位置)から最遠点(立体映像を表示したときに最も遠い位置に結像される被写体の位置)までの距離が小さくなるため)、個々の被写体の立体感が低下する現象が発生する。
したがって、上記従来技術を用いた場合、何れの場合も、取得される立体画像は、立体感・遠近感の乏しい品位の低い画像になりがちである。
本発明は、上記問題点に鑑み、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる立体画像処理装置、立体画像処理方法およびプログラムを実現することを目的とする。
第1の発明は、2眼方式または多視点方式による立体画像に含まれる第1視点用画像および第2視点用画像に対して画像補正処理を行う立体画像処理装置であって、デプス取得部と、画像補正部と、を備える。
デプス取得部は、第1視点用画像および第2視点用画像に含まれる被写体についての3次元空間での距離情報である被写体距離を取得する。
画像補正部は、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の階調変換を行う陰影強調処理を行う画像補正部であって、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
この立体画像処理装置では、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整することができる。その結果、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影を必要以上に強調されることを適切に防止することができる。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
なお、「3次元空間での距離情報」とは、例えば、第1視点用画像または第2視点用画像を立体撮影したと仮定したときの第1視点(例えば、左眼用画像を取得するときの左眼視点)または第2視点(例えば、右眼用画像を取得するときの右眼視点)に相当する3次元空間内の点(撮影点)と、第1視点用画像上の画素である第1画素と、第1画素に対応する第2視点用画像上の画素である第2画素に対応する3次元空間(第1視点用画像または第2視点用画像を立体撮影したと仮定したときの撮影空間)内の点までの距離のことをいう。
また、デプス取得部は、第1視点用画像および第2視点用画像に含まれる被写体についての3次元空間での距離情報を、外部から取得するものであってもよい。
第2の発明は、第1の発明であって、画像補正部は、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の画素値と当該注目画素の周辺画素の画素値の画像特徴量を示す代表画素値との関係に基づいて、注目画素の階調変換を行う局所陰影強調処理を行うことで陰影強調処理を実行するとともに、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
これにより、この立体画像処理装置では、「陰影強調処理」を、「局所陰影強調処理」として、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整することができる。
なお、「局所陰影強調処理」とは、注目画素とその周辺画素の画像特徴量に応じて陰影等を局所的に調整する処理のことをいう。「局所陰影強調処理」の一例として、「局所コントラスト変換処理」がある。
「局所コントラスト変換処理」とは、注目画素の画素値「A」とその周辺画素の代表画素値「B」(例えば、周辺画素の画素値の平均値や重み付け平均値)との関係に基づいて、画像上の局所領域のコントラスト(局所コントラスト)を調整する処理のことをいう。例えば、局所コントラスト変換処理の基本階調変換特性(A=Bのときの階調変換特性)が関数F1(A)で決定され、局所コントラスト変換強度が関数F2(A/B)(なお、A=Bのとき、F2(A/B)=1となる。)で決定される場合、「局所コントラスト変換処理」の変換後の画素値Cは、
C=F1(A)×F2(A/B)
で算出される。一例を挙げると、
F1(A)=A^γ
F2(A/B)=(A/B)^α
であり、この場合において、α+γ=1のとき、局所コントラスト変換処理の変換の前後において、局所コントラストが維持され、α+γ>1のとき、局所コントラストが強調されることになる。
第3の発明は、第1または第2の発明であって、画像補正部は、被写体距離が小さい画素に対する陰影強調処理の処理強調度が、被写体距離が大きい画素に対する陰影強調処理の処理強調度よりも大きくなるように調整する。
これにより、この立体画像処理装置では、被写体距離が小さい画素に対してより処理強調度が大きい陰影強調処理を実行することができるので、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影を必要以上に強調されることを適切に防止することができる。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
第4の発明は、第3の発明であって、画像補正部は、
(1)注目画素の被写体距離が小さい程、注目画素に対して、陰影強調処理の処理強調度が大きい陰影強調処理を行い、
(2)注目画素の被写体距離が大きい程、注目画素に対して、陰影強調処理の処理強調度が小さい陰影強調処理を行う。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影を必要以上に強調されることを適切に防止することができる。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
第5の発明は、第1または第2の発明であって、画像補正部は、
(1)注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、注目画素に対して、処理強調度が大きい陰影強調処理を行い、
(2)注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が大きい程、注目画素に対して、処理強調度が小さい陰影強調処理を行う。
これにより、この立体画像処理装置では、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい画像領域において、強く陰影強調処理を行うことができる。つまり、この立体画像処理装置では、注目画素の近傍画像領域であり、かつ、被写体距離の差が大きい画像領域の影響を受けることなく、適切に、陰影強調処理を行うことができる。
したがって、この立体画像処理装置では、例えば、立体画像上において、主被写体を形成する画像領域に対して、距離(被写体距離)の異なる背景の明暗の影響を受けて陰影強調がなされることを適切に回避することができる。そして、この立体画像処理装置では、本当に陰影による明暗差を中心とした陰影の強調が実現できることになり、その結果、この立体画像処理装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
第6の発明は、第1または第2の発明であって、画像補正部は、注目画素の周辺画素の平均的な明るさに対する明暗対比を強調するように注目画素を補正することによりコントラストを強調するものであって、周辺画素の平均的な明るさは、注目画素とのデプスの差が小さい画素の明るさの平均をとることにより算出される。
したがって、この立体画像処理装置では、例えば、立体画像上において、主被写体を形成する画像領域に対して、距離(被写体距離)の異なる背景の明暗の影響を受けて陰影強調がなされることを適切に回避することができる。そして、この立体画像処理装置では、本当に陰影による明暗差を中心とした陰影の強調が実現できることになり、その結果、この立体画像処理装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
第7の発明は、第2の発明であって、画像補正部は、第1視点画像用画像補正部と、第2視点画像用画像補正部と、を備える。
第1視点画像用画像補正部は、第1視点用局所階調変換部と、第1視点用強度生成部と、第1視点用合成部と、を備える。
第2第視点画像用画像補正部は、第2視点用局所階調変換部と、第2視点用強度生成部と、第2視点用合成部と、を備える。
第1視点用局所階調変換部は、第1視点用画像信号IS_Rに対して局所陰影強調処理を行い、第1視点用変換画像信号OS_Rを取得する。
第1視点用強度生成部は、デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素の被写体距離であるデプス値に基づいて、局所陰影強調処理の処理強調度を生成する。
第1視点用合成部は、第1視点用強度生成部が生成した処理強調度に基づいて、第1視点画像信号IS_Rと、第1視点用変換画像信号OS_Rとを合成することで、第1視点用出力画像信号Routを取得するものであって、(1)第1視点用画像信号IS_Rに対応する画素の被写体距離が小さい程、第1視点用変換画像信号OS_Rの合成度合いが大きくなるように、第1視点画像信号IS_Rと、第1視点用変換画像信号OS_Rとを合成し、(2)第1視点用画像信号IS_Rに対応する画素の被写体距離が大きい程、第1視点用変換画像信号OS_Rの合成度合いが小さくなるように、第1視点画像信号IS_Rと、第1視点用変換画像信号OS_Rとを合成する。
第2視点用局所階調変換部は、第2視点用画像信号IS_Lに対して局所陰影強調処理を行い、第2視点用変換画像信号OS_Lを取得する。
第2視点用強度生成部は、デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素の被写体距離であるデプス値に基づいて、局所陰影強調処理の処理強調度を生成する。
第2視点用合成部は、第2視点用強度生成部が生成した処理強調度に基づいて、第2視点画像信号IS_Lと、第2視点用変換画像信号OS_Lとを合成することで、第2視点用出力画像信号Loutを取得するものであって、(1)第2視点用画像信号IS_Lに対応する画素の被写体距離が小さい程、第2視点用変換画像信号OS_Lの合成度合いが大きくなるように、第2視点画像信号IS_Lと、第2視点用変換画像信号OS_Lとを合成し、(2)第2視点用画像信号IS_Lに対応する画素の被写体距離が大きい程、第2視点用変換画像信号OS_Lの合成度合いが小さくなるように、第2視点画像信号IS_Lと、第2視点用変換画像信号OS_Lとを合成する。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影を必要以上に強調されることを適切に防止することができる。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
第8の発明は、第1から第7のいずれかの発明であって、陰影強調処理は、コントラスト強調処理である。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、コントラストを強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、コントラストを必要以上に強調されることを適切に防止することができる。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
第9の発明は、第1から第7のいずれかの発明であって、陰影強調処理は、視覚処理による局所コントラスト強調処理である。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、局所コントラストを強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、局所コントラストを必要以上に強調されることを適切に防止することができる。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
第10の発明は、第1から第7のいずれかの発明であって、陰影強調処理は、陰影を濃くする処理である。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を濃くすることができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影が必要以上に濃くなることを適切に防止することができる。つまり、この立体画像処理装置では、陰影を濃くする処理を行うので、陰影部分を選択的に強調することができる(陰影を濃くする立体画像処理を行うことができる)。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
第11の発明は、第10の発明であって、第1視点用局所階調変換部は、第1視点用周囲明度検出部と、第1視点用第2動的階調補正部と、を備え、第2視点用局所階調変換部は、第2視点用周囲明度検出部と、第2視点用第2動的階調補正部と、を備える。
第1視点用周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との代表明度値を検出し、検出した代表明度値を信号値とする第1視点用周囲明度信号US_Rを出力する。
第1視点用第2動的階調補正部は、第1視点用画像信号IS_Rおよび第1視点用周囲明度信号US_Rに基づいて、動的階調補正処理を行うことで、補正第1視点用画像信号OS_Rを取得する。そして、動的階調補正処理は、
(1)(第1視点用画像信号IS_Rの値)≦(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rの所定の入力範囲において、第1視点用画像信号IS_Rの値を所定の値に固定したとき、第1視点用周囲明度信号US_Rの値が増加するに従い、補正第1視点用画像信号OS_Rの値が減少する階調変換特性により、階調変換処理を行うことで、補正第1視点用画像信号OS_Rを取得し、
(2)(第1視点用画像信号IS_Rの値)>(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rを、補正第1視点用画像信号OS_Rとすることで、補正第1視点用画像信号OS_Rを取得する。
第2視点用周囲明度検出部は、第2視点用画像信号IS_Lに相当する画素である注目画素と、当該注目画素の周辺の画素との明度値を検出し、検出した明度値を信号値とする第2視点用周囲明度信号US_Lを出力する。
第2視点用第2動的階調補正部は、第2視点用画像信号IS_Lおよび第2視点用周囲明度信号US_Lに基づいて、動的階調補正処理を行うことで、補正第2視点用画像信号OS_Lを取得する。そして、動的階調補正処理は、
(1)(第2視点用画像信号IS_Lの値)≦(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lの所定の入力範囲において、第2視点用画像信号IS_Lの値を所定の値に固定したとき、第2視点用周囲明度信号US_Lの値が増加するに従い、補正第2視点用画像信号OS_Lの値が減少する階調変換特性により、階調変換処理を行うことで、補正第2視点用画像信号OS_Lを取得し、
(2)(第2視点用画像信号IS_Lの値)>(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lを、補正第2視点用画像信号OS_Lとすることで、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用第2動的階調補正部により、(第1視点用画像信号IS_Rの値)≦(第1視点用周囲明度信号US_Rの値)の場合のみ、局所コントラストを強調する処理が実行される(第2視点用画像に対する処理も第1視点用画像に対する処理と同様)。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、局所コントラストを強調する処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
第12の発明は、第10の発明であって、第1視点用局所階調変換部は、第1視点用第2周囲明度検出部と、第1視点用動的階調補正部と、を備え、第2視点用局所階調変換部は、第2視点用第2周囲明度検出部と、第2視点用動的階調補正部と、を備える。
第1視点用第2周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との代表明度値を検出し、検出した代表明度値を信号値とする第1視点用周囲明度信号US_Rを取得し、所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
第1視点用動的階調補正部は、第1視点用画像信号IS_Rおよび第1視点用補正周囲明度信号US_R’に基づいて、動的階調補正処理を行うことで、補正第1視点用画像信号OS_Rを取得する。そして、動的階調補正処理は、第1視点用画像信号IS_Rの所定の入力範囲において、第1視点用画像信号IS_Rの値を所定の値に固定したとき、第1視点用補正周囲明度信号US_R’の値が増加するに従い、補正第1視点用画像信号OS_Rの値が減少する階調変換特性により、階調変換処理を行うことで、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2周囲明度検出部は、第2視点用画像信号IS_Lに相当する画素である注目画素と、当該注目画素の周辺の画素との明度値を検出し、検出した明度値を信号値とする第2視点用周囲明度信号US_Lを取得し、所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
第2視点用動的階調補正部は、第2視点用画像信号IS_Lおよび第2視点用補正周囲明度信号US_L’に基づいて、動的階調補正処理を行うことで、補正第2視点用画像信号OS_Lを取得する。そして、動的階調補正処理は、第2視点用画像信号IS_Lの所定の入力範囲において、第2視点用画像信号IS_Lの値を所定の値に固定したとき、第2視点用補正周囲明度信号US_L’の値が増加するに従い、補正第2視点用画像信号OS_Lの値が減少する階調変換特性により、階調変換処理を行うことで、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用第2周囲明度検出部により、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる右眼用オフセット値ΔUS_Rが算出され、当該第1視点用オフセット値ΔUS_Rが加算されて第1視点用補正周囲明度信号US_R’が取得される。そして、この立体画像処理装置では、周囲明度信号US_Rの代わりに、第1視点用補正周囲明度信号US_R’を用いて、例えば、図4に示した階調変換特性により階調変換処理が実行される。その結果、この立体画像処理装置では、周辺より暗い画素について、より強い局所コントラスト強調処理が実行される。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、局所コントラストを強調する処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。(第2視点用の処理についても第1視点用の処理と同様。)
なお、「第1視点用画像信号IS_Rの変化が激しい程、大きな値となる」とは、例えば、所定範囲の第1視点用画像信号IS_Rの信号値の変化が当該所定範囲の平均値に対してどの程度ばらついているか等により判断されるもので、例えば、所定範囲の第1視点用画像信号IS_Rの信号値の分散値や標準偏差値が大きいとき、「第1視点用画像信号IS_Rの変化が激しい」ということである。
第13の発明は、第10の発明であって、第1視点用局所階調変換部は、第1視点用第2周囲明度検出部と、第1視点用係数演算処理部と、を備え、第2視点用局所階調変換部は、第2視点用第2周囲明度検出部と、第2視点用係数演算処理部と、を備える。
第1視点用第2周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との明度値を検出し、検出した明度値を信号値とする第1視点用周囲明度信号US_Rを取得し、所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
第1視点用係数演算処理部は、第1視点用画像信号IS_Rと第1視点用補正周囲明度信号US_R’の差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し、決定した係数kを用いて、
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2周囲明度検出部は、第2視点用画像信号IS_Lに相当する画素である注目画素と、当該注目画素の周辺の画素との代表明度値を検出し、検出した代表明度値を信号値とする第2視点用周囲明度信号US_Lを取得し、所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
第2視点用係数演算処理部は、第2視点用画像信号IS_Lと第2視点用補正周囲明度信号US_L’の差分((IS_L)−(US_L’))の値が大きくなる程、小さな値となる係数kを決定し、決定した係数kを用いて、
OS_L=IS_L+k×((IS_L)−(US_L’))
により、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用係数演算処理部が、第1視点用画像信号IS_Rと第1視点用補正周囲明度信号US_R’の差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し、決定した係数kを用いて、
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。したがって、この立体画像処理装置では、周辺より暗い画素について、より強い局所コントラスト強調処理が実行される(第2視点用の処理についても同様)。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、アンシャープマスキングの強調度合いが強くなるように処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
なお、「差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し」(差分((IS_L)−(US_L’))についても同様。)とは、例えば、図19に示した実線により係数kが決定される場合だけでなく、図19に示した点線により係数kが決定される場合を含む。つまり、係数kと差分値((IS_R)−(US_R’))との関係は単調である場合だけでなく、段階的に変化する場合(例えば、図19の点線の場合)も含む。
第14の発明は、第10の発明であって、第1視点用局所階調変換部は、第1視点用第2周囲明度検出部と、第1視点用係数演算処理部と、を備え、第2視点用局所階調変換部は、第2視点用第2周囲明度検出部と、第2視点用係数演算処理部と、を備える。
第1視点用第2周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との代表明度値を検出し、検出した代表明度値を信号値とする第1視点用周囲明度信号US_Rを取得し、所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
第1視点用係数演算処理部は、第1視点用画像信号IS_Rと第1視点用補正周囲明度信号US_R’の差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し、係数p(p:0≦p≦1)を設定し、
(k+p)×(IS_R−US_R’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_R−US_R’))を取得し、取得した信号LPF((k+p)×(IS_R−US_R’))を用いて、
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))
により、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2周囲明度検出部は、第2視点用画像信号IS_Lに相当する画素である注目画素と、当該注目画素の周辺の画素との明度値を検出し、検出した明度値を信号値とする第2視点用周囲明度信号US_Lを取得し、所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
第2視点用係数演算処理部は、第2視点用画像信号IS_Lと第2視点用補正周囲明度信号US_L’の差分((IS_L)−(US_L’))の値が大きくなる程、小さな値となる係数kを決定し、係数p(p:0≦p≦1)を設定し、
(k+p)×(IS_L−US_L’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_L−US_L’))を取得し、取得した信号LPF((k+p)×(IS_L−US_L’))を用いて、
OS_L=IS_L−p×(IS_L−US_L’)+LPF((k+p)×(IS_L−US_L’))
により、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用係数演算処理部が、
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))
に相当する処理により、補正第1視点用画像信号OS_Rを取得する。これにより、この立体画像処理装置では、原画像に含まれる陰影成分および付加する陰影成分のぼかし具合(帯域制限処理の程度)を、係数pを用いて、調整することができる。(第2視点用の処理についても第1視点用の処理と同様。)したがって、この立体画像処理装置では、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調することができる。その結果、の立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
第15の発明は、第2の発明であって、画像補正部は、第1視点画像用画像補正部と、第2視点画像用画像補正部と、を備える。
第1視点画像用画像補正部は、第1視点用デプス周囲明度検出部と、第1視点用動的階調補正部と、を備える。
第2視点画像用画像補正部は、第2視点用デプス周囲明度検出部と、第2視点用動的階調補正部と、を備える。
第1視点用デプス周囲明度検出部は、デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値を算出することで、当該注目画素の第1視点用周囲明度信号US_Rを取得するものであって、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして重み付け平均値を算出する。
第1視点用動的階調補正部は、第1視点用画像信号IS_Rと第1視点用周囲明度信号US_Rとの関係に基づいて、注目画素の階調変換を行う局所陰影強調処理を行うことで、第1視点用出力画像信号Routを取得する。
第2視点用デプス周囲明度検出部は、デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値を算出することで、当該注目画素の第2視点用周囲明度信号US_Lを取得するものであって、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして重み付け平均値を算出する。
第2視点用動的階調補正部は、第2視点用画像信号IS_Lと第2視点用周囲明度信号US_Lとの関係に基づいて、注目画素の階調変換を行う局所陰影強調処理を行うことで、第2視点用出力画像信号Loutを取得する。
そして、陰影強調処理は、(1)コントラスト強調処理、(2)視覚処理による局所コントラスト強調処理、および、(3)陰影を濃くする処理のいずれか1つの処理である。
これにより、この立体画像処理装置では、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい画像領域において、強く陰影強調処理を行うことができる。つまり、この立体画像処理装置では、注目画素の近傍画像領域であり、かつ、被写体距離の差が大きい画像領域の影響を受けることなく、適切に、陰影強調処理を行うことができる。
したがって、この立体画像処理装置では、例えば、立体画像上において、主被写体を形成する画像領域に対して、距離(被写体距離)の異なる背景の明暗の影響を受けて陰影強調がなされることを適切に回避することができる。そして、この立体画像処理装置では、本当に陰影による明暗差を中心とした陰影の強調が実現できることになり、その結果、この立体画像処理装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
第16の発明は、第2の発明であって、画像補正部は、第1視点画像用画像補正部と、第2視点画像用画像補正部と、を備える。
第1視点画像用画像補正部は、第1視点用デプス周囲明度検出部と、第1視点用第2動的階調補正部と、を備える。第2視点画像用画像補正部は、第2視点用デプス周囲明度検出部と、第2視点用第2動的階調補正部と、を備える。
第1視点用デプス周囲明度検出部は、デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値を算出することで、当該注目画素の第1視点用周囲明度信号US_Rを取得する第1視点用デプス周囲明度検出部であって、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして重み付け平均値を算出する。
第1視点用第2動的階調補正部は、第1視点用画像信号IS_Rおよび第1視点用周囲明度信号US_Rに基づいて、動的階調補正処理を行うことで、補正第1視点用画像信号OS_Rを取得する。そして、動的階調補正処理は、
(1)(第1視点用画像信号IS_Rの値)≦(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rの所定の入力範囲において、第1視点用画像信号IS_Rの値を所定の値に固定したとき、第1視点用周囲明度信号US_Rの値が増加するに従い、補正第1視点用画像信号OS_Rの値が減少する階調変換特性により、階調変換処理を行うことで、補正第1視点用画像信号OS_Rを取得し、
(2)(第1視点用画像信号IS_Rの値)>(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rを、補正第1視点用画像信号OS_Rとすることで、補正第1視点用画像信号OS_Rを取得する。
第2視点用デプス周囲明度検出部は、デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値を算出することで、当該注目画素の第2視点用周囲明度信号US_Lを取得するものであって、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして重み付け平均値を算出する。
第2視点用第2動的階調補正部は、第2視点用画像信号IS_Lおよび第2視点用周囲明度信号US_Lに基づいて、動的階調補正処理を行うことで、補正第2視点用画像信号OS_Lを取得する。そして、動的階調補正処理は、
(1)(第2視点用画像信号IS_Lの値)≦(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lの所定の入力範囲において、第2視点用画像信号IS_Lの値を所定の値に固定したとき、第2視点用周囲明度信号US_Lの値が増加するに従い、補正第2視点用画像信号OS_Lの値が減少する階調変換特性により、階調変換処理を行うことで、補正第2視点用画像信号OS_Lを取得し、
(2)(第2視点用画像信号IS_Lの値)>(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lを、補正第2視点用画像信号OS_Lとすることで、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用第2動的階調補正部により、(第1視点用画像信号IS_Rの値)≦(第1視点用周囲明度信号US_Rの値)の場合のみ、局所コントラストを強調する処理が実行される(第2視点用画像に対する処理も第1視点用画像に対する処理と同様)。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、局所コントラストを強調する処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
なお、この立体画像処理装置では、第1視点用デプス周囲明度検出部により、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値により取得された第1視点用周囲明度信号US_Rを用いた処理が実行される。その結果、この立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切な陰影強調がなされることを適切に回避することができる。
第17の発明は、第2の発明であって、画像補正部は、第1視点画像用画像補正部と、第2視点画像用画像補正部と、を備える。
第1視点画像用画像補正部は、第1視点用第2デプス周囲明度検出部と、第1視点用動的階調補正部と、を備える。第2視点画像用画像補正部は、第2視点用第2デプス周囲明度検出部と、第2視点用動的階調補正部と、を備える。
第1視点用第2デプス周囲明度検出部は、
(1)デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第1視点用周囲明度信号US_Rを取得し、
(2)所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
第1視点用動的階調補正部は、第1視点用画像信号IS_Rおよび第1視点用補正周囲明度信号US_R’に基づいて、動的階調補正処理を行うことで、補正第1視点用画像信号OS_Rを取得する。そして、動的階調補正処理は、第1視点用画像信号IS_Rの所定の入力範囲において、第1視点用画像信号IS_Rの値を所定の値に固定したとき、第1視点用補正周囲明度信号US_R’の値が増加するに従い、補正第1視点用画像信号OS_Rの値が減少する階調変換特性により、階調変換処理を行うことで、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2デプス周囲明度検出部は、
(1)デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第2視点用周囲明度信号US_Lを取得し、
(2)所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
第2視点用動的階調補正部は、第2視点用画像信号IS_Lおよび第2視点用補正周囲明度信号US_L’に基づいて、動的階調補正処理を行うことで、補正第2視点用画像信号OS_Lを取得する。そして、動的階調補正処理は、第2視点用画像信号IS_Lの所定の入力範囲において、第2視点用画像信号IS_Lの値を所定の値に固定したとき、第2視点用補正周囲明度信号US_L’の値が増加するに従い、補正第2視点用画像信号OS_Lの値が減少する階調変換特性により、階調変換処理を行うことで、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用第2デプス周囲明度検出部により、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる右眼用オフセット値ΔUS_Rが算出され、当該第1視点用オフセット値ΔUS_Rが加算されて第1視点用補正周囲明度信号US_R’が取得される。そして、この立体画像処理装置では、周囲明度信号US_Rの代わりに、第1視点用補正周囲明度信号US_R’を用いて、例えば、図4に示した階調変換特性により階調変換処理が実行される。その結果、この立体画像処理装置では、周辺より暗い画素について、より強い局所コントラスト強調処理が実行される。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、局所コントラストを強調する処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。(第2視点用の処理についても第1視点用の処理と同様。)
なお、この立体画像処理装置では、第1視点用第2デプス周囲明度検出部により、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値により取得された第1視点用周囲明度信号US_Rを用いた処理が実行される。その結果、この立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切な陰影強調がなされることを適切に回避することができる。
第18の発明は、第2の発明であって、画像補正部は、第1視点画像用画像補正部と、第2視点画像用画像補正部と、を備える。
第1視点画像用画像補正部は、第1視点用第2デプス周囲明度検出部と、第1視点用係数演算処理部と、を備える。第2視点画像用画像補正部は、第2視点用第2デプス周囲明度検出部と、第2視点用係数演算処理部と、を備える。
第1視点用第2デプス周囲明度検出部は、
(1)デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第1視点用周囲明度信号US_Rを取得し、
(2)所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
第1視点用係数演算処理部は、第1視点用画像信号IS_Rと第1視点用補正周囲明度信号US_R’の差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し、決定した係数kを用いて、
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2デプス周囲明度検出部は、
(1)デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第2視点用周囲明度信号US_Lを取得し、
(2)所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
第2視点用係数演算処理部は、第2視点用画像信号IS_Lと第2視点用補正周囲明度信号US_L’の差分((IS_L)−(US_L’))の値が大きくなる程、小さな値となる係数kを決定し、決定した係数kを用いて、
OS_L=IS_L+k×((IS_L)−(US_L’))
により、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用係数演算処理部が、第1視点用画像信号IS_Rと第1視点用補正周囲明度信号US_R’の差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し、決定した係数kを用いて、
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。したがって、この立体画像処理装置では、周辺より暗い画素について、より強い局所コントラスト強調処理が実行される(第2視点用の処理についても同様)。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、アンシャープマスキングの強調度合いが強くなるように処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
なお、この立体画像処理装置では、第1視点用第2デプス周囲明度検出部により、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値により取得された第1視点用周囲明度信号US_Rを用いた処理が実行される。その結果、この立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切な陰影強調がなされることを適切に回避することができる。
第19の発明は、第2の発明であって、画像補正部は、第1視点画像用画像補正部と、第2視点画像用画像補正部と、を備える。
第1視点画像用画像補正部は、第1視点用第2デプス周囲明度検出部と、第1視点用係数演算処理部と、を備える。第2視点画像用画像補正部は、第2視点用第2デプス周囲明度検出部と、第2視点用係数演算処理部と、を備える。
第1視点用第2デプス周囲明度検出部は、
(1)デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第1視点用周囲明度信号US_Rを取得し、
(2)所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
第1視点用係数演算処理部は、第1視点用画像信号IS_Rと第1視点用補正周囲明度信号US_R’の差分((IS_R)−(US_R’))の値が大きくなる程、小さな値となる係数kを決定し、係数p(p:0≦p≦1)を設定し、
(k+p)×(IS_R−US_R’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_R−US_R’))を取得し、取得した信号LPF((k+p)×(IS_R−US_R’))を用いて、
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))。
により、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2デプス周囲明度検出部は、
(1)デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第2視点用周囲明度信号US_Lを取得し、
(2)所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
第2視点用係数演算処理部は、第2視点用画像信号IS_Lと第2視点用補正周囲明度信号US_L’の差分((IS_L)−(US_L’))の値が大きくなる程、小さな値となる係数kを決定し、係数p(p:0≦p≦1)を設定し、
(k+p)×(IS_L−US_L’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_L−US_L’))を取得し、取得した信号LPF((k+p)×(IS_L−US_L’))を用いて、
OS_L=IS_L−p×(IS_L−US_L’)+LPF((k+p)×(IS_L−US_L’))。
により、補正第2視点用画像信号OS_Lを取得する。
この立体画像処理装置では、第1視点用係数演算処理部が、
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))
に相当する処理により、補正第1視点用画像信号OS_Rを取得する。これにより、この立体画像処理装置では、原画像に含まれる陰影成分および付加する陰影成分のぼかし具合(帯域制限処理の程度)を、係数pを用いて、調整することができる。(第2視点用の処理についても第1視点用の処理と同様。)したがって、この立体画像処理装置では、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調することができる。その結果、その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
なお、この立体画像処理装置では、第1視点用第2デプス周囲明度検出部により、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値により取得された第1視点用周囲明度信号US_Rを用いた処理が実行される。その結果、この立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切な陰影強調がなされることを適切に回避することができる。
第20の発明は、第1から第19のいずれかの発明である立体画像処理装置を含む立体撮像装置である。
これにより、第1から第19のいずれかの発明である立体画像処理装置を含む立体撮像装置を実現することができる。
第21の発明は、2眼方式または多視点方式による立体画像に含まれる第1視点用画像および第2視点用画像からなる立体画像に対して画像補正処理を行う立体画像処理方法であって、デプス取得ステップと、画像補正ステップと、を備える。
デプス取得ステップは、第1視点用画像および第2視点用画像に含まれる被写体についての3次元空間での距離情報である被写体距離を取得する。
画像補正ステップは、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の階調変換を行う陰影強調処理を行い、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
これにより、第1の発明と同様の効果を奏する立体画像処理方法を実現することができる。
第22の発明は、2眼方式または多視点方式による立体画像に含まれる第1視点用画像および第2視点用画像からなる立体画像に対して画像補正処理を行う立体画像処理方法をコンピュータで実行させるプログラムである。立体画像処理方法は、デプス取得ステップと、画像補正ステップと、を備える。
デプス取得ステップは、第1視点用画像および第2視点用画像に含まれる被写体についての3次元空間での距離情報である被写体距離を取得する。
画像補正ステップは、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の階調変換を行う陰影強調処理を行い、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
これにより、第1の発明と同様の効果を奏する立体画像処理方法をコンピュータにより実行させるプログラムを実現することができる。
本発明によれば、少ない視差により撮影された立体感に乏しい画像に自然な立体感を付与することにより高品位な立体画像を取得することができる。
第1実施形態の立体撮像装置の概略構成図。 第1実施形態における画像補正部の構成図。 第1実施形態における局所階調変換部の構成図。 第1実施形態における動的階調補正部の変換特性のグラフ。 撮影環境と被写体との関係を説明するための図。 視差マッチングによるデプス情報の取得方法を説明するための図。 従来における画像補正部の処理結果。 局所コントラスト強調処理を行った画質補正例。 第1実施形態における強度生成部の説明図。 第1実施形態における周囲明度検出部のフィルタ範囲。 第1実施形態における周囲明度検出部のフィルタ特性。 第1実施形態における画像補正部の処理結果。 第2実施形態における画像補正部の構成図。 第2実施形態におけるデプス周囲明度検出部の重み係数を示すグラフ。 第2実施形態における周囲明度検出部のフローチャート。 第2実施形態における画像補正部の処理結果。 第3実施形態における画像補正部の処理結果。 第4実施形態における局所階調変換部の構成図。 係数kと差分信号(IS_L−US_L)との関係(特性)を示す図。 第4実施形態の第1変形例の局所階調変換部の構成図。 (a)L画像信号の輝度値IS_L(波形Is)、周囲明度信号US_L(波形Us)、および、局所階調変換処理(コントラスト強調処理)を行うことで取得した補正後の輝度値OS_L(波形Os)の信号波形図(一例)。(b)L画像信号の輝度値IS_L(波形Is)、補正周囲明度信号US_L’(波形Us’)、および、局所階調変換処理(コントラスト強調処理)を行うことで取得した補正後の輝度値OS_L(波形Os’)の信号波形図(一例)。 係数kと差分信号(IS_L−US_L’)との関係(特性)を示す図。 第4実施形態の第2変形例の局所階調変換部の構成図。 第5実施形態における局所階調変換部の構成図。 第5実施形態の第2動的階調補正部の階調変換特性を示すグラフ。 第5実施形態の第1変形例の局所階調変換部の構成図。 第6実施形態における局所階調変換部の構成図。 第6実施形態の第1変形例の局所階調変換部の構成図。 第7実施形態における局所階調変換部の構成図。 第7実施形態の第1変形例の局所階調変換部の構成図。 第8実施形態における局所階調変換部の構成図。 第8実施形態の第1変形例の局所階調変換部の構成図。 第9実施形態における局所階調変換部の構成図。 第9実施形態の第1変形例の局所階調変換部の構成図。
以下、本発明の立体画像処理装置および立体画像処理方法の実施形態について、図面を参照しながら説明する。
[第1実施形態]
第1実施形態では、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。
<1.1:立体撮像装置の構成>
図1に、第1実施形態に係る立体撮像装置1000の概略図を示す。
立体撮像装置1000は、図1に示すように、第1視点から被写体光を集光し第1画像信号(例えば、右眼用画像信号(R画像信号))を取得する第1撮像部101Rと、第2視点から被写体光を集光し第2画像信号(例えば、左眼用画像信号(L画像信号))を取得する第2撮像部101Lと、第1画像信号(例えば、R画像信号)および第2画像信号(例えば、L画像信号)を、それぞれ、デジタル信号に変換する画像入力部102と、を備える。
また、立体撮像装置1000は、デジタル信号に変換された第1画像信号(例えば、R画像信号)および第2画像信号(例えば、L画像信号)から、それぞれ、被写体距離情報を算出し、第1デプス情報(例えば、Rデプス情報)および第2デプス情報(例えば、Lデプス情報)として出力するデプス取得部103と、第1デプス情報(例えば、Rデプス情報)および第2デプス情報(例えば、Lデプス情報)を用いて、第1画像信号(例えば、R画像信号)および第2画像信号(例えば、L画像信号)に画像補正処理を行う画像補正部104と、を備える。
なお、説明便宜のため、第1撮像部101Rにより右眼用画像(映像)が撮像され、第2撮像部101Lにより左眼用画像(映像)が撮像されるものとして、以下、説明する。
第1撮像部101Rは、第1視点に設置されており、被写体光を集光する光学系と、集光した被写体光から光電変換により第1画像信号(右眼用画像信号(R画像信号))を取得する撮像素子と、を備える。そして、第1撮像部101Rは、取得した第1画像信号(R画像信号)を画像入力部102に出力する。
第2撮像部101Lは、第1視点とは異なる位置である第2視点に設置されており、被写体光を集光する光学系と、集光した被写体光から光電変換により第2画像信号(左眼用画像信号(L画像信号))を取得する撮像素子と、を備える。そして、第2撮像部101Lは、取得した第2画像信号(L画像信号)を画像入力部102に出力する。
画像入力部102は、第1撮像部101Rにより取得された第1画像信号(R画像信号)を入力とし、入力された第1画像信号に対して、A/D変換を行い、A/D変換した第1画像信号(R画像信号)をデプス取得部103および画像補正部104に出力する。
また、画像入力部102は、第2撮像部101Lにより取得された第2画像信号(L画像信号)を入力とし、入力された第2画像信号に対して、A/D変換を行い、A/D変換した第2画像信号(L画像信号)をデプス取得部103および画像補正部104に出力する。
デプス取得部103は、画像入力部102から出力される第1画像信号(R画像信号)および第2画像信号(L画像信号)を入力とする。デプス取得部103は、第1画像信号(R画像信号)により形成される第1画像(R画像)および第2画像信号(L画像信号)から形成される第2画像(L画像)から、第1画像(R画像)用のデプス情報である第1デプス情報(Rデプス情報)および第2画像(L画像)用のデプス情報である第2デプス情報(Lデプス情報)を取得する。そして、デプス取得部103は、取得した第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)を画像補正部104に出力する。
なお、デプス情報の取得は、例えば、視差マッチングにより取得することが好ましい。
画像補正部104は、図2に示すように、L画像用画像補正部104Lと、R画像用画像補正部104Rとを備える。画像補正部104は、画像入力部102から出力される第1画像信号(R画像信号)および第2画像信号(L画像信号)と、デプス取得部103から出力される第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)と、を入力とする。画像補正部104は、第1デプス情報(Rデプス情報)に基づいて、第1画像信号(R画像信号)に補正処理を行い、補正処理後の第1画像信号(R画像信号)を出力する。また、画像補正部104は、第2デプス情報(Lデプス情報)に基づいて、第2画像信号(L画像信号)に補正処理を行い、補正処理後の第画像信号(画像信号)を出力する。
なお、デプス情報は上記のように第1デプス情報(Rデプス情報)と第2デプス情報(Lデプス情報)が得られると好適であるが、いずれか一方のみから間接的に他方を得ることも可能であるため、必ずしもふたつのデプス情報が必要なわけではない。
L画像用画像補正部104Lは、図2に示すように、局所階調変換部111Lと、強度生成部112Lと、合成部113Lとを備える。
局所階調変換部111Lは、図3に示すように、周囲明度検出部121と、動的階調補正部122とを備える。
周囲明度検出部121は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、動的階調補正部122に出力する。
動的階調補正部122は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)と、周囲明度検出部121から出力された周囲明度信号US_Lとを入力とする。動的階調補正部122は、周囲明度信号US_Lの値に基づいて決定される階調変換特性により、L画像信号の輝度値IS_Lに対して、階調変換処理を行う。動的階調補正部122の階調変換特性は、例えば、図4に示すようなものである。
ここで、動的階調補正部122の階調変換特性について、図4を用いて、説明する。
図4は、横軸に入力信号であるIS信号の値(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)をとり、縦軸に出力信号であるOS信号の値(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)をとり、周囲明度信号US_L(またはUS_)の値により決定される階調変換特性曲線K1〜K8をグラフにしたものである。
なお、図4のグラフでは、IS信号の値、OS信号の値、および、周囲明度信号の値US(US_LまたはUS_R)は、[0:1]の範囲に正規化している。
階調変換特性曲線Kn(n:1〜8の整数)は、周囲明度信号の値US(US_LまたはUS_R)が「n/8」(n:1〜8の整数)のときの階調変換特性曲線群であり、この階調変換特性曲線群K1〜K8は、ISの値を所定の値に固定した場合(例えば、図4の値Aに固定した場合)、周囲明度信号の値USが増加するにつれ、出力値OSが単調減少するように設定される。なお、階調変換特性曲線群の数は、図4では、8本であるが、この数に限定されることがないのは言うまでもない。また、動的階調補正部122において、階調変換特性曲線群を所定数だけ設定しておき(例えば、LUTに階調変換特性曲線群を特定するデータを所定数だけ保存しておき)、補間処理、内挿処理等を行うことで、予め設定されている階調変換特性曲線群以外の階調変換特性曲線を実現するようにしてもよい。(例えば、図4の場合、US=3/16のときの階調変換特性曲線を、US=1/8のときの階調変換特性曲線K1と、US=2/8のときの階調変換特性曲線K2とを用いて、補間処理、内挿処理等を行うことで、導いてもよい。)
図4の階調変換特性に基づいて、入力信号であるIS信号の値(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)に対して、階調変換を行うことで、階調変換後の画像において、局所コントラストを強調しつつ、画像全体の明るさを一定に保つことができる。(ISの値とUSの値とが同一の場合、図4で示した黒丸の点に対応する階調変換処理が実行されるため、ISの値とOSの値は一致する。その結果、画像全体の明るさは、階調変換前後で一定に保たれる。)
以上説明したように、動的階調補正部122は、図4に示すような階調変換特性により、IS信号(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)に対して動的階調補正処理を行うことで、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を取得する。そして、動的階調補正部122は、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を合成部113L(R画像信号の場合は、合成部113R)に出力する。
強度生成部112Lは、デプス取得部103から出力される第2デプス情報(Lデプス情報)を入力とし、第2デプス情報(Lデプス情報)に基づいて、局所階調変換処理(空間視覚処理)の強度を決定する第1強度信号M1_Lを生成する(第1強度信号M1_Lの生成方法については後述)。そして、強度生成部112Lは、生成した第1強度信号M1_Lを合成部113Lに出力する。
合成部113Lは、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)と、局所階調変換部111Lから出力されたOS_L信号と、強度生成部112Lから出力された第1強度信号M1_Lと、を入力とする。合成部113Lは、第1強度信号M1_Lに基づいて、IS_L信号とOS_L信号とを合成する。これにより、合成部113Lは、第1強度信号M1_Lにより決定される強度により局所階調変換処理(空間視覚処理)が施されたL画像信号Loutを取得する。そして、合成部113Lは、取得したL画像信号Loutを出力する。
以上のようにして、L画像用画像補正部104Lが構成される。
なお、R画像用画像補正部104Rは、L画像用画像補正部104Lと同様の構成を有しており、入力される信号が、R画像信号およびRデプス情報である点だけが、L画像用画像補正部104Lとは相違する。
<1.2:立体撮像装置の動作>
以上のように構成された立体撮像装置1000の動作について、以下、説明する。
図5は、背景を含む被写体のシーンと、立体撮像装置1000の2つの撮像部(第1撮像部101Rおよび第2撮像部101L)との位置関係を上から見た図である。
被写体201は背景の壁、被写体202は人物の様な主被写体、被写体203は柱の様な従被写体であるものとする。主被写体202および従被写体203は、図5に示すように、いずれも、上から見たときに所定の幅を有する略楕円形のオブジェクトであるものとする。
以下では、立体撮像装置1000により、図5に示す被写体シーンを撮像する場合を例として、立体撮像装置1000の動作について、説明する。
第1撮像部101Rおよび第2撮像部101Lは、立体撮像装置1000において、立体画像(左眼用画像および右眼用画像)を取得できるように、基線長(ステレオベース長)分(図5の距離SB1)だけ離して配置されている。
ここでは説明を簡単にするため、従被写体203が存在する距離(図中の点線L1)で光軸が交差するように輻輳角が設定されているものとする。即ち、点線に示す距離の被写体(図5に示す被写体距離D1の被写体)は、第2撮像部101Lと第1撮像部101Rが撮影する画像には視差が付かず、図示しない表示スクリーン(仮想スクリーン)上に定位する。つまり、図5の被写体シーンを立体撮像装置1000により立体撮影して取得された立体画像を表示装置により立体表示させた場合、被写体距離D1の被写体は、表示装置の表示スクリーン上に定位する。
点線L1より手前にある主被写体202は、飛び出し方向の視差が付くため表示スクリーンの前方に定位する。そして、背景201の被写体距離がD1より小さい部分(背景201の左側の一部)は、表示スクリーンの前方に定位し、背景201の被写体距離がD1より大きい部分(背景201の右側の部分)は、表示スクリーンの後方に定位する。
図5の被写体シーンを立体撮像装置1000で撮像した場合、第1撮像部101Rから出力された第1画像信号(R画像信号)および第2撮像部101Lから出力された第2画像信号(L画像信号)は、それぞれ、画像入力部102に入力され、画像入力部102によりデジタル信号に変換される。そして、デジタル信号に変換された第1画像信号(R画像信号)および第2画像信号(L画像信号)は、それぞれ、デプス取得部103および画像補正部104に出力される。
デプス取得部103では、第1画像信号(R画像信号)により形成される第1画像(R画像)および第2画像信号(L画像信号)から形成される第2画像(L画像)から、第1画像(R画像)用のデプス情報である第1デプス情報(Rデプス情報)および第2画像(L画像)用のデプス情報である第2デプス情報(Lデプス情報)が、例えば、視差マッチングにより、取得される。
ここで、視差マッチングによる第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)の取得方法について、図6を用いて説明する。
図6は、三角形のオブジェクトが奥に配置されており、円形のオブジェクトが手前に配置されている撮影シーンを立体撮像装置1000で立体撮影したときの立体画像を模式的に示す図である。図6(a)は、L画像(左眼用画像)を模式的に示した図であり、図6(b)は、R画像(右眼用画像)を模式的に示した図であり、図6(c)は、R画像およびL画像を1つの画像として重ねて表示させた図である。
視差マッチングによる第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)の取得方法は、例えば、以下の(1)〜(3)の処理を実行することで、実現される。
(1)まず、デプス取得部103は、L画像(左眼用画像)およびR画像(右眼用画像)を用いて、例えば、図6(a)のL画像上の点ALに対応する被写体A(図6の三角形の頂点)が、図6(b)のR画像上の点ARに対応していることを検出する。
(2)そして、検出した2つの点ALおよび点ARのずれ量(視差)Diff(A)を算出する。
なお、視差は、ずれ方向により、正負の符号を有するものとする。例えば、R画像上の点が、L画像上の点に対して左方向にずれている場合をプラスとし、逆の場合をマイナスとする。
例えば、図6の場合、被写体Aについての視差の絶対値がα(≧0)であるとすると、R画像上のAR点が、L画像上のAL点より右方向にずれているので、被写体Aについての視差を「−α」として算出する。そして、被写体B(図6の円の中心点)についての視差の絶対値がβ(≧0)であるとすると、R画像上のBR点が、L画像上のBL点より左方向にずれているので、被写体Bについての視差を「+β」として算出する。
(3)デプス取得部103は、(1)、(2)の処理を、画像上の全ての点(全ての画素)について行い、算出したずれ量(視差)を画素値とする視差画像を取得する。そして、L画像の各画素に算出した視差を画素値として取得した視差画像を、Lデプス情報(Lデプス情報画像(左眼画像用距離画像))とし、R画像の各画素に算出した視差を画素値として取得した視差画像を、Rデプス情報(Rデプス情報画像(右眼画像用距離画像))とする。
例えば、Lデプス情報(Lデプス情報画像(左眼画像用距離画像))では、図6(a)のL画像のAL点に相当する画素の値が、被写体Aの視差である−αとなり、Rデプス情報(Rデプス情報画像(右眼画像用距離画像))では、図6(b)のR画像のAR点に相当する画素の値が、被写体Aの視差である−αとなる。
なお、「距離画像」とは、各画素に、当該各画素に相当する被写体の実際の位置(3次元空間内の位置)と立体撮像装置1000の位置との距離に相関性のある値をマッピングした画像のことである。
なお、上記視差マッチングによる第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)の取得方法は、一例であり、これに限定されるものではない。例えば、上記と視差の符号の取り方を逆にしても構わない。また、デプス取得部103は、他の方法により、左眼画像用距離画像および右眼画像用距離画像を取得し、Lデプス情報およびRデプス情報を取得するものであってもよい。
以上のようにして取得されたLデプス情報およびRデプス情報は、それぞれ、画像補正部104に出力される。
≪自然な立体感強調について≫
ここで、立体画像における自然な立体感の強調について、図5の被写体シーンを立体撮影する場合を例に、説明する。
図5の位置的な説明は前述の通りである。
さらに、主被写体202は明るい色であり、従被写体203は暗い色であるとする。また主被写体202および従被写体203は、どちらも小振幅の明暗変化を有しているものとする。背景201は、立体撮像装置1000から見て、左手が前方、右手が後方にあるような湾曲した壁のようなものであり、主被写体202と従被写体203との中間的な明るさであり、少し大きめの明暗変化を有しているものとする。
図7は、第2撮像部101Lおよび第1撮像部101Rが撮影した立体画像(L画像およびR画像)の水平方向の位置と輝度との関係、および、立体画像(L画像およびR画像)の水平方向の位置とデプス情報との関係を示す図である。
具体的には、図7(a2)は、L画像における水平方向の位置と輝度との関係を示す図であり、図7(b2)は、R画像における水平方向の位置と輝度との関係を示す図である。図7の輝度分布を持つ立体画像は、従来の立体撮像装置の出力画像に相当する。
また、図7(a1)は、第2撮像部101Lおよび第1撮像部101Rが撮影した立体画像(L画像およびR画像)を用いてデプス取得部103が取得したLデプス情報と水平方向との位置関係を示す図である。図7(b1)は、第2撮像部101Lおよび第1撮像部101Rが撮影した立体画像(L画像およびR画像)を用いてデプス取得部103が取得したRデプス情報とを水平方向との位置関係を示す図である。
なお、図7(a1)、(a2)において、横軸は水平方向の位置であり、縦軸はデプス値を示している。ここでは、デプス値は、近景である程(被写体距離が小さい程)、大きな値をとり、遠景である程(被写体距離が大きい程)、「0」に近い値をとるものとしている。
また、図7(a1)〜(b2)は、水平方向の位置を一致させた状態で図示されている。
なお、説明を簡単にするため、背景201、主被写体202、および、従被写体203は、凹凸が無い滑らかな表面に明暗の縞模様が描かれたものとして説明するが、このような被写体に限定されず、凹凸を有する任意の被写体であってもよい。また、主被写体202が明るく、従被写体203が暗いものとして説明するが、これに限定されることはなく、これらの被写体の明るさも任意でよい。
立体撮像装置1000の第1撮像部101Rおよび第2撮像部101Lは、従被写体203の被写体距離、つまり、図5示す被写体距離D1で、視差が無くなるように輻輳角が設定されているものとする。したがって、図5の撮影シーンを立体撮影して取得した立体画像を、ディスプレイ装置(立体画像表示装置)に表示すると、従被写体203が図示しないディスプレイスクリーン面上(立体画像表示装置の表示スクリーン面上)に定位され、主被写体202がディスプレイスクリーン面(立体画像表示装置の表示スクリーン面上)より手前に定位する。
図7(a1)、(a2)に示すL画像の水平位置におけるデプス値と輝度との関係から分かるように、第2撮像部101L(左眼用視点)から図5の被写体シーンを見た場合、従被写体203の左半分は主被写体202の影に隠れているため、主被写体202の位置(図7の細かい網掛け(図7の202で示す網掛け部分))と従被写体203の位置(図7の粗い網掛け(図7の203で示す網掛け部分))とは連続し、主被写体202と従被写体203との間に背景201は見えていない。
一方、図7(b1)、(b2)に示すR画像の水平位置におけるデプス値と輝度との関係から分かるように、第1撮像部101R(右眼用視点)から図5の被写体シーンを見た場合、主被写体202の位置と従被写体203の位置とは離れており、主被写体202と従被写体203との間に背景201が見える。
ここで、立体撮影して取得される立体画像の立体感・遠近感が不足する原因について考える。
図5の環境で立体撮影して取得される立体画像の立体感・遠近感が不足する場合として、例えば、以下の場合が挙げられる。
(1)第1撮像部101Rと第2撮像部101Lの間隔が短い状態で立体撮影して、立体撮影画像を取得した場合。
(2)被写体202、203、201の配置に対して、第1撮像部101Rおよび第2撮像部101Lの位置が遠い状態(被写体距離が大きい状態)で立体撮影して、立体撮影画像を取得した場合。
(3)立体画像を表示させる表示ディスプレイのサイズが小さい場合。
特に、近景から遠景までを見やすく立体撮影するためには、カメラ間隔(第1撮像部101Rと第2撮像部101Lの間隔)を狭くし(ステレオベース(基線長)を短くして)、両眼視差を小さくして撮影する必要があり、それが立体感不足の要因になることが多い。
上記のような要因により立体感が不足した立体画像に対して、陰影を強調すると立体感が増した様に認識されることがある。ここで、「陰影」とは、ある方向から照射される照明が被写体を照らす際に発生する被写体の明るさの変化のことを含む概念である。そして、例えば、被写体表面の角度により被写体の明るさが変化すると、被写体に陰影が生じる。これにより、人間は、被写体の形状や被写体の表面の凹凸を認識することができる。
したがって、この陰影(明るさの変化)を強調すると被写体の奥行の形状や凹凸の深さが増加したように感じさせることが出来ると考えられる。
陰影の強調(陰影強調処理)には、公知な種々の手法が存在するが、ここでは、視覚の明暗対比特性を画像処理的に強調することにより、自然なコントラスト強調が可能な局所コントラスト強調処理(例えば、国際公開公報W02005/027043号や国際公開公報WO2007/043460号に開示されている局所コントラスト強調処理(空間視覚処理))を用いるものを例にとって、陰影強調処理について、説明する。局所コントラスト強調処理を用いた陰影強調処理は、例えば、図3に示した局所階調変換部111L(111R)を用いて実現できる。
図8は、図5の被写体シーンを立体撮影して取得されたL画像とR画像のそれぞれに対して、前述の局所コントラスト強調処理を行った画質補正例を示す図である。
具体的には、図8(a)は、画質補正後のL画像における水平方向の位置と輝度との関係を示す図である。図8(b)は、画質補正後のR画像における水平方向の位置と輝度との関係を示す図である。図8(c)は、図8(b)に、さらに、周囲明度信号US_Lを重ねて表示させた図である。
L画像およびR画像に対して局所コントラスト強調処理を実行した結果、例えば、主被写体202内(図8の細かい網掛け部202内)の所定の箇所の輝度差は大きくなり、主被写体202の陰影が強調されている。例えば、局所コントラスト強調処理を実行する前の水平位置P1の輝度値と水平位置P2の輝度値との差をΔ1とし、局所コントラスト強調処理を実行した後の水平位置P1の輝度値と水平位置P2の輝度値との差をΔ2とすると、
Δ2>Δ1
となり、主被写体202の陰影が強調されていることが分かる。
このように、L画像およびR画像に対して局所コントラスト強調処理を実行することで、主被写体202のオブジェクトの内部(主被写体202の輪郭部分より内側の領域)については、凹凸が大きいように知覚されるため、見た目の立体感が改善されると予想される。
しかし、実際に局所コントラスト強調を行った画像を観察すると、確かに陰影が強調されているが、陰影以外の明暗差も同じく強調されている。そのため、局所コントラスト強調処理を行った立体画像(L画像およびR画像)は、画面全体にコントラストが強調されたメリハリのある画像にはなっているが、このことが必ずしも立体感・遠近感を増加させることにはならず、局所コントラスト強調処理を行った立体画像(L画像およびR画像)が立体感・遠近感を増加したようには見えない場合も多い。
その原因として、以下の(1)、(2)の原因が考えられる。
(1)遠景に対しても近景と同じようにコントラスト強調がなされている。
陰影による立体感の知覚(人間の知覚)は、本来、近くの被写体に対しては強く働き、遠くの被写体に対してはあまり働かない。このことを考慮せずに、上記局所コントラスト強調処理による陰影強調処理では、被写体距離に関係なく画像全体に対して均一に処理がなされている。そのため、図8中のAの部分(一点鎖線で囲こまれた部分)のコントラストが不自然に強調されている。その結果、立体画像に対して陰影を強調するために実行された処理が、その意図に反して、陰影の強調に見えない不自然な処理になったものと考えられる。
(2)オブジェクト間の領域に対してもコントラスト強調がなされている。
陰影は、被写体オブジェクトの膨らみや凹凸を表現するものであるにもかかわらず、上記局所コントラスト強調処理による陰影強調処理では、距離の異なるオブジェクト間の境界領域に輝度差があると、明暗対比効果を強めるように、当該距離の異なるオブジェクト間の境界領域に対して、コントラストを強調する処理がなされてしまう。例えば、図8中のBの部分(二点鎖線で囲まれた部分)(主被写体202と背景201との間の境界領域)において、コントラストを強調する処理がなされている。
そのため、本来陰影ではないオブジェクト間の色の違いが強調される。その結果、立体画像に対して陰影を強調するために実行された処理が、その意図に反して、陰影の強調に見えずに不自然な処理になったものと考えられる。図8では、主被写体202が暗い別の被写体203や背景201に隣接しているため、局所コントラスト強調処理により、明暗対比効果が強められるように処理がなされた結果、主被写体202の端の輝度が上昇し、被写体内の丸みを表現していた陰影(主被写体202の端の部分の被写体オブジェクトの丸みを表現していた部分(主被写体202の端の部分において、被写体オブジェクトの内側から外側に向かってなめらかに輝度が低下している部分)の陰影)が平坦になり立体感を損なう現象を発生させたと考えられる。
本実施形態の立体撮像装置1000は、上記原因(1)により発生する課題を解決し、立体画像における自然な立体感の強調処理を実現するものである。
(1.2.1:画像補正部104の動作)
次に、画像補正部104の動作について、説明する。
なお、L画像に対しては、Lデプス情報を用いて、L画像用画像補正部104Lにより処理が実行され、R画像に対しては、Rデプス情報を用いて、R画像用画像補正部104Rにより処理が実行されるが、その処理内容は同一であるため、以下では、主として、L画像用画像補正部104Lについて、説明する。
≪強度生成部112の動作≫
まず、L画像用画像補正部104Lの強度生成部112Lの動作について、説明する。
なお、R画像用画像補正部104Rの強度生成部112Rの動作についても、強度生成部112Lと同様である。
図7(a1)は、L画像における画素位置とデプス値(距離情報)との関係を示す図である。デプス値は、遠方であるほど(被写体距離が大きい程)小さい値を取り、近景である程(被写体距離が小さい程)、大きい値を取るものとする。
したがって、従被写体203のデプス値は、主被写体202のデプス値より小さく、右手の背景201のデプス値よりも大きい値をとる。
図2に示す強度生成部112Lでは、図9に示すように、入力されたLデプス情報に対して、線形または非線形な連続関数を用いた入出力変換により、第1強度信号M1_Lが生成される。強度生成部112Lにおける(Lデプス情報D(x,y))−(第1強度信号M1_L)の入出力変換特性は、例えば、図9に示すように、入力であるLデプス情報D(x,y)に対して出力である第1強度信号M1_Lの値(0≦M1_L≦1)が単調増加する特性とする。つまり、Lデプス情報D(x,y)が示す被写体距離が小さい(近景である)程、陰影強調処理(例えば、局所階調変換処理)が強くかかるように、強度生成部112Lにおける(Lデプス情報D(x,y))−(第1強度信号M1_L)の入出力変換特性を設定すればよい。
強度生成部112Lにより生成された第1強度信号M1(L画像用第1強度信号M1_L)は、合成部113Lに出力される。
なお、Rデプス情報についての強度生成部112Rの処理も、Lデプス情報についての強度生成部112Lの処理と同様である。
≪局所階調変換部111の動作≫
次に、L画像用画像補正部104Lの局所階調変換部111Lの動作について、説明する。
なお、R画像用画像補正部104Rの局所階調変換部111Rの動作についても、局所階調変換部111Lと同様である。
局所階調変換部111Lでは、入力されたL画像信号(L画像上の注目画素に相当)に対して、空間視覚処理による局所階調変換処理が実行される。具体的には、図3に示すように、局所階調変換部111Lの周囲明度検出部121により、注目画素の周辺画像領域の代表明度値(例えば、周辺画像領域の明度平均値(輝度平均値))が算出され、算出された代表明度値が、周囲明度信号US_Lとして、動的階調補正部122に出力される。
ここで、周囲明度検出部121による周囲明度信号US_Lの取得方法について、図面を用いて説明する。
図10は、周囲明度検出部121が、座標(x,y)(xは画像上のx座標であり、yは画像上のy座標である。)の着目画素の周囲の明度を抽出する範囲を説明するための図である。
局所階調変換部111Lが視覚特性にマッチした特性で局所コントラストを強調するためには、画像中のかなり広い領域(例えば、処理対象とする画像の大きさがXGA(1024×768)である場合、周辺画素の領域を80画素×80画素以上の大きさの領域に設定するのが好ましい。)の明度を抽出する必要がある。ここでは、横方向に2n+1画素(nは自然数)、縦方向に2m+1画素(mは自然数)の範囲を明度抽出範囲としている。また、周囲の明度の影響は、注目画素からの距離が大きくなる程小さくなることを鑑みると、周囲明度情報は、ガウシアンフィルタのように着目画素から遠ざかるにしたがって重みが少なくなるのが好ましい。
図11は、周囲の明度値を抽出する重み係数A(i,j)の一例を示すグラフである。ここで、iおよびjは、着目画素からの距離を示している。
上記重み係数を用いると、周囲明度Usは、次の(数式1)で算出できる。
Figure 0005909704
なお、上記(数式1)において、Is(x+i,y+i)は、座標(x+i,y+i)の画素の画素値(入力信号IS_L(あるいはIS_R)の輝度値に相当)である。
周囲明度検出部121では、注目画素(座標(x,y)の画素)について、上記(数式1)に相当する処理を実行することで、当該注目画素についての周囲明度Us(x,y)が算出される。そして、これを、画像を形成する全画素について行う。
周囲明度検出部121は、上記処理を行うことで、周囲明度信号US_L(あるいはUS_R)を生成し、生成した周囲明度信号US_L(あるいはUS_R)を動的階調補正部122に出力する。
動的階調補正部122では、周囲明度検出部121から出力された周囲明度信号US_Lに基づいて、入力されたL画像信号(L画像上の注目画素)に対して実行する階調変換特性が決定される。具体的には、周囲明度信号US_Lの値に従って、注目画素に階調変換を行うための階調変換特性曲線を、図4に示した階調変換特性曲線K1〜K8の中から選択、あるいは、階調変換特性曲線K1〜K8から補間処理等により導出することで、決定する。そして、動的階調補正部122により決定された階調変換特性曲線による階調変換を注目画素に対して行うことで、階調変換後のL画像信号がOS_Lとして取得される。そして、取得された階調変換後のL画像信号OS_Lは、合成部113Lに出力される。
≪合成部113の動作≫
合成部113Lでは、局所階調変換部111Lから出力された階調変換後のL画像信号OS_Lと、画像入力部102から出力されたL画像信号IS_L(階調変換処理が実行されていないL画像信号)とが、L画像用第1強度信号M1_Lの値に応じて合成される。
合成部113Lでは、
(1)被写体距離が遠く、デプス値が小さい程、L画像信号IS_Lの重みが大きくなるように合成され、
(2)被写体距離が近く、デプス値が大きい程、階調変換後のL画像信号OS_Lの重みが大きくなるように合成される。
合成部113Lでの合成の手法には、線形な内分を用いるのが簡便であるが、より複雑な非線形な手法を用いることも可能である。
ここで、線形な内分処理による合成部113Lでの合成の手法について、説明する。
強度生成部112Lにおける(Lデプス情報D(x,y))−(第1強度信号M1_L)の入出力変換特性は、例えば、図9に示すように、入力であるLデプス情報D(x,y)に対して出力である第1強度信号M1_Lの値(0≦M1_L≦1)が単調増加する特性とする。
そして、合成部113Lでは、第1強度信号M1_Lの値(0≦M1_L≦1)を内分比として、
Lout=M1_L×OS_L+(1−M1_L)×IS_L
により、L出力画像信号Loutを合成する。
つまり、上記のように、L画像信号IS_Lと、階調変換後のL画像信号OS_Lとを、内分比を第1強度信号M1_Lとして合成することで、
(1)被写体距離が遠く、デプス値が小さい程(第1強度信号M1_Lの値が「0」に近い程)、L画像信号IS_Lの重みが大きくなるように合成され、
(2)被写体距離が近く、デプス値が大きい程(第1強度信号M1_Lの値が「1」に近い程)、階調変換後のL画像信号OS_Lの重みが大きくなるように合成される。
合成部113Lが、上記のように動作することにより、画像補正部104では、(1)図12に示す細かな網がけ領域(主被写体202に相当する領域)については、画像信号に対して強く局所階調変換処理が実行され、(2)背景201の右手の部分(被写体距離が大きい(遠い)部分)については弱くしか局所階調変換処理が実行されない、もしくは、全く局所階調変換処理が実行されない。
さらに、合成部113Lが、上記のように動作することにより、画像補正部104では、図12の粗い網がけ領域(従被写体203に相当する領域)については、上記の中間レベルの強度(主被写体202に相当する領域に対する強度と、背景201の右手の部分(被写体距離が大きい(遠い)部分)に対する強度との中間レベルの強度)で、弱めに局所階調変換処理が実行される。
したがって、立体撮像装置1000では、上記のように処理を実行することで、(1)画像の局所的な濃淡変化が陰影によるものである度合いが大きい近景の被写体に対しては、局所コントラストの強調量を大きくすることができ、(2)濃淡変化が陰影によるものである度合いが小さい遠景の被写体に対しては、局所コントラストの強調量を小さくすることができる。
図8(従来技術による処理結果)と図12(本実施形態の立体撮像装置による処理結果)とを比較することで分かるように、遠方に位置する図中の領域Aについて、図12の領域Aでは、図8の領域Aと比較して、不要な局所コントラスト強調が抑えられていることが分かる。
つまり、立体撮像装置1000では、明暗の差が陰影により生じている確率の高い近景の被写体に対して、コントラストを強調することができるとともに、明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、コントラストを必要以上に強調することがない。
したがって、立体撮像装置1000により取得される立体画像は、陰影だけが自然に強調されたように知覚される立体画像となる。その結果、立体撮像装置1000により取得される立体画像は、自然な立体感の強調が実現された立体画像となる。
さらに、立体撮像装置1000により取得される立体画像は、遠景に対して近景のくっきり感が向上するため、遠景と近景のコントラスト感の違いが大きくなる。その結果、立体撮像装置1000により取得される立体画像は、遠近感の向上も同時に実現された立体画像となる。
[第2実施形態]
次に、第2実施形態について、説明する。
第2実施形態は、前述の第1実施形態の中で説明した、局所コントラスト強調を行っただけでは立体感・遠近感が増加したようには見えない原因(2)(オブジェクト間の領域に対してもコントラスト強調がなされることによる原因)を解決することを目的としている。説明を簡単にするため、第1実施形態で説明した原因(1)(遠景に対しても近景と同じようにコントラスト強調がなされることによる原因)により発生する課題を解決することについては、本実施形態では、説明を省略する。
第2実施形態における立体撮像装置は、第1実施形態の立体撮像装置1000と同様、第1撮像部101R、第2撮像部101L、画像入力部102、およびデプス取得部103を備えており、これらの機能部については、図1に示す第1実施形態のものと同様であるため、説明を省略する。
第2実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000の画像補正部104を、図13に示す画像補正部504に置換した構成である。そして、この点のみが、第2実施形態の立体撮像装置と第1実施形態の立体撮像装置1000との相違点である。
それ以外については、第2実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000と同様であるので、詳細な説明は省略する。
画像補正部504は、図13に示すように、第2のL画像用画像補正部504Lと、第2のR画像用画像補正部504Rとを備える。
画像補正部504Lは、第2デプス情報(Lデプス情報)に基づいて、第2画像信号(L画像信号)に補正処理を行い、補正処理後の第2画像信号(L画像信号)を出力する。
第2のR画像用画像補正部504Rは、第1デプス情報(Rデプス情報)に基づいて、第1画像信号(R画像信号)に補正処理を行い、補正処理後の第1画像信号(R画像信号)を出力する。
なお、本実施形態の立体撮像装置において、デプス情報は上記のように第1デプス情報(Rデプス情報)と第2デプス情報(Lデプス情報)の両方が得られると好適であるが、いずれか一方のみから間接的に他方を得ることも可能であるため、必ずしもふたつのデプス情報が必要なわけではない。
なお、L画像用の処理と、R画像用の処理とは、同様の処理であるため、以下では、L画像用の処理についてのみ説明する。
第2のL画像用画像補正部504Lは、図13に示すように、第2の局所階調変換部511Lを備える。
第2の局所階調変換部511Lは、図13に示すように、デプス周囲明度検出部521と、動的階調補正部122とを備える。
動的階調補正部122は、第1実施形態のものと同じである。
デプス周囲明度検出部521は、L画像信号(IS_L)を入力とし、注目画素(L画像上の処理対象画素)の周囲の領域の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出するものであるが、上記代表明度値の算出においてL画像のデプス情報を参照するところが、第1実施形態における周囲明度検出部121と異なる点である。
デプス周囲明度検出部521は、着目画素の周囲の画素値を図11に示すような重み付けを行い積算する際、(1)周囲の画素のデプス値と着目画素のデプス値との差が小さい場合(周囲の画素に対応する被写体と着目画素対応する被写体との距離が近い場合)、大きな重み係数を取り、(2)周囲の画素のデプス値と着目画素のデプス値との差大きい場合(周囲の画素に対応する被写体と着目画素対応する被写体との距離が遠い場合)、小さな重み係数を取るようにして、代表明度値の算出を行う。
デプス周囲明度検出部521において、上記のように処理することで、定性的には、注目画素とデプスが離れている画素(着目画素のデプス値との差が大きいデプス値を有する画素)は、代表明度値(例えば、重み付け平均値)に含まれにくくなる。このため、注目画素の周囲の領域の代表明度値(ここでは平均輝度値)は、図10のフィルタ範囲の中でデプス値の離れている画素を除いた(デプス値の離れている画素の影響を小さくした)値(平均値(重み付け平均値))となる。
図14は、上記重み係数を算出するための関数の一例を示すグラフである。図14において、横軸は、周囲の画素のデプス値と着目画素のデプス値との差kを示している。縦軸は、注目画素の周囲の画素に対する重み係数の値F(k)を示している。
デプス周囲明度検出部521は、上記重み係数値を算出する関数Fを用いて、次式に相当する処理を行うことで、注目画素(座標(x,y)の画素)の周辺画像領域の代表明度値を算出する。
Figure 0005909704
そして、デプス周囲明度検出部521は、(上式)により算出した値Us(x,y)を、周囲明度信号US_Lとして、動的階調補正部122に出力する。
ここで、デプス周囲明度検出部521における上記(数式2)に相当する処理について、図15を用いて、説明する。
図15は、デプス周囲明度検出部521における上記(数式2)に相当する処理を説明するフローチャートである。以下では、図10のフィルタ範囲(y−m≦y≦y+m、x−n≦x≦x+nの領域)を周辺画像領域として、(数式2)の代表明度値Us(x,y)を算出する場合について、図15のフローチャートを用いて、説明する。
(S101):
S101において、デプス周囲明度検出部521は、初期値を設定する。具体的には、(数式2)の分子の各項に相当するBunsi、(数式2)の分母の各項に相当するBunboに「0」を設定する。また、j=−m、i=−n(m、n:自然数)に設定する。
(S102):
S102において、デプス周囲明度検出部521は、注目画素(座標(x,y)の画素)のデプス値D(x,y)(デプス取得部103により取得されたデプス値D(x,y))を取得する。
(S103):
S103において、デプス周囲明度検出部521は、例えば、図11に示した特性を示す関数A(i,j)により、A(i,j)の値を取得する。
(S104):
S104において、デプス周囲明度検出部521は、座標(x+i,y+j)の画素の入力画像信号の値(L画像の場合、信号IS_Lの座標(x+i,y+j)の画素に相当する信号値)を取得する。
(S105):
S105において、デプス周囲明度検出部521は、座標(x+i,y+j)の画素のデプス値D(x+i,y+j)を取得する。
(S106):
S106において、デプス周囲明度検出部521は、例えば、図14に示した関数F(k)を用いて、F(D(x+i,y+j)−D(x,y))を算出する。
(S107):
S107において、デプス周囲明度検出部521は、(数式2)の分子の各項に相当するBunsiを積算する。具体的には、デプス周囲明度検出部521は、
Bunshi=Bunshi+A(i,j)・F(D(x+i,y+j)−D(x,y))・Is(x+i,y+j)
により、(数式2)の分子の各項に相当するBunsiの積算処理を行う。
(S108):
S108において、デプス周囲明度検出部521は、(数式2)の分母の各項に相当するBunboを積算する。具体的には、デプス周囲明度検出部521は、
Bunbo=Bunbo+A(i,j)・F(D(x+i,y+j)−D(x,y))
により、(数式2)の分母の各項に相当するBunboの積算処理を行う。
(S109、S110):
S108において、デプス周囲明度検出部521は、iの値をインクリメントし(「1」加算し)、S109において、iの値がn以下であるか否かを判定する。
iの値がn以下である場合、S103に戻り、S103〜S108の処理を繰り返す。
iの値がn以下ではない場合、S111へ処理を進める。
(S111、S112):
S111において、デプス周囲明度検出部521は、jの値をインクリメントし(「1」加算し)、S112において、jの値がm以下であるか否かを判定する。
jの値がm以下である場合、S103に戻り、S103〜S110の処理を繰り返す。
jの値がm以下ではない場合、S113へ処理を進める。
(S113):
S113において、デプス周囲明度検出部521は、
Us(x,y)=Bunshi/Bunbo
により、代表明度値Us(x,y)を算出する。
以上により、デプス周囲明度検出部521は、(数式2)に相当する処理を実行することができる。そして、デプス周囲明度検出部521は、上記処理により算出した値Us(x,y)を、周囲明度信号US_Lとして、動的階調補正部122に出力する。
このデプス周囲明度検出部521が出力する周囲明度信号US_Lは、定性的には、注目画素のデプス値と近いデプス値を持つ被写体の中での輝度の平均値になると考えられる。つまり、デプス周囲明度検出部521が出力する周囲明度信号US_Lの値は、注目画素に対応する3次元空間内の点と被写体距離がほぼ等しい領域であって、L画像(R画像)上において、当該注目画素の周辺に存在する領域に相当する画素(周辺画素)の画素値(輝度値)の平均値に近い値となると考えられる。
したがって、本実施形態の立体撮像装置では、デプス値の異なる背景(被写体距離が異なる背景)が暗かった場合であっても、周囲明度信号US_Lには、当該背景の暗さは含まれにくい(当該背景の暗さによる影響を受けにくい)。その結果、本実施形態の立体撮像装置では、主被写体の明るさと背景の暗さとの明暗対比を強めるようにコントラスト強調処理がなされることはなく、主被写体が不必要に明るくなることを適切に防止することができる。なお、本実施形態の立体撮像装置では、例えば、主被写体に対して、背景が明るい場合でも、上記と同様に、背景の影響を受けにくい。
ここで、図8(従来技術による処理結果)と図16と(本実施形態の立体撮像装置による処理結果)とを比較することで分かるように、デプス差が大きいBの領域について、図16の領域Bでは、図8の領域Bと比較して、デプス差を伴う明暗差の強調が抑えられていることがわかる。
(図16(a3)は、図16(a2)に、周囲明度信号US_Lを重ねて表示させた図であるが、図16(a3)の周囲明度信号US_Lは、図8(c)の周囲明度信号US_Lと異なり、領域Bにおいて、適切な値の信号となっていることが分かる。)
つまり、本実施形態の立体撮像装置では、立体画像上において、主被写体202を形成する画像領域に対して、距離(被写体距離)の異なる背景の明暗の影響を受けてコントラスト強調がなされることを適切に回避することができる。そして、本実施形態の立体撮像装置では、本当に陰影による明暗差を中心とした陰影の強調が実現できることになり、その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
[第3実施形態]
第1実施形態では、局所コントラストの強調が自然な陰影の強調に繋がらない原因(1)(遠景に対しても近景と同じようにコントラスト強調がなされることによる原因)により発生する課題についての解決手段(解決方法)について説明した。
また、第2実施形態では、局所コントラストの強調が自然な陰影の強調に繋がらない原因(2)(オブジェクト間の領域に対してもコントラスト強調がなされることによる原因)により発生する課題についての解決手段(解決方法)について説明した。
自然な陰影の強調により立体感の自然な強調を行うためには、立体撮像装置が、第1実施形態で示した解決手段(解決方法)と第2実施形態で示した解決手段(解決方法)の両方を実現する構成を備えることが最良であることは明らかである。
また、そのためには、図2に示す第1実施形態の構成の局所階調変換部111(111L、111R)を第2実施形態における第2の局所階調変換部511(511L、511R)に置き換えるだけでよい。なお、この場合、置換後の第2の局所階調変換部511(511L、511R)には、Lデプス情報およびRデプス情報を入力させる。
本実施形態の立体撮像装置は、第1実施形態で示した解決手段(解決方法)と第2実施形態で示した解決手段(解決方法)の両方を実現する構成を備える。そして、本実施形態の立体撮像装置は、図2に示す第1実施形態の構成の局所階調変換部111(111L、111R)を第2実施形態における第2の局所階調変換部511(511L、511R)に置換し、置換後の第2の局所階調変換部511(511L、511R)には、Lデプス情報およびRデプス情報が入力される構成である。
図17は、第3実施形態の立体撮像装置による処理結果である。
図17から分かるように、第3実施形態の立体撮像装置では、(1)明暗に対する陰影の占める割合が少ない遠方の領域(例えば領域Aなど)の局所コントラスト強調を適切に抑えることができるだけでなく、(2)大きなデプス差を有する領域(領域Bなど)においても、デプス差を伴う明暗差の強調が適切に抑えることができる。
これにより、第3実施形態の立体撮像装置では、陰影に起因しない明暗差は強調しないで、陰影に起因する明暗差を選択的に(適切に)強調することが可能になるため、極めて自然な陰影強調を実現することができる。その結果、第3実施形態の立体撮像装置により取得される立体画像は、極めて自然な立体感の強調が実現された立体画像となる。
[第4実施形態]
次に、第4実施形態について、説明する。
本実施形態では、陰影を濃くする立体画像処理を実現する技術について、説明する。
前述の実施形態の技術では、明暗対比を強調する技術であるので、陰影も強調されるが、陰影以外の明るさも強調されてしまう。
本願発明者らは、立体画像において、立体感・遠近感を自然に強調するためには(自然な立体感・遠近感を実現するためには)、陰影部分のみを強調することが効果的であることを見出した。
立体感を高めるためには、できるだけ自然な陰影を強調するのが望ましい。立体感(凹凸)の高さを拡大して感じるためには、オブジェクト表面の凹凸により生じる陰影の量だけを強調するのが、自然で効果が大きい。
前述の実施形態で説明した局所コントラストを強調する手法は、明暗対比を強調する手法であるから、陰影も強調されるのは確かであるが、陰影以外の部分も強調されてしまう。例えば、局所コントラストを強調する手法では、局所的な光の強弱が強調されるため、影の強調だけで無く、明るさも強調されてしまう。また、局所コントラストを強調する手法では、オブジェクト表面の色の変化や明暗の変化(反射率の変化)など、陰影とは関係の無い要素も強調される。そのため、局所コントラストを強調する手法により取得された立体画像は、人間が見ると陰影の強調に見えず、立体感の増加と言うより単にシーン全体をくっきりさせた様にしか見えない傾向がある。
そこで、本実施形態では、上記に鑑み、陰影部分を選択的に強調することで(陰影を濃くする立体画像処理を行うことで)、より自然な立体感・遠近感を実現する立体画像を取得することができる立体画像処理技術について、説明する。
なお、第4実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第4実施形態の立体撮像装置の構成は、第1実施形態の立体撮像装置1000の構成と同様である。
第4実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000における画像補正部104の局所階調変換部111Lおよび111Rを、局所階調変換部111ALおよび111ARに置換した構成を有する。この点において、第4実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000と相違する。その他の点については、第4実施形態の立体撮像装置は、第1実施形態の立体撮像装置と同様である。
したがって、以下では、本実施形態の立体撮像装置における局所階調変換部111ALおよび111ARの構成および処理内容について、説明する。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
<4.1:局所階調変換部111AL>
局所階調変換部111ALは、図18に示すように、周囲明度検出部121と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
周囲明度検出部121は、上述の実施形態の周囲明度検出部121と同様のものである。周囲明度検出部121は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、減算器1601に出力する。
減算器1601は、L画像信号の輝度値IS_Lおよび周囲明度信号US_Lを入力とし、
(IS_L)−(US_L)
に相当する減算処理を行い、減算処理により取得した差分信号((IS_L)−(US_L))を係数決定部1602および乗算器1603に出力する。
係数決定部1602は、差分信号((IS_L)−(US_L))を入力とし、当該差分信号の値に従い、以下の処理を行う。
(1)差分信号((IS_L)−(US_L))の信号値が負である場合(IS_L<US_Lの場合)、k=k1に設定し、設定した係数k(=k1)を乗算器1603に出力する。
(2)差分信号((IS_L)−(US_L))の信号値が負ではない場合(IS_L≧US_Lの場合)、k=k2(ただし、k2<k1)に設定し、設定した係数k(=k2)を乗算器1603に出力する。
乗算器1603は、周囲明度検出部121から出力される差分信号((IS_L)−(US_L))および係数決定部1602から出力される係数kを入力とし、
k×((IS_L)−(US_L))
に相当する乗算処理を行い、当該乗算処理により取得された乗算信号(k×((IS_L)−(US_L)))を加算器1604に出力する。
加算器1604は、L画像信号の輝度値IS_Lおよび乗算器1603から出力される乗算信号(k×((IS_L)−(US_L)))を入力とし、両者を加算することで、補正後の輝度値Os_Lを取得する。すなわち、加算器1604は、
OS_L=IS_L+k×((IS_L)−(US_L))
に相当する処理を行い、補正後の輝度値OS_Lを取得する。
以上の通り、局所階調変換部111ALでは、
(1)差分信号((IS_L)−(US_L))の信号値が負である場合(IS_L<US_Lの場合)、
OS_L=IS_L+k1×((IS_L)−(US_L))
に相当する処理が実行され、補正後の輝度値OS_Lが取得される。
(2)差分信号((IS_L)−(US_L))の信号値が負ではない場合(IS_L≧US_Lの場合)、
OS_L=IS_L+k2×((IS_L)−(US_L))
(ただし、k2<k1)
に相当する処理が実行され、補正後の輝度値Os_Lが取得される。
つまり、上記処理では、
(1)処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より暗い場合、係数kの値を大きな値k1(>k2)に設定し、アンシャープマスキングの強調度合いを強くし、
(2)処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より明るい場合、係数kの値を小さな値k2(<k1)に設定し、アンシャープマスキングの強調度合いを弱くする。
これにより、本実施形態の立体画像処理装置において、陰影を濃くする画像処理を実現することができる。
つまり、本実施形態の立体画像処理装置において、処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より暗い場合、係数kの値が大きな値k1(>k2)に設定されるので、処理対象画素が含まれる画像領域の変化分((IS_L)−(US_L))の加算される量が多くなる。このため、アンシャープマスキングの強調度合いが強くなる。その結果、立体画像の陰影部分が強調されることになる(陰影が濃くなるように立体画像処理が実行されることになる)。(本実施形態の立体画像処理装置のL画像補正部104Lにおいて、陰影部分が強調された補正後の輝度値OS_Lを用いて、処理が実行されることになるため、立体画像の陰影部分が強調されることになる。)
一方、本実施形態の立体画像処理装置において、処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より明るい場合、係数kの値が小さい値k2(<k1)に設定されるので、処理対象画素が含まれる画像領域の変化分((IS_L)−(US_L))の加算される量が少なくなる。このため、アンシャープマスキングの強調度合いが弱くなる(アンシャープマスキングの効果が弱くなる)。その結果、立体画像の陰影以外の部分(例えば、明るい部分)があまり強調されない。
なお、上記処理の(2)の場合において、係数kの値を「0」に設定することで、アンシャープマスキングの効果を「なし」にすることができる。すなわち、この場合、処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より暗い場合のみ、アンシャープマスキング処理が実行されることになり、本実施形態の立体画像処理装置において、処理対象画素の画素値を暗くする方向の処理のみが実行されることになる(陰影部分を強調する処理が実行されることになる)。
なお、上記処理において、係数決定部1602では、図19に示す特性C1701により、係数kが決定されるが、これに限定されることはなく、例えば、係数決定部1602は、図19に示す特性C1702により、係数kを決定するようにしてもよい(差分信号の値(IS_L−US_L)の変化に対して、連続的に係数kを変化させるようにしてもよい)。係数決定部1602が、図19に示す特性C1702により、係数kを決定する場合、差分信号の値(IS_L−US_L)の変化に対して、係数kが連続的に変化するため、本実施形態の立体画像処理装置において、より自然な画質の立体画像を取得することができる。
以上の通り、本実施形態の立体画像処理装置では、陰影を濃くする画像処理を実現することができる。これにより、本実施形態の立体画像処理装置により取得された立体画像は、陰影部分を選択的に強調した立体画像となる。その結果、本実施形態の立体画像処理装置により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本実施形態の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
≪第1変形例(第4実施形態)≫
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第4実施形態の立体撮像装置における局所階調変換部111ALおよび111ARを、図20に示す局所階調変換部111BLおよび111BRに、置換した構成を有する。より具体的には、本変形例の立体撮像装置は、第4実施形態の立体撮像装置における局所階調変換部111ALおよび111ARの周囲明度検出部121を、図20に示す第2周囲明度検出部1801に置換した構成を有する。
それ以外については、本変形例の立体撮像装置は、第4実施形態の立体撮像装置と同様である。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111BLおよび111BRの構成および処理内容について、説明する。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
<4.2:局所階調変換部111BL>
図20に示すように、局所階調変換部111BLは、第2周囲明度検出部1801と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
減算器1601と、係数決定部1602と、乗算器1603と、加算器1604とについては、第4実施形態のものと同様のものである。
第2周囲明度検出部1801は、図20に示すように、周囲明度検出部121と、オフセット算出部1802と、加算器1803と、を備える。
図20に示す周囲明度検出部121は、図18に示す周囲明度検出部121と同様のものである。
オフセット算出部1802は、L画像信号の輝度値IS_Lおよび周囲明度検出部121から出力される周囲明度信号US_Lを入力とし、L画像信号の輝度値IS_Lおよび周囲明度信号US_Lからオフセット値ΔUS_Lを算出する。そして、オフセット算出部1802は、算出したオフセット値ΔUS_Lを加算器1803に出力する。
オフセット算出部1802は、オフセット値ΔUS_Lを、例えば、以下のようにして、算出する。
(A)差分絶対値の平均値
オフセット算出部1802は、サンプル数をN(Nは自然数)として、L画像信号の輝度値IS_Lと、周囲明度信号US_Lとの差分絶対値の平均値を算出する。そして、オフセット算出部1802は、算出した当該平均値をオフセット値ΔUS_Lとする。すなわち、オフセット算出部1802は、下記(数式3)に相当する処理(サンプル数はN(N:自然数))により、オフセット値ΔUS_Lを算出する。なお、後段の信号処理で使用しやすくするために、下記(数式3)のように、係数c1により、オフセット値のレンジを調整し、オフセット値ΔUS_Lを求めるようにしてもよい。また、下記(数式3)では、L画像用の処理およびR画像用の処理を区別せずに、一般的な数式と表現している。つまり、L画像用の処理の場合、下記(数式3)において、ΔUS=ΔUS_L、IS=IS_L、US=US_Lであり、R画像用の処理の場合、下記(数式3)において、ΔUS=ΔUS_R、IS=IS_R、US=US_Rである(下記(数式4)、(数式5)についても同様)。
Figure 0005909704
(B)分散値
オフセット算出部1802は、サンプル数をN(Nは自然数)として、L画像信号の輝度値IS_Lと、周囲明度信号US_Lとの分散値を算出する。そして、オフセット算出部1802は、算出した当該分散値をオフセット値ΔUS_Lとする。すなわち、オフセット算出部1802は、下記(数式4)に相当する処理(サンプル数はN(N:自然数))により、オフセット値ΔUS_Lを算出する。なお、後段の信号処理で使用しやすくするために、下記(数式4)のように、係数c2により、オフセット値のレンジを調整し、オフセット値ΔUS_Lを求めるようにしてもよい。
Figure 0005909704
(C)標準偏差値
オフセット算出部1802は、サンプル数をN(Nは自然数)として、L画像信号の輝度値IS_Lと、周囲明度信号US_Lとの標準偏差値を算出する。そして、オフセット算出部1802は、算出した当該標準偏差値をオフセット値ΔUS_Lとする。すなわち、オフセット算出部1802は、下記(数式5)に相当する処理(サンプル数はN(N:自然数))により、オフセット値ΔUS_Lを算出する。なお、後段の信号処理で使用しやすくするために、下記(数式5)のように、係数c3により、オフセット値のレンジを調整し、オフセット値ΔUS_Lを求めるようにしてもよい。
Figure 0005909704
なお、上記(数式3)〜(数式5)による演算処理のサンプル対象(N個のサンプルの対象)は、画像領域において、処理対象画素の近傍に存在するN個の画素とすることが好ましい。
加算器1803は、周囲明度検出部121から出力される周囲明度信号US_Lおよびオフセット算出部1802から出力されるオフセット値ΔUS_Lを入力とし、周囲明度信号US_Lおよびオフセット値ΔUS_Lを加算する。そして、加算器1803は、加算結果(US_L+ΔUS_L)を補正周囲明度信号US_L’として、減算器1601に出力する。
このようにして取得された補正周囲明度信号US_L’は、
(1)L画像信号の輝度値IS_Lの変化の少ない部分(画像領域)では、周囲明度信号US_Lと同様の値となるが、
(2)L画像信号の輝度値IS_Lの変化の大きい部分(画像領域)では、周囲明度信号US_Lよりも大きな値(大きな値の信号値)となる。
例えば、図21(b)に示すように、L画像信号の輝度値IS_Lが図21(b)の波形Isであった場合、補正周囲明度信号US_L’は、波形Us’となる。図21(b)から分かるように、補正周囲明度信号US_L’(波形Us’)は、
(1)L画像信号の輝度値IS_L(波形Is)の変化の少ない部分(画像領域)では、周囲明度信号US_L(波形Us)と同様の値となるが、
(2)L画像信号の輝度値IS_L(波形Is)の変化の大きい部分(画像領域)では、周囲明度信号US_L(波形Us)よりも大きな値(大きな値の信号値)となることが分かる。
そして、本変形例の立体撮像装置では、第4実施形態での処理と同様の処理を、補正周囲明度信号US_L’を用いて行う。
つまり、本変形例の局所階調変換部111BLでは、
(1)差分信号((IS_L)−(US_L’))の信号値が負である場合(IS_L<US_L’の場合)、
OS_L=IS_L+k1×((IS_L)−(US_L’))
に相当する処理が実行され、補正後の輝度値OS_Lが取得される。
(2)差分信号((IS_L)−(US_L’))の信号値が負ではない場合(IS_L≧US_L’の場合)、
OS_L=IS_L+k2×((IS_L)−(US_L’))
(ただし、k2<k1)
に相当する処理が実行され、補正後の輝度値Os_Lが取得される。
つまり、上記処理では、
(1)処理対象画素の明るさ(輝度値)が、補正周囲明度信号US_L’で決定される明るさより暗い場合、係数kの値を大きな値k1(>k2)に設定し、アンシャープマスキングの強調度合いを強くし、
(2)処理対象画素の明るさ(輝度値)が、補正周囲明度信号US_L’で決定される明るさより明るい場合、係数kの値を小さな値k2(<k1)に設定し、アンシャープマスキングの強調度合いを弱くする。
これにより、本変形例の立体画像処理装置において、陰影を濃くする画像処理を実現することができる。
なお、上記処理の(2)の場合において、係数kの値を「0」に設定することで、アンシャープマスキングの効果を「なし」にすることができる。すなわち、この場合、処理対象画素の明るさ(輝度値)が、補正周囲明度信号US_L’で決定される明るさより暗い場合のみ、アンシャープマスキング処理が実行されることになり、本変形例の立体画像処理装置において、処理対象画素の画素値を暗くする方向の処理のみが実行されることになる(陰影部分を強調する処理が実行されることになる)。
なお、上記処理において、係数決定部1602では、図22に示す特性C2001により、係数kが決定されるが、これに限定されることはなく、例えば、係数決定部1602は、図22に示す特性C2002により、係数kを決定するようにしてもよい(差分信号の値(IS_L−US_L’)の変化に対して、連続的に係数kを変化させるようにしてもよい)。係数決定部1602が、図22に示す特性C2002により、係数kを決定する場合、差分信号の値(IS_L−US_L’)の変化に対して、係数kが連続的に変化するため、本変形例の立体画像処理装置において、より自然な画質の立体画像を取得することができる。
ここで、本変形例の立体画像処理装置により取得される補正後の輝度値Os_Lについて、図21を用いて、説明する。
図21(a)は、L画像信号の輝度値IS_L(波形Is)と、周囲明度信号US_L(波形Us)と、局所階調変換処理(コントラスト強調処理)を行うことで取得した補正後の輝度値OS_L(波形Os)を示している。
図21(b)は、L画像信号の輝度値IS_L(波形Is)と、補正周囲明度信号US_L’(波形Us’)と、局所階調変換処理(コントラスト強調処理)を行うことで取得した補正後の輝度値OS_L(波形Os’)を示している。つまり、図21(b)は、本変形例の立体画像処理装置による信号波形の一例を示している。
図21から分かるように、本変形例の立体画像処理装置では、L画像信号の輝度値IS_L(波形Is)の変化の大きい部分において、補正周囲明度信号US_L’(波形Us’)の信号値が大きくなるので、補正周囲明度信号US_L’の信号値より低い信号値を持つL画像信号の輝度値IS_L(波形Is)に対して、アンシャープマスキング処理の強調度合いが大きくなる。その結果、図21(b)に示すように、L画像信号の輝度値IS_L(波形Is)の変化の大きい部分において、暗くなる方向への処理(階調値を低くする処理)が実行される。これにより、本変形例の立体画像処理装置では、例えば、オブジェクトのディテール部分における陰影部分を効果的に強調することができる(当該ディテール部分の陰影を効果的に濃くすることができる)。
以上の通り、本変形例の立体画像処理装置では、補正周囲明度信号US_L’を用いることで、オブジェクトのディテール部分等において、効果的に陰影を濃くする画像処理を実現することができる。これにより、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本変形例の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
≪第2変形例(第4実施形態)≫
次に、本実施形態の第2変形例について、説明する。
本変形例の立体撮像装置は、第4実施形態の第1変形例の立体撮像装置の第2周囲明度検出部1801を、図23に示す第3周囲明度検出部2101に置換した構成を有する。
それ以外については、本変形例の立体撮像装置は、第4実施形態の第1変形例の立体撮像装置と同様である。
したがって、以下では、本変形例の立体撮像装置における第3周囲明度検出部2101の構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
<4.3:第3周囲明度検出部2101>
第3周囲明度検出部2101では、第2周囲明度検出部1801とは異なり、周囲明度信号US_Lを用いることなく、L画像信号の輝度値IS_Lの変化の大きい部分において、大きな信号値となる補正周囲明度信号US_L’を取得する。
図23に示すように、第3周囲明度検出部2101は、第1ローパスフィルタ2102と、マックスフィルタ2103と、第2ローパスフィルタ2104と、を備える。
第1ローパスフィルタ2102は、L画像信号の輝度値IS_Lを入力とし、入力されたL画像信号の輝度値IS_Lから、細かいノイズ成分(高周波ノイズ成分)を除くためのフィルタ処理(ローパスフィルタ処理)を実行する。そして、第1ローパスフィルタ2102は、当該フィルタ処理後のL画像信号をマックスフィルタ2103に出力する。
マックスフィルタ2103は、第1ローパスフィルタ2102の出力を入力とし、マックスフィルタ処理を実行する。具体的には、マックスフィルタ2103は、第1ローパスフィルタ2102の出力(ローパスフィルタ処理後のL画像信号)に対して、処理対象画素および当該処理対象画素の近傍に存在するN個(Nは自然数)の周辺画素(サンプル点)について、その画素値が最大のものを検出する。そして、マックスフィルタ2103は、検出した当該最大値を第2ローパスフィルタ2104に出力する。
第2ローパスフィルタ2104は、マックスフィルタ2103からの出力を入力とし、入力された信号に対して、ローパスフィルタ処理を行う。第2ローパスフィルタ2104でのローパスフィルタ処理は、マックスフィルタ2103の出力において不要な高周波成分を除くための処理である。そして、第2ローパスフィルタ2104は、ローパスフィルタ処理後の信号を、補正周囲明度信号US_L’として出力する。
上記のように、第3周囲明度検出部2101では、細かいノイズ成分を除去した後の信号(第1ローパスフィルタ2102の出力信号)から所定のフィルタ範囲(処理対象画素およびその周辺画素により決定されるフィルタ範囲)における最大値をとり、当該最大値を信号値とする信号(マックスフィルタ2103の出力信号)を取得する。さらに、第3周囲明度検出部2101では、マックスフィルタ2103の出力信号から不要な高周波成分を除去することで、補正周囲明度信号US_L’を取得する。
したがって、第3周囲明度検出部2101では、周囲明度信号US_Lを用いることなく、L画像信号の輝度値IS_Lだけを用いて、L画像信号の輝度値IS_Lの変化の大きい部分において、大きな信号値となる補正周囲明度信号US_L’を取得することができる。
そして、本変形例の立体撮像装置において、第3周囲明度検出部2101により取得された補正周囲明度信号US_L’を用いることで、第4実施形態の第1変形例と同様、オブジェクトのディテール部分等において、効果的に陰影を濃くする画像処理を実現することができる。これにより、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本変形例の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
[第5実施形態]
次に、第5実施形態について、説明する。
本実施形態においても、陰影を濃くする立体画像処理を実現する技術について、説明する。
なお、第5実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第5実施形態の立体撮像装置の構成は、第1実施形態の立体撮像装置1000の構成と同様である。
第5実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000における画像補正部104の局所階調変換部111Lおよび111Rを、図24に示す局所階調変換部111CLおよび111CRに置換した構成を有する。この点において、第5実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000と相違する。その他の点については、第5実施形態の立体撮像装置は、第1実施形態の立体撮像装置と同様である。
したがって、以下では、本実施形態の立体撮像装置における局所階調変換部111CLおよび111CRの構成および処理内容について、説明する。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
なお、上述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
<5.1:局所階調変換部111CL>
局所階調変換部111CLは、図24に示すように、周囲明度検出部121と、第2動的階調補正部122Aと、を備える。
周囲明度検出部121は、上述の実施形態の周囲明度検出部121と同様のものである。周囲明度検出部121は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、第2動的階調補正部122Aに出力する。
第2動的階調補正部122Aは、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)と、周囲明度検出部121から出力された周囲明度信号US_Lとを入力とする。第2動的階調補正部122Aは、周囲明度信号US_Lの値に基づいて決定される階調変換特性により、L画像信号の輝度値IS_Lに対して、階調変換処理を行う。第2動的階調補正部122Aの階調変換特性は、例えば、図25に示すようなものである。
図25の階調変換特性は、図4の階調変換特性と同様のものであるが、入力値ISが周囲明度信号の値USより大きくなった場合、入力値ISをそのまま出力値OSとする点において、図4の階調変換特性と異なる。
図25は、図4と同様、横軸に入力信号であるIS信号の値(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)をとり、縦軸に出力信号であるOS信号の値(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)をとり、周囲明度信号US_L(またはUS_R)の値により決定される階調変換特性曲線K1〜K8をグラフにしたものである。
ただし、図4の階調変換特性とは異なり、図25の階調変換特性は、実線部により示した曲線により決定されるものである。つまり、IS信号の値が周囲明度信号の値US以下の場合のみ、階調変換特性曲線Kn(n:1〜8の整数)により階調変換特性が決定される。そして、IS信号の値が周囲明度信号の値USより大きい場合は、階調変換することなく、そのまま、入力値であるIS信号の値が、出力値OSとなる。
第2動的階調補正部122Aにより、図25に示す階調変換特性により、階調変換することで、IS信号の値が周囲明度信号の値US以下の場合のみ、つまり、処理対象の画素が周辺より暗い場合のみ、局所コントラストが強調される。これにより、陰影を濃くする階調変換を実現することができる。
以上説明したように、第2動的階調補正部122Aは、図25に示すような階調変換特性により、IS信号(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)に対して動的階調補正処理を行うことで、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を取得する。そして、第2動的階調補正部122Aは、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を合成部113L(R画像信号の場合は、合成部113R)に出力する。
なお、第2動的階調補正部122Aによる階調変換処理に用いられる階調変換特性は、図25に示す階調変換特性に限定されるものではなく、陰影を濃くすることができる階調変換特性であれば、他の階調変換特性であってもよい。例えば、入力値ISが周囲明度信号の値USより大きくなった場合、局所コントラストの強調度合いを低くする階調変換特性により、第2動的階調補正部122Aによる階調変換処理を行うようにしてもよい。例えば、図25の階調変換特性曲線K1〜K8の点線部分の傾きを小さくした曲線により決定される階調変換特性により、第2動的階調補正部122Aによる階調変換処理を行うようにしてもよい。このような階調変換特性による階調変換処理を行うことで、周辺の明るさより明るい画素の局所コントラストの強調度合いを低く抑えつつ、陰影を濃くする階調変換を実現することができる。
以上の通り、本実施形態の立体撮像装置(立体画像処理装置)では、例えば、図25に示す階調変換特性により、第2動的階調補正部122Aが階調変換処理を実行するので、IS信号の値が周囲明度信号の値US以下の場合のみ、つまり、処理対象の画素が周辺より暗い場合のみ、局所コントラストが強調される。その結果、本実施形態の立体撮像装置(立体画像処理装置)では、陰影を濃くする階調変換を実現することができる。これにより、本実施形態の立体画像処理装置により取得された立体画像は、陰影部分を選択的に強調した立体画像となる。その結果、本実施形態の立体画像処理装置により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本実施形態の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
≪第1変形例(第5実施形態)≫
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第5実施形態の立体撮像装置における局所階調変換部111CLおよび111CRを、図26に示す局所階調変換部111DLおよび111DRに、置換した構成を有する。
図26に示すように、局所階調変換部111DLおよび111DRは、第2周囲明度検出部1801と、動的階調補正部122と、を備える。
第2周囲明度検出部1801は、前述の実施形態で説明したもの(図20に示したもの)と同じものである。
動的階調補正部122は、前述の実施形態で説明したものと同じものであり、図4に示した階調変換特性により階調変換を実行する。
本変形例の立体撮像装置では、第2周囲明度検出部1801から出力される補正周囲明度信号US_L’を用いて、動的階調補正部122により、階調変換処理が実行される。そのため、陰影を濃くする階調変換を行うことができる。
つまり、補正周囲明度信号US_L’は、L画像信号の輝度値IS_Lの変化の大きい部分において、その信号値が大きくなる。したがって、本変形例の立体撮像装置の動的階調補正部122により、補正周囲明度信号US_L’を用いた階調変換処理を実行することで、周囲明度信号US_Lを用いた階調変換処理を実行する場合に比べて、陰影を濃くする階調変換処理を実行することができる。
これについて、一例を挙げ、図4を用いて説明する。
例えば、L画像信号の輝度値IS_Lが「4/8」で、周囲明度信号US_Lの値が「5/8」で、補正周囲明度信号US_L’の値が「7/8」の場合(L画像信号の輝度値IS_Lの変化の大きい部分に相当)、本変形例の立体撮像装置では、L画像信号の輝度値IS_Lが「4/8」である処理対象画素の画素値(輝度値)は、図4のB点により決定される出力値OS_Lに階調変換される。一方、第1実施形態の立体撮像装置では、L画像信号の輝度値IS_Lが「4/8」である処理対象画素の画素値(輝度値)は、図4のA点により決定される出力値OS_Lに階調変換される。
つまり、上記の場合、本変形例の立体撮像装置による階調変換処理では、第1実施形態の立体撮像装置による階調変換処理に比べて、出力値がより低く(暗く)なるように階調変換される。したがって、本変形例の立体撮像装置による階調変換処理では、第1実施形態の立体撮像装置による階調変換処理に比べて、より陰影を強調する(陰影を濃くする)ことができる。
以上の通り、本変形例の立体撮像装置では、補正周囲明度信号US_L’を用いて、動的階調補正部122により、階調変換処理が実行されるので、L画像信号の輝度値IS_Lの変化の大きい部分において、暗くなる方向への処理(階調値を低くする処理)が実行される。これにより、本変形例の立体画像処理装置では、例えば、オブジェクトのディテール部分における陰影部分を効果的に強調することができる(当該ディテール部分の陰影を効果的に濃くすることができる)。
これにより、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本変形例の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
なお、本変形例を前述の実施形態と組み合わせてもよい。これにより、前述の実施形態の立体画像処理技術においても、本変形例の効果を奏する立体画像処理を実現することができる。
また、本変形例の立体画像処理装置において、第2周囲明度検出部1801の代わりに、図21に示した第3周囲明度検出部2101を用いて、補正周囲明度信号US_L’を生成するようにしてもよい。
[第6実施形態]
次に、第6実施形態について、説明する。
通常、多くのシーンでは、光源が完全な平行光源でない場合が多い。例えば、点光源の場合には、影までの距離が離れるほど影が広がりぼけてくる。また、複数光源があるシーンでも、やはり影はぼやけてくる。このように、陰影は、実物体の凹凸の形状よりぼけることが普通であり、人間の視覚は、そのような明暗変化を陰影として感じるものと考えられる。
そこで、陰影をより陰影らしく強調するには、陰影成分をぼかすことが有効であると考えられる。本願発明者らは、実際に、評価実験によって、その効果を確認した。
第6実施形態では、付加する陰影成分の高域成分を低減することにより、視覚的により自然な陰影強調を行い、より自然な立体感・遠近感を実現する立体画像を取得することができる立体画像処理技術について、説明する。
なお、第6実施形態でも前述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第6実施形態の立体撮像装置の構成は、第4実施形態の立体撮像装置の構成と同様である。
第6実施形態の立体撮像装置は、第4実施形態の立体撮像装置における局所階調変換部111ALおよび111ARを、図27に示す局所階調変換部111ELおよび111ERに置換した構成を有する。この点において、第6実施形態の立体撮像装置は、第4実施形態の立体撮像装置と相違する。その他の点については、第6実施形態の立体撮像装置は、第4実施形態の立体撮像装置と同様である。
したがって、以下では、本実施形態の立体撮像装置における局所階調変換部111ELおよび111ERの構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
<6.1:局所階調変換部111EL>
図27に示すように、局所階調変換部111ELは、図20に示す局所階調変換部111BLにおいて、乗算器1603と加算器1604の間に、帯域制限部2501をさらに追加した構成を有している。この点以外については、局所階調変換部111ELは、図20に示す局所階調変換部111BLと同様である。
帯域制限部2501は、乗算器1603からの出力を入力とし、当該入力された信号(乗算信号(k×((IS_L)−(US_L‘))))に対して帯域制限処理を行い、帯域制限処理後の信号(LPF(k×((IS_L)−(US_L‘))))を、加算器1604に出力する。
なお、LPF()は、帯域制限処理を示す関数であり、例えば、ローパスフィルタ処理等により取得された信号値を出力する関数である。
帯域制限部2501での帯域制限処理は、帯域制限部2501への入力信号である乗算信号(k×((IS_L)−(US_L‘)))の高周波成分を低減する処理であれば良い。例えば、帯域制限部2501での帯域制限処理として、LPF処理を用いるようにしてもよい。
なお、帯域制限部2501での帯域制限処理は、帯域制限のカットオフ周波数を、周囲明度信号US_Lの信号帯域と比較して、1桁以上高い周波数に設定することが好ましい。例えば、対象とする画像の大きさが縦1024画素および横768画素であれば、縦横がそれぞれ80画素以上の領域から周囲明度信号US_Lを生成することが好ましいが、この場合の周囲明度信号US_Lを取得する処理(例えば、LPF処理)の帯域制限のカットオフ周波数に対して、帯域制限部2501での帯域制限処理の帯域制限のカットオフ周波数を1桁以上高い周波数に設定することが好ましい。
加算器1604では、帯域制限部2501から出力される帯域制限処理後の信号(LPF(k×((IS_L)−(US_L‘))))と、L画像信号の輝度値IS_Lとが加算される。
つまり、本実施形態の局所階調変換部111ELでは、
OS_L=IS_L+LPF(k×((IS_L)−(US_L‘)))
に相当する処理が実行される。
上式において、((IS_L)−(US_L‘))は、陰影成分に相当し、(k×((IS_L)−(US_L‘)))が陰影の付加成分に相当すると考えられるので、LPF(k×((IS_L)−(US_L‘)))は、付加する陰影成分をぼかした(帯域制限した)ものに相当する。
従って、本実施形態の局所階調変換部111ELから出力される補正後のL画像信号(補正後の輝度値)OS_Lは、陰影をぼかしつつ、かつ、陰影を強調した信号となる。
以上の通り、本実施形態の立体画像処理装置では、陰影をぼかしつつ、かつ、陰影を濃くする(陰影を強調する)画像処理を実現することができる。これにより、本実施形態の立体画像処理装置により取得された立体画像は、陰影部分をぼかしつつ、陰影部分を選択的に強調した立体画像となる。その結果、本実施形態の立体画像処理装置により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本実施形態の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
なお、本実施形態を前述の他の実施形態と組み合わせてもよい。これにより、前述の他の実施形態の立体画像処理技術においても、陰影部分をぼかしつつ、陰影を濃くする(陰影を強調する)立体画像処理を実現することができる。
また、本実施形態の局所階調変換部111ELにおいて、第2周囲明度検出部1801を、図23に示した第3周囲明度検出部2101に置換してもよい。この場合も、本実施形態の立体画像処理装置と同様の効果を奏することができる。
≪第1変形例(第6実施形態)≫
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第6実施形態の立体撮像装置における局所階調変換部111ELおよび111ERを、図28に示す局所階調変換部111FLおよび111FRに、置換した構成を有する。
それ以外については、本変形例の立体撮像装置は、第6実施形態の立体撮像装置と同様である。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111FLおよび111FRの構成および処理内容について、説明する。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
図28に示すように、局所階調変換部111FLは、第2周囲明度検出部1801と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
さらに、局所階調変換部111FLは、図28に示すように、乗算器2601と、加算器2602と、帯域制限部2501と、減算器2603と、加算器1604と、を備える。
局所階調変換部111FLは、
OS_L=IS_L−p×(IS_L−US_L’)+LPF((k+p)×(IS_L−US_L’)) (A0)
(p:0≦p≦1)
に相当する処理を実行するものである。
ここで、局所階調変換部111FLにおいて、上式に相当する処理を実行させる理由について、説明する。
まず、下記数式(A1)の処理について、考える。
OS_L=US_L’+(k+1)×(IS_L−US_L’) (A1)
数式(A1)の右辺第2項は、(もともと原画に存在していた陰影成分)+(付加する陰影成分)を表していると考えられる。
そして、数式(A1)の右辺第2項に対して帯域制限処理(関数LPF()による処理に相当)を行うと、付加する陰影成分およびもともと原画に存在していた陰影成分をぼかすことができる。
すなわち、
OS_L=US_L’+LPF((k+1)×(IS_L−US_L’)) (A2)
に相当する処理を実行することで、付加する陰影成分およびもともと原画に存在していた陰影成分をぼかすことができる。
一方、第6実施形態での処理(付加する陰影成分のみをぼかす処理)は、
OS_L=IS_L+LPF(k×((IS_L)−(US_L‘))) (A3)
に相当する。
上記数式(A2)に相当する処理では、陰影らしさを強く表現できる一方、実際の陰影以外もぼかすという副作用が生じる。
そこで、数式(A2)と数式(A3)(第6実施形態に相当)との間のぼかし方が設定できる処理が好ましい。
これを実現するのが、上記数式(A0)に相当する処理である。
上記数式(A0)において、p=0とすると、数式(A0)は、数式(A3)(第6実施形態に相当)と同一となり、付加する陰影成分のみをぼかす処理が実行される。
一方、p=1とすると、数式(A0)は、数式(A2)と同一となり、付加する陰影成分および存在していた陰影成分をぼかす処理が実行される。
つまり、局所階調変換部111FLにより、数式(A0)に相当する処理を実行することで、数式(A2)と数式(A3)(第6実施形態に相当)との間のぼかし方が実行される処理を実現することができる。
なお、ぼかし方の程度を決定するpは、不図示の制御部等により設定される。
また、pは、0≦p<0.5に設定すると、良好な陰影強調が実現されるので、好ましい。
以上の通り、本変形例の立体画像処理装置では、陰影をぼかしつつ、かつ、陰影を濃くする(陰影を強調する)画像処理を実現することができる。さらに、本変形例の立体画像処理装置では、陰影をぼかす程度を調整することができる。これにより、本変形例の立体画像処理装置により取得された立体画像は、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体画像処理装置により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本変形例の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
なお、本実施形態を前述の他の実施形態と組み合わせてもよい。これにより、前述の他の実施形態の立体画像処理技術においても、陰影部分を適切にぼかしつつ、陰影を濃くする(陰影を強調する)立体画像処理を実現することができる。
また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、図23に示した第3周囲明度検出部2101に置換してもよい。この場合も、本実施形態の立体画像処理装置と同様の効果を奏することができる。また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、周囲明度検出部121に置換してもよい。
[第7実施形態]
次に、第7実施形態について、説明する。
第4〜第6実施形態と同様に、本実施形態では、陰影を濃くする立体画像処理を実現する技術について、説明する。
なお、第7実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第7実施形態の立体撮像装置の構成は、第2実施形態の立体撮像装置の構成と同様である。
第7実施形態の立体撮像装置は、第2実施形態の立体撮像装置における画像補正部504の第2の局所階調変換部511Lおよび511Rを、局所階調変換部111AALおよび111AARに置換した構成を有する。この点において、第7実施形態の立体撮像装置は、第2実施形態の立体撮像装置と相違する。その他の点については、第7実施形態の立体撮像装置は、第2実施形態の立体撮像装置と同様である。
したがって、以下では、本実施形態の立体撮像装置における局所階調変換部111AALおよび111AARの構成および処理内容について、説明する。
なお、第2実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一符号を付し、詳細な説明を省略する。
<7.1:局所階調変換部111AAL>
局所階調変換部111AALは、図29に示すように、デプス周囲明度検出部521と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。局所階調変換部111AALは、図29に示すように、図18の局所階調変換部111ALにおいて、周囲明度検出部121をデプス周囲明度検出部521に置換した構成を有している。
デプス周囲明度検出部521は、上述の実施形態のデプス周囲明度検出部521と同様のものである。デプス周囲明度検出部521は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)およびデプス取得部103から出力されたLデプス値を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を、第2実施形態と同様、(数式2)により算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、減算器1601に出力する。
以降の処理については、第4実施形態と同様である。
このように、本実施形態の立体画像処理装置では、距離(被写体距離)の異なる画素の影響を抑制した周囲明度信号US_Lにより処理が実行される。したがって、本実施形態の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
≪第1変形例(第7実施形態)≫
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第7実施形態の立体撮像装置における局所階調変換部111AALおよび111AARを、図30に示す局所階調変換部111BBLおよび111BBRに、置換した構成を有する。より具体的には、本変形例の立体撮像装置は、第7実施形態の立体撮像装置における局所階調変換部111AALおよび111AARのデプス周囲明度検出部521を、図30に示す第2デプス周囲明度検出部1801Aに置換した構成を有する。
それ以外については、本変形例の立体撮像装置は、第7実施形態の立体撮像装置と同様である。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111BBLおよび111BBRの構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
<7.2:局所階調変換部111BL>
図30に示すように、局所階調変換部111BBLは、第2デプス周囲明度検出部1801Aと、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
減算器1601と、係数決定部1602と、乗算器1603と、加算器1604とについては、第7実施形態のものと同様のものである。
第2デプス周囲明度検出部1801Aは、図30に示すように、デプス周囲明度検出部521と、オフセット算出部1802と、加算器1803と、を備える。つまり、第2デプス周囲明度検出部1801Aは、図20に示す第2周囲明度検出部1801において、周囲明度検出部121をデプス周囲明度検出部521に置換した構成を有する。
デプス周囲明度検出部521は、上述の実施形態のデプス周囲明度検出部521と同様のものである。デプス周囲明度検出部521は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)およびデプス取得部103から出力されたLデプス値を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を、第2実施形態と同様、(数式2)により算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、減算器1601に出力する。
以降の処理については、第4実施形態の第1変形例と同様である。
このように、本変形例の立体画像処理装置では、距離(被写体距離)の異なる画素の影響を抑制した周囲明度信号US_Lにより処理が実行される。したがって、本変形例の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本変形例の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
[第8実施形態]
次に、第8実施形態について、説明する。
本実施形態においても、陰影を濃くする立体画像処理を実現する技術について、説明する。
なお、第8実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第8実施形態の立体撮像装置の構成は、第2実施形態の立体撮像装置の構成と同様である。
第8実施形態の立体撮像装置は、第2実施形態の立体撮像装置における画像補正部104の第2の局所階調変換部511Lおよび511Rを、図31に示す局所階調変換部111CCLおよび111CCRに置換した構成を有する。この点において、第8実施形態の立体撮像装置は、第2実施形態の立体撮像装置と相違する。その他の点については、第8実施形態の立体撮像装置は、第2実施形態の立体撮像装置と同様である。
したがって、以下では、本実施形態の立体撮像装置における局所階調変換部111CCLおよび111CCRの構成および処理内容について、説明する。
なお、第2実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
なお、上述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
<8.1:局所階調変換部111CCL>
局所階調変換部111CCLは、図31に示すように、デプス周囲明度検出部521と、第2動的階調補正部122Aと、を備える。
デプス周囲明度検出部521は、上述の実施形態のデプス周囲明度検出部521と同様のものである。
第2動的階調補正部122Aは、上述の第2動的階調補正部122Aと同様のものである。
本実施形態の立体画像処理装置では、デプス周囲明度検出部521により、距離(被写体距離)の異なる画素の影響を抑制した周囲明度信号US_Lにより処理が実行される。したがって、本実施形態の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
≪第1変形例(第8実施形態)≫
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第8実施形態の立体撮像装置における局所階調変換部111CCLおよび111CCRを、図32に示す局所階調変換部111DDLおよび111DDRに、置換した構成を有する。
図32に示すように、局所階調変換部111DDLおよび111DDRは、第2デプス周囲明度検出部1801Aと、動的階調補正部122と、を備える。
第2デプス周囲明度検出部1801Aは、前述の実施形態で説明したもの(図30に示したもの)と同じものである。
本変形例の立体画像処理装置では、第2デプス周囲明度検出部1801Aにより、距離(被写体距離)の異なる画素の影響を抑制した補正周囲明度信号US_L’により処理が実行される。したがって、本変形例の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本変形例の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
[第9実施形態]
次に、第9実施形態について、説明する。
第9実施形態では、第6実施形態と同様に、付加する陰影成分の高域成分を低減することにより、視覚的により自然な陰影強調を行い、より自然な立体感・遠近感を実現する立体画像を取得することができる立体画像処理技術について、説明する。
なお、第9実施形態でも前述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第9実施形態の立体撮像装置の構成は、第7実施形態の第1変形例の立体撮像装置の構成と同様である。
第9実施形態の立体撮像装置は、第7実施形態の第1変形例の立体撮像装置における局所階調変換部111BBLおよび111BBRを、図33に示す局所階調変換部111EELおよび111EERに置換した構成を有する。この点において、第9実施形態の立体撮像装置は、第7実施形態の立体撮像装置と相違する。その他の点については、第9実施形態の立体撮像装置は、第7実施形態の立体撮像装置と同様である。
したがって、以下では、本実施形態の立体撮像装置における局所階調変換部111EELおよび111EERの構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一符号を付し、詳細な説明を省略する。
<9.1:局所階調変換部111EEL>
図33に示すように、局所階調変換部111EELは、図30に示す局所階調変換部111BBLにおいて、乗算器1603と加算器1604の間に、帯域制限部2501をさらに追加した構成を有している。この点以外については、局所階調変換部111EELは、図30に示す局所階調変換部111BBLと同様である。
また、帯域制限部2501は、図27に示した帯域制限部2501と同様のものである。
本実施形態の立体画像処理装置では、第2デプス周囲明度検出部1801Aにより、距離(被写体距離)の異なる画素の影響を抑制した補正周囲明度信号US_L’により処理が実行される。したがって、本実施形態の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
≪第1変形例(第9実施形態)≫
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第9実施形態の立体撮像装置における局所階調変換部111EELおよび111EERを、図34に示す局所階調変換部111FFLおよび111FFRに、置換した構成を有する。
それ以外については、本変形例の立体撮像装置は、第9実施形態の立体撮像装置と同様である。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111FFLおよび111FFRの構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
図34に示すように、局所階調変換部111FFLは、第2デプス周囲明度検出部1801Aと、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
さらに、局所階調変換部111FFLは、図34に示すように、乗算器2601と、加算器2602と、帯域制限部2501と、減算器2603と、加算器1604と、を備える。
なお、局所階調変換部111FFLの減算器1601、係数決定部1602、乗算器1603、加算器1604、乗算器2601、加算器2602、帯域制限部2501、および減算器2603は、第6実施形態の局所階調変換部111FL(111FR)のものと同様である。
本変形例の立体画像処理装置では、陰影をぼかしつつ、かつ、陰影を濃くする(陰影を強調する)画像処理を実現することができる。さらに、本変形例の立体画像処理装置では、陰影をぼかす程度を調整することができる。これにより、本変形例の立体画像処理装置により取得された立体画像は、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体画像処理装置により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本変形例の立体画像処理装置では、第2デプス周囲明度検出部1801Aにより、距離(被写体距離)の異なる画素の影響を抑制した補正周囲明度信号US_L’により処理が実行される。したがって、本変形例の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本変形例の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
なお、本実施形態を前述の他の実施形態と組み合わせてもよい。これにより、前述の他の実施形態の立体画像処理技術においても、陰影部分を適切にぼかしつつ、陰影を濃くする(陰影を強調する)立体画像処理を実現することができる。
また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、図23に示した第3周囲明度検出部2101に置換してもよい。この場合も、本実施形態の立体画像処理装置と同様の効果を奏することができる。また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、周囲明度検出部121に置換してもよい。
[他の実施形態]
なお、上記実施形態の組み合わせることで、立体画像処理装置を実現するようにしてもよい。
例えば、第3実施形態で説明した手法と同様の手法により、第4〜6実施形態のいずれかと、第7〜9実施形態のいずれかを組み合わせることで、立体画像処理装置を実現するようにしてもよい。
また、上記実施形態において、画像入力部102には、R画像およびL画像が入力される構成について説明したが、これに限定されることはなく、例えば、多視点方式により取得されたN枚(Nは2以上の自然数)の画像から、R画像およびL画像を選択し、選択したR画像(信号)およびL画像(信号)を、画像入力部102に入力するようにしてもよい。
また、立体画像処理装置において、R画像およびL画像は、必ずしも内部で取得されなくてもよい。例えば、R画像およびL画像は、外部から立体画像処理装置に入力されるものであってもよい。
さらに、立体画像処理装置において、Rデプス情報およびLデプス情報も、必ずしも内部で取得されなくてもよい。例えば、Rデプス情報およびLデプス情報は、外部から立体画像処理装置に入力されるものであってもよい。この場合、立体画像処理装置において、デプス取得部103を省略することができる。つまり、立体画像処理装置が、画像補正部104のみを備えるものであってもよい。
また、立体画像処理装置において、デプス情報を含む2D映像を入力し、当該デプス情報により、上記実施形態で説明した処理を実行するようにしてもよい。例えば、デプス情報を含む2D映像から、R画像およびL画像を生成し、生成したR画像およびL画像、および、2D映像に含まれていたデプス情報を立体画像処理装置の画像補正部104に入力し、立体画像処理装置において、上記実施形態で説明した処理を実行するようにしてもよい。
さらに、立体画像処理装置において、デプス情報を含む2D映像が入力された場合、当該2D映像に対して、上記実施形態で説明した陰影強調処理を行うことで、陰影を濃くした2D映像を取得するようにしてもよい。この場合、例えば、立体画像処理装置における1系統による処理(L画像用処理またはR画像用処理に相当する処理)を行うようにしてもよい。そして、この場合、立体画像処理装置は、L画像用処理およびR画像用処理のいずれか1つに相当する処理系統のみにより構成されるものであってもよい。
また、立体画像処理装置において、2D映像を3D映像に変換した映像(2D−3D変換映像)を入力し、さらに、2D−3D変換処理において、推定されたデプス情報を用いて、上記実施形態で説明した処理を実行するようにしてもよい。例えば、2D−3D変換処理により取得されたR画像およびL画像、および、推定処理により取得されたデプス情報を立体画像処理装置の画像補正部104に入力し、立体画像処理装置において、上記実施形態で説明した処理を実行するようにしてもよい。
また、上記実施形態で説明した立体撮像装置において、各ブロックは、LSIなどの半導体装置により個別に1チップ化されても良いし、一部又は全部を含むように1チップ化されても良い。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてあり得る。
また、上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェア(OS(オペレーティングシステム)、ミドルウェア、あるいは、所定のライブラリとともに実現される場合を含む。)により実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現しても良い。なお、上記実施形態に係る立体撮像装置をハードウェアにより実現する場合、各処理を行うためのタイミング調整を行う必要があるのは言うまでもない。上記実施形態においては、説明便宜のため、実際のハードウェア設計で生じる各種信号のタイミング調整の詳細については省略している。
また、上記実施形態における処理方法の実行順序は、必ずしも、上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
また、上記実施形態では、2つの撮像部により、ステレオ画像(左眼用画像および右眼用画像)を取得(撮像)している場合について説明した。しかし、これに限定されることはなく、例えば、1つの撮像素子により、左眼用画像と右眼用画像とを時分割で交互に取得するようにしてもよいし、また、1つの撮像素子の撮像素子面を2分割して、左眼用画像と右眼用画像とを取得するようにしてもよい。
前述した方法をコンピュータに実行させるコンピュータプログラム及びそのプログラムを記録したコンピュータ読み取り可能な記録媒体は、本発明の範囲に含まれる。ここで、コンピュータ読み取り可能な記録媒体としては、例えば、フレキシブルディスク、ハードディスク、CD−ROM、MO、DVD、DVD−ROM、DVD−RAM、BD(Blue−ray Disc)、半導体メモリを挙げることができる。
上記コンピュータプログラムは、上記記録媒体に記録されたものに限られず、電気通信回線、無線又は有線通信回線、インターネットを代表とするネットワーク等を経由して伝送されるものであってもよい。
また、上記実施形態で説明したデプス取得部103および画像補正部104を搭載した立体表示装置、テレビ、情報携帯端末、パーソナルコンピュータ、デジタルスチルカメラ、ムービー、情報記録再生装置、映像記録再生装置等を実現するようにしてもよい。なお、この場合、R画像およびL画像は、上記装置に対して、外部から入力させるものであってもよい。
なお、本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
本発明に係る立体画像処理装置、立体画像処理方法およびプログラムでは、少ない視差により撮影された立体感に乏しい画像に自然な立体感を付与することにより高品位な立体画像を取得することができる。したがって、本発明は、映像関連産業において有用であり、当該分野において実施することができる。
1000 立体撮像装置
101R 第1撮像部
101L 第2撮像部
102 画像入力部
103 デプス取得部
104、504 画像補正部
111L、111R、111AL、111AR、111BL、111BR、111CL、111CR、111DL、111DR、111EL、111ER、111FL、111FR、111AAL、111AAR、111BBL、111BBR、111CCL、111CCR、111DDL、111DDR、111EEL、111EER、111FFL、111FFR 局所階調変換部
112L、112R 強度生成部
113L、113R 合成部
121 周囲明度検出部
122 動的階調補正部
122A 第2動的階調補正部
504L 第2のL画像用画像補正部
504R 第2のR画像用画像補正部
511L、511R 第2の局所階調変換部
521 デプス周囲明度検出部
1602 係数決定部
1801 第2周囲明度検出部
1801A 第2デプス周囲明度検出部

Claims (9)

  1. 立体視用の画像に対して画像補正処理を行う立体画像処理装置であって、
    処理対象である注目画素の画素値と当該注目画素の周辺画素の画素値との関係に基づいて、前記立体視用の画像のうちの、第1視点からの第1視点用画像と前記第1視点とは異なる第2視点からの第2視点用画像それぞれ階調変換し、前記第1視点からの第1視点用変換画像と前記第2視点からの第2視点用変換画像を生成する変換部と、
    前記第1視点用画像と前記変換部によって生成された前記第1視点用変換画像とを前記第1視点からの第1被写体距離に基づく第1配分比率で合成すると共に、前記第2視点用画像と前記変換部によって生成された前記第2視点用変換画像とを前記第2視点からの第2被写体距離に基づく第2配分比率で合成する合成部と、
    を備える立体画像処理装置。
  2. 前記合成部は、前記第1被写体距離が近いほど前記第1視点用変換画像の重みが大きくなるような前記第1配分比率で、前記第1視点用画像と前記第1視点用変換画像とを前記第1視点からの第1被写体距離に基づく第1配分比率で合成する
    請求項1に記載の立体画像処理装置。
  3. 前記合成部は、前記第2被写体距離が近いほど前記第2視点用変換画像の重みが大きくなるような前記第2配分比率で、前記第2視点用画像と前記第2視点用変換画像とを前記第2視点からの第2被写体距離に基づく第2配分比率で合成する
    請求項に記載の立体画像処理装置。
  4. 更に、前記変換部は、前記注目画素に対してコントラスト強調処理を行うことにより陰影強調処理を行う、
    請求項1から3のいずれかに記載の画像処理装置。
  5. 更に、前記変換部は、前記注目画素に対して視覚処理による局所コントラスト強調処理を行うことにより陰影強調処理を行う、
    請求項1から3のいずれかに記載の画像処理装置。
  6. 更に、前記変換部は、前記注目画素に対して陰影を濃くすることにより陰影強調処理を行う、
    請求項1から3のいずれかに記載の画像処理装置。
  7. 前記変換部は、前記注目画素の明度値が、前記周辺画素の明度値よりも小さい場合、前記注目画素の値を所定の値に固定したとき、前記周辺画素の値が増加するに従い、階調変換後の前記注目画素の値が減少する階調変換特性を用いて変換する、
    請求項1に記載の立体画像処理装置。
  8. 前記変換部は、前記注目画素の明度値が、前記周辺画素の明度値よりも大きい場合、前記注目画素の値を変換せずに変換画像の画素値として出力する、
    請求項7に記載の立体画像処理装置。
  9. 前記変換部は、前記注目画素を含む所定領域の画素値の変換に基づくオフセット値を前記周辺画素の明度値に加算し、前記加算結果に基づいて前記注目画素を階調変換する、
    請求項7に記載の立体画像処理装置。
JP2012552540A 2011-01-13 2011-11-07 立体画像処理装置、立体画像処理方法およびプログラム Expired - Fee Related JP5909704B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2011005295 2011-01-13
JP2011005295 2011-01-13
PCT/JP2011/006202 WO2012095914A1 (ja) 2011-01-13 2011-11-07 立体画像処理装置、立体画像処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JPWO2012095914A1 JPWO2012095914A1 (ja) 2014-06-09
JP5909704B2 true JP5909704B2 (ja) 2016-04-27

Family

ID=46506845

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012552540A Expired - Fee Related JP5909704B2 (ja) 2011-01-13 2011-11-07 立体画像処理装置、立体画像処理方法およびプログラム

Country Status (3)

Country Link
US (1) US9064331B2 (ja)
JP (1) JP5909704B2 (ja)
WO (1) WO2012095914A1 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013080439A1 (ja) * 2011-11-28 2013-06-06 パナソニック株式会社 立体画像処理装置及び立体画像処理方法
JP6014343B2 (ja) * 2012-03-23 2016-10-25 ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. 画像処理装置および画像処理方法
WO2014041860A1 (ja) * 2012-09-14 2014-03-20 ソニー株式会社 画像処理装置、画像処理方法、および、プログラム
JP6242098B2 (ja) * 2013-07-16 2017-12-06 株式会社キーエンス 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
KR102142480B1 (ko) * 2013-12-27 2020-08-07 엘지디스플레이 주식회사 3차원영상 표시장치 및 그 구동방법
JP6263461B2 (ja) * 2014-09-26 2018-01-17 日立オートモティブシステムズ株式会社 撮像装置
JP6529360B2 (ja) * 2015-06-26 2019-06-12 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法およびプログラム
JP6562770B2 (ja) * 2015-08-24 2019-08-21 キヤノン株式会社 画像処理装置及び画像処理方法、プログラム、記憶媒体
KR102524559B1 (ko) * 2016-10-17 2023-04-24 삼성전자주식회사 외부 디스플레이 장치의 화면 보정 장치 및 방법
US11818401B2 (en) 2017-09-14 2023-11-14 Apple Inc. Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables
US10861196B2 (en) 2017-09-14 2020-12-08 Apple Inc. Point cloud compression
US10909725B2 (en) 2017-09-18 2021-02-02 Apple Inc. Point cloud compression
US11113845B2 (en) 2017-09-18 2021-09-07 Apple Inc. Point cloud compression using non-cubic projections and masks
US10607373B2 (en) 2017-11-22 2020-03-31 Apple Inc. Point cloud compression with closed-loop color conversion
JP6986683B2 (ja) * 2018-01-05 2021-12-22 パナソニックIpマネジメント株式会社 視差値算出装置、視差値算出方法及びプログラム
US11010928B2 (en) 2018-04-10 2021-05-18 Apple Inc. Adaptive distance based point cloud compression
US10909726B2 (en) 2018-04-10 2021-02-02 Apple Inc. Point cloud compression
US10909727B2 (en) 2018-04-10 2021-02-02 Apple Inc. Hierarchical point cloud compression with smoothing
US10939129B2 (en) 2018-04-10 2021-03-02 Apple Inc. Point cloud compression
US11017566B1 (en) 2018-07-02 2021-05-25 Apple Inc. Point cloud compression with adaptive filtering
US11202098B2 (en) 2018-07-05 2021-12-14 Apple Inc. Point cloud compression with multi-resolution video encoding
US11012713B2 (en) 2018-07-12 2021-05-18 Apple Inc. Bit stream structure for compressed point cloud data
US11367224B2 (en) 2018-10-02 2022-06-21 Apple Inc. Occupancy map block-to-patch information compression
JP7278096B2 (ja) * 2019-02-20 2023-05-19 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US11057564B2 (en) 2019-03-28 2021-07-06 Apple Inc. Multiple layer flexure for supporting a moving image sensor
US11711544B2 (en) 2019-07-02 2023-07-25 Apple Inc. Point cloud compression with supplemental information messages
US11627314B2 (en) 2019-09-27 2023-04-11 Apple Inc. Video-based point cloud compression with non-normative smoothing
US11562507B2 (en) 2019-09-27 2023-01-24 Apple Inc. Point cloud compression using video encoding with time consistent patches
US11538196B2 (en) 2019-10-02 2022-12-27 Apple Inc. Predictive coding for point cloud compression
US11895307B2 (en) 2019-10-04 2024-02-06 Apple Inc. Block-based predictive coding for point cloud compression
US11798196B2 (en) 2020-01-08 2023-10-24 Apple Inc. Video-based point cloud compression with predicted patches
US11475605B2 (en) 2020-01-09 2022-10-18 Apple Inc. Geometry encoding of duplicate points
US11615557B2 (en) 2020-06-24 2023-03-28 Apple Inc. Point cloud compression using octrees with slicing
US11620768B2 (en) 2020-06-24 2023-04-04 Apple Inc. Point cloud geometry compression using octrees with multiple scan orders
US11948338B1 (en) 2021-03-29 2024-04-02 Apple Inc. 3D volumetric content encoding using 2D videos and simplified 3D meshes

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1051811A (ja) * 1996-08-07 1998-02-20 Sanyo Electric Co Ltd 立体感調整方法および立体感調整装置
JP2002329198A (ja) * 2001-04-27 2002-11-15 Olympus Optical Co Ltd 画像質感強調装置、画像質感強調方法および画像質感強調プログラム
JP2005026800A (ja) * 2003-06-30 2005-01-27 Konica Minolta Photo Imaging Inc 画像処理方法、撮像装置、画像処理装置及び画像記録装置
JP2009053748A (ja) * 2007-08-23 2009-03-12 Nikon Corp 画像処理装置、画像処理プログラムおよびカメラ

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3157384B2 (ja) 1994-06-20 2001-04-16 三洋電機株式会社 立体映像装置
US6005607A (en) * 1995-06-29 1999-12-21 Matsushita Electric Industrial Co., Ltd. Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus
WO1998004087A1 (fr) * 1996-07-18 1998-01-29 Sanyo Electric Co., Ltd. Dispositif et procede pour convertir des signaux video bidimensionnels en signaux video tridimensionnels
KR101700362B1 (ko) * 2010-08-16 2017-01-31 삼성전자주식회사 영상 처리 방법 및 영상 처리 장치
JP5395273B2 (ja) * 2010-09-08 2014-01-22 パナソニック株式会社 立体画像処理装置、立体撮像装置、立体撮像方法およびプログラム
JP5647740B2 (ja) * 2011-10-31 2015-01-07 富士フイルム株式会社 視差調節装置及び方法、撮影装置、再生表示装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1051811A (ja) * 1996-08-07 1998-02-20 Sanyo Electric Co Ltd 立体感調整方法および立体感調整装置
JP2002329198A (ja) * 2001-04-27 2002-11-15 Olympus Optical Co Ltd 画像質感強調装置、画像質感強調方法および画像質感強調プログラム
JP2005026800A (ja) * 2003-06-30 2005-01-27 Konica Minolta Photo Imaging Inc 画像処理方法、撮像装置、画像処理装置及び画像記録装置
JP2009053748A (ja) * 2007-08-23 2009-03-12 Nikon Corp 画像処理装置、画像処理プログラムおよびカメラ

Also Published As

Publication number Publication date
JPWO2012095914A1 (ja) 2014-06-09
WO2012095914A1 (ja) 2012-07-19
US9064331B2 (en) 2015-06-23
US20130294683A1 (en) 2013-11-07

Similar Documents

Publication Publication Date Title
JP5909704B2 (ja) 立体画像処理装置、立体画像処理方法およびプログラム
JP5395273B2 (ja) 立体画像処理装置、立体撮像装置、立体撮像方法およびプログラム
US8711204B2 (en) Stereoscopic editing for video production, post-production and display adaptation
Terzić et al. Methods for reducing visual discomfort in stereoscopic 3D: A review
JP5509487B2 (ja) 立体視画像のブラー強化
US9549164B2 (en) Image processing apparatus and method, and related computer program
WO2013094635A1 (ja) 画像処理装置、撮像装置および表示装置
JP5303692B1 (ja) 立体画像処理装置及び立体画像処理方法
US20110228051A1 (en) Stereoscopic Viewing Comfort Through Gaze Estimation
JP5402504B2 (ja) 擬似立体画像作成装置及び擬似立体画像表示システム
US20130057644A1 (en) Synthesizing views based on image domain warping
EP2836985A1 (en) Generation of a depth map for an image
KR20130137000A (ko) 화상 처리 장치 및 화상 처리 방법, 및 프로그램
TWI678098B (zh) 三維影像之視差的處理
Jung A modified model of the just noticeable depth difference and its application to depth sensation enhancement
JPWO2012098607A1 (ja) 立体画像処理装置および立体画像処理方法
WO2013069171A1 (ja) 画像処理装置、及び画像処理方法
JP2013172214A (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP5488482B2 (ja) 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置
JP2014022867A (ja) 画像処理装置および方法、並びにプログラム
JP2014003486A (ja) 画像処理装置、画像撮像装置、画像表示装置、画像処理方法及びプログラム
JP5254297B2 (ja) 画像処理装置
KR20150101856A (ko) 디지털 시네마에서 스테레오 카메라로 획득한 좌우 영상의 색 일치 방법 및 그 장치
TW201033936A (en) Method of synthesizing stereoscopic video
Han et al. 3D perception enhancement using depth map based color processing

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20141009

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20141017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150317

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150507

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150728

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160119

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160128

R151 Written notification of patent or utility model registration

Ref document number: 5909704

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees