JP5909704B2 - 立体画像処理装置、立体画像処理方法およびプログラム - Google Patents
立体画像処理装置、立体画像処理方法およびプログラム Download PDFInfo
- Publication number
- JP5909704B2 JP5909704B2 JP2012552540A JP2012552540A JP5909704B2 JP 5909704 B2 JP5909704 B2 JP 5909704B2 JP 2012552540 A JP2012552540 A JP 2012552540A JP 2012552540 A JP2012552540 A JP 2012552540A JP 5909704 B2 JP5909704 B2 JP 5909704B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- viewpoint
- value
- signal
- stereoscopic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 533
- 238000003672 processing method Methods 0.000 title description 10
- 238000006243 chemical reaction Methods 0.000 claims description 281
- 238000000034 method Methods 0.000 claims description 200
- 230000008569 process Effects 0.000 claims description 153
- 238000003702 image correction Methods 0.000 claims description 96
- 230000002093 peripheral effect Effects 0.000 claims description 36
- 230000007423 decrease Effects 0.000 claims description 18
- 230000002194 synthesizing effect Effects 0.000 claims description 10
- 230000000007 visual effect Effects 0.000 claims description 9
- 238000003384 imaging method Methods 0.000 description 221
- 238000001514 detection method Methods 0.000 description 163
- 238000012937 correction Methods 0.000 description 98
- 238000012986 modification Methods 0.000 description 89
- 230000004048 modification Effects 0.000 description 89
- 230000000875 corresponding effect Effects 0.000 description 76
- 230000000694 effects Effects 0.000 description 74
- 230000008859 change Effects 0.000 description 37
- 238000004364 calculation method Methods 0.000 description 35
- 238000010586 diagram Methods 0.000 description 31
- 230000002708 enhancing effect Effects 0.000 description 21
- 230000001965 increasing effect Effects 0.000 description 19
- 230000015572 biosynthetic process Effects 0.000 description 14
- 230000000873 masking effect Effects 0.000 description 14
- 238000003786 synthesis reaction Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 6
- 230000010354 integration Effects 0.000 description 5
- 230000004927 fusion Effects 0.000 description 4
- 230000003247 decreasing effect Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 206010020675 Hypermetropia Diseases 0.000 description 1
- 241001025261 Neoraja caerulea Species 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000001771 impaired effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/94—Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Graphics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Processing Or Creating Images (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
立体撮像において、遠景(遠景の被写体)や近景(近景の被写体)が大きな視差を持つ状態で取得された立体画像(左眼用画像および右眼用画像)は、人間が立体視する際の融像限界を超え立体視が困難な画像になる、あるいは、当該立体画像を見ている人間に疲労感を生じさせる画像(疲れる画像)になる。このような不良な立体画像の生成を避けるために、視差調整やステレオベース調整(以下、「SB調整」という。)を行うことで、良好な立体画像を得る技術があり、このような技術は、映画などの本格的な立体撮影において広く用いられている。
また、ステレオベース調整は、例えば、2台のカメラ(左眼用画像撮像用のカメラおよび右眼用画像撮像用のカメラ)の間隔を近づけることにより(ステレオベース(基線長)を小さくすることにより)、実行される技術であり、ステレオベース調整を行うことで、視差のダイナミックレンジを小さくすることができる。このため、上記のようにステレオベース調整を行った後、立体撮像を行うことで、近景(近景の被写体)から遠景(遠景の被写体)までの全体が融像域内に入る立体画像を取得することができる。
立体撮像において、上記撮影技術(視差調整、ステレオベース調整)を駆使することにより、所定の表示環境において立体表示させたとき、十分見やすい画像(立体視しやすい立体画像)となる立体画像を撮影することができる(例えば、特許文献1参照)。
したがって、上記従来技術を用いた場合、何れの場合も、取得される立体画像は、立体感・遠近感の乏しい品位の低い画像になりがちである。
デプス取得部は、第1視点用画像および第2視点用画像に含まれる被写体についての3次元空間での距離情報である被写体距離を取得する。
この立体画像処理装置では、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整することができる。その結果、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影を必要以上に強調されることを適切に防止することができる。
なお、「3次元空間での距離情報」とは、例えば、第1視点用画像または第2視点用画像を立体撮影したと仮定したときの第1視点(例えば、左眼用画像を取得するときの左眼視点)または第2視点(例えば、右眼用画像を取得するときの右眼視点)に相当する3次元空間内の点(撮影点)と、第1視点用画像上の画素である第1画素と、第1画素に対応する第2視点用画像上の画素である第2画素に対応する3次元空間(第1視点用画像または第2視点用画像を立体撮影したと仮定したときの撮影空間)内の点までの距離のことをいう。
第2の発明は、第1の発明であって、画像補正部は、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の画素値と当該注目画素の周辺画素の画素値の画像特徴量を示す代表画素値との関係に基づいて、注目画素の階調変換を行う局所陰影強調処理を行うことで陰影強調処理を実行するとともに、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
なお、「局所陰影強調処理」とは、注目画素とその周辺画素の画像特徴量に応じて陰影等を局所的に調整する処理のことをいう。「局所陰影強調処理」の一例として、「局所コントラスト変換処理」がある。
C=F1(A)×F2(A/B)
で算出される。一例を挙げると、
F1(A)=A^γ
F2(A/B)=(A/B)^α
であり、この場合において、α+γ=1のとき、局所コントラスト変換処理の変換の前後において、局所コントラストが維持され、α+γ>1のとき、局所コントラストが強調されることになる。
これにより、この立体画像処理装置では、被写体距離が小さい画素に対してより処理強調度が大きい陰影強調処理を実行することができるので、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影を必要以上に強調されることを適切に防止することができる。
第4の発明は、第3の発明であって、画像補正部は、
(1)注目画素の被写体距離が小さい程、注目画素に対して、陰影強調処理の処理強調度が大きい陰影強調処理を行い、
(2)注目画素の被写体距離が大きい程、注目画素に対して、陰影強調処理の処理強調度が小さい陰影強調処理を行う。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
(1)注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、注目画素に対して、処理強調度が大きい陰影強調処理を行い、
(2)注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が大きい程、注目画素に対して、処理強調度が小さい陰影強調処理を行う。
したがって、この立体画像処理装置では、例えば、立体画像上において、主被写体を形成する画像領域に対して、距離(被写体距離)の異なる背景の明暗の影響を受けて陰影強調がなされることを適切に回避することができる。そして、この立体画像処理装置では、本当に陰影による明暗差を中心とした陰影の強調が実現できることになり、その結果、この立体画像処理装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
第1視点画像用画像補正部は、第1視点用局所階調変換部と、第1視点用強度生成部と、第1視点用合成部と、を備える。
第2第視点画像用画像補正部は、第2視点用局所階調変換部と、第2視点用強度生成部と、第2視点用合成部と、を備える。
第1視点用強度生成部は、デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素の被写体距離であるデプス値に基づいて、局所陰影強調処理の処理強調度を生成する。
第2視点用強度生成部は、デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素の被写体距離であるデプス値に基づいて、局所陰影強調処理の処理強調度を生成する。
したがって、この立体画像処理装置では、少ない視差により撮影された立体感の乏しい画像に自然な立体感を付与することにより高品位な立体画像が得られる。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、コントラストを強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、コントラストを必要以上に強調されることを適切に防止することができる。
第9の発明は、第1から第7のいずれかの発明であって、陰影強調処理は、視覚処理による局所コントラスト強調処理である。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、局所コントラストを強調することができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、局所コントラストを必要以上に強調されることを適切に防止することができる。
第10の発明は、第1から第7のいずれかの発明であって、陰影強調処理は、陰影を濃くする処理である。
これにより、この立体画像処理装置では、(1)明暗の差が陰影により生じている確率の高い近景の被写体に対して、陰影を濃くすることができるとともに、(2)明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、陰影が必要以上に濃くなることを適切に防止することができる。つまり、この立体画像処理装置では、陰影を濃くする処理を行うので、陰影部分を選択的に強調することができる(陰影を濃くする立体画像処理を行うことができる)。
第11の発明は、第10の発明であって、第1視点用局所階調変換部は、第1視点用周囲明度検出部と、第1視点用第2動的階調補正部と、を備え、第2視点用局所階調変換部は、第2視点用周囲明度検出部と、第2視点用第2動的階調補正部と、を備える。
第1視点用第2動的階調補正部は、第1視点用画像信号IS_Rおよび第1視点用周囲明度信号US_Rに基づいて、動的階調補正処理を行うことで、補正第1視点用画像信号OS_Rを取得する。そして、動的階調補正処理は、
(1)(第1視点用画像信号IS_Rの値)≦(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rの所定の入力範囲において、第1視点用画像信号IS_Rの値を所定の値に固定したとき、第1視点用周囲明度信号US_Rの値が増加するに従い、補正第1視点用画像信号OS_Rの値が減少する階調変換特性により、階調変換処理を行うことで、補正第1視点用画像信号OS_Rを取得し、
(2)(第1視点用画像信号IS_Rの値)>(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rを、補正第1視点用画像信号OS_Rとすることで、補正第1視点用画像信号OS_Rを取得する。
第2視点用第2動的階調補正部は、第2視点用画像信号IS_Lおよび第2視点用周囲明度信号US_Lに基づいて、動的階調補正処理を行うことで、補正第2視点用画像信号OS_Lを取得する。そして、動的階調補正処理は、
(1)(第2視点用画像信号IS_Lの値)≦(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lの所定の入力範囲において、第2視点用画像信号IS_Lの値を所定の値に固定したとき、第2視点用周囲明度信号US_Lの値が増加するに従い、補正第2視点用画像信号OS_Lの値が減少する階調変換特性により、階調変換処理を行うことで、補正第2視点用画像信号OS_Lを取得し、
(2)(第2視点用画像信号IS_Lの値)>(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lを、補正第2視点用画像信号OS_Lとすることで、補正第2視点用画像信号OS_Lを取得する。
第1視点用第2周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との代表明度値を検出し、検出した代表明度値を信号値とする第1視点用周囲明度信号US_Rを取得し、所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
なお、「第1視点用画像信号IS_Rの変化が激しい程、大きな値となる」とは、例えば、所定範囲の第1視点用画像信号IS_Rの信号値の変化が当該所定範囲の平均値に対してどの程度ばらついているか等により判断されるもので、例えば、所定範囲の第1視点用画像信号IS_Rの信号値の分散値や標準偏差値が大きいとき、「第1視点用画像信号IS_Rの変化が激しい」ということである。
第1視点用第2周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との明度値を検出し、検出した明度値を信号値とする第1視点用周囲明度信号US_Rを取得し、所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。
OS_L=IS_L+k×((IS_L)−(US_L’))
により、補正第2視点用画像信号OS_Lを取得する。
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。したがって、この立体画像処理装置では、周辺より暗い画素について、より強い局所コントラスト強調処理が実行される(第2視点用の処理についても同様)。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、アンシャープマスキングの強調度合いが強くなるように処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
第1視点用第2周囲明度検出部は、第1視点用画像信号IS_Rに相当する画素である注目画素と、当該注目画素の周辺の画素との代表明度値を検出し、検出した代表明度値を信号値とする第1視点用周囲明度信号US_Rを取得し、所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
(k+p)×(IS_R−US_R’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_R−US_R’))を取得し、取得した信号LPF((k+p)×(IS_R−US_R’))を用いて、
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))
により、補正第1視点用画像信号OS_Rを取得する。
(k+p)×(IS_L−US_L’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_L−US_L’))を取得し、取得した信号LPF((k+p)×(IS_L−US_L’))を用いて、
OS_L=IS_L−p×(IS_L−US_L’)+LPF((k+p)×(IS_L−US_L’))
により、補正第2視点用画像信号OS_Lを取得する。
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))
に相当する処理により、補正第1視点用画像信号OS_Rを取得する。これにより、この立体画像処理装置では、原画像に含まれる陰影成分および付加する陰影成分のぼかし具合(帯域制限処理の程度)を、係数pを用いて、調整することができる。(第2視点用の処理についても第1視点用の処理と同様。)したがって、この立体画像処理装置では、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
第1視点画像用画像補正部は、第1視点用デプス周囲明度検出部と、第1視点用動的階調補正部と、を備える。
第2視点画像用画像補正部は、第2視点用デプス周囲明度検出部と、第2視点用動的階調補正部と、を備える。
第2視点用デプス周囲明度検出部は、デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値を算出することで、当該注目画素の第2視点用周囲明度信号US_Lを取得するものであって、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして重み付け平均値を算出する。
そして、陰影強調処理は、(1)コントラスト強調処理、(2)視覚処理による局所コントラスト強調処理、および、(3)陰影を濃くする処理のいずれか1つの処理である。
第1視点画像用画像補正部は、第1視点用デプス周囲明度検出部と、第1視点用第2動的階調補正部と、を備える。第2視点画像用画像補正部は、第2視点用デプス周囲明度検出部と、第2視点用第2動的階調補正部と、を備える。
(1)(第1視点用画像信号IS_Rの値)≦(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rの所定の入力範囲において、第1視点用画像信号IS_Rの値を所定の値に固定したとき、第1視点用周囲明度信号US_Rの値が増加するに従い、補正第1視点用画像信号OS_Rの値が減少する階調変換特性により、階調変換処理を行うことで、補正第1視点用画像信号OS_Rを取得し、
(2)(第1視点用画像信号IS_Rの値)>(第1視点用周囲明度信号US_Rの値)である場合、第1視点用画像信号IS_Rを、補正第1視点用画像信号OS_Rとすることで、補正第1視点用画像信号OS_Rを取得する。
(1)(第2視点用画像信号IS_Lの値)≦(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lの所定の入力範囲において、第2視点用画像信号IS_Lの値を所定の値に固定したとき、第2視点用周囲明度信号US_Lの値が増加するに従い、補正第2視点用画像信号OS_Lの値が減少する階調変換特性により、階調変換処理を行うことで、補正第2視点用画像信号OS_Lを取得し、
(2)(第2視点用画像信号IS_Lの値)>(第2視点用周囲明度信号US_Lの値)である場合、第2視点用画像信号IS_Lを、補正第2視点用画像信号OS_Lとすることで、補正第2視点用画像信号OS_Lを取得する。
第1視点画像用画像補正部は、第1視点用第2デプス周囲明度検出部と、第1視点用動的階調補正部と、を備える。第2視点画像用画像補正部は、第2視点用第2デプス周囲明度検出部と、第2視点用動的階調補正部と、を備える。
(1)デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第1視点用周囲明度信号US_Rを取得し、
(2)所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
(1)デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第2視点用周囲明度信号US_Lを取得し、
(2)所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
なお、この立体画像処理装置では、第1視点用第2デプス周囲明度検出部により、注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差に基づいた重み付け平均値により取得された第1視点用周囲明度信号US_Rを用いた処理が実行される。その結果、この立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切な陰影強調がなされることを適切に回避することができる。
第1視点画像用画像補正部は、第1視点用第2デプス周囲明度検出部と、第1視点用係数演算処理部と、を備える。第2視点画像用画像補正部は、第2視点用第2デプス周囲明度検出部と、第2視点用係数演算処理部と、を備える。
(1)デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第1視点用周囲明度信号US_Rを取得し、
(2)所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。
(1)デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第2視点用周囲明度信号US_Lを取得し、
(2)所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
OS_L=IS_L+k×((IS_L)−(US_L’))
により、補正第2視点用画像信号OS_Lを取得する。
OS_R=IS_R+k×((IS_R)−(US_R’))
により、補正第1視点用画像信号OS_Rを取得する。したがって、この立体画像処理装置では、周辺より暗い画素について、より強い局所コントラスト強調処理が実行される(第2視点用の処理についても同様)。すなわち、この立体画像処理装置では、周辺より暗い部分の画素について、アンシャープマスキングの強調度合いが強くなるように処理が実行されるので、画像の陰影成分を選択的に強調することができる。その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
第1視点画像用画像補正部は、第1視点用第2デプス周囲明度検出部と、第1視点用係数演算処理部と、を備える。第2視点画像用画像補正部は、第2視点用第2デプス周囲明度検出部と、第2視点用係数演算処理部と、を備える。
(1)デプス取得部により取得された、第1視点用画像信号IS_Rに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第1視点用周囲明度信号US_Rを取得し、
(2)所定の画像領域において、第1視点用画像信号IS_Rの変化が激しい程、大きな値となる第1視点用オフセット値ΔUS_Rを取得し、第1視点用周囲明度信号US_Rに、第1視点用オフセット値ΔUS_Rを加算することで、第1視点用補正周囲明度信号US_R’を取得する。
(k+p)×(IS_R−US_R’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_R−US_R’))を取得し、取得した信号LPF((k+p)×(IS_R−US_R’))を用いて、
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))。
により、補正第1視点用画像信号OS_Rを取得する。
(1)デプス取得部により取得された、第2視点用画像信号IS_Lに対応する画素である注目画素の被写体距離と当該注目画素の周辺画素の被写体距離との差が小さい程、重み付けを大きくして、当該注目画素の画素値と周辺画素の画素値との重み付け平均値を算出することで、第2視点用周囲明度信号US_Lを取得し、
(2)所定の画像領域において、第2視点用画像信号IS_Lの変化が激しい程、大きな値となる第2視点用オフセット値ΔUS_Lを取得し、第2視点用周囲明度信号US_Lに、第2視点用オフセット値ΔUS_Lを加算することで、第2視点用補正周囲明度信号US_L’を取得する。
(k+p)×(IS_L−US_L’)
により取得した信号に対して、帯域制限処理を行うことで、信号LPF((k+p)×(IS_L−US_L’))を取得し、取得した信号LPF((k+p)×(IS_L−US_L’))を用いて、
OS_L=IS_L−p×(IS_L−US_L’)+LPF((k+p)×(IS_L−US_L’))。
により、補正第2視点用画像信号OS_Lを取得する。
OS_R=IS_R−p×(IS_R−US_R’)+LPF((k+p)×(IS_R−US_R’))
に相当する処理により、補正第1視点用画像信号OS_Rを取得する。これにより、この立体画像処理装置では、原画像に含まれる陰影成分および付加する陰影成分のぼかし具合(帯域制限処理の程度)を、係数pを用いて、調整することができる。(第2視点用の処理についても第1視点用の処理と同様。)したがって、この立体画像処理装置では、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調することができる。その結果、その結果、この立体画像処理装置では、より自然な立体感・遠近感を実現する立体画像を取得することができる。
これにより、第1から第19のいずれかの発明である立体画像処理装置を含む立体撮像装置を実現することができる。
第21の発明は、2眼方式または多視点方式による立体画像に含まれる第1視点用画像および第2視点用画像からなる立体画像に対して画像補正処理を行う立体画像処理方法であって、デプス取得ステップと、画像補正ステップと、を備える。
画像補正ステップは、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の階調変換を行う陰影強調処理を行い、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
第22の発明は、2眼方式または多視点方式による立体画像に含まれる第1視点用画像および第2視点用画像からなる立体画像に対して画像補正処理を行う立体画像処理方法をコンピュータで実行させるプログラムである。立体画像処理方法は、デプス取得ステップと、画像補正ステップと、を備える。
画像補正ステップは、第1視点用画像および第2視点用画像のそれぞれに対して、処理対象である注目画素の階調変換を行う陰影強調処理を行い、注目画素の被写体距離に基づいて、陰影強調処理の処理強調度を調整する。
[第1実施形態]
第1実施形態では、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。
図1に、第1実施形態に係る立体撮像装置1000の概略図を示す。
立体撮像装置1000は、図1に示すように、第1視点から被写体光を集光し第1画像信号(例えば、右眼用画像信号(R画像信号))を取得する第1撮像部101Rと、第2視点から被写体光を集光し第2画像信号(例えば、左眼用画像信号(L画像信号))を取得する第2撮像部101Lと、第1画像信号(例えば、R画像信号)および第2画像信号(例えば、L画像信号)を、それぞれ、デジタル信号に変換する画像入力部102と、を備える。
第1撮像部101Rは、第1視点に設置されており、被写体光を集光する光学系と、集光した被写体光から光電変換により第1画像信号(右眼用画像信号(R画像信号))を取得する撮像素子と、を備える。そして、第1撮像部101Rは、取得した第1画像信号(R画像信号)を画像入力部102に出力する。
画像入力部102は、第1撮像部101Rにより取得された第1画像信号(R画像信号)を入力とし、入力された第1画像信号に対して、A/D変換を行い、A/D変換した第1画像信号(R画像信号)をデプス取得部103および画像補正部104に出力する。
デプス取得部103は、画像入力部102から出力される第1画像信号(R画像信号)および第2画像信号(L画像信号)を入力とする。デプス取得部103は、第1画像信号(R画像信号)により形成される第1画像(R画像)および第2画像信号(L画像信号)から形成される第2画像(L画像)から、第1画像(R画像)用のデプス情報である第1デプス情報(Rデプス情報)および第2画像(L画像)用のデプス情報である第2デプス情報(Lデプス情報)を取得する。そして、デプス取得部103は、取得した第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)を画像補正部104に出力する。
画像補正部104は、図2に示すように、L画像用画像補正部104Lと、R画像用画像補正部104Rとを備える。画像補正部104は、画像入力部102から出力される第1画像信号(R画像信号)および第2画像信号(L画像信号)と、デプス取得部103から出力される第1デプス情報(Rデプス情報)および第2デプス情報(Lデプス情報)と、を入力とする。画像補正部104は、第1デプス情報(Rデプス情報)に基づいて、第1画像信号(R画像信号)に補正処理を行い、補正処理後の第1画像信号(R画像信号)を出力する。また、画像補正部104は、第2デプス情報(Lデプス情報)に基づいて、第2画像信号(L画像信号)に補正処理を行い、補正処理後の第2画像信号(L画像信号)を出力する。
L画像用画像補正部104Lは、図2に示すように、局所階調変換部111Lと、強度生成部112Lと、合成部113Lとを備える。
周囲明度検出部121は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、動的階調補正部122に出力する。
図4は、横軸に入力信号であるIS信号の値(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)をとり、縦軸に出力信号であるOS信号の値(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)をとり、周囲明度信号US_L(またはUS_R)の値により決定される階調変換特性曲線K1〜K8をグラフにしたものである。
階調変換特性曲線Kn(n:1〜8の整数)は、周囲明度信号の値US(US_LまたはUS_R)が「n/8」(n:1〜8の整数)のときの階調変換特性曲線群であり、この階調変換特性曲線群K1〜K8は、ISの値を所定の値に固定した場合(例えば、図4の値Aに固定した場合)、周囲明度信号の値USが増加するにつれ、出力値OSが単調減少するように設定される。なお、階調変換特性曲線群の数は、図4では、8本であるが、この数に限定されることがないのは言うまでもない。また、動的階調補正部122において、階調変換特性曲線群を所定数だけ設定しておき(例えば、LUTに階調変換特性曲線群を特定するデータを所定数だけ保存しておき)、補間処理、内挿処理等を行うことで、予め設定されている階調変換特性曲線群以外の階調変換特性曲線を実現するようにしてもよい。(例えば、図4の場合、US=3/16のときの階調変換特性曲線を、US=1/8のときの階調変換特性曲線K1と、US=2/8のときの階調変換特性曲線K2とを用いて、補間処理、内挿処理等を行うことで、導いてもよい。)
図4の階調変換特性に基づいて、入力信号であるIS信号の値(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)に対して、階調変換を行うことで、階調変換後の画像において、局所コントラストを強調しつつ、画像全体の明るさを一定に保つことができる。(ISの値とUSの値とが同一の場合、図4で示した黒丸の点に対応する階調変換処理が実行されるため、ISの値とOSの値は一致する。その結果、画像全体の明るさは、階調変換前後で一定に保たれる。)
以上説明したように、動的階調補正部122は、図4に示すような階調変換特性により、IS信号(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)に対して動的階調補正処理を行うことで、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を取得する。そして、動的階調補正部122は、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を合成部113L(R画像信号の場合は、合成部113R)に出力する。
なお、R画像用画像補正部104Rは、L画像用画像補正部104Lと同様の構成を有しており、入力される信号が、R画像信号およびRデプス情報である点だけが、L画像用画像補正部104Lとは相違する。
<1.2:立体撮像装置の動作>
以上のように構成された立体撮像装置1000の動作について、以下、説明する。
被写体201は背景の壁、被写体202は人物の様な主被写体、被写体203は柱の様な従被写体であるものとする。主被写体202および従被写体203は、図5に示すように、いずれも、上から見たときに所定の幅を有する略楕円形のオブジェクトであるものとする。
第1撮像部101Rおよび第2撮像部101Lは、立体撮像装置1000において、立体画像(左眼用画像および右眼用画像)を取得できるように、基線長(ステレオベース長)分(図5の距離SB1)だけ離して配置されている。
図5の被写体シーンを立体撮像装置1000で撮像した場合、第1撮像部101Rから出力された第1画像信号(R画像信号)および第2撮像部101Lから出力された第2画像信号(L画像信号)は、それぞれ、画像入力部102に入力され、画像入力部102によりデジタル信号に変換される。そして、デジタル信号に変換された第1画像信号(R画像信号)および第2画像信号(L画像信号)は、それぞれ、デプス取得部103および画像補正部104に出力される。
図6は、三角形のオブジェクトが奥に配置されており、円形のオブジェクトが手前に配置されている撮影シーンを立体撮像装置1000で立体撮影したときの立体画像を模式的に示す図である。図6(a)は、L画像(左眼用画像)を模式的に示した図であり、図6(b)は、R画像(右眼用画像)を模式的に示した図であり、図6(c)は、R画像およびL画像を1つの画像として重ねて表示させた図である。
(1)まず、デプス取得部103は、L画像(左眼用画像)およびR画像(右眼用画像)を用いて、例えば、図6(a)のL画像上の点ALに対応する被写体A(図6の三角形の頂点)が、図6(b)のR画像上の点ARに対応していることを検出する。
(2)そして、検出した2つの点ALおよび点ARのずれ量(視差)Diff(A)を算出する。
例えば、図6の場合、被写体Aについての視差の絶対値がα(≧0)であるとすると、R画像上のAR点が、L画像上のAL点より右方向にずれているので、被写体Aについての視差を「−α」として算出する。そして、被写体B(図6の円の中心点)についての視差の絶対値がβ(≧0)であるとすると、R画像上のBR点が、L画像上のBL点より左方向にずれているので、被写体Bについての視差を「+β」として算出する。
(3)デプス取得部103は、(1)、(2)の処理を、画像上の全ての点(全ての画素)について行い、算出したずれ量(視差)を画素値とする視差画像を取得する。そして、L画像の各画素に算出した視差を画素値として取得した視差画像を、Lデプス情報(Lデプス情報画像(左眼画像用距離画像))とし、R画像の各画素に算出した視差を画素値として取得した視差画像を、Rデプス情報(Rデプス情報画像(右眼画像用距離画像))とする。
なお、「距離画像」とは、各画素に、当該各画素に相当する被写体の実際の位置(3次元空間内の位置)と立体撮像装置1000の位置との距離に相関性のある値をマッピングした画像のことである。
≪自然な立体感強調について≫
ここで、立体画像における自然な立体感の強調について、図5の被写体シーンを立体撮影する場合を例に、説明する。
さらに、主被写体202は明るい色であり、従被写体203は暗い色であるとする。また主被写体202および従被写体203は、どちらも小振幅の明暗変化を有しているものとする。背景201は、立体撮像装置1000から見て、左手が前方、右手が後方にあるような湾曲した壁のようなものであり、主被写体202と従被写体203との中間的な明るさであり、少し大きめの明暗変化を有しているものとする。
具体的には、図7(a2)は、L画像における水平方向の位置と輝度との関係を示す図であり、図7(b2)は、R画像における水平方向の位置と輝度との関係を示す図である。図7の輝度分布を持つ立体画像は、従来の立体撮像装置の出力画像に相当する。
また、図7(a1)〜(b2)は、水平方向の位置を一致させた状態で図示されている。
ここで、立体撮影して取得される立体画像の立体感・遠近感が不足する原因について考える。
(1)第1撮像部101Rと第2撮像部101Lの間隔が短い状態で立体撮影して、立体撮影画像を取得した場合。
(2)被写体202、203、201の配置に対して、第1撮像部101Rおよび第2撮像部101Lの位置が遠い状態(被写体距離が大きい状態)で立体撮影して、立体撮影画像を取得した場合。
(3)立体画像を表示させる表示ディスプレイのサイズが小さい場合。
上記のような要因により立体感が不足した立体画像に対して、陰影を強調すると立体感が増した様に認識されることがある。ここで、「陰影」とは、ある方向から照射される照明が被写体を照らす際に発生する被写体の明るさの変化のことを含む概念である。そして、例えば、被写体表面の角度により被写体の明るさが変化すると、被写体に陰影が生じる。これにより、人間は、被写体の形状や被写体の表面の凹凸を認識することができる。
陰影の強調(陰影強調処理)には、公知な種々の手法が存在するが、ここでは、視覚の明暗対比特性を画像処理的に強調することにより、自然なコントラスト強調が可能な局所コントラスト強調処理(例えば、国際公開公報W02005/027043号や国際公開公報WO2007/043460号に開示されている局所コントラスト強調処理(空間視覚処理))を用いるものを例にとって、陰影強調処理について、説明する。局所コントラスト強調処理を用いた陰影強調処理は、例えば、図3に示した局所階調変換部111L(111R)を用いて実現できる。
具体的には、図8(a)は、画質補正後のL画像における水平方向の位置と輝度との関係を示す図である。図8(b)は、画質補正後のR画像における水平方向の位置と輝度との関係を示す図である。図8(c)は、図8(b)に、さらに、周囲明度信号US_Lを重ねて表示させた図である。
Δ2>Δ1
となり、主被写体202の陰影が強調されていることが分かる。
しかし、実際に局所コントラスト強調を行った画像を観察すると、確かに陰影が強調されているが、陰影以外の明暗差も同じく強調されている。そのため、局所コントラスト強調処理を行った立体画像(L画像およびR画像)は、画面全体にコントラストが強調されたメリハリのある画像にはなっているが、このことが必ずしも立体感・遠近感を増加させることにはならず、局所コントラスト強調処理を行った立体画像(L画像およびR画像)が立体感・遠近感を増加したようには見えない場合も多い。
(1)遠景に対しても近景と同じようにコントラスト強調がなされている。
陰影による立体感の知覚(人間の知覚)は、本来、近くの被写体に対しては強く働き、遠くの被写体に対してはあまり働かない。このことを考慮せずに、上記局所コントラスト強調処理による陰影強調処理では、被写体距離に関係なく画像全体に対して均一に処理がなされている。そのため、図8中のAの部分(一点鎖線で囲こまれた部分)のコントラストが不自然に強調されている。その結果、立体画像に対して陰影を強調するために実行された処理が、その意図に反して、陰影の強調に見えない不自然な処理になったものと考えられる。
(2)オブジェクト間の領域に対してもコントラスト強調がなされている。
(1.2.1:画像補正部104の動作)
次に、画像補正部104の動作について、説明する。
なお、L画像に対しては、Lデプス情報を用いて、L画像用画像補正部104Lにより処理が実行され、R画像に対しては、Rデプス情報を用いて、R画像用画像補正部104Rにより処理が実行されるが、その処理内容は同一であるため、以下では、主として、L画像用画像補正部104Lについて、説明する。
まず、L画像用画像補正部104Lの強度生成部112Lの動作について、説明する。
なお、R画像用画像補正部104Rの強度生成部112Rの動作についても、強度生成部112Lと同様である。
図7(a1)は、L画像における画素位置とデプス値(距離情報)との関係を示す図である。デプス値は、遠方であるほど(被写体距離が大きい程)小さい値を取り、近景である程(被写体距離が小さい程)、大きい値を取るものとする。
図2に示す強度生成部112Lでは、図9に示すように、入力されたLデプス情報に対して、線形または非線形な連続関数を用いた入出力変換により、第1強度信号M1_Lが生成される。強度生成部112Lにおける(Lデプス情報D(x,y))−(第1強度信号M1_L)の入出力変換特性は、例えば、図9に示すように、入力であるLデプス情報D(x,y)に対して出力である第1強度信号M1_Lの値(0≦M1_L≦1)が単調増加する特性とする。つまり、Lデプス情報D(x,y)が示す被写体距離が小さい(近景である)程、陰影強調処理(例えば、局所階調変換処理)が強くかかるように、強度生成部112Lにおける(Lデプス情報D(x,y))−(第1強度信号M1_L)の入出力変換特性を設定すればよい。
なお、Rデプス情報についての強度生成部112Rの処理も、Lデプス情報についての強度生成部112Lの処理と同様である。
≪局所階調変換部111の動作≫
次に、L画像用画像補正部104Lの局所階調変換部111Lの動作について、説明する。
局所階調変換部111Lでは、入力されたL画像信号(L画像上の注目画素に相当)に対して、空間視覚処理による局所階調変換処理が実行される。具体的には、図3に示すように、局所階調変換部111Lの周囲明度検出部121により、注目画素の周辺画像領域の代表明度値(例えば、周辺画像領域の明度平均値(輝度平均値))が算出され、算出された代表明度値が、周囲明度信号US_Lとして、動的階調補正部122に出力される。
図10は、周囲明度検出部121が、座標(x,y)(xは画像上のx座標であり、yは画像上のy座標である。)の着目画素の周囲の明度を抽出する範囲を説明するための図である。
上記重み係数を用いると、周囲明度Usは、次の(数式1)で算出できる。
周囲明度検出部121では、注目画素(座標(x,y)の画素)について、上記(数式1)に相当する処理を実行することで、当該注目画素についての周囲明度Us(x,y)が算出される。そして、これを、画像を形成する全画素について行う。
動的階調補正部122では、周囲明度検出部121から出力された周囲明度信号US_Lに基づいて、入力されたL画像信号(L画像上の注目画素)に対して実行する階調変換特性が決定される。具体的には、周囲明度信号US_Lの値に従って、注目画素に階調変換を行うための階調変換特性曲線を、図4に示した階調変換特性曲線K1〜K8の中から選択、あるいは、階調変換特性曲線K1〜K8から補間処理等により導出することで、決定する。そして、動的階調補正部122により決定された階調変換特性曲線による階調変換を注目画素に対して行うことで、階調変換後のL画像信号がOS_Lとして取得される。そして、取得された階調変換後のL画像信号OS_Lは、合成部113Lに出力される。
合成部113Lでは、局所階調変換部111Lから出力された階調変換後のL画像信号OS_Lと、画像入力部102から出力されたL画像信号IS_L(階調変換処理が実行されていないL画像信号)とが、L画像用第1強度信号M1_Lの値に応じて合成される。
(1)被写体距離が遠く、デプス値が小さい程、L画像信号IS_Lの重みが大きくなるように合成され、
(2)被写体距離が近く、デプス値が大きい程、階調変換後のL画像信号OS_Lの重みが大きくなるように合成される。
ここで、線形な内分処理による合成部113Lでの合成の手法について、説明する。
強度生成部112Lにおける(Lデプス情報D(x,y))−(第1強度信号M1_L)の入出力変換特性は、例えば、図9に示すように、入力であるLデプス情報D(x,y)に対して出力である第1強度信号M1_Lの値(0≦M1_L≦1)が単調増加する特性とする。
Lout=M1_L×OS_L+(1−M1_L)×IS_L
により、L出力画像信号Loutを合成する。
つまり、上記のように、L画像信号IS_Lと、階調変換後のL画像信号OS_Lとを、内分比を第1強度信号M1_Lとして合成することで、
(1)被写体距離が遠く、デプス値が小さい程(第1強度信号M1_Lの値が「0」に近い程)、L画像信号IS_Lの重みが大きくなるように合成され、
(2)被写体距離が近く、デプス値が大きい程(第1強度信号M1_Lの値が「1」に近い程)、階調変換後のL画像信号OS_Lの重みが大きくなるように合成される。
つまり、立体撮像装置1000では、明暗の差が陰影により生じている確率の高い近景の被写体に対して、コントラストを強調することができるとともに、明暗の差が陰影により生じている確率の低い遠景の被写体に対しては、コントラストを必要以上に強調することがない。
さらに、立体撮像装置1000により取得される立体画像は、遠景に対して近景のくっきり感が向上するため、遠景と近景のコントラスト感の違いが大きくなる。その結果、立体撮像装置1000により取得される立体画像は、遠近感の向上も同時に実現された立体画像となる。
次に、第2実施形態について、説明する。
第2実施形態は、前述の第1実施形態の中で説明した、局所コントラスト強調を行っただけでは立体感・遠近感が増加したようには見えない原因(2)(オブジェクト間の領域に対してもコントラスト強調がなされることによる原因)を解決することを目的としている。説明を簡単にするため、第1実施形態で説明した原因(1)(遠景に対しても近景と同じようにコントラスト強調がなされることによる原因)により発生する課題を解決することについては、本実施形態では、説明を省略する。
第2実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000の画像補正部104を、図13に示す画像補正部504に置換した構成である。そして、この点のみが、第2実施形態の立体撮像装置と第1実施形態の立体撮像装置1000との相違点である。
画像補正部504は、図13に示すように、第2のL画像用画像補正部504Lと、第2のR画像用画像補正部504Rとを備える。
画像補正部504Lは、第2デプス情報(Lデプス情報)に基づいて、第2画像信号(L画像信号)に補正処理を行い、補正処理後の第2画像信号(L画像信号)を出力する。
なお、本実施形態の立体撮像装置において、デプス情報は上記のように第1デプス情報(Rデプス情報)と第2デプス情報(Lデプス情報)の両方が得られると好適であるが、いずれか一方のみから間接的に他方を得ることも可能であるため、必ずしもふたつのデプス情報が必要なわけではない。
第2のL画像用画像補正部504Lは、図13に示すように、第2の局所階調変換部511Lを備える。
第2の局所階調変換部511Lは、図13に示すように、デプス周囲明度検出部521と、動的階調補正部122とを備える。
デプス周囲明度検出部521は、L画像信号(IS_L)を入力とし、注目画素(L画像上の処理対象画素)の周囲の領域の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出するものであるが、上記代表明度値の算出においてL画像のデプス情報を参照するところが、第1実施形態における周囲明度検出部121と異なる点である。
デプス周囲明度検出部521は、上記重み係数値を算出する関数Fを用いて、次式に相当する処理を行うことで、注目画素(座標(x,y)の画素)の周辺画像領域の代表明度値を算出する。
ここで、デプス周囲明度検出部521における上記(数式2)に相当する処理について、図15を用いて、説明する。
図15は、デプス周囲明度検出部521における上記(数式2)に相当する処理を説明するフローチャートである。以下では、図10のフィルタ範囲(y−m≦y≦y+m、x−n≦x≦x+nの領域)を周辺画像領域として、(数式2)の代表明度値Us(x,y)を算出する場合について、図15のフローチャートを用いて、説明する。
(S101):
S101において、デプス周囲明度検出部521は、初期値を設定する。具体的には、(数式2)の分子の各項に相当するBunsi、(数式2)の分母の各項に相当するBunboに「0」を設定する。また、j=−m、i=−n(m、n:自然数)に設定する。
(S102):
S102において、デプス周囲明度検出部521は、注目画素(座標(x,y)の画素)のデプス値D(x,y)(デプス取得部103により取得されたデプス値D(x,y))を取得する。
(S103):
S103において、デプス周囲明度検出部521は、例えば、図11に示した特性を示す関数A(i,j)により、A(i,j)の値を取得する。
(S104):
S104において、デプス周囲明度検出部521は、座標(x+i,y+j)の画素の入力画像信号の値(L画像の場合、信号IS_Lの座標(x+i,y+j)の画素に相当する信号値)を取得する。
(S105):
S105において、デプス周囲明度検出部521は、座標(x+i,y+j)の画素のデプス値D(x+i,y+j)を取得する。
(S106):
S106において、デプス周囲明度検出部521は、例えば、図14に示した関数F(k)を用いて、F(D(x+i,y+j)−D(x,y))を算出する。
(S107):
S107において、デプス周囲明度検出部521は、(数式2)の分子の各項に相当するBunsiを積算する。具体的には、デプス周囲明度検出部521は、
Bunshi=Bunshi+A(i,j)・F(D(x+i,y+j)−D(x,y))・Is(x+i,y+j)
により、(数式2)の分子の各項に相当するBunsiの積算処理を行う。
(S108):
S108において、デプス周囲明度検出部521は、(数式2)の分母の各項に相当するBunboを積算する。具体的には、デプス周囲明度検出部521は、
Bunbo=Bunbo+A(i,j)・F(D(x+i,y+j)−D(x,y))
により、(数式2)の分母の各項に相当するBunboの積算処理を行う。
(S109、S110):
S108において、デプス周囲明度検出部521は、iの値をインクリメントし(「1」加算し)、S109において、iの値がn以下であるか否かを判定する。
iの値がn以下ではない場合、S111へ処理を進める。
(S111、S112):
S111において、デプス周囲明度検出部521は、jの値をインクリメントし(「1」加算し)、S112において、jの値がm以下であるか否かを判定する。
jの値がm以下ではない場合、S113へ処理を進める。
(S113):
S113において、デプス周囲明度検出部521は、
Us(x,y)=Bunshi/Bunbo
により、代表明度値Us(x,y)を算出する。
このデプス周囲明度検出部521が出力する周囲明度信号US_Lは、定性的には、注目画素のデプス値と近いデプス値を持つ被写体の中での輝度の平均値になると考えられる。つまり、デプス周囲明度検出部521が出力する周囲明度信号US_Lの値は、注目画素に対応する3次元空間内の点と被写体距離がほぼ等しい領域であって、L画像(R画像)上において、当該注目画素の周辺に存在する領域に相当する画素(周辺画素)の画素値(輝度値)の平均値に近い値となると考えられる。
(図16(a3)は、図16(a2)に、周囲明度信号US_Lを重ねて表示させた図であるが、図16(a3)の周囲明度信号US_Lは、図8(c)の周囲明度信号US_Lと異なり、領域Bにおいて、適切な値の信号となっていることが分かる。)
つまり、本実施形態の立体撮像装置では、立体画像上において、主被写体202を形成する画像領域に対して、距離(被写体距離)の異なる背景の明暗の影響を受けてコントラスト強調がなされることを適切に回避することができる。そして、本実施形態の立体撮像装置では、本当に陰影による明暗差を中心とした陰影の強調が実現できることになり、その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
第1実施形態では、局所コントラストの強調が自然な陰影の強調に繋がらない原因(1)(遠景に対しても近景と同じようにコントラスト強調がなされることによる原因)により発生する課題についての解決手段(解決方法)について説明した。
また、第2実施形態では、局所コントラストの強調が自然な陰影の強調に繋がらない原因(2)(オブジェクト間の領域に対してもコントラスト強調がなされることによる原因)により発生する課題についての解決手段(解決方法)について説明した。
また、そのためには、図2に示す第1実施形態の構成の局所階調変換部111(111L、111R)を第2実施形態における第2の局所階調変換部511(511L、511R)に置き換えるだけでよい。なお、この場合、置換後の第2の局所階調変換部511(511L、511R)には、Lデプス情報およびRデプス情報を入力させる。
図17から分かるように、第3実施形態の立体撮像装置では、(1)明暗に対する陰影の占める割合が少ない遠方の領域(例えば領域Aなど)の局所コントラスト強調を適切に抑えることができるだけでなく、(2)大きなデプス差を有する領域(領域Bなど)においても、デプス差を伴う明暗差の強調が適切に抑えることができる。
[第4実施形態]
次に、第4実施形態について、説明する。
前述の実施形態の技術では、明暗対比を強調する技術であるので、陰影も強調されるが、陰影以外の明るさも強調されてしまう。
本願発明者らは、立体画像において、立体感・遠近感を自然に強調するためには(自然な立体感・遠近感を実現するためには)、陰影部分のみを強調することが効果的であることを見出した。
前述の実施形態で説明した局所コントラストを強調する手法は、明暗対比を強調する手法であるから、陰影も強調されるのは確かであるが、陰影以外の部分も強調されてしまう。例えば、局所コントラストを強調する手法では、局所的な光の強弱が強調されるため、影の強調だけで無く、明るさも強調されてしまう。また、局所コントラストを強調する手法では、オブジェクト表面の色の変化や明暗の変化(反射率の変化)など、陰影とは関係の無い要素も強調される。そのため、局所コントラストを強調する手法により取得された立体画像は、人間が見ると陰影の強調に見えず、立体感の増加と言うより単にシーン全体をくっきりさせた様にしか見えない傾向がある。
なお、第4実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第4実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000における画像補正部104の局所階調変換部111Lおよび111Rを、局所階調変換部111ALおよび111ARに置換した構成を有する。この点において、第4実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000と相違する。その他の点については、第4実施形態の立体撮像装置は、第1実施形態の立体撮像装置と同様である。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
<4.1:局所階調変換部111AL>
局所階調変換部111ALは、図18に示すように、周囲明度検出部121と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
(IS_L)−(US_L)
に相当する減算処理を行い、減算処理により取得した差分信号((IS_L)−(US_L))を係数決定部1602および乗算器1603に出力する。
(1)差分信号((IS_L)−(US_L))の信号値が負である場合(IS_L<US_Lの場合)、k=k1に設定し、設定した係数k(=k1)を乗算器1603に出力する。
(2)差分信号((IS_L)−(US_L))の信号値が負ではない場合(IS_L≧US_Lの場合)、k=k2(ただし、k2<k1)に設定し、設定した係数k(=k2)を乗算器1603に出力する。
k×((IS_L)−(US_L))
に相当する乗算処理を行い、当該乗算処理により取得された乗算信号(k×((IS_L)−(US_L)))を加算器1604に出力する。
OS_L=IS_L+k×((IS_L)−(US_L))
に相当する処理を行い、補正後の輝度値OS_Lを取得する。
(1)差分信号((IS_L)−(US_L))の信号値が負である場合(IS_L<US_Lの場合)、
OS_L=IS_L+k1×((IS_L)−(US_L))
に相当する処理が実行され、補正後の輝度値OS_Lが取得される。
(2)差分信号((IS_L)−(US_L))の信号値が負ではない場合(IS_L≧US_Lの場合)、
OS_L=IS_L+k2×((IS_L)−(US_L))
(ただし、k2<k1)
に相当する処理が実行され、補正後の輝度値Os_Lが取得される。
(1)処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より暗い場合、係数kの値を大きな値k1(>k2)に設定し、アンシャープマスキングの強調度合いを強くし、
(2)処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より明るい場合、係数kの値を小さな値k2(<k1)に設定し、アンシャープマスキングの強調度合いを弱くする。
つまり、本実施形態の立体画像処理装置において、処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より暗い場合、係数kの値が大きな値k1(>k2)に設定されるので、処理対象画素が含まれる画像領域の変化分((IS_L)−(US_L))の加算される量が多くなる。このため、アンシャープマスキングの強調度合いが強くなる。その結果、立体画像の陰影部分が強調されることになる(陰影が濃くなるように立体画像処理が実行されることになる)。(本実施形態の立体画像処理装置のL画像補正部104Lにおいて、陰影部分が強調された補正後の輝度値OS_Lを用いて、処理が実行されることになるため、立体画像の陰影部分が強調されることになる。)
一方、本実施形態の立体画像処理装置において、処理対象画素の明るさ(輝度値)が、当該処理対象画素の周辺の明るさ(例えば、平均輝度値)より明るい場合、係数kの値が小さい値k2(<k1)に設定されるので、処理対象画素が含まれる画像領域の変化分((IS_L)−(US_L))の加算される量が少なくなる。このため、アンシャープマスキングの強調度合いが弱くなる(アンシャープマスキングの効果が弱くなる)。その結果、立体画像の陰影以外の部分(例えば、明るい部分)があまり強調されない。
また、本実施形態の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第4実施形態の立体撮像装置における局所階調変換部111ALおよび111ARを、図20に示す局所階調変換部111BLおよび111BRに、置換した構成を有する。より具体的には、本変形例の立体撮像装置は、第4実施形態の立体撮像装置における局所階調変換部111ALおよび111ARの周囲明度検出部121を、図20に示す第2周囲明度検出部1801に置換した構成を有する。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111BLおよび111BRの構成および処理内容について、説明する。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
<4.2:局所階調変換部111BL>
図20に示すように、局所階調変換部111BLは、第2周囲明度検出部1801と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
第2周囲明度検出部1801は、図20に示すように、周囲明度検出部121と、オフセット算出部1802と、加算器1803と、を備える。
図20に示す周囲明度検出部121は、図18に示す周囲明度検出部121と同様のものである。
オフセット算出部1802は、オフセット値ΔUS_Lを、例えば、以下のようにして、算出する。
(A)差分絶対値の平均値
オフセット算出部1802は、サンプル数をN(Nは自然数)として、L画像信号の輝度値IS_Lと、周囲明度信号US_Lとの差分絶対値の平均値を算出する。そして、オフセット算出部1802は、算出した当該平均値をオフセット値ΔUS_Lとする。すなわち、オフセット算出部1802は、下記(数式3)に相当する処理(サンプル数はN(N:自然数))により、オフセット値ΔUS_Lを算出する。なお、後段の信号処理で使用しやすくするために、下記(数式3)のように、係数c1により、オフセット値のレンジを調整し、オフセット値ΔUS_Lを求めるようにしてもよい。また、下記(数式3)では、L画像用の処理およびR画像用の処理を区別せずに、一般的な数式と表現している。つまり、L画像用の処理の場合、下記(数式3)において、ΔUS=ΔUS_L、IS=IS_L、US=US_Lであり、R画像用の処理の場合、下記(数式3)において、ΔUS=ΔUS_R、IS=IS_R、US=US_Rである(下記(数式4)、(数式5)についても同様)。
オフセット算出部1802は、サンプル数をN(Nは自然数)として、L画像信号の輝度値IS_Lと、周囲明度信号US_Lとの分散値を算出する。そして、オフセット算出部1802は、算出した当該分散値をオフセット値ΔUS_Lとする。すなわち、オフセット算出部1802は、下記(数式4)に相当する処理(サンプル数はN(N:自然数))により、オフセット値ΔUS_Lを算出する。なお、後段の信号処理で使用しやすくするために、下記(数式4)のように、係数c2により、オフセット値のレンジを調整し、オフセット値ΔUS_Lを求めるようにしてもよい。
オフセット算出部1802は、サンプル数をN(Nは自然数)として、L画像信号の輝度値IS_Lと、周囲明度信号US_Lとの標準偏差値を算出する。そして、オフセット算出部1802は、算出した当該標準偏差値をオフセット値ΔUS_Lとする。すなわち、オフセット算出部1802は、下記(数式5)に相当する処理(サンプル数はN(N:自然数))により、オフセット値ΔUS_Lを算出する。なお、後段の信号処理で使用しやすくするために、下記(数式5)のように、係数c3により、オフセット値のレンジを調整し、オフセット値ΔUS_Lを求めるようにしてもよい。
加算器1803は、周囲明度検出部121から出力される周囲明度信号US_Lおよびオフセット算出部1802から出力されるオフセット値ΔUS_Lを入力とし、周囲明度信号US_Lおよびオフセット値ΔUS_Lを加算する。そして、加算器1803は、加算結果(US_L+ΔUS_L)を補正周囲明度信号US_L’として、減算器1601に出力する。
(1)L画像信号の輝度値IS_Lの変化の少ない部分(画像領域)では、周囲明度信号US_Lと同様の値となるが、
(2)L画像信号の輝度値IS_Lの変化の大きい部分(画像領域)では、周囲明度信号US_Lよりも大きな値(大きな値の信号値)となる。
(1)L画像信号の輝度値IS_L(波形Is)の変化の少ない部分(画像領域)では、周囲明度信号US_L(波形Us)と同様の値となるが、
(2)L画像信号の輝度値IS_L(波形Is)の変化の大きい部分(画像領域)では、周囲明度信号US_L(波形Us)よりも大きな値(大きな値の信号値)となることが分かる。
つまり、本変形例の局所階調変換部111BLでは、
(1)差分信号((IS_L)−(US_L’))の信号値が負である場合(IS_L<US_L’の場合)、
OS_L=IS_L+k1×((IS_L)−(US_L’))
に相当する処理が実行され、補正後の輝度値OS_Lが取得される。
(2)差分信号((IS_L)−(US_L’))の信号値が負ではない場合(IS_L≧US_L’の場合)、
OS_L=IS_L+k2×((IS_L)−(US_L’))
(ただし、k2<k1)
に相当する処理が実行され、補正後の輝度値Os_Lが取得される。
(1)処理対象画素の明るさ(輝度値)が、補正周囲明度信号US_L’で決定される明るさより暗い場合、係数kの値を大きな値k1(>k2)に設定し、アンシャープマスキングの強調度合いを強くし、
(2)処理対象画素の明るさ(輝度値)が、補正周囲明度信号US_L’で決定される明るさより明るい場合、係数kの値を小さな値k2(<k1)に設定し、アンシャープマスキングの強調度合いを弱くする。
なお、上記処理の(2)の場合において、係数kの値を「0」に設定することで、アンシャープマスキングの効果を「なし」にすることができる。すなわち、この場合、処理対象画素の明るさ(輝度値)が、補正周囲明度信号US_L’で決定される明るさより暗い場合のみ、アンシャープマスキング処理が実行されることになり、本変形例の立体画像処理装置において、処理対象画素の画素値を暗くする方向の処理のみが実行されることになる(陰影部分を強調する処理が実行されることになる)。
図21(a)は、L画像信号の輝度値IS_L(波形Is)と、周囲明度信号US_L(波形Us)と、局所階調変換処理(コントラスト強調処理)を行うことで取得した補正後の輝度値OS_L(波形Os)を示している。
図21から分かるように、本変形例の立体画像処理装置では、L画像信号の輝度値IS_L(波形Is)の変化の大きい部分において、補正周囲明度信号US_L’(波形Us’)の信号値が大きくなるので、補正周囲明度信号US_L’の信号値より低い信号値を持つL画像信号の輝度値IS_L(波形Is)に対して、アンシャープマスキング処理の強調度合いが大きくなる。その結果、図21(b)に示すように、L画像信号の輝度値IS_L(波形Is)の変化の大きい部分において、暗くなる方向への処理(階調値を低くする処理)が実行される。これにより、本変形例の立体画像処理装置では、例えば、オブジェクトのディテール部分における陰影部分を効果的に強調することができる(当該ディテール部分の陰影を効果的に濃くすることができる)。
次に、本実施形態の第2変形例について、説明する。
本変形例の立体撮像装置は、第4実施形態の第1変形例の立体撮像装置の第2周囲明度検出部1801を、図23に示す第3周囲明度検出部2101に置換した構成を有する。
それ以外については、本変形例の立体撮像装置は、第4実施形態の第1変形例の立体撮像装置と同様である。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
第3周囲明度検出部2101では、第2周囲明度検出部1801とは異なり、周囲明度信号US_Lを用いることなく、L画像信号の輝度値IS_Lの変化の大きい部分において、大きな信号値となる補正周囲明度信号US_L’を取得する。
図23に示すように、第3周囲明度検出部2101は、第1ローパスフィルタ2102と、マックスフィルタ2103と、第2ローパスフィルタ2104と、を備える。
マックスフィルタ2103は、第1ローパスフィルタ2102の出力を入力とし、マックスフィルタ処理を実行する。具体的には、マックスフィルタ2103は、第1ローパスフィルタ2102の出力(ローパスフィルタ処理後のL画像信号)に対して、処理対象画素および当該処理対象画素の近傍に存在するN個(Nは自然数)の周辺画素(サンプル点)について、その画素値が最大のものを検出する。そして、マックスフィルタ2103は、検出した当該最大値を第2ローパスフィルタ2104に出力する。
そして、本変形例の立体撮像装置において、第3周囲明度検出部2101により取得された補正周囲明度信号US_L’を用いることで、第4実施形態の第1変形例と同様、オブジェクトのディテール部分等において、効果的に陰影を濃くする画像処理を実現することができる。これにより、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体撮像装置(立体画像処理装置)により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
次に、第5実施形態について、説明する。
本実施形態においても、陰影を濃くする立体画像処理を実現する技術について、説明する。
なお、第5実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第5実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000における画像補正部104の局所階調変換部111Lおよび111Rを、図24に示す局所階調変換部111CLおよび111CRに置換した構成を有する。この点において、第5実施形態の立体撮像装置は、第1実施形態の立体撮像装置1000と相違する。その他の点については、第5実施形態の立体撮像装置は、第1実施形態の立体撮像装置と同様である。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
なお、上述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
局所階調変換部111CLは、図24に示すように、周囲明度検出部121と、第2動的階調補正部122Aと、を備える。
周囲明度検出部121は、上述の実施形態の周囲明度検出部121と同様のものである。周囲明度検出部121は、画像入力部102から出力されたL画像を形成することができるL画像信号(L画像信号の輝度値IS_L)を入力とし、L画像信号の輝度値IS_Lに相当する注目画素(L画像上の処理対象画素)の周囲の領域(L画像上の注目画素の周辺画像領域)の代表明度値(例えば、当該周囲領域に含まれるすべての画素の平均輝度値)を算出する。そして、周囲明度検出部121は、算出した注目画素の周辺画像領域の代表明度値を、周囲明度信号US_Lとして、第2動的階調補正部122Aに出力する。
図25は、図4と同様、横軸に入力信号であるIS信号の値(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)をとり、縦軸に出力信号であるOS信号の値(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)をとり、周囲明度信号US_L(またはUS_R)の値により決定される階調変換特性曲線K1〜K8をグラフにしたものである。
以上説明したように、第2動的階調補正部122Aは、図25に示すような階調変換特性により、IS信号(L画像信号の輝度値IS_L、または、R画像信号の輝度値IS_R)に対して動的階調補正処理を行うことで、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を取得する。そして、第2動的階調補正部122Aは、OS信号(L画像信号の階調変換後の輝度値OS_L、または、R画像信号の階調変換後の輝度値OS_R)を合成部113L(R画像信号の場合は、合成部113R)に出力する。
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第5実施形態の立体撮像装置における局所階調変換部111CLおよび111CRを、図26に示す局所階調変換部111DLおよび111DRに、置換した構成を有する。
第2周囲明度検出部1801は、前述の実施形態で説明したもの(図20に示したもの)と同じものである。
動的階調補正部122は、前述の実施形態で説明したものと同じものであり、図4に示した階調変換特性により階調変換を実行する。
つまり、補正周囲明度信号US_L’は、L画像信号の輝度値IS_Lの変化の大きい部分において、その信号値が大きくなる。したがって、本変形例の立体撮像装置の動的階調補正部122により、補正周囲明度信号US_L’を用いた階調変換処理を実行することで、周囲明度信号US_Lを用いた階調変換処理を実行する場合に比べて、陰影を濃くする階調変換処理を実行することができる。
例えば、L画像信号の輝度値IS_Lが「4/8」で、周囲明度信号US_Lの値が「5/8」で、補正周囲明度信号US_L’の値が「7/8」の場合(L画像信号の輝度値IS_Lの変化の大きい部分に相当)、本変形例の立体撮像装置では、L画像信号の輝度値IS_Lが「4/8」である処理対象画素の画素値(輝度値)は、図4のB点により決定される出力値OS_Lに階調変換される。一方、第1実施形態の立体撮像装置では、L画像信号の輝度値IS_Lが「4/8」である処理対象画素の画素値(輝度値)は、図4のA点により決定される出力値OS_Lに階調変換される。
また、本変形例の立体画像処理装置では、第1実施形態の立体画像処理装置と同様、デプス値に基づいた処理が実行されるため、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができる。
また、本変形例の立体画像処理装置において、第2周囲明度検出部1801の代わりに、図21に示した第3周囲明度検出部2101を用いて、補正周囲明度信号US_L’を生成するようにしてもよい。
次に、第6実施形態について、説明する。
通常、多くのシーンでは、光源が完全な平行光源でない場合が多い。例えば、点光源の場合には、影までの距離が離れるほど影が広がりぼけてくる。また、複数光源があるシーンでも、やはり影はぼやけてくる。このように、陰影は、実物体の凹凸の形状よりぼけることが普通であり、人間の視覚は、そのような明暗変化を陰影として感じるものと考えられる。
第6実施形態では、付加する陰影成分の高域成分を低減することにより、視覚的により自然な陰影強調を行い、より自然な立体感・遠近感を実現する立体画像を取得することができる立体画像処理技術について、説明する。
第6実施形態の立体撮像装置の構成は、第4実施形態の立体撮像装置の構成と同様である。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
<6.1:局所階調変換部111EL>
図27に示すように、局所階調変換部111ELは、図20に示す局所階調変換部111BLにおいて、乗算器1603と加算器1604の間に、帯域制限部2501をさらに追加した構成を有している。この点以外については、局所階調変換部111ELは、図20に示す局所階調変換部111BLと同様である。
なお、LPF()は、帯域制限処理を示す関数であり、例えば、ローパスフィルタ処理等により取得された信号値を出力する関数である。
なお、帯域制限部2501での帯域制限処理は、帯域制限のカットオフ周波数を、周囲明度信号US_Lの信号帯域と比較して、1桁以上高い周波数に設定することが好ましい。例えば、対象とする画像の大きさが縦1024画素および横768画素であれば、縦横がそれぞれ80画素以上の領域から周囲明度信号US_Lを生成することが好ましいが、この場合の周囲明度信号US_Lを取得する処理(例えば、LPF処理)の帯域制限のカットオフ周波数に対して、帯域制限部2501での帯域制限処理の帯域制限のカットオフ周波数を1桁以上高い周波数に設定することが好ましい。
つまり、本実施形態の局所階調変換部111ELでは、
OS_L=IS_L+LPF(k×((IS_L)−(US_L‘)))
に相当する処理が実行される。
従って、本実施形態の局所階調変換部111ELから出力される補正後のL画像信号(補正後の輝度値)OS_Lは、陰影をぼかしつつ、かつ、陰影を強調した信号となる。
また、本実施形態の局所階調変換部111ELにおいて、第2周囲明度検出部1801を、図23に示した第3周囲明度検出部2101に置換してもよい。この場合も、本実施形態の立体画像処理装置と同様の効果を奏することができる。
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第6実施形態の立体撮像装置における局所階調変換部111ELおよび111ERを、図28に示す局所階調変換部111FLおよび111FRに、置換した構成を有する。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111FLおよび111FRの構成および処理内容について、説明する。
なお、第1実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
図28に示すように、局所階調変換部111FLは、第2周囲明度検出部1801と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
局所階調変換部111FLは、
OS_L=IS_L−p×(IS_L−US_L’)+LPF((k+p)×(IS_L−US_L’)) (A0)
(p:0≦p≦1)
に相当する処理を実行するものである。
まず、下記数式(A1)の処理について、考える。
OS_L=US_L’+(k+1)×(IS_L−US_L’) (A1)
数式(A1)の右辺第2項は、(もともと原画に存在していた陰影成分)+(付加する陰影成分)を表していると考えられる。
すなわち、
OS_L=US_L’+LPF((k+1)×(IS_L−US_L’)) (A2)
に相当する処理を実行することで、付加する陰影成分およびもともと原画に存在していた陰影成分をぼかすことができる。
OS_L=IS_L+LPF(k×((IS_L)−(US_L‘))) (A3)
に相当する。
上記数式(A2)に相当する処理では、陰影らしさを強く表現できる一方、実際の陰影以外もぼかすという副作用が生じる。
これを実現するのが、上記数式(A0)に相当する処理である。
上記数式(A0)において、p=0とすると、数式(A0)は、数式(A3)(第6実施形態に相当)と同一となり、付加する陰影成分のみをぼかす処理が実行される。
つまり、局所階調変換部111FLにより、数式(A0)に相当する処理を実行することで、数式(A2)と数式(A3)(第6実施形態に相当)との間のぼかし方が実行される処理を実現することができる。
また、pは、0≦p<0.5に設定すると、良好な陰影強調が実現されるので、好ましい。
以上の通り、本変形例の立体画像処理装置では、陰影をぼかしつつ、かつ、陰影を濃くする(陰影を強調する)画像処理を実現することができる。さらに、本変形例の立体画像処理装置では、陰影をぼかす程度を調整することができる。これにより、本変形例の立体画像処理装置により取得された立体画像は、陰影部分を適切にぼかしつつ、陰影部分を選択的に強調した立体画像となる。その結果、本変形例の立体画像処理装置により取得された立体画像は、より自然な立体感・遠近感を再現する立体画像となる。
また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、図23に示した第3周囲明度検出部2101に置換してもよい。この場合も、本実施形態の立体画像処理装置と同様の効果を奏することができる。また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、周囲明度検出部121に置換してもよい。
次に、第7実施形態について、説明する。
第4〜第6実施形態と同様に、本実施形態では、陰影を濃くする立体画像処理を実現する技術について、説明する。
なお、第7実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第7実施形態の立体撮像装置は、第2実施形態の立体撮像装置における画像補正部504の第2の局所階調変換部511Lおよび511Rを、局所階調変換部111AALおよび111AARに置換した構成を有する。この点において、第7実施形態の立体撮像装置は、第2実施形態の立体撮像装置と相違する。その他の点については、第7実施形態の立体撮像装置は、第2実施形態の立体撮像装置と同様である。
なお、第2実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一符号を付し、詳細な説明を省略する。
局所階調変換部111AALは、図29に示すように、デプス周囲明度検出部521と、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。局所階調変換部111AALは、図29に示すように、図18の局所階調変換部111ALにおいて、周囲明度検出部121をデプス周囲明度検出部521に置換した構成を有している。
このように、本実施形態の立体画像処理装置では、距離(被写体距離)の異なる画素の影響を抑制した周囲明度信号US_Lにより処理が実行される。したがって、本実施形態の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第7実施形態の立体撮像装置における局所階調変換部111AALおよび111AARを、図30に示す局所階調変換部111BBLおよび111BBRに、置換した構成を有する。より具体的には、本変形例の立体撮像装置は、第7実施形態の立体撮像装置における局所階調変換部111AALおよび111AARのデプス周囲明度検出部521を、図30に示す第2デプス周囲明度検出部1801Aに置換した構成を有する。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111BBLおよび111BBRの構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
<7.2:局所階調変換部111BL>
図30に示すように、局所階調変換部111BBLは、第2デプス周囲明度検出部1801Aと、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
第2デプス周囲明度検出部1801Aは、図30に示すように、デプス周囲明度検出部521と、オフセット算出部1802と、加算器1803と、を備える。つまり、第2デプス周囲明度検出部1801Aは、図20に示す第2周囲明度検出部1801において、周囲明度検出部121をデプス周囲明度検出部521に置換した構成を有する。
このように、本変形例の立体画像処理装置では、距離(被写体距離)の異なる画素の影響を抑制した周囲明度信号US_Lにより処理が実行される。したがって、本変形例の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本変形例の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
次に、第8実施形態について、説明する。
本実施形態においても、陰影を濃くする立体画像処理を実現する技術について、説明する。
なお、第8実施形態でも上述の実施形態と同様に、立体画像処理装置として、2眼方式の立体撮像装置(デジタルカメラやビデオカメラなど)を例に、以下、説明する。なお、立体画像処理装置として、2眼方式の立体撮像装置に限定されることはなく、立体画像処理装置は、例えば、多視点方式の立体撮像装置であってもよい。
第8実施形態の立体撮像装置は、第2実施形態の立体撮像装置における画像補正部104の第2の局所階調変換部511Lおよび511Rを、図31に示す局所階調変換部111CCLおよび111CCRに置換した構成を有する。この点において、第8実施形態の立体撮像装置は、第2実施形態の立体撮像装置と相違する。その他の点については、第8実施形態の立体撮像装置は、第2実施形態の立体撮像装置と同様である。
なお、第2実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
なお、上述の実施形態と同様の部分については、同一の符号を付し、詳細な説明を省略する。
局所階調変換部111CCLは、図31に示すように、デプス周囲明度検出部521と、第2動的階調補正部122Aと、を備える。
デプス周囲明度検出部521は、上述の実施形態のデプス周囲明度検出部521と同様のものである。
本実施形態の立体画像処理装置では、デプス周囲明度検出部521により、距離(被写体距離)の異なる画素の影響を抑制した周囲明度信号US_Lにより処理が実行される。したがって、本実施形態の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第8実施形態の立体撮像装置における局所階調変換部111CCLおよび111CCRを、図32に示す局所階調変換部111DDLおよび111DDRに、置換した構成を有する。
第2デプス周囲明度検出部1801Aは、前述の実施形態で説明したもの(図30に示したもの)と同じものである。
本変形例の立体画像処理装置では、第2デプス周囲明度検出部1801Aにより、距離(被写体距離)の異なる画素の影響を抑制した補正周囲明度信号US_L’により処理が実行される。したがって、本変形例の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本変形例の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
次に、第9実施形態について、説明する。
第9実施形態では、第6実施形態と同様に、付加する陰影成分の高域成分を低減することにより、視覚的により自然な陰影強調を行い、より自然な立体感・遠近感を実現する立体画像を取得することができる立体画像処理技術について、説明する。
第9実施形態の立体撮像装置の構成は、第7実施形態の第1変形例の立体撮像装置の構成と同様である。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
また、前述の実施形態と同様の部分については、同一符号を付し、詳細な説明を省略する。
図33に示すように、局所階調変換部111EELは、図30に示す局所階調変換部111BBLにおいて、乗算器1603と加算器1604の間に、帯域制限部2501をさらに追加した構成を有している。この点以外については、局所階調変換部111EELは、図30に示す局所階調変換部111BBLと同様である。
本実施形態の立体画像処理装置では、第2デプス周囲明度検出部1801Aにより、距離(被写体距離)の異なる画素の影響を抑制した補正周囲明度信号US_L’により処理が実行される。したがって、本実施形態の立体画像処理装置では、立体画像上において、被写体距離が異なるオブジェクト(被写体)であって、明暗差が大きいオブジェクト(被写体)同士が近接している場合であっても、当該オブジェクトが近接している画像領域(明暗差の大きい画像領域)の影響を受けて不適切なコントラスト強調がなされることを適切に回避することができるとともに、陰影を濃くする画像処理を実現することができる。その結果、本実施形態の立体撮像装置により取得される立体画像は、自然な陰影強調が実現された立体画像となる。
次に、本実施形態の第1変形例について、説明する。
本変形例の立体撮像装置は、第9実施形態の立体撮像装置における局所階調変換部111EELおよび111EERを、図34に示す局所階調変換部111FFLおよび111FFRに、置換した構成を有する。
したがって、以下では、本変形例の立体撮像装置における局所階調変換部111FFLおよび111FFRの構成および処理内容について、説明する。
なお、前述の実施形態と同様、R画像に対する処理は、L画像に対する処理と同様であるため、主として、L画像の処理について、説明する。
図34に示すように、局所階調変換部111FFLは、第2デプス周囲明度検出部1801Aと、減算器1601と、係数決定部1602と、乗算器1603と、加算器1604と、を備える。
なお、局所階調変換部111FFLの減算器1601、係数決定部1602、乗算器1603、加算器1604、乗算器2601、加算器2602、帯域制限部2501、および減算器2603は、第6実施形態の局所階調変換部111FL(111FR)のものと同様である。
また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、図23に示した第3周囲明度検出部2101に置換してもよい。この場合も、本実施形態の立体画像処理装置と同様の効果を奏することができる。また、本実施形態の局所階調変換部111FLにおいて、第2周囲明度検出部1801を、周囲明度検出部121に置換してもよい。
なお、上記実施形態の組み合わせることで、立体画像処理装置を実現するようにしてもよい。
例えば、第3実施形態で説明した手法と同様の手法により、第4〜6実施形態のいずれかと、第7〜9実施形態のいずれかを組み合わせることで、立体画像処理装置を実現するようにしてもよい。
さらに、立体画像処理装置において、Rデプス情報およびLデプス情報も、必ずしも内部で取得されなくてもよい。例えば、Rデプス情報およびLデプス情報は、外部から立体画像処理装置に入力されるものであってもよい。この場合、立体画像処理装置において、デプス取得部103を省略することができる。つまり、立体画像処理装置が、画像補正部104のみを備えるものであってもよい。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてあり得る。
また、上記実施形態では、2つの撮像部により、ステレオ画像(左眼用画像および右眼用画像)を取得(撮像)している場合について説明した。しかし、これに限定されることはなく、例えば、1つの撮像素子により、左眼用画像と右眼用画像とを時分割で交互に取得するようにしてもよいし、また、1つの撮像素子の撮像素子面を2分割して、左眼用画像と右眼用画像とを取得するようにしてもよい。
また、上記実施形態で説明したデプス取得部103および画像補正部104を搭載した立体表示装置、テレビ、情報携帯端末、パーソナルコンピュータ、デジタルスチルカメラ、ムービー、情報記録再生装置、映像記録再生装置等を実現するようにしてもよい。なお、この場合、R画像およびL画像は、上記装置に対して、外部から入力させるものであってもよい。
101R 第1撮像部
101L 第2撮像部
102 画像入力部
103 デプス取得部
104、504 画像補正部
111L、111R、111AL、111AR、111BL、111BR、111CL、111CR、111DL、111DR、111EL、111ER、111FL、111FR、111AAL、111AAR、111BBL、111BBR、111CCL、111CCR、111DDL、111DDR、111EEL、111EER、111FFL、111FFR 局所階調変換部
112L、112R 強度生成部
113L、113R 合成部
121 周囲明度検出部
122 動的階調補正部
122A 第2動的階調補正部
504L 第2のL画像用画像補正部
504R 第2のR画像用画像補正部
511L、511R 第2の局所階調変換部
521 デプス周囲明度検出部
1602 係数決定部
1801 第2周囲明度検出部
1801A 第2デプス周囲明度検出部
Claims (9)
- 立体視用の画像に対して画像補正処理を行う立体画像処理装置であって、
処理対象である注目画素の画素値と当該注目画素の周辺画素の画素値との関係に基づいて、前記立体視用の画像のうちの、第1視点からの第1視点用画像と前記第1視点とは異なる第2視点からの第2視点用画像をそれぞれ階調変換し、前記第1視点からの第1視点用変換画像と前記第2視点からの第2視点用変換画像を生成する変換部と、
前記第1視点用画像と前記変換部によって生成された前記第1視点用変換画像とを前記第1視点からの第1被写体距離に基づく第1配分比率で合成すると共に、前記第2視点用画像と前記変換部によって生成された前記第2視点用変換画像とを前記第2視点からの第2被写体距離に基づく第2配分比率で合成する合成部と、
を備える立体画像処理装置。 - 前記合成部は、前記第1被写体距離が近いほど前記第1視点用変換画像の重みが大きくなるような前記第1配分比率で、前記第1視点用画像と前記第1視点用変換画像とを前記第1視点からの第1被写体距離に基づく第1配分比率で合成する、
請求項1に記載の立体画像処理装置。 - 前記合成部は、前記第2被写体距離が近いほど前記第2視点用変換画像の重みが大きくなるような前記第2配分比率で、前記第2視点用画像と前記第2視点用変換画像とを前記第2視点からの第2被写体距離に基づく第2配分比率で合成する、
請求項1に記載の立体画像処理装置。 - 更に、前記変換部は、前記注目画素に対してコントラスト強調処理を行うことにより陰影強調処理を行う、
請求項1から3のいずれかに記載の画像処理装置。 - 更に、前記変換部は、前記注目画素に対して視覚処理による局所コントラスト強調処理を行うことにより陰影強調処理を行う、
請求項1から3のいずれかに記載の画像処理装置。 - 更に、前記変換部は、前記注目画素に対して陰影を濃くすることにより陰影強調処理を行う、
請求項1から3のいずれかに記載の画像処理装置。 - 前記変換部は、前記注目画素の明度値が、前記周辺画素の明度値よりも小さい場合、前記注目画素の値を所定の値に固定したとき、前記周辺画素の値が増加するに従い、階調変換後の前記注目画素の値が減少する階調変換特性を用いて変換する、
請求項1に記載の立体画像処理装置。 - 前記変換部は、前記注目画素の明度値が、前記周辺画素の明度値よりも大きい場合、前記注目画素の値を変換せずに変換画像の画素値として出力する、
請求項7に記載の立体画像処理装置。 - 前記変換部は、前記注目画素を含む所定領域の画素値の変換に基づくオフセット値を前記周辺画素の明度値に加算し、前記加算結果に基づいて前記注目画素を階調変換する、
請求項7に記載の立体画像処理装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011005295 | 2011-01-13 | ||
JP2011005295 | 2011-01-13 | ||
PCT/JP2011/006202 WO2012095914A1 (ja) | 2011-01-13 | 2011-11-07 | 立体画像処理装置、立体画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2012095914A1 JPWO2012095914A1 (ja) | 2014-06-09 |
JP5909704B2 true JP5909704B2 (ja) | 2016-04-27 |
Family
ID=46506845
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012552540A Expired - Fee Related JP5909704B2 (ja) | 2011-01-13 | 2011-11-07 | 立体画像処理装置、立体画像処理方法およびプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US9064331B2 (ja) |
JP (1) | JP5909704B2 (ja) |
WO (1) | WO2012095914A1 (ja) |
Families Citing this family (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013080439A1 (ja) * | 2011-11-28 | 2013-06-06 | パナソニック株式会社 | 立体画像処理装置及び立体画像処理方法 |
JP6014343B2 (ja) * | 2012-03-23 | 2016-10-25 | ハンファテクウィン株式会社Hanwha Techwin Co.,Ltd. | 画像処理装置および画像処理方法 |
WO2014041860A1 (ja) * | 2012-09-14 | 2014-03-20 | ソニー株式会社 | 画像処理装置、画像処理方法、および、プログラム |
JP6242098B2 (ja) * | 2013-07-16 | 2017-12-06 | 株式会社キーエンス | 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器 |
KR102142480B1 (ko) * | 2013-12-27 | 2020-08-07 | 엘지디스플레이 주식회사 | 3차원영상 표시장치 및 그 구동방법 |
JP6263461B2 (ja) * | 2014-09-26 | 2018-01-17 | 日立オートモティブシステムズ株式会社 | 撮像装置 |
JP6529360B2 (ja) * | 2015-06-26 | 2019-06-12 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法およびプログラム |
JP6562770B2 (ja) * | 2015-08-24 | 2019-08-21 | キヤノン株式会社 | 画像処理装置及び画像処理方法、プログラム、記憶媒体 |
KR102524559B1 (ko) * | 2016-10-17 | 2023-04-24 | 삼성전자주식회사 | 외부 디스플레이 장치의 화면 보정 장치 및 방법 |
US11818401B2 (en) | 2017-09-14 | 2023-11-14 | Apple Inc. | Point cloud geometry compression using octrees and binary arithmetic encoding with adaptive look-up tables |
US10861196B2 (en) | 2017-09-14 | 2020-12-08 | Apple Inc. | Point cloud compression |
US10909725B2 (en) | 2017-09-18 | 2021-02-02 | Apple Inc. | Point cloud compression |
US11113845B2 (en) | 2017-09-18 | 2021-09-07 | Apple Inc. | Point cloud compression using non-cubic projections and masks |
US10607373B2 (en) | 2017-11-22 | 2020-03-31 | Apple Inc. | Point cloud compression with closed-loop color conversion |
JP6986683B2 (ja) * | 2018-01-05 | 2021-12-22 | パナソニックIpマネジメント株式会社 | 視差値算出装置、視差値算出方法及びプログラム |
US11010928B2 (en) | 2018-04-10 | 2021-05-18 | Apple Inc. | Adaptive distance based point cloud compression |
US10909726B2 (en) | 2018-04-10 | 2021-02-02 | Apple Inc. | Point cloud compression |
US10909727B2 (en) | 2018-04-10 | 2021-02-02 | Apple Inc. | Hierarchical point cloud compression with smoothing |
US10939129B2 (en) | 2018-04-10 | 2021-03-02 | Apple Inc. | Point cloud compression |
US11017566B1 (en) | 2018-07-02 | 2021-05-25 | Apple Inc. | Point cloud compression with adaptive filtering |
US11202098B2 (en) | 2018-07-05 | 2021-12-14 | Apple Inc. | Point cloud compression with multi-resolution video encoding |
US11012713B2 (en) | 2018-07-12 | 2021-05-18 | Apple Inc. | Bit stream structure for compressed point cloud data |
US11367224B2 (en) | 2018-10-02 | 2022-06-21 | Apple Inc. | Occupancy map block-to-patch information compression |
JP7278096B2 (ja) * | 2019-02-20 | 2023-05-19 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
US11057564B2 (en) | 2019-03-28 | 2021-07-06 | Apple Inc. | Multiple layer flexure for supporting a moving image sensor |
US11711544B2 (en) | 2019-07-02 | 2023-07-25 | Apple Inc. | Point cloud compression with supplemental information messages |
US11627314B2 (en) | 2019-09-27 | 2023-04-11 | Apple Inc. | Video-based point cloud compression with non-normative smoothing |
US11562507B2 (en) | 2019-09-27 | 2023-01-24 | Apple Inc. | Point cloud compression using video encoding with time consistent patches |
US11538196B2 (en) | 2019-10-02 | 2022-12-27 | Apple Inc. | Predictive coding for point cloud compression |
US11895307B2 (en) | 2019-10-04 | 2024-02-06 | Apple Inc. | Block-based predictive coding for point cloud compression |
US11798196B2 (en) | 2020-01-08 | 2023-10-24 | Apple Inc. | Video-based point cloud compression with predicted patches |
US11475605B2 (en) | 2020-01-09 | 2022-10-18 | Apple Inc. | Geometry encoding of duplicate points |
US11615557B2 (en) | 2020-06-24 | 2023-03-28 | Apple Inc. | Point cloud compression using octrees with slicing |
US11620768B2 (en) | 2020-06-24 | 2023-04-04 | Apple Inc. | Point cloud geometry compression using octrees with multiple scan orders |
US11948338B1 (en) | 2021-03-29 | 2024-04-02 | Apple Inc. | 3D volumetric content encoding using 2D videos and simplified 3D meshes |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1051811A (ja) * | 1996-08-07 | 1998-02-20 | Sanyo Electric Co Ltd | 立体感調整方法および立体感調整装置 |
JP2002329198A (ja) * | 2001-04-27 | 2002-11-15 | Olympus Optical Co Ltd | 画像質感強調装置、画像質感強調方法および画像質感強調プログラム |
JP2005026800A (ja) * | 2003-06-30 | 2005-01-27 | Konica Minolta Photo Imaging Inc | 画像処理方法、撮像装置、画像処理装置及び画像記録装置 |
JP2009053748A (ja) * | 2007-08-23 | 2009-03-12 | Nikon Corp | 画像処理装置、画像処理プログラムおよびカメラ |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3157384B2 (ja) | 1994-06-20 | 2001-04-16 | 三洋電機株式会社 | 立体映像装置 |
US6005607A (en) * | 1995-06-29 | 1999-12-21 | Matsushita Electric Industrial Co., Ltd. | Stereoscopic computer graphics image generating apparatus and stereoscopic TV apparatus |
WO1998004087A1 (fr) * | 1996-07-18 | 1998-01-29 | Sanyo Electric Co., Ltd. | Dispositif et procede pour convertir des signaux video bidimensionnels en signaux video tridimensionnels |
KR101700362B1 (ko) * | 2010-08-16 | 2017-01-31 | 삼성전자주식회사 | 영상 처리 방법 및 영상 처리 장치 |
JP5395273B2 (ja) * | 2010-09-08 | 2014-01-22 | パナソニック株式会社 | 立体画像処理装置、立体撮像装置、立体撮像方法およびプログラム |
JP5647740B2 (ja) * | 2011-10-31 | 2015-01-07 | 富士フイルム株式会社 | 視差調節装置及び方法、撮影装置、再生表示装置 |
-
2011
- 2011-11-07 WO PCT/JP2011/006202 patent/WO2012095914A1/ja active Application Filing
- 2011-11-07 JP JP2012552540A patent/JP5909704B2/ja not_active Expired - Fee Related
-
2013
- 2013-06-28 US US13/929,798 patent/US9064331B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH1051811A (ja) * | 1996-08-07 | 1998-02-20 | Sanyo Electric Co Ltd | 立体感調整方法および立体感調整装置 |
JP2002329198A (ja) * | 2001-04-27 | 2002-11-15 | Olympus Optical Co Ltd | 画像質感強調装置、画像質感強調方法および画像質感強調プログラム |
JP2005026800A (ja) * | 2003-06-30 | 2005-01-27 | Konica Minolta Photo Imaging Inc | 画像処理方法、撮像装置、画像処理装置及び画像記録装置 |
JP2009053748A (ja) * | 2007-08-23 | 2009-03-12 | Nikon Corp | 画像処理装置、画像処理プログラムおよびカメラ |
Also Published As
Publication number | Publication date |
---|---|
JPWO2012095914A1 (ja) | 2014-06-09 |
WO2012095914A1 (ja) | 2012-07-19 |
US9064331B2 (en) | 2015-06-23 |
US20130294683A1 (en) | 2013-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5909704B2 (ja) | 立体画像処理装置、立体画像処理方法およびプログラム | |
JP5395273B2 (ja) | 立体画像処理装置、立体撮像装置、立体撮像方法およびプログラム | |
US8711204B2 (en) | Stereoscopic editing for video production, post-production and display adaptation | |
Terzić et al. | Methods for reducing visual discomfort in stereoscopic 3D: A review | |
JP5509487B2 (ja) | 立体視画像のブラー強化 | |
US9549164B2 (en) | Image processing apparatus and method, and related computer program | |
WO2013094635A1 (ja) | 画像処理装置、撮像装置および表示装置 | |
JP5303692B1 (ja) | 立体画像処理装置及び立体画像処理方法 | |
US20110228051A1 (en) | Stereoscopic Viewing Comfort Through Gaze Estimation | |
JP5402504B2 (ja) | 擬似立体画像作成装置及び擬似立体画像表示システム | |
US20130057644A1 (en) | Synthesizing views based on image domain warping | |
EP2836985A1 (en) | Generation of a depth map for an image | |
KR20130137000A (ko) | 화상 처리 장치 및 화상 처리 방법, 및 프로그램 | |
TWI678098B (zh) | 三維影像之視差的處理 | |
Jung | A modified model of the just noticeable depth difference and its application to depth sensation enhancement | |
JPWO2012098607A1 (ja) | 立体画像処理装置および立体画像処理方法 | |
WO2013069171A1 (ja) | 画像処理装置、及び画像処理方法 | |
JP2013172214A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP5488482B2 (ja) | 奥行き推定データ生成装置、奥行き推定データ生成プログラム及び擬似立体画像表示装置 | |
JP2014022867A (ja) | 画像処理装置および方法、並びにプログラム | |
JP2014003486A (ja) | 画像処理装置、画像撮像装置、画像表示装置、画像処理方法及びプログラム | |
JP5254297B2 (ja) | 画像処理装置 | |
KR20150101856A (ko) | 디지털 시네마에서 스테레오 카메라로 획득한 좌우 영상의 색 일치 방법 및 그 장치 | |
TW201033936A (en) | Method of synthesizing stereoscopic video | |
Han et al. | 3D perception enhancement using depth map based color processing |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20141009 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20141017 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150317 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150507 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150728 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150907 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20160119 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20160128 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5909704 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |