JP5002066B1 - 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体 - Google Patents

画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体 Download PDF

Info

Publication number
JP5002066B1
JP5002066B1 JP2011084142A JP2011084142A JP5002066B1 JP 5002066 B1 JP5002066 B1 JP 5002066B1 JP 2011084142 A JP2011084142 A JP 2011084142A JP 2011084142 A JP2011084142 A JP 2011084142A JP 5002066 B1 JP5002066 B1 JP 5002066B1
Authority
JP
Japan
Prior art keywords
eye image
image
feature point
eye
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011084142A
Other languages
English (en)
Other versions
JP2012222472A (ja
Inventor
郁子 椿
永雄 服部
健一郎 山本
久雄 熊井
幹生 瀬戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2011084142A priority Critical patent/JP5002066B1/ja
Priority to PCT/JP2012/050134 priority patent/WO2012137520A1/ja
Priority to US14/009,339 priority patent/US9189893B2/en
Application granted granted Critical
Publication of JP5002066B1 publication Critical patent/JP5002066B1/ja
Publication of JP2012222472A publication Critical patent/JP2012222472A/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/341Displays for viewing with the aid of special glasses or head-mounted displays [HMD] using temporal multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof

Abstract

【課題】両眼視野闘争の発生を効果的に抑制し、立体視を容易に行うことができる画像を生成すること。
【解決手段】左目用画像特徴点抽出部13b、および、右目用画像特徴点抽出部13dが、左目用画像および右目用画像のそれぞれから特徴点を抽出し、非対応点個数算出部13gが、左目用画像特徴点抽出部13b、および、右目用画像特徴点抽出部13dにより抽出された左目用画像、および、右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない上記いずれか一方の画像の特徴点の個数を移動距離ごとに算出し、視差値調整部13hが、移動距離ごとに算出された個数に基づいて、左目用画像、および、右目用画像間の視差値を調整する。
【選択図】図3

Description

本発明は、左目用画像および右目用画像間の視差値を調整する画像処理装置、画像処理方法、その画像処理方法をコンピュータに実行させることを特徴とするコンピュータプログラム、および、そのコンピュータプログラムを記録したことを特徴とするコンピュータが読み取り可能な記録媒体に関する。
近年、左目用画像と右目用画像とをディスプレイに表示し、立体視を可能とする立体画像表示装置が普及してきている。この立体視において、左目用画像と右目用画像との間の対応点の位置のずれは、視差と呼ばれる。視差が開散方向、若しくは、輻輳方向に著しく大きい場合、立体視を行うことが難しくなることが知られている。
左目用画像および右目用画像を人が観察する際、奥行きは両眼網膜像差により知覚される。両眼網膜像差とは、外界の対象により左右の網膜に投影される像の違いである。両眼網膜像差を検出するためには、両目の網膜像のどの点とどの点とが1つの対象によって生み出されるかを決定する必要がある。そして、非特許文献1には、網膜像差を検出する機構に関するモデルが紹介されている。
1つのモデルは、左右の像に含まれる輝度エッジが両眼像対応の基本特徴であると考え、コントラストの極性と方位がほぼ同じで近傍にある点同士を対応付けるものである。また、別のモデルとして、左右の像のそれぞれに対して方位選択性や大きさの異なる複数の空間フィルタを適用し、それらの出力によって構成されるベクトルによって像の各位置における局所的構造を特徴付け、左右の眼の各位置におけるベクトルの類似性が最も高い点同士を対応付けるものも紹介されている。
また、特許文献1には、左画像のブロックと右画像のブロックとを対応付け、両眼視差量を調整する立体TV装置が開示されている。この立体TV装置は、以下の式(1)により、左画像のブロックと右画像のブロックとの間の相関Corr(i,j)を算出する。
Figure 0005002066
ここで、G(X,Y)、G(X,Y)は、それぞれ左画像、右画像の座標(X,Y)における輝度値であり、nは、左画像および右画像のブロックの縦方向および横方向の画素数(ブロックに含まれる画素の総数はn×n)であり、i、jは、それぞれブロックの横方向、縦方向の平行移動量である。
そして、立体TV装置は、相関Corr(i,j)が最小となる平行移動量i、jを探索することにより、左画像のブロックに右画像のブロックを対応付ける。すなわち、立体TV装置は、左画像のブロックに最も輝度値が類似する右画像のブロックを探索し、それらのブロックを互いに対応するブロックとして設定する。
特開平9−121370号公報
内川惠二 総編集/塩入諭 編、「視覚II−視覚系の中期・高次機能−」、朝倉書店、2007年9月、p.110−111
しかしながら、上述した従来技術では、左右の画像間で対応が取れない領域について考慮していないため、両眼視野闘争の発生を抑制することが難しいという問題がある。両眼視野闘争とは、対応が取れないような全く異なる領域が左右の画像に含まれる場合に、その領域において、左画像あるいは右画像のいずれか一方のみが見え、時間の経過に伴い、あるいは、見る位置によって見える像が入れ替わる不安定な状態をいう。例えば、両眼視野闘争は、両目の網膜に投影された像間の形状、明るさ、色などの差異によって発生する。このような両眼視野闘争が発生すると、立体視を行うことは非常に困難なものとなる。
本発明は、上記課題に鑑み、両眼視野闘争の発生を効果的に抑制し、立体視を容易に行うことができる画像を生成することが可能な画像処理装置、画像処理方法、その画像処理方法をコンピュータに実行させることを特徴とするコンピュータプログラム、および、そのコンピュータプログラムを記録したことを特徴とするコンピュータが読み取り可能な記録媒体を提供することを目的とする。
上記課題を解決する為に、本発明の第1の技術手段は、左目用画像、および、右目用画像間の視差値を調整する画像処理装置であって、前記左目用画像、および、前記右目用画像のそれぞれから特徴点を抽出する特徴点抽出部と、前記特徴点抽出部により抽出された前記左目用画像、および、前記右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない前記いずれか一方の画像の特徴点の個数を移動距離ごとに算出する非対応点個数算出部と、前記非対応点個数算出部により前記移動距離ごとに算出された前記個数に基づいて、前記左目用画像、および、前記右目用画像間の視差値を調整する視差値調整部と、を備えることを特徴とする。
本発明の第2の技術手段は、第1の技術手段において、前記特徴点抽出部は、所定の応答特性を有するフィルタによるフィルタリングを前記左目用画像、および、前記右目用画像に対して行い、該フィルタリングの結果得られた左目用画像、および、右目用画像において、画素値が所定の閾値よりも大きい画素を前記左目用画像の特徴点、および、前記右目用画像の特徴点として抽出することを特徴とする。
本発明の第3の技術手段は、第2の技術手段において、前記特徴点抽出部は、互いに応答特性が異なる複数のフィルタをそれぞれ前記左目用画像、および、前記右目用画像の両方に対して適用するフィルタリングを実行し、各フィルタリングの結果得られた左目用画像、および、右目用画像において、画素値が所定の閾値よりも大きい画素を前記左目用画像の特徴点、および、前記右目用画像の特徴点として抽出することを特徴とする。
本発明の第4の技術手段は、第2または第3の技術手段において、前記フィルタは、バンドパスフィルタであることを特徴とする。
本発明の第5の技術手段は、第1〜第4のいずれか1つの技術手段において、前記視差値調整部は、前記非対応点個数算出部により算出された個数を度数とし、前記左目用画像の特徴点と前記右目用画像の特徴点との間の距離を階級とする度数分布に基づいて、前記左目用画像、および、前記右目用画像間の視差値を調整することを特徴とする。
本発明の第6の技術手段は、第1〜第5のいずれか1つの技術手段において、前記非対応点個数算出部は、画素値が前記他方の画像の特徴点の画素値と所定の値以上離れている特徴点を、前記他方の画像の特徴点と対応しない前記いずれか一方の画像の特徴点に含め、前記いずれか一方の画像の特徴点の個数を算出することを特徴とする。
本発明の第7の技術手段は、第1〜第6のいずれか1つの技術手段において、前記視差値調整部により視差値が調整された前記左目用画像、および、前記右目用画像の表示処理を制御する表示制御部をさらに備えることを特徴とする。
本発明の第8の技術手段は、左目用画像、および、右目用画像間の視差値を調整する画像処理方法であって、前記左目用画像、および、前記右目用画像のそれぞれから特徴点を抽出する特徴点抽出ステップと、前記特徴点抽出ステップにおいて抽出された前記左目用画像、および、前記右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない前記いずれか一方の画像の特徴点の個数を移動距離ごとに算出する非対応点個数算出ステップと、前記非対応点個数算出ステップにおいて前記移動距離ごとに算出された前記個数に基づいて、前記左目用画像、および、前記右目用画像間の視差値を調整する視差値調整ステップと、を含むことを特徴とする。
本発明の第9の技術手段は、上記画像処理方法をコンピュータに実行させることを特徴とするコンピュータプログラムである。
本発明の第10の技術手段は、上記コンピュータプログラムを記録したことを特徴とするコンピュータが読み取り可能な記録媒体である。
本発明によれば、左目用画像、および、右目用画像のそれぞれから特徴点を抽出し、抽出された左目用画像、および、右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない上記いずれか一方の画像の特徴点の個数を移動距離ごとに算出し、移動距離ごとに算出された個数に基づいて、左目用画像、および、右目用画像間の視差値を調整することとしたので、両眼視野闘争の発生を効果的に抑制し、立体視が容易に可能となる画像を生成することができる。
本発明の第1の実施形態に係る画像処理装置の構成の一例を示す図である。 左目用画像および右目用画像の表示制御処理について説明する図である。 本発明の第1の実施形態に係る画像調整部の構成の一例を示す図である。 非対応度分布の算出結果の一例について示す図である。 本発明の第1の実施形態に係る画像処理の処理手順の一例を示すフローチャートである。 本発明の第2の実施形態に係る画像調整部の構成の一例を示す図である。
以下、本発明の実施形態について図面を参照して詳細に説明する。
(第1の実施形態)
まず、本発明の第1の実施形態に係る画像処理装置の構成について説明する。図1は、本発明の第1の実施形態に係る画像処理装置10の構成の一例を示す図である。図1に示すように、画像処理装置10は、入力部11、入力画像処理部12、画像調整部13、表示制御部14、表示部15、メガネ同期部16、通信処理部17を備える。
入力部11は、立体視用の入力画像を受け付ける処理部である。この入力画像は、放送局により放送されたり、DVD(Digital Versatile Disk)やブルーレイディスクなどの記録媒体から電子的に読み出されたり、ネットワークを介して伝送されたりなど、さまざまな経路で画像処理装置10に入力される。
また、入力画像は、立体視に用いられる左目用画像、右目用画像を含むものである。なお、入力画像は、画像データと、画像中に含まれる観察対象の奥行きのデータとを含むものであってもよい。
入力画像処理部12は、入力画像から立体視に用いられる左目用画像、および、右目用画像を生成する処理部である。具体的には、入力画像処理部12は、入力画像が左目用画像、右目用画像を含むものである場合は、入力画像から左目用画像、右目用画像を抽出する。入力画像が、画像データと、画像中に含まれる観察対象の奥行きのデータとを含むものである場合には、入力画像処理部12は、奥行きのデータを視差に換算し、画像データを視差の分だけ水平方向にずらすことにより左目用画像、右目用画像を生成する。
画像調整部13は、左目用画像、および、右目用画像の水平方向の視差値を調整する処理部である。具体的には、画像調整部13は、左目用画像、および、右目用画像のそれぞれから特徴点を抽出する。そして、画像調整部13は、抽出された右目用画像の特徴点と対応せず、右目用画像の特徴点と所定の距離離れている左目用画像の特徴点の個数を算出する。さらに、画像調整部13は、算出された左目用画像の特徴点の個数に基づいて、左目用画像、および、右目用画像間の視差値の調整量を算出する。この画像調整部13については、後に図3を用いて詳しく説明する。
表示制御部14は、画像調整部13により算出された視差値の調整量に基づいて、左目用画像、および、右目用画像の表示処理を制御する処理部である。具体的には、表示制御部14は、画像調整部13から左目用画像、および、右目用画像間の視差値の調整量hの情報を取得し、左目用画像および右目用画像をその調整量hの分だけずらして表示部15に表示させる。
図2は、左目用画像および右目用画像の表示制御処理について説明する図である。図2(A)は、入力画像から生成されたもとの左目用画像30aおよび右目用画像30bである。
画像調整部13から取得した視差値の調整量hが負の値の場合、表示制御部14は、左目用画像30aを左方向にh/2画素分移動し、右目用画像30bを右方向にh/2画素分移動する。その結果、表示部15には、図2(B)に示すような左目用画像31aおよび右目用画像31bが表示される。この場合、左目用画像31aの右側および右目用画像31bの左側にはそれぞれ、画像が表示されないh/2画素の幅の領域が生じることになる。
画像調整部13から取得した視差値の調整量hが正の値の場合、表示制御部14は、左目用画像30aを右方向にh/2画素分移動し、右目用画像30bを左方向にh/2画素分移動する。その結果、表示部15には、図2(C)に示すような左目用画像32aおよび右目用画像32bが表示される。この場合、左目用画像32aの左側および右目用画像32bの右側にはそれぞれ、画像が表示されないh/2画素の幅の領域が生じることになる。
なお、視差値の調整量hが0の場合は、左目用画像30aおよび右目用画像30bの移動は行われない。
表示部15は、表示制御部14による制御により左目用画像と右目用画像とを表示するディスプレイなどの表示装置である。メガネ同期部16は、表示部15による表示のタイミングと、シャッタメガネ20が左目あるいは右目の視界を遮るタイミングとを同期させる処理部である。具体的には、メガネ同期部16は、表示部15が左目用画像を表示している間にシャッタメガネ20が右目の視界を遮り、表示部15が右目用画像を表示している間にシャッタメガネ20が左目の視界を遮るように制御する制御信号を通信処理部17に出力する。
通信処理部17は、メガネ同期部16により出力された制御信号を赤外線通信などによりシャッタメガネ20に送信する処理部である。この制御信号を受信したシャッタメガネ20は、制御信号により指示されたタイミングで左目あるいは右目の視界を遮る。
つぎに、図1に示した第1の実施形態に係る画像調整部13の構成について詳しく説明する。図3は、図1に示した第1の実施形態に係る画像調整部13の構成の一例を示す図である。図3に示すように、この画像調整部13は、左目用画像前処理部13a、左目用画像特徴点抽出部13b、右目用画像前処理部13c、右目用画像特徴点抽出部13d、非対応点個数算出部13g、視差値調整部13hを備える。
左目用画像前処理部13aは、図1の入力画像処理部12により出力された左目用画像(RGB画像)を輝度画像に変換する処理部である。なお、左目用画像前処理部13aは、計算量を削減するための画像の縮小処理や、ノイズの除去処理などをさらに行うこととしてもよい。
左目用画像特徴点抽出部13bは、左目用画像から生成した輝度画像において特徴点を抽出する処理を行う処理部である。具体的には、左目用画像特徴点抽出部13bは、所定の応答特性を有するフィルタによるフィルタリングを輝度画像に対して行う。そして、左目用画像特徴点抽出部13bは、フィルタリングの結果得られた輝度画像において、画素値が所定の閾値よりも大きい画素を特徴点として抽出する。
例えば、左目用画像特徴点抽出部13bは、バンドパスフィルタを用いて輝度画像のフィルタリングを行う。ここで、バンドパスフィルタは、一次元のフィルタであってもよいし、二次元のフィルタであってもよい。
そして、左目用画像特徴点抽出部13bは、バンドパスフィルタによるフィルタリング後の輝度画像において、画素値の絶対値が所定の閾値以上である画素を特徴点として検出し、検出した特徴点の座標(xLi,yLi)(1≦i≦M:Mは検出した特徴点の個数)を内部メモリに左目用画像特徴点リスト13eとして一時的に記憶し、記憶した左目用画像特徴点リスト13eを非対応点個数算出部13gに出力する。
右目用画像前処理部13cは、図1の入力画像処理部12により出力された右目用画像(RGB画像)を輝度画像に変換する処理部である。なお、右目用画像前処理部13cは、計算量を削減するための画像の縮小処理や、ノイズの除去処理などをさらに行うこととしてもよい。
右目用画像特徴点抽出部13dは、右目用画像から生成した輝度画像において特徴点を抽出する処理を行う。具体的には、右目用画像特徴点抽出部13dは、左目用画像特徴点抽出部13bが用いるフィルタと同じフィルタを用いて、右目用画像から生成した輝度画像に対するフィルタリングを行う。そして、右目用画像特徴点抽出部13dは、フィルタリングの結果得られた輝度画像において、画素値が所定の閾値よりも大きい画素を特徴点として抽出する。この所定の閾値は、左目用画像特徴点抽出部13bが特徴点を抽出する際に用いた閾値と同じ値に設定される。
例えば、右目用画像特徴点抽出部13dは、左目用画像特徴点抽出部13bがバンドパスフィルタを用いる場合、そのバンドパスフィルタを用いて輝度画像のフィルタリングを行う。
そして、右目用画像特徴点抽出部13dは、バンドパスフィルタによるフィルタリング後の輝度画像において、画素値の絶対値が所定の閾値以上である画素を特徴点として検出し、検出した画素の座標(xRj,yRj)(1≦j≦N:Nは検出した特徴点の個数)を内部メモリに右目用画像特徴点リスト13fとして一時的に記憶し、記憶した右目用画像特徴点リスト13fを非対応点個数算出部13gに出力する。
ここで、バンドパスフィルタは、人の視覚特性を摸したモデルと考えることができる。これは、人の視覚が画像の輝度成分に帯域通過型の空間周波数感度特性を有しているためである。
このように、人の視覚特性を模したバンドパスフィルタを用いて輝度画像のフィルタリングを行うことにより、人に知覚されやすい特徴点を効果的に抽出することができる。そして、抽出された特徴点を用いて、左目用画像と右目用画像との間の視差値を調整することとすれば、人の視覚にとって適切に視差値が調整された左目用画像と右目用画像とを得ることが可能となる。
非対応点個数算出部13gは、左目用画像の特徴点を水平方向に所定の距離移動させた場合に、右目用画像の特徴点と対応しない左目用画像の特徴点の個数を、左目用画像の特徴点の移動距離ごとに算出する処理部である。
具体的には、非対応点個数算出部13gは、左目用画像特徴点抽出部13bおよび右目用画像特徴点抽出部13dから左目用画像特徴点リスト13eおよび右目用画像特徴点リスト13fを取得し、左目用画像の水平方向の各移動量s(画素値)について、以下の式(2)〜式(4)により、非対応度分布U(s)を算出する。
Figure 0005002066
Figure 0005002066
Figure 0005002066
ここで、移動量sは、s1≦s≦s2という条件を満たす。s1およびs2は、それぞれ移動量sの予め定められた最小値および最大値である。正の移動量sは、左目用画像を右に移動させることを示し、負の移動量sは、左目用画像を左に移動させることを示す。
また、移動量tは、t1≦t≦t2という条件を満たす。t1およびt2は、それぞれ0以下および0以上の定数である。t1≦t≦t2という条件は垂直網膜像差の許容範囲を表す。正の移動量tは、左目用画像を下に移動させることを示し、負の移動量tは、左目用画像を上に移動させることを示す。
なお、非対応点個数算出部13gは、s1≦s≦s2という関係を満たすすべての移動量sについて非対応度分布U(s)を算出することとしてもよいし、s1≦s≦s2という関係を満たす移動量sについて、所定の間隔(例えば、1画素おき)で非対応度分布U(s)を算出することとしてもよい。
この非対応度分布U(s)は、輻輳あるいは開散運動により左目および右目の網膜にそれぞれ投影された画像において、左目の画像が水平方向にsだけ移動した場合に、右目の画像中の特徴点と対応しない左目の画像中の特徴点の個数を意味する。
なお、非対応点個数算出部13gは、左目用画像の特徴点を水平方向に所定の距離移動させた場合に、右目用画像の特徴点と対応しない左目用画像の特徴点の個数を、左目用画像の特徴点の移動距離ごとに算出することとしたが、右目用画像の特徴点を水平方向に所定の距離移動させた場合に、左目用画像の特徴点と対応しない右目用画像の特徴点の個数を、右目用画像の特徴点の移動距離ごとに算出することとしてもよい。
この場合、式(2)、式(4)はそれぞれ、以下の式(5)、式(6)に置き換えられる。
Figure 0005002066
Figure 0005002066
視差値調整部13hは、非対応点個数算出部13gにより算出された非対応度分布U(s)に基づいて、左目用画像および右目用画像間の視差値を調整する処理部である。
具体的には、視差値調整部13hは、非対応度分布U(s)に所定の閾値K以下となる領域があるか否かを判定する。非対応度分布U(s)に所定の閾値K以下となる領域がある場合、視差値調整部13hは、その領域において、非対応度分布U(s)が最小となる移動量sの値を検出する。そして、視差値調整部13hは、検出した移動量sの値を視差値の調整量として表示制御部14に出力する。非対応度分布U(s)に所定の閾値K以下となる領域がない場合、視差値調整部13hは、特徴点の対応付けができないことを示すエラー信号を表示制御部14に出力する。
図4は、非対応度分布U(s)の算出結果の一例について示す図である。図4に示す非対応度分布U(s)には、非対応度分布U(s)に閾値K以下となる領域(s3≦s≦s4、および、s5≦s≦s6)が存在する。その領域において、非対応度分布U(s)が最小となるのは、移動量sがhのときである。
そのため、視差値調整部13hにより、非対応度分布U(s)が最小となる移動量sの値hが検出され、検出された値hが視差値の調整量として表示制御部14に出力される。その後、この調整量hに基づいて、図2を用いて説明したような表示制御が表示制御部14により行われる。これにより、両眼視差闘争の発生を抑制することが可能となる。
つぎに、本発明に係る画像処理の処理手順について説明する。図5は、本発明に係る画像処理の処理手順の一例を示すフローチャートである。図5に示すように、まず、画像処理装置10の入力部11は、入力画像を受け付ける(ステップS101)。そして、入力画像処理部12は、受け付けた入力画像から左目用画像および右目用画像を生成する(ステップS102)。
その後、左目用画像前処理部13aは、左目用画像(RGB画像)を輝度画像に変換し、右用画像前処理部13bは、右目用画像(RGB画像)を輝度画像に変換する(ステップS103)。
そして、左目用画像前処理部13aは、左目用画像の輝度画像に対してバンドパスフィルタによるフィルタリングを実行し、右目用画像前処理部13bは、右目用画像の輝度画像に対してバンドパスフィルタによるフィルタリングを実行する(ステップS104)。
続いて、左目用画像特徴点抽出部13bは、フィルタリング実行後の左目用画像の輝度画像において、画素値の絶対値が所定の閾値以上である画素の座標を内部メモリに左目用画像特徴点リスト13eとして記憶する。また、右目用画像特徴点抽出部13dは、フィルタリング実行後の右目用画像の輝度画像において、画素値の絶対値が所定の閾値以上である画素の座標を内部メモリに右目用画像特徴点リスト13fとして記憶する(ステップS105)。
その後、非対応点個数算出部13gは、左目用画像特徴点リスト13e、右目用画像特徴点リスト13fとして記憶された特徴点の座標の値を用いて、左目用画像の水平方向の各移動量sについて、非対応度分布U(s)を算出する(ステップS106)。
そして、視差値調整部13hは、非対応度分布U(s)に所定の閾値K以下となる領域があるか否かを判定する(ステップS107)。非対応度分布U(s)に所定の閾値K以下となる部分がある場合(ステップS107においてYESの場合)、視差値調整部13hは、非対応度分布U(s)にある閾値K以下の領域のうち、非対応度分布U(s)が最小となるsの値hを左目用画像および右目用画像間の視差値の調整量として決定する(ステップS108)。
そして、表示制御部14は、決定された視差値の調整量hの分だけ左目用画像および右目用画像を水平方向に移動し、表示部15を制御して、視差を調整した左目用画像および右目用画像を表示部15に表示させる(ステップS109)。なお、左目用画像および右目用画像それぞれの水平方向の移動量は、h/2とすることが望ましい。
そして、メガネ同期部16は、通信処理部17を介してシャッタメガネ20に制御信号を送信することにより、表示部15が左目用画像あるいは右目用画像を表示するタイミングと、シャッタメガネ20が左目あるいは右目の視界を遮るタイミングとを同期させる(ステップS110)。その後、この画像処理は終了する。
ステップS107において、非対応度分布U(s)に予め定めた閾値K以下となる部分がない場合(ステップS107においてNOの場合)、視差値調整部13hは、エラー信号を表示制御部14に出力する(ステップS111)。
このエラー信号を受信した表示制御部14は、左目用画像と右目用画像の視差の調整を行うことなく、表示部15を制御して、入力画像処理部12から取得した左目用画像および右目用画像を表示部15に表示させる(ステップS112)。
そして、メガネ同期部16は、通信処理部17を介してシャッタメガネ20に制御信号を送信することにより、表示部15が左目用画像あるいは右目用画像を表示するタイミングと、シャッタメガネ20が左目あるいは右目の視界を遮るタイミングとを同期させる(ステップS110)。その後、この画像処理は終了する。
なお、画像処理装置10が動画を表示する場合は、動画を構成する各入力画像に対して上記画像処理が繰り返し実行される。
以上説明したように、本実施形態1では、左目用画像特徴点抽出部13b、および、右目用画像特徴点抽出部13dが、左目用画像および右目用画像のそれぞれから特徴点を抽出し、非対応点個数算出部13gが、抽出された左目用画像、および、右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない上記いずれか一方の画像の特徴点の個数を移動距離ごとに算出し、視差値調整部13hが、移動距離ごとに算出された個数に基づいて、左目用画像および右目用画像間の視差値を調整することとしたので、両眼視野闘争が生じにくい画像の表示が可能となる。
また、左目用画像特徴点抽出部13b、および、左目用画像特徴点抽出部13dが、所定の応答特性を有するフィルタによるフィルタリングを左目用画像および右目用画像から生成した輝度画像に対して行い、フィルタリングの結果得られた左目用画像および右目用画像において画素値が所定の閾値よりも大きい画素を特徴点として抽出することとしたので、人の視覚特性を精度よく模すフィルタ特性を有するフィルタによりフィルタリングを行って特徴点を抽出し、左目用画像の特徴点と右目用画像の特徴点との間で対応付けを行うことにより、両眼視野闘争が生じにくい画像の表示が可能となる。
また、左目用画像特徴点抽出部13b、および、左目用画像特徴点抽出部13dは、バンドパスフィルタを用いてフィルタリングを実行することとしたので、人の視覚特性を模すバンドパスフィルタを用いて輝度画像のフィルタリングを行うことにより、人に知覚されやすい特徴点を効果的に抽出することができる。そして、抽出された特徴点を用いて、左目用画像と右目用画像との間の視差値を調整することとすれば、人の視覚にとって適切に視差値が調整された左目用画像と右目用画像とを得ることができる。
また、視差値調整部13hは、非対応点個数算出部13gにより算出された個数を度数とし、移動量sを階級とする度数分布(非対応度分布U(s))に基づいて、左目用画像と右目用画像との間の視差値を調整することとしたので、非対応度分布U(s)が最小となる移動量sの値を容易に検出することができる。
また、画像処理装置10は、視差値調整部13hにより決定された視差値の調整量hに基づいて、左目用画像および右目用画像の表示処理を制御する表示制御部14をさらに備えることとしたので、両眼視野闘争が生じにくい画像表示の制御が可能となる。
(第2の実施形態)
第2の実施形態では、左目用画像および右目用画像から特徴点を抽出する際、互いに応答特性が異なる複数のフィルタによるフィルタリングを左目用画像および右目用画像に対して適用する場合について説明する。
まず、本発明の第2の実施形態に係る画像処理装置について説明する。第2の実施形態に係る画像処理装置は、図1に示した画像処理装置10と画像調整部13の機能のみが異なる。よって、ここでは、第2の実施形態に係る画像調整部13について説明する。
図6は、本発明の第2の実施形態に係る画像調整部13の構成の一例を示す図である。この画像調整部13は、左目用画像前処理部13a、左目用画像特徴点抽出部13b〜13b、右目用画像前処理部13c、右目用画像特徴点抽出部13d〜13d、非対応点個数算出部13g、視差値調整部13hを備える。
左目用画像前処理部13aは、図1の入力画像処理部12により出力された左目用画像(RGB画像)を輝度画像に変換する処理部である。なお、左目用画像前処理部13aは、計算量を削減するための画像の縮小処理や、ノイズの除去処理などをさらに行うこととしてもよい。
左目用画像特徴点抽出部13b〜13bは、左目用画像から生成した輝度画像において特徴点を抽出する処理を行う処理部である。具体的には、各左目用画像特徴点抽出部13b〜13bは、互いに応答特性が異なるw個のフィルタによるフィルタリングを左目用画像に対して行い、各フィルタリングの結果得られた左目用画像において画素値が所定の閾値よりも大きい画素を特徴点として抽出する。
例えば、各左目用画像特徴点抽出部13b〜13bは、互いに応答特性が異なるw個のバンドパスフィルタを用いて輝度画像のフィルタリングを行う。このようなバンドパスフィルタとして、例えば、ガボールフィルタが挙げられる。ガボールフィルタは、式(7)で表される。
Figure 0005002066
ここで、k、θ、σは所定のパラメータである。
このガボールフィルタでは、パラメータkを変化させることにより、抽出するエッジの周波数を変化させることができ、また、パラメータθを変化させることにより、抽出するエッジの方向を変化させることができる。
各左目用画像特徴点抽出部13b〜13bは、これらのパラメータの組み合わせが互いに異なるガボールフィルタを用いて、左目用画像から生成した輝度画像のフィルタリングを実行する。
そして、各左目用画像特徴点抽出部13b〜13bは、フィルタリング後の輝度画像において、画素値の絶対値が予め定めた閾値以上である画素を特徴点として検出し、検出した画素の座標(xLi,p,yLi,p)(1≦i≦M,1≦p≦w:pは、パラメータの組み合わせが互いに異なるガボールフィルタの1つを示すインデックス、Mは、インデックスpに対応するガボールフィルタにより検出された特徴点の個数)を内部メモリに左目用画像特徴点リスト13e〜13eとして一時的に記憶し、記憶した左目用画像特徴点リスト13e〜13eを非対応点個数算出部13gに出力する。ここで、左目用画像特徴点リスト13e(1≦p≦w)は、インデックスpに対応するガボールフィルタにより検出された画素の座標に対応する。
右目用画像前処理部13cは、図1の入力画像処理部12により出力された右目用画像(RGB画像)を輝度画像に変換する処理部である。なお、右目用画像前処理部13cは、計算量を削減するための画像の縮小処理や、ノイズの除去処理などをさらに行うこととしてもよい。
右目用画像特徴点抽出部13d〜13dは、右目用画像から生成した輝度画像において特徴点を抽出する処理を行う。具体的には、各右目用画像特徴点抽出部13d〜13dは、それぞれ左目用画像特徴点抽出部13b〜13bと同じw個のバンドパスフィルタを用いて輝度画像のフィルタリングを行う。
例えば、左目用画像特徴点抽出部13b〜13bがガボールフィルタを用いてフィルタリングを行う場合、右目用画像特徴点抽出部13d(1≦p≦w)は、左目用画像特徴点抽出部13bと同様のパラメータ(式(7)におけるk、θ、σ)が設定されたガボールフィルタを用いてフィルタリングを行う。
そして、各右目用画像特徴点抽出部13d〜13dは、フィルタリング後の輝度画像において、画素値の絶対値が予め定めた閾値以上である画素を特徴点として検出し、検出した画素の座標(xRj,p,yRj,p)(1≦j≦N,1≦p≦w:Nは、インデックスpに対応するガボールフィルタにより検出された特徴点の個数)を内部メモリに右目用画像特徴点リスト13f〜13fとして一時的に記憶し、記憶した右目用画像特徴点リスト13f〜13fを非対応点個数算出部13gに出力する。ここで、右目用画像特徴点リスト13f(1≦p≦w)は、インデックスpに対応するガボールフィルタにより検出された画素の座標に対応する。
このように、ガボールフィルタを用いてフィルタリングを行うことにより、さまざまな周波数と方向のエッジを検出し、特徴点を効果的に抽出することが可能となる。
非対応点個数算出部13gは、左目用画像の特徴点を水平方向に所定の距離移動させた場合に、右目用画像の特徴点と対応しない左目用画像の特徴点の個数を、左目用画像の特徴点の移動距離ごとに算出する処理部である。
具体的には、非対応点個数算出部13gは、各左目用画像特徴点抽出部13b〜13bおよび各右目用画像特徴点抽出部13d〜13dから左目用画像特徴点リスト13e〜13eおよび右目用画像特徴点リスト13f〜13fを取得し、左目用画像の水平方向の各移動量sについて、以下の式(8)〜式(10)により、フィルタごとの非対応度分布V(s)(1≦p≦w)を算出する。
Figure 0005002066
Figure 0005002066
Figure 0005002066
ここで、移動量sは、s1≦s≦s2という条件を満たす。s1およびs2は、それぞれ移動量sの予め定められた最小値および最大値である。正の移動量sは、左目用画像を右に移動させることを示し、負の移動量sは、左目用画像を左に移動させることを示す。
また、移動量tは、t1≦t≦t2という条件を満たす。t1およびt2は、それぞれ0以下および0以上の定数である。t1≦t≦t2という条件は垂直網膜像差の許容範囲を表す。正の移動量tは、左目用画像を下に移動させることを示し、負の移動量sは、左目用画像を上に移動させることを示す。
その後、非対応点個数算出部13gは、左目用画像の水平方向の各移動量sについて、以下の式(11)により、非対応度分布U(s)を算出する。
Figure 0005002066
なお、非対応点個数算出部13gは、左目用画像の特徴点を水平方向に所定の距離移動させた場合に、右目用画像の特徴点と対応しない左目用画像の特徴点の個数を、左目用画像の特徴点の移動距離ごとに算出することとしたが、右目用画像の特徴点を水平方向に所定の距離移動させた場合に、左目用画像の特徴点と対応しない右目用画像の特徴点の個数を、右目用画像の特徴点の移動距離ごとに算出することとしてもよい。
この場合、式(8)、式(10)はそれぞれ、以下の式(12)、式(13)に置き換えられる。
Figure 0005002066
Figure 0005002066
視差値調整部13hは、非対応点個数算出部13gにより算出された非対応度分布U(s)に基づいて、左目用画像および右目用画像間の視差値を調整する処理部である。
具体的には、視差値調整部13hは、非対応度分布U(s)に所定の閾値K以下となる領域があるか否かを判定する。非対応度分布U(s)に閾値K以下となる領域がある場合、視差値調整部13hは、その領域において、非対応度分布U(s)が最小となる移動量sの値を検出する。そして、視差値調整部13hは、検出した移動量sの値を視差値の調整量として表示制御部14に出力する。非対応度分布U(s)に所定の閾値K以下となる領域がない場合、視差値調整部13hは、特徴点の対応付けができないことを示すエラー信号を表示制御部14に出力する。
なお、本実施形態2においては、非対応点個数算出部13gは、式(11)を用いて非対応度分布U(s)を算出することとしたが、非対応度分布U(s)を算出する式はこれに限定されない。例えば、非対応点個数算出部13gは、非対応度分布U(s)を以下の式を用いて算出することとしてもよい。
Figure 0005002066
ここで、a(1≦p≦w)は、フィルタごとの非対応度分布V(s)に対する重みである。
以上説明したように、本実施形態2では、左目用画像特徴点抽出部13b〜13b、および、右目用画像特徴点抽出部13d〜13dが、互いに応答特性が異なる複数のフィルタをそれぞれ左目用画像、および、右目用画像の両方に対して適用するフィルタリングを実行し、各フィルタリングの結果得られた左目用画像、および、右目用画像において、画素値が所定の閾値よりも大きい画素を左目用画像の特徴点、および、右目用画像の特徴点として抽出することとしたので、人の視覚特性を精度よく模すことができ、両眼視野闘争が生じにくい画像の表示が可能となる。
さて、これまで画像処理装置および画像処理方法の実施形態を中心に説明を行ったが、本発明はこれらの実施形態に限定されるものではなく、画像処理装置の機能を実現するためのコンピュータプログラムとしての形態、あるいは、当該コンピュータプログラムが記録されたコンピュータ読み取り可能な記録媒体の形態として本発明が実施されることとしてもよい。
ここで、記録媒体としては、ディスク系(例えば、磁気ディスク、光ディスク等)、カード系(例えば、メモリカード、光カード等)、半導体メモリ系(例えば、ROM、不揮発性メモリ等)、テープ系(例えば、磁気テープ、カセットテープ等)等、さまざまな形態のものを採用することができる。
これら記録媒体に上記実施形態における画像処理装置の機能を実現させるコンピュータプログラム、または、画像処理方法をコンピュータに実行させるコンピュータプログラムを記録して流通させることにより、コストの低廉化、及び可搬性や汎用性を向上させることができる。
そして、コンピュータに上記記録媒体を装着し、コンピュータにより記録媒体に記録されたコンピュータプログラムを読み出してメモリに格納し、コンピュータが備えるプロセッサ(CPU:Central Processing Unit、MPU:Micro Processing Unit)が当該コンピュータプログラムをメモリから読み出して実行することにより、本実施形態に係る画像処理装置の機能を実現し、画像処理方法を実行することができる。
また、本発明は上述した実施形態に限定されず、本発明の要旨を逸脱しない範囲内で各種の変形、修正が可能である。
例えば、上記第1および第2の実施形態では、非対応点個数算出部13gは、非対応度分布U(s)を式(4)、式(10)を用いて算出することとしたが、非対応度分布U(s)を算出する式はこれに限定されない。例えば、非対応点個数算出部13gは、式(4)の代わりに、以下の式(15)、式(16)を用いて非対応度分布U(s)を算出することとしてもよい。
Figure 0005002066
Figure 0005002066
ここで、L(x,y)は、所定の応答特性を有するフィルタによりフィルタリングを行った左目用画像の輝度画像における座標(x,y)の画素値であり、R(x,y)は、所定の応答特性を有するフィルタによりフィルタリングを行った右目用画像の輝度画像における座標(x,y)の画素値である。また、THは、予め設定された閾値である。
また、例えば、非対応点個数算出部13gは、式(10)の代わりに、以下の式(17)、式(18)を用いて非対応度分布U(s)を算出することとしてもよい。
Figure 0005002066
Figure 0005002066
ここで、L(x,y)、R(x,y)、THは、式(16)におけるL(x,y)、R(x,y)と同様のものである。
式(15)〜式(18)は、画素値が右目用画像の特徴点の画素値と閾値TH以上離れている左目用画像の特徴点を、右目用画像の特徴点と対応しない左目用画像の特徴点に含めて、右目用画像の特徴点と対応しない左目用画像の特徴点の個数を算出する式である。すなわち、式(4)、式(10)に、特徴点同士の対応は画素値が近い場合にのみ生じるという条件が追加されたものである。あるいは、非対応点個数算出部13gは、画素値が左目用画像の特徴点の画素値と閾値TH以上離れている右目用画像の特徴点を、左目用画像の特徴点と対応しない右目用画像の特徴点に含めて、左目用画像の特徴点と対応しない右目用画像の特徴点の個数を算出することとしてもよい。
このように、非対応点個数算出部13gが、画素値が他方の画像の特徴点の画素値と所定の値以上離れている特徴点を、上記他方の画像の特徴点と対応しない上記いずれか一方の画像の特徴点に含めることとしたので、画素値を考慮することにより人の視覚特性をさらに精度よく模すことができる。
また、上記第1および第2の実施形態では、視差値調整部13hは、非対応度分布U(s)が閾値K以下となる領域において、非対応度分布U(s)が最小となる移動量sの値を視差値の調整量として設定することとしたが、視差値の調整量の設定方法はこれに限定されるものではない。
例えば、視差値調整部13hは、非対応度分布U(s)が閾値K以下となる領域において、絶対値が最小となる移動量s(図4の例では、s4)を視差値の調整量として設定することとしてもよい。これにより、もとの左目用画像および右目用画像間の視差値をあまり変化させることなく、視差の調整を行うことが可能となる。
また、視差値調整部13hは、非対応度分布U(s)が閾値K以下となる領域において、最大または最小である移動量s(図4の例では、s6およびs3)を視差値の調整量として設定することとしてもよい。これにより、立体視したときの観察対象の奥行きをより引っ込ませたり、飛び出させたりすることが可能となる。
また、視差値調整部13hは、非対応度分布U(s)が閾値Kとなる移動量s(図4の例では、s3、s4、s5、および、s6)を視差値の調整量として設定することとしてもよい。この移動量sは、非対応度分布U(s)の値に対して許容される限界に対応する量である。
さらに、上記第1および第2の実施形態では、視差値調整部13hは、非対応度分布U(s)が所定の閾値K以下となる領域において、非対応度分布U(s)が最小となる移動量sの値を検出することとしたが、閾値Kを移動量sに応じて変化する値に設定することとしてもよい。これは、移動量sが大きくなると、左目用画像の画像端近傍にある特徴点に対応する特徴点が右目用画像に含まれなくなり、非対応度分布U(s)が大きくなる可能性が高くなるので、そのような状況を考慮したものである。
例えば、視差値調整部13hは、上記第1または第2の実施形態における閾値Kの代わりに、以下の式(19)により算出した閾値K(s)を用いる。
Figure 0005002066
ここで、α、βは、α>βの関係を満たす定数であり、sは、予め設定された移動量である。
また、視差値調整部13hは、非対応度分布U(s)の統計量や、左目用画像特徴点リスト13e、右目用画像特徴点リスト13fに登録された特徴点の個数M、N、左目用画像特徴点リスト13e〜13e、右目用画像特徴点リスト13f〜13fに登録された特徴点の個数M(1≦p≦w)、N(1≦p≦w)に応じて閾値Kを変化させることとしてもよい。
例えば、視差値調整部13hは、上記第1の実施形態における閾値Kの代わりに、以下の式(20)により算出した閾値K(M,N)を用いることとしてもよい。
Figure 0005002066
ここで、K、Kは、所定の定数である。
また、視差値調整部13hは、上記第2の実施形態における閾値Kの代わりに、以下の式(21)により算出した閾値K(M,M,・・・,M,N,N,・・・,N)を用いてもよい。
Figure 0005002066
ここで、K、Kは、所定の定数である。式(21)は、式(20)のMを、左目用画像特徴点リスト13e〜13eに登録された特徴点の個数M(1≦p≦w)の平均値で置き換え、式(20)のNを、右目用画像特徴点リスト13f〜13fに登録された特徴点の個数N(1≦p≦w)の平均値で置き換えたものである。
式(20)、式(21)では、特徴点の数が多くなるほど、閾値が大きくなる。これは、フィルタ処理によって人の視覚特性を完全に模すことは難しく、特徴点が多くなりすぎると特徴点の対応付けが難しくなるという問題に対処するためである。
また、上記第1および第2の実施形態では、視差値調整部13hは、視差値の調整量を非対応度分布U(s)が最小となる移動量sの値hに設定することとしたが、人の目が像を融合できる視差角の範囲を考慮して、定数aを用いて視差値の調整量をh+a、h−aなどに設定することとしてもよい。
さらに、画像処理装置10が動画を表示する場合は、視差値調整部13hは、連続する複数の入力画像に対して算出した視差値の調整量を時間方向において平滑化し、その結果得られた値を視差値の調整量として用いることとしてもよい。これは、視差値の調整量の時間的な変化が大きいと、立体視が困難となるためである。
また、上記第1および第2の実施形態では、左目用画像特徴点抽出部13b、13b〜13b、右目用画像特徴点抽出部13d、13d〜13d、視差値調整部13hを、表示部15を有する画像処理装置10に備えることとしたが、これらの処理部を、表示部15を有する画像処理装置10とは別の装置に備えることとしてもよい。例えば、これらの処理部を、DVDプレーヤやブルーレイディスクプレーヤなどの映像出力装置(記録メディア再生装置)に備えることとしてもよい。
10…画像処理装置、11…入力部、12…入力画像処理部、13…画像調整部、13a…左目用画像前処理部、13b、13b〜13b…左目用画像特徴点抽出部、13c…右目用画像前処理部、13d、13d〜13d…右目用画像特徴点抽出部、13e、13e〜13e…左目用画像特徴点リスト、13f、13f〜13f…右目用画像特徴点リスト、13g…非対応点個数算出部、13h…視差値調整部、14…表示制御部、15…表示部、16…メガネ同期部、17…通信処理部、30a、31a、32a…左目用画像、30b、31b、32b…右目用画像。

Claims (10)

  1. 左目用画像、および、右目用画像間の視差値を調整する画像処理装置であって、
    前記左目用画像、および、前記右目用画像のそれぞれから特徴点を抽出する特徴点抽出部と、
    前記特徴点抽出部により抽出された前記左目用画像、および、前記右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない前記いずれか一方の画像の特徴点の個数を移動距離ごとに算出する非対応点個数算出部と、
    前記非対応点個数算出部により前記移動距離ごとに算出された前記個数に基づいて、前記左目用画像、および、前記右目用画像間の視差値を調整する視差値調整部と、
    を備えることを特徴とする画像処理装置。
  2. 前記特徴点抽出部は、所定の応答特性を有するフィルタによるフィルタリングを前記左目用画像、および、前記右目用画像に対して行い、該フィルタリングの結果得られた左目用画像、および、右目用画像において、画素値が所定の閾値よりも大きい画素を前記左目用画像の特徴点、および、前記右目用画像の特徴点として抽出することを特徴とする請求項1に記載の画像処理装置。
  3. 前記特徴点抽出部は、互いに応答特性が異なる複数のフィルタをそれぞれ前記左目用画像、および、前記右目用画像の両方に対して適用するフィルタリングを実行し、各フィルタリングの結果得られた左目用画像、および、右目用画像において、画素値が所定の閾値よりも大きい画素を前記左目用画像の特徴点、および、前記右目用画像の特徴点として抽出することを特徴とする請求項2に記載の画像処理装置。
  4. 前記フィルタは、バンドパスフィルタであることを特徴とする請求項2または3に記載の画像処理装置。
  5. 前記視差値調整部は、前記非対応点個数算出部により算出された個数を度数とし、前記左目用画像の特徴点と前記右目用画像の特徴点との間の距離を階級とする度数分布に基づいて、前記左目用画像、および、前記右目用画像間の視差値を調整することを特徴とする請求項1〜4のいずれか1項に記載の画像処理装置。
  6. 前記非対応点個数算出部は、画素値が前記他方の画像の特徴点の画素値と所定の値以上離れている特徴点を、前記他方の画像の特徴点と対応しない前記いずれか一方の画像の特徴点に含め、前記いずれか一方の画像の特徴点の個数を算出することを特徴とする請求項1〜5のいずれか1項に記載の画像処理装置。
  7. 前記視差値調整部により視差値が調整された前記左目用画像、および、前記右目用画像の表示処理を制御する表示制御部をさらに備えることを特徴とする請求項1〜6のいずれか1項に記載の画像処理装置。
  8. 左目用画像、および、右目用画像間の視差値を調整する画像処理方法であって、
    前記左目用画像、および、前記右目用画像のそれぞれから特徴点を抽出する特徴点抽出ステップと、
    前記特徴点抽出ステップにおいて抽出された前記左目用画像、および、前記右目用画像のいずれか一方の画像の特徴点を水平方向に所定の距離移動させた場合に、他方の画像の特徴点と対応しない前記いずれか一方の画像の特徴点の個数を移動距離ごとに算出する非対応点個数算出ステップと、
    前記非対応点個数算出ステップにおいて前記移動距離ごとに算出された前記個数に基づいて、前記左目用画像、および、前記右目用画像間の視差値を調整する視差値調整ステップと、
    を含むことを特徴とする画像処理方法。
  9. 請求項8に記載の画像処理方法をコンピュータに実行させることを特徴とするコンピュータプログラム。
  10. 請求項9に記載のコンピュータプログラムを記録したことを特徴とするコンピュータが読み取り可能な記録媒体。
JP2011084142A 2011-04-06 2011-04-06 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体 Expired - Fee Related JP5002066B1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011084142A JP5002066B1 (ja) 2011-04-06 2011-04-06 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体
PCT/JP2012/050134 WO2012137520A1 (ja) 2011-04-06 2012-01-06 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体
US14/009,339 US9189893B2 (en) 2011-04-06 2012-01-06 Image processing device, image processing method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011084142A JP5002066B1 (ja) 2011-04-06 2011-04-06 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体

Publications (2)

Publication Number Publication Date
JP5002066B1 true JP5002066B1 (ja) 2012-08-15
JP2012222472A JP2012222472A (ja) 2012-11-12

Family

ID=46793985

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011084142A Expired - Fee Related JP5002066B1 (ja) 2011-04-06 2011-04-06 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体

Country Status (3)

Country Link
US (1) US9189893B2 (ja)
JP (1) JP5002066B1 (ja)
WO (1) WO2012137520A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6240530B2 (ja) 2014-02-21 2017-11-29 株式会社ワコム 信号処理回路、信号処理方法、位置検出装置及び電子機器
CN105225482B (zh) * 2015-09-02 2017-08-11 上海大学 基于双目立体视觉的车辆检测系统和方法
CN106097327B (zh) * 2016-06-06 2018-11-02 宁波大学 结合流形特征及双目特性的立体图像质量客观评价方法
DE102016125075B3 (de) 2016-12-21 2018-05-03 Carl Zeiss Meditec Ag Verfahren zur Reduktion von Wahrnehmungskonflikten in stereomikroskopischen Bilddaten
US20200275087A1 (en) * 2019-02-25 2020-08-27 Kazuhiro Asakura Computer-readable non-transitory storage medium, web server, and calibration method for interpupillary distance

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05316541A (ja) * 1992-05-07 1993-11-26 Nippon Telegr & Teleph Corp <Ntt> 両眼立体視装置
JPH09121370A (ja) * 1995-08-24 1997-05-06 Matsushita Electric Ind Co Ltd 立体tv装置
JP2006042298A (ja) * 2004-06-25 2006-02-09 雅貴 ▲吉▼良 立体視画像作成方法および装置
JP2009048516A (ja) * 2007-08-22 2009-03-05 Sony Corp 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
JP2009077092A (ja) * 2007-09-20 2009-04-09 Hitachi Ltd マルチカメラシステム
EP2282550A1 (en) * 2009-07-27 2011-02-09 Koninklijke Philips Electronics N.V. Combining 3D video and auxiliary data
JP2011029905A (ja) * 2009-07-24 2011-02-10 Fujifilm Corp 撮像装置、方法およびプログラム
WO2011024710A1 (ja) * 2009-08-31 2011-03-03 ソニー株式会社 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
US20110109731A1 (en) * 2009-11-06 2011-05-12 Samsung Electronics Co., Ltd. Method and apparatus for adjusting parallax in three-dimensional video

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11355624A (ja) * 1998-06-05 1999-12-24 Fuji Photo Film Co Ltd 撮影装置
US7599616B2 (en) * 2005-09-30 2009-10-06 Sharp Kabushiki Kaisha Image shooting apparatus, display apparatus and image shooting and display apparatus
KR101185870B1 (ko) * 2005-10-12 2012-09-25 삼성전자주식회사 3d 입체 영상 처리 장치 및 방법
US7819525B2 (en) * 2009-02-15 2010-10-26 International Business Machines Corporation Automatic direct gaze detection based on pupil symmetry
US8599107B2 (en) * 2009-06-10 2013-12-03 Panasonic Corporation Image system, display device and eyeglasses device used in the same
US8564667B2 (en) * 2009-08-21 2013-10-22 Empire Technology Development Llc Surveillance system
WO2012029301A1 (ja) * 2010-08-31 2012-03-08 パナソニック株式会社 撮影装置、再生装置、および画像処理方法

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05316541A (ja) * 1992-05-07 1993-11-26 Nippon Telegr & Teleph Corp <Ntt> 両眼立体視装置
JPH09121370A (ja) * 1995-08-24 1997-05-06 Matsushita Electric Ind Co Ltd 立体tv装置
JP2006042298A (ja) * 2004-06-25 2006-02-09 雅貴 ▲吉▼良 立体視画像作成方法および装置
JP2009048516A (ja) * 2007-08-22 2009-03-05 Sony Corp 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
JP2009077092A (ja) * 2007-09-20 2009-04-09 Hitachi Ltd マルチカメラシステム
JP2011029905A (ja) * 2009-07-24 2011-02-10 Fujifilm Corp 撮像装置、方法およびプログラム
EP2282550A1 (en) * 2009-07-27 2011-02-09 Koninklijke Philips Electronics N.V. Combining 3D video and auxiliary data
WO2011024710A1 (ja) * 2009-08-31 2011-03-03 ソニー株式会社 立体画像表示システム、視差変換装置、視差変換方法およびプログラム
US20110109731A1 (en) * 2009-11-06 2011-05-12 Samsung Electronics Co., Ltd. Method and apparatus for adjusting parallax in three-dimensional video

Also Published As

Publication number Publication date
WO2012137520A1 (ja) 2012-10-11
US9189893B2 (en) 2015-11-17
US20140029838A1 (en) 2014-01-30
JP2012222472A (ja) 2012-11-12

Similar Documents

Publication Publication Date Title
US20120044330A1 (en) Stereoscopic video display apparatus and stereoscopic video display method
US20120154551A1 (en) Stereo image display system, stereo imaging apparatus and stereo display apparatus
JP5002066B1 (ja) 画像処理装置、画像処理方法、コンピュータプログラム、および、記録媒体
WO2011108702A1 (ja) 立体視映像表示装置、および立体視映像表示装置の動作方法
US9967536B2 (en) Video format determination device, video format determination method, and video display device
JP2012227924A (ja) 画像解析装置、画像解析方法及びプログラム
CN102835117B (zh) 在三维(3d)呈现中使用浮动窗口的方法和系统
US9167223B2 (en) Stereoscopic video processing device and method, and program
EP2541949A1 (en) Three-dimensional video processing apparatus, method therefor, and program
WO2012124150A1 (ja) 映像表示装置
US20130050413A1 (en) Video signal processing apparatus, video signal processing method, and computer program
TWI589150B (zh) 3d自動對焦顯示方法及其系統
EP2587814A1 (en) Depth adaptation for multi-view system
KR101873161B1 (ko) 컨버전스 매칭을 이용한 개인용 3차원 영상 제공 방법 및 장치
JP2012105172A (ja) 画像生成装置、画像生成方法、コンピュータプログラムおよび記録媒体
JP5323165B2 (ja) 立体画像処理装置および立体画像処理方法
JP2018191191A (ja) 立体映像生成装置
JP5962125B2 (ja) 表示装置、同期方法及びプログラム
JP5521991B2 (ja) 立体画像表示装置
JP2011119810A (ja) 映像処理装置および映像処理方法
WO2013015217A1 (ja) 立体画像処理装置および立体画像処理方法
WO2012039340A1 (ja) 画像処理装置、画像処理方法、およびプログラム
WO2014049894A1 (ja) 画像信号処理装置および画像信号処理方法
WO2012093580A1 (ja) 画像処理装置、画像処理方法、およびプログラム
JP2012023676A (ja) 立体画像処理装置及び立体画像表示装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120518

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150525

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees