JP4677175B2 - 画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体 - Google Patents

画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体 Download PDF

Info

Publication number
JP4677175B2
JP4677175B2 JP2003081444A JP2003081444A JP4677175B2 JP 4677175 B2 JP4677175 B2 JP 4677175B2 JP 2003081444 A JP2003081444 A JP 2003081444A JP 2003081444 A JP2003081444 A JP 2003081444A JP 4677175 B2 JP4677175 B2 JP 4677175B2
Authority
JP
Japan
Prior art keywords
image data
image
stereoscopic
input
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003081444A
Other languages
English (en)
Other versions
JP2004289681A (ja
Inventor
正幸 江澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2003081444A priority Critical patent/JP4677175B2/ja
Priority to EP04250470A priority patent/EP1462996B1/en
Priority to DE602004006657T priority patent/DE602004006657T2/de
Priority to US10/772,334 priority patent/US7453489B2/en
Priority to KR1020040010950A priority patent/KR100584067B1/ko
Priority to CNB2004100076505A priority patent/CN1264048C/zh
Publication of JP2004289681A publication Critical patent/JP2004289681A/ja
Application granted granted Critical
Publication of JP4677175B2 publication Critical patent/JP4677175B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/356Image reproducers having separate monoscopic and stereoscopic modes
    • H04N13/359Switching between monoscopic and stereoscopic modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、立体画像表示を行うための立体画像データを出力可能な画像処理装置、並びに、この画像処理装置を備える画像撮像システム、画像表示システム、及び画像撮像表示システム、あるいは、コンピュータを上記画像処理装置として動作させる画像処理プログラム、及びこの画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体に関するものである。
【0002】
【従来の技術】
従来、立体画像を表示する画像表示装置が、ゲームやCAD(computer aided design)システム、航空機、医療用機器等の様々な用途に使用されている。
【0003】
立体画像を使用者に呈示する原理は、使用者の両目に視差のついた物体像を呈示することで可能となる。このような画像を使用者に呈示する代表的な方法としては、次のものが挙げられる。
【0004】
1つ目はアナグリフ方式である。このアナグリフ方式では、通常の画像表示装置を用いて、右目用に赤い画像を、左目用に青い画像を呈示する。そして、使用者には右目には赤い画像だけが見えるよう青いフィルムを、左目には青い画像だけが見えるよう赤いフィルムを貼った眼鏡を着用してもらう。これにより、使用者の左右の目に、それぞれに対応する画像のみを見せる。
【0005】
2つ目は偏光眼鏡方式である。この偏光眼鏡方式では、右目用画像表示装置と左目用画像表示装置とを用い、各画像表示装置の前に、それぞれ互いに直交する偏光板を配置し、偏光板を介した各画像をハーフミラーで合成して使用者に呈示する。そして、使用者には、それぞれの目に対する画像のみが見えるように、それぞれ互いに直交した偏光板を貼った眼鏡を着用してもらう。これにより、使用者の左右の目に、それぞれに対応する画像のみを見せる。
【0006】
3つ目は時分割シャッタ方式である。この時分割シャッタ方式では、通常の画像表示装置に視差のついた画像を、一定時間毎に切り替えて表示する。そして、使用者には、上記と同じ一定時間ごとに左右のシャッタが交互に閉まる眼鏡を着用してもらう。このシャッタの切り替えと、画像の切り替えとを同期させることで、使用者の左右の目に、それぞれに対応する画像のみを見せる。
【0007】
4つ目はパララックスバリア方式である。このパララックスバリア方式は、例えば特許文献1に開示されている。この方式の原理を図19及び図20に基づいて説明する。
【0008】
この方式では、液晶表示素子151などの表示素子における前後の面に、直線偏光板162・163がそれぞれ設けられ、さらに、液晶表示素子151の表示面前方には、パララックスバリア171が設けられて、立体画像表示装置150が構成される。また、液晶表示素子151にはn個の画素からなる画素グループ164が複数形成されている。これら画素グループ164における画素配列は次のようになっている。
【0009】
(R1,G2,B3,・・・,Rn)、(G1,B2,R3,・・・,Gn)、(B1,R2,G3,・・・,Bn)、・・・ただし、同一の括弧内に示された画素は同一の画素グループ164に属しているものとする。また、上記のR、G、Bはそれぞれ、赤、緑、青に対応する色信号で駆動される画素を示している。また、添え数字は、n個の視差像のうちのいずれであるかを示している。このように、液晶表示素子151には、視差像を表示する各画素がR、G、Bの順番で配置されている。
【0010】
なお、n個の視差像とは、ある物体を1,2,・・・,nの方向から眺めたときに得られるn個の画像を指す。このようにn個の画像を用いる方式は一般的にn眼式と呼ばれている。
【0011】
パララックスバリア171は、図19に示すように、開口部172となる複数のスリットと遮光部173とから構成され、液晶表示素子151の1個の画素グループ164が1個の開口部172に対応するように配置されている。
【0012】
このような構成により、液晶表示素子151の各画素から出射される光は、本来、液晶表示素子151の前面のあらゆる方向に出射されるが、同一の画素グループ164内に属する画素から出射される光は、図19中の矢印の光路で示すように同一の開口部172を透過することになる。
【0013】
すると、図20に示すように、立体画像表示装置150の前面には、1,2,・・・,nの各々の画像を観察できる観察領域E1,E2,・・・,Enが空間的に分割形成される。これにより、使用者の目を例えば観察領域E1内に入れると、使用者は液晶表示素子151に表示される全ての“1”の画像を観察することができる。それゆえ、パララックスバリア171を挟んで液晶表示素子151と反対側の位置にいる使用者は、観察領域E1、E2、・・・、Enのうちのいずれかの2領域に各目を入れることにより、1からnの画像のうちのいずれかを選び出して立体画像を観察できるようになる。つまり、使用者は、観察する角度によって様々な立体画像を観察できるようになる。
【0014】
5つ目はレンチキュラレンズ方式である。このレンチキュラレンズ方式も、例えば特許文献1に開示されている。この方式の原理を図21に基づいて説明する。
【0015】
この方式では、上記パララックスバリア171の代わりにレンチキュラレンズ181が液晶表示素子151の表示面前方に設けられて立体画像表示装置150が構成される。
【0016】
レンチキュラレンズ181は、複数のシリンドリカルレンズ182が基板183上に並設されて構成されていると共に、液晶表示素子151の1個の画素グループ164が1個のシリンドリカルレンズ182に対応するように配置されている。したがって、使用者がレンチキュラレンズ181を介して表示面を観察したときには、シリンドリカルレンズ182の作用により、観察している方向によって見える画像が選択されることになる。
【0017】
例えば、ある物体を“1”の方向から見たときの画像を表示する画素(以下、画素1と称する)から出射される光がシリンドリカルレンズ182の主点を通るような方向(図21中実線の矢印で示すような方向)に使用者がいる場合、使用者は破線で示す領域で表示される、画素1の画像だけを観察できることになる。したがって、液晶表示素子151の前面にレンチキュラレンズ181を配置することにより、パララックスバリア171を配置したときと同様の効果を得ることができる。
【0018】
【特許文献1】
特開平11−72745号公報(公開日1999年3月16日)
【0019】
【発明が解決しようとする課題】
特許文献1には、立体画像を表示するための技術が開示されているが、立体画像と平面画像とを切り替えて表示する技術については何ら検討されていない。
【0020】
本発明の目的は、立体画像表示と平面画像表示とを切り替えて表示することができる画像処理装置等を提供することにある。
【0021】
【課題を解決するための手段】
本発明の画像処理装置は、上記の課題を解決するために、互いに視差像の関係にある複数の画像に対応する複数の入力画像データに対して、それぞれの画像を横方向に縮減するための縮減演算を行う縮減演算手段と、前記縮減演算手段にて縮減演算が施された縮減画像データを組み合わせることで立体画像データを生成する立体化処理手段と、当該画像処理装置からの出力として、前記立体化処理手段にて生成される立体画像データを出力するか、前記複数の入力画像データの何れかを用いて生成される平面画像データを出力するかを切り替える切替手段とを備えることを特徴としている。
【0022】
上記構成の画像処理装置では、例えば通常の撮像装置を複数用いて、互いに視差像の関係にある複数の画像を撮像し、それぞれの入力画像データを入力することで、立体画像表示のための立体画像データと、平面画像表示のための平面画像データとを切り替えて画像表示装置に対して出力することができる。
【0023】
すなわち、立体画像表示を行う場合には、入力画像データを縮減演算手段によって横方向に縮減して縮減画像データを生成し、その縮減画像データを立体化処理手段によって組み合わせることで立体画像データを生成することができる。一方、平面画像表示を行う場合には、入力画像データの何れかを用いて平面画像データを生成することができる。立体画像データと平面画像データとの何れを出力するかは、切替手段によって切り替えることができる。
【0024】
これにより、立体画像表示と平面画像表示とを同一の装置構成で実現することができるとともに、例えば、使用者による表示の切り替えの指示に基づいて、立体画像表示と平面画像表示とを簡単に切り替えることができる。
【0025】
本発明の画像処理装置は、上記の画像処理装置において、前記入力画像データの数に対応して前記縮減演算手段を複数備えていてもよい。
【0026】
上記の構成では、複数の入力画像データに対する縮減演算を同時並行に実行することができる。これにより、立体化処理手段による処理において、大容量を要するフレームメモリなどを用いることなく立体画像データを生成することが可能になる。したがって、立体化処理手段の装置構成を簡略化することができる。
【0027】
本発明の画像処理装置は、上記の画像処理装置において、前記縮減演算手段が、前記複数の入力画像データそれぞれに対する縮減演算を時間的に切り替えて行うことで、前記各入力画像データに対応する各縮減画像データを時分割で出力するものであってもよい。
【0028】
上記の構成では、複数の入力画像データに対する縮減演算を1つの縮減演算手段により時間的に切り替えて実行することができる。これにより、縮減演算手段を入力画像データの数に対応して複数設ける必要がなくなり、縮減演算手段の数を削減することができる。
【0029】
本発明の画像処理装置は、上記の画像処理装置において、前記縮減演算手段による縮減演算が、前記入力画像データに対するデータの間引き演算であってもよい。
【0030】
上記の構成では、縮減演算手段での縮減演算量を減らすことができるため、回路規模が小さく消費電力も低い画像処理装置を実現できる。
【0031】
本発明の画像処理装置は、上記の画像処理装置において、前記入力画像データの数がn(nは2以上の整数)であり、前記立体化処理手段が、前記n個の入力画像データのうちのm個(mは2以上、かつ、n未満の整数)の入力画像データに対応する縮減画像データを組み合わせることで前記立体画像データを生成するものであってもよい。
【0032】
上記構成のように、入力される入力画像データの中から選択した所定数の入力画像データに対応する縮減画像データを用いて立体画像データを生成することができる。
【0033】
本発明の画像撮像システムは、上記の画像処理装置と、互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを前記画像処理装置に入力する撮像手段とを備えて構成される。
【0034】
また、本発明の画像表示システムは、上記の画像処理装置と、前記画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段とを備えて構成される。
【0035】
さらに、本発明の画像撮像表示システムは、上記の画像処理装置と、互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを前記画像処理装置に入力する撮像手段と、前記画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段とを備えて構成される。
【0036】
本発明の画像撮像表示システムは、上記の画像撮像表示システムにおいて、前記撮像手段が入力する入力画像データの数はn(nは2以上の整数)であり、前記表示手段が、横w本×縦h本(w,hは正の整数)の解像度を有するn眼式の立体画像表示が可能であり、前記撮像手段が、横w/n本×縦h本よりも高い解像度を有するものであってもよい。
【0037】
上記の構成では、表示手段の解像度が横w本×縦h本であり、この表示手段の解像度とは異なる解像度を有する撮像手段を用いて画像撮像表示システムを構成する場合であっても、横w/n本×縦h本よりも高い解像度を有する撮像手段を用いることで、縮減演算手段での縮減演算が可能となる。
【0038】
本発明の画像撮像表示システムは、上記の画像撮像表示システムにおいて、前記撮像手段が、前記複数の入力画像データごとに異なる解像度を有していてもよい。
【0039】
本発明の画像処理プログラムは、上記の画像処理装置を動作させる画像処理プログラムであって、コンピュータを前記画像処理装置の各手段として機能させるためのものである。また、本発明のコンピュータ読み取り可能な記録媒体は、上記の画像処理プログラムを記録したものである。
【0040】
【発明の実施の形態】
〔実施形態1〕
本発明の第1の実施形態について図1から図6に基づいて説明すれば、以下の通りである。
【0041】
図1に本実施形態の画像撮像表示システム1のブロック構成を示す。この画像撮像表示システム1は、撮像手段としての撮像装置11a・11b・11c、画像表示手段としての画像表示装置12、及び画像処理手段としての画像処理装置1aを備えている。なお、ここでは3個の撮像装置11a・11b・11cを用いることを想定しているが、撮影装置は2個以上であればその数は特に限定されない。また、撮像装置11a・11b・11cを総称する場合に、撮像装置11と記すこともある。
【0042】
撮像装置11a・11b・11cは、それぞれCCDカメラやCMOSイメージセンサ等を備えて構成されており、それぞれ画像を撮像して画像データを生成し、画像処理装置1aに入力する。特に、撮像装置11a・11b・11cは、3個の視差像を撮像して、それぞれに対応する画像データを画像処理装置1aに入力することができる。
【0043】
画像表示装置12は、後述するように画像処理装置1aにて生成される立体画像データを入力することにより立体画像を表示することができ、かつ、撮像装置11a・11b・11cの何れかにより生成された画像データである平面画像データを入力することにより平面画像を表示することができるものである。この画像表示装置12は、立体画像表示及び平面画像表示の双方が可能なものであればよく、例えば図19又は図21に示した立体画像表示装置150を用いることができる。
【0044】
画像処理装置1aは、撮像装置11a・11b・11cそれぞれに1対1に対応して備えられた画像データ縮減部13a・13b・13cと、画像データ立体化部14と、表示切替制御部15とを備えている。なお、画像データ縮減部13a・13b・13cを総称する場合に、画像データ縮減部13と記すこともある。
【0045】
画像データ縮減部13a・13b・13cは、それぞれ縮減演算手段としての縮減演算部16a・16b・16cと、セレクタ17a・17b・17cとを備えている。なお、縮減演算部16a・16b・16c及びセレクタ17a・17b・17cを総称する場合に、それぞれ縮減演算部16及びセレクタ17と記すこともある。
【0046】
縮減演算部16a・16b・16cは、撮像装置11a・11b・11cから入力される画像データ、つまり、互いに視差像の関係にある複数の画像に対応する複数の画像データ(入力画像データ)に対して、それぞれの画像を横方向に縮減するための縮減演算を行う。撮像装置11及び画像データ縮減部13の数をnとすると(ここでは、n=3)、縮減演算部16は、入力画像データを横方向に1/nに縮減する。なお、「画像データを横方向に縮減する」とは、画像データの横方向のデータ量を削減することを意味し、特に行列状の画像データについては、列数を削減することを意味する。
【0047】
縮減演算部16において入力画像データを横方向に1/nに縮減するには、画像の縮小でよく知られた、ニアレストネイバー法やバイリニア法、バイキュービック法等のアルゴリズムを利用すればよい。
【0048】
セレクタ17a・17b・17cは、画像データ縮減部13a・13b・13cに入力され、何も処理を施していない入力画像データそのものと、縮減演算部16a・16b・16cにて縮減演算を施した画像データ(縮減画像データ)とのうちの一方を選択して出力する。セレクタ17a・17b・17cにおいて何れを選択するかは、表示切替制御部15の制御に基づく。
【0049】
画像データ立体化部14は、立体化処理手段としての立体化処理部18と、セレクタ19とを備えて構成される。この立体化処理部18及びセレクタ19には、画像データ縮減部13a・13b・13cのセレクタ17a・17b・17cから送出される画像データが入力される。
【0050】
立体化処理部18は、縮減演算部16a・16b・16cにて縮減演算が施された縮減画像データを組み合わせることで立体画像データを生成する。
【0051】
セレクタ19は、立体化処理部18にて生成される立体画像データと、画像データ縮減部13a・13b・13cのセレクタ17a・17b・17cから送出される3つの画像データのうちの予め定めた1つの画像データ(代表画像データ)とのうちの一方を選択し、画像表示装置12に対して出力する。セレクタ19において何れを選択するかは、表示切替制御部15の制御に基づく。
【0052】
なお、セレクタ19による選択とセレクタ17a・17b・17cによる選択とは、表示切替制御部15の制御のもとで連携しており、セレクタ19が立体画像データを選択する際には、セレクタ17a・17b・17cは縮減画像データを選択するようになっており、セレクタ19が代表画像データを選択する際には、セレクタ17a・17b・17cは縮減されていない入力画像データを選択するようになっている。
【0053】
したがって、セレクタ19が代表画像データを選択しているときにセレクタ19から出力される画像データは、縮減されていない3つの入力画像データの何れかであり、これは平面画像データである。なお、平面画像データは、入力画像データそのものである必要はなく、例えば入力画像データに対して通常の画像処理が施されたものであってもよい。つまり、平面画像データは、3つの入力画像データの何れかを用いて生成されたものであればよい。
【0054】
表示切替制御部15は、使用者からの立体画像表示/平面画像表示の切り替えの指示に基づき、上述のようにセレクタ17及びセレクタ19での選択を制御する。使用者からの立体画像表示/平面画像表示の切り替えの指示は、図示しない表示切替入力装置を使用者が操作することで、その切替入力装置から表示切替制御部15へ送られる。
【0055】
したがって、表示切替制御部15は、画像処理装置1aからの出力として、立体化処理部18にて生成される立体画像データを出力するか、複数の入力画像データの何れかを用いて生成される平面画像データを出力するかを切り替える切替手段として機能する。
【0056】
なお、平面画像データを出力する場合において、撮像装置11a・11b・11cの何れで撮像された入力画像データを用いるのかを、表示切替制御部15の制御によってセレクタ19で切り替えることができるようになっていてもよい。
【0057】
以下では、一例として、図2に示すように画像撮像表示システム1が2つの撮像装置11a・11bを備えるものとし、この2つの撮像装置11a・11bでそれぞれ右目用及び左眼用の視差像を撮像し、これにより立体画像表示を行う場合、つまり2眼式の立体画像表示を行う場合について説明する。
【0058】
まず、2眼式の立体画像表示の表示原理について説明する。画像表示装置12と使用者との関係を図3及び図4に示す。
【0059】
図3は、画像表示装置12としてパララックスバリア方式の表示装置を用いた場合である。この画像表示装置12は、液晶表示素子20の表示面前方に、複数の開口部21a…を有するパララックスバリア21を配置し、このパララックスバリア21の前方における特定の領域において、使用者の右目ER及び左目ELにそれぞれに対応した画像のみが見えるようにしたものである。
【0060】
そのために、液晶表示素子20には、右目用の画像であるRi,Rj,Rk,Rl,Rmと、左目用の画像であるLi,Lj,Lk,Ll,Lmとを交互に配し、これをパララックスバリア21を介して見せることによって、使用者の左右それぞれの目にそれぞれに対応する画像のみを見せることを実現している。
【0061】
例えば、Riの画像と使用者の右目ERとを結ぶ線(実線)上にはパララックスバリア21の開口部21aがあるため、使用者は右目ERでRiの画像を見ることができる。一方、Riの画像と使用者の左目ELとを結ぶ線(破線)上には開口部21aがないため、使用者の左目ELにはRiは見えないようになっている。これにより、使用者に眼鏡等の装置を着用させずとも左右の目にそれぞれの画像のみを見せることができる。
【0062】
また、図4は、画像表示装置12としてレンチキュラレンズ方式の表示装置を用いた場合である。この画像表示装置12は、液晶表示素子20の表示面前方に、レンチキュラレンズ22を配置し、レンチキュラレンズ22の前方における特定の領域において、使用者の右目ER及び左目ELにそれぞれ対応した画像のみが見えるようにしたものである。
【0063】
そのために、液晶表示素子20には、右目用の画像であるRi,Rj,Rk,Rl,Rmと、左目用の画像であるLi,Lj,Lk,Ll,Lmとを交互に配し、これをレンチキュラレンズ22を介して見せることによって、使用者の左右それぞれの目にそれぞれに対応する画像のみを見せることを実現している。
【0064】
レンチキュラレンズ22は、右目用の画像及び左目用の画像の1組に対して、1つのレンズ22aが割り当てられた単位構成を有し、この単位構成が繰り返されたものである。このレンズ22aにより、例えばRkから発せられた光はレンズ22aで屈折されて使用者の右目ERにのみ入射し、Lkから発せられた光はレンズ22aで屈折されて使用者の左目ELにのみ入射される。これにより、使用者に眼鏡等の装置を着用させずとも左右の目にそれぞれの画像のみを見せることができる。
【0065】
このように、パララックスバリア方式及びレンチキュラレンズ方式の何れの方法においても、右目用の画像と左目用の画像とを液晶表示素子20に一列毎に交互に表示する。なお、一般のn眼式の立体画像表示の場合は、従来の技術として図19から図21に基づいて説明した通りである。
【0066】
このような表示を行うための立体画像データを、画像処理装置1aにより生成する方法について図2及び図5に基づいて説明する。立体画像表示の際には、画像データは、図2の実線部分を流れて処理される。このとき、図2の破線部分の画像データの流れは、セレクタによって選択されないことになる。また、図5は、撮像装置11から画像表示装置12の間で画像データが変化する様子を示している。
【0067】
撮像装置11a・11bで撮像された解像度が横w本×縦h本(w,hは正の整数)の入力画像データは、画像データ縮減部13a・13bに入ると、それぞれの縮減演算部16a・16bにて横方向にのみ1/2に縮減されて、解像度が横v(=w/2)本×縦h本の縮減画像データとなり、それぞれのセレクタ17a・17bを通って画像データ立体化部14へ出力される。これらの縮減画像データは、画像データ立体化部14に入ると、立体化処理部18にて画像表示装置12に合ったフォーマットとなるように、それぞれの列が交互に並ぶように組み合わされて、立体画像データに変換される。変換された立体画像データは、セレクタ19を通って画像表示装置12に出力されて立体画像表示される。ここでは、画像表示装置12の解像度が横w本×縦h本であるものとしており、立体画像データのデータサイズも横w本×縦h本となっている。
【0068】
図5において、「Rij」は右目用の撮像装置11aから送られてきた入力画像データにおけるi行j列の画素のデータを示し、「Lij」は左目用の撮像装置11bから送られてきた入力画像データにおけるi行j列の画素のデータを示す。画像データ縮減部13a・13bを通過した後の縮減画像データにおける画素のデータを、「R’ij」、「L’ij」で示しているのは、縮減演算により各画素のデータが入力画像データのものとは異なる値となっているからである。
【0069】
本画像処理装置1aにおける縮減演算部16での縮減演算は、画像の横方向のみの縮減であり、縦方向には縮減しないため、通常の縮減演算回路と比較して演算回路の規模を小さくできる。
【0070】
次に、平面画像表示を行う場合の画像データの流れについて図6を用いて説明する。ここでは、一例として撮像装置11bで撮像された入力画像データを用いて平面画像表示を行う場合を想定する。
【0071】
平面画像表示の際には、画像データは、図6の実線部分を流れて処理される。このとき、図6の破線部分の画像データの流れは、セレクタによって選択されないことになる。また、破線で示したブロックは、使用されていないことになる。
【0072】
撮像装置11bで撮像された解像度が横w本×縦h本の入力画像データは、画像データ縮減部13bに入るとそのままの解像度でセレクタ17bを通って出力される。そして、画像データ立体化部14に入ると、立体化処理部18に入ることなくセレクタ19を通って画像表示装置12に出力されて平面画像表示される。
【0073】
このとき、セレクタ19により撮像装置11aの入力画像データは選択されず、撮像装置11bの入力画像データによって平面画像表示が行われる。撮像装置11aの撮像した画像を平面画像表示する場合には、セレクタ19により選択される画像データが画像データ縮減部13aの出力になるよう、表示切替制御部15によって切り替えればよい。これにより、2つの撮像装置11a・11bのうち、任意の1つの撮像装置が撮像した画像を平面画像表示することが可能となる。
【0074】
このように、本実施形態の画像撮像表示システム1は、n個の撮像装置11と、この撮像装置11で取り込まれたそれぞれの画像データを立体画像表示時は横方向に1/nに縮減を行い、平面画像表示時は何も処理を行わないn個の画像データ縮減部13と、立体画像表示時はそれぞれの画像データ縮減部13からの画像データを立体化して後段に転送し、平面画像表示時は1つの画像データ縮減部13からの画像データのみを後段に転送する画像データ立体化部14と、撮像装置11と同じ解像度を有し、立体画像表示及び平面画像表示可能な画像表示装置12と、立体画像表示及び平面画像表示の何れを行うかを制御する表示切替制御部15とを備えたものである。
【0075】
本実施形態の画像撮像表示システム1では、入力画像データの数に対応して縮減演算部16を複数備えている。この構成では、複数の入力画像データに対する縮減演算を同時並行に実行することができる。これにより、立体化処理部28による処理において、大容量を要するフレームメモリなどを用いることなく立体画像データを生成することが可能になる。したがって、立体化処理部28の装置構成を簡略化することができる。
【0076】
なお、画像処理装置1aでは、必ずしもn個全ての撮像装置11の画像データを使用して立体画像表示を行う必要はなく、任意のm(2≦m<n)個を選択的に使用するようにしてもよい。つまり、入力画像データの数がnである場合に、画像データ立体化部14は、n個の入力画像データのうちのm個の入力画像データに対応する縮減画像データを組み合わせることで立体画像データを生成するようにしてもよい。これにより、入力される入力画像データの中から選択した所定数の入力画像データに対応する縮減画像データを用いて立体画像データを生成することができる。
【0077】
〔実施形態2〕
本発明の第2の実施形態について図7から図14に基づいて説明すれば、以下の通りである。
【0078】
図7に本実施形態の画像撮像表示システム2のブロック構成を示す。この画像撮像表示システム2は、撮像装置11a・11b・11c、画像表示装置12、及び画像処理装置2aを備えている。なお、撮像装置11a・11b・11c及び画像表示装置12は、実施形態1で説明した同一符号の部材と同一の機能を有するものである。
【0079】
本実施形態では、画像処理装置2aの構成が、実施形態1の画像処理装置1aと異なっている。画像処理装置2aは、画像データ縮減部23、画像データ立体化部24、及び表示切替制御部15を備えている。なお、表示切替制御部15は、実施形態1で説明した同一符号の部材と同一の機能を有するものである。また、画像データ縮減部23及び画像データ立体化部24は、実施形態1の画像データ縮減部13及び画像データ立体化部14に相当するものであるが、その構成、機能が次のように異なっている。
【0080】
画像データ縮減部23は、撮像装置11a・11b・11cごとに設けられているのではなく、撮像装置11a・11b・11c全体に対して1つ設けられている。したがって、撮像装置11a・11b・11cそれぞれから画像処理装置2aに入力される入力画像データは、全て画像データ縮減部23に入る。
【0081】
画像データ縮減部23は、縮減演算部16、セレクタ17に加えて、セレクタ31を備えている。なお、縮減演算部16及びセレクタ17は、それぞれ実施形態1の縮減演算部16a・16b・16cの何れか、及びセレクタ17a・17b・17cの何れかと同一の機能を有している。セレクタ31は、撮像装置11a・11b・11cからの入力画像データを順次切り替えて縮減演算部16及びセレクタ17に送る機能を有している。
【0082】
この構成により、画像データ縮減部23では、撮像装置11a・11b・11cから送出される各入力画像データに対する縮減演算部16での縮減演算を、時間的に切り替えて行い、各入力画像データに対応する縮減画像データを時分割で出力する。つまり、縮減演算部16では、例えば、撮像装置11aからの入力画像データの縮減が完了したらその縮減画像データを後段に転送し、次の撮像装置11bからの入力画像データの処理を行うということを、撮像装置の数であるn回繰り返す。
【0083】
そのために、セレクタ31では、撮像装置11a・11b・11cそれぞれからの入力画像データの何れを後段に転送するかを順次選択する。また、セレクタ31は、縮減演算を行わない入力画像データを転送する際には、何れの入力画像データを後段に転送するかを順次選択する。
【0084】
画像データ立体化部24は、立体化処理部28、セレクタ19に加えて、フレームメモリ32を備えている。なお、セレクタ19は、実施形態1のセレクタ19とほぼ同一の機能を有している。
【0085】
立体化処理部28は、実施形態1の立体化処理部18に相当する部材であるが、縮減演算部16にて縮減演算が施された縮減画像データを組み合わせて立体画像データを生成する際に、フレームメモリ32を用いる点が実施形態1の場合と異なっている。すなわち、立体化処理部28では、縮減演算部16から送られてくる時分割された縮減画像データを、順次フレームメモリ32に記憶させて復元しつつ立体画像データを生成する。そのために、フレームメモリ32は、画像表示装置12の解像度に対応する立体画像データを記憶できる容量を有している。
【0086】
つまり、立体化処理部28にて縮減画像データを立体化する場合、立体化処理部28には、各撮像装置11a・11b・11cからの入力画像データに対応する縮減画像データが順次転送されてくるため、立体化処理部28は、それらの縮減画像データをフレームメモリ32に記憶させながら立体画像データを形成する。そして、画像データ縮減部23から転送されてきた、横方向に1/nに縮減されたn個の縮減画像データの転送が完了すると、その時点で立体画像データが完成し、この立体画像データがセレクタ19を通って画像表示装置12に転送される。
【0087】
以下では、一例として、図8に示すように画像撮像表示システム2が2つの撮像装置11a・11bを備えるものとし、この2つの撮像装置11a・11bでそれぞれ右目用及び左眼用の視差像を撮像し、これにより立体画像表示を行う場合、つまり2眼式の立体画像表示を行う場合について説明する。
【0088】
立体画像表示の際には、画像データは、図8の実線部分を流れて処理される。
このとき、図8の破線部分の画像データの流れは、セレクタによって選択されないことになる。また、撮像装置11から画像表示装置12の間で画像データが変化する様子を、図9から図13に時系列に示す。
【0089】
なお、図9から図13において、「Rij」は右目用の撮像装置11aから送られてきた入力画像データにおけるi行j列の画素のデータを示し、「Lij」は左目用の撮像装置11bから送られてきた入力画像データにおけるi行j列の画素のデータを示す。画像データ縮減部23を通過した後の縮減画像データにおける画素のデータを、「R’ij」、「L’ij」で示しているのは、縮減演算により各画素のデータが入力画像データのものとは異なる値となっているからである。
【0090】
撮像装置11a・11bで撮像された解像度が横w本×縦h本の入力画像データは、最初にセレクタ31にて撮像装置11aの入力画像データが選択され(図9参照)、画像データ縮減部23に入り、縮減演算部16にて横方向にのみ1/2にされて、解像度が横v(=w/2)本×縦h本の縮減画像データとなり、セレクタ17(図9では図示せず)を通って画像データ立体化部24へ出力される(図10参照)。
【0091】
次に、撮像装置11bの入力画像データがセレクタ31にて選択されて画像データ縮減部23に入り、上記と同様の処理がなされて縮減画像データが出力される(図11参照)。
【0092】
これらの縮減画像データは順次画像データ立体化部24に入り、立体化処理部28により、画像表示装置12に合ったフォーマットとなるように、それぞれの列が交互に並ぶように組み合わされて、フレームメモリ32に保存される。このようにして縮減画像データの全てがフレームメモリ32に保存された時点で、立体画像データが完成する(図12参照)。この立体画像データは、セレクタ19を通って画像表示装置12に出力されて立体画像表示される(図13参照)。
【0093】
本画像処理装置2aにおける縮減演算部16での縮減演算は、画像の横方向のみの縮減であり、縦方向には縮減しないため、通常の縮減演算回路と比較して演算回路の規模を小さくできる。
【0094】
次に、平面画像表示を行う場合の画像データの流れについて図14を用いて説明する。ここでは、一例として撮像装置11bで撮像された入力画像データを用いて平面画像表示を行う場合を想定する。
【0095】
平面画像表示の際には、画像データは、図14の実線部分を流れて処理される。このとき、図14の破線部分の画像データの流れは、セレクタによって選択されないことになる。また、破線で示したブロックは、使用されていないことになる。
【0096】
撮像装置11bで撮像された解像度が横w本×縦h本の入力画像データは、画像データ縮減部23に入るとそのままの解像度でセレクタ31及びセレクタ17を通って出力される。そして、画像データ立体化部24に入ると、立体化処理部28に入ることなくセレクタ19を通って画像表示装置12に出力されて平面画像表示される。
【0097】
このとき、セレクタ31により撮像装置11aの入力画像データは選択されず、撮像装置11bの入力画像データによって平面画像表示が行われる。撮像装置11aの撮像した画像を平面画像表示する場合には、セレクタ31により選択される入力画像データが撮像装置11aの出力になるよう、表示切替制御部15によって切り替えればよい。これにより、2つの撮像装置11a・11bのうち、任意の1つの撮像装置が撮像した画像を平面画像表示することが可能となる。
【0098】
本実施形態の画像処理装置2aでは、実施形態1の画像処理装置1aと比較して、回路規模の大きい縮減演算部16を複数設ける必要がないため、回路規模を小さくすることができ、画像処理装置2aのコスト及び消費電力を低減することが可能となる。
【0099】
このように、本実施形態の画像撮像表示システム2は、n個の撮像装置11と、この撮像装置11で取り込まれたそれぞれの画像データを立体画像表示時は横方向に1/nに縮減を行い、平面画像表示時は何も処理を行わない画像データ縮減部23と、立体画像表示時はフレームメモリ32を使用しながら画像データ縮減部23からの画像データを立体化して後段に転送し、平面画像表示時は1つの撮像装置11からの画像データのみを後段に転送する画像データ立体化部24と、撮像装置11と同じ解像度を有し、立体画像表示及び平面画像表示可能な画像表示装置12と、立体画像表示及び平面画像表示の何れを行うかを制御する表示切替制御部15とを備えたものである。
【0100】
本実施形態の画像撮像表示システム2では、縮減演算部16が、複数の入力画像データそれぞれに対する縮減演算を時間的に切り替えて行うことで、各入力画像データに対応する各縮減画像データを時分割で出力する。この構成では、複数の入力画像データに対する縮減演算を1つの縮減演算部16により時間的に切り替えて実行することができる。これにより、縮減演算部16を入力画像データの数に対応して複数設ける必要がなくなり、縮減演算部16の数を削減することができる。
【0101】
〔実施形態3〕
本発明の第3の実施形態について図15に基づいて説明すれば、以下の通りである。
【0102】
本実施形態では、縮減演算部16における縮減演算として、間引き演算を用いる場合について説明する。なお、本実施形態で説明する演算を行うための装置構成は、実施形態1、2の何れの構成であってもよい。ここでは、実施形態1の装置構成を前提として説明する。
【0103】
図15は、撮像装置11から画像表示装置12の間で画像データが変化する様子を示しており、実施形態1の図5に対応するものである。
【0104】
撮像装置11a・11bで撮像された解像度が横w本×縦h本の入力画像データは、画像データ縮減部13a・13bに入ると、それぞれの縮減演算部16a・16bにて横方向にのみ1/2に縮減されて、解像度が横v(=w/2)本×縦h本の縮減画像データとなり、それぞれのセレクタ17a・17bを通って画像データ立体化部14へ出力される。
【0105】
この縮減演算部16a・16bでの縮減演算として、単純なデータ間引きを行い、例えば奇数列目のデータのみからなるデータを縮減画像データとする。この場合、偶数列目のデータは立体画像表示には使用されていない。
【0106】
そして、これらの縮減画像データは、画像データ立体化部14に入ると、立体化処理部18にて画像表示装置12に合ったフォーマットとなるように、それぞれの列が交互に並ぶように組み合わされて、立体画像データに変換される。変換された立体画像データは、セレクタ19を通って画像表示装置12に出力されて立体画像表示される。ここでは、画像表示装置12の解像度が横w本×縦h本であるものとしており、立体画像データのデータサイズも横w本×縦h本となっている。
【0107】
これにより、縮減演算部16での縮減演算量が減るため、回路規模が小さく消費電力も低い画像処理装置1aを実現できる。
【0108】
〔実施形態4〕
本発明の第4の実施形態について図16に基づいて説明すれば、以下の通りである。
【0109】
本実施形態では、縮減演算部16における縮減演算として、縦方向及び横方向の両方に任意の縮減率で縮減可能にしている点、及び、画像表示装置12の解像度が横w本×縦h本の場合に、撮像装置11の解像度が横w/n本×縦h本よりも高い解像度を有する点が実施形態1、2の場合と異なる。ここで、nは、立体画像表示に用いる入力画像データの数である。
【0110】
なお、本実施形態で説明する演算を行うための装置構成は、実施形態1、2の何れの構成であってもよい。ここでは、実施形態1の装置構成を前提として説明する。
【0111】
図16は、撮像装置11から画像表示装置12の間で画像データが変化する様子を示しており、実施形態1の図5に対応するものである。ここでは、撮像装置11a・11bの解像度がそれぞれ横x本×縦y本、画像表示装置12の解像度が横w本×縦h本とする。
【0112】
撮像装置11a・11bで撮像された解像度が横x本×縦y本の入力画像データは、画像データ縮減部13a・13bに入ると、それぞれの縮減演算部16a・16bにて横方向にw/(2×x)、縦方向にh/yに縮減されて、解像度が横v(=w/2)本×縦h本の縮減画像データとなり、それぞれのセレクタ17a・17bを通って画像データ立体化部14へ出力される。これらの縮減画像データは、画像データ立体化部14に入ると、立体化処理部18にて画像表示装置12に合ったフォーマットとなるように、それぞれの列が交互に並ぶように組み合わされて、立体画像データに変換される。変換された立体画像データは、セレクタ19を通って画像表示装置12に出力されて立体画像表示される。これにより、立体画像データのデータサイズが横w本×縦h本となる。
【0113】
このように、本実施形態の画像処理装置1aは、画像処理装置1aに入力される入力画像データの数がnであり、画像表示装置12は横w本×縦h本の解像度を有するn眼式の立体画像表示が可能であり、撮像装置11は横w/n本×縦h本よりも高い解像度を有するものである。
【0114】
ここで、撮像装置11の解像度が横w/n本×縦h本よりも高い必要があるのは、撮像装置11の解像度が縮減演算部16の出力解像度よりも大きい必要があるためである。
【0115】
本実施形態では、画像表示装置12の解像度とは異なる解像度を有する撮像装置11を用いて画像撮像表示システムを実現することができる。
【0116】
〔実施形態5〕
本発明の第5の実施形態について図17に基づいて説明すれば、以下の通りである。
【0117】
本実施形態は、互いに解像度の異なる撮像装置11aと撮像装置11bとを用いる点において実施形態4と異なるほかは、実施形態4と同じである。本実施形態の装置構成も、実施形態1、2の何れの構成であってもよいが、ここでは、実施形態1の装置構成を前提として説明する。
【0118】
図17は、撮像装置11から画像表示装置12の間で画像データが変化する様子を示しており、実施形態4の図16に対応するものである。ここでは、撮像装置11aの解像度が横p本×縦q本、撮像装置11bの解像度が横x本×縦y本、画像表示装置12の解像度が横w本×縦h本とする。
【0119】
撮像装置11aで撮像された解像度が横p本×縦q本の入力画像データは、画像データ縮減部13aに入ると、縮減演算部16aにて横方向にw/(2×p)、縦方向にh/qに縮減されて、解像度が横v(=w/2)本×縦h本の縮減画像データとなり、セレクタ17aを通って画像データ立体化部14へ出力される。
【0120】
一方、撮像装置11bで撮像された解像度が横x本×縦y本の入力画像データは、画像データ縮減部13bに入ると、縮減演算部16bにて横方向にw/(2×x)、縦方向にh/yに縮減されて、解像度が横v(=w/2)本×縦h本の縮減画像データとなり、セレクタ17bを通って画像データ立体化部14へ出力される。
【0121】
これらの縮減画像データは、画像データ立体化部14に入ると、立体化処理部18にて画像表示装置12に合ったフォーマットとなるように、それぞれの列が交互に並ぶように組み合わされて、立体画像データに変換される。変換された立体画像データは、セレクタ19を通って画像表示装置12に出力されて立体画像表示される。これにより、立体画像データのデータサイズが横w本×縦h本となる。
【0122】
〔実施形態6〕
本発明の第6の実施形態について図18に基づいて説明すれば、以下の通りである。
【0123】
実施形態1〜5における画像処理装置1a・2aは、ハードウェアで実現してもよく、コンピュータに画像処理プログラムを読み込むことで、コンピュータを画像処理装置1a・2aとして動作させることで実現してもよい。本実施形態では、後者の場合のハードウェア構成について、図18に基づいて説明する。
【0124】
本実施形態の画像撮像表示システム4は、撮像装置11a・11b・11c、画像表示装置12、表示切替入力装置45、及び画像処理装置4aを備えている。なお、撮像装置11a・11b・11c及び画像表示装置12は、実施形態1、2で説明した同一符号の部材と同一の機能を有するものである。
【0125】
本実施形態では、画像処理装置4aは、CPU41(central processing unit)、メモリ42、入出力装置43、及びバス44を備えるコンピュータにより構成されている。
【0126】
この画像処理装置4aでは、画像処理プログラムが読み込まれることにより、CPU41において、図1の画像データ縮減部13、画像データ立体化部14、表示切替制御部15、あるいは図7の画像データ縮減部23、画像データ立体化部24、表示切替制御部15を構成する。ただし、図2のフレームメモリ32については、メモリ42で構成する。
【0127】
なお、入出力装置43は、撮像装置11や画像表示装置12、表示切替入力装置45とのデータの入出力を媒介するものである。また、バス44は、CPU41と、メモリ42及び入出力装置43との間のデータ転送路である。これらは、通常のコンピュータが有する構成部材である。
【0128】
また、表示切替入力装置45は、図1、図2では図示していなかったが、使用者の走査に基づき、表示切替制御部15に対して立体画像表示/平面画像表示の切り替えの指示を与えるものである。
【0129】
この画像処理装置4aでは、立体画像表示を行う場合、撮像装置11a・11b・11cから入力される入力画像データを、入出力装置43及びバス44経由でCPU41が読み出し、メモリ42を用いて画像の縮減及び立体化を行って立体画像データを生成する。そして、生成した立体画像データを、再びバス44及び入出力装置43経由で画像表示装置12に送出する。
【0130】
また、画像処理装置4aで平面画像表示を行う場合、撮像装置11a・11b・11cから入力される入力画像データを、入出力装置43及びバス44経由でCPU41が読み出し、必要に応じてメモリ42を用いて縮減を行ってから、平面画像データとして再びバス44及び入出力装置43経由で画像表示装置12に送出する。
【0131】
これら立体画像表示を行うか、平面画像表示を行うかは、表示切替入力装置45からの入力に基づいて、CPU41が判別する。
【0132】
なお、上記画像処理プログラムは、その画像処理プログラムを記録した記録媒体から画像処理装置4aに供給されてもよく、通信ネットワーク(インターネット、イントラネット等を含む)と画像処理装置4aとを接続可能に構成して、その通信ネットワークを介して画像処理装置4aに供給されてもよい。
【0133】
画像処理プログラムを記録する記録媒体は、画像処理装置4aと分離可能に構成してもよく、画像処理装置4aに組み込むようになっていてもよい。この記録媒体は、記録したプログラムコードをコンピュータが直接読み取ることができるように画像処理装置4aに装着されるものであっても、外部記憶装置として画像処理装置4aに接続されたプログラム読み取り装置を介して読み取ることができるように装着されるものであってもよい。
【0134】
例えば、上記記録媒体としては、磁気テープやカセットテープ等のテープ系、フレキシブルディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
【0135】
以上、実施形態1〜6で説明したように、本発明の画像処理装置(画像処理装置1a・2a・4a)は、互いに視差像の関係にある複数の画像に対応する複数の入力画像データに対して、それぞれの画像を横方向に縮減するための縮減演算を行う縮減演算手段(縮減演算部16a・16b・16c、縮減演算部16)と、この縮減演算手段にて縮減演算が施された縮減画像データを組み合わせることで立体画像データを生成する立体化処理手段(立体化処理部18・28)と、当該画像処理装置からの出力として、立体化処理手段にて生成される立体画像データを出力するか、複数の入力画像データの何れかを用いて生成される平面画像データを出力するかを切り替える切替手段(表示切替制御部15)とを備えるものである。
【0136】
上記構成の画像処理装置では、例えば通常の撮像装置11を複数用いて、互いに視差像の関係にある複数の画像を撮像し、それぞれの入力画像データを入力することで、立体画像表示のための立体画像データと、平面画像表示のための平面画像データとを切り替えて画像表示装置12に対して出力することができる。
【0137】
すなわち、立体画像表示を行う場合には、入力画像データを縮減演算手段によって横方向に縮減して縮減画像データを生成し、その縮減画像データを立体化処理手段によって組み合わせることで立体画像データを生成することができる。一方、平面画像表示を行う場合には、入力画像データの何れかを用いて平面画像データを生成することができる。立体画像データと平面画像データとの何れを出力するかは、切替手段によって切り替えることができる。
【0138】
これにより、立体画像表示と平面画像表示とを同一の装置構成で実現することができるとともに、例えば、使用者による表示の切り替えの指示に基づいて、立体画像表示と平面画像表示とを簡単に切り替えることができる。
【0139】
なお、本発明の画像撮像システムは、上記画像処理装置と、互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを前記画像処理装置に入力する撮像手段(撮像装置11a・11b・11c)とを備えて構成される。また、本発明の画像表示システムは、上記画像処理装置と、この画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段(画像表示装置12)とを備えて構成される。
【0140】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【0141】
【発明の効果】
以上のように、本発明の画像処理装置は、複数の入力画像データに対して縮減演算を行う縮減演算手段と、縮減演算が施された縮減画像データを組み合わせることで立体画像データを生成する立体化処理手段と、当該画像処理装置からの出力として、立体画像データを出力するか、上記複数の入力画像データの何れかを用いて生成される平面画像データを出力するかを切り替える切替手段とを備える構成である。
【0142】
上記構成の画像処理装置では、例えば通常の撮像装置を複数用いて、互いに視差像の関係にある複数の画像を撮像し、それぞれの入力画像データを入力することで、立体画像表示のための立体画像データと、平面画像表示のための平面画像データとを切り替えて画像表示装置に対して出力することができる。
【0143】
これにより、立体画像表示と平面画像表示とを同一の装置構成で実現することができるとともに、例えば、使用者による表示の切り替えの指示に基づいて、立体画像表示と平面画像表示とを簡単に切り替えることができるという効果を奏する。
【0144】
本発明の画像処理装置は、上記の画像処理装置において、入力画像データの数に対応して縮減演算手段を複数備えていてもよい。
【0145】
上記の構成では、立体化処理手段による処理において、大容量を要するフレームメモリなどを用いることなく立体画像データを生成することが可能になる。したがって、立体化処理手段の装置構成を簡略化することができる。
【0146】
本発明の画像処理装置は、上記の画像処理装置において、縮減演算手段が、複数の入力画像データそれぞれに対する縮減演算を時間的に切り替えて行うことで、各入力画像データに対応する各縮減画像データを時分割で出力するものであってもよい。
【0147】
上記の構成では、縮減演算手段を入力画像データの数に対応して複数設ける必要がなくなり、縮減演算手段の数を削減することができる。
【0148】
本発明の画像処理装置は、上記の画像処理装置において、縮減演算手段による縮減演算が、入力画像データに対するデータの間引き演算であってもよい。
【0149】
上記の構成では、縮減演算手段での縮減演算量を減らすことができるため、回路規模が小さく消費電力も低い画像処理装置を実現できる。
【0150】
本発明の画像処理装置は、上記の画像処理装置において、入力画像データの数がn(nは2以上の整数)であり、立体化処理手段が、n個の入力画像データのうちのm個(mは2以上、かつ、n未満の整数)の入力画像データに対応する縮減画像データを組み合わせることで立体画像データを生成するものであってもよい。
【0151】
上記構成のように、入力される入力画像データの中から選択した所定数の入力画像データに対応する縮減画像データを用いて立体画像データを生成することができる。
【0152】
本発明の画像撮像システムは、上記の画像処理装置と、互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを画像処理装置に入力する撮像手段とを備えて構成される。
【0153】
また、本発明の画像表示システムは、上記の画像処理装置と、画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段とを備えて構成される。
【0154】
さらに、本発明の画像撮像表示システムは、上記の画像処理装置と、互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを画像処理装置に入力する撮像手段と、画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段とを備えて構成される。
【0155】
本発明の画像撮像表示システムは、上記の画像撮像表示システムにおいて、撮像手段が入力する入力画像データの数はn(nは2以上の整数)であり、表示手段が、横w本×縦h本(w,hは正の整数)の解像度を有するn眼式の立体画像表示が可能であり、撮像手段が、横w/n本×縦h本よりも高い解像度を有するものであってもよい。
【0156】
上記の構成では、表示手段の解像度とは異なる解像度を有する撮像手段を用いて画像撮像表示システムを構成する場合であっても、縮減演算手段での縮減演算が可能となる。
【0157】
本発明の画像撮像表示システムは、上記の画像撮像表示システムにおいて、撮像手段が、複数の入力画像データごとに異なる解像度を有していてもよい。
【0158】
本発明の画像処理プログラムは、上記の画像処理装置を動作させる画像処理プログラムであって、コンピュータを画像処理装置の各手段として機能させるためのものである。また、本発明のコンピュータ読み取り可能な記録媒体は、上記の画像処理プログラムを記録したものである。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る画像撮像表示システムの構成を示すブロック図である。
【図2】図1の画像撮像表示システムにおいて、立体画像表示を行う場合の画像データの流れを説明するためのブロック図である。
【図3】パララックスバリア方式の立体画像表示の原理を説明するために、画像表示装置と使用者との関係を示す平面図である。
【図4】レンチキュラレンズ方式の立体画像表示の原理を説明するために、画像表示装置と使用者との関係を示す平面図である。
【図5】図1の画像撮像表示システムで立体画像表示を行う場合において、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図である。
【図6】図1の画像撮像表示システムにおいて、平面画像表示を行う場合の画像データの流れを説明するためのブロック図である。
【図7】本発明の第2の実施形態に係る画像撮像表示システムの構成を示すブロック図である。
【図8】図7の画像撮像表示システムにおいて、立体画像表示を行う場合の画像データの流れを説明するためのブロック図である。
【図9】図7の画像撮像表示システムで立体画像表示を行う場合において、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図であり、特に、右目用及び左目用のそれぞれの撮像装置で入力画像データが生成されたところを示すブロック図である。
【図10】図7の画像撮像表示システムで立体画像表示を行う場合において、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図であり、特に、右目用の撮像装置で生成された入力画像データが、縮減演算部で横方向にのみ1/2に縮減されて送出されたところを示すブロック図である。
【図11】図7の画像撮像表示システムで立体画像表示を行う場合において、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図であり、特に、縮減後の右目用の縮減画像データが画像データ立体化部でフレームメモリに保存され、それと同時に左目用の撮像装置で生成された入力画像データが、縮減演算部で横方向にのみ1/2にされて送出されたところを示すブロック図である。
【図12】図7の画像撮像表示システムで立体画像表示を行う場合において、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図であり、特に、縮減後の左目用の縮減画像データが画像データ立体化部でフレームメモリに保存されて完成した立体画像データがフレームメモリに入っている状態を示すブロック図である。
【図13】図7の画像撮像表示システムで立体画像表示を行う場合において、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図であり、特に、フレームメモリに保存された立体画像データが、画像表示装置に対して送出されたところを示すブロック図である。
【図14】図7の画像撮像表示システムにおいて、平面画像表示を行う場合の画像データの流れを説明するためのブロック図である。
【図15】本発明の第3の実施形態に係る画像データの処理について、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図である。
【図16】本発明の第4の実施形態に係る画像データの処理について、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図である。
【図17】本発明の第5の実施形態に係る画像データの処理について、画像撮像表示システムの各ブロック間での画像データの変化の様子を示したブロック図である。
【図18】本発明の第6の実施形態に係る画像撮像表示システムの構成を示すブロック図である。
【図19】従来のパララックスバリア方式の画像表示装置の断面を示す断面図である。
【図20】立体画像表示の原理を説明するために、図19の画像表示装置と使用者との関係を示す平面図である。
【図21】従来のレンチキュラレンズ方式の画像表示装置の断面を示す断面図である。
【符号の説明】
1 画像撮像表示システム
1a 画像処理装置
2 画像撮像表示システム
2a 画像処理装置
4 画像撮像表示システム
4a 画像処理装置
11a・11b・11c 撮像装置(撮像手段)
12 画像表示装置(表示手段)
13a・13b・13c 画像データ縮減部
14 画像データ立体化部
15 表示切替制御部(切替手段)
16 縮減演算部(縮減演算手段)
16a・16b・16c 縮減演算部(縮減演算手段)
17a・17b・17c セレクタ
18 立体化処理部(立体化手段)
19 セレクタ
20 液晶表示素子
21 パララックスバリア
22 レンチキュラレンズ
23 画像データ縮減部
24 画像データ立体化部
28 立体化処理部(立体化手段)
31 セレクタ
32 フレームメモリ
41 CPU
42 メモリ
43 入出力装置
44 バス
45 表示切替入力装置

Claims (10)

  1. 互いに視差像の関係にある複数の画像に対応する複数の平面画像データである複数の入力画像データに対して、それぞれの画像を横方向に縮減するための縮減演算を時間的に切り替えて行うことで、前記各入力画像データに対応する各縮減画像データを時分割で出力する縮減演算手段と、
    前記縮減演算手段にて縮減演算が施された縮減画像データを組み合わせることで立体画像データを生成する立体化処理手段と、
    当該画像処理装置からの出力として、前記立体化処理手段にて生成される立体画像データを出力するか、前記複数の入力画像データの何れかを用いて生成される平面画像データを出力するかを切り替える切替手段とを備え、
    前記切替手段は、前記立体画像データを出力する場合には、前記立体化処理手段が生成する立体画像データを出力し、前記平面画像データを出力する場合には、前記複数の入力画像データのいずれかであって、前記縮減演算手段にて縮減演算が施されていない入力画像データを出力することを特徴とする画像処理装置。
  2. 前記縮減演算手段による縮減演算は、前記入力画像データに対するデータの間引き演算であることを特徴とする請求項1記載の画像処理装置。
  3. 前記入力画像データの数はn(nは2以上の整数)であり、
    前記立体化処理手段は、前記n個の入力画像データのうちのm個(mは2以上、かつ、n以下の整数)の入力画像データに対応する縮減画像データを組み合わせることで前記立体画像データを生成することを特徴とする請求項1記載の画像処理装置。
  4. 請求項1記載の画像処理装置と、
    互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを前記画像処理装置に入力する撮像手段とを備えることを特徴とする画像撮像システム。
  5. 請求項1記載の画像処理装置と、
    前記画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段とを備えることを特徴とする画像表示システム。
  6. 請求項1記載の画像処理装置と、
    互いに視差像の関係にある複数の画像の撮像により得られる複数の入力画像データを前記画像処理装置に入力する撮像手段と、
    前記画像処理装置から出力される立体画像データ及び平面画像データに基づいて、立体画像表示及び平面画像表示が可能な表示手段とを備えることを特徴とする画像撮像表示システム。
  7. 前記撮像手段が入力する入力画像データの数はn(nは2以上の整数)であり、
    前記表示手段は、横w本×縦h本(w,hは正の整数)の解像度を有するn眼式の立体画像表示が可能であり、
    前記撮像手段は、横w/n本×縦h本よりも高い解像度を有することを特徴とする請求項記載の画像撮像表示システム。
  8. 前記撮像手段は、前記複数の入力画像データごとに異なる解像度を有することを特徴とする請求項記載の画像撮像表示システム。
  9. 請求項1記載の画像処理装置を動作させる画像処理プログラムであって、コンピュータを前記画像処理装置の各手段として機能させるための画像処理プログラム。
  10. 請求項に記載の画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体。
JP2003081444A 2003-03-24 2003-03-24 画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体 Expired - Fee Related JP4677175B2 (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2003081444A JP4677175B2 (ja) 2003-03-24 2003-03-24 画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
EP04250470A EP1462996B1 (en) 2003-03-24 2004-01-28 Three-dimensional image display compatible to two-dimensional images
DE602004006657T DE602004006657T2 (de) 2003-03-24 2004-01-28 Zu zweidimensionalen Bildern kompatible Anzeigevorrichtung für dreidimensionale Bilder
US10/772,334 US7453489B2 (en) 2003-03-24 2004-02-06 Image processing apparatus, image pickup system, image display system, image pickup display system, image processing program, and computer-readable recording medium in which image processing program is recorded
KR1020040010950A KR100584067B1 (ko) 2003-03-24 2004-02-19 화상 처리 장치, 화상 촬상 시스템, 화상 표시 시스템,화상 촬상 표시 시스템, 및 화상 처리 프로그램을 기록한컴퓨터 판독 가능한 기록 매체
CNB2004100076505A CN1264048C (zh) 2003-03-24 2004-02-27 图像处理装置、图像摄像系统和图像显示系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003081444A JP4677175B2 (ja) 2003-03-24 2003-03-24 画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体

Publications (2)

Publication Number Publication Date
JP2004289681A JP2004289681A (ja) 2004-10-14
JP4677175B2 true JP4677175B2 (ja) 2011-04-27

Family

ID=32821437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003081444A Expired - Fee Related JP4677175B2 (ja) 2003-03-24 2003-03-24 画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体

Country Status (6)

Country Link
US (1) US7453489B2 (ja)
EP (1) EP1462996B1 (ja)
JP (1) JP4677175B2 (ja)
KR (1) KR100584067B1 (ja)
CN (1) CN1264048C (ja)
DE (1) DE602004006657T2 (ja)

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7542034B2 (en) 2004-09-23 2009-06-02 Conversion Works, Inc. System and method for processing video images
KR100913173B1 (ko) 2005-07-05 2009-08-19 삼성모바일디스플레이주식회사 3d 그래픽 처리장치 및 이를 이용한 입체영상 표시장치
KR100932977B1 (ko) 2005-07-05 2009-12-21 삼성모바일디스플레이주식회사 입체 영상 표시 장치
US8279221B2 (en) 2005-08-05 2012-10-02 Samsung Display Co., Ltd. 3D graphics processor and autostereoscopic display device using the same
KR100728113B1 (ko) 2005-10-20 2007-06-13 삼성에스디아이 주식회사 입체 영상 표시장치 및 그 구동 방법
US20070165942A1 (en) * 2006-01-18 2007-07-19 Eastman Kodak Company Method for rectifying stereoscopic display systems
WO2007110993A1 (ja) * 2006-03-24 2007-10-04 Sharp Kabushiki Kaisha マトリクス型表示装置のための信号形式変換器および信号形式変換方法
US8095394B2 (en) * 2006-05-18 2012-01-10 Progressive Casualty Insurance Company Rich claim reporting system
JP2008009140A (ja) * 2006-06-29 2008-01-17 Fujitsu Ltd 画像処理装置および画像処理方法
KR100905723B1 (ko) * 2006-12-08 2009-07-01 한국전자통신연구원 비실시간 기반의 디지털 실감방송 송수신 시스템 및 그방법
KR20080066408A (ko) * 2007-01-12 2008-07-16 삼성전자주식회사 3차원 영상 처리 장치 및 방법
US8655052B2 (en) * 2007-01-26 2014-02-18 Intellectual Discovery Co., Ltd. Methodology for 3D scene reconstruction from 2D image sequences
US8274530B2 (en) 2007-03-12 2012-09-25 Conversion Works, Inc. Systems and methods for filling occluded information for 2-D to 3-D conversion
JP2008292666A (ja) 2007-05-23 2008-12-04 Seiko Epson Corp 視方向画像データ生成装置、指向性表示用画像データ生成装置、指向性表示ディスプレイ、および、指向性表示システム、並びに、視方向画像データ生成方法、指向性表示用画像データ生成方法
JP5304172B2 (ja) * 2007-12-04 2013-10-02 株式会社リコー ファイル管理装置、ファイル管理方法及びファイル管理プログラム
KR20100002032A (ko) * 2008-06-24 2010-01-06 삼성전자주식회사 영상 생성 방법, 영상 처리 방법, 및 그 장치
CN101729916A (zh) * 2008-10-10 2010-06-09 富士胶片株式会社 图像处理装置、图像记录装置、方法及程序
JP5348687B2 (ja) * 2009-04-17 2013-11-20 Necカシオモバイルコミュニケーションズ株式会社 端末装置及びプログラム
JP2011101229A (ja) * 2009-11-06 2011-05-19 Sony Corp 表示制御装置、表示制御方法、プログラム、出力装置、および送信装置
JP5604827B2 (ja) * 2009-08-21 2014-10-15 ソニー株式会社 送信装置、受信装置、プログラム、及び通信システム
JP2011109398A (ja) * 2009-11-17 2011-06-02 Sony Corp 画像送信方法、画像受信方法、画像送信装置、画像受信装置及び画像伝送システム
EP2375763A2 (en) * 2010-04-07 2011-10-12 Sony Corporation Image processing apparatus and image processing method
JP5614268B2 (ja) * 2010-12-09 2014-10-29 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
JP5642561B2 (ja) * 2011-01-11 2014-12-17 株式会社パスコ 家屋異動判読支援装置、家屋異動判読支援方法及び家屋異動判読支援プログラム
CN102170579B (zh) * 2011-03-23 2013-10-09 深圳超多维光电子有限公司 一种图形图像处理系统、方法和芯片
JP5784379B2 (ja) * 2011-06-15 2015-09-24 株式会社東芝 画像処理システム、装置及び方法
US20130038685A1 (en) * 2011-08-12 2013-02-14 Alcatel-Lucent Usa Inc. 3d display apparatus, method and structures
CN103345754B (zh) * 2013-07-10 2016-12-28 杭州电子科技大学 基于皮层神经元视觉方向响应的图像边缘检测方法
JP5851656B2 (ja) * 2013-10-18 2016-02-03 オリンパス株式会社 画像信号出力装置及び画像信号送受信システム
CN103714322A (zh) * 2013-12-26 2014-04-09 四川虹欧显示器件有限公司 一种实时手势识别方法及装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01317091A (ja) * 1988-06-17 1989-12-21 Nippon Hoso Kyokai <Nhk> 多方向立体映像装置
JP3321904B2 (ja) * 1993-06-16 2002-09-09 株式会社日立製作所 撮像装置
JPH0973049A (ja) * 1995-06-29 1997-03-18 Canon Inc 画像表示方法及びそれを用いた画像表示装置
JPH09271042A (ja) * 1996-03-31 1997-10-14 Sony Corp 立体視化方法及び装置
DE69733233T2 (de) * 1996-09-11 2006-01-19 Canon K.K. Bildverarbeitung zur dreidimensionalen Wiedergabe von Bilddaten auf der Anzeige eines Bildaufnahmegeräts
US5937212A (en) * 1996-11-15 1999-08-10 Canon Kabushiki Kaisha Image pickup apparatus
JP3388150B2 (ja) * 1997-08-29 2003-03-17 シャープ株式会社 立体画像表示装置
GB2336963A (en) * 1998-05-02 1999-11-03 Sharp Kk Controller for three dimensional display and method of reducing crosstalk
JPH11328413A (ja) * 1998-05-14 1999-11-30 Fuji Heavy Ind Ltd ステレオ画像処理システム
JP2001290820A (ja) * 2000-01-31 2001-10-19 Mitsubishi Electric Corp 映像収集装置、映像検索装置および映像収集検索システム
JP4861574B2 (ja) * 2001-03-28 2012-01-25 パナソニック株式会社 運転支援装置
EP1413149A1 (en) * 2001-07-11 2004-04-28 Koninklijke Philips Electronics N.V. Colour autostereoscopic display apparatus
GB0119176D0 (en) * 2001-08-06 2001-09-26 Ocuity Ltd Optical switching apparatus

Also Published As

Publication number Publication date
DE602004006657T2 (de) 2008-01-31
EP1462996A1 (en) 2004-09-29
DE602004006657D1 (de) 2007-07-12
KR20040086528A (ko) 2004-10-11
CN1264048C (zh) 2006-07-12
JP2004289681A (ja) 2004-10-14
US20040189795A1 (en) 2004-09-30
KR100584067B1 (ko) 2006-05-29
CN1532588A (zh) 2004-09-29
US7453489B2 (en) 2008-11-18
EP1462996B1 (en) 2007-05-30

Similar Documents

Publication Publication Date Title
JP4677175B2 (ja) 画像処理装置、画像撮像システム、画像表示システム、画像撮像表示システム、画像処理プログラム、及び画像処理プログラムを記録したコンピュータ読み取り可能な記録媒体
US6507358B1 (en) Multi-lens image pickup apparatus
JP4476905B2 (ja) 立体表示画像データの構造、立体表示画像データの記録方法、表示再生方法、記録プログラム、および表示再生プログラム
JP5499778B2 (ja) 撮像装置
US6750904B1 (en) Camera system for three dimensional images and video
JP5421365B2 (ja) 3次元撮像装置
US7274816B2 (en) Method and apparatus of generating three dimensional image data having one file structure and recording the image data on a recording medium, and recording medium for storing the three dimensional image data having one file structure
CN102917235B (zh) 图像处理装置和图像处理方法
CN101995758B (zh) 成像装置和视频记录/播放系统
CN102860015B (zh) 立体成像装置、图像再现装置
CN102812712A (zh) 图像处理设备和图像处理方法
JP2008228199A (ja) 立体画像表示装置及び立体画像表示方法並びに立体画像用データの構造
JP2012186789A (ja) 撮像装置
JP2012023557A (ja) 画像撮像装置
JPWO2013021542A1 (ja) 3次元撮像装置
US9154771B2 (en) Apparatus for capturing stereoscopic image
JP5747679B2 (ja) 3次元画像の提示方法
CN103155576A (zh) 立体图像显示装置和立体图像显示方法
JP4536231B2 (ja) 撮像装置
JP2007129436A (ja) 画像処理方法、画像処理装置およびこれを用いた画像表示装置
JP2004144873A (ja) 画像表示装置及び画像表示方法
EP2802927A1 (en) Single optical path anamorphic stereoscopic imager
KR100730404B1 (ko) 입체 영상 표시 장치
JP2015207815A (ja) 撮像素子および撮像素子を備えた撮像装置
JP5452800B2 (ja) 立体像撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050810

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080425

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20080425

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080610

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080728

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080825

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20081031

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110131

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140204

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4677175

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees