JP2015046695A - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP2015046695A JP2015046695A JP2013175741A JP2013175741A JP2015046695A JP 2015046695 A JP2015046695 A JP 2015046695A JP 2013175741 A JP2013175741 A JP 2013175741A JP 2013175741 A JP2013175741 A JP 2013175741A JP 2015046695 A JP2015046695 A JP 2015046695A
- Authority
- JP
- Japan
- Prior art keywords
- image
- viewpoint
- pixel
- display
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【課題】複数のユーザーが、表示器から距離と角度が異なる複数の視点で、同じ3次元画像を立体視することが出来る画像処理装置、画像処理方法及びプログラムを提供する。【解決手段】画像処理装置を、複数の視点方向に対応する複数の視点画像を表示することが可能な3次元表示手段と、視差画像を、該視差画像の画素位置に応じて複数の視点画像として表示させる制御手段とを有する画像処理装置とすることにより、複数のユーザーが、表示器から距離と角度が異なる複数の視点で、同じ3次元画像を立体視することが出来る。【選択図】図10
Description
本発明は、3次元画像を表示する為の画像処理装置、画像処理方法及びプログラムに関する。
3次元表示器を用いて3次元画像を表示する手法が提案されている。この手法は、3次元表示器を用いて両眼の視差分だけ異なる2次元画像(視差画像)を表示する。この視差画像を3次元表示器から所定の距離だけ離れた視点位置で見る場合にユーザーは視差画像を立体的な3次元画像として知覚することになる。以下では、視差画像を表示することを3次元画像を表示するとも称する。
特許文献1にはレンチキュラーレンズに対する表示画素情報全体をずらすか、或いは中央を除く端部表示情報を任意の方向にずらしことで、多視点3次元表示器で表示する視野を全体的に移動する技術が開示されている。
特許文献1で開示される技術では複数の視点を独立に異なる方向に移動する事は出来ない。このため、複数のユーザーが異なる視点位置で同じ3次元画像を立体視することができない。
本発明に係る画像処理装置は、複数の視点方向に対応する複数の視点画像を表示することが可能な3次元表示手段を有する画像処理装置であって、視差画像を、該視差画像の画素位置に応じて複数の視点画像として表示させる制御手段を有することを特徴とする。
本発明によれば、複数のユーザーが、表示器から距離と角度が異なる複数の視点で、同じ3次元画像を立体視することが出来る。
実施例の説明に先立って、本明細書で用いる用語について簡単に説明する。2次元画像とは、表示器で表示したりプリンターで記録したりする、例えば人や図形などを表す1画面の2次元の画像そのものを示している。
3次元画像とは、3次元表示器で立体的に表示される、例えば人や図形など被写体を表す1画面の3次元の画像そのものを示している。例えば、3次元画像は、異なる位置から撮影した複数の2次元画像で構成される。例えば左目用と右目用の1組の2次元画像を既定の表示素子で表示し、その画像をユーザーが其々の目で独立に同時に見る事で3次元画像として知覚される。このように左目用画像及び右目用画像で構成される画像を総称して視差画像と称する。また、左目用画像のことを左目用の視差画像、右目用画像のことを右目用の視差画像とも称する。
ユーザー視点とは3次元表示器や被写体をユーザーが見る際の位置である。3次元表示器に対するユーザー視点は、左目用と右目用の左右一対の2次元画像がユーザーの両目に投影される位置である。左目用と右目用の左右一対の2次元画像がユーザーの両目に丁度投影される位置にユーザーがいる場合、ユーザーは表示されている画像を立体的な3次元画像として知覚することができる。なお、このように左右一対の2次元画像をユーザーが立体的な3次元画像として知覚できる視点を正視視点と呼ぶ。この正視視点では、一般的に人の目の間隔は約65mmの為、3次元表示器から投影される左目用と右目用の左右一対の2次元画像は互いに約65mm離れて集光されている。
2次元画像情報または3次元画像情報は、上記の2次元画像または3次元画像を表示するための輝度信号や濃度信号等の信号源を示している。3次元画像情報は、少なくとも左目用および右目用の一対の2次元画像情報から成る。この一対の2次元画像情報で示される画像を単視点画像対とも呼ぶ。なお、多視点画像情報は複数の視点におけるこれらの2次元画像情報または3次元画像情報の総称である。多視点画像情報は、カメラで撮影することで得られたり、或いは、コンピュータグラフィックス等で人工的に制作されることで得られる。
次に、多視点3次元画像を表示することが可能な3次元表示器について簡単に説明する。一般に、3次元表示器は、3次元画像情報に基づいて、その表示器の画面中に複数の2次元画像情報を同時に表示する。より具体的には、3次元表示器に表示される複数の2次元画像は、左目用の視差画像および右目用の視差画像の2枚の2次元画像を示す2次元画像情報に基づいている。そして3次元表示器においては、ユーザーの左右のそれぞれの目に独立して画像が投影されるように、対応する表示素子及びその周辺の光学部材に光学的な工夫が施されている。
以下、本発明を実施するための形態について図面を用いて説明する。本実施形態では、表示器の正面を中心に7つの視点から被写体を略連続的にかつ立体的にユーザーが見る事の出来る、8方向に独立に視差画像を表示可能な7視点3次元表示器を用いる画像処理装置を例に説明するが、これに限定されるものではない。なお、上記8方向に表示する各画像を視点画像と称し、其々の方向に向けて表示する画像として、画像1、画像2、画像3、画像4、画像5、画像6、画像7及び画像8と記述する。また、表示する1画面の画像を同じ視点方向に表示した場合、画像全体は表示器から所定の距離Lだけ離れた視点に集光する。なお、各視点において左(または右)目にその一部が投影される右(または左)目用画像を逆視画像と呼び、両方の目に逆視画像が投影される視点を逆視視点と呼ぶ。逆視視点では、奥行きが逆となる不自然な立体視がされることになる。
<実施例1>
図1は、本実施例に係る画像処理装置の一例を示すブロック図である。画像処理装置は一般的なパーソナルコンピュータ(以後PCと称する)1を有し、ネットワーク回線110等から画像情報等をネットワーク制御部90を介して入力する。また画像処理装置は、少なくとも、3次元画像情報に基づいた3次元画像を立体表示することが可能な多視点3次元表示器30を有する。
図1は、本実施例に係る画像処理装置の一例を示すブロック図である。画像処理装置は一般的なパーソナルコンピュータ(以後PCと称する)1を有し、ネットワーク回線110等から画像情報等をネットワーク制御部90を介して入力する。また画像処理装置は、少なくとも、3次元画像情報に基づいた3次元画像を立体表示することが可能な多視点3次元表示器30を有する。
PC1はCPU(Central Processing Unit)10と、ROM(Read Only Memory)60と、RAM(Random Access Memory)70と、記憶部80と、操作入力部50とを有する。PC1は、CPU10で制御される。記憶部80は、3次元画像情報や本実施例に用いられるプログラム等を保持する。ROM60は、各種設定やプログラムを格納する。RAM70は、一時的な記憶部として機能する。3次元表示装置2は、撮像部20と多視点3次元表示器30とタッチパネル40とを有する。3次元表示装置2は、3次元画像を表示する。タッチパネル40は、多視点3次元表示器30の表示面に配置され、表示した3次元画像を直接タッチして画像や表示された入力キーを選択すると共に、キーやマウスで構成する操作入力部50と同様にユーザーからのPCへの各種の入力操作を可能にする。撮像部20は一般的な表示器に装備された物で、ユーザーの位置やユーザーの動作を認識する為に多視点3次元表示器30の正面に設けられている。
なお、上記の例では、画像処理装置が3次元表示装置2を含むものであるとして説明をしたが、画像処理装置はPC1にのみ対応するものであってもよい。すなわち、画像処理装置は3次元表示装置2と接続される構成であってもよい。
図2は、図1で示した多視点3次元表示器30をより詳細に説明する図である。図2(a)は、多視点3次元表示器30の一例を示す図である。図2(a)で示す多視点3次元表示器に於いて多視点3次元表示器30は、液晶表示器200とその全面にレンチキュラーレンズ201とを有する。
図2(b)は、図2(a)で示す多視点3次元表示器の一部を拡大した模式図である。図2(b)は、レンチキュラーレンズ201と相対位置が保証された液晶表示素子200とを示す。図2(b)の多視点3次元表示器30は、ユーザーが7方向からこの多視点3次元表示器30を見た場合、7視点から見た被写体を立体表示可能にする工夫がなされている。すなわち、液晶表示器200は、各1つのレンチキュラーレンズ201内に素子202から素子203までの一続きの8つの表示素子を持つ構成とする。レンチキュラーレンズ201による光学特性と表示素子の配置によって特定の視点位置から多視点3次元表示器30を見たユーザーは、特定の表示素子の表示のみが見えることになる。尚、多視点3次元表示器30は公知の技術で一般に実用化されている物を用いることができる。一般に多視点3次元表示器30は、カラー表示可能であるが、説明を簡略化する為、本実施例での多視点3次元表示器30は単色表示可能であるものとする。また、説明を簡便にする趣旨で、以後の図において表示素子や画素の並びを1次元的に表現するものとする。なお、1つの視点から見ているユーザーの目には8つの表示素子が表示する画像の内、其々左目用の画像と右目用の2つの画像が届けられることでユーザーは3次元画像を知覚することになる。
図2(c)と図2(d)は、其々異なる視点である視点12と視点45とからユーザーが見た場合に見える表示画素を示す。ここで視点12とは、片方の目が視点1の位置にあり、他方の目が視点2の位置にある視点位置のことを示す。同様に、視点45とは、片方の目が視点4の位置にあり、他方の目が視点5の位置にある視点位置のことを示す。本実施例では、図2(c)に示すように、レンチキュラーレンズ201の光学特性に依って、視点12の位置にいるユーザーの右目では画素2のみが、視点12の位置にいるユーザーの左目では画素1のみが見える。従って、画素2と画素1とで一対の視差画像を表示すれば、視点12の位置にいるユーザーは、視差画像を3次元画像として知覚することができる。また、図2(d)に示すように視点45の位置にいるユーザーの右目では画素5のみが、視点45の位置にいるユーザーの左目では画素4のみが見える。従って、画素4と画素5で1組の視差画像を表示すれば、視点45の位置にいるユーザーは、視差画像を3次元画像として知覚することができる。このようなレンチキュラーレンズによる3次元画像の表示は公知の原理であり、本明細書では更なる説明を省略する。以下、ユーザーの左目が表示素子Mで表示する画像を見ることができ、かつ、右目が表示素子Nで表示する画像を見ることができる視点位置のこと“視点MN”と称する。
図3は、各視点と多視点画像または単視点画像対との関係を示す図である。図3(a)は、視点12から視点78までの7つの視点と、その視点に対応する多視点3次元画像として被写体300を撮影した画像1から画像8の8種類の撮影画像との関係を示す図である。其々の視点ではユーザーの左右のそれぞれの眼で見た画像に相当する2つの2次元画像が撮影される。
なお、同一被写体300を視点12から視点78で連続的に3次元表示する場合には、各視点MNにおいてユーザーの左目に届けられる画像Mは、隣接する視点におけるユーザーの右目に届けられる画像と同じである。これらの各2次元画像情報を横方向に分割して先のレンチキュラーレンズ201と相対位置を保った液晶表示素子(画素)で表示すれば、図3(a)で示す各視点から被写体を見た際と同じ3次元画像を各視点において見る事が出来る。即ち図2(c)及び図2(d)で示す画素1は視点12の左側で撮影した2次元画像(画像1)の1部を表示し、画素2は視点12の右側で撮影した2次元画像(画像2)の1部を表示している。また、画素4は視点45の左側で撮影した2次元画像(画像4)の1部を表示し、画素5は視点45の右側で撮影した2次元画像(画像5)の1部を表示している。
図3(b)は単視点3次元画像を表示する為の左目用画像と右目用画像と視点との関係を示す。図3(a)では7つの視点で見た画像を撮影することで得られる7視点の多視点3次元画像を示す3次元画像情報を生成する場合の例を説明した。図3(b)では、1つの視点で見た画像を撮影することで得られる1視点の単視点3次元画像を示す3次元画像情報を生成する場合の例を示している。本実施例では、図3(b)に示す単視点3次元画像を多視点3次元表示器30を用いて重複して表示する例を説明する。これにより、多視点3次元表示器30から角度と距離が異なる複数の視点において複数のユーザーが同じ被写体300を同じ3次元画像として知覚することができる。なお、図3(b)のような単視点の3次元画像、すなわち単視点の視差画像対のことを単視点視差画像とも称する。
<画像処理装置の機能ブロック>
図4は、本実施例の画像処理装置の画像処理機能の一例を示すブロック図である。画像処理装置は、3次元画像情報入力部400と、表示画像生成部401と、3次元画像表示部402とを有する。
図4は、本実施例の画像処理装置の画像処理機能の一例を示すブロック図である。画像処理装置は、3次元画像情報入力部400と、表示画像生成部401と、3次元画像表示部402とを有する。
3次元画像情報入力部400は、ネットワーク制御部90やUSBインターフェース等から3次元画像情報を入力する。3次元画像情報は、例えば図3に示すように、複数の撮影装置によって各視点の画像を撮影することによって得られるものである。あるいは、コンピュータによって各視点の画像が生成されることで得られるものであってもよい。3次元画像情報には、1つの視点から見える3次元画像である単視点3次元画像を表示するための視差の異なる左右の目用の視差画像の画像情報が含まれる。また、3次元画像情報には、7つの視点に対応する8種の2次元画像からなる多視点画像情報が含まれる。3次元画像情報入力部で入力された3次元画像情報は、必要に応じて記憶部80で保持される。
表示画像生成部401は、操作入力部50や3次元表示装置2のタッチパネル40によって入力されたユーザーの指示に応じて、3次元画像情報入力部400で入力された3次元画像情報から3次元表示器30の各視点画像として表示する表示画像を生成する。本実施例の多視点3次元表示器30は図2で説明したように、レンチキュラーレンズに対応して7つの視点の計8種類の画像を表示可能となっている。従って、表示画像生成部401は、3次元画像情報から8つの表示画像を生成することが可能である。表示画像は、多視点3次元表示器の各視点方向に対応する方向で表示される。
本実施例では、単視点3次元画像を示す3次元画像情報が3次元画像情報入力部400で入力されるものとして説明する。すなわち、本実施例では図3(b)で示す形態で撮影された画像を用いる例を説明する。しかしながら、例えば3次元画像情報入力部400で多視点3次元画像情報が入力された場合、表示画像生成部401は、多視点3次元画像情報のうち、任意の視点の画像対(視差画像)を単視点画像情報として取得してもよい。例えば、予め設定されている視点(例えば中央の視点)を任意の視点の画像対として決定してもよい。そして、取得した単視点画像情報を用いて表示画像を生成してもよい。
本実施例においては、3次元表示装置2から距離と角度の異なる複数の視点位置でユーザーが同じ画像を立体視することが出来る様に、単視点画像情報から各視点方向に表示する表示画像を生成する。詳細については後述する。
3次元画像表示部402は多視点3次元表示器30を含み、表示画像生成部401で生成された各視点画像を表示する。
図5は単視点画像情報を用いて単視点視差画像を構成する左目用画像及び右目用画像を視点画像として投影する例を示す図である。具体的には、同じ左目用画像を画像2と画像5の視点画像として表示し、同じ右目用画像を画像3と画像6の視点画像として表示する例を示している。すなわち、同一の視差画像を複数組、異なる視点画像として表示する例を示している。なお、図5の例では、後述するように多視点3次元表示器30は視差画像の画素位置を考慮することなく、左目用画像を全て画像2及び画像5として表示し、同様に各画素位置を考慮することなく、右目用画像を全て画像3及び画像6として表示している。図5において楕円501と楕円502とは、左目用画像が集光される位置を示し、楕円503と楕円504とは、右目用画像が集光される位置を示している。従って多視点3次元表示器30から既定の距離L離れた視点23の左目は左目用画像の全体像が集光され、視点23の右目には右目用画像の全体像が集光される。同様に多視点3次元表示器30から既定の距離L離れた視点56の左目には左目用画像の全体像が集光され、視点56の右目には右目用画像の全体像が集光される。なお、距離Lは多視点3次元表示器30の表示サイズや視角などによって決まり、一般的には多視点3次元表示器30の表示サイズの3倍程度に設計される。
図6は、本実施例における、距離L以下に複数の正視視点を得る原理を詳説するための図である。本実施例では、単視点視差画像の画素位置を考慮して視点画像として表示する視差画像を決定する。なお、ある画素位置で表示される2次元画像情報のことを単に画素情報と称する。
本実施例では、単視点視差画像の内、左目用画像を表示する視点画像を、視差画像の画素位置に応じて変更する。例えば、多視点3次元表示器30の左端部Aに位置する、左目用画像の画素を示す画素情報を画像3の視点画像として投影する。また、左目用画像のうち、画素位置が右端部Cに位置する画素を示す画素情報を画像2の視点画像として投影する。なお、画素位置が左端部Aから右端部Cの間の画素位置の画素情報は其々画素位置に応じて表示される。例えば、視点方向がより左方向の画素位置の画素情報はより右方向の画素位置の画素情報より右方向の視点方向に相対的に表示するように制御する。即ち、画素位置Aから画素位置Bを経て画素位置Cに向けて、徐々に左目用画像を画像3から画像2に投影する。
同様に単視点視差画像の内、右目用画像を表示する視点画像も、その右目用画像の画素位置に応じて変更する。例えば、多視点3次元表示器30の左端部Aに位置する、右目用画像の画素を示す画素情報を画像4の視点画像として投影する。また、右目用画像のうち、画素位置が右端部Cに位置する画素を示す画素情報を画像3の視点画像として投影する。なお、画素位置が左端部Aから右端部Cの間の画素位置の画素情報は其々画素位置に応じて表示される。例えば、視点方向がより左方向の画素位置の画素情報はより右方向の画素位置の画素情報より右方向の視点方向に相対的に表示するように制御する。即ち、画素位置Aから画素位置Bを経て画素位置Cに向けて、徐々に右目用画像を画像4から画像3に投影する。
その結果、右目用と左目用の視差画像は共に既定距離Lより多視点3次元表示器30に近い位置で画像全体がそれぞれ1点に集光する。従って、距離L以下に視点601が得られる事になる。
同様に、同じ単視点視差画像の内、左目用画像を画像6から画像5に向けて徐々に表示し、右目用画像を画像7から画像6に向けて徐々に表示すれば、視点601と略同じ距離に視点602が得られる。視点601と視点602においては、両目に其々同じ単視点視差画像が投影される。従って、多視点3次元表示器30から異なる角度の複数の視点でユーザーが同時に同じ画像を立体視することが出来る。
図7は、本実施例における、距離Lより遠くに複数の正視視点を得る原理を詳説するための図である。
図7の例においても、単視点視差画像の内、左目用画像をその画素位置に応じて変更する。例えば、多視点3次元表示器30の左端部Aに位置する、左目用画像の画素を示す画素情報を画像2の視点画像として投影する。また、左目用画像のうち、画素位置が右端部Cに位置する画素を示す画素情報を画像3の視点画像として投影する。なお、画素位置が左端部Aから右端部Cの間の画素位置の画素情報は其々画素位置に応じて表示される。例えば、視点方向がより左方向の画素位置の画素情報はより右方向の画素位置の画素情報より左方向の視点方向に相対的に表示するように制御する。即ち、画素位置Aから画素位置Bを経て画素位置Cに向けて、徐々に画像2から画像3に投影する。
同様に単視点視差画像の内、右目用画像を表示する視点画像も、その右目用画像の画素位置に応じて変更する。例えば、多視点3次元表示器30の左端部Aに位置する、右目用画像の画素を示す画素情報を画像3の視点画像として投影する。また、右目用画像のうち、画素位置が右端部Cに位置する画素を示す画素情報を画像4の視点画像として投影する。なお、画素位置が左端部Aから右端部Cの間の画素位置の画素情報は其々画素位置に応じて表示される。例えば、視点方向がより左方向の画素位置の画素情報はより右方向の画素位置の画素情報より左方向の視点方向に相対的に表示するように制御する。即ち、画素位置Aから画素位置Bを経て画素位置Cに向けて、徐々に右目用画像を画像3から画像4に投影する。
その結果、右目用と左目用の視差画像は共に既定距離Lより多視点3次元表示器30から遠い位置で画像全体がそれぞれ1点に集光する。従って、距離L以上の位置に視点701が得られる事になる。
同様に、同じ単視点視差画像の内、左目用画像を画像5から画像6に向けて徐々に表示し、右目用画像を画像6から画像7に向けて徐々に表示すれば、先の視点701と略同じ距離に視点702が得られる。視点701と視点702においては両目に其々同じ単視点視差画像が投影される。従って、多視点3次元表示器30から異なる角度の複数の視点でユーザーが同時に同じ画像を立体視することが出来る。
図8は、本実施例における、異なる距離に複数の正視視点を得る原理を詳説するための図である。
図8の例においても、単視点視差画像の内、左目用画像をその画素位置に応じて変更する。例えば、多視点3次元表示器30の左端部Aに位置する、左目用画像の画素を示す画素情報を画像2の視点画像として投影する。また、左目用画像のうち、画素位置が右端部Cに位置する画素を示す画素情報を画像1の視点画像として投影する。なお、画素位置が左端部Aから右端部Cの間の画素位置の画素情報は其々画素位置に応じて表示される。例えば、視点方向がより左方向の画素位置の画素情報はより右方向の画素位置の画素情報より右方向の視点方向に相対的に表示するように制御する。即ち、画素位置Aから画素位置Bを経て画素位置Cに向けて、徐々に左目用画像を画像2から画像1に投影する。
同様に単視点視差画像の内、右目用画像を表示する視点画像も、その右目用画像の画素位置に応じて変更する。例えば、多視点3次元表示器30の左端部Aに位置する、右目用画像の画素を示す画素情報を画像3の視点画像として投影する。また、右目用画像のうち、画素位置が右端部Cに位置する画素を示す画素情報を画像2の視点画像として投影する。なお、画素位置が左端部Aから右端部Cの間の画素位置の画素情報は其々画素位置に応じて表示される。例えば、視点方向がより左方向の画素位置の画素情報はより右方向の画素位置の画素情報より右方向の視点方向に相対的に表示するように制御する。即ち、画素位置Aから画素位置Bを経て画素位置Cに向けて、徐々に画像3から画像2に投影する。
その結果、左目用と右目用の視差画像は共に既定距離Lより多視点3次元表示器30に近い位置で画像全体がそれぞれ1点に集光する。従って、距離L以下の位置に視点801が得られる事になる。
同様に、同じ単視点視差画像の左目用画像の画素位置Aから画素位置Cの間の画素情報を画像7から徐々に画像6、画像5、画像4及び画像3にずらして表示する。また、右目用画像の画素位置Aから画素位置Cの間の画素情報を画像8から徐々に画像7、画像6、画像5及び画像4にずらして表示する。このように制御すると、先の視点801より多視点3次元表示器30に近い位置に視点802が得られる。視点801と視点802の両目には其々同じ単視点視差画像が投影される。従って、多視点3次元表示器30から異なる距離と角度の異なる複数の視点でユーザーが同時に同じ画像を立体視することが出来る。
図8に示すように、同一の視差画像を複数組表示する際に、視差画像の組毎に、視差画像の両端部の画素の表示方向の角度差が異なるように視点画像を表示させることで異なる距離の視点が得られる。
図8から明らかなように、視差画像の左端部Aの画素情報を表示する方向と右端部Cの画素情報を表示する方向との角度差が大きいほど多視点3次元表示器30に近い位置に視点が得られる。
上記の図6から図8を用いて説明した原理に従えば、多視点3次元表示器30で既定される距離Lより近い視点や距離Lより遠い視点でユーザーが画像を立体視することができる複数の視点が得られる。また、視点12に近い角度から視点78に近い角度の範囲において任意にユーザーが画像を立体視出来る複数の視点が得られる。なお、後述するが、視点数が7以上で、正規の距離Lでの視点MNで両目の間に他の視点画像の投影を挟むような3次元表示器を用いるとより多くの視点が同時に得られる。即ち正規の距離Lにおいて、N−M>1となる正視視点MNが得られる多視点3次元表示器で本実施例を適用すれば、より多くの視点が同時に得られる。すなわち、本実施例で説明する7視点3次元表示器は単なる例示に過ぎず、これに限られるものではない。
先の図8で視点801及び視点802が得られる原理を説明した。次に、本実施例の表示画像生成部401が視点801や視点802で得られるように各視点画像を生成する例を図9に示す。図9は、図8で説明した視点801及び視点802が得られる原理を本実施例で実現する場合の投影される視点画像を模式的に示す図である。
まず視点801を得る為の表示画像の生成に関して説明する。図6から図8を用いて異なる視点、異なる角度で複数の視点が得られる原理を詳説したが、実際の多視点3次元表示器30の多視点数は有限である。従って、例えば左目用画像をその画素位置Aから画素位置Cに向けて画素位置に応じて徐々に画像2から画像3に表示する事は難しい。
そこで、本実施例では、左端部の画素位置Aから右端部の画素位置Bに向けて移動させる視点方向の角度(すなわち、必要とされる視点画像数)に応じて左目用画像または右目用画像を分割する。例えば、視点801の左目用画像については、画像2の視点画像から画像1の視点画像に向けて徐々に表示するように制御することが求められている。従って、必要とされる視点画像数は画像2と画像1の2つである。従って、視点801の左目用画像については、その左目用画像を2分割する。一方、視点802の左目用画像については、画像7の視点画像から画像3の視点画像に向けて徐々に表示するように制御することが求められている。従って、必要とされる視点画像数は、画像7、画像6、画像5、画像4、及び画像3の5つである。従って、視点802の左目用画像については、その左目用画像を5分割する。なお、視点801の左目用画像も視点802の左目用画像もいずれも同じ単視点視差画像を用いている場合には同じ画像である。そして、分割した左目用画像をその画素位置に応じて各視点画像として表示する。
例えば、視点801については、左目用画像の内、その画素位置が左端Aから中央位置B迄の左側半分に位置する画素の画素情報を画像2として投影する。また、左目用画像の内、その画素位置が右端Cから中央位置B迄の右側半分に位置する画素の画素情報を画像1として投影する。同様に右目用画像の内、その画素位置が左端Aから中央位置B迄の左側半分に位置する画素の画素情報を画像3として投影、左目用画像の内、その画素位置が右端Cから中央位置B迄の右側半分に位置する画素の画素情報を画像2として投影する。
次に、視点802について説明する。多視点3次元表示器30の多視点数は有限であるので、左目用画像はその画素位置Aから画素位置Cに向けて画素位置に応じて徐々に画像7から画像3に表示する事は出来ない。しかし、本実施例では、視点802を得る場合に左右の目用の視差画像は共に画像7から画像3及び画像8から画像5に向けて其々5視点方向に表示出来る。従って画素位置Aから画素位置C迄の画素をその画素位置に応じて5分割して其々5視点方向に表示する。本実施例では表示する横方向の画素数は1024画素とする。従って、左右の目用の視差画像を其々約205画素に分割する。
図10は本実施例の表示画像生成部401が生成する画像の例を模式的に示す図である。図10は、図8で示すように、異なる距離および異なる角度で視点が得られるように表示画像を生成する例を示している。図10では、左目用画像をその画素位置の中央部で2分割した画像1001と、右目用画像をその画素位置の中央部で2分割した画像1002とを示す。また、左目用画像をその画素位置で5等分割した画像1003と、右目用画像をその画素位置で5等分割した画像1004とを示す。これらの画像1001から画像1004は、いずれもその左端が多視点3次元表示器30の左端Aで表示され、右端が多視点3次元表示器30の右端Cで表示される画像である。
また、図10で示される画像1、画像2、画像3、画像4、画像5、画像6、画像7、画像8は、各視点方向に対応する視点画像である。そして、図10では、其々の視点画像の表示する各画素位置の画素情報を1枚の画像として示している。例えば、図10で示す画像1は、その左端が多視点3次元表示器30の左端Aのうちの視点画像である画像1として表示される画像である。また、画像1の右端は、多視点3次元表示器30の右端Cのうちの視点画像である画像1として表示される。従って、例えば図10の画像1の視点画像については、画素位置が右半分の画像として、左目用画像1001のうちの右半分の画像を表示する。また、画像2の視点画像については、画素位置が左半分の画像として左目用画像1001の左半分の画像を表示し、画素位置が右半分の画像として右目用画像の右半分の画像を表示する。また、画像3の視点画像については、画素位置が左半分の画像として、右目用画像の左半分の画像を表示し、画素位置が右から1/5の位置の画像として、左目用画像1003の右から1/5の位置の画像を表示する。
視点801について着目すると、視点801で立体視するには、このように図10で示すように、左目用画像の左側半分の画像を画像2、右側半分を画像1として投影し、右目用画像の左側半分の画像を画像3、右側半分を画像2として投影すればよい。
これは、各視点画像から見れば、画像1は、右半分に左目用画像を表示し、画像2は左半分に左目用画像の画像を表示し、右半分に右目用画像を表示する。また、画像3は左半分に右目用画像の画像を表示する。この結果、図9に示すような投影線が得られることになる。すなわち、視点801が得られることになる。
次に、視点802について着目する。視点802で立体視可能にする為には、5分割した左目用画像1003の各画素位置の画像を、左端Aから順に、画像7、画像6、画像5、画像4、画像3のそれぞれ対応する画素位置に視点画像として表示する。また、5分割した左目用画像1004の各画素位置の画像を、左端Aから順に、画像8、画像7、画像6、画像5、画像4のそれぞれ対応する画素位置に視点画像として表示する。これは、各視点画像から見れば、画像4、画像5、画像6及び画像7は其々分割された視差画像を対応する画素位置に1組ずつ表示していることを示している。また、左目用画像の右端部側の画素は画像3の対応する画素位置に、右目用画像の左端部側の画素は画像8の対応する画素位置に表示している事を示している。なお、同じ視点画像に左右の目用の視差画像を混在させて表示するが、画素位置が異なっているので、視点802では逆視画像には成らない。
以上説明した様に、本実施例の表示画像生成部401は所望する視点でユーザーに立体視させる為に単視点視差画像を構成する左目用画像と右目用画像とを其々画素位置に応じて分割する。そして分割した画像をそれぞれ対応する画素位置に含む、画像1から画像8の8種類の視点画像としての表示画像を生成する。なお、図10に示す表示画像の生成例は、図8および図9で示す視点801及び視点802を得るための例であり、これに限定されるものではない。従って、所望の視点を得る際に用いられる視点画像の組み合わせに応じて左目用画像及び右目用画像を分割する数を変更してもよい。また、本例では、視点801及び視点802を得るために用いられる視点画像という表現を用いて説明したが、結果としてそれらの視点が得られればよく、必要とされる視点を必ずしも特定しなくてもよい。すなわち、単に左目用画像及び右目用画像を所定の数に分割し、分割した数に応じた視点画像の所定の画素位置に表示することにより、結果として任意の視点が得られる態様であってもよい。
図11は本実施例による3次元表示処理の一例を示すフローチャートである。図11に示す処理は、例えばROM60に格納されたプログラムをCPU10がRAM70に一時的に読み出して実行することによって実現される。本実施例では、多視点3次元表示器30において多視点画像情報に基づいて各視点画像として多視点の画像を表示するか、各視点画像に単視点の右目用画像及び左目用画像を重複して表示するかを切り替える例を説明する。本実施例では、各視点画像に単視点の右目用画像及び左目用画像を重複して表示する設定を第1の表示モードと称する。
ステップS1101において表示画像生成部401は、第1の表示モードか否かを判定する。この表示モードは、例えばユーザー指示によって設定されているものである。あるいは、タッチパネル40や操作入力部50を介してその都度ユーザーにモードを選択させてもよい。ステップS1101において表示画像生成部401は第1の表示モードではないと判定した場合、すなわち、多視点画像情報に基づいて各視点画像として多視点の画像を表示するモードであると判定した場合、ステップS1102に進む。ステップS11102において表示画像生成部401は、3次元画像情報入力部400から図3(a)で示すような、一般的な8種の多視点3次元画像(画像1から画像8)を入力する。この画像は其々隣り合う画像間に一定の視差を有する画像である。ステップS1103において表示画像生成部401は、ステップS1102で入力した各視点に対応する画像情報を、其々の視点画像の表示画像情報を記憶保持するビデオRAM(以降VRAMと記述する)に書き込む。次にステップS1104において表示画像生成部401は画像表示が終了したかを判定し、終了していない場合にはステップS1102からステップS1103の処理を繰り返す。なお、ユーザー指示で表示が終了するまでステップS1102からステップS1103の処理を繰り返せば、動画の表示が可能である。
一方、ステップS1101において表示画像生成部401は第1の表示モードであると判定した場合、すなわち、各視点画像に単視点の右目用画像及び左目用画像を重複して表示するモードであると判定した場合、ステップS1105に進む。ステップS1105において表示画像生成部401は、3次元画像情報入力部400から単視点画像情報を入力する。すなわち、表示画像生成部401は、単視点の左目用画像及び右目用画像を示す画像情報を取得する。ステップS1106において表示画像生成部401は、ステップS1105で入力された左目用画像と右目用画像とから、画像1から画像8の8種の視点画像として表示する表示画像を生成する。ステップS1106の表示画像生成処理については後述する。次に、ステップS1107において表示画像生成部401は、画像表示が終了したかを判定し、終了していない場合にはステップS1105からステップS1106の処理を繰り返す。なお、ユーザー指示で表示が終了するまでステップS1105からステップS1106の処理を繰り返せば、動画の表示が可能である。
なお、図11の例では、第1のモードか否かによって処理を切り替える例を説明したが、これに限定されるものではない。例えば、S1101の判定処理を介することなく、S1105やS1106の処理を行ってもよい。
図12は、図11のステップS1106の表示画像生成処理の具体的な例の1つを示すフローチャートである。図12の処理は、図8及び図9で示す視点801及び視点802を得る処理であり、図10に示す表示画像を生成する処理とも言える。図12においては、右目用画像及び左目用画像の横方向の画素位置をXで示す。なお、先に説明したように、多視点3次元表示器30の左端Aから右端Cまでの画素数は1024であるものとして説明する。また、左目用画像及び右目用画像の解像度が多視点3次元表示器30の表示サイズに対応していない場合には、適宜左目用画像及び右目用画像の解像度を変換するなどして多視点3次元表示器30の画素数に適合させておくものとする。
ステップS1201において表示画像生成部401は、左目用画像及び右目用画像の画素位置を左端のAの画素位置としてX=0に初期設定する。ステップS1202において表示画像生成部401は、左目用画像及び右目用画像の画素位置が画面の左半分の場合、即ちXが0から511であるかを判定する。画素位置が画面の左半分の場合、ステップS1203に進み表示画像生成部401は、左目用画像を画像2用VRAMの対応する画素位置に出力し右目用画像を画像3用VRAMの対応する画素位置に出力する。一方、ステップS1202において表示画像生成部401は、画素位置が画面の右半分の場合、即ちXが512から1023の場合、ステップS1204に進む。ステップS1204において表示画像生成部401は、左目用画像を画像1用VRAMの対応する画素位置に出力し右目用画像を画像2用VRAMの対応する画素位置に出力する。このステップS1202からステップS1204の処理が後述するようにXが1024になるまで、すなわち左目用画像及び右目用画像の左端から右端に処理が終わるまで繰り返すことで、図9で示す視点801で立体視することができる表示画像が生成される。
次のステップS1205からステップS1214は、図9で示す視点802で立体視することができる表示画像を生成する処理である。なお、本実施例では、視点801と視点802で用いられる左目用画像及び右目用画像は同じ画像情報に基づくものであるので、図12のフローチャートも左目用画像及び右目用画像の画素位置に応じた処理になっている。従って、例えば視点801と視点802に異なる視点の単視点画像対の視差画像を表示させたい場合には、ステップS1202からステップS1204と、ステップS1205からステップS1214で用いられる視差画像が異なるものとなる。
フローチャートの説明を続ける。ステップ1205において、表示画像生成部401は、左目用画像及び右目用画像の画素位置Xが0から204であるかを判定する。画素位置Xが0から204である場合、ステップS1206で表示画像生成部401は、左目用画像を画像7用VRAMの対応する画素位置に出力し、右目用画像を画像8用VRAMの対応する画素位置に出力する。
ステップS1207において表示画像生成部401は、左目用画像及び右目用画像の画素位置Xが205から409であるかを判定する。画素位置Xが205から409である場合、ステップS1208で表示画像生成部401は、左目用画像を画像6用VRAMの対応する画素位置に出力し、右目用画像を画像7用VRAMの対応する画素位置に出力する。
ステップS1209において表示画像生成部401は、左目用画像及び右目用画像の画素位置Xが410から614であるかを判定する。画素位置Xが410から614である場合、ステップS1210で表示画像生成部401は、左目用画像を画像5用VRAMの対応する画素位置に出力し、右目用画像を画像6用VRAMの対応する画素位置に出力する。
ステップS1211において表示画像生成部401は、左目用画像及び右目用画像の画素位置Xが615から819であるかを判定する。画素位置Xが615から819である場合、ステップS1212で表示画像生成部401は左目用画像を画像4用VRAMの対応する画素位置に出力し、右目用画像を画像5用VRAMの対応する画素位置に出力する。
ステップS1213において表示画像生成部401は、左目用画像及び右目用画像の画素位置Xが820以上であるかを判定する。画素位置Xが820以上である場合、ステップS1214で表示画像生成部401は、左目用画像を画像3用VRAMの対応する画素位置に出力し、右目用画像を画像4用VRAMの対応する画素位置に出力する。
以上のように、ステップS1205からステップS1214の処理により、図9で示す視点802で立体視することができる表示画像を生成することができる。
ステップS1215において表示画像生成部401は、画素位置を1画素移動させ1024画素全ての画素位置の視差画像に対してステップSS1202からステップS1215の処理を繰り返す。かかる処理により、図10で示すような各視点画像として表示される表示画像が生成される。
なお、本実施例で例示する多視点3次元表示器30は横方向のみに左目用画像及び右目用画像を表示する為、上記処理は同じ横方向の画素位置で縦方向の画素情報もVRAMに出力する。
図13は、本実施例の画像処理装置の機能ブロックの詳細例を示す図である。記憶部80は単視点画像情報1300や多視点画像情報1301を画像情報格納部1208から読み出し、表示画像生成部401に入力する。一方、ユーザーが設定した表示モード1310が表示画像生成部401に入力される。表示画像生成部401は、前述の手順に従って生成した各視点方向への表示画像を其々画像1用VRAM1302から画像8用VRAM1303の8個のVRAMに書き込む。該VRAMに記憶保持した画像情報は其々のVRAMに接続されたドライバー1304からドライバー1305に依って、一定周期で読み出され、画像表示を行う画像1用表示素子1306から画像8用表示素子1307を駆動して多視点3次元表示を行う。本実施例の3次元画像表示部402は各画像表示を担当する上記VRAMと表示素子、及びドライバーから成る。
以上のとおり、本実施例では多視点3次元表示器30に一対の左目用画像と右目用画像を所望する視点の数に等しい組数分、其々の視点と画素位置に応じて異なる視点方向の視点画像として表示させる。これにより、複数のユーザーが、同じ画像を異なる視点で立体視することが出来る。このように、所望する視点の多視点3次元表示器からの距離と多視点3次元表示器に対する角度に依って、左目用画像及び右目用画像の画素位置毎に表示する表示方向が異なる表示画像を生成する事が本実施例の特徴の一つである。
<実施例2>
実施例1では多視点3次元表示器30に7視点3次元表示器を用いて8方向の視点画像を生成する例を説明した。本実施例では、図14に示すように、15視点3次元表示器30を用いた場合の16種の視点画像を生成する例を説明する。
実施例1では多視点3次元表示器30に7視点3次元表示器を用いて8方向の視点画像を生成する例を説明した。本実施例では、図14に示すように、15視点3次元表示器30を用いた場合の16種の視点画像を生成する例を説明する。
この視点表示器は隣り合う視点画像間の視差が先の実施例の略1/2である。このため、実施例1では距離Lでの正視視点MNがN=M+1であるところ、本実施例では、距離Lでの正視視点MNはN=M+2となる。すなわち距離Lでは隣り合う視点画像が両目に集光されるのではなく、1つ間に視点画像を挟んだ2つの視点画像が両目に集光されることになる。このように、本実施例では、両目の間に他の視点画像の投影が可能である。例えば、視点13、視点24などが距離Lにおける正視視点となる。この表示器を用いて距離L以上の視点1401と距離L以下の視点1402及び距離Lの視点1403で立体視することが出来る例を説明する。
視点1401に着目する。この視点1401を得るためには、視点画像が上記の関係になっていることを考慮しつつ、実施例1で説明したように表示画像を生成すればよい。具体的には、左目用画像をその中央画素位置から2分し、左半分の画像を画像2、右半分の画像を画像3の視点画像の対応する画素位置にそれぞれ表示する。また、右目用画像をその中央画素位置から2分し、左半分の画像を画像4、右半分の画像を画像5の視点画像の対応する画素位置にそれぞれ表示する。これにより、視差画像は距離L以上の視点1401で逆視の影響を受ける事無く略画像全体を両目に投影できる。
次に、視点1402に着目する。この視点1402を得るためには、左目用画像をその中心画素位置から2分し、左半分の画像を画像8、右半分の画像を画像7の視点画像の対応する画素位置にそれぞれ表示する。また、右目用画像をその中央画素位置から2分し、左半分の画像を画像10、右半分の画像を画像9との視点画像に対応する画素位置にそれぞれ表示する。これにより、視差画像は距離L以下の視点1402で逆視の影響を受ける事無く略画像全体を両目に投影できる。
次に視点1403に着目する。この視点1403を得るためには、左目用画像を画素位置に関わらず画像13の視点画像として表示し、右目用画像を画素位置に関わらず画像15の視点画像として表示する。これにより、視差画像は距離Lの視点1403で逆視の影響を受ける事無く略画像全体を両目に投影できる。
図15は図14に示す視点が得られるように生成した表示画像の例を示す。本実施例では視差画像を2分割して異なる方向に表示すれば多様な視点で立体視が可能に成る。図15の例では、画像2は左半分に左目用画像の左半分の画像を表示する。画像3は右半分に左目用画像の右半分の画像を表示する。画像4は左半分に右目用画像の左半分の画像を表示する。画像5は右半分に右目用画像の右半分の画像を表示する。これらは図14の視点1401で集光される。同様に画像7は右半分に左目用画像の右半分の画像を表示する。画像8は左半分に左目用画像の左半分の画像を表示する。画像9は右半分に右目用画像の右半分の画像を表示する。画像10は左半分に右目用画像の左半分の画像を表示する。これらは図14の視点1402で集光される。なお、画像13は全面に左目用画像を表示し、画像15は全面に右目用画像を表示する。その他の画像1、画像6、画像11、画像12、画像14、及び画像16の視点画像はダミーデータとして白データを表示する。ダミーデータを表示することにより逆視視点となる視点が生じるのを防止することができる。このように、視点数を増やし、必要に応じてダミーデータを表示することにより、逆視を防止して安定的な立体視をすることが可能となる。
図16は、図14に示す視点が得られるように表示画像を生成する処理を示すフローチャートである。図16に示す処理は、例えばROM60に格納されたプログラムをCPU10がRAM70に一時的に読み出して実行することによって実現される。なお、本実施例においても横方向の多視点3次元表示器30の画素数は1024であるものとする。
ステップS1601において表示画像生成部401は、左目用画像及び右目用画像の画素位置を左端のAの画素位置としてX=0に初期設定する。
ステップS1602において表示画像生成部401は、右目用画像及び左目用画像の画素位置Xが511以下であるかを判定する。画素位置Xが511以下の場合、表示画像生成部401はステップS1603に処理を進める。ステップS1603において表示画像生成部401は、左目用画像を画像2用VRAM及び画像8用VRAMの対応する画素位置に出力する。また、ステップS1603において表示画像生成部401は、右目用画像を画像4用VRAM及び画像10用VRAMの対応する画素位置に出力する。
一方、ステップS1602において画素位置Xが511より大きい場合、表示画像生成部401はステップS1604に処理を進める。ステップS1604において表示画像生成部401は、左目用画像を画像3用VRAM及び画像7用VRAMの対応する画素位置に出力する。また、ステップS1604において表示画像生成部401は、右目用画像を画像5用VRAM及び画像9用VRAMの対応する画素位置に出力する。このステップS1603とステップS1604に依って、図14の視点1401と視点1402で立体視が可能になる。
なお、画素位置Xに拘わらずステップS1605において表示画像生成部401は、左目用画像を画像13用VRAMに出力し、右目用画像を画像15用VRAMに出力する。また、ステップS1605において表示画像生成部401は、他の画像1、画像6、画像11、画像12、画像14、及び画像16用VRAMに白データを出力する。ステップS1604によって図14の視点1403で立体視が可能に成る。
本実施例は図6の視点601及び視点602、図7の視点701及び視点702、及び図8の視点801の様に、視差画像の両端部画素位置の画素情報を表示する両方向の角度差が最も少ない場合に、逆視の影響を受けにくくなる利点がある。つまり隣り合う視点画像、即ち、画像Kと画像K+1の表示画像として生成して得られる視点では、両目に投影される画像として隣り合う視点画像が投影されてしまう場合がある。本実施例では、隣り合う視点画像を用いた視点を用いずに、さらに白データを出力する視点画像が挟まれるので、各視点において集光される際に逆視の影響を受けにくくなる利点を有する。本実施例は15視点3次元表示器を用いる例を説明した。また、レンチキュラーレンズを用いた多視点3次元表示器を用いる場合を例に挙げて説明した。しかしながら、本実施例は、表示器から異なる複数の視点方向に対して異なる2次元画像を表示する表示器で有れば、いずれの表示器においても適用することができる。例えば、57台のプロジェクターから構成され、異なる56個の視点方向に57種の画像を投影する事が出来る画面サイズ200インチの表示器を用いると、より大勢のユーザーが広い空間内で同じ3次元画像を見る事が出来る。このような多視点3次元画像表示器の様に、小さい視差の視差画像を多くの視点画像として表示し、より広い視野で多視点3次元画像を表示することが出来る場合に本実施例を適用すれば、より有効である。また、多数の回折格子を使って2次元的多視点方向に多視点画像を表示出来る3次元表示器にも各実施例を適用することが可能である。
<実施例3>
実施例2は多視点表示器の視点数を多くする例を説明した。実施例3では、実施例1と同様に7視点3次元表示器を用いて隣り合う視点方向、即ち画像Kと画像K+1に画像表示する別の態様について説明する。すなわち、本実施例では、視差画像が画像Kと画像K+1とにおいて表示される例の別の態様について説明する。
実施例2は多視点表示器の視点数を多くする例を説明した。実施例3では、実施例1と同様に7視点3次元表示器を用いて隣り合う視点方向、即ち画像Kと画像K+1に画像表示する別の態様について説明する。すなわち、本実施例では、視差画像が画像Kと画像K+1とにおいて表示される例の別の態様について説明する。
本実施例では、視差画像の画素位置に応じて、隣り合う視点画像である画像Kと画像K+1に一定比率で視差画像を分配して表示画像として生成する例を説明する。
図17は、本実施例で得られる視点の原理を示す図であり、例えば図6で示す例と類似の図である。図17の例では、視点1701が得られることを示している。先の実施例1で説明したように、視差画像の左端AからCに向けて徐々に画像をずらすことで視点1701が得られる。本実施例では、図17に示すような原理により近い表示画像を生成する手法について説明する。
図18は、本実施例で用いる視差画像の画素位置に応じた配分率の一例を示す図である。本実施例でも横方向の画素数は1024であるものとする。図18に示すように、本実施例では視差画像の画素位置を8つの領域に分割する。そして、各画素位置に応じて図18に示す配分率で視差画像を分けて表示画像を生成する。図17に示す例を用いると、図18のKは3である。よって、以下、K=3である場合を例に挙げて説明する。図18を参照すると、左目用画像の画素位置が左端A付近の128画素は、16画素中1画素を画像3に、残る16画素中15画素を画像4に配分する。このように制御することで、図17に示す原理図に近い表示を行うことができる。一方、画素位置が中央部Bに近い画素位置X=348からX=639の256画素は左目用画像及び右目用画像の其々半分を画像3と画像4として表示する。これは7視点表示器を用いて隣接する画像Kと画像K+1方向に表示する場合、約半分に間引かれた画像ではあるが、安定に立体視をすることが出来る。実施例1で説明した図9の視点801では、視点位置が少しでも左右どちらかにずれると安定に視差画像全体を見る事が出来ない場合がある。これに対して、本実施例では安定に立体視することが出来る。このように、本実施例は視差画像全体が集光し難い視点に有効である。
図19は図18で7区分に分割した画素位置X付近の画像3、画像4及び画像5の視点画像として左目用画像および右目用画像を図18に示すテーブルに従って配分し、合成して表示画像を生成する例を示す図である。図19中の1901は画像の左端A点付近の画像3、画像4及び画像5の視点画像を示している。左目用画像の16画素中15画素が画像4の視点画像として生成される。右目用画像の16画素中15画素が画像5の視点画像のとして生成される。また、左目用画像及び右目用画像の互いに16画素中1画素が其々画像3及び画像4の視点画像として生成される。画像3の視点画像は16画素に1画素の割合で右目用画像を表示し、他の画素位置では白データを表示する。なお、16画素中のどの画素を分配するかは適宜設定することができ、図19に示す例に限られるものではない。
同様に画素位置B付近では1904で示す様に左目用画像は1画素置きに画像3と画像4の視点画像として表示される。右目用画像は1画素置きに画像4と画像5に表示される。従って視点1701がその中心から画像5の方向にずれれば約50%に間引かれた視差画像を画像5と画像4とを用いて立体視可能であり、逆に画像3の方向にずれれば約50%に間引かれた視差画像を画像4と画像5とを用いて立体視可能となる。
図20は、図18のKが3の場合の表示画像処理のフローチャートを示す図である。図20に示す処理は、例えばROM60に格納されたプログラムをCPU10がRAM70に一時的に読み出して実行することによって実現される。
ステップS2001において表示画像生成部401は、左目用画像及び右目用画像の画素位置を左端のAの画素位置としてX=0に初期設定する。
ステップS2002において表示画像生成部401は、画素位置Xが127画素以下であるかを判定する。画素位置Xが127画素以下である場合、ステップS2003に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1901に示す様に、左目用画像の16画素中15画素を画像4用VRAMに出力する。また、右目用画像の16画素中15画素を画像5用VRAMに出力する。また、左目用画像の16画素中1画素を画像3用VRAMに出力し、右目用画像の16画素中1画素を画像4用VRAMに出力する。
ステップS2004において表示画像生成部401は、画素位置Xが127<X<256であるかを判定する。画素位置Xが127<X<256である場合、ステップS2005に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1902に示す様に、左目用画像の4画素中3画素を画像4用VRAMに出力し、右目用画像の4画素中3画素を画像5用VRAMに出力する。また、表示画像生成部401は、左目用画像の4画素中1画素を画像3用VRAMに出力し、右目用画像の4画素中1画素を画像4用VRAMに出力する。
ステップS2006において表示画像生成部401は、画素位置Xが255<X<384であるかを判定する。画素位置Xが255<X<384である場合、ステップS2007に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1903に示す様に、左目用画像の3画素中2画素を画像4用VRAMに出力し、右目用画像の3画素中2画素を画像5用VRAMに出力する。また、表示画像生成部401は、左目用画像の3画素中1画素を画像3用VRAMに出力し、右目用画像の3画素中1画素を画像4用VRAMに出力する。
ステップS2008において表示画像生成部401は、画素位置Xが383<X<640であるかを判定する。画素位置Xが383<X<640である場合、ステップS2009に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1904に示す様に、左目用画像の2画素中1画素を画像4用VRAMに出力し、右目用画像の2画素中1画素を画像5用VRAMに出力する。また、表示画像生成部401は、左目用画像の2画素中の他の1画素を画像3用VRAMに出力し、右目用画像の2画素中の他の1画素を画像4用VRAMに出力する。
ステップS2010において表示画像生成部401は、画素位置Xが639<X<768であるかを判定する。画素位置Xが639<X<768である場合、ステップS2011に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1905に示す様に、左目用画像の3画素中1画素を画像4用VRAMに出力し、右目用画像の3画素中1画素を画像5用VRAMに出力する。また、表示画像生成部401は、左目用画像の3画素中2画素を画像3用VRAMに出力し、右目用画像の3画素中2画素を画像4用VRAMに出力する。
ステップS2012において表示画像生成部401は、画素位置Xが767<X<896であるかを判定する。画素位置Xが767<X<896である場合、ステップS2013に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1906に示す様に、左目用画像の4画素中1画素を画像4用VRAMに出力し、右目用画像の4画素中1画素を画像5用VRAMに出力する。また、表示画像生成部401は、左目用画像の4画素中3画素を画像3用VRAMに出力し、右目用画像の4画素中3画素を画像4用VRAMに出力する。
ステップ2014において表示画像生成部401は、画素位置Xが895<Xであるかを判定する。画素位置Xが895<Xである場合、ステップS2015に進み表示画像生成部401は、図18のテーブルに従って視差画像をVRAMに出力する。すなわち、表示画像生成部401は、図19の1907に示す様に、左目用画像の16画素中1画素を画像4用VRAMに出力し、右目用画像の16画素中1画素を画像5用VRAMに出力する。また、表示画像生成部401は、左目用画像の16画素中15画素を画像3用VRAMとして出力し、右目用画像の16画素中15画素を画像4用VRAMに出力する。
ステップS2016では表示画像生成部401は、画素位置を1画素移動させ1024画素全ての画素位置の視差画像に対してステップS2002からステップS2015の処理を繰り返す。以上の処理を全画素位置に渉って繰り返すことによって画像3、画像4及び画像5を表示画像として生成する。尚、各画像用のVRAMは初期値を白データで初期化している。従って、上記処理で画像データが出力されないVRAMは全て白データが表示される。
以上詳細に本実施例について説明したが、各画素位置やその合成比率は図示する例に限定されない。また、本実施例では視差画像を隣り合う視点画像、即ち画像Kと画像K+1として表示する場合の例を示した。しかしながら、実施例1の図8の視点802のように、視差画像を3以上の視点画像に徐々に表示する形態に本実施例を適用してもよい。例えば実施例1では、画素位置に応じて画像K,画像K+1及び画像K+2に表示する場合、画素位置を3等分し、その画素位置に応じて其々画像K,画像K+1及び画像K+2に表示する例を説明した。しかしながら、本実施例のように、隣り合う画像Kと画像K+1、及び隣り合う画像K+1と画像K+2との間で位置に応じた比率で画素を混合することも可能である。実施例1の視点では異なる方向から投影される分割された画像の切り替わりが不連続に成る場合が有り得るが、本実施例のように画素を混合することで、視点において視差画像が滑らかに繋がって立体視することが可能になる。
<その他の実施例>
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (19)
- 複数の視点方向に対応する複数の視点画像を表示することが可能な3次元表示手段を有する画像処理装置であって、
視差画像を、該視差画像の画素位置に応じて複数の視点画像として表示させる制御手段を有することを特徴とする画像処理装置。 - 前記制御手段は、前記視差画像を構成する一対の画像のそれぞれを、それぞれの画像の画素位置に応じて複数の視点画像としてそれぞれ表示させることを特徴とする請求項1に記載の画像処理装置。
- 前記複数の視点画像として表示される視差画像は、それぞれ同一の画像データに基づくことを特徴とする請求項1または2に記載の画像処理装置。
- 前記制御手段は、前記視差画像の画素位置に対応する前記視点画像の画素位置に前記視差画像を表示させることを特徴とする請求項1から3のいずれか一項に記載の画像処理装置。
- 前記制御手段は、視差画像を、該視差画像の画素位置に応じて分割し、分割した画像を複数の視点画像として表示させることを特徴とする請求項1から4のいずれか一項に記載の画像処理装置。
- 少なくとも1つの視点画像は、異なるサイズに分割された複数の視差画像を含むことを特徴とする請求項5に記載の画像処理装置。
- 前記制御手段は、視差画像を複数の領域に分割し、分割した領域の画素位置に応じた異なる比率の画素を視点画像に含めて表示させることを特徴とする請求項1から4のいずれか一項に記載の画像処理装置。
- 前記制御手段は、前記視差画像を表示させる場合に用いられる隣り合う視点画像の一方から他方に向けて前記比率を変更することを特徴とする請求項7に記載の画像処理装置。
- 前記制御手段は、隣り合う視点画像を用いずに前記視差画像を表示させることを特徴とする請求項1から8のいずれか一項に記載の画像処理装置。
- 前記制御手段は、前記視差画像に対応する画素がない視点画像の画素にダミーデータを含めることを特徴とする請求項1から9のいずれか一項に記載の画像処理装置。
- 前記制御手段は、複数組の視差画像を、該視差画像の画素位置に応じて各組毎に異なる視点画像として表示させることを特徴とする請求項1から10のいずれか一項に記載の画像処理装置。
- 前記制御手段は、前記視差画像の組毎に、視差画像の両端部の画素の表示方向の角度差が異なるように視点画像を表示させることを特徴とする請求項11に記載の画像処理装置。
- 前記制御手段は、前記視差画像を構成する一対の画像のうちの一方の画像の右端部の画素位置の画素の表示方向と左端部の画素位置の画素の表示方向との角度差が、他方の画像の右端部の画素位置の画素の表示方向と左端部の画素位置の画素の表示方向との角度差で等しくなるように視点画像を表示させることを特徴とする請求項1から12のいずれか一項に記載の画像処理装置。
- 前記制御手段は、視差画像を構成する一対の画像を、一対の視点画像として表示させることを特徴とする請求項1から13のいずれか一項に記載の画像処理装置。
- 前記制御手段は、視差画像の画素位置が相対的に右の画素を、視差画像の画素位置が相対的に左の画素より左方向の視点画像として表示させることを特徴とする請求項1から13のいずれか一項に記載の画像処理装置。
- 前記制御手段は、視差画像の画素位置が相対的に右の画素を、視差画像の画素位置が相対的に左の画素より右方向の視点画像として表示させることを特徴とする請求項1から13のいずれか一項に記載の画像処理装置。
- 前記視差画像は、一対の左目用画像及び右目用画像を含むことを特徴とする請求項1から16のいずれか一項に記載の画像処理装置。
- 複数の視点方向に対応する複数の視点画像を表示することが可能な3次元表示手段を有する画像処理装置であって、
視差画像を、該視差画像の画素位置に応じて複数の視点画像として表示させる制御工程を有することを特徴とする画像処理方法。 - コンピュータを、請求項1から17のいずれか一項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013175741A JP2015046695A (ja) | 2013-08-27 | 2013-08-27 | 画像処理装置、画像処理方法及びプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013175741A JP2015046695A (ja) | 2013-08-27 | 2013-08-27 | 画像処理装置、画像処理方法及びプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2015046695A true JP2015046695A (ja) | 2015-03-12 |
Family
ID=52671902
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013175741A Pending JP2015046695A (ja) | 2013-08-27 | 2013-08-27 | 画像処理装置、画像処理方法及びプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2015046695A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170041596A1 (en) * | 2015-08-07 | 2017-02-09 | Samsung Electronics Co., Ltd. | Method and apparatus of light field rendering for plurality of users |
-
2013
- 2013-08-27 JP JP2013175741A patent/JP2015046695A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170041596A1 (en) * | 2015-08-07 | 2017-02-09 | Samsung Electronics Co., Ltd. | Method and apparatus of light field rendering for plurality of users |
US10397541B2 (en) * | 2015-08-07 | 2019-08-27 | Samsung Electronics Co., Ltd. | Method and apparatus of light field rendering for plurality of users |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4251952B2 (ja) | 立体画像表示装置および立体画像表示方法 | |
JP4835659B2 (ja) | 集積映像背景を有する2次元−3次元兼用ディスプレイ方法及び装置 | |
JP4468341B2 (ja) | 三次元画像表示方法および三次元画像表示装置 | |
US8749660B2 (en) | Image recording apparatus and image processing method | |
JP4471979B2 (ja) | 画像合成装置及び画像合成方法 | |
TW201225635A (en) | Image processing device and method, and stereoscopic image display device | |
JP2011176800A (ja) | 画像処理装置、立体表示装置及び画像処理方法 | |
JP2006203668A (ja) | 画像生成システム及び画像生成方法 | |
Alam et al. | Resolution enhancement of integral‐imaging three‐dimensional display using directional elemental image projection | |
JP2013005135A (ja) | 画像処理装置および方法、並びにプログラム | |
JP4892205B2 (ja) | 立体画像表示装置及び立体画像表示方法 | |
JP2015037282A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2006115151A (ja) | 立体表示装置 | |
WO2022004382A1 (ja) | 画像生成装置、画像生成方法、及びプログラム | |
JP2015046695A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2005175538A (ja) | 立体映像表示装置及び映像表示方法 | |
JP2011254176A (ja) | 画像処理装置及びその制御方法 | |
KR101086305B1 (ko) | 3차원 영상 디스플레이 장치 및 방법 | |
KR20090085396A (ko) | 입체 프리젠테이션 시스템 | |
JP4270695B2 (ja) | 立体画像表示装置用2dー3d画像変換方式および装置 | |
JPH08314034A (ja) | 立体画像表示方法及び装置 | |
JP2011176822A (ja) | 画像処理装置、立体表示装置及び画像処理方法 | |
KR101192121B1 (ko) | 양안시차 및 깊이 정보를 이용한 애너그리프 영상 생성 방법 및 장치 | |
JPH10172004A (ja) | 立体画像表示方法 | |
KR100939080B1 (ko) | 합성 영상 생성 방법 및 장치, 합성 영상을 이용한 디스플레이 방법 및 장치 |