JP6073123B2 - 立体表示システム、立体像生成装置及び立体像生成プログラム - Google Patents

立体表示システム、立体像生成装置及び立体像生成プログラム Download PDF

Info

Publication number
JP6073123B2
JP6073123B2 JP2012270889A JP2012270889A JP6073123B2 JP 6073123 B2 JP6073123 B2 JP 6073123B2 JP 2012270889 A JP2012270889 A JP 2012270889A JP 2012270889 A JP2012270889 A JP 2012270889A JP 6073123 B2 JP6073123 B2 JP 6073123B2
Authority
JP
Japan
Prior art keywords
stereoscopic
display device
image
stereoscopic display
marker
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012270889A
Other languages
English (en)
Other versions
JP2014116867A (ja
Inventor
岩舘 祐一
祐一 岩舘
片山 美和
美和 片山
三浦 雅人
雅人 三浦
奥井 誠人
誠人 奥井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2012270889A priority Critical patent/JP6073123B2/ja
Publication of JP2014116867A publication Critical patent/JP2014116867A/ja
Application granted granted Critical
Publication of JP6073123B2 publication Critical patent/JP6073123B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

本発明は、裸眼方式で立体像を表示する複数の立体表示装置に、立体像を分散表示する技術に関する。
近年、立体表示装置の研究開発が進み、IP(インテグラル・フォトグラフィ)方式やレンチキュラ方式などの、特殊なメガネを用いることなく観察者に立体像を視認させることが可能な裸眼方式の立体表示装置が開発されている。例えば、IP方式の立体表示装置は、高精細画像表示パネルと、その前面に配置された二次元レンズアレーとを備え、高精細画像表示パネルに要素画像を表示すると立体像が再生される。
特に、IP方式の立体表示装置は、裸眼で立体像が観察可能な装置であって、表示面に対する観察方向を上下左右に変えることにより、立体像を一方向だけでなく、他の方向からも観察可能に表示することができる。
更に、複数のIP方式の立体表示装置を組み合わせることで、より多方向から観察可能に立体像を表示することも可能となる。
例えば、非特許文献1には、6枚のIP方式の立体表示装置の表示面を、それぞれ立方体の各面となるように組み合わせた立体ディスプレイが開示されている。この立体ディスプレイは、表示面で囲まれた立方体の内部に3軸の磁気センサ及び加速度センサを備え、これらのセンサ情報に基づいて立体像を表示する。これによって、この立体ディスプレイは、ガラスケースに入った物体を観察するかのように、物体の立体像を表示することができる。
吉田俊介、Roberto Lopez-Gulliver、矢野澄男、井ノ上直己、"gCubic:複数人で観察可能なキューブ型裸眼立体ディスプレイ−6面での実装とその対話操作に関する考察"、インタラクション2009、情報処理学会、IPSI Symposium Series Vol.2009,No.4,pp.1-8
しかしながら、非特許文献1に開示された立体ディスプレイは、6枚のディスプレイ間の配置が固定されているため、ディスプレイの内部空間を越える任意の大きさの立体像を適切に表示することが難しかった。そこで、ディスプレイの大きさを超える大きな立体像を表示するために、複数のディスプレイが立体像の再生空間を取り囲むように自由に配置して、1つの立体像を分散表示することが考えられる。しかし、ディスプレイを自由に配置できるようにすると、複数のディスプレイ同士の位置関係が定まらないため、それぞれのディスプレイが表示する画像データを適切に生成することができなかった。
本発明は、かかる問題に鑑みて創案されたものであり、裸眼方式の複数の立体表示装置を組み合わせることにより、任意の大きさの立体像を分散表示することができる立体表示システム、この立体表示システムで用いられる立体表示装置が立体像を表示するための画像データを生成する立体像生成装置及びそのプログラムを提供することを課題とする。
前記した課題を解決するために、本発明の請求項1に記載の立体表示装置は、裸眼方式の複数の立体表示装置の中から任意に定めた1つを第1立体表示装置とし、その他を第2立体表示装置として、共通する3次元形状モデルについての立体像を分散表示する立体表示システムであって、複数の前記立体表示装置と、第1立体像生成装置と、第2立体像生成装置と、位置・方向計測手段とを備え、前記第1立体像生成装置は、位置・方向算出手段と、座標変換式算出手段と、第1立体像生成手段とを備え、前記第2立体像生成装置は、座標変換手段と、第2立体像生成手段とを備える構成とした。
かかる構成によれば、立体表示システムは、第1立体像生成装置によって、前記第1立体表示装置に立体像表示用の画像データを生成する。また、立体表示システムは、第2立体像生成装置によって、前記第2立体表示装置に立体像表示用の画像データを生成する。更にまた、立体表示システムは、位置・方向計測手段によって、前記複数の立体表示装置の位置及び方向を検出するための計測を行う。
ここで、前記第1立体像生成装置は、位置・方向算出手段によって、前記位置・方向計測手段が計測した位置及び方向に関する計測データを用いて、前記第1立体表示装置及び前記第2立体表示装置のそれぞれについての位置及び方向に関する情報を算出する。次に、前記第1立体像生成装置は、座標変換式算出手段によって、前記第1立体表示装置についての前記位置及び方向に関する情報と、前記第2立体表示装置についての前記位置及び方向に関する情報とを用いて、前記第1立体表示装置を基準とする座標系から、当該第2立体表示装置を基準とする座標系に変換する座標変換式を算出し、算出した座標変換式を前記第2立体像生成装置に送信する。また、前記第1立体像生成装置は、第1立体像生成手段によって、前記第1立体表示装置を基準とする座標系で定義された前記3次元形状モデルを用いて、前記第1立体表示装置に当該3次元形状モデルについての立体像を表示するための画像データを生成する。
また、前記第2立体像生成装置は、座標変換手段によって、前記第1立体像生成装置の前記座標変換式算出手段が算出した前記座標変換式を受信し、受信した当該座標変換式を用いて、前記3次元形状モデルの座標データを座標変換する。次に、前記第2立体像生成装置は、第2立体像生成手段によって、前記座標変換された3次元形状モデルを用いて、前記第2立体表示装置に当該3次元形状モデルについての立体像を表示するための画像データを生成する。
これによって、立体表示システムは、複数の立体表示装置によって表示される立体像の位置合わせを行うことができる。
請求項2に記載の立体表示システムは、請求項1に記載の立体表示システムにおいて、前記位置・方向計測手段として、前記複数の立体表示装置のそれぞれに、所定形状の図形を有するマーカーを設けるとともに、前記マーカーを撮影するカメラを備えるように構成した。
かかる構成によれば、第1立体像生成装置は、前記位置・方向算出手段によって、前記カメラが撮影した画像中の、前記立体表示装置に設けられたマーカーの像の前記所定形状の図形の変形状態を解析して、前記立体表示装置の位置及び方向に関する情報を算出する。
これによって、立体表示システムは、各立体表示装置に能動的に動作するセンサなどの計測機器を設けずにマーカーのみを設け、カメラをセンサとして用いることで、各立体表示装置の位置及び方向を検出することができる。
請求項3に記載の立体表示システムは、請求項2に記載の立体表示システムにおいて、立体表示システムは、前記カメラによって、前記第1立体表示装置に設けられたマーカーと、前記第2立体表示装置に設けられたマーカーとを、同時に撮影することとした。
かかる構成によれば、第1立体像生成装置は、前記位置・方向算出手段によって、前記第1立体表示装置に設けられたマーカーと、前記第2立体表示装置に設けられたマーカーとが同時に撮影された1つの画像中のそれぞれのマーカーの前記所定形状の図形の変形状態を解析することで、前記第1立体表示装置及び前記第2立体表示装置の位置及び方向に関する情報を算出する。すなわち、立体表示システムは、立体表示装置の位置及び方向を検出するための計測として1回のカメラ撮影を行い、その計測データである画像データを用いて複数の立体表示装置の位置及び方向を検出する。
これによって、計測の誤差が累積されることなく、第1立体表示装置と第2立体表示装置との間の相対的な位置及び方向を算出することができる。
請求項4に記載の立体表示システムは、請求項1乃至請求項3の何れか一項に記載の立体表示システムにおいて、前記裸眼方式は、IP(インテグラル・フォトグラフィ)方式とした。
かかる構成によれば、立体表示システムは、複数の立体表示装置によって表示される立体の位置合わせを行い、多方向から観察可能なIP方式の立体像を表示する。
請求項5に記載の立体表示システムは、請求項2又は請求項3の何れかを引用する請求項4に記載の立体表示システムにおいて、前記立体表示装置は、複数の要素画像からなる要素画像群を表示する画像表示手段と、前記要素画像群のそれぞれの要素画像に対応する要素レンズを二次元配列したレンズアレーと、を備え、前記立体表示装置に定義された座標系は、前記レンズアレーを基準として定められたレンズアレー座標系であり、前記マーカーを基準として定められたマーカー座標系が、前記レンズアレー座標系と平行移動の関係となるように、前記マーカーが設けるように構成した。
かかる構成によれば、立体表示システムにおける第1立体像生成装置は、座標変換式算出手段によって、マーカー座標とレンズアレー座標との間の関係を平行移動ベクトルとして算入し、座標変換式を算出する。
請求項6に記載の立体表示システムは、請求項1乃至請求項5の何れか一項に記載の立体表示システムにおいて、前記立体表示装置は、互いに積み重ね可能な箱型に形成した。
かかる構成によれば、立体表示システムは、複数の立体表示システムを積み重ねて配置することができる。
これによって、立体表示システムは、複数の立体表示装置を、表示対象である3次元形状モデルの形状や大きさに合わせて自由に配置することができる。
請求項7に記載の立体像生成装置は、裸眼方式の複数の立体表示装置に、共通する3次元形状モデルについての立体像を分散表示する立体表示システムで用いられ、前記立体表示装置に前記3次元形状モデルについての立体像を表示するための画像データを生成する立体像生成装置であって、請求項1乃至請求項6の何れか一項に記載の第1立体像生成装置とした。
かかる構成によれば、立体像生成装置は、立体像を再生する空間の基準となる第1立体表示装置に、立体像を表示するための画像データを生成するとともに、他の立体表示装置である第2立体表示装置に対して、第1立体表示装置の座標系から第2立体表示装置の座標系に変換する座標変換式を算出して、この第2立体表示装置が立体像を表示するための画像データを生成する第2立体像生成装置に座標変換式を送信する。
これによって、第1立体表示装置が表示する立体像に対して、第2立体表示装置が表示する立体像が位置合わせされる。
請求項8に記載の立体像生成装置は、裸眼方式の複数の立体表示装置に、共通する3次元形状モデルについての立体像を分散表示する立体表示システムで用いられ、前記立体表示装置に前記3次元形状モデルについての立体像を表示するための画像データを生成する立体像生成装置であって、請求項1乃至請求項6の何れか一項に記載の第2立体像生成装置とした。
かかる構成によれば、立体像生成装置は、第1立体像生成装置から受信した、第1立体表示装置の座標系から第2立体表示装置の座標系への座標変換式を用いて座標変換した3次元形状モデル用いて、第2立体表示装置に立体像を表示するための画像データを生成する。
これによって、第2立体表示装置が表示する立体像が、第1立体表示装置が表示する立体像に対して位置合わせされる。
請求項7又は請求項8に記載の立体像生成装置は、CPU(Central Processing Unit)、記憶手段(例えば、メモリ、ハードディスク)等のハードウェア資源を備えるコンピュータを、前記した各手段として協調動作させるための立体像生成プログラムによって実現することもできる。このプログラムは、通信回線を介して配布してもよく、光ディスクや磁気ディスク、フラッシュメモリ等の記録媒体に書き込んで配布してもよい。
請求項1に記載の発明によれば、立体表示システムは、複数の立体表示装置により表示される立体像の位置合わせがなされた立体像を表示することができる。
請求項2に記載の発明によれば、立体表示システムは、個々の立体表示装置に特別なセンサを設けることなく、立体表示装置の位置及び方向を検出することができる。
請求項3に記載の発明によれば、第1立体表示装置と第2立体表示装置との間の相対的な位置及び方向を、計測誤差を累積することなく検出することができるため、立体像の位置合わせを高精度に行うことができる。
請求項4に記載の発明によれば、立体表示システムは、複数の立体表示装置により表示される立体像が位置合わせされるため、IP方式で表示される立体像について、方向を変えながら観察する際に不連続性を感知されることが抑制される。
請求項5に記載の発明によれば、立体表示システムは、立体像の位置合わせのための座標変換式を算出する演算量を低減することができる。
請求項6に記載の発明によれば、立体表示システムは、表示対象である立体像の形状や大きさに合わせて、複数の立体表示装置を容易に配置することができる。
請求項7乃至請求項10に記載の発明によれば、立体像生成装置は、他の立体表示装置で表示される立体像との位置合わせがなされるように、対応する立体表示装置が表示する立体像の画像データを生成することができる。
本発明の第1実施形態に係る立体表示システムの概要を示す模式図であり、複数の立体表示装置によって、共通の立体像が表示される様子を示す。 (a)、(b)は、本発明の第1実施形態に係る立体表示システムで用いられるマーカーの例である。 本発明の第1実施形態に係る立体表示システムで用いられる立体表示装置の構成を示す模式図であり、(a)は上面図、(b)は背面図、(c)は正面図である。 本発明の第1実施形態に係る立体像生成装置の構成を示す模式図である。 本発明の第1実施形態に係る立体表示システムで用いられるマーカーを撮影したマーカー画像の例である。 本発明の第1実施形態に係る立体表示装置に表示されるIP立体像データの生成方法を説明するための説明図である。 本発明の第1実施形態に係る立体表示システムの動作の流れを示すフローチャートであり、(a)は第1立体像生成装置、(b)は第2立体像生成装置のものである。 本発明の第2実施形態に係る立体表示システムの概要を示す模式図であり、(a)はシステム全体、(b)は立体表示装置を示す。
以下、本発明の実施形態について、図面を参照して詳細に説明する。
<第1実施形態>
[立体表示システムの構成]
まず、第1実施形態に係る立体表示システム100の構成の概要について、図1を参照して説明する。
図1に示すように、本実施形態においては、立体表示システム100は、背面にマーカー2が設けられた2台の立体表示装置である第1立体表示装置1及び第2立体表示装置1(以下、これらを適宜に「立体表示装置1」という)と、カメラ4と、第1立体像生成装置5と、第2立体像生成装置6と、から構成されている。
2台の立体表示装置1は、立体像再生領域3を取り囲むように配置されており、何れも背面にマーカー2が設けられている。また、マーカー2には、それぞれが設けられた立体表示装置1を識別する模様として、数字「1」又は「2」が含まれている。
なお、本実施形態に係る立体表示システム100では、説明を簡単にするために立体表示装置1は2台としたが、2台以上の任意の台数を構成に含めることができる。
本実施形態において、立体像を再生する空間の座標系(以下、再生空間座標系という)は、複数の立体表示装置1の中で任意に定めた1台の設置位置及び方向を基準として定義される。ここで、再生空間座標系の基準となる立体表示装置1を、「第1立体表示装置」という。また、立体像の形状を定義する3次元形状モデルは、再生空間座標系で定義されているものとする。
なお、再生空間座標系と、第1立体表示装置1の座標系とは所定の関係があればよく、一致する必要はないが、本実施形態では説明を簡単にするために、両者は一致し、3次元形状モデルは、第1立体表示装置1の座標系(より詳細には、後記するレンズアレー座標系)で定義されているものとする。
また、本実施形態では、再生空間座標系の基準となる第1立体表示装置1以外の立体表示装置1を、「第2立体表示装置」という。第1立体表示装置1と第2立体表示装置1とは、再生空間座標系の基準とされるかどうかの違いがあるだけで、立体表示装置としては同様の構成を有するものである。但し、第1立体表示装置1と第2立体表示装置1とは、例えば、画面サイズや画素密度などが異なっていてもよく、完全に同一であることは必要ではない。
また、立体表示装置1は裸眼方式の立体表示装置であり、本実施形態では、IP方式の立体表示装置を例として説明する。
カメラ4は、2台の立体表示装置1の後方に配置され、それぞれの立体表示装置1の背面に設けられたマーカー2が1画面に同時に撮影できるように、撮影範囲が設定されている。カメラ4は、撮影したマーカー画像を第1立体像生成装置5に出力する。
第1立体像生成装置5は、カメラ4からマーカー画像を入力し、このマーカー画像の幾何学的な変形状態を解析することで、各立体表示装置1の位置及び方向を検出し、立体表示装置中の第1立体表示装置1の座標系から第2立体表示装置1の座標系への座標変換式を算出するとともに、再生空間座標系、すなわち本実施形態では、第1立体表示装置1の座標系で定義された3次元形状モデルを用いて、第1立体表示装置1に立体像を再生するための画像データである立体像データを生成するものである。
また、第2立体像生成装置6は、第1立体像生成装置5から前記した座標変換式を入力し、この座標変換式で座標変換した3次元形状モデルを用いて、第2立体表示装置1に立体像を再生するための立体像データを生成するものである。
以下、本実施形態に係る立体表示システム100を構成する各装置の構成について、更に詳細に説明する。
(マーカー(位置・方向計測手段))
まず、図2を参照(適宜図1参照)して、マーカー2について説明する。
マーカー2は、各立体表示装置1の背面に設けられ、カメラ4で撮影される。カメラ4で撮影されたマーカー画像は、第1立体像生成装置5によって解析され、各マーカー2が設けられた立体表示装置1の位置及び方向を検出するために用いられる。すなわち、本実施形態では、マーカー2とカメラ4とを組み合わせて、立体表示装置1の位置及び方向を計測する手段として用いるものである。
図2に示すように、マーカー2は、台紙2c上に白黒の平面図形が印刷されたものである。図2(a)に示した例では、マーカー図形は、正方形の図形である外枠図形2aと、四角形の模様2bとから構成されている。正方形の外枠図形2aは、マーカー画像における各辺の傾きなどのマーカー図形の変形状態を解析することで、カメラ4とマーカー2との間の相対的な位置及び方向に関する情報を検出するための図形である。外枠図形2aは、位置及び方向に関する情報の検出を容易に行えるように、正方形とすることが好ましいがこれに限定されるものではなく、長方形や、多角形としてもよい。また、模様2bは、マーカー図形が全体として回転対称とならないようにするためのものである。本例では、四角形の模様2bが、正方形の外枠図形2aの左下の角の近傍に設けられている。
図2(b)に示した例では、マーカー2は、模様2bとして数字「1」が配置されている。模様2bとして数字や他の文字、記号を用いることで、マーカー2に属性を持たせることができる。また、このような属性などの情報を持たせるための模様2bとして、バーコードを用いてもよい。また、マーカー2の全体の形状として、QRコード(登録商標)のような二次元コードを用いることもできる。
なお、模様2b自体が、回転対称性を有さない場合は、図2(b)に示した例のように、外枠図形2aの中心部に模様2bを配置するようにしてもよい。
また、図1に示した例では、各立体表示装置1を識別するために、マーカー2の模様2bとして、それぞれ異なる数字が用いられている。
(立体表示装置)
次に、図3を参照(適宜図1参照)して、立体表示装置1の構成について説明する。
立体表示装置1には、前記したように、再生空間座標系の基準となる第1立体表示装置1と、その他の第2立体表示装置1とがあるが、何れも同様の構成を有している。
図3に示すように、本実施形態における立体表示装置1は、IP方式で立体表示するものであり、画像表示手段11と、その画像表示面に対向するように配置されたレンズアレー12とから構成される。また、画像表示手段11の画像表示面とは反対側の面、すなわち背面には、所定形状の図形として、正方形の外枠図形2aを有するマーカー2が設けられている。本実施形態における立体表示装置1はIP方式であるため、画像表示面に対する観察方向を上下左右に変えることにより、異なる方向から見た立体像が観察できるように表示される。
画像表示手段11は、例えば、LCD(液晶表示装置)などの、画素が二次元配列された画像表示装置である。画像表示手段11は、その画像表示面側に設けられたレンズアレー12を構成する個々の要素レンズに対応した要素画像の集合体である要素画像群を表示するものである。画像表示手段11は、第1立体像生成装置5又は第2立体像生成装置6から、要素画像群を表示するための画像データであるIP立体像データ(要素画像データ)を入力し、入力したIP立体像データに基づいて画像を表示する。
レンズアレー12は、図3(c)に示すように、所定の大きさの要素レンズを二次元配列したものであり、図3(a)に示すように、画像表示手段11の画像表示面に対向するように設けられている。レンズアレー12を構成する各要素レンズは、画像表示手段11が表示する各要素画像に対応し、要素画像を構成する画素から発する光を、特定の方向に出射するためのものである。これによって、要素画像を構成する画素数分の観察方向から見た立体像が表示される。
また、図3(a)〜(c)に示すように、立体表示装置1を基準とする座標系として、マーカー2を基準とするマーカー座標(X’,Y’,Z’)と、IP方式による立体像表示の基準となるレンズアレー12を基準とするレンズアレー座標(X,Y,Z)とが定義される。
なお、座標系の詳細については後記する。
(カメラ(位置・方向計測手段))
カメラ4は、図1に示したように、2台の立体表示装置1の後方に配置され、それぞれの立体表示装置1の背面に設けられたマーカー2が1画面に同時に撮影できるように、撮影範囲4aが設定されている。カメラ4は、撮影したマーカー画像を第1立体像生成装置5に出力する。
なお、立体表示装置1が3台以上配置されている場合は、1台ずつマーカー2を撮影するようにしてもよいが、立体表示装置1に設けられたすべてのマーカー2を同時に撮影することが好ましい。また、複数枚の画像に分けてマーカー2を撮影する場合でも、再生空間座標系の基準となる第1立体表示装置1のマーカー2が、何れの画像にも撮影されていることが好ましい。これによって、計測による誤差の累積を抑制し、第1立体表示装置1と第2立体表示装置1との間の、相対的な位置及び方向の関係を検出することができる。
また、カメラ4には、カメラを基準とするカメラ座標(x,y,z)が定義される。
なお、カメラ座標の詳細については後記する。
次に、図4を参照(適宜図1参照)して、第1立体像生成装置5及び第2立体像生成装置6について説明する。
(第1立体像生成装置(立体像生成装置))
第1立体像生成装置5は、カメラ4からマーカー画像を入力し、このマーカー画像の幾何学的な変形状態を解析することで、各立体表示装置1の位置及び方向を検出し、立体表示装置中の第1立体表示装置1の座標系から第2立体表示装置1の座標系への座標変換式を算出するとともに、再生空間座標系、すなわち本実施形態では、第1立体表示装置1を基準とする座標系で定義された3次元形状モデルを用いて、第1立体表示装置1に立体像を再生するための画像データであるIP立体像データを生成するものである。
このために、第1立体像生成装置5は、図4に示すように、立体表示装置位置・方向算出手段51と、座標変換式算出手段52と、IP立体像生成手段53と、3次元形状モデル記憶手段54と、を備えている。
立体表示装置位置・方向算出手段(位置・方向算出手段)51は、カメラ4から入力したマーカー画像中の所定形状の図形の幾何学的な変形状態を解析して、各立体表示装置1の位置及び方向を算出するものである。立体表示装置位置・方向算出手段51は、算出した各立体表示装置1の位置及び方向を座標変換式算出手段52に出力する。
ここで、マーカー画像には、複数の立体表示装置1(第1立体表示装置1及び第2立体表示装置1)に設けられたマーカー2の画像、すなわち、複数のマーカー像が含まれるため、立体表示装置位置・方向算出手段51は、まず、マーカー画像を、個々のマーカー像に分離し、分離したマーカー像毎に、カメラ4とマーカー2との間の相対的な位置及び方向に関する情報を算出する。
なお、マーカー画像中の所定形状の図形についての幾何学的な変形状態を解析して、各立体表示装置1の位置及び方向を算出する方法については後記する。
また、立体表示装置位置・方向算出手段51は、マーカー像中の模様2bについて、例えば、模様2bが数字やその他の文字の場合は文字認識技術を用いて、模様2bに含まれる文字情報を認識する。これによって、立体表示装置位置・方向算出手段51は、分離したマーカー像と、立体表示装置1とを対応付けることができる。
なお、マーカー像と立体表示装置1との対応付けは、これに限定されるものではなく、任意の手法を用いることができる。
座標変換式算出手段52は、立体表示装置位置・方向算出手段51から、第1立体表示装置1及び第2立体表示装置1についての位置及び方向に関する情報を入力し、第1立体表示装置1の座標系から第2立体表示装置1の座標系への座標変換式を算出する。座標変換式算出手段52は、算出した座標変換式を、第2立体像生成装置6の座標変換手段61に出力する。
なお、座標変換式を算出する方法については後記する。
なお、第2立体表示装置1が複数台ある場合は、座標変換式算出手段52は、それぞれの第2立体表示装置1について、第1立体表示装置1の座標系から第2立体表示装置1の座標系への座標変換式を算出し、対応する第2立体像生成装置6に出力するものとする。
また、複数の第2立体表示装置1が1台の第2立体像生成装置6を共有する場合は、座標変換式算出手段52は、各第2立体表示装置1に対応付けて座標変換式を第2立体像生成装置6に出力するようにすればよい。
IP立体像生成手段(立体像生成手段)53は、3次元形状モデル記憶手段54から、再生空間座標系、すなわち第1立体表示装置1の座標系(レンズアレー座標)で定義された3次元形状モデルのデータを入力し、この3次元形状モデルのデータを用いて、第1立体表示装置1にIP立体像を表示させるための画像データであるIP立体像データを生成する。なお、IP立体像データとは、レンズアレー12の各要素レンズに対応した要素画像として画像表示手段11に表示される画像データの集合体のことである。IP立体像生成手段53は、生成したIP立体像データを第1立体表示装置1の画像表示手段11に出力する。
なお、IP立体像データの生成方法については後記する。
3次元形状モデル記憶手段54は、再生対象である立体像の形状を示し、再生空間座標系、すなわち第1立体表示装置1を基準とする座標系(レンズアレー座標)で定義された3次元形状モデルのデータを記憶するものであり、磁気ディスク、光ディスク又は半導体メモリなどの記憶媒体を用いた記憶装置を用いることができる。
なお、本実施形態では、3次元形状モデルのデータを第1立体像生成装置5内に記憶するように構成したが、これに限定されるものではない。例えば、有線、無線を問わず、通信回線を介して、外部のサーバから3次元形状モデルのデータを適宜入力するように構成してもよい。
(第2立体像生成装置(立体像生成装置))
第2立体像生成装置6は、第1立体像生成装置5から前記した座標変換式を入力し、この座標変換式で座標変換した3次元形状モデルを用いて、第2立体表示装置1に立体像を再生するための画像データであるIP立体像データを生成するものである。
このために、第2立体像生成装置6は、座標変換手段61と、IP立体像生成手段62と、3次元形状モデル記憶手段63と、を備えている。
座標変換手段61は、第1立体像生成装置5の座標変換式算出手段52から、第1立体表示装置1の座標系から第2立体表示装置1の座標系への座標変換式を入力し、3次元形状モデル記憶手段63に記憶されている第1立体表示装置1を基準とする座標系(レンズアレー座標)で定義された3次元形状モデルの座標を、第2立体表示装置1を基準とする座標系(レンズアレー座標)に変換する。座標変換手段61は、座標変換した3次元形状モデルのデータを、IP立体像生成手段62に出力する。
IP立体像生成手段(立体像生成手段)62は、座標変換手段61から、第2立体表示装置1を基準とする座標系(レンズアレー座標)に座標変換された3次元形状モデルのデータを入力し、この3次元形状モデルのデータを用いて、第2立体表示装置1にIP立体像を表示させるための画像データであるIP立体像データを生成する。
なお、IP立体像データの生成方法は、第1立体像生成装置5のIP立体像生成手段53と同様である。
3次元形状モデル記憶手段63は、第1立体像生成装置5の3次元形状モデル記憶手段54と同様に、再生対象である立体像の形状を示し、再生空間座標系、すなわち第1立体表示装置1を基準とする座標系(レンズアレー座標)で定義された3次元形状モデルのデータを記憶するものである。
また、本実施形態では、3次元形状モデルのデータを第2立体像生成装置6内に記憶するように構成したが、これに限定されるものではない。例えば、有線、無線を問わず、通信回線を介して、外部のサーバ又は第1立体像生成装置5から3次元形状モデルのデータを適宜入力するように構成してもよい。また、第1立体像生成装置5と第2立体像生成装置6を一体的に構成する場合は、3次元形状モデル記憶手段54又は3次元形状モデル記憶手段63の何れか一方を設け、共用するようにしてもよい。
なお、第1立体像生成装置5及び第2立体像生成装置6は、それぞれ第1立体表示装置1及び第2立体表示装置1と一体に構成されてもよく、有線又は無線の通信回線を介して接続するように構成してもよい。また、第1立体像生成装置5及び第2立体像生成装置6を一体に構成してもよい。
また、第1立体像生成装置5又は第2立体像生成装置6は、各構成手段をハードウェア回路で構成してもよいが、演算装置、記憶装置などを備えた一般的なコンピュータ(例えば、パーソナルコンピュータ)を、第1立体像生成装置5又は第2立体像生成装置6の各構成手段として機能させるプログラムを実行させることで実現することもできる。
[演算方法]
次に、第1立体像生成装置5及び第2立体像生成装置6の各部で行われる演算方法について順次に説明する。
(1.座標系)
まず、図3及び図4を参照して、立体表示システム100において用いられる座標系について説明する。
本実施形態では、立体像を再生する空間の座標系(再生空間座標系)は、第1立体表示装置1に定義されるレンズアレー座標系とする。すなわち、立体像再生領域3は、第1立体表示装置1のレンズアレー座標系で定義され、当該立体像再生領域3に表示される立体像の形状を示す3次元立体形状モデルは、第1立体表示装置1のレンズアレー座標系で定義されるものとする。
なお、3次元立体形状モデルは、例えば、全空間の座標を規定する世界座標で定義されるものであってもよい。この場合は、世界座標における第1立体表示装置1が設けられた位置情報を予め測定しておき、この位置情報によって定められる、世界座標から第1立体表示装置1のレンズアレー座標への座標変換式を用いて、3次元立体形状モデルの座標データを変換して用いるようにすればよい。
立体表示装置1には、それぞれマーカー座標とレンズアレー座標とが定義される。
マーカー座標は、図3(a)、(b)に示すように、マーカー2の中心を原点とし、マーカー2の外枠図形2aの辺に平行な2方向を、それぞれx軸(X’軸)及びy軸(Y’軸)とし、マーカー面の法線をz軸(Z’軸)とする。また、マーカー面に上向きを+z軸方向とする。
なお、本実施形態で用いる直交座標系は、特に断らない限りすべて右手系とする。
以下、マーカー座標は、(X’,Y’,Z’)で表すものとする。
レンズアレー座標は、図3(a)、(c)に示すように、レンズアレー12の中心に配置された要素レンズの光学主点を原点とし、この要素レンズの光軸をz軸(Z軸)とし、画像表示手段11の水平方向及び垂直方向を、それぞれx軸(X軸)及びy軸(Y軸)とする。また、画像表示手段11の背面方向を+z軸方向とする。
マーカー2は、立体表示装置1の画像表示を妨げず、カメラ4により撮影可能な場所であれば、立体表示装置1の任意の場所に、任意の方向(姿勢)で設けることができるが、本実施形態のように設けることが好ましい。すなわち、マーカー2は、立体表示装置1の背面であって、マーカー座標の原点がレンズアレー座標のZ軸上にあり、マーカー座標のX’軸、Y’軸及びZ’軸が、それぞれレンズアレー座標のX軸、Y軸及びZ軸と平行になるように設けることが好ましい。すなわち、マーカー座標とレンズアレー座標とが、平行移動の関係となるようにすることで、マーカー座標とレンズアレー座標との間の座標変換を、加算のみで行うことができるため、後記する座標変換式を算出するための演算量を低減することができる。
なお、本実施形態では、図3(a)に示すように、マーカー2とレンズアレー12とのz軸方向の距離をDとする。
以下、レンズアレー座標は、(X,Y,Z)で表すものとする。
カメラ座標は、カメラ4の光学主点を原点とし、カメラ4の光軸をz軸とする。また、水平方向及び垂直方向をそれぞれカメラ座標のx軸及びy軸とする。また、カメラ4から見て、被写体であるマーカー2の方向を+z軸方向とする。
以下、カメラ座標は、(x,y,z)で表すものとする。
(2.立体表示装置(マーカー)の位置及び方向の算出(マーカー座標からカメラ座標への座標変換式の算出))
次に、立体表示装置位置・方向算出手段51によって算出される立体表示装置の位置及び方向に関する情報の算出方法について説明する。なお、本実施形態では、立体表示装置の位置及び方向に関する情報として、マーカー座標からカメラ座標への座標変換式が算出される。
透視投影カメラモデルでは、カメラ座標(x,y,z)とカメラ4で撮影された画像内の座標である画像座標(u,v)の関係は式(1)で表される。
Figure 0006073123
ここで、「a」は画素のアスペクト比(撮像素子の垂直方向の画素間隔/撮像素子の水平方向の画素間隔)、「F」はカメラレンズの焦点距離を撮像素子の垂直方向の画素間隔で正規化したパラメータ、(C,C)はカメラ座標のz軸(カメラ光軸)が画像面と交わる画像座標である。
式(1)をカメラ画像に適用し、マーカー2を基準とするカメラ4の位置及び方向を算出する。
図5はマーカー2を撮影した画像の例である。図5に示したマーカー画像には、1つのマーカー像が撮影されているが、複数のマーカー像が含まれる場合には、マーカー像を個々に分離し、それぞれに対して同じ手順の処理を行うものとする。
まず、画像中の正方形の外枠図形2aの輪郭を追跡し、その折れ点を検出することにより、4頂点A〜Dの画像座標を得ることができる。これらの頂点の画像座標から、各辺を直線の方程式として表すことができる。
ここで、向かい合う2つの辺AD及び辺BCの直線の方程式を式(2)で表す。
Figure 0006073123
ここで、α及びβは、辺を表す直線の方程式のパラメータ(係数)である。
次に、式(2)を式(1)に代入することで式(3)を得る。
Figure 0006073123
式(3)はカメラ座標(x,y,z)で定義された平面の方程式である。上側の式は、辺ADとカメラ座標原点で決定される平面であり、その法線ベクトルは、式(4)の上側の式のように表すことができる。
また、式(3)の下側の式は、辺BCとカメラ座標原点で決定される平面であり、その法線ベクトルは、式(4)の下側の式のように表わすことができる。
Figure 0006073123
2つの辺ADと辺BCとは平行であるため、共通の方向ベクトルを持つ。この方向ベクトルは、式(4)に示した2つの平面の法線ベクトルの外積として計算される。この計算を辺ABと辺DCとに対しても行うことで,マーカー2と平行で、かつ互いに直交する2つのベクトルが得られる。これらの2つのベクトルの外積からマーカーの面に垂直なベクトルも得られる。これらの3つのベクトルを列ベクトルとする3×3行列は、マーカー座標からカメラ座標への回転行列Rを表す。この回転行列Rは、カメラ座標系におけるマーカー2が向いている方向(姿勢)の情報に相当するものである。これによって、マーカー座標(X’,Y’,Z’)とカメラ座標(x,y,z)と間の関係式として式(5)を得る。
Figure 0006073123
ここで、Tは、カメラ座標原点からマーカー座標原点への平行移動ベクトルであり、カメラ座標原点を基準としたマーカー座標原点の位置に相当する。すなわち、平行移動ベクトルTは、カメラ座標系におけるマーカー2の位置情報に相当するものである。また、式(1)におけるパラメータであるa,F,(C,C)は予め計測された既知の値とする。前記したように回転行列Rも得られているので、4頂点A〜Dについての画像座標(u,v)及びマーカー座標(X’,Y’,Z’)を、式(1)及び式(5)に代入することにより、8つの方程式が得られる。これを最小二乗法で解くことにより、平行移動ベクトルTが得られる。
また、マーカー2の外枠図形2aは、マーカー中心のz軸を4回軸とする回転対称性を有するため、マーカー画像中の各辺がマーカー2の外枠図形2aの正方形の外枠図形2aどの辺に対応するか特定できない。すなわち、マーカー2を4つの方向の内のどの方向から撮影したのかが特定できない。
そこで、マーカー2の外枠図形2aの内側に描かれている模様2bを検出して、マーカー2に対する撮影方向(カメラ4の方向)を特定する。模様2bは、マーカー2を非回転対称な図形とするためのものである。従って、その模様2bを検出することにより、z軸まわりの回転対称性によるカメラ方向の不確定性を排除することができる。この模様2bはマーカー2を、z軸回りの回転操作に対して非対称にすることができれば、任意の模様を用いることができる。
模様2bは、パターンマッチング技術を用いて検出することができる。まず、マーカー2をz軸回りに、90度ずつ回転した4つのマーカー像を、図5に示したマーカーの撮影画像に投影する。撮影したマーカー画像と4つの投影画像との相関を計算することでパターンの一致度を評価し、最も一致度の高い投影画像の回転角度を、対称性の補正角度とする。すなわち、この回転角度から、カメラ4の方向を特定することができる。
以上の手順により、カメラ座標に対するマーカーの位置及び方向に関する情報が得られる。これらの情報にもとづいて、3次元立体形状モデルを描画する。
なお、マーカー2とカメラ4とを用いた位置及び方向に関する情報を検出する計算は、例えば、以下の参考文献1に記載の方法を応用することもできる。
参考文献1:Kato,H.,Billinghurst,M.,"Marker Tracking and HMD Calibration for a video-based Augmented Reality Conferencing System",Proceedings of the 2nd International Workshop on Augmented Reality(IWAR99)
以上は、1つのマーカー像について、マーカー座標とカメラ座標との間の関係式の算出方法について説明したが、第1立体表示装置1のマーカー座標及び第2立体表示装置1のマーカー座標と、カメラ座標との関係について、同様にして、それぞれ式(6)及び式(7)のように求めることができる。
Figure 0006073123
ここで、図4に示すように、(X’、Y’,Z’)、(X’、Y’,Z’)は、それぞれ、第1立体表示装置1のマーカー座標及び第2立体表示装置1のマーカー座標を示す。また、R及びTは、それぞれ第1立体表示装置1のマーカー座標とカメラ座標との間の回転行列及び平行移動ベクトルを示し、R及びTは、それぞれ第2立体表示装置1のマーカー座標とカメラ座標との間の回転行列及び平行移動ベクトルを示す。
(3.座標変換式の算出)
次に、座標変換式算出手段52によって算出される第1立体表示装置1のレンズアレー座標から第2立体表示装置1のレンズアレー座標への座標変換式の算出方法について説明する。
前記したように、マーカー座標とレンズアレー座標とは、マーカー2とレンズアレー12とのz軸方向の距離をDだけz軸方向に平行移動する関係にあるから、その関係式は、式(8)及び式(9)のように表わすことができる。なお、第1立体表示装置1及び第2立体表示装置1におけるマーカー2とレンズアレー12とのz軸方向の距離は、何れも同じであるものとする。
Figure 0006073123
式(8)及び式(9)を、それぞれ式(6)及び式(7)に代入することで、式(10)及び式(11)を得る。
Figure 0006073123
ここで、式(10)及び式(11)からカメラ座標(x,y,z)を消去することで、第1立体表示装置1のレンズアレー座標(X、Y,Z)と第2立体表示装置1のレンズアレー座標(X、Y,Z)との間の関係式、すなわち、第1立体表示装置1のレンズアレー座標からと第2立体表示装置1のレンズアレー座標への座標変換式として式(12)を得る。
式(12)において、rotは、第1立体表示装置1のマーカー座標から第2立体表示装置1のマーカー座標への回転行列であり、traは、第1立体表示装置1のレンズアレー座標から第2立体表示装置1のレンズアレー座標への平行移動ベクトルである。
Figure 0006073123
(4.IP立体像の生成)
次に、IP立体像生成手段53によって行われるIP立体像の生成方法について説明する。
ここで、図6を参照して、3次元形状モデルからIP立体像の要素画像Gを生成する手順について説明する。
IP立体像の要素画像Gは、次の手順(a)〜(d)を行うことで生成することができる。なお、ここでは、レンズアレー12を構成する各要素レンズを、要素レンズの中心位置にピンホールが設けられたものとみなして説明する。また、画像表示手段11は、レンズアレー12から、要素レンズの焦点距離Fだけ離れた位置に配置されているものとする。
(a)画素AとピンホールB(レンズ中心)を通る、単位ベクトルをEとする直線上の、レンズアレー12からZ軸方向に一定距離Lだけ離れた位置に仮想カメラVcを置く。
(b)仮想カメラVcを、ピンホールBに向けて撮像する。
(c)仮想カメラVcによって撮影される画像の中心画素には、画素A及びピンホールBを通る直線が、3次元形状モデルObjの表面と交わる点Cが射影される。そして、3次元形状モデルObjの表面上の点CのRGB値(色データ)を画素Aの画素値とする。
(d)レンズアレー12は光線をサンプリングするため、折り返し雑音が生じないように仮想カメラVcが撮影した画像に帯域制限フィルタ(ローパスフィルタ)処理を施す。より具体的には、仮想カメラVcが撮影した画像において、点Cが射影された画素を中心とする近傍における所定範囲の画素の画素値の平均又は重み付き平均を、当該画素の画素値とする。
これらの処理(a)〜(d)を、要素画像のすべての画素について行う。
更に、すべての要素画像について、同様の処理を行う。
なお、図6において、3次元形状モデルObjは、立体表示装置1の前面側に配置されているが、これに限定されるものではなく、背面側(図6において、レンズアレー12の左側)に配置されるものであってもよい。
これは基本的な方法であり、適宜に、高速アルゴリズムを用いて、リアルタイムでIP立体像を生成することもできる。このような高速アルゴリズムとしては、例えば、参考文献2又は参考文献3に記載された手法を用いることができる。
参考文献2:Y.Iwadate and M.Katayama,"Generating Integral image from 3D object by using Oblique projection",IDW2011,3Dp-1,2011
参考文献3:特開2012−84105号公報
(5.3次元形状モデルの座標変換)
次に、座標変換手段61によって行われる3次元形状モデルの座標変換について説明する。
本実施形態では、座標変換式として、式(12)を用いて、3次元形状モデルの座標データを再生空間座標系である第1立体表示装置1のレンズアレー座標から第2立体表示装置1のレンズアレー座標へ座標変換する。例えば、3次元形状モデルが、三角形パッチを繋ぎ合わせたポリゴンモデルを用いたCG(コンピュータグラフィックス)データである場合は、3次元形状モデルを構成する三角形パッチの頂点の座標を、第2立体表示装置1のレンズアレー座標に変換する。
(6.IP立体像の生成)
第2立体像生成装置6のIP立体像生成手段62においては、第2立体表示装置1のレンズアレー座標に変換された3次元形状モデルを用いて、IP立体像のデータが生成される。3次元形状モデルの座標系が変換されていること以外は、第1立体像生成装置5のIP立体像生成手段53と同様にしてIP立体像を生成することができるため、IP立体像データの生成手順の説明は省略する。
[立体表示システムの動作]
次に、図7を参照(適宜図4参照)して、立体表示システム100の動作として、第1立体像生成装置5及び第2立体像生成装置6の動作を主体として説明する。
まず、図7(a)を参照して、第1立体像生成装置5を主体とする動作について説明する。
図7(a)に示すように、まず、第1立体像生成装置5は、カメラ4によって複数の立体表示装置1に設けられたマーカー2が撮影されたマーカー画像のデータを立体表示装置位置・方向算出手段51に入力する(ステップS10)。
次に、第1立体像生成装置5は、立体表示装置位置・方向算出手段51によって、マーカー画像中の複数のマーカー像を個々に分離し(ステップS11)、第1立体表示装置1についてのマーカー像を解析して、その位置及び方向に関する情報を算出するとともに(ステップS12)、第2立体表示装置1についてのマーカー像を解析して、その位置及び方向に関する情報を算出する(ステップS13)。
また、第1立体像生成装置5は、立体表示装置位置・方向算出手段51によって、算出した各立体表示装置1の位置及び方向に関する情報である式(6)及び式(7)を座標変換式算出手段52に出力する。
なお、ステップS12とステップS13とは、何れを先に行ってもよく、並行して行ってもよい。また、複数の第2立体表示装置1がある場合には、すべての第2立体表示装置1についてのマーカー像を解析して、その位置及び方向に関する情報を算出する。
次に、第1立体像生成装置5は、座標変換式算出手段52によって、ステップS12及びステップS13で算出された立体表示装置1の位置及び方向に関する情報である式(6)及び式(7)と、立体表示装置1のマーカー座標からレンズアレー座標への予め定められた座標変換式である式(8)及び式(9)とを用いて、式(12)に示した座標変換式を算出する(ステップS14)。
第1立体像生成装置5は、座標変換式算出手段52によって、ステップS14で算出した座標変換式を、第2立体像生成装置6の座標変換手段61に送信する(ステップS15)。
また、第1立体像生成装置5は、IP立体像生成手段53によって、3次元形状モデル記憶手段54に記憶されている3次元形状モデルのデータを用いて、第1立体表示装置1のレンズアレー12の各要素レンズに対応した要素画像を表示するためのIP立体像データを生成する(ステップS16)。
第1立体像生成装置5は、IP立体像生成手段53によって生成したIP立体像のデータを第1立体表示装置1の画像表示手段11に出力する。
ここで、ステップS16の処理と、ステップS10からステップS15の処理とは、何れを先に行ってもよく、並行して行うようにしてもよい。
なお、第1立体表示装置1は、画像表示手段11によって、第1立体像生成装置5から入力したIP立体像のデータに基づいて画像表示をすることで、立体像再生領域3に立体像を再生する。
次に、図7(b)を参照して、第2立体像生成装置6を主体とする動作について説明する。
第2立体像生成装置6は、ステップS15で第1立体像生成装置5の座標変換式算出手段52から送信された座標変換式(式(12))を受信し、受信した座標変換式を座標変換手段61に入力する(ステップS20)。
次に、第2立体像生成装置6は、座標変換手段61によって、ステップS20で入力した座標変換式を用いて、3次元形状モデル記憶手段63に記憶されている3次元形状モデルの座標データを第2立体表示装置1のレンズアレー座標に変換し、座標変換した3次元形状モデルのデータをIP立体像生成手段62に出力する(ステップS21)。
次に、第2立体像生成装置6は、IP立体像生成手段62によって、ステップS21で座標変換された3次元形状モデルを用いて、第2立体表示装置1のレンズアレー12の各要素レンズに対応した要素画像を表示するためのIP立体像データを生成する(ステップS22)。
第2立体像生成装置6は、IP立体像生成手段62によって生成したIP立体像のデータを第2立体表示装置1の画像表示手段11に出力する。
なお、第2立体表示装置1は、画像表示手段11によって、第2立体像生成装置6から入力したIP立体像のデータに基づいて画像表示をすることで、立体像再生領域3に立体像を再生する。
以上のようにして、立体表示システム100は、IP方式の複数の立体表示装置1を用いて、1つの共通する立体像について、位置合わせして分散表示することができる。
IP方式の立体表示装置1では、画像表示面に対する観察方向を上下左右に変えることにより、異なる方向から見た立体像が表示されるため、回り込んで観察するかのように立体像を表示することができる。ここで、画像表示面は一般に平面であるため、1台の装置では立体像を回り込んで観察できる方向に限度がある。そこで、本発明のように複数台の立体表示装置1を用いて、基準となる第1立体表示装置1が表示する立体像に位置を合わせるように分散表示することにより、更に多方向から観察可能なように1つの立体像を表示することができる。
また、本実施形態では、各立体表示装置1にマーカー2を設け、カメラ4で撮影したマーカー画像を解析することで、立体表示装置1の位置及び方向を検出するようにしたが、位置及び方向の検出手法は、これに限定されるものではない。他の位置及び方向を検出するセンサ、例えば、3軸の磁気センサ及び3軸の加速度センサを、各立体表示装置1に設け、これらのセンサ出力を用いて、式(6)及び式(7)に示した関係式を算出するようにしてもよい。この場合、各立体表示装置1に設けられたセンサの出力値は、第1立体像生成装置5に入力され、立体表示装置位置・方向算出手段51で式(6)及び式(7)を算出するようにすればよい。
なお、本実施形態のように、カメラ4で、各立体表示装置1に設けられたマーカー2を同時に撮影し、複数のマーカー像が撮影されたマーカー画像中の所定形状の図形の変形状態を解析して立体表示装置1同士の位置及び方向の関係を算出する場合は、計測器として1台のカメラ4を用いて立体表示装置1の位置及び方向を同時に計測することになる。このため、各立体表示装置1に、個別に位置及び方向を計測する計測器を設け、それらの測定データを用いて位置及び方向を算出する場合に比べて、計測誤差が累積しないため、立体表示装置1同士の相対的な位置関係を高精度に算出することができる。
また、特にIP方式の立体表示装置のように、観察方向の移動に応じて立体像を回り込んで観察可能に表示する場合は、複数の立体表示装置が再生する立体像間の位置合わせ精度の不足により不連続性が感知されやすい。本発明により、複数の立体表示装置1が再生する立体像同士の位置合わせ高精度に行うことができるため、このような不連続性が感知されることを抑制することができる。
<第2実施形態>
次に、図8を参照して、本発明の第2実施形態に係る立体表示システムの構成について説明する。
図8(a)に示すように、第2実施形態に係る立体表示システム100Aは、1台のカメラ4と、1台の第1立体表示装置1A及び8台の第2立体表示装置1A〜1A(以下、適宜に立体表示装置1Aという)と、第1立体像生成装置5と、各第2立体表示装置1A〜1Aに対応する第2立体像生成装置6と、から構成されている。立体表示装置1Aは、何れも箱型の筐体の一面(図8(a)において、ハッチングを施した面)にレンズアレー12を備えた画像表示手段11が設けられている。
また、第2実施形態における立体表示装置1Aにおいて、レンズアレー12及び画像表示手段11からなる立体表示部の構成は、図3に示した第1実施形態における立体表示装置1と同様であるから、説明は省略する。また、第1立体像生成装置5及び第2立体像生成装置6についても、第1実施形態と同様であるから、同じ符号を付して詳細な説明は省略する。
なお、第1立体像生成装置5及び第2立体像生成装置6は、例えば、1台のコンピュータを用いて、一体として構成するようにしてもよい。
本実施形態では、立体表示装置1Aを箱型に構成することにより、複数台の立体表示装置1Aを積み重ねて、自由度高く表示画面を構成することができる。
なお、筐体は、辺の部分だけで構成される枠体であってもよく、立体表示装置1A同士を積層又は連結可能な構造のものであればよい。
このように、立体表示装置1Aを積み重ね可能に構成することにより、より多彩な形状や大きさの立体像を適切に分散表示することができる。
また、図8(b)に示すように、立体表示装置1Aの箱型の筐体の背面には、マーカー2が設けられている。このマーカー2は、図8(a)に示すように、後方に配置されたカメラ4によって撮影され、撮影されたマーカー画像は、第1立体像生成装置5に入力される。第1立体像生成装置5は、マーカー画像を解析して、第1立体表示装置1Aと、第2立体表示装置1A〜1Aのそれぞれとの間の座標変換式を算出し、対応する第2立体像生成装置6に出力する。また、第1立体像生成装置5は、第1立体表示装置1Aのレンズアレー座標で定義された3次元形状モデルを用いてIP立体像データを生成し、第1立体表示装置1Aに出力する。
一方、各第2立体像生成装置6は、第1立体像生成装置5から、それぞれ対応する座標変換式を入力し、その座標変換式を用いて3次元形状モデルを座標変換する。そして座標変換した3次元形状モデルを用いてIP立体像を生成し、対応する第2立体表示装置1A〜1Aに出力する。
なお、図8(a)に示した例のように、座標系の基準となる第1立体表示装置1Aを中心に配置して、各第2立体表示装置1A〜1Aとの位置が大きく離れないようにすることが好ましい。これによって、第1立体表示装置1Aのマーカー2と対にして各第2立体表示装置1A〜1Aのマーカー2を分割撮影する場合に、カメラのズームを広角にし過ぎることない。このため、マーカー像が大きく撮影され、座標変換式を精度よく算出することができる。
1 立体表示装置
第1立体表示装置
第2立体表示装置
1A 立体表示装置
1A 第1立体表示装置
1A〜1A 第2立体表示装置
11 画像表示手段
12 レンズアレー
13 筐体
2 マーカー(位置・方向計測手段)
2a 外枠図形
2b 模様
2c 台紙
3 立体像再生領域
4 カメラ(位置・方向計測手段)
5 第1立体像生成装置(立体像生成装置)
51 立体表示装置位置・方向算出手段(位置・方向算出手段)
52 座標変換式算出手段
53 IP立体像生成手段(第1立体像生成手段)
54 3次元形状モデル記憶手段
6 第2立体像生成装置(立体像生成装置)
61 座標変換手段
62 IP立体像生成手段(第2立体像生成手段)
63 3次元形状モデル記憶手段
100,100A 立体表示システム

Claims (10)

  1. 裸眼方式の複数の立体表示装置の中から任意に定めた1つを第1立体表示装置とし、その他を第2立体表示装置として、共通する3次元形状モデルについての立体像を分散表示する立体表示システムであって、
    複数の前記立体表示装置と、
    前記第1立体表示装置に立体像表示用の画像データを生成する第1立体像生成装置と、
    前記第2立体表示装置に立体像表示用の画像データを生成する第2立体像生成装置と、
    前記複数の立体表示装置の位置及び方向を検出するための計測を行う、位置・方向計測手段と、を備え、
    前記第1立体像生成装置は、
    前記位置・方向計測手段が計測した位置及び方向に関する計測データを用いて、前記第1立体表示装置及び前記第2立体表示装置のそれぞれについての位置及び方向に関する情報を算出する位置・方向算出手段と、
    前記第1立体表示装置についての前記位置及び方向に関する情報と、前記第2立体表示装置についての前記位置及び方向に関する情報とを用いて、前記第1立体表示装置を基準とする座標系から、当該第2立体表示装置を基準とする座標系に変換する座標変換式を算出し、算出した座標変換式を前記第2立体像生成装置に送信する座標変換式算出手段と、
    前記第1立体表示装置を基準とする座標系で定義された前記3次元形状モデルを用いて、前記第1立体表示装置に当該3次元形状モデルについての立体像を表示するための画像データを生成する第1立体像生成手段と、を備え、
    前記第2立体像生成装置は、
    前記第1立体像生成装置の前記座標変換式算出手段が算出した前記座標変換式を受信し、受信した当該座標変換式を用いて、前記3次元形状モデルの座標データを座標変換する座標変換手段と、
    前記座標変換された3次元形状モデルを用いて、前記第2立体表示装置に当該3次元形状モデルについての立体像を表示するための画像データを生成する第2立体像生成手段と、を備えることを特徴とする立体表示システム。
  2. 前記位置・方向計測手段として、
    前記複数の立体表示装置のそれぞれに、所定形状の図形を有するマーカーを設けるとともに、前記マーカーを撮影するカメラを備え、
    前記位置・方向算出手段は、
    前記カメラが撮影した画像中の、前記立体表示装置に設けられたマーカーの像の前記所定形状の図形の変形状態を解析して、前記立体表示装置の位置及び方向に関する情報を算出することを特徴とする請求項1に記載の立体表示システム。
  3. 前記カメラは、前記第1立体表示装置に設けられたマーカーと、前記第2立体表示装置に設けられたマーカーとを、同時に撮影し、
    前記位置・方向算出手段は、前記第1立体表示装置に設けられたマーカーと、前記第2立体表示装置に設けられたマーカーとが同時に撮影された画像中のそれぞれのマーカーの前記所定形状の図形の変形状態を解析することで、前記第1立体表示装置及び前記第2立体表示装置の位置及び方向に関する情報を算出することを特徴とする請求項2に記載の立体表示システム。
  4. 前記裸眼方式は、IP(インテグラル・フォトグラフィ)方式であることを特徴とする請求項1乃至請求項3の何れか一項に記載の立体表示システム。
  5. 前記立体表示装置は、
    複数の要素画像からなる要素画像群を表示する画像表示手段と、
    前記要素画像群のそれぞれの要素画像に対応する要素レンズを二次元配列したレンズアレーと、を備え、
    前記立体表示装置に定義された座標系は、前記レンズアレーを基準として定められたレンズアレー座標系であり、前記マーカーを基準として定められたマーカー座標系が、前記レンズアレー座標系と平行移動の関係となるように、前記マーカーが設けられたことを特徴とする請求項2又は請求項3の何れかを引用する請求項4に記載の立体表示システム。
  6. 前記立体表示装置は、互いに積み重ね可能な箱型に形成されたことを特徴とする請求項1乃至請求項5の何れか一項に記載の立体表示システム。
  7. 裸眼方式の複数の立体表示装置に、共通する3次元形状モデルについての立体像を分散表示する立体表示システムで用いられ、前記立体表示装置に前記3次元形状モデルについての立体像を表示するための画像データを生成する立体像生成装置であって、
    請求項1乃至請求項6の何れか一項に記載の第1立体像生成装置であることを特徴とする立体像生成装置。
  8. 裸眼方式の複数の立体表示装置に、共通する3次元形状モデルについての立体像を分散表示する立体表示システムで用いられ、前記立体表示装置に前記3次元形状モデルについての立体像を表示するための画像データを生成する立体像生成装置であって、
    請求項1乃至請求項6の何れか一項に記載の第2立体像生成装置であることを特徴とする立体像生成装置。
  9. コンピュータを、請求項7に記載の立体像生成装置として機能させるための立体像生成プログラム。
  10. コンピュータを、請求項8に記載の立体像生成装置として機能させるための立体像生成プログラム。
JP2012270889A 2012-12-12 2012-12-12 立体表示システム、立体像生成装置及び立体像生成プログラム Expired - Fee Related JP6073123B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012270889A JP6073123B2 (ja) 2012-12-12 2012-12-12 立体表示システム、立体像生成装置及び立体像生成プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012270889A JP6073123B2 (ja) 2012-12-12 2012-12-12 立体表示システム、立体像生成装置及び立体像生成プログラム

Publications (2)

Publication Number Publication Date
JP2014116867A JP2014116867A (ja) 2014-06-26
JP6073123B2 true JP6073123B2 (ja) 2017-02-01

Family

ID=51172432

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012270889A Expired - Fee Related JP6073123B2 (ja) 2012-12-12 2012-12-12 立体表示システム、立体像生成装置及び立体像生成プログラム

Country Status (1)

Country Link
JP (1) JP6073123B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102527566B1 (ko) * 2015-11-11 2023-05-03 소니그룹주식회사 화상 처리 장치 및 화상 처리 방법
CN111127629A (zh) * 2019-11-28 2020-05-08 武汉烽火信息集成技术有限公司 一种动态三维可视化系统及方法
JP2022170264A (ja) * 2021-04-28 2022-11-10 ソニーグループ株式会社 情報処理装置、情報処理方法およびプログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001318664A (ja) * 2000-05-08 2001-11-16 Toppan Printing Co Ltd 映像表示システム
JP4095241B2 (ja) * 2000-11-16 2008-06-04 日本放送協会 立体画像撮影装置と立体画像表示装置
JP5541974B2 (ja) * 2010-06-14 2014-07-09 任天堂株式会社 画像表示プログラム、装置、システムおよび方法

Also Published As

Publication number Publication date
JP2014116867A (ja) 2014-06-26

Similar Documents

Publication Publication Date Title
CN110809786B (zh) 校准装置、校准图表、图表图案生成装置和校准方法
CA2888943C (en) Augmented reality system and method for positioning and mapping
JP4532982B2 (ja) 配置情報推定方法および情報処理装置
CN104160426B (zh) 图像处理装置和图像处理方法
US7583307B2 (en) Autostereoscopic display
WO2012176945A1 (ko) 차량 주변 시각화를 위한 3차원 영상 합성장치 및 그 방법
US20130249901A1 (en) Systems and methods for geometrically mapping two-dimensional images to three-dimensional surfaces
CN109155070A (zh) 使用平面镜校准立体成像系统的方法和计算机程序产品
KR20160116075A (ko) 카메라로부터 획득한 영상에 대한 자동보정기능을 구비한 영상처리장치 및 그 방법
JP7218435B2 (ja) キャリブレーション装置、キャリブレーション用チャート、およびキャリブレーション方法
JP2006267879A (ja) 画像処理方法、画像処理装置、マーカ
CN110337674A (zh) 三维重建方法、装置、设备及存储介质
KR20200056721A (ko) 증강현실 기기의 광학 특성 측정 방법 및 장치
CN106767526A (zh) 一种基于激光mems振镜投影的彩色多线激光三维测量方法
CN110807431A (zh) 对象定位方法、装置、电子设备及存储介质
JP6073123B2 (ja) 立体表示システム、立体像生成装置及び立体像生成プログラム
KR20190130407A (ko) 전방위 카메라의 캘리브레이션을 위한 장치 및 방법
CN111311659A (zh) 一种基于斜交平面镜三维成像的校准方法
JP7141833B2 (ja) 画像処理装置および画像処理プログラム
CN108450031A (zh) 图像捕获装置
JP5252703B2 (ja) 立体映像表示装置、立体映像表示方法、及び立体映像表示プログラム
JP6073121B2 (ja) 立体表示装置及び立体表示システム
JP6854472B2 (ja) 撮像装置、及び撮像方法
JP2018074463A (ja) 画像生成装置、画像表示システム及びプログラム
JP4810403B2 (ja) 情報処理装置、情報処理方法

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20140328

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160726

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170104

R150 Certificate of patent or registration of utility model

Ref document number: 6073123

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees