JP2010079514A - 画像出力装置および3次元画像表示システム - Google Patents
画像出力装置および3次元画像表示システム Download PDFInfo
- Publication number
- JP2010079514A JP2010079514A JP2008245937A JP2008245937A JP2010079514A JP 2010079514 A JP2010079514 A JP 2010079514A JP 2008245937 A JP2008245937 A JP 2008245937A JP 2008245937 A JP2008245937 A JP 2008245937A JP 2010079514 A JP2010079514 A JP 2010079514A
- Authority
- JP
- Japan
- Prior art keywords
- image
- image data
- cores
- output
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Multi Processors (AREA)
- Processing Or Creating Images (AREA)
Abstract
【課題】マルチコアプロセッサを用いて複数の画像データを効率的に並列処理して出力可能にする。
【解決手段】複数の画像メモリ51〜54と、マルチコアプロセッサ21内の複数のコア31〜34とを、バス25を介して1対1に対応させる。そして、複数のコア31〜34によって画像処理された複数の画像データを、バス25を介して複数の画像メモリ51〜54に並列的に格納する。複数の画像メモリ51〜54に格納された複数の画像データは、複数の出力I/F55〜58によって並列的に出力される。すなわち、ビデオカードのGPUを用いることなく、マルチコアプロセッサ21によって直接的に画像処理された複数の画像データを、複数の画像メモリ51〜54および複数の出力I/F55〜58を介して並列的に出力する。これにより、マルチコアプロセッサ21が有するコアの数だけ並列的に画像処理を行って並列的な画像出力が可能となる。
【選択図】図1
【解決手段】複数の画像メモリ51〜54と、マルチコアプロセッサ21内の複数のコア31〜34とを、バス25を介して1対1に対応させる。そして、複数のコア31〜34によって画像処理された複数の画像データを、バス25を介して複数の画像メモリ51〜54に並列的に格納する。複数の画像メモリ51〜54に格納された複数の画像データは、複数の出力I/F55〜58によって並列的に出力される。すなわち、ビデオカードのGPUを用いることなく、マルチコアプロセッサ21によって直接的に画像処理された複数の画像データを、複数の画像メモリ51〜54および複数の出力I/F55〜58を介して並列的に出力する。これにより、マルチコアプロセッサ21が有するコアの数だけ並列的に画像処理を行って並列的な画像出力が可能となる。
【選択図】図1
Description
本発明は、1つのCPU(Central Processing Unit)内に複数のCPUコアを有するマルチコアプロセッサを用いて画像処理を行う画像出力装置、およびその画像出力装置から出力された画像データに基づいて立体表示を行う3次元画像表示システムに関する。
従来より、立体映像を表示する方式として、観察者の両眼に視差画像と呼ばれる各々異なる映像を見せることにより立体感が得られる2眼式による表示方式や、それら視差画像を複数組用意することにより異なる視点からの立体映像を提供する多眼式の表示方式がある。しかしながら、これらの方式による立体映像は、物理的に立体画像として意図した位置にあるのではなく、例えば各々の画像が2次元のディスプレイ面上に存在し、常にその位置は一定の位置に存在する。このことから、特に視覚系生理反応である輻輳と調節とが連動せず、それに伴う眼精疲労が問題となっている。
これに対し、より自然な立体映像を表示する方式として、光線再生法またはインテグラルフォトグラフィ法と呼ばれる光線再生技術がある。光線再生技術による立体映像は、空間中の任意の点に複数の方向(視点)からの像が多重結像されたものであり、実世界における3次元物体を見たときと同様、任意の点について、見る位置によって見え方が異なる。
光線再生技術を用いたものとしては、液晶ディスプレイやプラズマディスプレイなどのディスプレイデバイスとマイクロレンズアレイやピンホールアレイとを組み合わせた装置が提案されている。また、プロジェクタを多数並べた装置も考えられている。図23は、プロジェクタを用いて光線再生を実現した3次元表示装置の一構成例を示している。この装置は、多数のプロジェクタユニット101を縦方向と横方向とに並列的に配置し、各プロジェクタユニット101から角度の異なる光線を出射するようにしたものである。これにより、ある断面102内の任意の点において多視角の像を多重再生し、立体映像を実現している。
このような光線再生法による立体表示では、多数の視差画像を同時に再生する必要があり、視差数の分だけ情報量が増大する。そこで、特許文献1には、光線再生法による立体表示を行う画像表示システムにおいて、視差画像の一部を表示する視差画像表示手段を複数備え、各視差画像表示手段に、視差画像として圧縮符号化された動画像情報を送り込むことで多数の視差画像の再生を行えるようにした技術が開示されている。ところで、多数の視差画像を同時に再生するためには高速な画像処理が必要となる。高速な画像処理を行うために、1つのCPU内に複数のCPUコアを有するマルチコアプロセッサを積極的に用いることが考えられる。特許文献2には、マルチコアプロセッサを用いた画像処理システムに関する発明が開示されている。特許文献3には、マルチコアプロセッサを用いたマルチタスク制御の最適化に関する発明が開示されている。
特開2004−32273号公報
特開2006−318281号公報
特開2006−39822号公報
上記した光線再生技術によれば、2眼式および多眼式立体映像では不可能であった視覚機能としての焦点調節および両眼輻輳角調節に対して有効に働く程度の光線により像を生成することで、眼精疲労が極めて少ない立体映像を提供することができる。それだけでなく、仮想物体上の同一要素より複数の方向へ連続的に光線が出射されていることから、視点位置の移動に伴う映像の変化を連続的に提供することができる。
しかしながら、現状の光線再生技術により生成された映像は、実世界における物体と比較すると臨場感に欠ける。これは、現状の光線再生技術による立体映像が実世界の物体から観察者が得る情報量に対して非常に少量の情報、すなわち少量の光線によって生成されていることが原因であると考えられる。一般的に人間の視認限界は角度分解能で1分程度といわれており、現状の光線再生技術による立体映像は、この人間の視覚に対して不十分な光線によって生成されている。従って、実世界の物体が持つような高い臨場感やリアリティを有する立体映像を生成するためには、少なくとも多量の光線により映像を生成することが課題であるといえる。
この実現のためには、まず空間的に高い密度で光線群を生成することのできる技術が必要である。解決手段としては、液晶ディスプレイなどのディスプレイデバイスの表示密度を高くすることが考えられる。また、図23に示したような多数のプロジェクタユニット101を配置する装置の場合には、各プロジェクタユニット101を極小化し、空間的に高い密度で並べることが考えられる。しかしながら、現在のディスプレイデバイスにおける表示密度の飛躍的な向上は光利用効率や回折限界の問題から困難である。図23の装置の場合には、各プロジェクタユニット101を極小化するのには限界があるため、空間的に高い密度で並べることは困難であると考えられる。いずれの場合にも高密度光線群を生成するためには、複数のデバイスが必要となり、装置全体の大型化は避けられない。
また、光線再生法を用いた立体映像を再生する際には、数多くの視差画像を同時に投射しなければならない。例えば、100視差の立体動画を再生するには、100個の視差画像を3次元動画としての1フレーム期間内に同時に投射することになる。従って、再生する情報量は2次元動画の100倍になる。この場合例えば、再生機器(コンピュータなど)が事前に各視差画像再生装置に画像データを転送し、各視差画像を同時に再生させる。光線再生法を用いて高精細な動画を再生するためには、大量の視差画像を高速で再生する技術の開発が望まれている。上記特許文献1では、視差画像として圧縮符号化されたデータを転送するなどして視差画像の再生の高速化を図っているが、これよりもさらに大量、かつ高速な再生手法が必要とされている。また、上記特許文献2,3には、マルチコアプロセッサを用いて画像処理等の処理を効率的に行うための技術が開示されているが、立体表示を行うための処理に最適化されたものではない。
図24は、立体表示を行うために必要とされる複数の画像データ(視差画像データ)を出力する画像出力装置を複数備えた画像出力システムの構成例を示している。この画像出力システムは、画像出力装置としての画像再生用PC(パーソナル・コンピュータ)520を複数備え、それらをLAN(ローカル・エリア・ネットワーク)501を介して互いに並列的にネットワーク接続したものである。この画像出力システムはまた、複数の画像再生用PC520から出力される複数の画像データの同期を取るための同期マスタPC510を備えている。各画像再生用PC520は、LANインタフェース(I/F)520と、CPU521と、システムメモリ(メインメモリ)522と、ビデオカード550と、これらの各構成要素を内部接続するバス525とを備えている。
LAN501およびLAN I/F520は、高速かつ大容量のデータ転送を行うために例えばギガビット・イーサネット(登録商標)などの高速通信規格に対応している。ビデオカード550は、ビデオボードあるいはグラフィックスカードとも呼ばれる拡張カードであり、例えばPCI Express規格によるインタフェース526により、バス525に接続されている。ビデオカード550は、2チャンネル(2CH)のデータ出力が可能であり、第1のGPU(Graphic Processing Unit)551と、第2のGPU552と、画像メモリ553と、第1の出力インタフェース(I/F)554と、第2の出力インタフェース(I/F)555とを有している。出力I/F554,555は、例えばDVI(Digital Visual Interface)規格のインタフェースである。
この画像出力システムでは、図示しない3次元画像生成装置から、圧縮された3次元動画データがLAN501を介して各画像再生用PC520に供給される。各画像再生用PC520では、供給された3次元動画データをシステムメモリ522に一時的に格納する。CPU521は、ビデオカード550内のGPU551,552に対して所定の画像処理を行わせる。GPU551,552は例えば、システムメモリ522に格納された3次元動画データに対して、解凍処理等の所定の画像処理を行い、その解凍後の画像データをビデオカード550内の画像メモリ553に展開する。画像メモリ553に展開された画像データは、第1のGPU551および第1の出力I/F554と、第2のGPU552および第2の出力I/F555とによって、2チャンネルで画像出力される。このとき、同期マスタPC510から出力されたVSync信号(垂直同期信号)に基づいて、各チャンネル間で出力タイミングの同期を取ることができる。なお、同様のビデオカード550を1つの画像再生用PC520内で2つ接続すれば、1つの画像再生用PC520で合計4チャンネル(4CH)のデータ出力が可能である。しかしながら、現状のPCの性能では、1つの画像再生用PC520では2チャンネルでのデータ出力の構成が現実的である。
この画像出力システムでは、画像再生用PC520を複数並列的に備えることで、3次元動画データを構成する複数の視差画像データを3次元動画としての1フレーム期間内で分割して複数出力することができる。出力された複数の視差画像データは、例えば図23に示した3次元表示装置における各プロジェクタユニット101に出力されて立体表示が行われる。
この画像出力システムでは、各画像再生用PC520においてビデオカード550内にGPU551,552を有していることで、CPU521の処理とは独立して、単独で画像処理が可能である。このため、CPU521では、画像処理以外の他の処理を同時に実行することができ、装置の用途に多様性を持たせることができる。特に、CPU521として、マルチコアプロセッサを用いた場合には複数の処理を同時に並行して行うことができるので、より多様性を持たせることができる。なお、マルチコアプロセッサとしては、例えば2つのコアを持つCore 2 Duo(インテル社の登録商標)や、4つのコアを持つCore 2 Quad(インテル社の登録商標)などがある。しかしながら、各画像再生用PC520を、視差画像データを出力する用途として専用に用いることを考えた場合、逆に、無駄が多く非効率的な構成であると言える。例えばCPU521として4つのコアを持つマルチコアプロセッサを用いたとしても、各画像再生用PC521での画像処理能力は実質的にビデオカード550の構成に依存し、現実的には2チャンネルでのデータ出力しかできない。各画像再生用PC521において4チャンネルでのデータ出力を行うためには、ビデオカード550を2つ備える必要がある。その場合、ビデオカード550による排熱、消費電力、およびノイズなどが増加することが考えられ、多数の視差画像を同時に再生するような用途としては問題がある。
本発明はかかる問題点に鑑みてなされたもので、その目的は、マルチコアプロセッサを用いて複数の画像データを効率的に並列処理して出力することができるようにした画像出力装置、および3次元画像表示システムを提供することにある。
本発明による画像出力装置は、バスと、内部に複数のコアを有すると共に、複数のコアがそれぞれ独立してバスに接続され、供給された画像データに対して複数のコアによって所定の画像処理を並列的に行うマルチコアプロセッサと、それぞれが独立してバスに接続されると共に、バスを介して複数のコアのそれぞれに対応して設けられ、複数のコアによって画像処理された複数の画像データをバスを介して並列的に格納する複数の画像メモリと、複数の画像メモリのそれぞれに対応して設けられ、複数の画像メモリに格納された複数の画像データを並列的に出力する複数の出力インタフェースとを備えたものである。
本発明による画像出力装置では、複数の画像メモリと、マルチコアプロセッサ内の複数のコアとが、バスを介して1対1に対応して接続される。そして、複数のコアによって画像処理された複数の画像データが、バスを介して複数の画像メモリに並列的に格納される。複数の画像メモリに格納された複数の画像データは、複数の出力インタフェースによって並列的に出力される。すなわち、マルチコアプロセッサによって直接的に画像処理された複数の画像データが、複数の画像メモリおよび複数の出力インタフェースを介して並列的に出力される。これにより、マルチコアプロセッサが有するコアの数だけ並列的に画像処理を行って並列的な画像出力が可能となる。このため、画像処理専用のGPUを用いる必要が無くなる。
本発明による3次元画像表示システムは、複数の視差画像を含む画像データを複数出力する画像出力装置と、画像出力装置から出力された複数の画像データに基づいて立体表示を行う3次元表示装置とを備えている。そして、画像出力装置を、バスと、内部に複数のコアを有すると共に、複数のコアがそれぞれ独立してバスに接続され、供給された画像データに対して複数のコアによって所定の画像処理を並列的に行うマルチコアプロセッサと、それぞれが独立してバスに接続されると共に、バスを介して複数のコアのそれぞれに対応して設けられ、複数のコアによって画像処理された複数の画像データをバスを介して並列的に格納する複数の画像メモリと、複数の画像メモリのそれぞれに対応して設けられ、複数の画像メモリに格納された複数の画像データを並列的に出力する複数の出力インタフェースとを有する構成にしたものである。
本発明による3次元画像表示システムでは、画像出力装置内において、複数の画像メモリとマルチコアプロセッサ内の複数のコアとが、バスを介して1対1に対応して接続される。そして、複数のコアによって画像処理された複数の画像データが、バスを介して複数の画像メモリに並列的に格納される。複数の画像メモリに格納された複数の画像データは、複数の出力インタフェースによって並列的に3次元表示装置に出力される。すなわち、マルチコアプロセッサによって直接的に画像処理された複数の画像データが、複数の画像メモリおよび複数の出力インタフェースを介して並列的に3次元表示装置に出力される。これにより、マルチコアプロセッサが有するコアの数だけ並列的に画像処理を行って並列的な画像出力が可能となる。このため、画像処理専用のGPUを用いる必要が無くなる。3次元表示装置では、画像出力装置から出力された複数の画像データに基づいて立体表示が行われる。
本発明の画像出力装置によれば、複数の画像メモリと、マルチコアプロセッサ内の複数のコアとをバスを介して1対1に対応するように接続し、複数のコアによって画像処理された複数の画像データを、複数の画像メモリおよび複数の出力インタフェースを介して並列的に出力するようにしたので、マルチコアプロセッサが有するコアの数だけ並列的に画像処理を行って並列的に出力することが可能となる。これにより、マルチコアプロセッサを用いて複数の画像データを効率的に並列処理して出力することができる。
本発明の3次元画像表示システムによれば、視差画像データを出力する画像出力装置として本発明の画像出力装置を用いるようにしたので、画像出力装置においてビデオカードのGPUを用いることなく、マルチコアプロセッサが有するコアの数だけ並列的に画像処理を行って並列的に出力することが可能となる。これにより、マルチコアプロセッサを用いて複数の画像データを効率的に並列処理して3次元表示装置に出力することができ、効率的な立体表示が可能となる。
以下、本発明の実施の形態について図面を参照して詳細に説明する。
[第1の実施の形態]
[第1の実施の形態]
まず、本発明の第1の実施の形態として、画像出力装置を複数備えた画像出力システムについて説明する。また、本実施の形態では、画像出力装置が、立体表示を行うために必要とされる複数の画像データ(視差画像データ)を出力するものとして説明する。図1は、その画像出力システムの構成例を示している。この画像出力システムは、画像出力装置としての画像再生用PC(パーソナル・コンピュータ)20を複数備え、それらをLAN(ローカル・エリア・ネットワーク)62を介して互いに並列的にネットワーク接続したものである。
この画像出力システムはまた、3次元動画データ(3D Data)を供給する3次元画像生成装置60と、複数の画像再生用PC20から出力される複数の画像データの同期を取るための同期マスタPC61とを備えている。3次元画像生成装置60と同期マスタPC61は、LAN62を介して各画像再生用PC20に接続されている。3次元画像生成装置60は、3次元動画データと共に、後述するソフトウエア同期信号(S.Sync)を出力するようになっている。3次元画像生成装置60が供給する3次元動画データは、動画としての1フレーム内に複数の視差画像のデータが含められた大容量のデータである。このため、3次元画像生成装置60は、データ転送の負荷を低減しつつ高速でデータ転送を行うために、圧縮された3次元動画データを出力するようになっている。同期マスタPC61は、同期信号として垂直同期信号(VSync)を出力するようになっている。
各画像再生用PC20は、マルチコアプロセッサ21と、システムメモリ(メインメモリ)22と、LANインタフェース(I/F)23と、同期制御回路24と、第1〜第4の画像メモリ51〜54と、これらの各構成要素を内部接続するバス25とを備えている。各画像再生用PC20はまた、第1〜第4の画像メモリ51〜54に対応して設けられ、第1〜第4の画像メモリ51〜54に格納された複数の画像データを並列的に出力する第1〜第4の出力インタフェース(I/F)55〜58を備えている。
LAN I/F23は、各画像再生用PC20をLAN62に接続するための通信インタフェースである。LAN62およびLAN I/F23は、高速かつ大容量のデータ転送を行うために例えばギガビット・イーサネット(登録商標)などの高速通信規格に対応していることが好ましい。第1〜第4の出力I/F55〜58は、例えばDVI(Digital Visual Interface)規格のインタフェースである。また、LVDS(Low Voltage Differential Signaling)やその他の規格のインタフェースであっても良い。また、データの出力先のデバイス専用の規格のインタフェースであっても良い。
マルチコアプロセッサ21は、第1〜第4のコア31〜34と、これらの4つのコア31〜34を制御する制御プロセッサ30とを有している。マルチコアプロセッサ21としては、例えばCore 2 Quad(インテル社の登録商標)を用いることができる。第1〜第4のコア31〜34は、それぞれ独立してバス25に接続されている。第1〜第4のコア31〜34は、供給された画像データに対して所定の画像処理を並列的に行う機能を有している。
システムメモリ22は、第1〜第4のコア31〜34による画像処理の対象となる画像データ(3次元動画データ)を一時的に格納するようになっている。第1〜第4のコア31〜34は、画像処理として、システムメモリ22に格納された3次元動画データを所定単位の動画フレームごと(例えば動画の1フレームごと)に複数の画像データに分割して解凍処理を行いつつ、それら分割・解凍された複数の画像データを第1〜第4の画像メモリ51〜54に並列的に転送する処理を行うようになっている。
第1〜第4の画像メモリ51〜54は、それぞれが独立してバス25に接続されている。第1〜第4の画像メモリ51〜54は、バス25を介して第1〜第4のコア31〜34に1対1に対応するように設けられ、第1〜第4のコア31〜34によって画像処理された複数の画像データをバスを介して並列的に格納するようになっている。
ここで、本実施の形態において、第1〜第4のコア31〜34から第1〜第4の画像メモリ51〜54に複数の画像データを並列的に転送するタイミングの同期を取る必要がある。これは、画像データに含まれる複数の視差画像間の同期を取る、すなわち、動画表示したときに異なる視差間の動画連続性を保つためである。本実施の形態では、この同期制御を、3次元画像生成装置60から出力された同期信号S.Syncに基づいて行うようになっている。同期信号S.Syncは、3次元画像生成装置60から直接、またはLAN62およびバス25を介してマルチコアプロセッサ21内の制御プロセッサ30に入力されるようになっている。制御プロセッサ30は、同期信号S.Syncに基づいて、例えば3次元動画の同一フレームに属する複数の視差画像のデータが、第1〜第4の画像メモリ51〜54に同一のタイミングで転送されるように第1〜第4のコア31〜34を制御するようになっている。
また、本実施の形態において、第1〜第4の出力I/F55〜58から出力される複数の画像データは、図示しない3次元表示装置における複数の画像表示デバイス(空間光変調器等)に供給されるものである。複数の画像表示デバイスにおいて、画像表示の同期を取るためには、第1〜第4の出力I/F55〜58から複数の画像データを出力するタイミングの同期を取る必要がある。本実施の形態では、この同期制御を、同期マスタPC61から出力された同期信号VSyncに基づいて行うようになっている。同期信号VSyncは、同期マスタPC61から直接、またはLAN62およびバス25を介してマルチコアプロセッサ21内の制御プロセッサ30に入力されるようになっている。制御プロセッサ30は、同期信号VSyncに基づいて同期制御回路24を介して、第1〜第4の出力I/F55〜58におけるデータ出力のタイミングを制御するようになっている。
なお、同期信号VSyncに基づく同期制御は、3次元表示装置の画像表示デバイスにおける表示フレームの頭出しをするようなもので、いわばハードウエア同期である。これに対して、同期信号S.Syncに基づく同期制御は、3次元動画データにおける動画のコマの同期を取るためのもので、いわばソフトウエア同期である。
ここで、本実施の形態において、制御プロセッサ30と同期制御回路24とが、本発明における「第1の同期制御手段」の一具体例に対応する。制御プロセッサ30はまた、本発明における「第2の同期制御手段」の一具体例に対応する。また、システムメモリ22が、本発明における「画像データ格納手段」の一具体例に対応する。
次に、この画像出力システムの動作を説明する。
この画像出力システムでは、3次元画像生成装置60から、圧縮された3次元動画データがLAN62を介して各画像再生用PC20に供給される。各画像再生用PC20では、供給された3次元動画データをシステムメモリ22に一時的に格納する。マルチコアプロセッサ21は例えば、第1〜第4のコア31〜34によって、システムメモリ22に格納された3次元動画データに対して例えば所定単位の動画フレームごとに複数の画像データに分割して解凍処理を行いつつ、それら分割・解凍された複数の画像データを第1〜第4の画像メモリ51〜54に並列的に転送する。
この画像出力システムでは、3次元画像生成装置60から、圧縮された3次元動画データがLAN62を介して各画像再生用PC20に供給される。各画像再生用PC20では、供給された3次元動画データをシステムメモリ22に一時的に格納する。マルチコアプロセッサ21は例えば、第1〜第4のコア31〜34によって、システムメモリ22に格納された3次元動画データに対して例えば所定単位の動画フレームごとに複数の画像データに分割して解凍処理を行いつつ、それら分割・解凍された複数の画像データを第1〜第4の画像メモリ51〜54に並列的に転送する。
各画像再生用PC20内では、第1〜第4の画像メモリ51〜54と第1〜第4のコア31〜34とが、バス25を介して1対1に対応して接続されているので、システムメモリ22に格納された3次元動画データが4チャンネルの画像データに分割されて並列的に転送され、対応する画像メモリに並列的に格納される。各画像再生用PC20において、第1〜第4の画像メモリ51〜54に格納された画像データは、第1〜第4の出力I/F55〜58を介して4チャンネルで並列的に画像出力され、3次元表示装置の画像表示デバイスに供給される。このようにして、マルチコアプロセッサ21によって直接的に画像処理された複数の画像データが、第1〜第4の画像メモリ51〜54および第1〜第4の出力I/F55〜58を介して並列的に3次元表示装置に出力される。これにより、マルチコアプロセッサ21が有するコアの数だけ並列的に画像処理を行って並列的な画像出力が可能となる。各画像再生用PC20から出力された複数の画像データを、3次元表示装置に適用することで立体表示を行うことができる。このように、この画像出力システムでは、各画像再生用PC20、それ自体が画像出力専用の装置として機能しているので、従来のPCのように、画像処理専用のGPUを用いる必要が無くなる。
この画像出力システムでは、画像再生用PC20を複数並列的に備えることで、3次元動画データを構成する複数の視差画像データを3次元動画としての1フレーム期間内で多数に分割して多数出力することができる。このとき、各画像再生用PC20において、同期マスタPC61から出力されたVSync信号(垂直同期信号)に基づいて、制御プロセッサ30が同期制御回路24を介して、第1〜第4の出力I/F55〜58の各出力チャンネル間での出力タイミングの同期制御を行う。これにより、3次元表示装置における複数の画像表示デバイスにおいて、画像表示の同期を取ることができる。
また、この画像出力システムでは、制御プロセッサ30が、3次元画像生成装置60から出力された同期信号S.Syncに基づいて、例えば3次元動画の同一フレームに属する複数の視差画像のデータが、第1〜第4の画像メモリ51〜54に同一のタイミングで転送されるように第1〜第4のコア31〜34をソフトウエア的に同期制御する。
図2(A)〜(F)は、同期信号S.Syncに基づく同期制御のタイミングの一例を示している。図2(A)に示したように、システムメモリ22に格納される3次元動画データには、第1〜第4の出力I/F55〜58から出力すべき第1〜第4チャンネルCH1〜CH4のデータが含まれている。3次元画像生成装置60では、図2(B)に示したように、各チャンネルに対応するデータごとに同期パルスを出力する。これが同期信号S.Syncである。第1〜第4のコア31〜34では、同期信号S.Syncに含まれる同期パルスに従って、3次元動画データを各チャンネルごとの画像データに分割すると共に、分割された複数の画像データを第1〜第4の画像メモリ51〜54に並列的に同時に転送する(図2(C)〜(F))。
以上説明したように、本実施の形態に係る画像出力システムによれば、各画像再生用PC20において、複数のコア31〜34と複数の画像メモリ51〜54とをバス25を介して1対1に対応するように接続し、複数のコア31〜34によって画像処理された複数の画像データを、複数の画像メモリ51〜54および複数の出力I/F55〜58を介して並列的に出力するようにしたので、マルチコアプロセッサ21が有するコアの数だけ並列的に画像処理を行って並列的に出力することが可能となる。これにより、マルチコアプロセッサ21を用いて複数の画像データを効率的に並列処理して出力することができる。このため、画像処理専用のGPUを用いる必要が無くなる。また、本実施の形態に係る画像出力システムを3次元画像表示システムに適用することで、複数の画像データを効率的に並列処理して3次元表示装置に出力することができ、効率的な立体表示が可能となる。
また、本実施の形態に係る画像出力システムによれば、ビデオカードを用いる場合に比べて、各画像再生用PC20内のハードウエア構成を単純化することができるので、システムの信頼性が向上する。また、構成が単純化するので、出力チャンネルの拡張性が向上する。また、一般のビデオカードに比べると、画像処理専用のGPUを用いる必要が無くなるため、ビデオカードによる排熱や消費電力の増加の問題を解決することができる。
また、2種類の同期信号(S.SyncおよびVSync)を用いて、複数の画像データの転送および出力処理の同期制御を適切に行うようにしたので、各画像再生用PC20内での各チャンネル間の同期、引いては複数の画像再生用PC20間での同期制御を適切に行うことができる。これにより、3次元画像表示システムに適用した場合に、各視差間の同期の取れた適切な3次元動画を表示することが可能となる。また、同期制御にマルチコアプロセッサ21内の制御プロセッサ30を用いるようにしたので、効率的な同期制御を行うことができる。具体的には、マルチコアプロセッサ21内で制御プロセッサ30が比較的低速度の同期制御の処理を担当し、第1〜第4のコア31〜34が高速性が要求される画像処理を担当することで、効率的な同期制御を行いつつ、高速な画像処理を行うことができる。
また、本実施の形態に係る画像出力システムによれば、各画像再生用PC20において、複数のコア31〜34と複数の画像メモリ51〜54とをバス25を介して1対1に対応させるようにしているので、複数のコア31〜34と複数の画像メモリ51〜54との対応関係を容易に変更することもできる。例えば第1のコア31を第2の画像メモリ52に対応させ、第2のコア32を第1の画像メモリ51に対応させるようなこともできる。これにより、各チャンネル間で出力される視差画像の順番を容易に変更することができる。各チャンネル間で出力される視差画像の順番を変更することで、例えば3次元画像表示システムに適用した場合に、立体表示される視差の方向を変更するようなことが可能となる。
[第2の実施の形態]
[第2の実施の形態]
次に、本発明の第2の実施の形態に係る3次元画像表示システムについて説明する。なお、上記第1の実施の形態に係る画像出力システムと実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
本実施の形態に係る3次元画像表示システムは、上記第1の実施の形態に係る画像出力システムから出力された複数の画像データに基づいて立体表示を行うものである。図3(A),(B)は、この3次元画像表示システムにおける3次元表示装置10の構成例を示している。なお、上記した画像出力システムが適用される3次元表示装置10の構成は、以下で説明するものに限定されず、例えば図23に示したような多数のプロジェクタユニット101を単純に配置したものであっても構わない。
図3(A),(B)において、光軸方向をzとし、このz方向に直交する平面内での直交座標をxyとする。図3(A)は、yz断面内での構成を示し、図3(B)はxz断面内での構成を示す。一般的な光線再生技術による3次元表示では、任意の位置に存在する仮想物体表面を仮想的な原点とした複数の光線を出射することを目的として、あらかじめ様々な角度で出射する光線を提供できる装置を備えておくことが必要である。例えば、図23に示した装置にあっては、多数(例えば、M×N個)のプロジェクタ・ユニット101を水平方向および垂直方向に並列的に配置しなければならない。一方、本実施の形態に係る3次元表示装置10は、図3(A),(B)に示した構成要素を備える装置単体で、従来に比べて空間的に密度が高く、かつ大量の光線群を生成することが可能となっている。従って、この3次元表示装置10は、図3(A),(B)に示した装置単体でも表示装置として機能し得る。1つの3次元表示装置10で、図23に示した多数(M×N個)のプロジェクタ・ユニット101を配置した装置と等価の機能を有する。この3次元表示装置10を、例えば図4に示すように縦方向yと横方向xとに複数、並列的に配置することでより大規模なシステムにすることができる。
この3次元表示装置10は、光源1と、光源1からの光を整形する照明光学系2と、複数の画素を有し、光源からの光を画素ごとに変調して2次元映像を生成するSLM(空間光変調器)3とを備えている。この3次元表示装置10は、空間光変調器3が、2つの空間光変調器3−1,3−2で構成されている。この3次元表示装置10はまた、空間光変調器3により生成された2次元映像における空間周波数に対するフーリエ変換像を形成する第1のレンズL1と、フーリエ変換像を空間的かつ時間的にフィルタリングするための時間的な開口制御が可能な空間フィルタ4とを備えている。この3次元表示装置10はさらに、空間フィルタ4によりフィルタリングされたフーリエ変換像を逆フーリエ変換することにより、空間光変調器3により生成された2次元映像の実像(逆フーリエ変換像)5を形成する第2のレンズL2と、空間フィルタ4によりフィルタリングされたフーリエ変換像の共役像6を形成する第3のレンズL3とを備えている。図3(A),(B)において、f1は第1のレンズL1の焦点距離、f2は第2のレンズL2の焦点距離、f3は第3のレンズL3の焦点距離を示す。
この3次元表示装置10における空間光変調器3を構成する2つの空間光変調器3−1,3−2にはそれぞれ、例えば図1に示した画像出力システムにおける第1および第2の出力I/F55,56からの画像データが供給されるようになっている(図5参照)。3次元表示装置10を複数配置する場合には、同様にして、図1に示した画像出力システムの他の出力I/Fを空間光変調器3に対応させれば良い。
光源1および照明光学系2は、空間光変調器3に対する照明光を生成するものである。照明光としては、例えば空間コヒーレンスの高い光源を平行光に整形した光を用いる。空間光変調器3は、2次元的に配列された複数の画素を有する2次元空間光変調器である。2次元空間光変調器としては、例えば透過型の液晶表示装置を用いることができる。空間光変調器3における映像表示エリアの中心を通り、空間光変調器3の映像表示面に直交する方向に向かう直線を光軸とする。
空間光変調器3は、例えばx方向およびy方向に沿って2次元マトリクス状に配列されたP×Q個の開口(画素)を有し、光源1からの光の通過を開口ごとに制御することで2次元画像を生成するようになっている。空間光変調器3は、その2次元画像に基づき、開口ごとに、x方向に沿って第m次から第m’次までのM組(ただし、mおよびm’は整数であり、Mは正の整数)、y方向に沿って第n次から第n’次までのN組の(ただし、nおよびn’は整数であり、Nは正の整数)、合計、M×N組の回折光を生成する2次元画像形成装置を構成している。例えばP=1024(画素)、Q=768(画素)であり、m=−5、m’=5、M=m’−m+1=11、n=−5、n’=5、N=n’−n+1=11である。ただし、これらの値に限定するものではない。本実施の形態では、空間光変調器3として、例えばそれぞれが1024(画素)×768(画素)の2つの空間光変調器3−1,3−2を有し、例えば全体として2048×768画素の2次元画像を生成するようになっている。なお、空間光変調器3の開口の平面形状は矩形とすることが望ましい。開口の平面形状を矩形とするとき、フラウンホーファー回折が生じ、空間光変調器3−1,3−2の各開口(画素)について、M×N組の回折光が生成される。すなわち、係る開口によって、入射光波の振幅(強度)を周期的に変調し、格子の光透過率分布に一致した光量分布が得られる振幅格子が形成される。例えば各画素において、M×N組=121組の回折光が生成される。言い換えれば、画素の数は空間光変調器3−1,3−2のそれぞれでP×Qであるが故に、総計、2×(P×Q×M×N)本の回折光が生じると考えることもできる。
第1のレンズL1は、その前側焦点面上に空間光変調器3の2次元映像の生成面が位置するように配置され、その後側焦点面にフーリエ変換像を形成している。第1のレンズL1は、フーリエ変換像として、空間光変調器3の各画素ごとに生ずる複数次数の回折光(M×N組の回折光)を各回折次数ごとに集光し、空間光変調器3により生成された2次元映像の全情報が集約された光学像である回折像を各回折次数ごとに形成するようになっている。
空間フィルタ4は、第1のレンズL1の後側焦点面上に配置されている。空間フィルタ4は、図6に示したように複数の開口4Aを有している。複数の開口4Aは、空間光変調器3の各画素で生じた回折光の各回折次数の空間位置に対応して設けられている。開口4Aは、少なくとも、複数の回折次数に対応する数(例えばM×N=121個)だけ設けられている。空間フィルタ4は、空間光変調器3による2次元映像の生成タイミングと同期しつつ複数の開口4Aを各回折次数ごとに光学的に選択的に開閉制御することにより、フーリエ変換像を空間的かつ時間的にフィルタリングするようになされている。空間フィルタ4は、任意の位置の開口4Aを光学的に開閉制御可能であれば良く、例えば強誘電性液晶を用いた透過型または反射型の液晶表示装置で構成される。また、2次元型のMEMS(マイクロ・エレクトロ・メカニカル・システム)など用いても良い。
図7は、空間フィルタ4における開口4Aと空間光変調器3の各画素で生じた回折光の各回折次数との対応関係の一例を示している。図7において、数字(m,n)は、開口4Aの番号を示し、かつ、回折次数を示す。例えば、第(3,2)番目の開口4Aには、m=3,n=2の回折次数を有するフーリエ変換像が入射する。
第2のレンズL2は、第1のレンズL1と同一の光軸を有するように配置されている。また第2のレンズL2は、その前側焦点面上に空間フィルタ4が位置するように配置され、その後側焦点面に空間光変調器3により生成された2次元映像の実像5を形成している。ここで得られる実像5の空間光変調器3に対する倍率は、第2のレンズL2の焦点距離f2を任意に選択することによって変化させることができる。
第3のレンズL3は、第1のレンズL1および第2のレンズL2と同一の光軸を有するように配置されている。また第3のレンズL3は、その後側焦点面に共役像6を形成すると共に、その前側焦点面が第2のレンズL2の後側焦点面に一致するように配置されている。ここで、第3のレンズL3の後側焦点面は空間フィルタ4の共役面であることから、空間フィルタ4上の1つの開口部に相当する部分から、空間光変調器3の画素数分(2×P×Q)の光線が出力されている。最終的に生成・出力される光線の量は、その画素数分の光線に、光学系を透過した回折次数分(M×N)を乗じた量で定義することができる。第3のレンズL3の後側焦点面においては、光線群が2次元的に整然と配置されているとみなせる。すなわち、全体としては、第3のレンズL3の後側焦点面に、図23に示したプロジェクタユニット101が複数の回折次数分(具体的にはM×N個)、配置されている状態と等価である。
次に、3次元表示装置10の作用を説明する。
この3次元表示装置10では、空間光変調器3により生成された2次元映像における空間周波数に対するフーリエ変換像が、空間フィルタ4により、空間的かつ時間的にフィルタリングされ、そのフィルタリングされたフーリエ変換像の共役像6が形成される。
この3次元表示装置10では、空間光変調器3により生成された2次元映像における空間周波数に対するフーリエ変換像が、空間フィルタ4により、空間的かつ時間的にフィルタリングされ、そのフィルタリングされたフーリエ変換像の共役像6が形成される。
ここで、図8に模式的に示したように空間光変調器3からは、複数次数の回折光が生じる。なお、図8では、0次(0th)光、±1次(1th)光、および±2次(2th)光の回折光のみを代表して図示しているが、実際にはさらに高次の回折光が生じ、それらの高次回折光も立体表示に利用される。例えばx方向に沿って第−5次から第+5次までの11組、y方向に沿って第−5次から第+5’次までの11組、合計、M×N組=121組の回折光が生成される。この回折光は各画素ごとに生ずる。従って、各次数の回折光にはそれぞれ、空間光変調器3により生成された2次元映像の全情報(全画素の情報)が集約されている。空間光変調器3上の同一画素から回折により生成される複数の光線は、同時刻においてすべて同一の情報を有する。
第1のレンズL1では、空間光変調器3により生成された2次元映像の全情報が集約された光学像である回折像を、各回折次数ごとに空間フィルタ4上に集光する。高次回折による回折像を利用することで、高い空間的な密度を有する光線群が生成される。
ここで、照明光の波長をλ(mm),空間光変調器3上の映像を含む構造の空間周波数をν(lp/mm),第1のレンズL1の焦点距離をf1(mm)とすると,レンズL1の後側焦点面では、光軸から距離xa(mm)の位置にその構造を構成する空間周波数を示す光が現れる。ここで,xaは、
xa=f1λν ……(1)
で示される。
ここで、照明光の波長をλ(mm),空間光変調器3上の映像を含む構造の空間周波数をν(lp/mm),第1のレンズL1の焦点距離をf1(mm)とすると,レンズL1の後側焦点面では、光軸から距離xa(mm)の位置にその構造を構成する空間周波数を示す光が現れる。ここで,xaは、
xa=f1λν ……(1)
で示される。
図9は、第1のレンズL1による集光作用を模式的に示している。Lは、空間光変調器3上の2次元映像の大きさを示す。第1のレンズL1によって、各次数の回折光が空間フィルタ4上の別々の開口位置に集光する。空間フィルタ4への集光角(空間フィルタ4を出射後の発散角)θは、各回折光で同一である。空間フィルタ4上において、隣接する回折次数間の間隔は上記(1)式の関係で表される。上記(1)式より、第1のレンズL1の焦点距離f1を任意に選択することによって、フーリエ変換像の位置(空間フィルタ4上の結像位置)を変化させることも可能であることが分かる。第1のレンズL1に高い回折次数成分を透過させるためには、利用する回折次数成分に応じてレンズの開口率を選択する必要があり、焦点距離に関わらず第1のレンズL1以降のすべてのレンズの開口率が第1のレンズL1の開口率以上である必要がある。
ここで、空間光変調器3に表示された映像の空間周波数は、映像が画素より構成される空間光変調器3により生成されていることから、最高でも空間光変調器3を構成する連続した2つの画素からなる周期を有する周波数である。
図10は、空間光変調器3に表示された映像の空間周波数が最も低い状態を示している。符号3Aは、1つの画素を示す。最も空間周波数が低い状態とは、全画素をブラック表示、またはホワイト表示にした場合であり、この場合の回折光は平面波成分の情報のみを有する。なお、図10ではホワイト表示にした場合を示している。図11は、空間光変調器3を図10の表示状態とした場合において、第1のレンズL1によるフーリエ変換後の光強度の周波数特性を示している。各回折光のピークは、周波数ν1の間隔で現れる。
一方、図12は空間光変調器3に最も高い空間周波数を表示した状態を示す。最も空間周波数が高い映像は、図示したように各画素3Aの表示をブラック表示とホワイト表示とに隣り合う2つの画素に交互に表示した場合である。図13は、空間光変調器3を図12の表示状態とした場合において、第1のレンズL1によるフーリエ変換後の光強度の周波数特性を示している。図11の最低空間周波数の場合と比べて、ピークが周波数ν1/2の間隔で現れる。
図14(A),(B)は、空間フィルタ上における回折光の分布を模式的に示したものであり、図14(A)はxy平面上での分布を示し、図14(B)はx軸上での分布強度を示す。図14(B)では、最低空間周波数成分(平面波成分)と、最高空間周波数成分とを同時に示している。符号151で示した部分が最低空間周波数成分で現れるピークを示し、符号152で示した部分が最高空間周波数成分で現れるピークを示す。空間フィルタ4の開口形状は、フーリエ変換像の回折パターンに依存し、回折光の平面波成分のピーク位置を中心として、各々の回折次数に対して独立した開口4Aを有する。すなわち、各開口4Aの中心位置4Bに平面波成分のピーク位置が存在する。
空間フィルタ4では、すべての光線に任意の強度もしくは位相変調を加えるために回折の次数に対応して開口4Aの開閉制御を行う。空間フィルタ4は、空間光変調器3における平面波成分が空間光変調器3の画素構造に起因する回折により第1のレンズL1の後側焦点面上に現れる周期的なパターンを中心として、空間光変調器3上に表示することのできる正負の最高空間周波数をすべて得ることができるような開口4Aを1つの要素としている。
上記式(1)より、空間光変調器3における画素構造に起因する空間周波数が、空間光変調器3上に表示される映像の最高空間周波数の2倍であるので、画素構造に起因する回折により第1のレンズL1の後側焦点面上に現れる周期的なパターンの間隔の半分の位置までに映像の空間周波数はすべて現れる。このことから、すべての開口4Aは、空間的に干渉することなく配置することができる。これにより、平面波成分ごとに独立した開口4Aを有する空間フィルタ4上において、単一の開口部に空間光変調器3上における映像のすべての空間周波数成分の情報が存在し、開口4Aの空間的な制限により空間光変調器3上の映像の空間周波数成分が欠落することはない。
すなわち、開口4Aは、上記式(1)によるxaの大きさを有する。一例として、照明光の波長λを532nm、第1のレンズL1の焦点距離f1を50mm、空間光変調器3の1画素の大きさを13μm〜14μm程度とすると、xaは約2mmとなる。これは、空間フィルタ4上において、約2mm間隔という高い密度で各回折次数の光線群を生成することができることを意味する。
この3次元表示装置10では、空間光変調器3により光線の強度および位相を変化させることができる。しかし、このとき回折によって生成されているすべての次数における同じ空間光変調器3の画素から伝搬した光線が同じ変調を受けている。そこで、空間フィルタ4の開口4Aを任意に選択することにより、任意の回折次数を選択し、任意の画素を変調することによって、本装置が生成するすべての光線の強度・位相変調を行うことができる。このようにして本装置は高次回折による膨大な量の光線を生成できることと同時に、空間フィルタ4の利用によりすべての光線を任意に制御できることを特徴とする。以下、この開閉制御のタイミングについて説明する。
空間フィルタ4は、任意の回折次数の光線を選択するために、空間光変調器3の映像出力と同期して各開口4Aの開閉制御を行う。この概念を、図15(A),(B),(C)、図16および図17を参照して説明する。図15(A)は空間光変調器3における映像出力のタイミングを示している。図15(B)は、空間フィルタ4におけるある開口4Aαの開閉タイミングを示し、図15(C)は別の開口4Aβの開閉タイミングを示している。
なお、本実施の形態では、空間フィルタ4における各開口4Aの開閉制御が、図示しない外部制御回路によって行われる。この外部制御回路は、例えば、図1に示した画像出力システムから出力された視差画像の信号に基づいて、空間フィルタ4における各開口4Aの開閉制御を行う。これにより、3次元表示装置10では、空間光変調器3によって再生された各視差画像の再生タイミングに同期して、所定数の視差画像を空間中の異なる位置に投射し、所定数の視差画像からなる多視差立体表示を行うことができる。
図15(A)に示すように、空間光変調器3において例えば時間t1〜t2の間(期間T1)に映像Aを表示し、時間t3〜t4の間(期間T2)間に映像Bが表示されているとする。このとき空間フィルタ4では、図15(B),(C)に示したように、期間T1では開口4Aαを、期間T2では開口4Aβを開く動作を行うとすると、空間光変調器3における同じ画素、異なる回折次数として生成される光線に異なる情報を付加することができる。
図16は、この映像表示のタイミングと開口制御のタイミングを模式的に示したものである。期間T1では空間光変調器3において期間T1で映像Aが表示され、次数ごとの回折光が空間フィルタ4の対応する開口部分にフーリエ変換像として集光される。期間T1では、ある1つの開口4Aαのみを開く動作を行う。次に、期間T2では空間光変調器3において期間T2で映像Bが表示され、同様に次数ごとの回折光が空間フィルタ4の対応する開口部分にフーリエ変換像として集光される。期間T2では、開口4Aαとは別のある1つの開口4Aβのみを開く動作を行う。以下順次、空間光変調器3の映像表示タイミングに同期して空間フィルタ4の各開口4Aを開閉制御する。
図17は、このようなタイミングで映像表示と開閉制御とを行った場合に、この3次元表示装置10の最終出力として得られる立体映像(共役像6)を模式的に示している。なお、正確には同時に図17に示したような映像が得られるわけではないが、映像の切り替え期間は非常に短時間なので、人間の目には同時に表示されているように観察される。例えば、1フレームの表示期間内に、すべての次数分の映像表示切り替えが行われ、すべての開口4Aの開閉制御が一通り行われる。また、図17では平面的に図示しているが、実際に観察されるのは立体映像である。
本実施の形態に係る3次元表示装置10によれば、空間光変調器3により生成された2次元映像における空間周波数に対するフーリエ変換像を、空間フィルタ4により空間的かつ時間的にフィルタリングし、そのフィルタリングされたフーリエ変換像の共役像6を形成するようにしたので、装置全体を大型化することなく、空間的に高い密度で光線群を生成・散布することができる。また、光線群の構成要素である個々の光線を独立して時間的および空間的に制御することができる。これにより、実世界の物体と同質に近い光線による立体映像を得ることができる。
また、この3次元表示装置10によれば、光線再生技術を利用しているので、焦点調節、輻輳および運動視差などの視覚機能を満足した映像を提供することができる。また、この3次元表示装置10によれば、高次回折光を効率的に利用していることにより、従来の映像出力の手法と比較して、1つの映像出力デバイス(空間光変調器3)から、制御可能な光線を大量に得ることができる。またこの3次元表示装置10によれば、空間的かつ時間的にフィルタリングを行うので、表示映像の空間分解能として、映像出力デバイスの時間的特性を空間的特性として得ることができる。また、拡散スクリーンを用いることなく立体映像を提供することができる。また、どのような方向からの観察に対しても適切な映像を提供することができる。また、空間的に高い密度で光線群を生成・散布することができるので、視認限界に近い精細な空間映像を提供することができる。
また、本実施の形態に係る3次元画像表示システムでは、図1に示した画像出力システムにおいて複数の視差画像を、1フレーム内で時間的に分割して順次出力する。そして、その出力された各視差画像の出力タイミングに同期して、3次元表示装置10において所定数の視差画像を空間中の異なる位置に投射し、所定数の視差画像からなる多視差立体表示を行う。すなわち、この3次元画像表示システムによれば、1フレーム内に複数の視差画像の情報が含められた画像信号を出力し、その出力された画像信号に基づいて、複数の視差画像を、1フレーム内で時間的に分割して順次再生するようにしたので、大量の視差画像を高速で再生することができる。その大量、かつ高速に再生された視差画像に基づいて多視差立体表示を行うことで、光線再生法を用いた立体映像を良好に動画再生することができる。
[第3の実施の形態]
[第3の実施の形態]
次に、本発明の第3の実施の形態に係る3次元画像表示システムについて説明する。なお、上記第1の実施の形態に係る画像出力システムまたは上記第2の実施の形態に係る3次元画像表示システムと実質的に同一の構成部分には同一の符号を付し、適宜説明を省略する。
本実施の形態は、上記第2の実施の形態と同様、上記第1の実施の形態に係る画像出力システムから出力された複数の画像データに基づいて立体表示を行う3次元画像表示システムに関する。図18は、この3次元画像表示システムにおける3次元表示装置10Aの構成例を示している。図18では、図3(A)に示した3次元表示装置10と同様、光軸方向をzとし、このz方向に直交する平面内での直交座標をxyとしたときのyz断面内での構成を示している。本実施の形態における3次元表示装置10Aは、図3(A)に示した3次元表示装置10と同様、装置単体で、従来に比べて空間的に密度が高く、かつ大量の光線群を生成することが可能となっている。従って、この3次元表示装置10Aは、図18に示した装置単体でも表示装置として機能し得る。1つの3次元表示装置10Aで、図23に示した多数(M×N個)のプロジェクタ・ユニット101を配置した装置と等価の機能を有する。この3次元表示装置10を、例えば図4に示すように縦方向yと横方向xとに複数、並列的に配置することでより大規模なシステムにすることができる。
この3次元表示装置10Aは、図3(A)に示した3次元表示装置10における光源1および照明光学系2の部分に代えて、光源1Aを備えている。また、図3(A)に示した3次元表示装置10では、空間光変調器3が2つの空間光変調器3−1,3−2で構成されているものとして説明したが、本実施の形態では、空間光変調器3が1つの空間光変調器で構成されているものとして説明する。この空間光変調器3には、例えば図1に示した画像出力システムにおける第1の出力I/F55からの画像データが供給されるようになっている。3次元表示装置10Aを複数配置する場合には、同様にして、図1に示した画像出力システムの他の出力I/Fを空間光変調器3に対応させれば良い。
この3次元像表示装置10Aにおいて、光源1Aは、発光素子群11と、コリメータレンズ12とを備えている。発光素子群11は、例えばLED(発光ダイオード)からなる複数の発光素子を有している。発光素子群11を構成する複数の発光素子は、xy平面内で2次元マトリクス状に多数配列されているが、図18には、3つの発光素子11A,11B,11Cのみを代表して図示している。発光素子群11を構成する複数の発光素子の個数はU0’×V0’個であり、光源1Aにおける離散して配された光出射位置の数はU0×V0(ただし、U0=U0’,V0=V0’)である。より具体的には、空間光変調器3がP×Q個の開口(画素)を有し、それが例えば、P=1024(画素)、Q=768(画素)だとすると、例えばU0=9個、V0=9個である。ただし、これらの値に限定するものではない。
コリメータレンズ12は、発光素子群11から出射された光であって、空間光変調器3に入射する光の入射方向を変更するための光線進行方向変更手段である。発光素子群11は、コリメータレンズ12の前側焦点面近傍に配置されている。発光素子群11の各発光素子から出射された光は、コリメータレンズ12によって、平行光束化されて出射される。このとき、コリメータレンズ12は、コリメータレンズ12から出射するときの光(平行光)の出射方向を、立体的に変えることができる結果、空間光変調器3に入射する光(照明光)の入射方向を立体的に変えることができるようになっている。
図19は、発光素子群11を構成する複数の発光素子11A,11B,11Cから出射された各光束が、コリメータレンズ12、空間光変調器3、第1のレンズL1、および空間フィルタ4を通過する状態を、模式的に示している。図19においては、第1の発光素子11Aから出射された光束を実線で示し、第2の発光素子11Bから出射された光束を一点鎖線で示し、第3の発光素子11Cから出射された光束を点線で示してしいる。また、複数の発光素子11A,11B,11Cから出射された各照明光によって形成された空間フィルタ4における像の位置を、それぞれ、符号11A’,11B’,11C’で示す。なお、複数の発光素子11A,11B,11Cのそれぞれの位置番号(図21参照。これについては後述する)は、例えば、第(4,0)番目、第(0,0)番目、および、第(−4,0)番目である。なお、発光素子群11において、ある任意の発光素子が発光状態にあるときには、他の全ての発光素子は消灯状態となる。
発光素子群11と空間光変調器3との間には、上述したとおり、コリメータレンズ12が配置されている。そして、発光素子群11の任意の発光素子から出射され、コリメータレンズ12を通過した照明光によって、空間光変調器3が照明されるが、上述したとおり、照明光の空間光変調器3への入射方向は、その任意の発光素子の2次元的な位置(光出射位置)に依存して立体的に異なっている。
空間光変調器3は、上記第2の実施の形態の場合と同様に、例えばx方向およびy方向に沿って2次元マトリクス状に配列されたP×Q個の開口(画素)を有し、光源1Aからの光の通過を開口ごとに制御することで2次元画像を生成するようになっている。空間光変調器3は、例えば、P×Q個の画素31を有する透過型の液晶表示装置から成り、各画素31には開口が備えられている。なお、開口の平面形状は例えば矩形である。上記第2の実施の形態で説明したように、空間光変調器3の各開口(画素)について、M×N組の回折光が生成される。すなわち、係る開口によって、入射光波の振幅(強度)を周期的に変調し、格子の光透過率分布に一致した光量分布が得られる振幅格子が形成される。例えば各画素において、M×N組の回折光が生成される。言い換えれば、画素の数は空間光変調器3でP×Qであるが故に、総計、(P×Q×M×N)本の回折光が生じると考えることもできる。
この3次元像表示装置10Aにおいて、空間フィルタ4は、図3(A)に示した3次元表示装置10の場合と同様、開閉制御可能な複数の開口4Aを有している。ただし、本実施の形態においては、複数の開口4Aは、光源1Aの光出射位置の数(U0×V0)に対応した数だけ設けられている。
ここで、空間フィルタ4は、より具体的には、例えば、U0×V0個の画素を有する強誘電性液晶を用いた透過型の液晶表示装置または反射型の液晶表示装置、あるいは、可動ミラーが2次元マトリクス状に配列された装置を含む2次元型のMEMSから構成することができる。ここで、例えば、液晶セルを一種の光シャッタ(ライト・バルブ)として動作させることによって開口4Aの開閉制御を行うことができるし、可動ミラーの移動/非移動によって開口4Aの開閉制御を行うことができる。空間フィルタ4においては、空間光変調器3による2次元画像の生成タイミングと同期して所望の開口4A(具体的には、0次の回折光を通過させるための開口4A)を開状態とすることによって、所望の回折次数(0次)に対応するフーリエ変換像を選択することができる。
この3次元像表示装置10Aにおいても、図3(A)に示した3次元表示装置10の場合と同様に、焦点距離f1を有する第1のレンズL1の前側焦点面(光源側の焦点面)には空間光変調器3が配置されている。そして。第1のレンズL1の後側焦点面(観察者側の焦点面)には、フーリエ変換像を、空間的、かつ、時間的にフィルタリングするための時間的な開閉制御が可能な空間フィルタ4が配置されている。そして、第1のレンズL1によって、複数の回折次数に対応する数のフーリエ変換像が生成され、これらのフーリエ変換像は空間フィルタ4上に結像する。
図21は、2次元マトリクス状に配列された複数の発光素子から成る光源1Aの模式的な正面図を示している。図22は、例えば液晶表示装置から成る空間フィルタ4の模式的な正面図を示している。図21において、数字(u,v)は、光源1Aを構成する任意の発光素子11nの位置番号を示す。同様に、図22において、数字(u,v)は、空間フィルタ4を構成する任意の開口4Aの位置番号を示す。例えば、空間フィルタ4の第(3,2)番目の開口4Aには、光源1Aの第(3,2)番目に位置する発光素子による2次元画像の所望のフーリエ変換像(例えば0次の回折に対応するフーリエ変換像)のみが入射して通過する。光源1Aの第(3,2)番目に位置する発光素子による2次元画像の所望のフーリエ変換像以外のフーリエ変換像は、空間フィルタ4によって遮られる。
焦点距離f2を有する第2のレンズL2は、空間フィルタ4によってフィルタリングされたフーリエ変換像を逆フーリエ変換することにより、空間光変調器3によって形成された2次元画像の実像5を形成する。すなわち、第2のレンズL2の後側焦点面に、空間光変調器3によって形成された2次元画像の実像5が形成されるように配置されている。ここで得られる実像5の空間光変調器3に対する倍率は、第2のレンズL2の焦点距離f2を任意に選択することによって変化させることができる。また、焦点距離f3を有する第3のレンズL3は、空間フィルタ4によってフィルタリングされたフーリエ変換像の共役像6を形成する。
ここで、第3のレンズL3の後側焦点面は空間フィルタ4の共役面であることから、空間フィルタ4上の1つの開口4Aに相当する部分から、空間光変調器3によって生成された2次元画像が出力されていることと等価となる。そして、最終的に生成・出力される光線の量は、画素数分(P×Q)であって、空間フィルタ4を通過した光線である。すなわち、空間フィルタ4を通過する光線の光量が、それ以降の3次元像表示装置10Aの構成要素を通過、反射することによって減少することは、実質的に無い。また、第3のレンズL3の後側焦点面にはフーリエ変換像の共役像6が形成されるが、2次元画像の共役像の方向成分は光源1Aから出射され、空間光変調器3に入射する照明光の方向成分によって規定されるので、第3のレンズL3の後側焦点面においては、光線群が2次元的に整然と配置されていると見なせる。すなわち、全体としては、第3のレンズL3の後側焦点面(共役像6が形成される面)に、図23に示したプロジェクタユニット101が複数の数(具体的にはU0×V0個)、配置されている状態と等価である。
図20(A),(B)に模式的に示すように、空間光変調器3における1つの画素31によって、x方向およびy方向に沿って、合計、M×N組の回折光が生成される。なお、図20(A),(B)では、0次光、±1次光、および、±2次光の回折光のみを代表して図示している。実際には、さらに高次(例えば、±5次)の回折光が生成され、これらの回折光の一部(具体的には、例えば、0次光)に基づき、最終的に立体画像が形成される。なお、図20(A)は、図18における第2の発光素子11Bから出射された光線によって形成された回折光を模式的に示し、図20(B)は、図18における第1の発光素子11Aから出射された光線によって形成された回折光を模式的に示している。ここで、各回折次数の回折光(光束)には、空間光変調器3によって形成された2次元画像の全画像情報(全ての画素の情報)が集約されている。空間光変調器3上の同一画素から回折によって生成される複数の光線群は、同時刻において、全て、同一の画像情報を有する。言い換えれば、P×Q個の画素31を有する透過型の液晶表示装置から成る空間光変調器3においては、光源1Aからの照明光が各画素31によって変調されて2次元画像が生成される。かつ、生成された2次元画像における空間周波数は、各画素31から生じる複数の回折次数(総計M×N)に対応した回折角に沿って出射される。すなわち、2次元画像のM×N個の一種のコピーが空間光変調器3から、複数の回折次数(総計M×N)に対応した回折角に沿って出射される。
そして、空間光変調器3によって生成された2次元画像の全画像情報が集約された2次元画像における空間周波数は、第1のレンズL1によってフーリエ変換され、各画素31から生じる複数の回折次数に対応する数のフーリエ変換像が生成される。この3次元像表示装置10Aでは、これらのフーリエ変換像の内、所定のフーリエ変換像(例えば、0次の回折に対応するフーリエ変換像)のみを空間フィルタ4から通過させる。さらには、この選択されたフーリエ変換像が第2のレンズL2によって逆フーリエ変換され、空間光変調器3によって生成された2次元画像の実像5が形成され、この2次元画像の実像5は、第3のレンズL3に入射し、第3のレンズL3によって共役像6が結像される。なお、2次元画像における空間周波数は、画素構造の空間周波数をキャリア周波数とした画像情報に相当するが、0次の平面波を搬送波とする画像情報の領域のみ(すなわち、画素構造の空間周波数の最大1/2の空間周波数まで)が、空間フィルタ4を通過する。言い換えれば、平面波成分の0次回折をキャリア周波数とする1次回折として得られるものであって、空間光変調器3の画素構造(開口構造)の空間周波数の半分以下の空間周波数が、空間フィルタ4を通過する。こうして、第3のレンズL3によって結像された2次元画像の共役像6にあっては、空間光変調器3の画素構造は含まれず、一方、空間光変調器3によって生成された2次元画像における空間周波数の全てが含まれている。
以上説明したように、本実施の形態における3次元像表示装置10Aでは、光源1Aの所定の発光素子を発光させる一方、空間フィルタ4における所望の開口4Aを開口する。この3次元像表示装置10Aでは、複数の離散して配された光出射位置に依存して空間光変調器3への入射方向が異なる照明光を効率的に利用しているので、従来の画像出力手法と比較して、1つの画像出力デバイス(空間光変調器3)によって制御可能な光線を、離散して配された光出射位置の数(U0×V0個)だけ、得ることができる。
本実施の形態に係る3次元表示装置10Aによれば、上記第2の実施の形態に係る3次元表示装置10と同様、装置全体を大型化することなく、空間的に高い密度で光線群を生成・散布することができる。また、光線群の構成要素である個々の光線を独立して時間的および空間的に制御することができる。これにより、実世界の物体と同質に近い光線による立体映像を得ることができる。
[その他の実施の形態]
[その他の実施の形態]
本発明は、上記各実施の形態に限定されず種々の変形実施が可能である。例えば図1に示した画像出力システムでは、マルチコアプロセッサ21として4つのコア31〜34を有するものを例に説明したが、コアが2つである場合や、コアが5つ以上ある場合であっても、本発明は適用可能である。この場合、コアの数に応じて対応する画像メモリと出力I/Fの数を変更すれば良い。
また、図1に示した画像出力システムでは、3次元動画データとは別にS.Syncの同期信号を送信し、それに基づいてマルチコアプロセッサ21から各画像メモリに複数の画像データを並列的に転送するタイミングの同期を取るようにしたが、同期の取り方はこれに限らない。例えば、3次元動画データ内の視差画像自体に同期制御信号を重畳して埋め込み、マルチコアプロセッサ21内でその同期制御信号を読み取ることで同期を取るようにしても良い。
3D Data…3次元動画データ、VSync…垂直同期信号、S.Sync…同期信号、L1…第1のレンズ、L2…第2のレンズ、L3…第3のレンズ、1,1A…光源、2…照明光学系、3(3−1,3−2)…空間光変調器(SLM)、4…空間フィルタ、10,10A…3次元表示装置、11…発光素子群、11A,11B,11C…発光素子、20…画像再生用PC(画像出力装置)、21…マルチコアプロセッサ、22…システムメモリ、23…LANインタフェース(I/F)、24…同期制御回路、25…バス、30…制御プロセッサ、31…第1のコア、32…第2のコア、33…第3のコア、34…第4のコア、51…第1の画像メモリ、52…第2の画像メモリ、53…第3の画像メモリ、54…第4の画像メモリ、55…第1の出力I/F、56…第2の出力I/F、57…第3の出力I/F、58…第4の出力I/F、60…3次元画像生成装置、61…同期マスタPC、62…LAN。
Claims (7)
- バスと、
内部に複数のコアを有すると共に、前記複数のコアがそれぞれ独立して前記バスに接続され、供給された画像データに対して前記複数のコアによって所定の画像処理を並列的に行うマルチコアプロセッサと、
それぞれが独立して前記バスに接続されると共に、前記バスを介して前記複数のコアのそれぞれに対応して設けられ、前記複数のコアによって画像処理された複数の画像データを前記バスを介して並列的に格納する複数の画像メモリと、
前記複数の画像メモリのそれぞれに対応して設けられ、前記複数の画像メモリに格納された複数の画像データを並列的に出力する複数の出力インタフェースと
を備えた画像出力装置。 - 前記複数の出力インタフェースから前記複数の画像データを出力するタイミングの同期を取るための第1の同期制御手段をさらに備えた請求項1に記載の画像出力装置。
- 前記複数のコアから前記複数の画像メモリに前記複数の画像データを並列的に転送するタイミングの同期を取るための第2の同期制御手段をさらに備えた請求項1または2に記載の画像出力装置。
- 前記マルチコアプロセッサは、内部に前記複数のコアを制御するための制御プロセッサをさらに有し、前記マルチコアプロセッサが、前記第1の同期制御手段または前記第2の同期制御手段の機能を有する請求項2または3に記載の画像出力装置。
- 前記複数のコアによる画像処理の対象となる画像データを一時的に格納する画像データ格納手段をさらに備え、
前記画像データ格納手段は、前記画像データとして、1フレーム内に複数の視差画像を含む圧縮処理された3次元動画データを格納し、
前記複数のコアはそれぞれ、前記画像処理として、前記画像データ格納手段に格納された前記3次元動画データを所定単位の動画フレームごとに複数の画像データに分割して解凍処理を行うと共に、それら分割された複数の画像データを前記複数の画像メモリに並列的に転送する処理を行う請求項1に記載の画像出力装置。 - 前記複数のコアから前記複数の画像メモリに前記複数の画像データを並列的に転送するタイミングの同期を取るための第2の同期制御手段をさらに備え、
前記第2の同期制御手段は、3次元動画の同一フレームに属する複数の視差画像のデータが、前記複数の画像メモリに同一のタイミングで転送されるよう制御する請求項5に記載の画像出力装置。 - 複数の視差画像を含む画像データを複数出力する画像出力装置と、
前記画像出力装置から出力された前記複数の画像データに基づいて立体表示を行う3次元表示装置と
を備え、
前記画像出力装置は、
バスと、
内部に複数のコアを有すると共に、前記複数のコアがそれぞれ独立して前記バスに接続され、供給された画像データに対して前記複数のコアによって所定の画像処理を並列的に行うマルチコアプロセッサと、
それぞれが独立して前記バスに接続されると共に、前記バスを介して前記複数のコアのそれぞれに対応して設けられ、前記複数のコアによって画像処理された複数の画像データを前記バスを介して並列的に格納する複数の画像メモリと、
前記複数の画像メモリのそれぞれに対応して設けられ、前記複数の画像メモリに格納された複数の画像データを並列的に出力する複数の出力インタフェースと
を有する3次元画像表示システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008245937A JP2010079514A (ja) | 2008-09-25 | 2008-09-25 | 画像出力装置および3次元画像表示システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008245937A JP2010079514A (ja) | 2008-09-25 | 2008-09-25 | 画像出力装置および3次元画像表示システム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010079514A true JP2010079514A (ja) | 2010-04-08 |
Family
ID=42209899
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008245937A Pending JP2010079514A (ja) | 2008-09-25 | 2008-09-25 | 画像出力装置および3次元画像表示システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010079514A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016006417A (ja) * | 2014-05-28 | 2016-01-14 | インディアン インスティテュート オブ テクノロジー デリー | 非干渉位相計測 |
JP2018517320A (ja) * | 2015-04-09 | 2018-06-28 | クアルコム,インコーポレイテッド | ライトフィールドディスプレイのための複合処理およびディスプレイデバイスパッケージ |
CN110134640A (zh) * | 2018-02-09 | 2019-08-16 | 上海中研久弋科技有限公司 | 多核心传感器数据处理芯片及运行方法 |
CN113973198A (zh) * | 2020-07-22 | 2022-01-25 | 中移(苏州)软件技术有限公司 | 全息影像生成方法、装置、设备及计算机可读存储介质 |
CN114422702A (zh) * | 2022-01-26 | 2022-04-29 | 北京拙河科技有限公司 | 基于高倍重载云台的全覆盖式区域可视化方法与装置 |
-
2008
- 2008-09-25 JP JP2008245937A patent/JP2010079514A/ja active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016006417A (ja) * | 2014-05-28 | 2016-01-14 | インディアン インスティテュート オブ テクノロジー デリー | 非干渉位相計測 |
US9947118B2 (en) | 2014-05-28 | 2018-04-17 | Indian Institute Of Technology Delhi | Non-interferometric phase measurement |
JP2018517320A (ja) * | 2015-04-09 | 2018-06-28 | クアルコム,インコーポレイテッド | ライトフィールドディスプレイのための複合処理およびディスプレイデバイスパッケージ |
CN110134640A (zh) * | 2018-02-09 | 2019-08-16 | 上海中研久弋科技有限公司 | 多核心传感器数据处理芯片及运行方法 |
CN110134640B (zh) * | 2018-02-09 | 2024-03-01 | 上海中研久弋科技有限公司 | 多核心传感器数据处理芯片及运行方法 |
CN113973198A (zh) * | 2020-07-22 | 2022-01-25 | 中移(苏州)软件技术有限公司 | 全息影像生成方法、装置、设备及计算机可读存储介质 |
CN113973198B (zh) * | 2020-07-22 | 2024-04-09 | 中移(苏州)软件技术有限公司 | 全息影像生成方法、装置、设备及计算机可读存储介质 |
CN114422702A (zh) * | 2022-01-26 | 2022-04-29 | 北京拙河科技有限公司 | 基于高倍重载云台的全覆盖式区域可视化方法与装置 |
CN114422702B (zh) * | 2022-01-26 | 2022-10-18 | 北京拙河科技有限公司 | 基于高倍重载云台的全覆盖式区域可视化方法与装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8174565B2 (en) | Three-dimensional image display system | |
Geng | Three-dimensional display technologies | |
JP4133832B2 (ja) | カラー動画ホログラフィ再生装置 | |
Balogh | The holovizio system | |
US7513623B2 (en) | System and methods for angular slice true 3-D display | |
CN102183883B (zh) | 多光束时分复用全息三维显示系统及其显示方法 | |
US9310769B2 (en) | Coarse integral holographic display | |
US8075138B2 (en) | System and methods for angular slice true 3-D display | |
KR101442848B1 (ko) | 비디오 홀로그램용 디스플레이 장치에 화상 내용을멀티모드로 표시하기 위한 방법 및 멀티모드 디스플레이장치 | |
CN102073264B (zh) | 分时复用计算全息三维显示系统及其显示方法 | |
KR102266803B1 (ko) | 디지털 컬러 홀로그램 생성 방법 및 장치, 그리고 타일링을 이용한 디지털 컬러 홀로그래픽 디스플레이 장치 | |
JP2010079514A (ja) | 画像出力装置および3次元画像表示システム | |
Kim et al. | Expanded exit‐pupil holographic head‐mounted display with high‐speed digital micromirror device | |
JP2007041504A (ja) | 3次元像表示装置 | |
St-Hilaire et al. | Scaling up the MIT holographic video system | |
WO2015020037A1 (ja) | 電子ホログラフィ再生装置 | |
JP2015125331A (ja) | 立体像表示素子及びこれを用いた立体像表示装置 | |
JP2003015079A (ja) | 立体像表示方法及び表示装置 | |
WO2021227945A1 (zh) | 一种显示装置和系统以及方法 | |
JP2007199587A (ja) | 3次元像表示装置 | |
JP2008193480A (ja) | 多視差画像再生装置および多視差画像再生方法、ならびに3次元画像表示システム | |
CN111198489B (zh) | 全息显示系统及方法 | |
JP2007221434A (ja) | 画像再生装置 | |
Vishnu et al. | Hologram based three dimensional projection | |
Han et al. | Lightguide type optical see-through super multi-view near-eye display using digital micromirror device and LED array |