JP2007096951A - 多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム - Google Patents

多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム Download PDF

Info

Publication number
JP2007096951A
JP2007096951A JP2005285437A JP2005285437A JP2007096951A JP 2007096951 A JP2007096951 A JP 2007096951A JP 2005285437 A JP2005285437 A JP 2005285437A JP 2005285437 A JP2005285437 A JP 2005285437A JP 2007096951 A JP2007096951 A JP 2007096951A
Authority
JP
Japan
Prior art keywords
image
change instruction
viewpoint image
content
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005285437A
Other languages
English (en)
Other versions
JP4488996B2 (ja
Inventor
Rieko Fukushima
理恵子 福島
Tatsuo Saishiyu
達夫 最首
Shunichi Numazaki
俊一 沼崎
Yuzo Hirayama
雄三 平山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2005285437A priority Critical patent/JP4488996B2/ja
Priority to US11/525,817 priority patent/US7633528B2/en
Publication of JP2007096951A publication Critical patent/JP2007096951A/ja
Application granted granted Critical
Publication of JP4488996B2 publication Critical patent/JP4488996B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/27Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving lenticular arrays
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B21/00Projectors or projection-type viewers; Accessories therefor
    • G03B21/54Accessories
    • G03B21/56Projection screens
    • G03B21/60Projection screens characterised by the nature of the surface
    • G03B21/62Translucent screens
    • G03B21/625Lenticular translucent screens
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B35/00Stereoscopic photography
    • G03B35/08Stereoscopic photography by simultaneous recording
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/302Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
    • H04N13/305Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays using lenticular lenses, e.g. arrangements of cylindrical lenses
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/398Synchronisation thereof; Control thereof
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • G02B30/20Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes
    • G02B30/26Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type
    • G02B30/30Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images by providing first and second parallax images to an observer's left and right eyes of the autostereoscopic type involving parallax barriers

Abstract

【課題】作成者が、コンテンツが三次元に表示されたイメージを直感的に把握しながら多視点画像を作成することのできる多視点画像作成装置を提供する。
【解決手段】三次元画像表示画面21にコンテンツ30を表示するための多視点画像を作成する多視点画像作成装置10であって、コンテンツ30の三次元画像表示画面20における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示手段118と、イメージ画像におけるコンテンツ30の配置状態の変更指示を取得する変更指示取得手段100と、変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御手段122と、変更後の条件で設置された複数のカメラ50により取得される多視点画像を作成する多視点画像作成手段132とを備えた。
【選択図】 図1

Description

本発明は、三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラムに関するものである。
三次元画像表示方法として、二次元平面上に画素がマトリクス状に並んだ液晶ディスプレイ(LCD)に代表されるフラットパネルディスプレイと、光線制御素子とを組み合わせたものが知られている。これは、裸眼式三次元画像表示方法と呼ばれるものであり、光線制御子により、フラットパネルディスプレイの画素から射出した光線の方向を制限し、これらの画素に、射出方向に応じた視差情報を呈示することにより、観察者の水平または垂直位置に応じた画像を観察させ、三次元画像を認識させる。
光制御素子としては、光線方向制御のためのレンチキュラーシートやレンズアレイ、またはスリットや、ピンホールアレイなどがある。レンチキュラーシートやスリットは、レンズの稜線が観察者からみて垂直方向に伸張するものである。
裸眼式三次元画像表示方法で特徴的な点は、三次元画像を観察できる領域が制限されるということである。すなわち、光線制御子一つあたりに用意できる画素数が制限されるために、観察方向に応じた画像を用意できる領域(=視域)も有限となり、この領域をはずれると、正しい三次元画像を観察することができない。
これ以外にも、観察者に眼鏡をかけさせ、左右の目のシャッタリングとディスプレイの表示の切り替えを同期させ、観察者の両眼に対応させた視差画像を認識させる眼鏡式三次元画像表示方法が知られている。また、ディスプレイに観察者の両眼の位置に相当する視差画像を同時に呈示しつつ、マイクロポール等を用いて偏光方向を直交させておき、偏光方向を直交させた偏光板を観察者の左右の目の前に設けることによって、両目に所望の視差画像を呈示する眼鏡式三次元画像表示方法も知られている。
眼鏡式三次元画像表示方法で特徴的な点は、三次元画像を観察できる領域は制限されないが、そのままでは、観察位置に応じた画像を表示できない(三次元画像を回り込んで観察できない=運動視差がない)ことである。これに対しては、さらに観察者の頭の位置をトラッキングし、頭の位置に応じて、ディスプレイの表示を切り替えることで、運動視差を実現する方法もある。
いずれの三次元画像表示方法においても、三次元画像を観察者に認識させるためには、複数方向から取得した画像を、取得した方向に略一致した予め想定した観察位置において観察させる必要がある点では共通している。
観察位置に対応して観察させるべく、ディスプレイに光線制御子を組み合わせて観察位置に応じて画像が切り替わるようにしたものが裸眼式である。また、観察者に眼鏡をかけさせて、ディスプレイに交互に表示される視差画像をディスプレイの切り替えと同期して眼鏡をシャッタリングし、観察者の左右の目や観察位置に応じて切り変えるようにしたものが眼鏡式である。
以上述べた方式は、いずれも観察者に三次元画像を認識させるために、複数方向から取得した画像を用いる点で共通している。このように、複数の方向から画像を取得するため、考慮しなければならない事項がある。ここでは、二次元画像再生のための二次元画像取得と比較して説明する。
二次元画像を撮影・再生する場合、撮影範囲と再生される範囲の関係は容易に把握できる。すなわち、カメラの画角(=投影面のサイズ)で規定される範囲が撮影され、再生される。また、被写界深度の範囲で焦点が合い、これから外れるとデフォーカスした画像になる。
これに対し、三次元画像の撮影・再生においては、カメラアレイの撮影範囲と、ディスプレイで規定される飛び出し・奥行き表示限界を考慮する必要がある。
最も単純なケースとしては、カメラアレイの画角をディスプレイ表面相当の範囲でオーバーラップさせた場合がある。この場合、最も外側に配置された二台のカメラの撮影範囲が重なる領域が、三次元画像を再生した場合に、観察者が視域の中にいる間、常にディスプレイに表示される領域に相当する。また、撮影範囲の重ならない領域が、観察者が視域の中で観察しても、ディスプレイの額縁に邪魔されて見えたり、見えなかったりする領域に相当する。
一方、飛び出し・奥行き限界は、裸眼立体表示装置においては、非特許文献1で規定される表示限界に相当する。この表示限界を指針に三次元画像を表示することで、観察に耐えうる画質を維持することができる。一方、メガネ式三次元画像表示装置においては、輻輳と調節の不一致に起因する疲れを防止する意味で規定された飛び出し量限界がある。
例えば、100インチの2眼式プロジェクションタイプでは、視距離(L)を3mとしたときの飛び出し表示限界は500mm、奥行き表示限界は1500mmとしているものがある。また、二眼式の携帯電話用画面においては、飛び出し表示限界を80mm、奥行き表示限界を160mmとしているものがある。このように、飛び出し表示限界については、視距離の1/6程度、奥行き表示限界については、視距離の1/2程度に抑えられることが多い。
しかしながら、これらはあくまでも三次元画像表示装置側の要請で決まるものであり、カメラアレイ側から操作できるものではない。透視投影度を変えたり、大きさを変えたりすることは、二次元画像の撮影・再生における効果として良く知られている。具体的には、再生時の観察する位置より対象に近い位置で撮影した画像は透視度が高い画像に、観察する位置より遠い位置で撮影した画像は、ズームレンズで撮影したような透視度の低い画像になる。このように、1台のカメラ越しのコンテンツの挙動は比較的直感的な理解が可能である。
一方、三次元画像表示においては、視差画像を取得した方向と、その視差情報を観察できる方向を完全に一致させることで、撮影したコンテンツがそのまま再生される。しかしながら、意図的にこの関係から逸脱させることで、コンテンツの透視度を変えたり、厚みを変えたり(非特許文献2)、大きさを変えたり、といった表現が可能である。
特開2004−212666号公報 H.Hoshino,et al., J.Opt. Soc.Am.A.,15(8),2059(1998). T.Saishu, et al.,SID 04 Digest,1438(2004).
ところが、カメラアレイで撮影した各視点画像と三次元画像表示装置における再生状態は、直感的に理解することが難しい。例えば、カメラアレイの撮影間隔を1/2にすると三次元画像表示装置に表示されたコンテンツの厚みは、撮影間隔を1/2にしないときの表示厚みを1とした場合に比較して、略1/2になる。また、透視度の低い三次元画像を再生する場合は、撮影距離を伸ばすとともに、これと比例してカメラ間隔を大きくしたり、同時に投影面のサイズを維持するように画角を変更したりする必要がある。
二次元画像撮影時の単カメラと違い、このようなカメラアレイの挙動は、例えばコンテンツ作成者等に直感的に理解させることは難しい。また、理解したとしても、カメラが増えた分だけ、カメラを移動・再配置する操作が煩雑になってしまう。
本発明は、上記に鑑みてなされたものであって、CGモデルの多視点画像の作成者が、コンテンツが三次元に表示されたイメージを直感的に把握しながら多視点画像を作成することのできる多視点画像作成装置を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明は、三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成装置であって、前記多視点画像作成時に、前記コンテンツの前記三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示手段と、前記作成画面表示手段が表示する前記イメージ画像における前記コンテンツの配置状態の変更指示を取得する変更指示取得手段と、前記変更指示取得手段が取得した前記変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御手段と、前記カメラ制御手段により変更された条件で設置された前記複数のカメラにより取得される多視点画像を作成する多視点画像作成手段とを備えたことを特徴とする。
また、本発明の他の形態は、三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成方法であって、前記多視点画像作成時に、前記コンテンツの前記三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示ステップと、前記二次元画像表示画面に表示される前記イメージ画像における前記コンテンツの配置状態の変更指示を取得する変更指示取得ステップと、前記変更指示取得ステップにおいて取得した前記変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御ステップと、前記カメラ制御ステップにおいて変更された条件で設置された前記複数のカメラにより取得される多視点画像を作成する多視点画像作成ステップとを有することを特徴とする。
また、本発明の他の形態は、三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成処理をコンピュータに実行させる多視点画像作成プログラムであって、前記多視点画像作成時に、前記コンテンツの前記三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示ステップと、前記二次元画像表示画面に表示される前記イメージ画像における前記コンテンツの配置状態の変更指示を取得する変更指示取得ステップと、前記変更指示取得ステップにおいて取得した前記変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御ステップと、前記カメラ制御ステップにおいて変更された条件で設置された前記複数のカメラにより取得される多視点画像を作成する多視点画像作成ステップとを有することを特徴とする。
本発明にかかる多視点画像作成装置は、作成画面表示手段が多視点画像作成時にコンテンツの三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示し、変更指示取得手段が作成者からの指示により前記作成画面表示手段が表示するイメージ画像におけるコンテンツの配置状態の変更指示を取得し、カメラ制御手段が変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更し、変更後のカメラから取得された多視点画像が作成されるので、作成者は、カメラアレイの挙動を理解しなくとも直感的な操作を行うことにより所望の三次元画像を再生する多視点画像を得ることができるという効果を奏する。
以下に、本発明にかかる多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラムの実施の形態を図面に基づいて詳細に説明する。なお、この実施の形態によりこの発明が限定されるものではない。
図1は、実施の形態にかかる多視点画像作成用インタフェース10の機能構成を示すブロック図である。多視点画像作成用インタフェース10は、多視点画像の作成画面を二次元画像表示画面12に表示し、作成者からの指示にしたがい作成者の所望の三次元画像に対応する多視点画像を作成する。
ここで、多視点画像作成用インタフェース10により作成された多視点画像を表示する三次元画像表示装置について説明する。図2は、多視点画像作成用インタフェース10により作成された多視点画像を表示する三次元画像表示装置20を示す図である。三次元画像表示装置20は、二次元画像表示画面21と、レンチキュラーシート24とを有している。
ここで、二次元画像表示画面21の水平方向を右側をプラスとするx方向とする。二次元画像表示画面21の垂直方向を上側をプラスとするy方向とする。二次元画像表示画面21に垂直な方向、すなわち二次元画像表示画面21の奥行き方向を二次元画像表示画面21の手前方向をプラスとするz方向とする。以降、この右手系3軸により説明する。
図3は、多視点画像作成用インタフェース10において多視点画像を作成する際に三次元画像表示装置20に表示される作成画面を示す図である。作成画面は、後述の作成画面表示部118により作成される。作成画面には、三次元表示すべきコンテンツ30に加えて、カメラセンターベクトル32およびバウンダリボックス40が表示される。
カメラセンターベクトル32は、後述するカメラアレイ50の中心座標を定める。カメラセンターベクトル32の方向は、完成後の三次元画像の主な観察位置をも示している。バウンダリボックス40は、三次元画像表示装置20における三次元画像再生可能領域に一致する領域である。バウンダリボックス40については、後述する。
さらに、作成画面にはコンテンツ30を正面から見た図であるフロントビュー、上部から見た断面図であるトップビュー、側面から見た断面図であるサイドビュー、三次元画像の斜視図であるパースペクティブビューが含まれている。このビューの構成は一例であるが、xy面、yz面、zx面に該当するビューを設けることで、作成者は、三次元画像完成時の形状を容易に把握することができる。
図4は、バウンダリボックス40を説明するための図である。ここでは、簡単のため多眼式を例に説明する。多眼式とは、透視投影的に取得した多視点画像を画像取得時と略一致した軌跡で透視投影的に再生する方式である。
バウンダリボックス40は、二次元画像表示画面21の水平断面に相当する水平断面41と、多視点画像に対応するカメラアレイ50のうち最も外側の2台のカメラ51a,51xの撮影範囲52a,52xにより定まる領域である。さらに、バウンダリボックス40は、z方向においては、水平断面41を基準としカメラアレイ50側、すなわち飛び出し方向に設定される飛び出し方向表示限界42を境界とする。また、バウンダリボックス40は、水平断面41を基準としカメラアレイ50と逆側すなわち奥行き方向に設定される奥行き方向表示限界44を境界とする。
図5は、バウンダリボックス40の両端の領域46a,46bおよび領域47a,47bを説明するための図である。領域46a,46bは、観察位置によっては三次元画像が額縁にかかってしまう可能性のある領域である。また、領域47a,47bは、観察位置によっては三次元画像が額縁の背後に見える可能性のある領域である。
領域46a,46b、すなわち飛び出し領域に表示された三次元画像が額縁にかかると飛び出し位置が強制的に額縁位置まで引き込まれる(額縁効果)という表示不良が知られている。一方、領域47a,47bは観察位置によっては見える可能性がある。したがって、この領域まで見えてしまうことを考慮して三次元画像を作成する必要がある。このように、領域46a,46bおよび領域47a,47bは、三次元画像表示装置だからこそ考慮する必要のある表示領域であるといえる。
図6は、バウンダリボックス40を−x方向から見た断面図である。図6は、垂直方向、すなわちy方向に視差情報を与えない場合のバウンダリボックス40を示している。y方向に視差を与えないため、カメラ53の位置は一箇所である。そして、カメラ53の撮影範囲54によりバウンダリボックス40が定まる。視差情報を与えないため、図5で説明した領域46a,46bおよび領域47a,47bに対応する領域は生じない。
一般に、三次元画像表示装置において視差数を増加させると、三次元画像表示装置の解像度が低下したり(裸眼式)、ヘッドトラッキングレートをあげたりする必要がある(眼鏡式)。このため、デバイスへの負荷が高まってしまう。この対策として、図6に示す例のように立体を近くするのに必要な水平方向の視差情報のみを呈示する場合が多い。
なお、他の例としては、垂直方向にも多視点画像を取得することとしてもよい。図7は、この場合のバウンダリボックス40をx方向から見た断面図である。x方向から見たバウンダリボックス40の形状は、図4および図5を参照しつつ説明した形状と同様である。
再び説明を図1に戻す。多視点画像作成用インタフェース10は、ユーザから各種条件変更指示を取得する条件変更指示取得部100と、条件変更指示取得部100により取得した条件変更指示に基づいて、多視点画像作成の際の条件変更にかかる処理を行う変更処理部110とを備えている。
変更処理部110は、デフォルトパラメータ保持部112と、設定パラメータ保持部114と、バウンダリボックス処理部116と、作成画面表示部118と、描画方法設定部120と、カメラ制御部122と、メッシュ変形部124と、プレビュー画面作成部126と、プレビュー画面表示部128と、境界面処理部130と、多視点画像作成部132とを有している。
条件変更指示取得部100は、外部から各種条件変更指示を受け付ける。具体的には、三次元画像の作成中に二次元画像表示画面12に表示される作成画面において作成者が各種条件を入力すると、入力された内容を示す変更指示が条件変更指示取得部100に送られる。
デフォルトパラメータ保持部112は、デフォルトとなる三次元画像表示装置のパラメータを保持している。これは、多視点画像作成用インタフェース10が作成する三次元画像を表示する三次元画像表示装置のパラメータである。
設定パラメータ保持部114は、条件変更指示取得部100を介して取得した三次元画像表示装置のパラメータを保持している。これは、ユーザからの入力により作成されたパラメータである。
デフォルトパラメータ保持部112に保持されているパラメータに対応する三次元画像表示装置とは異なる仕様の三次元画像表示装置に表示する三次元画像を作成する場合には、作成者は、二次元画像表示画面12に表示された条件設定画面(後述)において三次元画像を表示する三次元画像表示装置のパラメータを入力することができる。これにより、入力された内容が条件変更指示取得部100を介しデフォルトパラメータ保持部112に送られ、保持される。
バウンダリボックス処理部116は、デフォルトパラメータ保持部112が保持するデフォルトパラメータに基づいて、バウンダリボックス40を描画する。また、条件変更指示取得部100が取得した変更指示に示される条件にしたがいバウンダリボックス40を描画する。作成画面表示部118は、バウンダリボックス処理部116により描画されたバウンダリボックス40をコンテンツ30と共に二次元画像表示画面12に表示する。
描画方法設定部120は、条件変更指示取得部100からの変更指示にしたがい描画方法を変更する。ここで、描画方法とは、二次元画像表示画面12にコンテンツ30およびバウンダリボックス40を表示する際の線の太さ、色など二次元画像表示画面12における表示方法である。作成画面表示部118は、描画方法設定部120により設定された描画方法で、コンテンツ30等を表示する。
カメラ制御部122は、バウンダリボックス処理部116により描画されたバウンダリボックス40に基づいて、作成すべき多視点画像に対応するカメラアレイ50の配置位置を決定する。例えば、カメラアレイ50を構成する複数のカメラの間隔や、カメラアレイの投影面からの距離を決定する。また、条件変更指示取得部100が取得した変更指示により注視点の位置を変更する。ここで、注視点とは、バウンダリボックス40の水平断面41の面中心に対応する。
さらに、条件変更指示取得部100が取得した変更指示によりカメラの解像度を変更する。さらに、条件変更指示取得部100が取得した変更指示により多視点画像に対応するカメラの台数を変更する。さらに、条件変更指示取得部100が取得した変更指示により投影面のサイズ(=画角)を変更する。
メッシュ変形部124は、条件変更指示取得部100からの指示によりコンテンツ30のメッシュ変形を行う。これにより、撮影系におけるコンテンツ30の形状と再生系におけるコンテンツ30の形状の間の乖離、より具体的には、撮影のための光線の軌跡と再生のための光線の軌跡の非等方的な乖離によるひずみを是正することができる。非等方的な乖離の具体例としては、撮影のための光線の軌跡と再生のための光線の軌跡の乖離が垂直方向と投影方向で異なる場合があげられる(非特許文献2)。等方的な乖離は、再生時の透視度の変更として、積極的に利用される場合もある。詳細は後述する。
プレビュー画面作成部126は、プレビュー画面作成を作成する。プレビュー画面とは、カメラ制御部122により制御されたカメラアレイ50から得られる多視点画像を三次元画像表示画面に表示した様子、すなわちコンテンツ30の三次元イメージ画像を示す画面である。
具体的には、観察者の位置として仮定された観察基準位置に配置し、注視点に向けられれたビューカメラからのレンダリングを行う。ビューカメラは、カメラアレイのカメラセンターの初期値に相当する。ビューカメラおよびカメラセンターのいずれもカメラセンターベクトルの指し示す軌跡上に位置する。そして、カメラセンターの注視点からの距離が変更される操作は透視度変更のみである。また、コンテンツ30がメッシュ変形されている場合には、メッシュ変形と逆の処理、すなわち逆メッシュ変形を行う。プレビュー画面表示部128は、プレビュー画面を三次元画像表示装置20に表示する。
境界面処理部130は、条件変更指示取得部100からの指示により表示可能領域の境界面の処理を行う。具体的には、背景ボードの作成やクリッピング処理を行う。多視点画像作成部132は、カメラ制御部122により配置されたカメラアレイ50からの複数の視差画像を得る。すなわち多視点画像を作成する。このとき、境界面処理部130によるクリッピング処理の結果を用いる。さらに、メッシュ変形が行われている場合には、メッシュ変形後のコンテンツ30に対する多視点画像を作成する。
多視点画像作成用インタフェース10を起動すると、二次元画像表示画面12には、デフォルトパラメータ保持部112が保持するデフォルトパラメータに基づいて、デフォルトの三次元画像表示装置に対応したバウンダリボックス40が描画される。デフォルトの三次元画像表示装置は、15.4インチW−UXGAパネルと、レンチキュラーシートとを有している。詳細な仕様は表1の通りである。
Figure 2007096951
表1より単一のレンズから射出する光線の射出角度は、±15度すなわち合計30度である。また、観察者が三次元画像を観察する位置として仮定した観察基準視距離(L=600mm)で集光点が発生し、すべてのレンズから射出する光線群が観察基準視距離(L)でオーバーラップするようになっている。集光点の間隔は、26.7mm(=psp×L/g)と眼間距離(約65mm)より十分狭い。したがって、この視距離近傍で運動視差を伴った三次元画像を観察することができる。
しかし、観察者はある程度自由に動く。このため、観察者が観察基準視距離(L)をはずれる場合が多い。また、光線間隔が狭いので、観察者は、同時に複数の視差情報を見ることに起因するクロストークを伴った三次元画像を観察すると考えられる。これらの事情を考慮すると、この三次元画像表示装置における飛び出し方向表示限界および奥行き方向表示限界は、IP方式の飛び出し奥行き限界として算出することができる。詳細については、非特許文献1に記載されている。
三次元画像表示装置に表示すべきコンテンツの最低空間周波数(β)は320cprとした。この値は8〜32インチのディスプレイに表示したときに観察者が粗すぎると感じる直前の周波数であることが経験的にわかっている。
320cprが保証される飛び出し方向表示限界(zn)は、(式1)により得られる。

zn=L/(2*((L+g)/L)*psp/g*β+1)
=20.3mm ・・・(式1)
また、奥行き方向表示限界(zf)は、(式2)により得られる。

zf=−L/(2*((L+g)/L)*psp/g*β−1)
=−21.7 mm ・・・(式2)
以上よりバウンダリボックス40のz方向の幅は、(式3)により得られる。

zn−zf=42.0mm ・・・(式3)
このバウンダリボックス40に対応するカメラアレイ50は、集光点が発生する表示面、すなわち二次元画像表示画面21から600mm(=L)の位置に配置される。さらに、集光点の間隔(26.7mm = psp×L/g)おきに12台のカメラが自動的に設置される。これが、カメラアレイ50のデフォルトの配置位置である。そして、このカメラアレイの中央が、カメラセンターの初期値、すなわち、ビューカメラの配置位置となる。
この条件のまま変更がない場合には、次の操作に進む。すなわち、レンダリング処理に進み、多視点画像を作成すればよい。しかし、デフォルトパラメータ保持部112が保持するデフォルトとは異なる条件で多視点画像を作成したい場合には、二次元画像表示画面12に表示される表示画面において変更したい条件を入力する。これにより、条件変更指示取得部100は、入力された内容に対応する変更指示を取得し、変更処理部110により変更指示に対応する処理が行われる。
図8は、このように条件を変更する場合の多視点画像作成用インタフェース10による多視点画像作成処理を示すフローチャートである。まず、多視点画像作成用インタフェース10が起動すると上述のようにカメラ制御部122は、デフォルトの三次元画像表示装置の仕様に対応したカメラアレイ50をデフォルト位置に配置する(ステップS100)。次に、カメラアレイ50に対応したバウンダリボックス40が描画される(ステップS110)。さらに、カメラセンターベクトル32も描画される(ステップS120)。これらは、作成画面表示部118により二次元画像表示画面12に表示される。なお、カメラセンターベクトル32は、図3に示すようにカメラアレイ50の中心座標を向いた矢印状の記号で示される。
次に、変更処理部110は、条件変更指示取得部100が取得した各種条件変更指示にしたがい、変更処理を行い(ステップS130)、変更後の条件でマルチカメラレンダリングを実施し、多視点画像を生成する(ステップS140)。次に、生成された多視点画像を外部に出力する(ステップS150)。
ステップS130において条件変更指示取得部100が取得する各種条件変更指示は、作成画面において作成者から入力される。図9から図14は、変更処理(ステップS130)において条件変更指示取得部100が取得する各種条件変更指示に対応する内容を入力する条件設定画面を示す図である。
図9は、二次元画像表示画面12に表示されるディスプレイパラメータ設定画面を示す図である。ディスプレイパラメータ設定画面は、多視点画像作成用インタフェース10により作成された三次元画像を表示する三次元画像表示装置のパラメータを設定するための画面である。
このように、三次元画像表示装置のパラメータとして、三次元画像表示装置タイプ、射出瞳タイプ、視差数、二次元画像表示装置、視域設定条件、表示限界および視点数の設定欄が設けられており、三次元画像作成者は、この画面に所望の条件を入力することができる。
なお、ここで、三次元画像表示装置タイプとしては、三次元画像の表示形式を選択できる。本実施の形態においては、視差を提示する光線の軌跡が観察基準位置で集光点を与えないIntegral Imaging方式と、集光点を与えるMulti−View方式とを選択することができる。II方式で典型的なのは、平行光線を利用するものである。水平方向にしか視差を提示しない場合(1D−II:一次元Integral Imaging方式)、水平方向は平行投影、垂直方向は透視投影で撮影した多視点画像を利用することにより、歪みの無い正しい三次元画像を表示することができる。一方、Multi−View方式は、観察基準位置で集光点が発生するように光線を設計することから、透視投影画像を利用することが可能である。
射出瞳タイプとしては、垂直、水平いずれにも視差情報を提示する場合はレンズアレイまたはピンホールアレイのいずれかを選択することができる。水平のみの場合には、レンチキュラーシートかスリット、そして、レンチキュラーシートの傾き(θ)を選択することができる。さらに、空気換算焦点距離、ひとつの射出瞳から射出する視差情報の数である視差数を指定することができる。視差数も、水平のみの場合は水平における値を指定する。さらに垂直方向にも視差情報を提示する場合は、水平方向における値に加えて垂直における値も指定する。
また、二次元画像表示装置のパラメータとして、解像度およびサイズを指定することができる。視域設定条件としては、観察基準視距離を与える。この距離で視域が最大になるようにカメラ台数が決定される(特許文献1)とともに、表現限界として飛び出し方向表示限界に対応する手前側および奥行き方向表示限界に対応する奥側の位置も算出される(非特許文献1)。
標準ディスプレイとして、予め各パラメータを設定したものを用意しておき、ユーザが用いる三次元画像表示装置に応じて選択させることで、ユーザのパラメータ入力の負担を軽減することができる。
さらに、ユーザが新たなパラメータの入力を行ない、図9に示す条件設定画面において「現在の設定を保存」を選択することにより、このパラメータを設定ファイルとして保存することができる。これらの設定ファイルは設定パラメータ保持部114に保持される。設定パラメータ保持部114に保持された設定ファイルは、図9に示す条件設定画面において「設定ファイルを読み込む」により選択が可能で、ユーザが登録したパラメータを再度呼び出すこともできる。これによって、同一の条件をユーザが繰り返し入力する負担をなくすことができる。
図10は、二次元画像表示画面12に表示されるバウンダリボックス操作画面を示す図である。基本設定として、三次元画像表示装置20が縦置きか平置きかを設定することができる。ここでは、縦置きと平置きの代表的な2つを選ばせるようにしたが、任意の角度を選べるようにしてもよい。さらに、法線からのずれ角を設定することができる。ここで、法線からのずれ角とは、観察方向と三次元画像表示装置20の法線との間の角度である。
ボックス形状としては、バウンダリボックス40のx方向、y方向およびz方向それぞれのサイズを設定できる。さらに、アスペクトも設定可能である。平行移動としては、バウンダリボックス40の位置をx方向、y方向およびz方向それぞれについての移動する距離を設定できる。回転は、x,y,z軸のそれぞれについて指定することが可能である。さらに、最低空間周波数、カメラ水平移動の条件を設定することができる。
ここで、最低空間周波数とは、コンテンツ30を三次元表示する際に保証する最低空間周波数である。また、カメラの平行移動とは、カメラアレイ50の位置と注視点の両方を移動させることである。これにより、作成される多視点画像の中心が変更される。回転とは、注視点を固定したまま、カメラアレイ50の位置を回転移動させることである。すなわち、投影面も回転する。これにより、多視点画像において正面に配置されるコンテンツ30の面が変更される。
カメラ水平移動は、注視点を固定しつつ、カメラアレイ50の位置のみを移動させることである。より具体的には、水平移動においては、カメラアレイ50が投影面(=三次元画像表示装置20の表示面)の正面に位置する場合は、tan(x/L)を0と与える。0から数値が増加または減少するのに応じて、カメラアレイ50は投影面から左右にずれることになる。
例えば、多視点画像を観察者の正面から右にずれた方向において表示させる場合には、これに合わせて右にずれた方向を観察した状態の多視点画像を作成するのが望ましい。個の場合には、カメラ水平移動により適切な方向を指定する。
図11は、三次元画像表示画面20に表示される投影法設定画面を示す図である。マルチカメラ属性として、透視投影法および平行投影法のいずれかを選択することができる。透視撮影カメラの場合と、平行投影カメラの場合とでは、最も外側の2台のカメラの撮影範囲のオーバーラップ範囲が異なる。このため、カメラ属性に応じてバウンダリボックス40の形状が異なる。また、再生される三次元画像も、投影法を反映したものとなる。ここで、撮影するカメラの条件と再生するディスプレイの条件に乖離がある場合が考えられる。
より具体的には、平行光線を利用する1D−II方式では、視差画像を垂直方向を透視、水平方向を平行で撮影すると歪みのない三次元画像を表示することができるが(非特許文献2)、このようなカメラが搭載されていない3D−CG作成ソフトウェアを利用する場合、コンテンツ自体を変形し、標準装備されている透視投影または平行投影カメラで同等の画像を取得することが可能である。例えば、平行投影カメラを利用する場合は、垂直方向を奥に向かってすぼまるように変形すればよく、透視投影カメラを利用する場合は、水平方向を手前に向かってすぼめるように変形することで、画像取得時と再生時の光線の乖離を背税することができる。このような再生時の画像歪みを自動的に除去する歪み除去処理の適用の有無を選択することができる。本実施の形態では透視投影がデフォルトになっており、平行投影が選択されるとバウンダリボックスが再描画される。メッシュ変形の詳細については後述する。
図12は、二次元画像表示画面12に表示される背景ボード設定画面を示す図である。背景ボード設定の有無、背景ボード設置位置および背景ボードとして利用する画像を設定することができる。図13は、二次元画像表示画面12に表示されるクリッピング設定画面を示す図である。クリッピングの適用の有無を選択することができる。また、近接クリップおよび遠方クリップにおける各種設定を行うことができる。図14は、二次元画像表示画面12に表示される出力サイズ設定画面を示す図である。この画面においては、多視点画像の出力サイズ、すなわち解像度を設定することができる。
図15は、図8において説明した変更処理(ステップS130)における詳細な処理を示すフローチャートである。図8において説明したように、三次元画像表示装置のデフォルト値にあわせて、デフォルトのマルチカメラが設定され、これにあわせたバウンダリボックスが描画されている。このとき、条件変更指示取得部100が三次元画像表示装置のパラメータの変更を指示するパラメータ変更指示を取得すると(ステップS1301,Yes)、バウンダリボックス処理部116は、パラメータ変更指示に示されるパラメータに基づいて、バウンダリボックス40を再計算する。
なお、図9に示すディスプレイパラメータ設定画面において標準ディスプレイを変更した場合、作成者が条件を入力した場合、および「設定ファイルを読み込む」が選択された場合に、条件変更指示取得部100は、入力内容を含む三次元画像表示装置パラメータ変更指示を取得する。
図9に示すディスプレイパラメータ設定画面において「設定ファイルを読み込む」が選択され、設定ファイルが指定されると、ステップS1302において選択肢ありと判断され(ステップS1302,Yes)、バウンダリボックス処理部116は、選択された設定ファイルのパラメータをデフォルトパラメータ保持部112から取得する(ステップS1303)。
一方、選択肢なしと判断された場合には(ステップS1302,No)、バウンダリボックス処理部116は、ディスプレイパラメータ設定画面において作成者により設定された内容を含むパラメータ変更指示を取得する(ステップS1304)。
次に、バウンダリボックス処理部116は、取得したパラメータ変更指示に示されるパラメータに基づいてバウンダリボックス40を再計算する(ステップS1305)。次に、カメラ制御部122は、バウンダリボックス処理部116による計算結果に基づいてマルチカメラの数、各カメラの配置位置および注視点と投影面のサイズを決定し、決定された配置位置に決定された投影面のサイズを反映した画角に設定された各カメラを配置する(ステップS1306)。
バウンダリボックス処理部116が取得するパラメータ変更指示としては、具体的には、三次元画像表示装置20を構成する二次元画像表示画面21の解像度の変更を指示する解像度変更指示、二次元画像表示画面21のサイズの変更を指示するサイズ変更指示および三次元画像表示装置20における三次元表示形式の変更を指示する表示形式変更指示、空気換算焦点距離の変更を指示する空気換算焦点距離変更指示などがある。
例えば、解像度変更指示を取得し、二次元画像表示画面21の解像度を前述のデフォルトの設定から垂直水平ともに2倍にしたとする。この場合には、飛び出し方向表示限界および奥行き方向表示限界は、それぞれ、9.2mm,−45.1mmとなる。すなわち、全体で84.4mmの奥行きを持つバウンダリボックス40が再描画される。すなわち、バウンダリボックス40の形状が変更される。ただし、この場合には、カメラアレイ50の配置位置は変化しない。
また、サイズ変更指示を取得した場合には、バウンダリボックス40の形状は変化しないが、バウンダリボックス40のサイズが変更される。表示形式変更指示を取得した場合には、バウンダリボックス40の形状が変更される。これに伴い、カメラアレイ50の投影法および配置位置および投影面のサイズが変更される。
一方、空気換算焦点距離変更指示を取得し、空気換算焦点距離(g)を1.96mmに変更した場合は、射出角度(θ)は、10.0度となる。この場合、投影面を水平断面41の位置に維持したまま、カメラ間隔が17.6mm(= psp×L/g)に自動的に変更される。
このときの飛び出し方向表示限界42および奥行き方向表示限界44は、30.2mm,−33.6mmとなる。すなわち、全体で63.9mmの奥行きを持つバウンダリボックス40が再描画される。
さらに、バウンダリボックスを再描画し、マルチカメラを再配置するのに加えて、マルチカメラの台数を変更する。レンチキュラーシートの傾き(θ)が、「0」の場合には、カメラ台数(N)は、(式4)により定まる。

N=ROUND(ROUNDDOWN(nx×3/2/(Np×(L+g)/L))×((Np×(L+g)/L)−Np))×2+Np ・・・(式4)

ここで、「ROUND」は、四捨五入による整数化を示す。「ROUNDDOWN」は、切捨てによる整数化を示す。
一方、レンチキュラーシートの傾き(θ)が、「atan(1/n)≠0」(垂直方向を0度とした場合)の場合には、カメラ台数(N)は、(式5)により定まる。

N= ROUND(ROUNDDOWN(nx×n/2/(Np×(L+g)/L))×((Np×(L+g)/L)−Np))×2+ Np ・・・(式5)
次に、ステップS1307に進み、投影法変更指示を取得した場合には(ステップS1307,Yes)、ステップS1308へ進む。図11に示す投影法設定画面において投影法として透視または平行が選択された場合に、条件変更指示取得部100は、選択内容を含む投影法変更指示を取得する。
バウンダリボックス処理部116は、投影法変更指示に示される投影法に基づいて、バウンダリボックス40を再描画する(ステップS1308)。さらに、カメラ制御部122は、カメラアレイ50を再配置する(ステップS1309)。
ところで、視差情報を取得するために注視点と投影面を一定にしたままカメラアレイを配置するということは、視差画像を取得するためにはレンズシフト機能を必要とすることを意味する。3D−CG作成ソフトウェアによってはこのレンズシフト機能を有さない場合があるため、透視投影においてレンズシフトと同等の画像を得る方法として、広角で撮影して一部切り出すという手法をとる場合がある。
ここでは詳細は割愛するが、このケースにおけるマルチカメラの各注視点は、カメラと注視点を結ぶ線が投影面を含む平面に垂直になるように設定される。すなわち、ユーザからみると注視点が投影面に固定に見えても、レンズシフト相当の動作をするために、マルチカメラの注視点はカメラの配置に応じて移動させる場合がある。このような場合は、投影法の変更指示において、内部ではマルチカメラの注視点も再配置される。
図16は、図15の処理に続く処理を示すフローチャートである。条件変更指示取得部100が最低空間周波数変更指示を取得すると(ステップS1310,Yes)、ステップS1311へ進む。なお、図10に示すバウンダリボックス操作画面において、作成者が最低空間周波数(β)を入力すると、条件変更指示取得部100は、入力内容を含む最低空間周波数変更指示を取得する。
最低空間周波数変更指示に示される最低空間周波数(β)が最大規定値(βmax)よりも小さい場合には(ステップS1311,Yes)、バウンダリボックス処理部116は、最低空間周波数変更指示に示される最低空間周波数(β)におけるバウンダリボックス40を再描画する(ステップS1312)。ここで、最大規定値(βmax)とは、三次元画像表示装置のパラメータによって表現できる最大の空間周波数である。
一方、最低空間周波数変更指示に示される最低空間周波数が最大規定値(βmax)よりも大きい場合には(ステップS1311,No)、バウンダリボックス処理部116は、最大規定値(βmax)におけるバウンダリボックス40を再描画する(ステップS1313)。
本実施の形態においては、バウンダリボックス40の描画における最低空間周波数(β)は320cprがデフォルト値になっている。この値が変更されると、バウンダリボックス40は再描画される。
より具体的には、飛び出し方向表示限界42および奥行き方向表示限界44が再計算される。これに応じてバウンダリボックス40が再描画される。すなわち、最低空間周波数(β)が大きいときは、飛び出し方向表示限界42および奥行き方向表示限界44のいずれも絶対値が減少する。βが小さいときは、飛び出し方向表示限界42および奥行き方向表示限界44のいずれも絶対値が増大する。
ただし、三次元画像表示装置のパラメータによって表現できる最大の空間周波数、すなわち最大規定値(βmax)が定まっている。なお、最大規定値(βmax)は、(式6)により定義される。最大規定値(βmax)については、詳しくは非特許文献1に記載されている。

βmax=L/(2*psp*Np) ・・・(式6)
最大規定値(βmax)よりも大きい値が最低空間周波数(β)として指定された場合には、最大規定値(βmax)におけるバウンダリボックス40が再描画される。例えば、デフォルトパラメータ保持部112に保持される条件においては、最大規定値(βmax)は、434.8cprと算出される。最低空間周波数(β)を320cprとした場合のバウンダリボックス描画条件は前述のように飛び出し方向表示限界および奥行き方向表示限界はそれぞれ20.3mm,−21.7mmである。
これに対し、最低空間周波数(β)を400cprに変更した場合には、飛び出し方向表示限界および奥行き方向表示限界はそれぞれ、16.3mm,−17.3mmとなる。すなわち、全体で33.6mmの奥行きを持つバウンダリボックス40が再描画される。すなわち、400cprのコンテンツを表示可能な領域は、320cprのコンテンツが表示可能な領域に比較して狭くなることを意味する。
次にステップS1315へ進む。作成者からの入力に応じて、条件変更指示取得部100が、描画方法設定指示を取得すると(ステップS1315,Yes)、描画方法設定部120は、描画方法設定指示に従い描画方法を変更し、作成画面表示部118は、変更後の描画方法で再描画されたコンテンツ30、バウンダリボックス40などを二次元画像表示画面12に表示する(ステップS1316)。
具体的には、作成者からの入力に応じて、バウンダリボックス40の境界を示す線の色や太さを変更することができる。また、境界面を半透明にすることができる。また、カメラセンターベクトル32の色の変更、描画の太さの変更などを行うことができる。
図17は、図16の処理に続く処理を示すフローチャートである。条件変更指示取得部100が原点一致指示を取得すると(ステップS1320,Yes)、ステップS1321へ進む。
原点一致指示とは、バウンダリボックス40の原点と、コンテンツ30を表示する際の原点とを一致させる旨の指示である。バウンダリボックス40の原点とは、水平断面41の中心点である。図3においては、バウンダリボックス40の原点は、各ビュー画面の中心と一致している。また、コンテンツ30を表示する際の原点とは、コンテンツ30を含む三次元画像における中心位置である。
バウンダリボックス処理部116は、バウンダリボックス40を平行移動する(ステップS1321)。さらに、カメラ制御部122は、平行移動されたバウンダリボックス40に合わせてカメラアレイ50を平行移動する(ステップS1322)。
コンテンツ30の再生位置を調整するために、バウンダリボックス40の原点と、コンテンツ30を表示する際の原点とを一致させたい場合がある。バウンダリボックス40の原点とコンテンツ30の原点とを一致させるためには、バウンダリボックス40を平行移動させるか、またはコンテンツ30を平行移動させればよい。
ただし、バウンダリボックス40の平行移動の方がバウンダリボックス40の平行移動に比べて計算量が少ない場合が多い。そこで、本実施の形態においては、バウンダリボックス40を平行移動させることとしている。
これ以外にも、図10に示されるバウンダリボックス操作画面において作成者が各方向へのバウンダリボックス40の平行移動距離を入力した場合には、条件変更指示取得部100は、バウンダリボックスの配置位置の変更、すなわちコンテンツ30における三次元可能領域におけるコンテンツ30の配置位置の変更を指示する配置位置変更指示を取得する。この場合、バウンダリボックス処理部116は、配置位置変更指示に示される位置までバウンダリボックス40を平行移動する。さらにカメラ制御部122は、バウンダリボックス40の平行移動にしたがい、カメラアレイ50を平行移動するとともに、注視点とこれを含む投影面を移動させる。
また、他の例としては、作成者は、図3に示す作成画面を見ながら、コンテンツ30またはバウンダリボックス40の配置位置の変更を指示してもよい。この場合には、条件変更指示取得部100は、配置位置変更指示を取得する。そして、バウンダリボックス処理部116は、配置位置変更指示にしたがい、バウンダリボックス40を再描画する。すなわち、三次元画像表示装置20に表示されるコンテンツ30は固定しつつ、配置位置変更指示にしたがい、コンテンツ30の配置位置を基準としたバウンダリボックス40の配置位置を変更する。
このように、コンテンツ30の配置位置の変更を指示された場合であっても、コンテンツ30の配置位置の変更に対応するようにバウンダリボックス40のコンテンツ30に対する配置位置を変更する。
次に、ステップS1324へ進み、条件変更指示取得部100が配置角度変更指示を取得すると(ステップS1324,Yes)、ステップS1325へ進む。図10に示すバウンダリボックス操作画面において作成者が基本設定として法線からのずれ角を入力すると、条件変更指示取得部100は、入力内容を含む配置角度変更指示を取得する。
条件変更指示取得部100が配置角度変更指示を取得すると、配置角度変更指示に示される角度に応じてバウンダリボックス40のアッパーベクトルとコンテンツ30表示時のアッパーベクトルの相対的な角度を変更する。すなわち、バウンダリボックス40のアッパーベクトルとコンテンツ30表示時のアッパーベクトルを一致させる。
具体的には、バウンダリボックス処理部116は、配置角度変更指示に示される角度に応じて三次元画像表示装置20に表示されるバウンダリボックス40を回転させる(ステップS1325)。さらに、カメラ制御部122は、バウンダリボックス40の回転に応じてカメラアレイ50を回転する(ステップS1326)。なお、バウンダリボックス40の回転は、水平断面41の面中心にある注視点を原点とする。
図18は、縦置き型の三次元画像表示装置のためのバウンダリボックス40を示す図である。アッパーベクトル33は、略水平方向を向いている。図19は、平置き型の三次元画面表示装置のためのバウンダリボックス40を示す図である。アッパーベクトル34は略垂直方向を向いている。例えば、縦置き型から平置き型に変更した場合には、アッパーベクトル34は、90度回転する。また、平置き型の場合の仰角に応じて角度を変更してもよい。本実施形態では、xy面はディスプレイ面に固定されており、絶対空間を意味するものではない。
これ以外にも、作成者からの入力に応じて条件変更指示取得部100は、コンテンツ30が三次元画像表示装置20に表示される際の配置角度の変更を指示する配置角度変更指示を取得する。この場合には、バウンダリボックス処理部116は、配置角度変更指示に示される回転角度だけ、バウンダリボックス40を回転させる。さらにカメラ制御部122は、カメラアレイ50を回転させる。
バウンダリボックス40の平行移動の場合と同様に、作成者は図3に示す作成画面を見ながら、コンテンツ30の正面位置の変更、すなわちコンテンツ30の配置角度の変更を指示してもよい。
この場合、条件変更指示取得部100は、コンテンツ30の配置角度の変更を指示する配置角度変更指示を取得する。そして、バウンダリボックス処理部116は、コンテンツ30の配置角度変更指示にしたがい、コンテンツ30に変えてバウンダリボックス40を再描画する。すなわち、三次元画像表示装置20に表示されるコンテンツ30を固定しつつ、バウンダリボックス40を回転させる。そして、バウンダリボックス40の回転に伴い、カメラアレイ50を回転させる。
図20は、図17に続く処理を示すフローチャートである。条件変更指示取得部100がカメラセンターベクトル32の変更を指示するカメラセンターベクトル変更指示を取得すると(ステップS1330,Yes)、バウンダリボックス処理部116は、カメラセンターベクトル32の方向を変更し、変更後のカメラセンターベクトル32を再描画する(ステップS1331)。
次に、カメラ制御部122は、再描画されたカメラセンターベクトル32に基づいて、カメラアレイ50を平行移動させる(ステップS1332)。図17において説明した処理と異なるのは、図17において説明した処理では、注視点を含む平面がセンターベクトルを法線とする関係を維持しているのに対し、図20において説明した処理では、センターベクトルが注視点を含む平面に対して法線方向に平行でなくなることである。三次元画像表示装置の法線方向と観察方向とが一致しない場合には、この処理を行うことにより両方向を一致させることができる。
次に、ステップS1334へ進み、条件変更指示取得部100がバウンダリボックス40の形状の変更を指示する形状設定指示を受け付けると(ステップS1334,Yes)、設定指示にしたがいバウンダリボックス40を再描画する(ステップS1335)。具体的には、x,y,z軸にそった異方性のある拡大縮小や、バウンダリボックスの形状を維持したままの等方的な拡大縮小がある。図10に示すバウンダリボックス操作画面において作成者がボックス形状の値を入力すると、条件変更指示取得部100は、入力内容を含む形状変更指示を取得する。次に、カメラ制御部122は、再描画されたバウンダリボックス40に基づいて、各カメラの間隔および投影面のサイズを変更する(ステップS1336)。
以上のように、本実施の形態にかかる多視点画像作成用インタフェース10は、図3を参照しつつ説明したように三次元画像表示装置20にコンテンツ30のみならずバウンダリボックス40を表示し、バウンダリボックス40の形状、位置などを変更しながら多視点画像を作成していく。
図21は、単純なCGモデルとしてコンテンツ30を表示した表示画面例を示す図である。表示画面には、トップビュー、フロントビュー、レフトビュー、パースペクティブビューが含まれている。作成者がこの画面を見ながらコンテンツ30を所望の見え方で三次元画像表示装置に再生させるためのカメラアレイ50の配置位置を設定することは困難であり、特に初心者には不都合である。
これに対し、図3に示したようにコンテンツ30とともにバウンダリボックス40を表示した場合には、コンテンツ30とバウンダリボックス40の相対的な関係を把握することができるので、コンテンツ30の再生時の形状の直感的な把握を助けることができる。さらに、バウンダリボックス40を操作することにより、コンテンツ30の再生時の形状を制御することができるので、容易に所望のコンテンツ30を作成することができる。
さらに、バウンダリボックス40が再描画されると、カメラ制御部122によりカメラ間隔が計算されカメラアレイ50が再配置される。すなわち、作成者がバウンダリボックス40を操作するとカメラアレイ50が自動的に再配置される。したがって、作成者がカメラアレイ50の配置位置とコンテンツ30の再生時の形状との関係を把握していない場合であっても、カメラアレイ50を意識せず、直感的に図23−2に示すような三次元画像31を得るための操作を行うことができる。
図22−1から図25−2を参照しつつバウンダリボックス40の操作と、これにより定まる三次元画像表示装置20における再生時のコンテンツ30の形状との関係を説明する。
図22−1は、二次元画像表示画面21の水平断面41と、バウンダリボックス40と、CGモデルであるコンテンツ30とを示す図である。図22−2は、三次元画像表示装置20の水平断面22と、三次元画像表示装置20の再生可能範囲60と、三次元画像表示装置20に再生されるコンテンツ30である三次元画像31とを示す図である。三次元画像31は、図22−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生される画像である。
再生可能範囲60は、三次元画像表示装置20のスペックが決まると、これに応じて固定される。再生可能範囲60とバウンダリボックス40の形状は完全に一致している。これは、撮影系と再生系の条件が一致していることに相当する。この結果、コンテンツ30は、三次元画像表示装置20において、コンテンツ30と形状、大きさともに正しい三次元画像31として再生される。
図23−1は、図22−1に示す状態から、コンテンツ30に対しバウンダリボックス40の奥行き方向(z方向)の幅を2倍に引き伸ばした様子を示す図である。図23−2は、図23−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生された三次元画像31を示す図である。
三次元画像31は、図23−2に示すように図22−2に示す状態からz方向に1/2につぶれた形状で再生される。前述のように再生可能範囲60のサイズが固定であるので、このように、三次元画像31が変形される。
カメラアレイ50におけるカメラ間隔を狭めると、再生される三次元画像のz方向の厚みは薄くなる。極端な例では、カメラアレイ間隔をゼロとした場合には、再生される三次元画像は厚みはゼロとなる。すなわち二次元画像となる。なお、詳細については、非特許文献2に記載されている。
すなわち、図22−1に示す状態から図23−1にz方向の幅をn倍に変更した場合には、再生系の設計に対して、カメラアレイのカメラ間隔がn倍に変更される。これにより、図23−2に示すような三次元画像31が再生されるような多視点画像が作成される。
図24−1は、図22−1に示す状態からコンテンツ30に対しバウンダリボックス40の水平方向(x方向)と図示していないが、垂直方向の幅を1/2に減らした様子を示す図である。図24−2は、図24−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生された三次元画像31を示す図である。
このように、三次元画像31は、図22−2に示す状態からxと、図示していないがy方向に2倍に引き伸ばされた形状で再生される。なお、図24−1に示すようにバウンダリボックス40のxy方向の幅をm倍にした場合には、カメラ制御部122により、カメラアレイの間隔はm倍、および投影面のサイズはそれぞれ(1/m)の二乗倍(水平方向と垂直方向にそれぞれ(1/m)倍)に設定される。
図25−1は、図22−1に示す状態からコンテンツ30に対しバウンダリボックス40を等方的に縮小した様子を示す図である。図25−2は、図25−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生された三次元画像31を示す図である。
このように、三次元画像31を図22−2に示す状態から等方的に拡大することができる。これは、二次元画像のズームに相当する操作である。なお、図25−1に示すようにバウンダリボックス40を等方的にl倍にした場合には、カメラ制御部122によりカメラアレイの投影面のサイズは(1/l)の二乗倍(水平方向と垂直方向にそれぞれ(1/l)倍)に設定される。
より具体的には、例えば、実施の形態1にかかる三次元画像表示装置において、バウンダリボックスを等方的に1/2に縮小したとする。この場合、カメラアレイの水平投影面のサイズが幅331.2mm×高さ207.0mmから幅、高さがいずれも1/2倍の幅165.6mm×高さ103.5mmになる。注視点は維持される。その結果、再生された三次元画像はコンテンツ30に対して2倍に拡大されて表示される。
また、バウンダリボックスをz方向にだけ2(=z)倍に拡大したとする。この場合、バウンダリボックスの拡大に応じて、カメラアレイのカメラ間隔は、カメラセンターをそのままに、1/2(13.4[mm]=psp×L/g/z)に縮まる。その結果、再生されたモデルはz方向に1/2の厚みにつぶれて表示される。
バウンダリボックスをxy方向に2(=x)倍に拡大した場合、カメラアレイのカメラ間隔は、カメラセンターをそのままに2倍(53.5[mm] = psp×L/g×x)に拡大される。さらに、カメラアレイの水平投影面のサイズが幅331.2mm×高さ207.0mmから2倍の幅662.4mm×高さ414.0mmになる。注視点は維持される。その結果、再生された三次元画像はモデルに対してx方向に1/2倍に縮小されて表示される。
以上のように、三次元画像表示装置20に表示されたバウンダリボックス40を操作することにより、コンテンツ30を任意の大きさ、任意の厚み、任意の角度で表示することができる。
このような操作は、コンテンツ30自体を拡大したり、つぶしたり、回転したりすることによっても達成可能である。ただし、コンテンツ30の情報量は、バウンダリボックス40の情報量に比べて多い。したがって、バウンダリボックス40を操作することとした。これにより、より軽く動作するインタフェースを実現することができる。
図26は、図20に続く処理を示すフローチャートである。条件変更指示取得部100が透視度変更指示を取得すると(ステップS1340,Yes)、ステップS1341へ進む。図11に示す投影法設定画面において、作成者が「カメラ距離/視距離」の値を入力すると、条件変更指示取得部100は、入力内容を含む透視度変更指示を取得する。作成者は、図11に示す投影法設定画面においてスライダや倍数数値入力を行うことができる。なお、ここでカメラ距離とは、カメラアレイの中心であるセンターカメラから投影面に降ろされた法線の長さである。
カメラ制御部122は、透視度変更指示に基づいて、カメラ距離を変更する。すなわち、カメラアレイ50の配置位置を変更する(ステップS1341)。具体的には、カメラ距離(L’)を観察基準視距離(L)より短くした場合には、より透視が低い(平行投影法に近い)像が再生される。さらに、カメラ距離の変更に応じて、バウンダリボックス40を再描画する(ステップS1342)。
ここで注意しないといけないのは、観察者の観察位置として仮定されている観察基準視距離(L)と、このカメラ距離(L’)が個別に設定されることである。観察基準視距離はその位置を基準に視域が最大に確保されるようにカメラ数が決定される。すなわち、観察基準視距離が変動しても、画像は変化せず、どの距離で視域幅が最大に確保されるかだけが変化する。
これに対して、カメラ距離は、三次元画像を再生するための視差情報をどの位置から取得するかを定めるものであり、ハードウェア的に決まっている視差情報を担う光線の軌跡に対して、どのような情報を載せるかを決める。すなわち、カメラ距離を変動させると、観察者が見る三次元画像が変化する。ただし、観察者はあくまでも観察基準視距離から観察することから、後述するプレビュー画面はあくまでも観察基準視距離から取得する必要がある。
以上のように、作成者は投影法設定画面において数値入力を行うことにより、カメラ距離を意識することなく所望の透視度の三次元画像を得ることができる。また、バウンダリボックスの側面(最も外側の2台のカメラの撮影範囲から定まる)の傾きの変化により、作成者に透視度を直感的に把握させることができる。なお、詳細は、非特許文献2に記載されている。
また、条件変更指示取得部100が再生歪み除去適用指示を取得した場合には(ステップS1343,Yes)、メッシュ変形部124は、メッシュ変形を行う(ステップS1344)。図11に示す投影法設定画面において、作成者が再生歪み除去適用を選択すると、条件変更指示取得部100は、再生歪み除去適用指示を取得する。
以下、メッシュ変形について説明する。非特許文献2に示されるように、水平方向にのみ視差を与えるIntegral Imaging方式三次元画像表示装置(1D−II)において、垂直方向が透視投影、水平方向が平行投影のカメラ(垂直透視水平平行カメラ)で撮影することで、歪みのない三次元画像を再生することができる。
これを考慮すると、透視投影カメラアレイまたは平行投影カメラアレイで歪みのないモデルを再生しようとした場合、コンテンツ30を変形する必要がある。すなわち、平行カメラにより得られた画像から、垂直透視水平平行カメラで得られるような画像を得るためには、コンテンツ30の形状のうち垂直方向(x方向)の幅を視点−注視点を結ぶ線(視線)に沿って奥行き方向に向かい徐々に狭くしていく必要がある。なお、ここで、視点とは、センターカメラの位置であり、注視点とは、三次元画像の中心点であり、投影面の中心である。
図27および図28は、平行カメラにおいて得られた画像を垂直透視水平平行カメラで得られるような画像に変形する処理を説明するための図である。図27および図28は、いずれもコンテンツ30のyz断面図である。図27に示すようにカメラ位置59からコンテンツ30を平行光線70で記録・再生した場合には、コンテンツ30のxz面に平行な面を表現することができない。そこで、コンテンツ30を形成する頂点のひとつを通る透視光線72とxy平面(=投影面)の交点の位置にこの頂点を記録できるようにコンテンツ30を変形する。これにより、平行光線で撮影・再生した場合であっても、透視投影的に得られた画像を再生することができる。
すなわち、図27で得られたxy平面上(=投影面)の記録点から、図28に示すようにxy平面の法線方向に引いた撮影・再生のための平行光線70と、コンテンツ30を形成する頂点のひとつを含む、投影面に平行な面(頂点のひとつのz座標を含むxy平面)との交点が変形後のコンテンツ30の頂点のひとつとなるように変形すればよい。
逆に、透視カメラにおいて得られた画像から垂直透視水平平行カメラで得られるような画像を得るためには、コンテンツ30の形状のうち水平方向(x方向)の幅を視線に沿って飛び出し方向に向かい徐々に狭くしていく必要がある。
図29および図30は、透視カメラにおいて得られた画像を垂直透視水平平行カメラで得られるような画像に変形する処理を説明するための図である。図29および図30は、いずれもコンテンツ30のxz断面図である。図29に示すように、カメラ位置59から透視光線72で画像を取得し、平行光線70で再生すると、コンテンツ30を正しく再生することができない。
平行光線70により例えばコンテンツ30のyz面に平行な面を正しく再生するには、図30に示すように、カメラ位置59とコンテンツ30のyz面に平行な面とxy面(=投影面)の交点を結ぶ透視光線面と、コンテンツ30の面が平行になるようにxy座標を変形すればよい。このときもz座標は維持する。
以上、投影面に対してカメラセンターが法線方向にある場合について、各視点画像を透視投影、または平行投影で取得する場合に、垂直透視水平平行の画像を得るための処理について述べた。カメラセンターが投影面の法線方向からずれる場合は、メッシュ変形をかけるための基準面(変形が行なわれない面、視点―注視点を結ぶ面を法線とし、注視点を含む面)と投影面(=記録面)が乖離するので、処理は若干複雑になる。
このような変形はメッシュ変形をはじめとする複数の手法で実装が可能である。そして、カメラアレイで画像を取得する際だけモデルを変形し、画像取得が終了した場合には、モデル変形をリセットするようにするのが好ましい。これにより、作成者は、コンテンツ30の変形を直接観察しないまま、歪のないコンテンツ30を再生するための複数視点画像を取得することができる。
図31は、図26に続く処理を示すフローチャートである。条件変更指示取得部100が背景ボード適用指示を取得すると(ステップS1350,Yes)、境界面処理部130は、背景ボード設置処理(ステップS1351〜ステップS1355)を行う。図12に示す背景ボード設定画面において作成者により背景ボード設置が選択されると、条件変更指示取得部100は、背景ボード適用指示を取得する。
多視点画像作成用インタフェース10により作成された多視点画像を再生する三次元画像表示装置20においては、飛び出し表示限界または奥行き表示限界により定まる三次元表示可能領域がある。三次元画像に含まれるコンテンツによっては、この領域内に納まらない場合もある。そこで、奥行き表示限界位置に背景ボードを設置し、奥行き限界以遠のコンテンツを二次元画像として表示することにより、表示限界において三次元画像が破綻するのを避けることができる。
図32は、二次元画像表示画面21と、バウンダリボックス40およびバウンダリボックス40の内側に配置されたコンテンツ34a,34bと、バウンダリボックス40の外側に配置されたコンテンツ35とを示す図である。コンテンツ35は表示限界の外側に配置されているため、コンテンツ35をそのままカメラアレイで撮影し等倍で再生した場合には、画質の悪い再生像になってしまう。
対処策としては、バウンダリボックス40をz方向に拡大する方法もある。しかし、バウンダリボックス40を拡大すると、すべてのコンテンツがz方向につぶれて再生されることになる。そこで、バウンダリボックス40の内側に配置されたコンテンツ34a,34bの三次元表示の精度を重視し、これ以外のコンテンツは背景と見なすこともできる。背景ボードは、この場合に利用されるものである。
図33は、図32のようにバウンダリボックス40の外側に配置されたコンテンツ35を背景ボード36に描画した様子を示す図である。このように、背景ボード36をバウンダリボックス40の奥行き方向表示限界の位置に設置する。カメラアレイ50のセンターより取得した画像を背景ボード36に貼り付ける。なお、このとき背景ボード36に貼り付けるべき画像は、これに背景ボード36以遠に配置すべきコンテンツの画像のみである。
再び説明を図31に戻す。背景ボード設置処理ではまず背景ボード設置位置を決定する(ステップS1351)。次に、背景ボードのサイズを決定する(ステップS1352)。次に、背景ボード用画像を取得する(ステップS1353)。背景ボード用画像は、背景ボード以遠のコンテンツをカメラセンターから取得した二次元画像である場合と、コンテンツとはまったく関係のない、他の二次元画像である場合がある。次に、ステップS1351およびステップS1352において設置位置およびサイズが決定された背景ボードに対し、ステップS1353において取得した背景ボード用画像を貼付する(ステップS1354)。次に、背景ボード以遠のクリッピングを行う(ステップS1355)。この際、背景ボードにかかったコンテンツは残すこととする。
図34は、図33において説明した背景ボード用画像取得処理(ステップS1353)における詳細な処理を示すフローチャートである。背景ボード用画像を作成する場合には(ステップS300,Yes)、背景ボードを得るためのセンターカメラの投影面のサイズを決定する(ステップS301)。
このサイズは、マルチカメラの最外の2台のカメラの撮影範囲を包含するように設定する必要がある。具体的には、背景ボードをバウンダリボックスの背面に一致させる場合は、図5の47a,47bをも含んだ背面のサイズにする必要があり、マルチカメラの投影面(=ディスプレイ面)に比べてより水平に広い範囲になる。背景ボード用の投影面サイズは、背景ボードの位置が後方になるほどより水平に広い領域となる。
次に、後方クリップを適用する場合には(ステップS302,Yes)、まずクリップ範囲を決定する(ステップS303)。次に、クリップ面の働きを決める。クリップ面上のコンテンツもクリップする場合は(ステップS304,Yes)、クリップ面よりも遠い位置、すなわち奥行き方向に沿ってクリップ面にかかったコンテンツを含めて奥側に配置されたコンテンツを除去する(ステップS305)。
一方、クリップ面上のコンテンツはクリップしない場合には(ステップS304,No)、クリップ面よりも遠い位置に配置されたコンテンツを除去するが、クリップ面にかかるコンテンツは残しておく(ステップS306)。次に、センターカメラにより背景ボード用画像を撮影する(ステップS307)。
クリップ面とは異なり、背景ボードに一部でもかかったコンテンツは残しておき、コンテンツとしてカメラアレイより複数視点画像を取得する。これにより、背景ボードにかかったモデルは、背景ボードより後方が二次元画像に、手前が三次元モデルとして再生されることになる。これにより、正面から見たときに連続した情報として認識される。
一方、背景ボード用画像として他の画像を用いる場合には(ステップS300,No)、背景ボード用画像として用いる画像を選択する(ステップS310)。
なお、背景ボード用画像のためのクリッピングは、近接クリップ(これより手前のモデルを削除)を背景ボード面に一致させればよい。
図35は、図31に示す処理に続く処理を示すフローチャートである。条件変更指示取得部100が後方クリップ適用指示を取得すると(ステップS1360,Yes)、ステップS1361へ進む。なお、図13に示すクリッピング設定画面において作成者がクリッピング適用を選択すると、条件変更指示取得部100は、後方クリップ適用指示を取得する。
ステップS1361からステップS1364の処理は、図34を参照しつつ説明したステップS303からステップS306の処理と同様である。
このように、背景ボード以外にも、奥行き方向表示限界の位置、またはその周辺位置よりも遠い位置に配置されたコンテンツをクリッピングすることもできる。
以上の操作により、図33に示すようにコンテンツ35が描画された二次元の背景ボード36を作成することができる。さらに、背景ボード36と、三次元に描画されたコンテンツ34a,34bの多視点画像をカメラアレイから取得する。こうして得られた多視点画像を三次元画像表示装置で再生することにより、コンテンツ34a,34bは、正しく表示され、さらに平面的ではあるものの背景にはコンテンツ35が表示されており、高画質の表示が可能になる。
また、コンテンツに対する背景ボードの位置もしくはクリッピングの面の相対的な位置を直感的に認識できるように二次元画像表示画面12に表示する作成画面には、バウンダリボックスとともに、背景ボード面もしくはクリッピング面をモデル空間に面として表示するのが好ましい。
次に、ステップS1366に進み、条件変更指示取得部100が前方クリップ適用指示を取得すると(ステップS1366,Yes)、クリップ範囲を決定する(ステップS1367)。次に、クリップ面のコンテンツに対する処理を行う(ステップS1368)。このように飛び出し方向表示限界に対しても近接クリッピングを行ってもよい。この場合のクリッピング範囲も、三次元画像表示装置20にモデル空間に面として表示するのが好ましい。これにより、クリッピングの状態を直感的に把握することができる。
なお、近接クリップ面にかかったコンテンツを近接クリップ面で単純に切り取った場合には、コンテンツの内側が見えるという不良が発生してしまう。したがって、近接クリップ面にかかったコンテンツに対しては、完全に除去するか、またはそのまま残すかのいずれかの処理を行う。
図36は、図35に続く処理を示すフローチャートである。条件変更指示取得部100がトラッキング適用指示を取得すると(ステップS1370,Yes)、カメラ制御部122は、カメラアレイ台数を増加する(ステップS1371)。
ここで、カメラアレイ台数を増加する処理(ステップS1371)について詳述する。裸眼式および眼鏡式のいずれの場合においても、視差情報を観察できる位置を空間的に振り分けることにより、観察者に三次元画像を認識させることができる。
特に裸眼式において、レンズアレイ、スリットまたはピンホールアレイなどの構成を採用した場合、視差情報を提示できる範囲が限られる。ピンホールやスリットといった射出瞳に対して配分できる二次元画像表示用画素数が制限されるためである。
トラッキングの方法は、大きく分けて2種類ある。リアルタイムで観察方向からの多視点画像情報を取得して観察方向に視差情報として提示する方法と、トラッキングに対応するように、予めトラッキングする領域(観察者の位置を検出する範囲)の視差情報をすべて事前に用意しておく方法である。
本実施の形態においては、後者に対応するインタフェースを実現した。すなわち、射出角度(θ)に基づく視域ではなく、トラッキングを適用した場合の視域を予め設定しておく。そして、この観察範囲を実現するための複数視点画像が得られるようにカメラアレイを配する。すなわち、トラッキングパラメータを定めることによって、作成された多視点画像を表示させる三次元画像表示装置の仕様により定まるカメラ台数より多い数のカメラを自動的に設定する。例えば、トラッキングにより、視域が2倍の範囲に広がる場合には、カメラ台数を視差数分だけ増加させればよい。
図37は、トラッキング非適用の場合のカメラアレイの配置位置80と、トラッキングを考慮して増やしたカメラアレイの配置位置81を示す水平断面図である。簡単のために光線制御子90はスリットで示した。三次元画像表示装置20を構成する二次元画像表示画面21の各画素23は、射出瞳ごとに割り振られている。そして、各画素23の位置に応じて各カメラが配置位置80に配置される。
トラッキングによって、射出瞳に対応した二次元画像表示画面21の画素を再割り当てすることとし、カメラアレイの台数を配置位置80に配置された4台から配置位置81に配置された4台を含めた計8台に増加する。
これにより、観察者の位置に応じて視域82〜85を切り替えることにより、三次元画像を観察できる領域を広げることができる。
以上のように、何らかの手段で観察者の位置を検出し、その方向の視差情報を提示するようにすれば(トラッキング)、三次元画像を観察できる領域を広げることができる。観察者の位置を検出する方法としては、磁場検出、超音波検出または画像検出を採用する。
図38は、図36に続く処理を示すフローチャートである。条件変更指示取得部100がプレビュー指示を取得すると(ステップS1372,Yes)、プレビュー処理(ステップS1373〜ステップS1375)を行う。
具体的には、再生歪み除去処理、すなわちメッシュ変形(ステップS1343)が行われている場合には(ステップS1373,Yes)、プレビュー画面作成部126は、コンテンツをそのままレンダリングする。一方、歪み除去処理がなされていない場合は、逆メッシュ処理を行う(ステップS1374)。
すなわち、平行投影で撮影する場合には、図28の変形と逆の変形を、透視投影で撮影する場合には、図30と逆の変形を適用する。これによって、各視点画像を水平平行垂直投影にしないことによる画像の歪を再現することができる。こうしてから観察基準位置におかれたビューカメラからレンダリングを行う(ステップS1375)。次に、プレビュー画面表示部128は、レンダリング結果を利用し、二次元画像表示画面12にコンテンツ30の三次元形状のイメージ画像を表示する(ステップS1376)。
このように、再生時の三次元画像をプレビュー表示することができるので、作成者は、多視点画像を作成する前に、再生時の三次元画像を直接確認することができる。
より具体的には、カメラセンターベクトルの方向における視距離(L)の位置であるビューカメラから透視投影的に取得した画像を生成する。これにより、視距離(L)から単眼で観察した状態を三次元画像表示装置20に表示することができる。画像を生成する際には、コンテンツのみでもよいが、ディスプレイ面に相当する水平断面41や、バウンダリボックス40をさらに表示してもよい。
繰り返しになるが、プレビューのためのビューカメラは視距離(L)により定められる。透視度変換によりステップS1341においてカメラ距離が変更されている場合であっても、変更前の距離すなわち視距離(L)により定められる。
図39は、図38に続く処理を示すフローチャートである。条件変更指示取得部100は、レンダリングにより作成される多視点画像の解像度の設定を指示するレンダリング解像度設定指示を取得すると(ステップS1380,Yes)、多視点画像作成部132は、作成すべき多視点画像の解像度を変更する(ステップS1381)。
三次元画像表示装置は、多様な機種が存在する。したがって、多視点画像を取得する際の負荷を考慮した場合、ある程度高い解像度で各視点画像を取得しておくことが望ましい。これにより、複数の三次元画像表装置に転用可能なアーカイブにすることができるからである。
一方、取得した画像を利用する三次元画像表示装置が確定している場合には、必要最低限の解像度でよいと考えられる。ただし、各視点画像の解像度を三次元画像表示装置の解像度の2倍〜数倍としておき、補完フィルタを用いたリサンプリングを行ってもよい。これにより、三次元画像を表示する際の画質を向上させることができる。
また、水平方向にだけ視差情報を与えるような三次元画像表示装置では、縦方向の解像度は用いている二次元画像表示装置の解像度を利用することが可能である。したがって、各視点画像の解像度のアスペクト比は1でない場合も多い。
以上のように、各種条件を鑑みた場合には、各視点画像の解像度を変えられるようにしておくことが望ましい。
次に、ステップS1392へ進み、条件変更指示取得部100がカメラ移動画像設定指示を取得した場合には(ステップS1392,Yes)、ステップS1393へ進む。ここで、カメラ移動画像設定指示とは、コンテンツをそのままにカメラを移動させた画像を作成する旨の指示である。既存のCGモデルのアニメーションにおいては、コンテンツをそのままにカメラを移動させた際に撮影された画像が作成される場合がある。このようなコンテンツに対しても、バウンダリボックス40という介在手段を適用する。
具体的には、カメラ制御部122は、まずビューカメラの軌跡を、コンテンツをそのままに移動させる単一カメラの軌跡と一致させる(ステップS1393)。さらに、カメラアレイ50の注視点を含む投影面を単一カメラの注視点を含む投影面と一致させる(ステップS1394)。
以上で、変更処理(ステップS130)が完了し、カメラアレイレンダリングが実行される(ステップS140)。なお、バウンダリボックスやクリッピング面は、このプロセスにおいてレンダリングされることはない。
図40は、実施の形態に係る多視点画像作成用インタフェース10のハードウェア構成を示す図である。多視点画像作成用インタフェース10は、ハードウェア構成として、多視点画像作成用インタフェース10における多視点画像作成処理を実行する多視点画像作成プログラムなどが格納されているROM520と、ROM520内のプログラムに従って多視点画像作成用インタフェース10の各部を制御するCPU510と、多視点画像作成用インタフェース10の制御に必要な種々のデータを記憶するRAM530と、ネットワークに接続して通信を行う通信I/F570と、各部を接続するバス620とを備えている。
先に述べた多視点画像作成用インタフェース10における多視点画像作成プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フロッピー(R)ディスク(FD)、DVD等のコンピュータで読み取り可能な記録媒体に記録されて提供されてもよい。
この場合には、多視点画像作成プログラムは、多視点画像作成用インタフェース10において上記記録媒体から読み出して実行することにより主記憶装置上にロードされ、上記ソフトウェア構成で説明した各部が主記憶装置上に生成されるようになっている。
また、本実施の形態の多視点画像作成プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。
以上、本発明を実施の形態を用いて説明したが、上記実施の形態に多様な変更または改良を加えることができる。
そうした第1の変更例としては、本実施の形態にかかる多視点画像作成用インタフェース10は、コンテンツの三次元画像表示画面における配置状態を示すイメージ画像としてコンテンツとバウンダリボックスとを含む作成画面を表示したが、イメージ画像は、コンテンツの三次元画像表示画面における配置状態を作成者に直感的に把握させることのできる画像であればよく、この観点からはバウンダリボックスに限定されるものではない。例えば、バウンダリボックスにかえてメッシュを表示させてもよい。コンテンツとメッシュとを共に表示させることにより、作成者は、三次元画像表示画面におけるコンテンツの配置状態をイメージすることができる。
また、第2の変更例としては、本実施の形態にかかる多視点画像作成用インタフェース10においては、例えば、バウンダリボックス形状変更指示などバウンダリボックスの形状の変更を必要とする処理の指示を取得した場合には、まずバウンダリボックスの形状を変更し、これに応じてカメラを再配置していた。ただし、これに限定されるものではなく、まずカメラを再配置し、これに応じてバウンダリボックスの形状を変更してもよい。
実施の形態にかかる多視点画像作成用インタフェース10の機能構成を示すブロック図である。 多視点画像作成用インタフェース10により作成された多視点画像を表示する三次元画像表示装置20を示す図である。 多視点画像作成用インタフェース10において多視点画像を作成する際に三次元画像表示装置20に表示される作成画面を示す図である。 バウンダリボックス40を説明するための図である。 バウンダリボックス40の両端の領域46a,46bおよび領域47a,47bを説明するための図である。 バウンダリボックス40をx方向から見た断面図である。 垂直方向にも多視点画像を取得する場合のバウンダリボックス40をx方向から見た断面図である。 条件を変更する場合の多視点画像作成用インタフェース10による多視点画像作成処理を示すフローチャートである。 二次元画像表示画面12に表示されるディスプレイパラメータ設定画面を示す図である。 二次元画像表示画面12に表示されるバウンダリボックス操作画面を示す図である。 二次元画像表示画面12に表示される投影法設定画面を示す図である。 二次元画像表示画面12に表示される背景ボード設定画面を示す図である。 二次元画像表示画面12に表示されるクリッピング設定画面を示す図である。 二次元画像表示画面12に表示される出力サイズ設定画面を示す図である。 図8において説明した変更処理(ステップS130)における詳細な処理を示すフローチャートである。 図15の処理に続く処理を示すフローチャートである。 図16の処理に続く処理を示すフローチャートである。 縦置き型の三次元画像表示装置のためのバウンダリボックス40を示す図である。 平置き型の三次元画面表示装置のためのバウンダリボックス40を示す図である。 図17に続く処理を示すフローチャートである。 単純なCGモデルとしてコンテンツ30を表示した表示画面例を示す図である。 二次元画像表示画面21の水平断面41と、バウンダリボックス40と、CGモデルであるコンテンツ30とを示す図である。 三次元画像表示装置20の水平断面22と、三次元画像表示装置20の再生可能範囲60と、三次元画像表示装置20に再生されるコンテンツ30である三次元画像31とを示す図である。 図22−1に示す状態から、コンテンツ30に対しバウンダリボックス40の奥行き方向(z方向)の幅を2倍に引き伸ばした様子を示す図である。 図23−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生された三次元画像31を示す図である。 図22−1に示す状態からコンテンツ30に対しバウンダリボックス40の水平方向(x方向)の幅を1/2に減らした様子を示す図である。 図24−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生された三次元画像31を示す図である。 図22−1に示す状態からコンテンツ30に対しバウンダリボックス40を等方的に縮小した様子を示す図である。 図25−1に示すバウンダリボックス40とコンテンツ30の相対的な関係を満たすように配置されたカメラアレイ50から取得した多視点画像に基づいて再生された三次元画像31を示す図である。 図20に続く処理を示すフローチャートである。 平行カメラにおいて得られた画像を垂直透視水平平行カメラで得られるような画像に変形する処理を説明するための図である。 平行カメラにおいて得られた画像を垂直透視水平平行カメラで得られるような画像に変形する処理を説明するための図である。 透視カメラにおいて得られた画像を垂直透視水平平行カメラで得られるような画像に変形する処理を説明するための図である。 透視カメラにおいて得られた画像を垂直透視水平平行カメラで得られるような画像に変形する処理を説明するための図である。 図26に続く処理を示すフローチャートである。 二次元画像表示画面21と、バウンダリボックス40およびバウンダリボックス40の内側に配置されたコンテンツ34a,34bと、バウンダリボックス40の外側に配置されたコンテンツ35とを示す図である。 図32のようにバウンダリボックス40の外側に配置されたコンテンツ35を背景ボード36に描画した様子を示す図である。 図33において説明した背景ボード用画像取得処理(ステップS1353)における詳細な処理を示すフローチャートである。 図31に示す処理に続く処理を示すフローチャートである。 図35に続く処理を示すフローチャートである。 トラッキング非適用の場合のカメラアレイの配置位置80と、トラッキングを考慮して増やしたカメラアレイの配置位置81を示す水平断面図である。 図36に続く処理を示すフローチャートである。 図38に続く処理を示すフローチャートである。 実施の形態に係る多視点画像作成用インタフェース10のハードウェア構成を示す図である。
符号の説明
10 多視点画像用インタフェース
12 二次元画像表示画面
20 三次元画像表示装置
21 三次元画像表示画面
22 水平断面
23 画素
24 レンチキュラーシート
30,34a,43b コンテンツ
31 三次元画像
32 カメラセンターベクトル
33 アッパーベクトル
35 コンテンツ
36 背景ボード
40 バウンダリボックス
41 水平断面
42 飛び出し方向表示限界
44 奥行き方向表示限界
50 カメラアレイ
51a,51x,53 カメラ
52a,52x,54 撮影範囲
54 撮影範囲
59 カメラ位置
60 再生可能範囲
70 平行光線
72 透視光線
80,81 配置位置
90 光線制御子
100 条件変更指示取得部
110 変更処理部
112 デフォルトパラメータ保持部
114 設定パラメータ保持部
116 バウンダリボックス処理部
118 作成画面表示部
120 描画方法設定部
122 カメラ制御部
124 メッシュ変形部
126 プレビュー画面作成部
128 プレビュー画面表示部
130 境界面処理部
132 多視点画像作成部
510 CPU
520 ROM
530 RAM
570 通信I/F
620 バス

Claims (30)

  1. 三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成装置であって、
    前記多視点画像作成時に、前記コンテンツの前記三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示手段と、
    前記作成画面表示手段が表示する前記イメージ画像における前記コンテンツの配置状態の変更指示を取得する変更指示取得手段と、
    前記変更指示取得手段が取得した前記変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御手段と、
    前記カメラ制御手段により変更された条件で設置された前記複数のカメラにより取得される多視点画像を作成する多視点画像作成手段と
    を備えたことを特徴とする多視点画像作成装置。
  2. 前記カメラ制御手段は、前記カメラの配置位置として、注視点から前記カメラまでの距離を変更することを特徴とする請求項1に記載の多視点画像作成装置。
  3. 前記カメラ制御手段は、前記カメラの配置位置として、各カメラ間の間隔を変更することを特徴とする請求項1または2に記載の多視点画像作成装置。
  4. 前記作成画面表示手段は、前記イメージ画像として、前記コンテンツと前記三次元画像表示画面において三次元に表示可能な領域に対応するバウンダリボックスとを表示し、
    前記変更指示取得手段は、前記変更指示として、前記バウンダリボックスと前記コンテンツの相対的な配置状態の変更を指示する前記変更指示を取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記変更指示に基づいて、前記多視点画像に対応する複数のカメラそれぞれの配置位置および注視点および投影面のサイズおよび数のうち少なくともひとつを変更することを特徴とする請求項1から3のいずれか一項に記載の多視点画像作成装置。
  5. 前記作成画面表示手段は、前記変更指示取得手段が前記変更指示を取得した場合に、前記変更指示に示される相対的な配置状態に配置された前記コンテンツおよび前記バウンダリボックスを前記二次元画像表示画面に表示することを特徴とする請求項4に記載の多視点画像作成装置。
  6. 前記変更指示取得手段が前記変更指示を取得した場合に、前記変更指示に基づいて、前記二次元画像表示画面に表示されている前記コンテンツの位置を基準とし、前記バウンダリボックスの配置状態を変更するバウンダリボックス処理手段をさらに備え、
    前記作成画面表示手段は、前記コンテンツと、前記バウンダリボックス処理手段により処理された後の前記バウンダリボックスとを前記二次元画像表示画面に表示することを特徴とする請求項5に記載の多視点画像作成装置。
  7. 観察者の位置として仮定された観察基準位置に配置し、前記注視点に向けられたビューカメラから透視投影的に撮影された前記コンテンツの三次元形状イメージ画像を二次元画像表示画面に表示するプレビュー画面表示手段をさらに備えたことを特徴とする請求項1から6のいずれか一項に記載の多視点画像作成装置。
  8. 前記バウンダリボックスは、前記三次元画像表示画面の飛び出し方向における表示限界および奥行き方向における表示限界を境界面とすることを特徴とする請求項4から7のいずれか一項に記載の多視点画像作成装置。
  9. 前記バウンダリボックスは、前記注視点を内包することを特徴とする請求項4から7のいずれか一項に記載の多視点画像作成装置。
  10. 前記バウンダリボックスは、前記複数のカメラのうち両端に配置される2台のカメラの撮影範囲の境界面を境界面とすることを特徴とする請求項4から9のいずれか一項に記載の多視点画像作成装置。
  11. 前記変更指示取得手段は、前記変更指示として、前記三次元画像表示画面に表示される前記コンテンツの形状の変更を指示する形状変更指示を取得し、
    前記カメラ制御手段は、前記形状変更指示に示される前記コンテンツの形状に基づいて、前記多視点画像に対応する複数のカメラそれぞれの配置位置および前記投影面のサイズのうち少なくとも一方を変更することを特徴とする請求項4から10のいずれか一項に記載の多視点画像作成装置。
  12. 前記変更指示取得手段は、前記変更指示として前記三次元画像表示画面における前記コンテンツの配置位置の変更を指示する配置位置変更指示を取得し、
    前記カメラ制御手段は、前記配置位置変更指示に示される前記コンテンツの配置位置に基づいて、前記多視点画像に対応する複数のカメラそれぞれの位置および前記注視点の両方を平行移動させることを特徴とする請求項4から11のいずれか一項に記載の多視点画像作成装置。
  13. 前記変更指示取得手段は、前記変更指示として、前記三次元画像表示画面に対する前記コンテンツの配置角度の変更を指示する配置角度変更指示を取得し、
    前記カメラ制御手段は、前記配置角度変更指示に示される回転角度に基づいて、前記多視点画像に対応する複数のカメラそれぞれを、前記バウンダリボックスに内包される前記注視点を基準として回転移動させることを特徴とする請求項4から12のいずれか一項に記載の多視点画像作成装置。
  14. 前記作成画面表示手段は、前記コンテツおよび前記バウンダリボックスに加えて、前記複数のカメラの配置位置の中心位置の方向を示すカメラセンターベクトルをさらに表示し、
    前記変更指示取得手段は、前記変更指示として、前記カメラセンターベクトルの方向の変更を指示するカメラセンターベクトル変更指示をさらに取得し、
    前記カメラ制御手段は、前記注視点の位置を維持しつつ、かつ前記変更指示取得手段が取得した前記カメラセンターベクトル変更指示に示される前記カメラセンターベクトルの方向に基づいて、前記多視点画像に対応する複数のカメラそれぞれの配置位置を変更することを特徴とする請求項4から13のいずれか一項に記載の多視点画像作成装置。
  15. 前記変更指示取得手段は、前記変更指示として、前記多視点画像を表示させる前記三次元画像表示画面のサイズの変更を指示する三次元画像表示画面サイズ変更指示をさらに取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記三次元画像表示画面サイズ変更指示に示される前記三次元画像表示画面サイズに基づいて、前記多視点画像に対応する複数のカメラそれぞれの前記投影面のサイズを変更することを特徴とする請求項4から14のいずれか一項に記載の多視点画像作成装置。
  16. 前記変更指示取得手段は、前記変更指示として、前記三次元画像表示装置の表示方式の変更を指示する表示形式変更指示をさらに取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記表示方式変更指示に示される前記表示方式に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、注視点および投影法のうち少なくとも一つを変更することを特徴とする請求項4から15のいずれか一項に記載の多視点画像作成装置。
  17. 前記変更指示取得手段は、前記変更指示として、前記複数のカメラにおける投影法の変更を指示する投影法変更指示を取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記投影法変更指示に示される投影法に基づいて、前記多視点画像に対応する複数のカメラそれぞれの投影法および配置位置および投影面のサイズおよび注視点のうち少なくとも一つを変更することを特徴とする請求項4から16のいずれか一項に記載の多視点画像作成装置。
  18. 前記変更指示取得手段は、前記変更指示として、前記作成画面表示手段に表示される前記イメージ画像を描画するのに利用する空間周波数の変更を指示するコンテンツ空間周波数変更指示をさらに取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記コンテンツ空間周波数変更指示に示される前記空間周波数に基づいて、前記作成画面表示手段に表示される前記イメージ画像を変更することを特徴とする請求項4から17のいずれか一項に記載の多視点画像作成装置。
  19. 前記変更指示取得手段は、前記変更指示として、前記三次元画像の観察基準位置と前記コンテンツとの間の観察基準視距離の変更を指示する観察基準視距離変更指示を取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記観察基準視距離変更指示に示される前記観察基準視距離に基づいて、前記多視点画像に対応するカメラの数、および複数のカメラそれぞれの配置位置のうち少なくとも一方を変更することを特徴とする請求項4から18のいずれか一項に記載の多視点画像作成装置。
  20. 前記変更指示取得手段は、前記変更指示として、前記三次元画像における透視度の変更を指示する透視度変更指示を取得し、
    前記カメラ制御手段は、前記変更指示取得手段が取得した前記透視度変更指示に示される前記透視度に基づいて、前記多視点画像に対応する複数のカメラそれぞれの配置位置を変更することを特徴とする請求項4から19のいずれか一項に記載の多視点画像作成装置。
  21. 前記コンテンツを前記三次元画像表示画面に再生した際に生じる再生歪みの除去処理を行う旨を示す再生歪み除去適用指示を取得する再生歪み除去適用指示取得手段と、
    前記再生歪み除去適用指示取得手段が前記再生歪み除去適用指示を取得した場合に、前記コンテンツに対しメッシュ変形を行うメッシュ変形手段と
    をさらに備え、
    前記多視点画像作成手段は、前記メッシュ変形手段により変形された後の前記コンテンツに対する前記多視点画像を作成することを特徴とする請求項4に記載の多視点画像作成装置。
  22. 前記作成画面表示手段は、前記再生歪み除去適用指示取得手段が前記再生歪み除去適用指示を取得した場合には、前記メッシュ変形が行われていない前記コンテンツの前記三次元画像表示画面における配置状態を示す前記イメージ画像を前記二次元画像表示画面に表示することを特徴とする請求項21に記載の多視点画像作成装置。
  23. 前記メッシュ変形手段によりメッシュ変形された前記コンテンツに対し、前記メッシュ変形の逆の処理である逆メッシュ変形を行う逆メッシュ変形手段と、
    前記コンテンツに前記メッシュ変形が行われている場合に、前記逆メッシュ変形手段により逆メッシュ変形された後の前記コンテンツであって、観察者の位置として仮定された観察基準位置に配置され、注視点に向けられたビューカメラから透視投影的に撮影された前記コンテンツの三次元形状イメージ画像を二次元画像表示画面に表示するプレビュー画面表示手段と
    をさらに備えたことを特徴とする請求項21または22に記載の多視点画像作成装置。
  24. 前記カメラの解像度の変更を指示するカメラ解像度変更指示を取得するカメラ解像度変更指示取得手段をさらに備え、
    前記多視点画像作成手段は、前記カメラ解像度変更指示取得手段が取得した前記カメラ解像度変更指示に示されるカメラの解像度における前記多視点画像を作成することを特徴とする請求項1から23のいずれか一項に記載の多視点画像作成装置。
  25. 前記コンテンツに対し撮影カメラを移動させた場合に撮影されるカメラ移動三次元画像の作成を指示するカメラ移動三次元画像作成指示を取得するカメラ移動三次元画像作成指示取得手段をさらに備え、
    前記カメラ制御手段は、前記カメラ移動三次元画像作成指示取得手段が前記カメラ移動三次元画像作成指示を取得した場合に、三次元画像表示装置の観察者基準位置に配置されたビューカメラの軌跡を前記カメラ移動三次元画像を撮影する移動カメラの軌跡に一致させ、かつ前記移動カメラの注視点と投影面に、複数のカメラの注視点と投影面を一致させることを特徴とする請求項1に記載の多視点画像作成装置。
  26. 前記三次元画像表示画面における奥行き方向に背景ボードを設置する背景ボード設置指示を取得する背景ボード設置指示取得手段と、
    前記背景ボード設置指示取得手段が前記背景ボード設置指示を取得した場合に、前記背景ボードを設置する背景ボード処理手段と
    をさらに備え、
    前記作成画面表示手段は、前記背景ボード処理手段により設置された前記背景ボードを前記イメージ画像として前記コンテンツおよび前記バウンダリボックスと共に表示することを特徴とする請求項4に記載の多視点画像作成装置。
  27. 前記三次元画像表示画面における奥行き方向または飛び出し方向におけるクリッピング処理の指示を取得するクリッピング指示取得手段をさらに備え、
    前記作成画面表示手段は、前記クリッピング指示取得手段により決定されたクリッピング位置を前記イメージ画像として前記コンテンツおよび前記バウンダリボックスと共に表示することを特徴とする請求項1に記載の多視点画像作成装置。
  28. 前記カメラ制御手段は、前記クリッピング指示取得手段が前記クリッピング処理の指示を取得した場合に、前記複数のカメラの投影面とクリッピング面を、前記三次元画像表示画面とクリッピング面に一致させることを特徴とする請求項1に記載の多視点画像作成装置。
  29. 三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成方法であって、
    前記多視点画像作成時に、前記コンテンツの前記三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示ステップと、
    前記二次元画像表示画面に表示される前記イメージ画像における前記コンテンツの配置状態の変更指示を取得する変更指示取得ステップと、
    前記変更指示取得ステップにおいて取得した前記変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御ステップと、
    前記カメラ制御ステップにおいて変更された条件で設置された前記複数のカメラにより取得される多視点画像を作成する多視点画像作成ステップと
    を有することを特徴とする多視点画像作成方法。
  30. 三次元画像表示画面にコンテンツを表示するための多視点画像を作成する多視点画像作成処理をコンピュータに実行させる多視点画像作成プログラムであって、
    前記多視点画像作成時に、前記コンテンツの前記三次元画像表示画面における配置状態を示すイメージ画像を二次元画像表示画面に表示する作成画面表示ステップと、
    前記二次元画像表示画面に表示される前記イメージ画像における前記コンテンツの配置状態の変更指示を取得する変更指示取得ステップと、
    前記変更指示取得ステップにおいて取得した前記変更指示に基づいて、前記多視点画像に対応するカメラの数、複数のカメラそれぞれの配置位置、複数のカメラそれぞれの投影面のサイズ、注視点および投影法のうち少なくとも一つを変更するカメラ制御ステップと、
    前記カメラ制御ステップにおいて変更された条件で設置された前記複数のカメラにより取得される多視点画像を作成する多視点画像作成ステップと
    を有することを特徴とする多視点画像作成プログラム。
JP2005285437A 2005-09-29 2005-09-29 多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム Expired - Fee Related JP4488996B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005285437A JP4488996B2 (ja) 2005-09-29 2005-09-29 多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム
US11/525,817 US7633528B2 (en) 2005-09-29 2006-09-25 Multi-viewpoint image generation apparatus, multi-viewpoint image generation method, and multi-viewpoint image generation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005285437A JP4488996B2 (ja) 2005-09-29 2005-09-29 多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム

Publications (2)

Publication Number Publication Date
JP2007096951A true JP2007096951A (ja) 2007-04-12
JP4488996B2 JP4488996B2 (ja) 2010-06-23

Family

ID=37982071

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005285437A Expired - Fee Related JP4488996B2 (ja) 2005-09-29 2005-09-29 多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム

Country Status (2)

Country Link
US (1) US7633528B2 (ja)
JP (1) JP4488996B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010224886A (ja) * 2009-03-24 2010-10-07 Toshiba Corp 立体画像描画装置および描画方法
JP2011043718A (ja) * 2009-08-21 2011-03-03 Sun Corp 3次元画像表示装置
JP2011215422A (ja) * 2010-03-31 2011-10-27 Toshiba Corp 表示装置及び立体画像の表示方法
JP2012049987A (ja) * 2010-08-30 2012-03-08 Toshiba Corp 立体視用眼鏡及び立体視映像表示システム
JP2012120216A (ja) * 2012-01-18 2012-06-21 Olympus Visual Communications Corp 3次元映像データ生成方法、3次元映像データ生成システム、及び3次元映像データ生成プログラム
WO2012172766A1 (en) * 2011-06-15 2012-12-20 Sony Corporation Image processing device and method thereof, and program
JP2013501443A (ja) * 2009-08-06 2013-01-10 ソニー ヨーロッパ リミテッド 3d画像表示方法、3d画像表示装置、シャッターメガネ、プログラムおよびコンピュータ可読記録媒体
JP2013501475A (ja) * 2009-08-06 2013-01-10 クゥアルコム・インコーポレイテッド 3次元入力フォーマットに従ってビデオデータを変換すること
JP2013105183A (ja) * 2011-11-10 2013-05-30 Sony Corp 情報処理装置、情報処理方法及びプログラム
WO2013108391A1 (ja) * 2012-01-19 2013-07-25 株式会社東芝 画像処理装置、立体画像表示装置、および、画像処理方法
CN103246054A (zh) * 2012-02-02 2013-08-14 徕卡显微系统(瑞士)股份公司 用于显示立体图像的系统
KR20190117033A (ko) * 2018-04-05 2019-10-16 박세진 사용자의 주시방향 인식기반 3차원 영상미디어 제공시스템
JP2019193002A (ja) * 2018-04-20 2019-10-31 日本放送協会 多視点カメラ制御装置及びそのプログラム
CN110780453A (zh) * 2019-11-19 2020-02-11 华侨大学 多视点全分辨率自由立体显示屏
CN111953956A (zh) * 2020-08-04 2020-11-17 山东金东数字创意股份有限公司 裸眼立体异型图像三维相机生成系统及其方法

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB0410551D0 (en) * 2004-05-12 2004-06-16 Ller Christian M 3d autostereoscopic display
EP2014102B1 (en) 2006-04-19 2016-03-09 Setred AS High speed display shutter for autostereoscopic display
DE102006055641B4 (de) * 2006-11-22 2013-01-31 Visumotion Gmbh Anordnung und Verfahren zur Aufnahme und Wiedergabe von Bildern einer Szene und/oder eines Objektes
FR2913552B1 (fr) * 2007-03-09 2009-05-22 Renault Sas Systeme de projection d'images en trois dimensions sur un ecran en deux dimensions et procede correspondant
WO2009011946A1 (en) * 2007-04-17 2009-01-22 University Of Southern California Rendering for an interactive 360 degree light field display
DE202007010389U1 (de) * 2007-07-24 2007-09-27 Maier, Florian Vorrichtung zur automatischen Positionierung von gekoppelten Kameras zur plastischen Bilddarstellung
GB0716776D0 (en) 2007-08-29 2007-10-10 Setred As Rendering improvement for 3D display
JP2010137009A (ja) * 2008-12-15 2010-06-24 Nintendo Co Ltd キャリブレーションプログラム及び座標検出装置
WO2010072065A1 (zh) * 2008-12-25 2010-07-01 深圳市泛彩溢实业有限公司 全息三维图像信息采集装置、方法及还原装置、方法
CN102804789B (zh) * 2009-06-23 2015-04-29 Lg电子株式会社 接收系统和提供3d图像的方法
CN102474641B (zh) * 2009-07-07 2015-05-13 Lg电子株式会社 用于显示三维用户界面的方法
US8274613B2 (en) * 2009-08-27 2012-09-25 Seiko Epson Corporation Display masks for display and calibration in projector-based display systems
EP2489198A4 (en) * 2009-10-16 2013-09-25 Lg Electronics Inc METHOD FOR DISPLAYING 3D CONTENTS AND DEVICE FOR PROCESSING A SIGNAL
US8988495B2 (en) * 2009-11-03 2015-03-24 Lg Eletronics Inc. Image display apparatus, method for controlling the image display apparatus, and image display system
CN102024272A (zh) * 2010-09-21 2011-04-20 上海大学 一种获取三维运动物体计算全息图的装置和方法
KR101852811B1 (ko) * 2011-01-05 2018-04-27 엘지전자 주식회사 영상표시 장치 및 그 제어방법
WO2012134487A1 (en) * 2011-03-31 2012-10-04 Hewlett-Packard Development Company, L.P. Adaptive monoscopic and stereoscopic display using an integrated 3d sheet
JP5367034B2 (ja) * 2011-08-24 2013-12-11 株式会社ソニー・コンピュータエンタテインメント 画像処理装置および画像処理方法
TW201326902A (zh) 2011-12-29 2013-07-01 Ind Tech Res Inst 立體顯示系統及其影像顯示方法
KR20140035747A (ko) * 2012-09-14 2014-03-24 삼성전자주식회사 초음파 영상 장치 및 그 제어방법
CN105025284B (zh) 2014-04-18 2019-02-05 北京三星通信技术研究有限公司 标定集成成像显示设备的显示误差的方法和设备
JP2016025396A (ja) * 2014-07-16 2016-02-08 キヤノン株式会社 投影装置及びその制御方法、情報処理装置及びその制御方法、コンピュータプログラム
ES2928663T3 (es) * 2015-02-27 2022-11-21 Leia Inc Cámara multivista
WO2017196343A1 (en) * 2016-05-12 2017-11-16 Hewlett-Packard Development Company, L.P. 3d render data processing
US11317028B2 (en) * 2017-01-06 2022-04-26 Appsure Inc. Capture and display device
CN109448120B (zh) * 2018-10-31 2023-09-08 广州凡拓动漫科技有限公司 三维建筑模型的处理方法、装置和计算机设备
CN115103121A (zh) * 2022-07-05 2022-09-23 长江三峡勘测研究院有限公司(武汉) 边坡倾斜摄影装置、影像数据采集方法及影像数据采集仪

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2842735B2 (ja) 1992-07-20 1999-01-06 沖電気工業株式会社 複数視点3次元画像入力装置、画像合成装置、及びその画像出力装置
CN1640519B (zh) * 1997-02-18 2010-06-09 世嘉股份有限公司 图像处理装置和图像处理方法
JP3892808B2 (ja) 2002-12-27 2007-03-14 株式会社東芝 3次元画像表示装置、この表示装置に視差画像を配分する方法及びこの表示装置に3次元画像を表示する方法
US7425951B2 (en) * 2002-12-27 2008-09-16 Kabushiki Kaisha Toshiba Three-dimensional image display apparatus, method of distributing elemental images to the display apparatus, and method of displaying three-dimensional image on the display apparatus
WO2004114224A1 (ja) * 2003-06-20 2004-12-29 Nippon Telegraph And Telephone Corporation 仮想視点画像生成方法及び3次元画像表示方法並びに装置
US20050073585A1 (en) * 2003-09-19 2005-04-07 Alphatech, Inc. Tracking systems and methods

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010224886A (ja) * 2009-03-24 2010-10-07 Toshiba Corp 立体画像描画装置および描画方法
JP2013501443A (ja) * 2009-08-06 2013-01-10 ソニー ヨーロッパ リミテッド 3d画像表示方法、3d画像表示装置、シャッターメガネ、プログラムおよびコンピュータ可読記録媒体
US9083958B2 (en) 2009-08-06 2015-07-14 Qualcomm Incorporated Transforming video data in accordance with three dimensional input formats
JP2013501475A (ja) * 2009-08-06 2013-01-10 クゥアルコム・インコーポレイテッド 3次元入力フォーマットに従ってビデオデータを変換すること
JP2011043718A (ja) * 2009-08-21 2011-03-03 Sun Corp 3次元画像表示装置
JP2011215422A (ja) * 2010-03-31 2011-10-27 Toshiba Corp 表示装置及び立体画像の表示方法
JP2012049987A (ja) * 2010-08-30 2012-03-08 Toshiba Corp 立体視用眼鏡及び立体視映像表示システム
WO2012172766A1 (en) * 2011-06-15 2012-12-20 Sony Corporation Image processing device and method thereof, and program
CN103597824A (zh) * 2011-06-15 2014-02-19 索尼公司 图像处理装置及其方法和程序
JP2013105183A (ja) * 2011-11-10 2013-05-30 Sony Corp 情報処理装置、情報処理方法及びプログラム
JP2012120216A (ja) * 2012-01-18 2012-06-21 Olympus Visual Communications Corp 3次元映像データ生成方法、3次元映像データ生成システム、及び3次元映像データ生成プログラム
WO2013108391A1 (ja) * 2012-01-19 2013-07-25 株式会社東芝 画像処理装置、立体画像表示装置、および、画像処理方法
JPWO2013108391A1 (ja) * 2012-01-19 2015-05-11 株式会社東芝 画像処理装置、立体画像表示装置、および、画像処理方法
CN103246054A (zh) * 2012-02-02 2013-08-14 徕卡显微系统(瑞士)股份公司 用于显示立体图像的系统
JP2013162522A (ja) * 2012-02-02 2013-08-19 Leica Microsystems (Schweiz) Ag ステレオスコピック画像の表示システム
KR20190117033A (ko) * 2018-04-05 2019-10-16 박세진 사용자의 주시방향 인식기반 3차원 영상미디어 제공시스템
KR102053979B1 (ko) * 2018-04-05 2019-12-12 박세진 사용자의 주시방향 인식기반 3차원 영상미디어 제공시스템
JP2019193002A (ja) * 2018-04-20 2019-10-31 日本放送協会 多視点カメラ制御装置及びそのプログラム
CN110780453A (zh) * 2019-11-19 2020-02-11 华侨大学 多视点全分辨率自由立体显示屏
CN111953956A (zh) * 2020-08-04 2020-11-17 山东金东数字创意股份有限公司 裸眼立体异型图像三维相机生成系统及其方法
CN111953956B (zh) * 2020-08-04 2022-04-12 山东金东数字创意股份有限公司 裸眼立体异型图像三维相机生成系统及其方法

Also Published As

Publication number Publication date
US20070121182A1 (en) 2007-05-31
JP4488996B2 (ja) 2010-06-23
US7633528B2 (en) 2009-12-15

Similar Documents

Publication Publication Date Title
JP4488996B2 (ja) 多視点画像作成装置、多視点画像作成方法および多視点画像作成プログラム
JP4328311B2 (ja) 三次元画像表示用多視点画像の作成方法およびプログラム
JP4125252B2 (ja) 画像生成装置、画像生成方法、及び画像生成プログラム
WO2010084724A1 (ja) 画像処理装置、プログラム、画像処理方法、記録方法および記録媒体
US20100033479A1 (en) Apparatus, method, and computer program product for displaying stereoscopic images
JP3749227B2 (ja) 立体画像処理方法および装置
JP3857988B2 (ja) 立体画像処理方法および装置
JP2005073013A (ja) 立体画像表示装置、立体画像表示方法、その方法をコンピュータに実行させるためのプログラム及びそのプログラムを記録した記録媒体
JP2010226500A (ja) 立体画像表示装置および立体画像表示方法
JP2006211291A (ja) 立体視可能な表示装置および方法
JP2020004325A (ja) 画像処理装置、画像処理方法およびプログラム
JP5396877B2 (ja) 画像処理装置、プログラム、画像処理方法、および記録方法
KR101212223B1 (ko) 촬영장치 및 깊이정보를 포함하는 영상의 생성방법
JP4118146B2 (ja) 立体画像処理装置
JP6166985B2 (ja) 画像生成装置および画像生成プログラム
WO2021024827A1 (ja) 手術画像表示システム、画像処理装置、及び画像処理方法
JP3600422B2 (ja) ステレオ画像表示方法及び装置
JP4902012B1 (ja) ズーミング可能なステレオフォトビューア
JP5214040B2 (ja) ズーミング可能な立体写真ビューア
JP6601392B2 (ja) 表示制御装置、表示制御方法、及び、プログラム
JP2013191950A (ja) 立体画像データ生成システム、立体画像データ表示システム、および、立体画像データ表示方法
KR102649281B1 (ko) 3d/2d 변환이 가능한 집적영상 생성 및 재생 장치와 그 방법
JP7329795B2 (ja) 映像供給装置、映像供給方法、表示システムおよびプログラム
JP2019045679A (ja) 画像処理装置、該画像処理装置の制御方法、画像表示装置、及びプログラム
JP4591997B2 (ja) 立体視映像表示装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100202

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100302

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100330

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130409

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130409

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140409

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees