JP2011160421A - 立体画像の作成方法、作成装置及びプログラム - Google Patents
立体画像の作成方法、作成装置及びプログラム Download PDFInfo
- Publication number
- JP2011160421A JP2011160421A JP2011011058A JP2011011058A JP2011160421A JP 2011160421 A JP2011160421 A JP 2011160421A JP 2011011058 A JP2011011058 A JP 2011011058A JP 2011011058 A JP2011011058 A JP 2011011058A JP 2011160421 A JP2011160421 A JP 2011160421A
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- camera
- creating
- stereoscopic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 230000001131 transforming effect Effects 0.000 claims abstract 2
- 238000006073 displacement reaction Methods 0.000 claims description 30
- 238000006243 chemical reaction Methods 0.000 claims description 13
- 230000004044 response Effects 0.000 claims description 2
- 238000004519 manufacturing process Methods 0.000 claims 1
- 238000012545 processing Methods 0.000 description 61
- 230000000694 effects Effects 0.000 description 12
- 239000002131 composite material Substances 0.000 description 11
- 238000001514 detection method Methods 0.000 description 10
- 238000000926 separation method Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000003384 imaging method Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 238000004590 computer program Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 239000011521 glass Substances 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- NAWXUBYGYWOOIX-SFHVURJKSA-N (2s)-2-[[4-[2-(2,4-diaminoquinazolin-6-yl)ethyl]benzoyl]amino]-4-methylidenepentanedioic acid Chemical compound C1=CC2=NC(N)=NC(N)=C2C=C1CCC1=CC=C(C(=O)N[C@@H](CC(=C)C(O)=O)C(O)=O)C=C1 NAWXUBYGYWOOIX-SFHVURJKSA-N 0.000 description 1
- 230000002730 additional effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/111—Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N2213/00—Details of stereoscopic systems
- H04N2213/005—Aspects relating to the "3D+depth" image format
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Studio Devices (AREA)
Abstract
【課題】画面サイズ等にかかわらず、適切に立体画像を表示し得る立体画像の作成方法等の技術を提供すること。
【解決手段】表示のための立体画像の作成方法であって、第1の画像と、前記第1の画像と同じ場所から撮像された同じシーンの、前記第1の画像から所定量分変位された第2の画像とを受信し、少なくとも幾つかの前記第2の画像が、前記第1の画像から追加量分変位されるように、前記第2の画像を変換し、立体表示のための前記第1の画像及び前記変換された第2の画像を出力する立体画像の作成方法が提供される。対応する立体画像の作成装置も提供される。
【選択図】図1
【解決手段】表示のための立体画像の作成方法であって、第1の画像と、前記第1の画像と同じ場所から撮像された同じシーンの、前記第1の画像から所定量分変位された第2の画像とを受信し、少なくとも幾つかの前記第2の画像が、前記第1の画像から追加量分変位されるように、前記第2の画像を変換し、立体表示のための前記第1の画像及び前記変換された第2の画像を出力する立体画像の作成方法が提供される。対応する立体画像の作成装置も提供される。
【選択図】図1
Description
本発明は、立体画像の作成方法、作成装置及びプログラムに関する。
現在、3次元効果を有する画像を生成するのに用いられる立体画像は、カメラリグを使用して撮像されている。その3次元効果は、所定の距離だけ離されて配置された、同じ焦点距離を有する2つのカメラによって達成される。2つのカメラの間の距離は、2つの画像間の最大正距離が、表示時に、視聴者の目の間の距離以下となるように設定される。視聴者の目の間の距離は、"瞳孔間距離"と呼ばれる場合がある。この距離は、典型的には6.5cmである。
しかしながら、上記した伝統的なカメラの配置は、問題を有していることが出願人らによって確認された。上述のように、2つのカメラの間の距離は、特定サイズの画面上に表示される2つの画像の間の最大正距離が瞳孔間距離となるように設定される。換言すると、右画像内の物体は、左画像内の物体の右に、高々、瞳孔間距離の位置に現れる。それ故、リグ上のカメラによって撮像された画像が異なるサイズの画面上に表示されると、3次元効果が失われるか、又は、表示される画像間の距離が瞳孔間距離を超える。換言すると、カメラの間の距離が映写幕上での立体画像の表示に適切な位置となるように設定されたカメラリグによって画像が撮像されると、そのとき撮像された画像は、テレビ画面上での立体画像の表示には不適切となる。
本願は、このような問題を軽減することを目的の1つとしている。
本発明の第1の形態に係る立体画像の作成方法は、表示のための立体画像の作成方法であって、第1の画像と、前記第1の画像と同じ場所から撮像された同じシーンの、前記第1の画像から所定量分変位された第2の画像とを受信し、少なくとも幾つかの前記第2の画像が、前記第1の画像から追加量分変位されるように、前記第2の画像を変換し、立体表示のための前記第1の画像及び前記変換された第2の画像を出力する。
これは、それぞれ異なった視差効果が、画像内のそれぞれ異なる物体に適用可能であるので、有利である。これにより、あるサイズの画面上の表示のために適切な方法で撮像された画像を、画面サイズ等が異なる様々な他の画面上に表示することができる。
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面のサイズに応じて決定されてもよい。
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面から視聴者までの距離に応じて決定されてもよい。
前記立体画像の作成方法は、さらに、撮像されたシーン内の物体と、第1のカメラ素子及び/又は第2のカメラ素子との間の距離を示す距離データを取得してもよい。この場合、前記追加量は、前記取得された距離データに応じて決定されてもよい。
前記距離データを取得するステップは、前記第1のカメラ素子及び/又は第2のカメラ素子から所定距離で撮像された、シーン内に位置する物体の、前記撮像された第1の画像及び第2の画像内での変位を測定するステップを有する、較正データを取得する較正ステップを含んでいてもよい。
前記距離データを取得するステップは、前記第1のカメラ素子及び/又は前記第2のカメラ素子から所定距離に位置する物体の、前記撮像された第1の画像及び第2の画像内の変位と、前記第1のカメラ素子及び/又は前記第2のカメラ素子に関連する少なくとも1つのカメラパラメータとの関係を定義する較正データを、記憶部から取得する較正ステップを含んでいてもよい。
距離データを取得するステップは、較正の後に、カメラからの距離が取得される物体の、前記撮像された第1の画像及び第2の画像内の変位を測定するステップと、前記測定された変位及び前記較正データに応じて、前記物体と、前記カメラとの間の距離を測定するステップとを有していてもよい。
前記立体画像の作成方法は、さらに、前記取得された距離データを使用して、前記第1の画像から物体を分離してもよい。
前記距離データは、所定の奥行きマップから取得されてもよい。
前記立体画像の作成方法は、さらに、前記第1の画像と、前記距離データに応じて決定された変換量で、前記第1の画像の少なくとも一部が変換された変換バージョンとを比較し、前記比較に応じて、前記第1の画像の少なくとも一部のための距離データを更新してもよい。
前記更新された距離データは、前記追加量の決定に用いられてもよい。
本発明の他の形態に係る立体画像の作成装置は、表示のための立体画像の作成装置であって、第1の画像と、前記第1の画像と同じ場所から撮像された同じシーンの、前記第1の画像から所定量分変位された第2の画像とを受信する受信部と、少なくとも幾つかの前記第2の画像が、前記第1の画像から追加量分変位されるように、前記第2の画像を変換する変換部と、立体表示のための前記第1の画像及び前記変換された第2の画像を出力するインターフェイスとを具備する。
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面のサイズに応じて決定されてもよい。
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面から視聴者までの距離に応じて決定されてもよい。
前記立体画像の作成装置は、撮像されたシーン内の物体と、第1のカメラ素子及び/又は第2のカメラ素子との間の距離を示す距離データを取得する取得部をさらに具備していてもよい。この場合、前記追加量は、前記取得された距離データに応じて決定されてもよい。
前記取得部は、前記第1のカメラ素子及び/又は第2のカメラ素子から所定距離で撮像された、シーン内に位置する物体の、前記撮像された第1の画像及び第2の画像内での変位を測定する、較正データを取得する較正部を含んでいてもよい。
前記取得部は、前記第1のカメラ素子及び/又は前記第2のカメラ素子から所定距離に位置する物体の、前記撮像された第1の画像及び第2の画像内の変位と、前記第1のカメラ素子及び/又は前記第2のカメラ素子に関連する少なくとも1つのカメラパラメータとの関係を定義する較正データを、記憶部から取得してもよい。
前記取得部は、較正の後に、前記カメラからの距離が取得される物体の、前記撮像された第1の画像及び第2の画像内の変位を測定し、前記測定された変位及び前記較正データに応じて、前記物体と、前記カメラとの間の距離を測定してもよい。
前記立体画像の作成装置は、前記取得された距離データを使用して、前記第1の画像から物体を分離する分離部をさらに具備していてもよい。
他の各特徴及び/又は各実施形態は、添付の特許請求の範囲により定義される。
本発明の上記および他の目的、特徴および利点が、添付の図面を関連して読まれる例示的な実施形態の以下の詳細な説明から明らかになるであろう。
図1を参照して、図1には、カメラシステム100が示されている。このシステム100は、カメラリグ115と、画像処理装置(画像プロセッサ)200とを有している。カメラリグ115上には、第1のカメラ105(第1のカメラ素子)と、第2のカメラ110(第2のカメラ素子)とが搭載されている。第1のカメラ105及び第2のカメラ110は、静止画又は動画を撮像するために配置されている。静止画及び動画の両方の画像を以降では、"画像"と呼ぶ。第1のカメラ105は、左画像を撮像し、第2のカメラ110は、右画像を撮像する。左画像及び右画像は、ある特定のサイズの画面上に表示されるときに、左画像及び右画像の間の距離が6.5cm近傍の瞳孔間距離以下の距離となるように、同時に立体形状に表示される。従って、第1のカメラ105及び第2のカメラ110の距離d(この距離は、しばしば"ステレオベース"と呼ばれる)は、左画像及び右画像が、表示時に、視聴者の瞳孔間距離以下となるように設定される。これを達成するため、典型的なdの値は、映写幕上に表示するための双眼カメラリグでは、12cm近傍の値とされる。しかしながら、テレビ画面上の表示では、dの値は、60cm近傍の値とされる。カメラリグ115のピッチ、ヨー及びロールは、カメラ操作者によって調整される。それぞれのカメラの出力は、画像処理装置200へ供給される。
立体画像を撮像可能な双眼カメラリグをどのようにセットアップするかについては知られている。双眼カメラリグのセットアップの間、2つのカメラは、撮像画像間で水平方向の変位のみがあるように、慎重に調整される。セットアップ後、本発明の実施形態では、第1のカメラ105及び第2のカメラ110によって撮像された画像は、双眼カメラリグとピッチ上の興味ある物体との間の距離を算出するのに用いられる。本実施形態では、カメラリグを較正(キャリブレーション)するために、カメラリグから既知の距離のピッチ上に物体が置かれる。当業者により理解されるように、第1のカメラ105及び第2のカメラ110によって撮像される物体の画像が、立体的に視聴(つまり、同時に視聴)されるとき、第1のカメラ105によって撮像された物体の画像と、第2のカメラ110によって撮像された物体の画像とは、カメラ間の水平変位の結果である視覚水平変位を除いては、実質的に同じである。視覚水平変位距離は、較正段階の間に定義される。
較正後、本実施形態では、第1のカメラ105及び第2のカメラ110の配置は、ピッチ上の1又は複数の物体と、カメラリグとの間の距離の算出に用いられる。カメラリグと、ピッチ上の興味ある物体との間の距離の算出については、図6を参照して後に説明する。
画像処理装置200は、図2を参照して説明する。画像処理装置200は、処理部205と接続された記憶媒体210を含む。3つの供給L、R及びL’は、処理部205からの出力である。Lは、第1のカメラ105からの出力供給である。Rは、第2のカメラ110からの出力供給であり、L’は、第1のカメラ105からの出力供給の変換バージョンである。結果としての立体画像は、それぞれ第1のカメラ105及び第2のカメラ110からの出力供給L及びRから生成されるか、又は、第1のカメラ105からの出力供給の変換バージョンL’及び第2のカメラ110からの出力供給Rから生成される。L及びRの組み合わせ、又は、L’及びRの組み合わせの選択は、立体画像が表示される画面のサイズに依存する。これは、出力供給L’に適用される水平変換量が、立体画像が表示される画面のサイズに依存するためである。さらに、出力供給の選択及び出力供給L’に適用される変換量は、画面から視聴者までの距離に依存する。それ故、本実施形態では、第1のカメラ105からの出力供給に適用される変換は、立体画像が表示される画面サイズ及び/又は画面から視聴者までの距離によって決定される。上記では、出力供給の変換バージョンが1つのみである場合について説明したが、本発明は、これに限られない。代わりに、多数の画面サイズ及び/又は画面からの距離に適応する趣旨で、多数の出力供給の変換バージョンが生成されてもよい。
記憶媒体210は、第1のカメラ105からの出力供給及び第2のカメラ110からの出力供給を記憶する。加えて、記憶媒体210には、第1のカメラ105からの出力供給の変換バージョンが記憶される。本実施形態では、奥行きマップ(後述)も記憶媒体210に記憶される。しかしながら、奥行きマップは、第1のカメラ105及び第2のカメラ110から取得されるデータを使用して、リアルタイムで生成されてもよい。このリアルタイム生成は、後述する画像処理装置200内の処理部205によって実行され、リアルタイムの奥行きマップの生成が実行される場合には、奥行きマップは、記憶媒体に記憶されている必要はない。これは、記憶スペースの節約に繋がる。記憶媒体210は、磁気読み取り可能な装置、光学読み取り可能な装置、あるいは、半導体装置等であっても構わない。また、記憶媒体210は、1つの記憶素子又は複数の記憶素子であってもよいし、多数の記憶素子が画像処理装置200から取り外し可能であってもよい。上述では、記憶媒体210が画像処理装置200の一部である場合について説明したが、本発明は、これに限られない。記憶媒体210は、画像処理装置200の外部に配置され、有線接続又は無線接続を使用して画像処理装置200に接続されていてもよい。
上述のように、カメラリグ115上の第1のカメラ105及び第2のカメラ110の離隔距離は、"d"cmである。この距離は、表示時に、2つの画像の間の最大正距離が6.5cmの瞳孔間距離を超えないことを確保するように設定される。例えば、右画像内の物体が、左画像内の物体の右側に、高々6.5cmの位置に現れる。上述のように、第1のカメラ105及び第2のカメラ110の離間距離は、それ故、画像が表示される画面サイズの比率に依存する。映写幕上に表示するために撮像されるシーンは、テレビ画面に後に表示されるためのものとしては不適切である。これは、映写幕のサイズは、テレビ画面のサイズに比べて大きすぎるためである。例えば、映写幕のサイズがテレビ画面のサイズの20倍であると仮定した場合、映写幕の視聴のために撮像されたシーン(6.5cmの最大正視差)は、テレビ画面上では期待はずれとなる。これは、2つの画像(ピクセル数の単位)間の視差が小さすぎるためである。これは、3次元効果があるというよりは、むしろ不明瞭な画像に見える。これは、映写幕のためのステレオベース(つまり、第1のカメラ及び第2のカメラの間の離間距離)は、同じシーンの撮像では、テレビのためのものとしては小さすぎることを意味する。これは、映写幕上で表示されるシーンの撮像のためのステレオベースは、テレビ画面上に表示されるシーンの撮像のための撮像のためのものとしては、不適切であることを意味する。
適切な離間距離を提供するために、撮像された左画像Lは、画像処理装置200で変換され、変換画像L’が生成される。特に、画像処理部205は、記憶媒体210に記憶された奥行きマップから取得される距離情報、又は、後述される2つの撮像画像の両方から算出される距離情報から取得される距離情報を使用して変換画像L’を生成する。特に、画像処理部205は、欧州特許出願公開2034441号明細書に記載されているような、公知の技術を使用して、画像内の各物体の位置を特定する位置データを取得してもよい。この位置データ、及び奥行きマップから、シーン内の物体と、画像を撮像するカメラとの間の距離を測定することができる。2つのカメラ間の離間距離の考慮ため、撮像右画像R及び撮像左画像Lの間のオフセットが測定される。変換左画像L’を生成するために、画像が表示される画面のサイズに適した多量の変換が適用される。例えば、上述の場合のように、映写幕のサイズがテレビ画面のサイズの20倍である場合では、変換左画像を生成するために、上記離間距離の19倍の変換が左画像に適用される。加えて、この離間距離は、カメラ間の離間距離において、不正確な最初のオフセットを修正するために、奥行きマップと照合されてもよい。
変換画像L’を生成するために、オフセット変換は、撮像左画像Lに適用される。カメラと、カメラによって撮像される画像内の物体との間の距離がオフセット量の決定に用いられる本実施形態は、図3〜図5を参照して説明する。
図3は、本実施形態に係る、カメラリグの位置とカメラの視野内の物体との間の距離を測定するシステムを示す概略図である。
画像処理装置200は、第1のカメラ105及び第2のカメラ110と通信するように配置されている。画像処理装置200は、ピッチ30上でプレイヤーを追跡し、また、ピッチ30上での彼らの位置を測定するように、第1のカメラ105及び第2のカメラ110で撮像されたイメージを解析する。これは、第1のカメラ105と、第2のカメラ110と、カメラの視野内の物体との間の距離を検出する距離検出部310を使用して達成されてもよい。この距離検出部310とその動作については、後に詳述される。代わりに、2つのカメラの視野内の物体の間の距離は、両方のカメラから提供される画像データを使用して測定されてもよい。これについても後に説明する。
幾つかの実施形態では、画像処理装置200は、第1のカメラ105の位置と、第2のカメラ110の位置と、ピッチ上のプレイヤーの位置との間の距離を測定するために、追跡データ及び位置データを使用する。例えば、画像処理装置200は、第1のカメラ105の位置と、プレイヤー301の位置との間の距離301a、第1のカメラ105の位置と、プレイヤー303の位置との間の距離303a、及び第1のカメラ105の位置と、プレイヤー305の位置との間の距離305aを測定するために、撮像画像を解析する。また、画像処理装置200は、第2のカメラ110の位置と、プレイヤー301の位置との間の距離301b、第2のカメラ110の位置と、プレイヤー303の位置との間の距離303b、及び第2のカメラ110の位置と、プレイヤー305の位置との間の距離305bを測定するために、撮像画像を解析する。
換言すると、本実施形態は、シーン内の物体と、カメラに対して定義される基準位置との間の距離を測定する。図3を参照して説明する本実施形態では、基準位置は、それぞれのカメラの位置に位置する。
加えて、幾つかの実施形態では、画像処理装置200は、シーン内の既知の特徴位置に対応する撮像画像内の所定の画像特徴を検出することができる。例えば、画像処理装置200は、コーナー、センタースポット、ペナルティーエリア等のようなサッカー場のピッチ上の特徴に対応する画像特徴を検出するために、公知の技術を使用して撮像画像を解析する。検出された既知の特徴位置(画像特徴)の検出位置に基づいて、画像処理装置200は、公知の技術を使用して、撮像画像に、ピッチ30の3次元モデルを写像(マップ)する。従って、画像処理装置200は、撮像画像に写像(マップ)された3次元モデルに対するプレイヤーの検出位置に基づいて、カメラとプレイヤーとの間の距離を検出して、撮像画像を解析する。
幾つかの実施形態では、画像処理装置200は、プレイヤーの足がピッチに接触している位置を測定するために、撮像画像を解析する。換言すると、画像処理装置200は、プレイヤーのような物体が、ピッチ30のような平面の表面と一致する交差位置を測定する。この状況では、プレイヤーがピッチから離れたとき(例えば、ジャンプしたとき)、プレイヤーは、もはやピッチ上にはいないので、測定位置の正確さは低減する。同様に、同じような方法でボールの位置を測定する場合、ボールが空中に蹴られると、測定位置の正確さは低減する。本実施形態は、各カメラと、空中の物体との間の取得距離の正確さを向上することも目的の1つとしている。
1以上の交差位置で平面の表面と一致するとして1つの物体が検出された場合(例えば、プレイヤーの両方の足がピッチ30に接触している場合)、画像処理装置200は、どの交差位置が、各カメラ105、110に最も近いかを検出し、また、オフセット量を生成するために上記距離を使用する。代わりに、オフセット量が生成されるとき、物体の全検出交差位置の平均距離が算出及び使用されてもよい。一方、当然であるが、例えば、各カメラ105、110からの距離が遠い交差位置等のような、他の適切な交差位置が選択されてもよい。
しかしながら、幾つかの状況では、上述のような各カメラ105、110と、シーン内の物体との間の距離を測定する方法は、3次元画像の外観に歪み(ディストーション)を生じさせる可能性がある。このような歪みは、非常に広角のカメラで画像が撮像されるか、又は、2つの高解像度カメラによって撮像された合成画像により画像が形成される場合に、特に出現しやすい。
例えば、3次元画像内の画像の歪みは、プレイヤー及びボールが重なり合った3次元画像としてピッチが表示される場合に、発生する可能性がある。この場合、コーナー31b及びコーナー31cは、カメラから最も近いサイドライン上のコーナー位置314よりも遠くに見える。サイドラインは、撮像画像内で直線であるにもかかわらず、このサイドラインは、曲がって見えてしまう可能性がある。
この効果は、3次元画像がコンピュータのモニタのような比較的小さい画面上で視聴される場合に、特に明確となる。3次元画像が映写幕のような比較的に大きい画面上で視聴される場合、コーナー31b及びコーナー31cは、視聴者の周辺視野内に位置する可能性が高いので、この効果は、明らかに小さくなる。ピッチが3次元画像として表示される方法は、以下で詳述される。
この問題に対処するために可能な方法としては、歪みを補うために、画像の各部分のための適切なオフセット量を生成する方法が挙げられる。しかしながら、これは、コンピュータ的に集中的な計算が要求され、また、広角画像に起因する歪みの度合いや、画面サイズ等、幾つかの物理的パラメータに依存する。
それ故、3次元画像内における歪みの低減のため、また、ピッチの前部(つまり、カメラに最も近いサイドライン)が画面から一定の奥行きに見えることを確実にするために、特に、コンピュータのモニタ、テレビ画面のような比較的小さな画面で、3次元画像が視聴されるときに、本実施形態は、物体と、基準ライン上に存在する基準位置との間の距離を測定する。基準ラインは、カメラの光軸に直交し、かつ、カメラの位置を通過する。また、基準位置は、基準ライン上において、物体位置ラインと基準ラインとが交差する位置に位置する。物体位置ラインは、基準ラインに直交し、かつ、物体を通過する。これは図4を参照して説明する。
図4は、本実施系形態に係る、カメラと、カメラの視野内の物体との間の距離を測定するシステムを示す概略図である。ここでは、第1のカメラ105のみが示されている。しかしながら、これは、簡潔に説明するためであり、また、同様の技術は第2のカメラ110に適用することができる。図4で示される実施形態は、図3を参照して上述された実施形態と基本的に同じである。しかしながら、図4に示す実施形態では、画像処理装置200は、物体と、波線407で示される基準ラインとの間の距離を測定することができる。
図4に示すように、基準ライン407は、第1のカメラ105の光軸に直交し(つまり、光軸に直角に)、かつ、第1のカメラ105の位置を通過する。加えて、図4には、基準ライン407上に存在する基準位置401a、403a、405aが示されている。
例えば、画像処理装置200は、基準位置401aと、プレイヤー301との間の距離401を測定する。基準位置401aは、基準ライン407上に位置し、プレイヤー301の物体基準ライン(点線401bで示される)は、基準ライン407と交差する。同様に、基準位置403aは、基準ライン407上に位置し、プレイヤー303の物体基準ライン(点線403bで示される)は、基準ライン407と交差する。また、基準位置405aは、基準ライン407上に位置し、プレイヤー305の物体基準ライン(点線405bで示される)は、基準ライン407と交差する。物体基準ライン401b、403b、405bは、基準ライン407に直交し、プレイヤー301、303、305をそれぞれ通過する。
幾つかの実施形態では、基準ライン407は、コーナー31b、31cを結ぶサイドラインと平行とされ、それ故、ピッチの撮像画像及びピッチの修正された画像が、適切な方法で、画面上において同時に視聴されるとき、コーナー31b、31cを結ぶサイドライン上のすべての位置が、あたかも画面から一定の距離(奥行き)であるように見える。これは、2又はそれ以上のカメラによって撮像された、異なる視野の画像の合成によって形成された合成画像、又は、広角カメラを使用して画像が撮像されたときに発生する歪みを補うオフセット量を生成せずに、3次元画像の外観を向上させる。しかしながら、必ずしも基準ラインはサイドラインと平行である必要はなく、基準ラインは、シーン内の他の適切な特徴と平行であってもよいし、あるいは、基準ラインは、シーン内の他の適切な特徴に対して配置されていてもよい。
画像が生成されるようにするため、視聴時に、それらが3次元的に見えるように、画像処理装置200は、撮像画像内のプレイヤー等のような物体の位置を検出する。画像処理装置200により、画像内で物体が検出されるこの方法について、以下で説明する。画像処理装置200は、オフセット量により左画像内の物体の位置を変位させることによって、撮像左画像から変換左画像を生成し、それ故、変換左画像及び撮像右画像が、テレビ画面上で、1組の画像として同時に視聴されるときに、物体がテレビ画面から所定の距離に位置しているように見える。撮像右画像と変換左画像とが同時に表示されるこの方法は、図5に示されている。
特に、図5には、テレビ画面上におけるプレイヤー301及びプレイヤー303の画像が示されている。第2のカメラ110によって撮像された画像は、プレイヤー301に対応する右側の画像501R(波線で示されている)の表示に使用され、同様に、プレイヤー303の右側の画像503R(波線で示されている)の表示に使用される。右側の画像は、例えば、適切な偏光眼鏡又はシャッター眼鏡を装着したユーザの右目で視聴される。画像処理装置200は、各オブジェクトを含む左画像の変換バージョンを生成する。図5には、プレイヤー301に対応する変換左画像501Lと、プレイヤー303に対応する変換左画像503Lとが示されている。例えば、テレビ画面上で、左画像501Lが右画像501Rと同時に視聴される場合、プレイヤー301は、あたかもテレビ画面から所定の距離に位置するように見える。なお、左画像及び右画像が映写幕(つまり、較正されたカメラリグによる画面)上に表示される場合、撮像左画像(テレビ画面用として変換された左画像ではない)及び撮像右画像が表示される。
変換左画像を生成するために、画像処理装置200は、撮像左画像内のプレイヤー等のような物体のアウトラインに対応するマスクを生成する。この方法は、公知である。画像処理装置200は、変換左画像を生成するために、マスク内のピクセルに、オフセット量の画像オフセットを適用する。これは、撮像左画像内で検出された物体それぞれについて実行される。
各プレイヤーのオフセット量は、カメラとプレイヤーとの間の距離に依存する。例えば、図3に示すように、プレイヤー301は、プレイヤー303よりもカメラに近い。それ故、画面とユーザとの間の付与距離dsでは、プレイヤー301に対応する変換左画像501L及び右画像501Rの間の距離のオフセット量は、プレイヤー303に対応する変換左画像503L及び右画像503Rの間の距離のオフセット量よりも小さい。各物体の見掛け上の距離は、例えば、特定サイズの画面上で表示されるように、要求どおりに、適切に調整される。
当然のことながら、幾つかの状況下では、例えば、サッカー場のピッチ上にサッカー選手がいる場合、カメラからの実際の距離に対応する画面からの距離で、プレイヤーを3次元的に出現させることは、ユーザに不快な視聴経験を生じさせるので、望ましくない。加えて、画面から何十メートルもの距離に見えるように、物体が描画された場合、3次元効果は失われる。それ故、本実施形態では、画像処理装置200は、垂直方向で撮像画像がサッカー場のピッチによって占有される割合を検出し、これに応じて見掛け上の物体の奥行きを調整する。
例えば、画像処理装置200は、撮像左画像への3次元モデルの写像(マッピング)に基づいて、(カメラから最も遠い、サッカー場のピッチ30のサイドラインの位置を検出することと同様に)カメラから最も近い、サッカー場のピッチ30のサイドラインの位置を検出する。画像処理装置200は、最も近いサイドラインとカメラからの距離が同じ距離の物体が、画面上であたかもユーザから同じ距離に見えるようにオフセット量を生成する。
最も遠いサイドラインが画面から見える距離は、画像処理装置200によって、画面の垂直方向の高さに対応する距離に設定される。しかしながら、当然、見掛け上の物体の奥行きを調整する他の適切な方法が用いられても構わない。
加えて、当然のことながら、それは、物体をあたかも画面上から所定の距離に出現させる画面上での右画像及び変換左画像の間の物理的距離である。それ故、本実施形態では、オフセット量は、例えば、ミリメートルのような測定の物理単位で最初に算出される。画面上のピクセルに描画(レンダリング)するための変換左画像が生成されるとき、ミリメートル単位のオフセット量の値は、ピクセル及びピクセルの間隔による画面の解像度(画面サイズ)の幾つか又は全てに基づいて、画像処理装置200によって調整される。これらのパラメータは、異なる形態の画面(例えば、製造業者、型番等による)のための関連パラメータを記憶するルックアップテーブルに記憶されるか、又は、ユーザによって入力される。
幾つかの実施形態では、画像処理装置200は、例えば、物体がテレビ画面距離で無限遠に見えるようにするか、又は、物体がユーザから無限遠の位置に隔てられるかについて、ユーザが、適切な入力手段を介して入力することができるようにする画像の較正シーケンスを画面上に表示させる。しかしながら、当然、画面上に出力するための右画像及び変換左画像を調整する他の適切な方法が用いられても構わない。
上述のように、幾つかの実施形態では、カメラと、物体に関連する交差位置との間の距離は、画像処理装置200によって測定される。従って、幾つかの実施形態では、オフセット量は、カメラと、物体の交差位置との間の距離に基づいて生成されてもよいし、物体全体のオフセット量が適用されてもよい。換言すると、プレイヤーは、2次元的に出現するが、テレビ画面から所定の距離で、サッカー場のピッチ上であたかも3次元に位置していように見える。テレビ画面上における出力ピクセルに対応するプレイヤーの各位置の距離は、各オフセット量を生成するために検出及び使用される必要がないので、処理を効果的に減少させる。
幾つかの実施形態では、画面上で視聴されるときに、スタジアム及び/又はピッチ30が3次元画像として見えるように、画像処理装置200は、スタジアムに対応する撮像左画像内の各ピクセルの適切なオフセット量を生成する。適切なオフセット量を生成することができるように、画像処理装置200は、撮像左画像に、サッカー場のピッチ30を含むスタジアムの3次元モデルを写像(マップ)する。スタジアム及びピッチは、カメラに対して比較的に静的であり、撮像左画像内の各ピクセルの各オフセット量の生成は、処理を低減させるために、背景左画像が生成されるときに、又は、定期的に実行される。
変換左画像が背景左画像に合成されるときに、変換画像内に望ましくない画像結果が発生する可能性を低減させるために、幾つかの実施形態では、画像処理装置200は、各撮像フレームのピッチ30の背景左画像を生成する。これにより、ピッチ30上の光又は影の変化に応じた背景画像の調整をすることができる。しかしながら、当然、背景左画像は、例えば、1フレームおき等のように、他の適切なフレーム間隔で生成及び更新されてもよい。
画像処理装置200は、背景左画像を生成するために、上述のように、左画像にピッチの3次元モデルを写像(マップ)し、また、ピッチに対応する各ピクセルの適切なオフセット量を生成する。画像処理装置200は、合成修正画像を生成するために、プレイヤー等のような物体に対応する変換左画像と、修正背景左画像とを合成する。例えば、画像処理装置200は、背景左画像上に、物体に対応する修正左画像を重ね合わせることによって、合成修正画像を生成する。撮像右画像及び合成修正左画像が、適切な方法で画面上において同時に視聴されるとき、これらは、ユーザには、あたかも3次元画像であるように見える。3次元画像は、画面サイズのため及び/又は画面から視聴者の距離のために、オフセットが適合される。
上述のように、撮像左画像は、テレビ上の画面に適切なオフセットを提供するために変換され、撮像右画像と一緒に表示される。これは、追加的な効果を提供する。撮像左画像を変換し、かつ、これを撮像右画像と一緒に表示することによって、物体に対して奥行きを有して表示されるので、ピッチ上の物体は、より一層、リアルに見える。換言すると、別の1つの方法は、1つのカメラによりシーンを撮像し、物体を"切り出し"、立体画像を作成するために、その物体に変換を適用する。今、これは、物体のための適切な3次元効果を作り出すが、3次元の物体は、平坦に見える。これは、物体の画像が1つの位置から撮像されたためである。しかしながら、撮像左画像が変換される実施形態では、物体は、わずかに異なる方向から撮像される。これは、各撮像物体は、幾つかの奥行き知覚を有していることを意味する。これは、表示時に、3次元物体が、より一層、リアルに見えることを意味する。これは、カメラから近い、シーン中の物体(例えば、カメラから10m以内)を撮像するときに、特に、有効である。
[距離の算出]
上述のように、変換左画像を生成するため、ピッチ上の物体とカメラとの間の距離が要求される。ピッチ30上の物体とカメラとの間の距離を測定する多数の方法がある。本発明の幾つかの実施形態では、システムは、距離検出部310を有する。この距離検出部は、一方又は両方のカメラと一体であってもよいし、カメラから別体であってもよい。距離検出部は、カメラ及びピッチ上の物体の間の距離を示す距離データを生成する。距離検出部は、距離データを画像処理装置200へ送信する。画像処理装置200は、距離検出部から受信された距離データに基づいて、カメラ及び物体の間の距離を測定する。換言すると、距離検出部は、距離センサとして作動する。このようなセンサは、従来において知られており、物体との距離を検出するために、赤外光、超音波、レーザー光等が用いられてもよい。
上述のように、変換左画像を生成するため、ピッチ上の物体とカメラとの間の距離が要求される。ピッチ30上の物体とカメラとの間の距離を測定する多数の方法がある。本発明の幾つかの実施形態では、システムは、距離検出部310を有する。この距離検出部は、一方又は両方のカメラと一体であってもよいし、カメラから別体であってもよい。距離検出部は、カメラ及びピッチ上の物体の間の距離を示す距離データを生成する。距離検出部は、距離データを画像処理装置200へ送信する。画像処理装置200は、距離検出部から受信された距離データに基づいて、カメラ及び物体の間の距離を測定する。換言すると、距離検出部は、距離センサとして作動する。このようなセンサは、従来において知られており、物体との距離を検出するために、赤外光、超音波、レーザー光等が用いられてもよい。
加えて、奥行きマップは、較正段階中に生成することも可能である。この場合、奥行きマップは、画像処理装置200に記憶される。奥行きマップは、撮像画像の各ピクセルについて、カメラと、ピクセルに一致するシーン内のシーン特徴との間の各距離を示す。距離検出部310から画像処理装置200へ送信される距離データは、奥行きマップデータを含む。
この機能を実現するため、距離検出部310は、赤外光のパルスを発する赤外光源を含んでいてもよい。一方又は両方のカメラは、カメラから物体までの距離を示すグレースケール画像を生成するために、所定の時間間隔で(典型的には、ナノ秒のオーダ)、カメラの視野内の物体から反射された赤外光の強度を検出する。換言すると、グレースケール画像は、光源からカメラへの赤外光の飛行時間の検出から生成される奥行きマップと考えることができる。
構造を簡略化するため、カメラ又はカメラリグは、赤外光源の形式で距離検出部を含んでいてもよい。このようなカメラは、3DVシステムズ社により製造された"Z−Cam"等により、従来において知られている。しかしながら、当然、赤外パターン歪み検出などのような、3次元奥行きマップを生成する他の公知の方法が用いられてもよい。
幾つかの実施形態では、例えば、画像処理装置200は、サッカーボール等のような、一方又は両方のカメラ105、110の視野内の他の物体を検出及び追跡するために、距離検出部310を使用する。なお、当然、(サッカーボール以外にも)どのような他の適切な物体が検出されてもよい。例えば、1又はそれ以上の追加のカメラによって撮像された画像は、画像処理装置200によって解析され、また、サッカーボールを追跡し、それに応じて適切な左画像及び右画像を生成するために、追跡システムからのデータと合成される。
代わりに、第1のカメラ105及び第2のカメラ110によって撮像された画像を使用して、ピッチ上の多数の物体の距離を測定することもできる。これは、図6を参照して、以下で詳述する。
図6では、第1のカメラ105及び第2のカメラ110は、所定距離d分、離れて配置されている。物体605がピッチ上に置かれている。較正の間、物体は、第1のカメラ105から既知の距離(Dist)に置かれる。図6には、第1の画像面615及び第2の画像面620も示されている。第1の画像面615は、第1のカメラ105の画像面であり、第2の画像面620は、第2のカメラ110の画像面である。実際には、第1の画像面及び第2の画像面は、第1のカメラ105及び第2のカメラ110それぞれに位置している。具体的には、幾つかの実施形態では、画像面は、それぞれのカメラのCMOS(Complementary Metal Oxide Semiconductor)又はCCD(Charge Coupled Device)画像撮像素子である。しかしながら、説明のため、第1の画像面615及び第2の画像面620は、距離dの位置に配置された第1のカメラ105及び第2のカメラ110の外側に位置している。
上述のように、較正の間に、第1のカメラ105と、第2のカメラ110との間の距離dが測定される。加えて、第1のカメラ105と、較正物体605との間の距離(Dist)が取得される。変位(displacement)の値も取得される。
d’及びdは、第1のカメラ105及び第2のカメラ110が較正された後は、変わらないので、変位(displacement)が既知であれば、どのような物体の距離も算出することが可能である。換言すると、第1の画像面615及び第2の画像面620上の物体の位置の間の距離が既知であれば、位置合わせされたカメラから物体までの距離を算出することができる。これは、以下の数式(5)を使用して達成される。
これは、各撮像フレームのために、"オンザフライ"で、又はリアルタイムで、位置合わせされたカメラから撮像フレーム内の各物体の距離を算出することができるので、有効である。これは、奥行きマップが画像処理装置200に記憶される必要がなく、リアルタイムでのDistの値の生成により記憶スペースを節約できることを意味する。
当業者において理解されるように、左画像及び右画像内の物体の位置を比較するブロックマッチング等のような技術を使用して、変位(displacement)を算出することも図6では、当然できる。
図6において説明された較正の案の代わりに、変位(displacement)と、様々な既知のカメラ配置から物体までの距離との関係を測定することも可能である。これらは、カメラ位置、方位、焦点距離、レンズ特性等のカメラパラメータの組み合わせに基づいて、記憶され、又は、選択される。
上述のように、空中の物体の算出の正確さを向上させることができる。これは、図7を参照して説明する。
図7では、撮像左画像701及び撮像右画像705が示されている。これらの画像は、第1のカメラ105及び第2のカメラ110によってそれぞれ撮像される。加えて、図7では、奥行きマップ710が示されている。撮像左画像701には、空中のボール730aが表示されている。撮像右画像705にもボール730bが表示されている。上述のように、右画像を使用して、左画像のバージョンを合成することができる。このようにするため、奥行きマップによって決定された量により、右画像が変換される。これは、画像処理装置200内に位置する合成部715内において実行される。合成左画像720では、ボール730b’の合成位置となる。上述のように、ボールが空中にあるので、ボールの位置を正確に測定することができない。これは、その奥行きが、奥行きマップに記憶されているので、不正確となるためである。
合成左画像720は、差算出部725に供給される。差算出部725には、撮像左画像701も供給される。従って、差算出部725の出力は、撮像左画像及び合成左画像において、マッチしない全ての物体を示す。差算出部の出力は、730で示されている。出力730内には、2つのボール画像730a及び730b’が含まれる。これは、奥行きマップによって測定された距離には、誤差があることを意味する。これは、本願出願時に利用可能な、ソニー社(登録商標)の英国特許出願公開GB0902841.6号明細書、あるいは他の文書のような文献によって知られており、左画像及び右画像が互いにオフセットされる量であるオフセット量iは、以下の数式(6)を使用して算出することができる。
合成左画像の方程式を考慮すると、以下の数式(7)が使用される。
ここで、i1は、合成左画像が撮像右画像からオフセットされる量であり、do1は、このオフセットによって生じる見掛け上の物体の奥行きである(奥行きマップ710から取得される)。
撮像左画像のための方程式を考慮すると、以下の数式(8)が使用される。
ここで、i2は、撮像左画像が撮像右画像からオフセットされる量であり、do2は、このオフセットによって生じる見掛け上の物体の奥行きである。
従って、ierror(距離の誤差)と、do1(合成左画像を算出するために奥行きマップが使用されたもの)とが既知であり、p及びdsの値(これらは、合成画像においてオフセット量を算出するのに使用された値と同じ値である)が仮定されば、do2を算出することができる。do2の値は、フレームのボール位置について、奥行きマップ内の不正確な値d1と入れ替えるために使用される。従って、適切な補正量を、変換物体の生成の間に、ボールに適用することができる。
カメラからボールまでの距離が算出された後、適切な変位オフセット(displacement offset)がボールに適用される。変位オフセットは、上述と同様の方法で適用される。しかしながら、カメラとボールとの間の距離がより正確に測定されるように、より適切なオフセットがボールに適用されてもよい。これは、適用された3次元効果のリアル感を向上させる。
上記では、ハードウェアについて述べたが、本発明は、コンピュータソフトウェアによって実現されてもよい。この場合、コンピュータプログラムは、コンピュータにロードされるときに、本発明を実行するようにコンピュータを設定する、コンピュータ読み取り可能な命令を含む。このコンピュータプログラムは、磁気読み取り可能な媒体や、光学ディスク等の様なコンピュータ読み取り可能な媒体に記憶されていてもよい。あるいは、これに代えて、コンピュータプログラムは、信号としてネットワーク上に記憶又は転送されていてもよい。
上記では、左のカメラからの画像の変換について述べたが、本発明は、これに限られない。右のカメラからの画像又は両方のカメラからの画像が変換されてもよい。また、上記では、2つの分離されたカメラを参照して説明したが、本発明は、これに限られない。本発明は、立体画像を撮像するために配置された単レンズカメラにより実現されてもよい。例えば、ソニー(登録商標)は、3次元画像を撮像可能な単レンズカメラである、HFR(high frame rate)−Confort 3Dカメラを開発した。ここで、上記した第1のカメラ及び第2のカメラついて、本発明は、単レンズ3次元カメラ内に配置されたカメラ素子及び第2のカメラ素子を実装していてもよい。
上記では、画面サイズに基づいて左画像が変換される場合について説明したが、本発明は、これに限られない。特に、ある実施形態では、異なる3次元ズーム効果が、異なる物体に適用される。例えば、スポーツイベントの表示の間、興味のあるプレイヤーに適用される視差は、そのプレイヤーの3次元ズーム効果の再現のために、異なっていてもよい。
加えて、上記では、物体間の変位量が増える場合について説明した。しかしながら、本発明は、これに限られない。当然、上記した原理は、物体間の変位が減少する場合にも適用することができる。換言すると、追加量によって物体間の変位を増加又は減少させるように、物体間の変位を調整することができる。
添付の図面を参照しながら本発明の例示的な実施形態を詳述したが、本発明は、上記明確な実施形態に限定されず、種々の変更および変形形態が、添付の特許請求の範囲によって規定される本発明の範囲および精神から逸脱することなく当業者によってなされることができることを理解されたい。
100…カメラシステム
105…第1のカメラ
110…第2のカメラ
115…カメラリグ
200…画像処理装置
205…処理部
210…記憶媒体
105…第1のカメラ
110…第2のカメラ
115…カメラリグ
200…画像処理装置
205…処理部
210…記憶媒体
Claims (22)
- 表示のための立体画像の作成方法であって、
第1の画像と、前記第1の画像と同じ場所から撮像された同じシーンの、前記第1の画像から所定量分変位された第2の画像とを受信し、
少なくとも幾つかの前記第2の画像が、前記第1の画像から追加量分変位されるように、前記第2の画像を変換し、
立体表示のための前記第1の画像及び前記変換された第2の画像を出力する
立体画像の作成方法。 - 請求項1に記載の立体画像の作成方法であって、
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面のサイズに応じて決定される
立体画像の作成方法。 - 請求項1に記載の立体画像の作成方法であって、
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面から視聴者までの距離に応じて決定される
立体画像の作成方法。 - 請求項1に記載の立体画像の作成方法であって、さらに、
撮像されたシーン内の物体と、第1のカメラ素子及び/又は第2のカメラ素子との間の距離を示す距離データを取得し、
前記追加量は、前記取得された距離データに応じて決定される
立体画像の作成方法。 - 請求項4に記載の立体画像の作成方法であって、
前記距離データを取得するステップは、前記第1のカメラ素子及び/又は第2のカメラ素子から所定距離で撮像された、シーン内に位置する物体の、前記撮像された第1の画像及び第2の画像内での変位を測定するステップを有する、較正データを取得する較正ステップを含む
立体画像の作成方法。 - 請求項4に記載の立体画像の作成方法であって、
前記距離データを取得するステップは、前記第1のカメラ素子及び/又は前記第2のカメラ素子から所定距離に位置する物体の、前記撮像された第1の画像及び第2の画像内の変位と、前記第1のカメラ素子及び/又は前記第2のカメラ素子に関連する少なくとも1つのカメラパラメータとの関係を定義する較正データを、記憶部から取得する較正ステップを含む
立体画像の作成方法。 - 請求項5又は6に記載の立体画像の作成方法であって、
距離データを取得するステップは、較正の後に、
カメラからの距離が取得される物体の、前記撮像された第1の画像及び第2の画像内の変位を測定するステップと、
前記測定された変位及び前記較正データに応じて、前記物体と、前記カメラの間の距離を測定するステップとを有する
立体画像の作成方法。 - 請求項4に記載の立体画像の作成方法であって、
前記距離データは、所定の奥行きマップから取得される
立体画像の作成方法。 - 請求項4に記載の立体画像の作成方法であって、さらに、
前記第1の画像と、前記距離データに応じて決定された変換量で、前記第1の画像の少なくとも一部が変換された変換バージョンとを比較し、
前記比較に応じて、前記第1の画像の少なくとも一部のための距離データを更新する
立体画像の作成方法。 - 請求項9に記載の立体画像の作成方法であって、
前記更新された距離データは、前記追加量の決定に用いられる
立体画像の作成方法。 - 表示のための立体画像の作成装置であって、
第1の画像と、前記第1の画像と同じ場所から撮像された同じシーンの、前記第1の画像から所定量分変位された第2の画像とを受信する受信部と、
少なくとも幾つかの前記第2の画像が、前記第1の画像から追加量分変位されるように、前記第2の画像を変換する変換部と、
立体表示のための前記第1の画像及び前記変換された第2の画像を出力するインターフェイスと
を具備する立体画像の作成装置。 - 請求項11に記載の立体画像の作成装置であって、
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面のサイズに応じて決定される
立体画像の作成装置。 - 請求項11に記載の立体画像の作成装置であって、
前記追加量は、前記第1の画像及び前記変換された第2の画像が立体的に表示される画面から視聴者までの距離に応じて決定される
立体画像の作成装置。 - 請求項11に記載の立体画像の作成装置であって、
撮像されたシーン内の物体と、第1のカメラ素子及び/又は第2のカメラ素子との間の距離を示す距離データを取得する取得部をさらに具備し、
前記追加量は、前記取得された距離データに応じて決定される
立体画像の作成装置。 - 請求項14に記載の立体画像の作成装置であって、
前記取得部は、前記第1のカメラ素子及び/又は第2のカメラ素子から所定距離で撮像された、シーン内に位置する物体の、前記撮像された第1の画像及び第2の画像内での変位を測定する、較正データを取得する較正部を含む
立体画像の作成装置。 - 請求項14に記載の立体画像の作成装置であって、
前記取得部は、前記第1のカメラ素子及び/又は前記第2のカメラ素子から所定距離に位置する物体の、前記撮像された第1の画像及び第2の画像内の変位と、前記第1のカメラ素子及び/又は前記第2のカメラ素子に関連する少なくとも1つのカメラパラメータとの関係を定義する較正データを、記憶部から取得する
立体画像の作成装置。 - 請求項15又は16に記載の立体画像の作成装置であって、
前記取得部は、較正の後に、カメラからの距離が取得される物体の、前記撮像された第1の画像及び第2の画像内の変位を測定し、前記測定された変位及び前記較正データに応じて、前記物体と、前記カメラとの間の距離を測定する
立体画像の作成装置。 - 請求項14に記載の立体画像の作成装置であって、
前記距離データは、所定の奥行きマップから取得される
立体画像の作成装置。 - 請求項14に記載の立体画像の作成装置であって、
前記第1の画像と、前記距離データに応じて決定された変換量で、前記第1の画像の少なくとも一部が変換された変換バージョンとを比較し、前記比較に応じて、前記第1の画像の少なくも一部のための距離データを更新する比較部をさらに具備する
立体画像の作成装置。 - 請求項19に記載の立体画像の作成装置であって、
前記更新された距離データは、前記追加量の決定に用いられる
立体画像の作成装置。 - コンピュータに、請求項1に記載の立体画像の作成方法を実行させるプログラム。
- 請求項21に記載のプログラムが記憶された記憶媒体。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB1001555.0 | 2010-01-29 | ||
GB1001555.0A GB2477333B (en) | 2010-01-29 | 2010-01-29 | A method and apparatus for creating a stereoscopic image |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011160421A true JP2011160421A (ja) | 2011-08-18 |
Family
ID=42084237
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011011058A Pending JP2011160421A (ja) | 2010-01-29 | 2011-01-21 | 立体画像の作成方法、作成装置及びプログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US20110187827A1 (ja) |
JP (1) | JP2011160421A (ja) |
CN (1) | CN102141724A (ja) |
GB (1) | GB2477333B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022500956A (ja) * | 2018-09-28 | 2022-01-04 | 上海愛観視覚科技有限公司 | 可動視覚システムの立体キャリブレーション方法 |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2012056437A1 (en) | 2010-10-29 | 2012-05-03 | École Polytechnique Fédérale De Lausanne (Epfl) | Omnidirectional sensor array system |
US20130021448A1 (en) * | 2011-02-24 | 2013-01-24 | Multiple Interocular 3-D, L.L.C. | Stereoscopic three-dimensional camera rigs |
GB2500712A (en) | 2012-03-30 | 2013-10-02 | Sony Corp | An Apparatus and Method for transmitting a disparity map |
FR3004681B1 (fr) * | 2013-04-19 | 2016-11-04 | Valeo Vision | Dispositif de retrovision pour moyen de transport motorise, et vehicule comprenant ledit dispositif |
US9934451B2 (en) | 2013-06-25 | 2018-04-03 | Microsoft Technology Licensing, Llc | Stereoscopic object detection leveraging assumed distance |
US10750153B2 (en) | 2014-09-22 | 2020-08-18 | Samsung Electronics Company, Ltd. | Camera system for three-dimensional video |
US11205305B2 (en) | 2014-09-22 | 2021-12-21 | Samsung Electronics Company, Ltd. | Presentation of three-dimensional video |
WO2016132950A1 (ja) * | 2015-02-20 | 2016-08-25 | ソニー株式会社 | 撮像装置および撮像方法 |
US10460473B1 (en) * | 2018-12-14 | 2019-10-29 | Zoox, Inc. | Camera calibration system |
EP3935832A4 (en) | 2019-02-28 | 2023-06-07 | Stats Llc | SYSTEM AND METHOD FOR CALIBRATION OF MOBILE CAMERAS CAPTURING BROADCAST VIDEO |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5077068A (en) * | 1987-05-22 | 1991-12-31 | Julien William E | Liquid feed supplement for monogastric animals |
JPH02266205A (ja) * | 1989-04-07 | 1990-10-31 | Kobe Steel Ltd | 立体画像装置 |
US5175616A (en) * | 1989-08-04 | 1992-12-29 | Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of National Defence Of Canada | Stereoscopic video-graphic coordinate specification system |
US5077608A (en) * | 1990-09-19 | 1991-12-31 | Dubner Computer Systems, Inc. | Video effects system able to intersect a 3-D image with a 2-D image |
US6188518B1 (en) * | 1993-01-22 | 2001-02-13 | Donald Lewis Maunsell Martin | Method and apparatus for use in producing three-dimensional imagery |
CZ188295A3 (en) * | 1993-01-22 | 1996-02-14 | Trutan Pty Ltd | Formation of three-dimensional representation and apparatus for making the same |
JP4172554B2 (ja) * | 1998-03-12 | 2008-10-29 | 富士重工業株式会社 | ステレオカメラの調整装置 |
ATE375687T1 (de) * | 2002-03-08 | 2007-10-15 | Topcon Corp | Vorrichtung und verfahren zur stereoskopischen bildwiedergabe |
EP1617684A4 (en) * | 2003-04-17 | 2009-06-03 | Sharp Kk | THREE-DIMENSIONAL IMAGE CREATION DEVICE, THREE-DIMENSIONAL IMAGE REPRODUCING DEVICE, THREE-DIMENSIONAL IMAGE PROCESSING DEVICE, THREE-DIMENSIONAL IMAGE PROCESSING PROGRAM, AND RECORDING MEDIUM CONTAINING THE SAME |
JP2005073049A (ja) * | 2003-08-26 | 2005-03-17 | Sharp Corp | 立体映像再生装置および立体映像再生方法 |
KR100739730B1 (ko) * | 2005-09-03 | 2007-07-13 | 삼성전자주식회사 | 3d 입체 영상 처리 장치 및 방법 |
US8224067B1 (en) * | 2008-07-17 | 2012-07-17 | Pixar Animation Studios | Stereo image convergence characterization and adjustment |
-
2010
- 2010-01-29 GB GB1001555.0A patent/GB2477333B/en not_active Expired - Fee Related
- 2010-12-22 US US12/976,283 patent/US20110187827A1/en not_active Abandoned
-
2011
- 2011-01-21 JP JP2011011058A patent/JP2011160421A/ja active Pending
- 2011-01-27 CN CN2011100327433A patent/CN102141724A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022500956A (ja) * | 2018-09-28 | 2022-01-04 | 上海愛観視覚科技有限公司 | 可動視覚システムの立体キャリブレーション方法 |
JP7185821B2 (ja) | 2018-09-28 | 2022-12-08 | 安徽愛観視覚科技有限公司 | 可動視覚システムの立体キャリブレーション方法 |
US11663741B2 (en) | 2018-09-28 | 2023-05-30 | Anhui Eyevolution Technology Co., Ltd. | Stereo calibration method for movable vision system |
Also Published As
Publication number | Publication date |
---|---|
GB201001555D0 (en) | 2010-03-17 |
GB2477333A (en) | 2011-08-03 |
US20110187827A1 (en) | 2011-08-04 |
GB2477333B (en) | 2014-12-03 |
CN102141724A (zh) | 2011-08-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2011160421A (ja) | 立体画像の作成方法、作成装置及びプログラム | |
US9965870B2 (en) | Camera calibration method using a calibration target | |
JP5260705B2 (ja) | 3次元拡張現実提供装置 | |
RU2612378C1 (ru) | Способ замены объектов в потоке видео | |
US10560683B2 (en) | System, method and software for producing three-dimensional images that appear to project forward of or vertically above a display medium using a virtual 3D model made from the simultaneous localization and depth-mapping of the physical features of real objects | |
CN110390719A (zh) | 基于飞行时间点云重建设备 | |
JP7379704B2 (ja) | 視覚化カメラ及び光学コヒーレンストモグラフィを統合するシステム及び方法 | |
JP2016018213A (ja) | 直接幾何学的モデル化によるhmdのキャリブレーション | |
TWI520576B (zh) | 將二維影像轉換爲三維影像的方法與系統及電腦可讀媒體 | |
JP2014529727A (ja) | 自動シーン較正 | |
US8509521B2 (en) | Method and apparatus and computer program for generating a 3 dimensional image from a 2 dimensional image | |
CN102724398B (zh) | 图像数据提供方法、组合方法及呈现方法 | |
KR101342393B1 (ko) | 회전식 라인 카메라로 획득한 실내 전방위 영상의 지오레퍼런싱 방법 | |
TW201525934A (zh) | 影像合成系統及方法 | |
US11017587B2 (en) | Image generation method and image generation device | |
WO2018028152A1 (zh) | 一种图像采集设备、虚拟现实设备 | |
JP4843544B2 (ja) | 3次元画像補正方法及びその装置 | |
Shim et al. | Time-of-flight sensor and color camera calibration for multi-view acquisition | |
TW201225658A (en) | Imaging device, image-processing device, image-processing method, and image-processing program | |
CN107209949B (zh) | 用于产生放大3d图像的方法和系统 | |
KR20180048082A (ko) | 집적영상 디스플레이의 화질 평가 장치 및 방법 | |
JP6768933B2 (ja) | 情報処理装置、情報処理システム、および画像処理方法 | |
EP2141932A1 (en) | 3D rendering method and system | |
Park et al. | 48.2: Light field rendering of multi‐view contents for high density light field 3D display | |
JP2018078496A (ja) | 三次元動画像表示処理装置、動画情報記録媒体、動画情報提供サーバ、並びにプログラム |