JP2016157421A - レンズ関連メタデータを生成するための方法及び装置 - Google Patents
レンズ関連メタデータを生成するための方法及び装置 Download PDFInfo
- Publication number
- JP2016157421A JP2016157421A JP2015234990A JP2015234990A JP2016157421A JP 2016157421 A JP2016157421 A JP 2016157421A JP 2015234990 A JP2015234990 A JP 2015234990A JP 2015234990 A JP2015234990 A JP 2015234990A JP 2016157421 A JP2016157421 A JP 2016157421A
- Authority
- JP
- Japan
- Prior art keywords
- light field
- lens
- display image
- field capture
- parameters
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 33
- 238000003384 imaging method Methods 0.000 claims abstract description 26
- 238000012545 processing Methods 0.000 claims description 17
- 238000009877 rendering Methods 0.000 description 9
- 238000004519 manufacturing process Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 5
- 230000001360 synchronised effect Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/2228—Video assist systems used in motion picture production, e.g. video cameras connected to viewfinders of motion picture cameras or related video signal processing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/172—Processing image signals image signals comprising non-image signal components, e.g. headers or format information
- H04N13/178—Metadata, e.g. disparity information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/282—Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/62—Control of parameters via user interfaces
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/63—Control of cameras or camera modules by using electronic viewfinders
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Human Computer Interaction (AREA)
- Library & Information Science (AREA)
- Studio Devices (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Optics & Photonics (AREA)
Abstract
【課題】ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成する。【解決手段】ライトフィールドキャプチャからディスプレイ画像を生成するための方法及び装置50であって画像レンダラ8は、レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成する。メタデータアセンブラ9は次いで、ディスプレイ画像を生成するために使用されるレンズモデルのパラメータを、ライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力する。【選択図】図7
Description
本発明は、レンズ関連メタデータを生成するための方法及び装置に関係する。特に本発明は、とりわけ動画に関して、ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成するための方法及び装置に関係する。
焦点及び被写体深度は、画像取得の視覚的品質及び美的価値観に大きく影響する2つのパラメータである。それらは、とりわけ動画フィルムにおいて重要であり、その場合、例えば、移動物体の後に続くために、又は視聴者の注意を別の物体にシフトさせるために、焦点を1つの面から別のものに、場面の間に動かすことが要求され得る。レンズの焦点を手動で調整することは、この状況では、とりわけ、浅い被写体深度によって作業してフィルムルックを作成するときには困難である。プロフェッショナルフィルム製作は、この課業のためのカメラ助手を有する。しかしながら、このことは、焦点及び/又は被写体深度が常に正しくセットされるということを意味しない。ピンぼけ誤りは、ポスト製作では修整され得ないので、それらが許容されなければならないか、又は撮影が撮り直しされなければならないかのいずれかである。
それでも、焦点長、焦点距離、及び、焦点比、例えば口径又はアイリス値などのレンズメタデータは、通常、プロフェッショナルカメラに対してだけでなく、消費者カメラに対してもまた、画像データとともに記憶される。ポスト製作でのそれらの値は、かなり情報価値のあるものである。
ビデオ及びオーディオ記録を同期に保つために、タイムコード信号が、デバイスの中で、フィルムセット上で分散される。LTC(LTC:リニア又は長手方向タイムコード(Linear or Longitudinal Timecode))は、SMPTE(映画テレビ技術者協会)タイムコード標準の符号化であり、5ピンLEMOコネクタ又はHD−SDI信号(HD−SDI:高精細シリアルディジタルインターフェイス(High Definition Serial Digital Interface))のいずれかを介して分散され得る。
ライトフィールドカメラは、撮影の後に焦点及び被写体深度を調整することを可能とする。このことは、ピンぼけ場面の問題を克服するための潜在的な利点として考慮され得る。しかしながら、例えば焦点及び被写体深度をセットするプロセスが、撮影から後の時点まで延期されるのみであるということも意味する。
判断が、ユーザにゆだねられる場合さえある。例えば、同じ場面の複数のビューをレンダリングするためにユーザが焦点距離を対話的にセットし、視角をわずかに変動させることを可能とする、いわゆる「リビングピクチャ」が導入されている。
撮影の後に焦点及び被写体深度を調整することの可能性は、どのようにライトフィールドキャプチャのフレーム毎にレンダリングインテントを定義すべきか、及びどのようにそれを動画製作ワークフローに通すべきかの問題点を生じる。
ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成するための、及び、そのようなメタデータの使用をするための解決策を提案することが、本原理の目的である。
本原理の1つの特徴によると、ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成するための方法は、
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像を生成するために使用されるレンズモデルのパラメータを、ライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力するステップと、
を備える。
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像を生成するために使用されるレンズモデルのパラメータを、ライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力するステップと、
を備える。
それに応じて、コンピュータ可読記憶媒体は、ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成することを可能にする命令を記憶し、その命令は、コンピュータにより実行されるときに、そのコンピュータに、
− ディスプレイ画像をライトフィールドキャプチャからレンズモデルを使用して生成することと、
− そのディスプレイ画像を生成するために使用されるそのレンズモデルのパラメータを、そのライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力することと、
を行わせる。
− ディスプレイ画像をライトフィールドキャプチャからレンズモデルを使用して生成することと、
− そのディスプレイ画像を生成するために使用されるそのレンズモデルのパラメータを、そのライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力することと、
を行わせる。
そのコンピュータ可読記憶媒体は、例えば、ハードディスク、光学又は磁気のディスク又はテープ、固体状態メモリデバイス、その他などの、非一時的揮発性又は不揮発性記憶媒体である。したがってその記憶媒体は、コンピュータ又は処理デバイスにより実行可能な命令のプログラムを有形に実施して、本明細書で説明されるようなプログラムステップを実行する。
さらに、1つの実施形態では、ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成するように構成された装置は、
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するように構成された画像レンダラと、
− ディスプレイ画像を生成するために使用されるレンズモデルのパラメータを、ライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力するように構成されたメタデータアセンブラと、
を備える。
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するように構成された画像レンダラと、
− ディスプレイ画像を生成するために使用されるレンズモデルのパラメータを、ライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力するように構成されたメタデータアセンブラと、
を備える。
別の実施形態では、ライトフィールド画像形成デバイスに関するレンズ関連メタデータを生成するように構成された装置は、処理デバイスと、命令を記憶したメモリデバイスと、を備え、その命令は、その処理デバイスにより実行されるときに、その装置に、
− ディスプレイ画像をライトフィールドキャプチャからレンズモデルを使用して生成するステップと、
− そのディスプレイ画像を生成するために使用されるそのレンズモデルのパラメータを、そのライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力するステップと、
を行わせる。
− ディスプレイ画像をライトフィールドキャプチャからレンズモデルを使用して生成するステップと、
− そのディスプレイ画像を生成するために使用されるそのレンズモデルのパラメータを、そのライトフィールド画像形成デバイスに関するレンズ関連メタデータとして出力するステップと、
を行わせる。
さらに、記憶媒体は、ライトフィールドキャプチャと、ライトフィールドキャプチャからディスプレイ画像を生成するためのレンズモデルのパラメータと、を備える。
本原理の別の特徴によると、ライトフィールドキャプチャからディスプレイ画像を生成するための方法は、
− ライトフィールドキャプチャを記憶媒体から索出するステップと、
− ディスプレイ画像を生成するためのレンズモデルのパラメータをライトフィールドキャプチャから索出するステップと、
− レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像をディスプレイに提供するステップと、
を備える。
− ライトフィールドキャプチャを記憶媒体から索出するステップと、
− ディスプレイ画像を生成するためのレンズモデルのパラメータをライトフィールドキャプチャから索出するステップと、
− レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像をディスプレイに提供するステップと、
を備える。
それに応じて、コンピュータ可読非一時的記憶媒体は、ディスプレイ画像をライトフィールドキャプチャから生成することを可能にする命令を記憶し、その命令は、コンピュータにより実行されるときに、そのコンピュータに、
− ライトフィールドキャプチャを記憶媒体から索出するステップと、
− ディスプレイ画像を生成するためのレンズモデルのパラメータをライトフィールドキャプチャから索出するステップと、
− レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像をディスプレイに提供するステップと、
を行わせる。
− ライトフィールドキャプチャを記憶媒体から索出するステップと、
− ディスプレイ画像を生成するためのレンズモデルのパラメータをライトフィールドキャプチャから索出するステップと、
− レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像をディスプレイに提供するステップと、
を行わせる。
さらに、1つの実施形態では、ライトフィールドキャプチャからディスプレイ画像を生成するように構成される装置は、
− ライトフィールドキャプチャを記憶媒体から索出し、レンズモデルのパラメータを索出し、レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するように構成される画像レンダラと、
− ディスプレイ画像を表示するように構成されたディスプレイ、又はディスプレイ画像をディスプレイに提供するように構成された出力端と、
を備える。
− ライトフィールドキャプチャを記憶媒体から索出し、レンズモデルのパラメータを索出し、レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するように構成される画像レンダラと、
− ディスプレイ画像を表示するように構成されたディスプレイ、又はディスプレイ画像をディスプレイに提供するように構成された出力端と、
を備える。
別の実施形態では、ディスプレイ画像をライトフィールドキャプチャから生成するように構成される装置は、処理デバイスと、命令を記憶したメモリデバイスと、を備え、その命令は、その処理デバイスにより実行されるときに、その装置に、
− ライトフィールドキャプチャを記憶媒体から索出するステップと、
− ディスプレイ画像を生成するためのレンズモデルのパラメータをライトフィールドキャプチャから索出するステップと、
− レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像をディスプレイに提供するステップと、
を行わせる。
− ライトフィールドキャプチャを記憶媒体から索出するステップと、
− ディスプレイ画像を生成するためのレンズモデルのパラメータをライトフィールドキャプチャから索出するステップと、
− レンズモデル及び索出されたパラメータを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップと、
− ディスプレイ画像をディスプレイに提供するステップと、
を行わせる。
本明細書で説明される一般的な観念は、ライトフィールド取得デバイスからの動画ストリームに対する焦点長、焦点比及び焦点距離などのパラメータを伴う、仮想レンズのパラメータを説明するフレームアキュレートなメタデータを生成することである。仮想レンズの適用から結果として生じる画像は、パラメータの調整をリアルタイム又は非リアルタイムのいずれかで可能にするために、予めレンダリングされて予め視覚化される。ライトフィールドキャプチャは、ライトフィールド画像形成デバイスから、例えばレンズ関連メタデータのオンセット生成のために直接受信されるか、記憶システムから、例えばレンズ関連メタデータのオフセット又はニアセット生成のために読み出されるかのいずれかである。
その解決策は、それが、同期したレンズメタデータであって、このメタデータを固有に提供しないか又はメタデータが固定されたライトフィールド取得デバイスに関するプロフェッショナルフィルム製作の間記憶される、レンズメタデータを配送するという利点を有する。このことは、ポスト製作での最終的なレンダリングインテントに関するフレームアキュレートな手がかり(clues)を提供する。
1つの実施形態では、レンズモデルのパラメータは、焦点距離、焦点比、焦点長、レンズティルト及びレンズシフトの1つ又は複数に関係付けられる。従前の写真撮影での画像形成プロセスの大部分は、これらのレンズ特性により定義される。したがって、これらのパラメータは、フィルム製作者のレンダリングインテントを説明するための有用な制約を表す。
1つの実施形態では、レンズ関連メタデータは、メタデータパケットとして出力される。各々のフレームに対応するレンズパラメータを伴うメタデータストリームは、このようにして生成される。レンダリングされた出力は、必ずしも記憶されるのではなく、当然ながら、利用可能にされる場合もある。
1つの実施形態では、レンズモデルのパラメータの1つ又は複数を調整するためのユーザ入力は、ユーザインターフェイスを介して受信される。レンズモデルの調整されたパラメータに基づいて、更新されたディスプレイ画像が生成される。このようにして、オペレータは、その画像をモニター上で点検し、そのパラメータを、彼が結果として生じるディスプレイ画像によって満足するまで、対話的に調整することが可能である。
1つの実施形態では、タイムコードは、そのライトフィールドキャプチャに関して索出される。例えばタイムコードは、ライトフィールドキャプチャから読み出されるか、又はタイムコード生成器から受信される。タイムコードは次いで、レンズ関連メタデータに追加される。このようにして、レンズ関連メタデータと、ライトフィールドカメラ信号、すなわち、ライトフィールドキャプチャとの間の同期が確実にされる。
その提案される解決策は、動画のストリームを処理することに焦点付けするが、それはさらには、単一の静止画を処理するために使用され得る。その事例では、同期は考慮される必要がない。
より良好な理解のために、一部の実施形態の原理が、ここでより詳細に、後に続く説明において、図への参照とともに解説されることになる。提案される解決策は、これらの例示的な実施形態に制限されないということ、ならびに、指定される特色が、さらには好都合に、添付される特許請求の範囲で定義されるような本原理の範囲から逸脱することなく組み合わされ得る、及び/又は、修正され得るということが理解される。
ライトフィールドカメラは、同じ場面の異なるビューをレンダリングすることを可能にする。パラメータ設計空間は大きいが、有用な制約は、当然のこととして、従前の写真撮影に関して考えることにより生じる。従前の写真撮影での画像形成プロセスの大部分は、レンズ特性により定義される。プライムレンズは通常、焦点距離及び焦点比を調整することを可能とし、一方でズームレンズは追加的に焦点長を調整することを可能とする。レンズティルト及びシフトなどの、さらなるパラメータがモデリングされ得る。焦点長が修正される事例では、幾何学的歪み及び色収差が、フレームからフレームで変化し得る。簡潔さのために、上記で説明されたような3つの最も有名な特性のみが、後に続くもので考慮されることになる。
図1は、ライトフィールドカメラ1に関するレンズ関連メタデータを生成するためのオンセット解決策の例示的なセットアップを示す。ディジタルレンズ2は、上記のパラメータの依存で光学レンズの性状をモデリングする。これは、リアルタイムレンダリングエンジンにより達成され、そのエンジンは、ライトフィールドキャプチャのストリームから各々のフレームをとり、現在のパラメータを伴うレンズモデルを供給し、最終的なレンダリングをモニター3に出力する。ディジタルレンズ2は、したがって、実レンズをモデリングする仮想レンズである。オペレータは、画像をモニター3上で点検し、パラメータに関する調整をユーザインターフェイス4を介して実行する。レンダリングされる出力は、必ずしも記憶されない。しかしながら、メタデータ記録器5が、メタデータストリームを、各々のフレームに対応するレンズパラメータ及び一意的なタイムコードスタンプとともに、ローカル又はリモートの記憶システム6上に記憶する。ライトフィールドカメラ信号とのディジタルレンズ2の同期は、従来のオンセット同期技法を使用して、例えば、タイムコード生成器7を使用して実現される。
ディジタルレンズ2のより詳細な例示が、図2に図示される。この図では、ディジタルレンズ2は、各々のフレームサイクルnに対して同期して動作する、2つの独立した処理ブロック、画像レンダラ8及びメタデータアセンブラ9により説明される。画像レンダラ8は、ライトフィールドカメラ1からライトフィールドキャプチャを、及び、パラメータ化ユニット10により出力されるレンズパラメータを受信し、レンダリングされた画像を出力として提供する。メタデータアセンブラ9はさらには、パラメータ化ユニット10により出力されるレンズパラメータを第1のレジスタ11を介して、及び、タイムコード生成器7により提供されるタイムコードを第2のレジスタ12を介して受信し、これらのデータをメタデータパケットに集成する。
画像レンダラ8の主な動作ステップが、図3に図示される。画像レンダラ8により実行されるレンダリングループは、各々のフレームサイクルによって再開し、サイクルの間実行することを継続する。第1のステップでは、フレームF(n)が、ライトフィールドキャプチャの同期させられるストリームから獲得(grab)される(20)。レンズモデル及び現在のパラメータセットP(n)を使用して、ビューがレンダリングされ(21)、モニターに出力される(22)。次いで、nが変化したかどうかがチェックされ(23)、その事例では、画像レンダラ8は、第1のステップに戻り、次のフレームを獲得するか(20)、又は、パラメータセットP(n)が変化したかどうかがチェックされ(24)、その事例では、更新されるビューがレンダリングされる(21)。ループは、レンダリング出力をモニターし、パラメータを人手により調整するオペレータにより閉じられる。
フレームレート及びレンダリング速度に依存して、レンダリングループは、フレームあたりでまさに1回、又は、複数の回数のいずれかで実行され得る。ライトフィールドキャプチャの同期させられるストリームは、例えば、HD−SDIを介して提供され得る。
メタデータアセンブラ9の主な動作ステップが、図4で例示される。第1のステップでは、メタデータアセンブラ9は、前フレームのレンズパラメータセットP(n−1)及びタイムコードT(n−1)を、第1のレジスタ11及び第2のレジスタ12からそれぞれ取得する(30)。これらのデータから、メタデータアセンブラ9は次いで、メタデータパケットM(n−1)を集成し(31)、そのメタデータパケットが最終的にメタデータストリームに書き込まれる(32)。メタデータ手順は、フレームあたりでまさに1回実行される。それは、前フレームの最終的なパラメータセットをサンプリングし(30)、集成し(31)、書き込む(32)。同期させられるメタデータパケットは、例えば、HD−SDIを介して、アンシラリデータパケットを使用してフィールド記録器に配送され得る。
ここまで、提案される解決策は主として、リアルタイム使用法の対象を動画フィルムセットにして説明された。これは、決まったフレームレートで、入力ビデオに対処し、メタデータストリームを出力する能力がある専用化されたデバイスを要する。しかしながら、解決策はさらには、リアルタイムデータ処理に対する必要性を伴わないニアセット環境で使用され得る。代わりに、インジェスト(ingest)上で作業するファイルベースの手法が、さらには、PCベースのソフトウェアを使用して適用され得る。これは、ライトフィールドキャプチャファイルがタイムコードメタデータを提供するということを要する。図5は、図1に対する対応する修正を示す。特に、ライトフィールドキャプチャは、ライトフィールドカメラ1の代わりに記憶システム13から取得される。加えて、タイムコード生成器7はもはや使用されない。
図6は、ライトフィールド画像形成デバイス1に関するレンズ関連メタデータを生成するための方法のより一般的な実施形態を概略的に例示する。第1のステップでは、ディスプレイ画像が、ライトフィールドキャプチャからレンズモデルを使用して生成される(40)。ディスプレイ画像を生成するために使用されるレンズモデルのパラメータは、次いで、ライトフィールド画像形成デバイス1に関するレンズ関連メタデータとして出力される(41)。
ライトフィールド画像形成デバイス1に関するレンズ関連メタデータを生成するための提案される方法を実行するように構成される装置50の1つの実施形態が、図7に概略的に図示される。装置50は、ライトフィールドキャプチャを、例えばライトフィールド画像形成デバイス1から受信するための入力端51を有する。あるいは、ライトフィールドキャプチャは、記憶システム13から索出される。図では、記憶システム13は、ローカルの記憶システムである。当然ながら、それは、同様に、装置50に直接接続されるか又はネットワークを介して接続される、リモートの記憶システムであり得る。画像レンダラ8は、ディスプレイ画像をライトフィールドキャプチャからレンズモデルを使用して生成する(40)。生成されるディスプレイ画像は、デバイス50のディスプレイ3上に表示されるか、外部ディスプレイ52に画像出力53を介して提供されるかのいずれかである。ユーザインターフェイス4を介して、レンズモデルのパラメータに対する調整がオペレータから受信される。メタデータアセンブラ9は、レンズモデルの最終的なパラメータを、ライトフィールド画像形成デバイス1に関するレンズ関連メタデータとして出力する(41)。メタデータアセンブラ9はさらに、クロック入力54を介して接続されるタイムコード生成器7により提供されるか、又はライトフィールドキャプチャと一体で提供されるタイムコードを処理し得る。結果として生じるメタデータは、出力端55を介して利用可能にされる。それらはさらには、記憶システム13上に記憶され得る。様々なインターフェイス51、53、54、55はさらには、1つ又は複数の双方向インターフェイスに、完全に、又は部分的に組み合わされ得る。画像レンダラ8及びメタデータアセンブラ9は、専用化されたハードウェアとして、又は、1つもしくは複数のプロセッサー上でランするソフトウェアとして実施され得る。当然ながらそれらは、同じように、単一のハードウェアユニットに組み合わされ得る。
提案される方法を実行するように構成される装置60の別の実施形態が、図8で概略的に例示される。装置60は、処理デバイス61と、命令を記憶するメモリデバイス62と、を備え、それらの命令は、実行されるときに、装置に、説明される方法の1つによるステップを実行することを行わせる。
例えば、処理デバイス61は、説明される方法の1つによるステップを実行するように適合させられるプロセッサーであり得る。実施形態では、適合は、プロセッサーが、説明される方法の1つによるステップを実行するように構成される、例えばプログラムされることを備える。
本明細書で使用されるようなプロセッサーは、マイクロプロセッサ、ディジタル信号プロセッサー、又は、それらの組み合わせなどの、1つ又は複数の処理ユニットを含み得る。
ローカルの記憶システム13及びメモリデバイス62は、揮発性及び/又は不揮発性メモリ領域、ならびに、ハードディスク駆動装置及びDVD駆動装置などの記憶デバイスを含み得る。メモリの部分は、処理デバイス61により実行可能な命令のプログラムを有形に実施して、本明細書で説明されるような原理によるプログラムステップを実行する、処理デバイス61により可読な非一時的プログラム記憶デバイスである。
Claims (15)
- ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータを生成するための方法であって、
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップ(40)と、
− 前記ディスプレイ画像を生成するために使用される前記レンズモデルのパラメータを、前記ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータとして出力するステップ(41)と、
を備えた、前記方法。 - 前記レンズモデルの前記パラメータは、焦点距離、焦点比、焦点長、レンズティルト及びレンズシフトの1つ又は複数に関係付けられる、請求項1に記載の方法。
- 前記レンズ関連メタデータをメタデータパケットとして出力するステップをさらに備えた、請求項1又は2に記載の方法。
- 前記レンズモデルの前記パラメータの1つ又は複数を調整するためのユーザ入力を受信するステップと、
前記レンズモデルの前記調整されたパラメータに基づいて、更新されたディスプレイ画像を生成するステップと、
をさらに備えた、請求項1から3のいずれかに記載の方法。 - 前記ライトフィールドキャプチャに関するタイムコードを索出するステップと、
前記タイムコードを前記レンズ関連メタデータに追加するステップと、
をさらに備えた、請求項1から4のいずれかに記載の方法。 - 前記タイムコードは、前記ライトフィールドキャプチャから読み出されるか、又はタイムコード生成器(7)から受信される、請求項5に記載の方法。
- 前記ライトフィールドキャプチャは、ライトフィールド画像形成デバイス(1)から受信されるか、又は記憶システム(13)から読み出される、請求項1から6のいずれかに記載の方法。
- ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータを生成することを可能にする命令を記憶したコンピュータ可読非一過性記憶媒体であって、前記命令は、コンピュータにより実行されるときに、前記コンピュータに、
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップ(40)と、
− 前記ディスプレイ画像を生成するために使用される前記レンズモデルのパラメータを、前記ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータとして出力するステップ(41)と、
を行わせる、コンピュータ可読非一過性記憶媒体。 - ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータを生成するように構成された装置(50)であって、
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成する(40)ように構成された画像レンダラ(8)と、
− 前記ディスプレイ画像を生成するために使用される前記レンズモデルのパラメータを、前記ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータとして出力する(41)ように構成されたメタデータアセンブラ(9)と、
を備えた、前記装置(50)。 - ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータを生成するように構成される装置(60)であって、前記装置は、処理デバイス(61)と、命令を記憶したメモリデバイス(61)と、を備え、前記命令は、前記処理デバイス(61)により実行されるときに、前記装置(60)に、
− レンズモデルを使用してライトフィールドキャプチャからディスプレイ画像を生成するステップ(40)と、
− 前記ディスプレイ画像を生成するために使用される前記レンズモデルのパラメータを、前記ライトフィールド画像形成デバイス(1)に関するレンズ関連メタデータとして出力するステップ(41)と、
を行わせる、前記装置(60)。 - ライトフィールドキャプチャを備えた記憶媒体(13)であって、前記ライトフィールドキャプチャからディスプレイ画像を生成するためのレンズモデルのパラメータをさらに備えた、前記記憶媒体(13)。
- ライトフィールドキャプチャからディスプレイ画像を生成するための方法であって、前記方法は、
− ライトフィールドキャプチャを記憶媒体(13)から索出するステップと、
− 前記ライトフィールドキャプチャからディスプレイ画像を生成するためのレンズモデルのパラメータを索出するステップと、
− 前記レンズモデル及び前記索出されたパラメータを使用して前記ライトフィールドキャプチャからディスプレイ画像を生成するステップ(40)と、
− 前記ディスプレイ画像をディスプレイに提供するステップ(3、52)と、
を備えた、前記方法。 - ディスプレイ画像をライトフィールドキャプチャから生成することを可能にする命令を記憶したコンピュータ可読非一時的記憶媒体であって、前記命令は、コンピュータにより実行されるときに、前記コンピュータに、
− ライトフィールドキャプチャを記憶媒体(13)から索出するステップと、
− 前記ライトフィールドキャプチャからディスプレイ画像を生成するためのレンズモデルのパラメータを索出するステップと、
− 前記レンズモデル及び前記索出されたパラメータを使用して前記ライトフィールドキャプチャからディスプレイ画像を生成するステップ(40)と、
− 前記ディスプレイ画像をディスプレイに提供するステップ(3、52)と、
を行わせる、前記コンピュータ可読非一時的記憶媒体。 - ライトフィールドキャプチャからディスプレイ画像を生成するように構成された装置(50)であって、前記装置(50)は、
− ライトフィールドキャプチャを記憶媒体(13)から索出し、レンズモデルのパラメータを索出し、前記レンズモデル及び前記索出されたパラメータを使用して前記ライトフィールドキャプチャからディスプレイ画像を生成する(40)ように構成された画像レンダラ(8)と、
− 前記ディスプレイ画像を表示するように構成されたディスプレイ(3)、又は前記ディスプレイ画像をディスプレイ(52)に提供するように構成された出力端(53)と、
を備えた、前記装置(50)。 - ライトフィールドキャプチャからディスプレイ画像を生成するように構成された装置(60)であって、処理デバイス(61)と、命令を記憶したメモリデバイス(62)と、を備え、前記命令は、前記処理デバイス(61)により実行されるときに、前記装置(60)に、
− ライトフィールドキャプチャを記憶媒体(13)から索出するステップと、
− 前記ライトフィールドキャプチャからディスプレイ画像を生成するためのレンズモデルのパラメータを索出するステップと、
− 前記レンズモデル及び前記索出されたパラメータを使用して前記ライトフィールドキャプチャからディスプレイ画像を生成するステップ(40)と、
− 前記ディスプレイ画像をディスプレイに提供するステップ(3、52)と、
を行わせる、前記装置(60)。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
EP15305275.8A EP3059949A1 (en) | 2015-02-23 | 2015-02-23 | Method and apparatus for generating lens-related metadata |
EP15305275.8 | 2015-02-23 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016157421A true JP2016157421A (ja) | 2016-09-01 |
Family
ID=52727051
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015234990A Pending JP2016157421A (ja) | 2015-02-23 | 2015-12-01 | レンズ関連メタデータを生成するための方法及び装置 |
Country Status (6)
Country | Link |
---|---|
US (1) | US10536685B2 (ja) |
EP (2) | EP3059949A1 (ja) |
JP (1) | JP2016157421A (ja) |
KR (1) | KR20160102898A (ja) |
CN (1) | CN105915779A (ja) |
TW (1) | TW201631949A (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3099055A1 (en) * | 2015-05-29 | 2016-11-30 | Thomson Licensing | Method and apparatus for displaying a light field based image on a user's device, and corresponding computer program product |
CN111970444B (zh) * | 2020-08-17 | 2021-11-23 | 长安大学 | 一种实现场景内物体远近辨识的方法、系统及机器人 |
Family Cites Families (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7292257B2 (en) * | 2004-06-28 | 2007-11-06 | Microsoft Corporation | Interactive viewpoint video system and process |
US20130113981A1 (en) | 2006-12-01 | 2013-05-09 | Lytro, Inc. | Light field camera image, file and configuration data, and methods of using, storing and communicating same |
US8189065B2 (en) | 2008-01-23 | 2012-05-29 | Adobe Systems Incorporated | Methods and apparatus for full-resolution light-field capture and rendering |
US8289440B2 (en) | 2008-12-08 | 2012-10-16 | Lytro, Inc. | Light field data acquisition devices, and methods of using and manufacturing same |
US8908058B2 (en) * | 2009-04-18 | 2014-12-09 | Lytro, Inc. | Storage and transmission of pictures including multiple frames |
US20120249550A1 (en) | 2009-04-18 | 2012-10-04 | Lytro, Inc. | Selective Transmission of Image Data Based on Device Attributes |
US20140176592A1 (en) | 2011-02-15 | 2014-06-26 | Lytro, Inc. | Configuring two-dimensional image processing based on light-field parameters |
WO2013049699A1 (en) * | 2011-09-28 | 2013-04-04 | Pelican Imaging Corporation | Systems and methods for encoding and decoding light field image files |
US8995785B2 (en) | 2012-02-28 | 2015-03-31 | Lytro, Inc. | Light-field processing and analysis, camera control, and user interfaces and interaction on light-field capture devices |
US20140181630A1 (en) | 2012-12-21 | 2014-06-26 | Vidinoti Sa | Method and apparatus for adding annotations to an image |
JP2016511850A (ja) | 2012-12-21 | 2016-04-21 | ヴィディノティ エスアーVidinoti Sa | プレノプティックライトフィールドに対しアノテーションを付加するための方法および装置 |
WO2015025309A1 (en) * | 2013-08-20 | 2015-02-26 | Smarter Tv Ltd. | System and method for real-time processing of ultra-high resolution digital video |
WO2015037473A1 (ja) * | 2013-09-11 | 2015-03-19 | ソニー株式会社 | 画像処理装置および方法 |
CN106576191B (zh) * | 2013-09-13 | 2020-07-14 | 英特尔公司 | 视频制作共享设备及方法 |
CN106464853B (zh) * | 2014-05-21 | 2019-07-16 | 索尼公司 | 图像处理设备和方法 |
JP6562197B2 (ja) * | 2014-06-20 | 2019-08-21 | パナソニックIpマネジメント株式会社 | 画像処理方法および画像処理システム |
-
2015
- 2015-02-23 EP EP15305275.8A patent/EP3059949A1/en not_active Withdrawn
- 2015-12-01 JP JP2015234990A patent/JP2016157421A/ja active Pending
-
2016
- 2016-01-15 TW TW105101157A patent/TW201631949A/zh unknown
- 2016-02-11 EP EP16155304.5A patent/EP3059951A1/en not_active Ceased
- 2016-02-16 CN CN201610087789.8A patent/CN105915779A/zh active Pending
- 2016-02-18 KR KR1020160019273A patent/KR20160102898A/ko unknown
- 2016-02-23 US US15/050,524 patent/US10536685B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
EP3059949A1 (en) | 2016-08-24 |
CN105915779A (zh) | 2016-08-31 |
TW201631949A (zh) | 2016-09-01 |
KR20160102898A (ko) | 2016-08-31 |
US20160246817A1 (en) | 2016-08-25 |
US10536685B2 (en) | 2020-01-14 |
EP3059951A1 (en) | 2016-08-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20090231459A1 (en) | Camera direct dailies | |
JP4332364B2 (ja) | 映像記録システム,映像記録方法 | |
US20110267433A1 (en) | Image capturing system, image capturing apparatus, and image capturing method | |
WO2020195232A1 (ja) | 画像処理装置、画像処理方法、プログラム | |
US9959905B1 (en) | Methods and systems for 360-degree video post-production | |
US12008708B2 (en) | Method and data processing system for creating or adapting individual images based on properties of a light ray within a lens | |
JP2011160347A (ja) | 記録装置および記録方法、画像処理装置および画像処理方法、並びにプログラム | |
JP2019033308A (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置 | |
US10554948B2 (en) | Methods and systems for 360-degree video post-production | |
US10536685B2 (en) | Method and apparatus for generating lens-related metadata | |
US20050168485A1 (en) | System for combining a sequence of images with computer-generated 3D graphics | |
US10582135B2 (en) | Computer generated imagery compositors | |
WO2015030003A1 (ja) | 映像制作システムおよび映像制作方法 | |
TW201327019A (zh) | 利用多畫面三維相機拍攝具視角彈性視點合成全景三維影像的技術 | |
US11792511B2 (en) | Camera system utilizing auxiliary image sensors | |
JP2016099598A (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2014011780A (ja) | 画像合成装置、その制御方法、および制御プログラム、並びに記録媒体 | |
WO2024075525A1 (ja) | 情報処理装置およびプログラム | |
JP2008065698A (ja) | 画像生成方法及び画像生成システム | |
KR100608244B1 (ko) | 삼차원 디지털 입체 카메라 | |
KR200352424Y1 (ko) | 삼차원 디지털 입체 카메라 | |
Steurer | Tri-focal rig (practical camera configurations for image and depth acquisition) | |
KR20150070598A (ko) | 파노라마 영상 촬영 시스템 및 그 작동 방법 | |
Thomas et al. | New methods of image capture to support advanced post-production | |
WO2021035095A2 (en) | Camera system utilizing auxiliary image sensors |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20161202 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20161202 |