JP6057570B2 - 立体パノラマ映像を生成する装置及び方法 - Google Patents

立体パノラマ映像を生成する装置及び方法 Download PDF

Info

Publication number
JP6057570B2
JP6057570B2 JP2012151322A JP2012151322A JP6057570B2 JP 6057570 B2 JP6057570 B2 JP 6057570B2 JP 2012151322 A JP2012151322 A JP 2012151322A JP 2012151322 A JP2012151322 A JP 2012151322A JP 6057570 B2 JP6057570 B2 JP 6057570B2
Authority
JP
Japan
Prior art keywords
frame
slit
frame slit
video
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012151322A
Other languages
English (en)
Other versions
JP2013085223A (ja
Inventor
映 宣 全
映 宣 全
永 秀 文
永 秀 文
時 和 李
時 和 李
俊 赫 車
俊 赫 車
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2013085223A publication Critical patent/JP2013085223A/ja
Application granted granted Critical
Publication of JP6057570B2 publication Critical patent/JP6057570B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/221Image signal generators using stereoscopic image cameras using a single 2D image sensor using the relative movement between cameras and objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Stereoscopic And Panoramic Photography (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)

Description

1つのカメラだけを用いて立体3Dパノラマ映像を生成する装置及び方法に関し、3D用レンズやステレオシステムなどの3D撮影のためにハードウェアを変形することなく、既存2D用カメラを用いて3Dパノラマ映像を生成する装置及び方法を開示する。
デジタル技術の飛躍的な発展に後押しされ、3Dテレビなどの3Dディスプレイの需要が増加する傾向にある。
3Dディスプレイは立体映像コンテンツを介して提供することができるが、このような立体映像コンテンツは立体空間にいるように見える映像をいう。
立体映像コンテンツを生成するために、実際に立体映像を再現する方法も試みられているが、広く研究されている方法は左右の目に各々左右方向から見たものと同一の映像を提示して2つの目に時差を与え、これを合成して1つの立体映像に見えるようにする技術が広く利用されている。
立体映像コンテンツは、2つの目とステレオスコピー(Stereoscopy)技術を適用して2次元映像から生成されてもよい。また、一般的に立体映像コンテンツを作るためには、2つ以上のカメラを用いて撮影された映像が必要である。
参考までに、ステレオスコピー(Stereoscopy)技術は、2次元映像に付加的に得られる情報を創出し、この創出された付加的な情報によって人間があたかも映像を製作している場所にいるかのような動感及び臨場感を感じることができる技術である。
本発明の一実施形態に係る立体パノラマ映像生成装置は、N番目のビデオフレームで第1フレームスリットをキャプチャーして、N+2番目のビデオフレームから第2フレームスリットをキャプチャーするフレームスリットキャプチャー部と、前記キャプチャーされた第1フレームスリットと前記キャプチャーされた第2フレームスリットとを用いて左側映像を生成する立体映像生成部とを含み、前記フレームスリットキャプチャー部はN+1番目のビデオフレームで第3フレームスリットをキャプチャーして、N+3番目のビデオフレームで第4フレームスリットをキャプチャーして、前記立体映像生成部は前記第3フレームスリット及び前記第4フレームスリットを用いて右側映像を生成することができる。
本発明の一実施形態に係るフレームスリットキャプチャー部は、撮影される複数のビデオフレームを球面座標系(Spherical Coordinate)にプロジェクション(Projection)して前記第1フレームスリット、前記第2フレームスリット、前記第3フレームスリット、および前記第4フレームスリットをキャプチャーしてもよい。
本発明の一実施形態に係るフレームスリットキャプチャー部は、前記第1フレームスリットと前記第3フレームスリットとの間の間隔を算出して、前記算出された間隔と同一になるように前記第2フレームスリットと前記第4フレームスリットとの間の間隔を決定してもよい。
本発明の一実施形態に係るフレームスリットキャプチャー部は、前記第1フレームスリットと連続するように前記第2フレームスリットのキャプチャー時点を決定して、前記第3フレームスリットと連続するように前記第4フレームスリットのキャプチャー時点を決定してもよい。
本発明の一実施形態に係る前記生成された左側映像及び前記右側映像は、シングルカメラレンズ及びシングルカメラセンサを用いて3Dテレビで表示してもよい。
本発明の一実施形態に係る立体パノラマ映像生成装置は、2N番目のビデオフレームで少なくとも1つ以上の左側フレームスリットをキャプチャーして、左側映像を生成する左側映像生成部と、2N−1番目のビデオフレームで少なくとも1つ以上の右側フレームスリットをキャプチャーして、右側映像を生成する右側映像生成部と、前記生成された左側映像と前記生成された右側映像に基づいて立体パノラマ映像を生成する映像生成部とを含んでもよい。
本発明の一実施形態に係る前記左側映像生成部は、前記少なくとも1つ以上の左側フレームスリット間の間隔を算出して、本発明の一実施形態に係る前記右側映像生成部は前記算出された間隔と同一に前記少なくとも1つ以上の右側フレームスリット間の間隔を決定してもよい。
本発明の一実施形態に係る前記左側映像生成部は、前記左側映像が連続するように前記少なくとも1つ以上の左側フレームスリットのキャプチャー時点を決定して、本発明の一実施形態に係る前記右側映像生成部は、前記右側映像が連続するように前記少なくとも1つ以上の右側フレームスリットのキャプチャー時点を決定してもよい。
本発明の一実施形態に係る立体パノラマ映像生成方法は、フレームスリットキャプチャー部で、N番目のビデオフレームから第1フレームスリットをキャプチャーするステップと、前記フレームスリットキャプチャー部で、N+1番目のビデオフレームから第3フレームスリットをキャプチャーするステップと、前記フレームスリットキャプチャー部で、N+2番目のビデオフレームから第2フレームスリットをキャプチャーするステップと、前記フレームスリットキャプチャー部で、N+3番目のビデオフレームから第4フレームスリットをキャプチャーするステップと、立体映像生成部で、前記キャプチャーされた第1フレームスリットと前記キャプチャーされた第2フレームスリットとを用いて左側映像を生成するステップと、前記立体映像生成部で、前記キャプチャーされた第3フレームスリットと前記キャプチャーされた第4フレームスリットとを用いて右側映像を生成するステップとを含んでもよい。
本発明の一実施形態に係る立体パノラマ映像生成方法は、前記フレームスリットキャプチャー部において、前記第1フレームスリットと前記第3フレームスリットとの間の間隔を算出して、前記算出された間隔と同一になるように前記第2フレームスリットと前記第4フレームスリットとの間の間隔を決定してもよい。
本発明の一実施形態に係る前記フレームスリットキャプチャー部において、N+2番目のビデオフレームから第2フレームスリットをキャプチャーするステップは、前記フレームスリットキャプチャー部で、前記第1フレームスリットと連続するように前記第2フレームスリットのキャプチャー時点を決定するステップを含み、本発明の一実施形態に係る前記フレームスリットキャプチャー部において、N+3番目のビデオフレームから第4フレームスリットをキャプチャーするステップは、前記フレームスリットキャプチャー部で、前記第3フレームスリットと連続するように前記第4フレームスリットのキャプチャー時点を決定するステップを含んでもよい。
本発明の一実施形態によれば、一つのカメラ(1レンズ1センサ)を用いて、立体パノラマ用映像の左/右立体映像を生成することができる。
本発明の他の一実施形態によれば、モバイルフォンに内蔵されたカメラのように低フレームレート(Low−Frame Rate)の特性によって収集された映像に対しても、迅速かつ正確に立体パノラマ映像を生成することができる。
本発明のまた他の一実施形態によれば、従来に比べて大きい左/右スリット(Slit)を用いてフレームスリット(Frame Slit)を作るため、低フレームレートでも適用が容易である。
本発明のまた他の一実施形態によれば、いかなる商用化されたイメージセンサを用いたとしても立体パノラマ映像の生成が可能である。
本発明のまた他の一実施形態によれば、映像と映像を整合/ステッチング(Stitching)する時、従来技術に比べて大きいスリット幅を用いるため、映像整合時にゴースト(Ghost)が生じたとしても処理がより容易である。
本発明のまた他の一実施形態によれば、同一のビュー(同じ大きさ)の映像に対して映像間の整合部分の数が少なくなるため、ブレンディング(Blending)する回数も減ることになり、計算量の面でも減少効果がある。
本発明の一実施形態に係る立体パノラマ映像生成装置を説明するブロック図である。 本発明の一実施形態に係る複数のビューポイントで被写体を撮影することを説明する図である。 図2を球面座標系に撮影映像をプロジェクションしたときを示す図である。 本発明のフレームシーケンスを時間別にトップビュー(top view)形態で図示化した図である。 本発明の他の一実施形態に係る立体パノラマ映像生成装置を説明するブロック図である。 本発明の一実施形態に係る立体パノラマ映像生成方法を説明するフローチャートである。
以下、本発明に係る好適な実施形態を添付する図面を参照しながら詳細に説明する。
本発明の説明において、関連する公知機能または構成に対する具体的な説明が本発明の要旨を不要に曖昧にすると判断される場合には、その詳細な説明は省略する。また、本明細書で用いられる用語(terminology)は、本発明の好適な実施形態を適切に表現するために用いられた用語であって、これは、ユーザ、運用者の意図または本発明が属する分野の慣例などによって変り得る。したがって、本用語に対する定義は本明細書全般に亘る内容を土台に下されるべきである。各図面に提示した同一の参照符号は同一の部材を示す。
図1は、本発明の一実施形態に係る立体パノラマ映像生成装置100を説明するブロック図である。
本発明の一実施形態に係る立体パノラマ映像生成装置100は、一つの映像内で左/右視点用映像を用いたが、本発明では時間軸上の時間的(Temporal)な映像を選択して左/右視点用映像を用いる。
換言すれば、本発明の一実施形態に係る立体パノラマ映像生成装置100は、一つの映像内で左/右パノラマ用映像を用いるのではなく、時間(Temporal)軸上で空間的(spatial)な観点で一定間隔だけ離れた各々の異なる映像を左/右パノラマ映像を用いて左/右パノラマ映像を生成し、3DTVのような3Dディスプレイ装置において、3D映像を鑑賞できるようにしてもよい。
本発明の一実施形態に係る立体パノラマ映像生成装置100は、連続的で重なる部分が存在するマルチフレームを用いてパノラマ映像を実現するにおいて核心的に活用され得る。
例えば、本発明の一実施形態に係る立体パノラマ映像生成装置100は、DSC、DVC、監視用などのカメラ、モバイルカメラ、およびスマートフォンなどの装置に適用してもよい。それだけでなく、本発明の一実施形態に係る立体パノラマ映像生成装置100は、カメラセンサ映像信号処理プロセッサとして用いてもよい。
具体的に、本発明の一実施形態に係る立体パノラマ映像生成装置100は、フレームスリットキャプチャー部110、及び立体映像生成部120を含んでもよい。
フレームスリットキャプチャー部110は、N番目のビデオフレームで第1フレームスリットをキャプチャーして、N+2番目のビデオフレームで第2フレームスリットをキャプチャーしてもよい。
立体映像生成部120は、キャプチャーされた第1フレームスリットとキャプチャーされた第2フレームスリットとを用いて左側映像を生成してもよい。
また、立体映像のためにフレームスリットキャプチャー部110は、N+1番目のビデオフレームで第3フレームスリットをキャプチャーして、N+3番目のビデオフレームで第4フレームスリットをキャプチャーしてもよく、立体映像生成部120は第3フレームスリット及び第4フレームスリットを用いて右側映像を生成してもよい。
結局、本発明の一実施形態に係る立体パノラマ映像生成装置100は、一つのカメラ(1レンズ1センサ)を用いて、立体パノラマ用映像の左/右立体映像を生成してもよい。
本発明の一実施形態によれば、モバイルフォンに内蔵されたカメラのように低フレームレートの特性によって収集された映像に対しても、迅速かつ正確に立体パノラマ映像を生成することができる。
本発明の一実施形態によれば、従来に比べて大きい左/右スリットを用いてフレームスリット(Frame Slit)を作るため、低フレームレートでも適用が容易である。
本発明の一実施形態によれば、いかなる商用化されたイメージセンサを用いたとしても立体パノラマ映像の生成が可能である。
本発明の一実施形態によれば、映像と映像を整合/ステッチング(Stitching)する時、従来技術に比べて大きいスリット幅を用いるため、映像整合時、ゴーストが生じたとしても処理がより容易である。
本発明の一実施形態によれば、同一のビュー(同じ大きさ)の映像に対して映像間の整合部分の数が少なくなるため、ブレンディング(Blending)する回数も減ることになり、計算量の面でも減少効果がある。
図2は、本発明の一実施形態に係る複数のビューポイント(view point)において被写体を撮影することを説明する図である。
本発明の一実施形態に係る立体パノラマ映像生成装置100は、移動通信端末機など、携帯が可能でカメラモジュールが装着されている携帯用端末装置にモジュール形態で適用してもよい。
したがって、図2ないし図3によって、本発明の一実施形態に係る立体パノラマ映像生成装置100に入力されるビデオフレームが、携帯用端末装置を介して撮影される実施形態を説明する。
携帯用端末装置は、複数のビューポイントにおいて、被写体201を撮影するカメラ202を介して複数のビデオフレームを生成してもよい。
固定された位置のカメラ202は、回転して、被写体201に対して一部が重なる複数の映像を生成する。換言すれば、カメラ202は、固定された位置において、回転に基づいて生成される複数のビューポイントで被写体を撮影してもよい。
本明細書上で言及する回転は、カメラ202を動くための特定ハードウェアを介した動作ではなく、ユーザの動きに応じて発生する動作と解釈することができる。したがって、カメラ202の回転のためにハードウェアの追加を必要としない。
複数のキャプチャービューポイントのうち、連続するキャプチャービューポイントはカメラ202が「θ」の角度だけ回転して生成する時点であり、連続するキャプチャービューポイントにおいてキャプチャーされた複数のビデオフレームは、一部が重なり得る。
本発明の一実施形態に係る携帯用端末装置は、カメラ202が「θ」の角度203だけ回転した瞬間はキャプチャービューポイントとして決定し、被写体201をキャプチャーするようにカメラ202を制御してもよい。
キャプチャービューポイントは、選択された大きさの回転角(「θ」)として区分してもよい。即ち、「θ」の角度だけ他のキャプチャービューポイントでキャプチャーされた複数のビデオフレームは、立体パノラマ映像として加工されるために、左側映像と右側映像を生成するフレームスリットとして加工してもよい。
例えば、最初のビデオフレームでキャプチャーされるフレームスリットは左側映像に含まれ、2番目のビデオフレームでキャプチャーされるフレームスリットは右側映像に含まれてもよい。
図3は、図2を球面座標系に撮影映像をプロジェクションしたときを示す図である。
本発明の一実施形態に係るフレームスリットキャプチャー部は、撮影される複数のビデオフレームを球面座標系にプロジェクションして、第1フレームスリット、第2フレームスリット、第3フレームスリット、および第4フレームスリットをキャプチャーしてもよい。
図2のように固定された位置を中心に一定の角度だけ回転して撮影した映像は、球面座標系では一定の間隔だけカメラが転換(translation)しながら移動して撮影したものとして表現してもよい。
換言すれば、カメラ202の回転によって複数のキャプチャービューポイントでキャプチャーされるビデオフレームと、カメラ202の水平方向に移動してキャプチャーしたビデオフレームが僅かの差を示す点に基づいて、カメラ202の回転によるビデオフレームとカメラ202の水平移動によるビデオフレームとが同一であると判断できる点を説明する。
即ち、カメラは「Δl」だけ移動した時点302をキャプチャービューポイントと認識し、被写体301を撮影してもよい。このようにキャプチャーされたビデオフレームは、端の一部分を除いては略同一であってもよい。
したがって、本発明では、図2のようにただ1つのカメラ220を用いて、カメラ220の位置移動なしでも回転運動だけで3D形態の立体パノラマ映像を生成してもよい。
図4は、図3で抽出されたビデオフレームを時間別にトップビュー形態に図示化した図である。
抽出されたビデオフレームは、時間代別にビデオフレーム1(410)、ビデオフレーム2(420)、ビデオフレーム3(430)、およびビデオフレーム4(440)に区分してもよい。
従来は、抽出されたビデオフレームの各々で左/右視点用映像を抽出したが、本発明においては、ビデオフレーム1(410)とビデオフレーム3(430)では左側映像450に用いられるフレームスリット411,431をキャプチャーし、ビデオフレーム2(420)とビデオフレーム4(440)では右側映像460に用いられるフレームスリット421,441をキャプチャーする。
キャプチャーされたフレームスリット411,431は左側映像450で利用され、キャプチャーされたフレームスリット421,441は右側映像460で利用されてもよい。
本発明の一実施形態に係るフレームスリットキャプチャー部は、第1フレームスリット411と第3フレームスリット431との間の間隔を算出し、算出された間隔と同一になるように第2フレームスリット421と第4フレームスリット441との間の間隔を決定してもよい。
また、本発明の一実施形態に係るフレームスリットキャプチャー部は、第1フレームスリット411と連続するように第2フレームスリット421のキャプチャー時点を決定し、第3フレームスリット431と連続するように第4フレームスリット441のキャプチャー時点を決定してもよい。
従来技術では、一つのビデオフレーム内で左/右視点用映像を用いたが、本発明においては、時間軸上の時間的な映像を選択して左/右視点用ビデオフレームを用いる。
即ち、従来の場合は、ステレオ映像のベースライン(Baseline)の長さを1つのビデオフレーム内で左/右映像を取る映像スリット間の間隔として決定する一方、本発明では左/右映像を取得する時間的な間隔による左/右映像間の距離としてベースラインの長さを決定してもよい。
もし、低フレームレートで既存技術を適用して小さいサイズのスリット幅映像を用いて立体パノラマ映像を構成する場合、映像整合が正しくなされないため、ゆっくり撮影することで構成が可能になる。
本発明の一実施形態によれば、同一のビュー(同じ大きさ)の映像に対して映像間の整合部分の数が少なくなるため、ブレンディング(Blending)する回数も減ることになり、計算量の面でも減少効果がある。
図5は、本発明の他の一実施形態に係る立体パノラマ映像生成装置500を説明するブロック図である。
本発明の他の一実施形態に係る立体パノラマ映像生成装置500は、左側映像生成部510、右側映像生成部520、および立体映像生成部530を含んでもよい。
左側映像生成部510は、2N番目のビデオフレームにおいて少なくとも1つ以上の左側フレームスリットをキャプチャーして左側映像を生成してもよい。
本発明の一実施形態に係る左側映像生成部510は、少なくとも1つ以上の左側フレームスリット間の間隔を算出してもよい。
本発明の一実施形態に係る右側映像生成部520は、2N−1番目のビデオフレームにおいて少なくとも1つ以上の右側フレームスリットをキャプチャーし、右側映像を生成してもよい。右側映像生成部520は、算出された間隔と同一に少なくとも1つ以上の右側フレームスリット間の間隔を決定してもよい。
例えば、左側映像生成部510において、2番目のビデオフレーム、4番目のビデオフレーム及び6番目のビデオフレームの順序でフレームスリットをキャプチャーする場合、右側映像生成部520においては、1番目のビデオフレーム、3番目のビデオフレーム、および5番目のビデオフレームの順序でフレームスリットをキャプチャーしてもよい。
即ち、本発明の他の一実施形態に係る立体パノラマ映像生成装置500は、1つのビデオフレームでは左側映像のためのフレームスリット、及び右側映像のためのフレームスリットのうちのいずれか1つだけをキャプチャーする。
本発明の一実施形態に係る立体映像生成部530は、生成された左側映像と生成された右側映像に基づいて立体パノラマ映像を生成してもよい。
本発明の他の一実施形態に係る立体パノラマ映像生成装置500は、一つの映像内で左/右パノラマ用映像を用いるのではなく、時間軸上で空間的な観点で一定間隔だけ離れた各々の異なる映像を左/右パノラマ映像を用いて左/右パノラマ映像を生成してもよい。
近年、3DTVが非常に普及しているため、このような一般的な3DTVの入力映像のためには、左/右の2つの視点の映像を必要とし、左/右の2つの視点の映像を生成するためにカメラレンズが2つのカメラを用いる必要なく、現在の大部分のカメラユーザが所有しているカメラタイプの1台のカメラの1つのカメラレンズ、1つのカメラセンサを用いて左/右の2つの視点映像を生成して3DTVで視聴することができる。
図6は、本発明の一実施形態に係る立体パノラマ映像生成方法を説明するフローチャートである。
本発明の一実施形態に係る立体パノラマ映像生成方法は、フレームスリットキャプチャー部を用いて、N番目のビデオフレームで第1フレームスリットをキャプチャーし(S601)、続くN+1番目のビデオフレームで第3フレームスリットをキャプチャーしてもよい(S602)。
本発明の一実施形態に係る立体パノラマ映像生成方法は、フレームスリットキャプチャー部を用いて、N+2番目のビデオフレームで第2フレームスリットをキャプチャーし(S603)、続くN+3番目のビデオフレームで第4フレームスリットをキャプチャーしてもよい(S604)。
本発明の一実施形態に係る立体パノラマ映像生成方法は、立体映像生成部を用いて、キャプチャーされた第1フレームスリットとキャプチャーされた第2フレームスリットで左側映像を生成してもよい(S605)
本発明の一実施形態に係る立体パノラマ映像生成方法は、立体映像生成部を用いて、キャプチャーされた第3フレームスリットとキャプチャーされた第4フレームスリットを用いて右側映像を生成してもよい(S606)。
本発明の一実施形態に係る立体パノラマ映像生成方法を利用すれば、従来に比べて大きい左/右スリットを用いてフレームスリット(Frame Slit)を作るため、低フレームレートでも適用が容易であり、したがって、いかなる商用化されたイメージセンサを用いたとしても立体パノラマ映像の生成が可能である。
本発明の一実施形態に係る立体パノラマ映像生成方法は、多様なコンピュータ手段によって行うことができるプログラム命令形態で実現され、コンピュータ読み出し可能媒体に記録してもよい。記録媒体は、プログラム命令、データファイル、データ構造などを単独または組み合わせたものを含んでもよい。記録媒体及びプログラム命令は、本発明の目的のために特別に設計して構成されたものでもよく、コンピュータソフトウェア分野の技術を有する当業者にとって公知のものであり使用可能なものであってもよい。コンピュータ読取可能な記録媒体の例としては、ハードディスク、フロッピー(登録商標)ディスク及び磁気テープのような磁気媒体、CD−ROM、DVDのような光記録媒体、フロプティカルディスクのような磁気−光媒体、及びROM、RAM、フラッシュメモリなどのようなプログラム命令を保存して実行するように特別に構成されたハードウェア装置を含んでもよい。プログラム命令の例としては、コンパイラによって生成されるような機械語コードだけでなく、インタプリタなどを用いてコンピュータによって実行され得る高級言語コードを含む。上述のハードウェア装置は、本発明の動作を行うために1つ以上のソフトウェアモジュールとして作動するように構成してもよく、その逆も同様である。
本発明の一実施形態によれば、従来に比べて大きい左/右スリットを用いてフレームスリット(Frame Slit)を作るため、低フレームレートでも適用が容易である。
本発明の一実施形態によれば、いかなる商用化されたイメージセンサを用いたとしても立体パノラマ映像の生成が可能である。
本発明の一実施形態によれば、映像と映像を整合/ステッチング(Stitching)する時、従来技術に比べて大きいスリット幅を用いるため、映像整合時、ゴーストが生じたとしても処理がより容易である。
本発明の一実施形態によれば、同一のビュー(同じ大きさ)の映像に対して映像間の整合部分の数が少なくなるため、ブレンディング(Blending)する回数も減ることになり、計算量の面でも減少効果がある。
上述したように本発明を限定された実施形態と図面によって説明したが、本発明は、上記の実施形態に限定されることなく、本発明が属する分野における通常の知識を有する者であれば、このような実施形態から多様な修正及び変形が可能である。
したがって、本発明の範囲は、開示された実施形態に限定されて定められるものではなく、特許請求の範囲及び特許請求の範囲と均等なものなどによって定められるものである。
100 立体パノラマ映像生成装置
110 フレームスリットキャプチャー部
120 立体映像生成部

Claims (13)

  1. N番目のビデオフレームで第1フレームスリットをキャプチャーして、N+2番目のビデオフレームから第2フレームスリットをキャプチャーするフレームスリットキャプチャー部と、
    前記キャプチャーされた第1フレームスリットと前記キャプチャーされた第2フレームスリットとを用いて左側映像を生成する立体映像生成部と、
    を含み、
    前記フレームスリットキャプチャー部は、
    N+1番目のビデオフレームで第3フレームスリットをキャプチャーして、N+3番目のビデオフレームで第4フレームスリットをキャプチャーし、
    前記第1フレームスリットと連続するように前記第2フレームスリットのキャプチャー時点を決定して、前記第3フレームスリットと連続するように前記第4フレームスリットのキャプチャー時点を決定し、
    前記立体映像生成部は、
    前記第3フレームスリット及び前記第4フレームスリットを用いて右側映像を生成する立体パノラマ映像生成装置。
  2. 前記フレームスリットキャプチャー部は、
    撮影される複数のビデオフレームを球面座標系にプロジェクションして、前記第1フレームスリット、前記第2フレームスリット、前記第3フレームスリット、および前記第4フレームスリットをキャプチャーする請求項1に記載の立体パノラマ映像生成装置。
  3. 前記フレームスリットキャプチャー部は、
    前記第1フレームスリットと前記第3フレームスリットとの間の間隔を算出して、前記算出された間隔と同一になるように前記第2フレームスリットと前記第4フレームスリットとの間の間隔を決定する請求項1に記載の立体パノラマ映像生成装置。
  4. 前記生成された左側映像及び前記右側映像は、シングルカメラレンズ及びシングルカメラセンサを用いて3Dテレビで表示される請求項1に記載の立体パノラマ映像生成装置。
  5. 2N番目のビデオフレームで少なくとも1つ以上の左側フレームスリットをキャプチャーして、左側映像を生成する左側映像生成部と、
    2N−1番目のビデオフレームで少なくとも1つ以上の右側フレームスリットをキャプチャーして、右側映像を生成する右側映像生成部と、
    前記生成された左側映像と前記生成された右側映像に基づいて立体パノラマ映像を生成する映像生成部と、
    を含み、
    前記左側映像生成部は前記左側映像が連続するように前記少なくとも1つ以上の左側フレームスリットのキャプチャー時点を決定し、
    前記右側映像生成部は前記右側映像が連続するように前記少なくとも1つ以上の右側フレームスリットのキャプチャー時点を決定する、
    立体パノラマ映像生成装置。
  6. 前記左側映像生成部及び前記右側映像生成部は、撮影される複数のビデオフレームを球面座標系にプロジェクションして、前記少なくとも1つ以上の左側フレームスリット及び前記少なくとも1つ以上の右側フレームスリットをキャプチャーする請求項に記載の立体パノラマ映像生成装置。
  7. 前記左側映像生成部は前記少なくとも1つ以上の左側フレームスリット間の間隔を算出し、
    前記右側映像生成部は前記算出された間隔と同一に前記少なくとも1つ以上の右側フレームスリット間の間隔を決定する請求項に記載の立体パノラマ映像生成装置。
  8. 前記生成された左側映像及び前記右側映像は、シングルカメラレンズ及びシングルカメラセンサを用いて3Dテレビで表示される請求項に記載の立体パノラマ映像生成装置。
  9. フレームスリットキャプチャー部で、N番目のビデオフレームから第1フレームスリットをキャプチャーするステップと、
    前記フレームスリットキャプチャー部で、N+1番目のビデオフレームから第3フレームスリットをキャプチャーするステップと、
    前記フレームスリットキャプチャー部で、N+2番目のビデオフレームから第2フレームスリットをキャプチャーするステップと、
    前記フレームスリットキャプチャー部で、N+3番目のビデオフレームから第4フレームスリットをキャプチャーするステップと、
    立体映像生成部で、前記キャプチャーされた第1フレームスリットと前記キャプチャーされた第2フレームスリットとを用いて左側映像を生成するステップと、
    前記立体映像生成部で、前記キャプチャーされた第3フレームスリットと前記キャプチャーされた第4フレームスリットを用いて右側映像を生成するステップと、
    を含み、
    前記フレームスリットキャプチャー部で、N+2番目のビデオフレームから第2フレームスリットをキャプチャーするステップは、
    前記フレームスリットキャプチャー部で、前記第1フレームスリットと連続するように前記第2フレームスリットのキャプチャー時点を決定するステップを含み、
    前記フレームスリットキャプチャー部で、N+3番目のビデオフレームから第4フレームスリットをキャプチャーするステップは、
    前記フレームスリットキャプチャー部で、前記第3フレームスリットと連続するように前記第4フレームスリットのキャプチャー時点を決定するステップ、
    を含む、立体パノラマ映像生成方法。
  10. 前記第1フレームスリット、前記第2フレームスリット、前記第3フレームスリット、および前記第4フレームスリットのうち少なくとも1つは、
    撮影される複数のビデオフレームを球面座標系にプロジェクションして、キャプチャーされる請求項に記載の立体パノラマ映像生成方法。
  11. 前記フレームスリットキャプチャー部で、
    前記第1フレームスリットと前記第3フレームスリットとの間の間隔を算出し、前記算出された間隔と同一になるように前記第2フレームスリットと前記第4フレームスリットとの間の間隔を決定するステップをさらに含み、
    前記フレームスリットキャプチャー部で、前記決定された間隔に基づいて、前記第2フレームスリット及び第4フレームスリットをキャプチャーする請求項に記載の立体パノラマ映像生成方法。
  12. 請求項の方法を行うためのプログラムが記録されたコンピュータで読み出し可能な記録媒体。
  13. 前記生成された左側映像及び前記右側映像は、シングルカメラレンズ及びシングルカメラセンサを用いて3Dテレビで表示される請求項に記載の立体パノラマ映像生成方法。
JP2012151322A 2011-10-12 2012-07-05 立体パノラマ映像を生成する装置及び方法 Expired - Fee Related JP6057570B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2011-0104135 2011-10-12
KR1020110104135A KR101804199B1 (ko) 2011-10-12 2011-10-12 입체 파노라마 영상을 생성하는 장치 및 방법

Publications (2)

Publication Number Publication Date
JP2013085223A JP2013085223A (ja) 2013-05-09
JP6057570B2 true JP6057570B2 (ja) 2017-01-11

Family

ID=48064399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012151322A Expired - Fee Related JP6057570B2 (ja) 2011-10-12 2012-07-05 立体パノラマ映像を生成する装置及び方法

Country Status (4)

Country Link
US (1) US20130093839A1 (ja)
JP (1) JP6057570B2 (ja)
KR (1) KR101804199B1 (ja)
CN (1) CN103051916B (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104113684B (zh) * 2013-04-15 2017-09-22 宏达国际电子股份有限公司 控制方法及电子装置
CN103777455B (zh) * 2014-02-25 2016-08-17 浙江大学 基于光场拼接的球形沉浸式三维显示方法及系统
CN107529053A (zh) * 2014-07-22 2017-12-29 北京蚁视科技有限公司 全景三维摄像装置
CN104881869A (zh) * 2015-05-15 2015-09-02 浙江大学 一种移动平台上的实时全景跟踪与拼接方法
US20170064289A1 (en) * 2015-08-26 2017-03-02 Holumino Limited System and method for capturing and displaying images
US9858706B2 (en) * 2015-09-22 2018-01-02 Facebook, Inc. Systems and methods for content streaming
SG10201510773PA (en) * 2015-12-30 2017-07-28 Creative Tech Ltd A method for creating a stereoscopic image sequence
CN106331685A (zh) * 2016-11-03 2017-01-11 Tcl集团股份有限公司 一种3d全景图像获取方法和装置
CN111008985B (zh) * 2019-11-07 2021-08-17 贝壳找房(北京)科技有限公司 全景图拼缝检测方法、装置、可读存储介质及电子设备

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060062487A1 (en) * 2002-10-15 2006-03-23 Makoto Ouchi Panorama synthesis processing of a plurality of image data
CN1771740A (zh) * 2003-01-24 2006-05-10 米科伊公司 立体全景图像捕捉装置
KR100715026B1 (ko) * 2005-05-26 2007-05-09 한국과학기술원 단일카메라 전방향 양안시 영상 획득 장치
US8717412B2 (en) * 2007-07-18 2014-05-06 Samsung Electronics Co., Ltd. Panoramic image production
CN101771830B (zh) * 2008-12-30 2012-09-19 华为终端有限公司 立体全景视频流生成方法、设备及视频会议方法和设备
JP5127787B2 (ja) * 2009-07-30 2013-01-23 富士フイルム株式会社 複眼撮影装置及びその制御方法
JP2011082919A (ja) * 2009-10-09 2011-04-21 Sony Corp 画像処理装置および方法、並びにプログラム
US20120019613A1 (en) * 2009-12-11 2012-01-26 Tessera Technologies Ireland Limited Dynamically Variable Stereo Base for (3D) Panorama Creation on Handheld Device
US10080006B2 (en) * 2009-12-11 2018-09-18 Fotonation Limited Stereoscopic (3D) panorama creation on handheld device

Also Published As

Publication number Publication date
KR101804199B1 (ko) 2017-12-05
CN103051916A (zh) 2013-04-17
KR20130039522A (ko) 2013-04-22
JP2013085223A (ja) 2013-05-09
CN103051916B (zh) 2016-08-03
US20130093839A1 (en) 2013-04-18

Similar Documents

Publication Publication Date Title
JP6057570B2 (ja) 立体パノラマ映像を生成する装置及び方法
US11164282B2 (en) Virtual lens simulation for video and photo cropping
EP3007038B1 (en) Interaction with three-dimensional video
EP3198862B1 (en) Image stitching for three-dimensional video
JP6289811B2 (ja) 映像処理装置及び方法
US10586378B2 (en) Stabilizing image sequences based on camera rotation and focal length parameters
WO2011043249A1 (ja) 画像処理装置および方法、並びにプログラム
WO2018133589A1 (zh) 航拍方法、装置和无人机
WO2016184131A1 (zh) 基于双摄像头拍摄图像的方法、装置及计算机存储介质
WO2018121401A1 (zh) 一种全景视频图像的拼接方法及全景相机
KR20120046802A (ko) 하나의 카메라를 이용하여 3차원 파노라마 영상을 생성하는 장치 및 방법
US20150326847A1 (en) Method and system for capturing a 3d image using single camera
JP2015212782A (ja) 画像撮影装置、情報処理装置、および画像撮影方法、並びにプログラム
JP2022102923A (ja) バーチャルスタジオシステム
KR101907127B1 (ko) 입체 비디오 주밍 및 비디오 내의 전경 및 배경 검출
KR101939243B1 (ko) 입체 깊이 조정 및 초점 조정
Hongfei et al. Immersive roaming of stereoscopic panorama
KR20130070034A (ko) 스마트폰을 이용한 입체이미지 촬영 장치 및 그 방법
Hamacher et al. Study on making omnistereo images for HMD using longer focal length

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150703

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161122

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161206

R150 Certificate of patent or registration of utility model

Ref document number: 6057570

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees