JP6715217B2 - 映像処理装置、映像処理方法および映像処理プログラム - Google Patents
映像処理装置、映像処理方法および映像処理プログラム Download PDFInfo
- Publication number
- JP6715217B2 JP6715217B2 JP2017124153A JP2017124153A JP6715217B2 JP 6715217 B2 JP6715217 B2 JP 6715217B2 JP 2017124153 A JP2017124153 A JP 2017124153A JP 2017124153 A JP2017124153 A JP 2017124153A JP 6715217 B2 JP6715217 B2 JP 6715217B2
- Authority
- JP
- Japan
- Prior art keywords
- frame data
- joint
- seam
- overlapping area
- vertical
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Analysis (AREA)
Description
図1に示す本発明の実施の形態に係る映像処理装置1は、縦方向および横方向に互いに隣接して、撮影領域の一部を重ねて撮影された複数の映像データをつなぐ。映像処理装置1は、各映像データから同時に撮影されたフレームデータにおいて、適切なつなぎ目(シーム)を探索して、探索されたつなぎ目で各フレームデータを繋いで、映像データを再構成する。
図1に示す映像処理装置1は、記憶装置10、処理装置20および入出力インタフェース30を備える一般的なコンピュータである。一般的なコンピュータが映像処理プログラムを実行することにより、図1に示す機能を実現する。
設定取得手段21は、本発明の実施の形態に係る映像処理装置1が処理するために必要なパラメータを取得して、取得したパラメータを含む設定データ11を記憶する。設定取得手段21は、ユーザが、入力装置Iから入力した情報に従ってパラメータを取得する。或いは設定取得手段21は、複数のカメラC1、C2、C3およびC4から入力された各映像データ等を解析することによって、映像処理装置1が処理するために必要なパラメータを取得する。
フレーム取得手段22は、複数のカメラC1、C2、C3およびC4から入力された各映像データから、同時に撮影された複数のフレームデータを取得する。フレーム取得手段22は、取得した複数の各フレームデータについて、フレーム情報データ12を生成して記憶する。
領域設定手段23は、同時に撮影された複数のフレームデータにおいて、互いに隣接するフレームデータについて特徴点を一致させて、同時に撮影された複数のフレームデータを重ねた重複フレームデータを生成する。図3および図4に示す例において領域設定手段23は、生成した重複フレームデータに基づいて、縦方向にのみ隣接するフレームデータが重複する縦重複領域R1およびR2と、横方向にのみ隣接するフレームデータが重複する横重複領域R3およびR4と、縦方向および横方向に隣接するフレームデータが重複するクロス重複領域R5を設定する。領域設定手段23は、各重複領域の位置情報を、領域設定データ13に記憶する。
シーム算出手段24は、縦重複領域、横重複領域およびクロス重複領域の各重複領域において、フレームデータとの隣接方向のラインから一つのつなぎ目を決定する処理を、隣接方向に直交する方向に繰り返す。シーム算出手段24は、縦重複領域において横方向にフレームデータのつなぎ目を探索し、横重複領域において縦方向にフレームデータのつなぎ目を探索し、クロス重複領域において縦方向および横方向の各方向にフレームデータのつなぎ目を探索する。シーム算出手段24は、隣接方向のラインの検索範囲の各画素のうち、直前に算出されたつなぎ目の画素との特徴値の差分が最も少ない画素を、このラインにおけるつなぎ目として算出する。
シーム算出手段24は、フレームデータの隣接方向のラインから一つのつなぎ目を決定し、隣接方向に直交する方向に順次つなぎ目を決定する。例えば、左側縦重複領域R1は、フレームデータが縦方向に隣接するので、シーム算出手段24は、左側縦重複領域R1の縦のラインから一つの画素をつなぎ目として決定する。さらにシーム算出手段24は、横方向に順次つなぎ目を算出して、横つなぎ目SEWを形成する画素を特定する。同様に、上側横重複領域R3は、フレームデータが横方向に隣接するので、シーム算出手段24は、上側横重複領域R3の横のラインから一つの画素をつなぎ目として決定する。さらにシーム算出手段24は、縦方向に順次つなぎ目を算出して、縦つなぎ目SELを形成する画素を特定する。またクロス重複領域R5においては、横方向につなぎ目を検索して横つなぎ目SEWを形成する画素を特定するとともに、縦方向につなぎ目を検索して縦つなぎ目SELを形成する画素を特定する。
まず図8および図9を参照して、クロス重複領域以外の重複領域においてつなぎ目を算出し、その後、クロス重複領域においてつなぎ目を算出する処理を説明する。シーム算出手段24は、縦重複領域および横重複領域の各重複領域の中心を起点として、所定方向につなぎ目を算出し、クロス重複領域の縦方向および横方向にそれぞれ隣接する各重複領域の終端のつなぎ目に対応する位置を起点として、クロス重複領域のつなぎ目を算出する。シーム算出手段24は、縦重複領域および横重複領域の各重複領域において、つなぎ目を算出する処理を並列に行う。
次に図10および図11を参照して、クロス重複領域においてつなぎ目を算出し、その後、クロス重複領域以外の重複領域においてつなぎ目を算出する処理を説明する。シーム算出手段24は、クロス重複領域の中心を起点として、所定方向につなぎ目を算出し、クロス重複領域の終端まで到着すると、所定方向に隣接する他の重複領域において、クロス重複領域の終端におけるつなぎ目に対応する位置を起点として、それぞれつなぎ目を算出する。シーム算出手段24は、縦重複領域および横重複領域の各重複領域において、つなぎ目を算出する処理を並列に行う。
上記の「周辺から中心に向かって処理する場合」および「中心から周辺に向かって処理する場合」では、既に処理したつなぎ目の情報を伝播させて、後続の処理で参照する場合を説明した。このような処理は、各重複領域における処理順序を拘束するため、ライブ配信するシステムにおいて映像処理装置1における処理量が増えると、映像処理装置1が出力する映像データにコマ落ちが生じ、画質が乱れる場合がある。
シーム補正手段25は、シーム算出手段24が算出したつなぎ目を補正して、さらに高精細な映像出力を可能にする。シーム補正手段25は、いくつかの補正要素に基づいて、つなぎ目を補正するが、本発明の実施の形態においては、以下の4つの補正要素を対応する。なおシーム補正手段25は、4つの補正要素の全ての要素を用いてつなぎ目を補正しても良いし、任意の補正要素を用いてつなぎ目を補正しても良いし、さらに、下記に示す他の要素を用いてつなぎ目を補正しても良い。
第1の補正要素は、例えば、左側縦重複領域R1において、結合対象の左上フレームデータF1および左下フレームデータF3について、対応する画素のペアで輝度が大きく異なるような画素のペアを避けて、つなぎ目を設定するための補正要素である。第1の補正要素は、縦重複領域、横重複領域およびクロス重複領域の各重複領域において重複される各フレームデータの対応する各画素の輝度差に着目する。
第2の補正要素は、画像にエッジ領域が含まれている場合に、このエッジ領域を避けてつなぎ目を設定するための補正要素である。第2の補正要素は、縦重複領域、横重複領域およびクロス重複領域の各重複領域において重複される各フレームデータの色差の大きいエッジ部分に着目する。
第3の補正要素は、シーム算出手段24によって得られたつなぎ目を、時間方向にローパスフィルタを適用したものであり、時間経過に伴うつなぎ目の変動を抑制し、滑らかに変化するための補正要素である。
Wlpf(n):つなぎ目を算出する対象のフレームデータにおける第3の補正要素
W:シーム算出手段24によって得られたつなぎ目により生成された画像
Wlpf:直前のフレームデータにおける第3の補正要素
a:任意の係数
第4の補正要素は、フレームデータ内の目立つ場所などを予め禁止領域に設定し、この禁止領域がつなぎ目として選択されないようにする補正要素である。
連結フレーム出力手段26は、シーム算出手段24が算出したつなぎ目、またはシーム補正手段25が補正したつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータ16を出力する。連結フレーム出力手段26は、連結フレームデータ16を断続的に出力し、映像データとして出力装置Oに出力する。
上記のように、本発明の実施の形態によって記載したが、この開示の一部をなす論述および図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例および運用技術が明らかとなる。
10 記憶装置
11 設定データ
12 フレーム情報データ
13 領域設定データ
14 シームデータ
15 補正シームデータ
16 連結フレームデータ
20 処理装置
21 設定取得手段
22 フレーム取得手段
23 領域設定手段
24 シーム算出手段
25 シーム補正手段
26 連結フレーム出力手段
30 入出力インタフェース
C1、C2、C3、C4 カメラ
I 入力装置
O 出力装置
Claims (11)
- 縦方向および横方向に互いに隣接して、撮影領域の一部を重ねて撮影された複数の映像データをつなぐ映像処理装置であって、
前記複数の映像データから、同時に撮影された複数のフレームデータを取得するフレーム取得手段と、
互いに隣接するフレームデータについて特徴点を一致させて、前記複数のフレームデータを重ねた重複フレームデータから、縦方向にのみ隣接するフレームデータが重複する縦重複領域と、横方向にのみ隣接するフレームデータが重複する横重複領域と、縦方向および横方向に隣接するフレームデータが重複するクロス重複領域を設定する領域設定手段と、
前記縦重複領域、前記横重複領域および前記クロス重複領域の各重複領域において、互いに隣接するフレームデータとのつなぎ目を算出するシーム算出手段と、
前記シーム算出手段が算出したつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータを出力する連結フレーム出力手段
を備え、
前記シーム算出手段は、
前記縦重複領域および前記横重複領域の各重複領域の前記つなぎ目を算出し、前記クロス重複領域の前記縦方向および横方向にそれぞれ隣接する各重複領域の終端のつなぎ目に対応する位置を起点として、前記クロス重複領域のつなぎ目を算出する
ことを特徴とする映像処理装置。 - 前記シーム算出手段は、
前記縦重複領域、前記横重複領域および前記クロス重複領域の各重複領域において、フレームデータとの隣接方向のラインから一つのつなぎ目を決定する処理を、前記隣接方向に直交する方向に繰り返し、
前記隣接方向のラインの検索範囲の各画素のうち、直前に算出されたつなぎ目の画素との特徴値の差分が最も少ない画素を、前記ラインにおけるつなぎ目として算出する
ことを特徴とする請求項1に記載の映像処理装置。 - 前記縦重複領域および前記横重複領域の各重複領域の中心を起点として、所定方向に前記つなぎ目を算出し、
前記縦重複領域および前記横重複領域の各重複領域において、前記つなぎ目を算出する処理を並列に行う
ことを特徴とする請求項2に記載の映像処理装置。 - 前記クロス重複領域の中心を起点として、所定方向に前記つなぎ目を算出し、前記クロス重複領域の終端まで到着すると、前記所定方向に隣接する他の重複領域において、前記クロス重複領域の終端におけるつなぎ目に対応する位置を起点として、それぞれつなぎ目を算出し、
前記縦重複領域および前記横重複領域の各重複領域において、前記つなぎ目を算出する処理を並列に行う
ことを特徴とする請求項2に記載の映像処理装置。 - 前記連結フレーム出力手段が出力する連結フレームデータについて遅延が生じていない場合、
前記シーム算出手段は、前記縦重複領域および前記横重複領域の各重複領域において、前記つなぎ目を算出する処理を並列に行い、
前記連結フレーム出力手段が出力する連結フレームデータについて遅延が生じている場合、
前記シーム算出手段は、前記縦重複領域、前記横重複領域、および前記クロス重複領域において、それぞれつなぎ目を算出する処理を並列に行う
ことを特徴とする請求項3または4に記載の映像処理装置。 - 重複される各フレームデータにおける対応する各画素について、輝度差の大きい画素を、つなぎ目から回避する補正要素に基づいて、前記シーム算出手段が算出したつなぎ目を補正するシーム補正手段を備え、
前記連結フレーム出力手段は、前記シーム補正手段によって補正されたつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータを出力する
ことを特徴とする請求項1に記載の映像処理装置。 - エッジ部分を、つなぎ目から回避する補正要素に基づいて、前記シーム算出手段が算出したつなぎ目を補正するシーム補正手段を備え、
前記連結フレーム出力手段は、前記シーム補正手段によって補正されたつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータを出力する
ことを特徴とする請求項1に記載の映像処理装置。 - 処理対象のフレームデータの一つ前のフレームデータにおけるつなぎ目から遠い画素を、つなぎ目から回避する補正要素に基づいて、前記シーム算出手段が算出したつなぎ目を補正するシーム補正手段を備え、
前記連結フレーム出力手段は、前記シーム補正手段によって補正されたつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータを出力する
ことを特徴とする請求項1に記載の映像処理装置。 - 予め設定された禁止画素を、つなぎ目から回避する補正要素に基づいて、前記シーム算出手段が算出したつなぎ目を補正するシーム補正手段を備え、
前記連結フレーム出力手段は、前記シーム補正手段によって補正されたつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータを出力する
ことを特徴とする請求項1に記載の映像処理装置。 - 縦方向および横方向に互いに隣接して、撮影領域の一部を重ねて撮影された複数の映像データをつなぐ映像処理方法であって、
前記複数の映像データから、同時に撮影された複数のフレームデータを取得するフレーム取得ステップと、
互いに隣接するフレームデータについて特徴点を一致させて、前記複数のフレームデータを重ねた重複フレームデータから、縦方向にのみ隣接するフレームデータが重複する縦重複領域と、横方向にのみ隣接するフレームデータが重複する横重複領域と、縦方向および横方向に隣接するフレームデータが重複するクロス重複領域を設定する領域設定ステップと、
前記縦重複領域、前記横重複領域および前記クロス重複領域の各重複領域において、互いに隣接するフレームデータとのつなぎ目を算出するシーム算出ステップと、
前記シーム算出ステップで算出したつなぎ目に従って、各フレームデータを繋いで、重複のない連結フレームデータを出力する連結フレーム出力ステップ
を備え、
前記シーム算出ステップは、
前記縦重複領域および前記横重複領域の各重複領域の前記つなぎ目を算出し、前記クロス重複領域の前記縦方向および横方向にそれぞれ隣接する各重複領域の終端のつなぎ目に対応する位置を起点として、前記クロス重複領域のつなぎ目を算出する
ことを特徴とする映像処理方法。 - コンピュータを、請求項1ないし請求項9のいずれか1項に記載の映像処理装置として機能させるための映像処理プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017124153A JP6715217B2 (ja) | 2017-06-26 | 2017-06-26 | 映像処理装置、映像処理方法および映像処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017124153A JP6715217B2 (ja) | 2017-06-26 | 2017-06-26 | 映像処理装置、映像処理方法および映像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019008582A JP2019008582A (ja) | 2019-01-17 |
JP6715217B2 true JP6715217B2 (ja) | 2020-07-01 |
Family
ID=65026213
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017124153A Active JP6715217B2 (ja) | 2017-06-26 | 2017-06-26 | 映像処理装置、映像処理方法および映像処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6715217B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7231825B2 (ja) * | 2019-04-18 | 2023-03-02 | 日本電信電話株式会社 | 映像処理装置、映像処理方法及び映像処理プログラム |
WO2022118434A1 (ja) | 2020-12-03 | 2022-06-09 | 日本電信電話株式会社 | 処理装置、処理方法およびプログラム |
CN115348398A (zh) * | 2021-05-13 | 2022-11-15 | 影石创新科技股份有限公司 | 视频处理方法、装置、计算机设备和存储介质 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3530882B2 (ja) * | 1995-07-05 | 2004-05-24 | ミノルタ株式会社 | 画像処理装置 |
JP2002074353A (ja) * | 2000-08-30 | 2002-03-15 | Minolta Co Ltd | 画像処理装置、画像処理方法および画像処理プログラムを記録したコンピュータ読取可能な記録媒体 |
JP2007067499A (ja) * | 2005-08-29 | 2007-03-15 | Olympus Corp | 画像処理装置 |
JP5240071B2 (ja) * | 2009-05-25 | 2013-07-17 | 朝日航洋株式会社 | 画像接合方法、装置及びプログラム |
JP2013228896A (ja) * | 2012-04-26 | 2013-11-07 | Sony Corp | 画像処理装置、画像処理方法、プログラム |
US9767561B2 (en) * | 2013-11-18 | 2017-09-19 | Texas Instruments Incorporated | Method and apparatus for a optimal seam for surround view synthesis |
JP2016058868A (ja) * | 2014-09-09 | 2016-04-21 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US9363449B1 (en) * | 2014-11-13 | 2016-06-07 | Futurewei Technologies, Inc. | Parallax tolerant video stitching with spatial-temporal localized warping and seam finding |
JP2017102784A (ja) * | 2015-12-03 | 2017-06-08 | 日本電信電話株式会社 | 画像処理装置、画像処理方法及び画像処理プログラム |
-
2017
- 2017-06-26 JP JP2017124153A patent/JP6715217B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2019008582A (ja) | 2019-01-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Jiang et al. | Video stitching with spatial-temporal content-preserving warping | |
JP7002056B2 (ja) | 三次元モデル生成装置及び三次元モデル生成方法 | |
KR101803712B1 (ko) | 화상처리장치, 제어 방법, 프로그램 및 기록 매체 | |
US9325899B1 (en) | Image capturing device and digital zooming method thereof | |
JP4658223B2 (ja) | 画像生成方法、装置、およびそのプログラム並びにプログラムを記録した記録媒体 | |
TWI533675B (zh) | 影像接合之最佳動態接縫找尋調整系統與方法 | |
JP6715217B2 (ja) | 映像処理装置、映像処理方法および映像処理プログラム | |
JP4737763B2 (ja) | 多視点画像を用いた自由視点画像生成方法、装置及びプログラム | |
JP7093015B2 (ja) | パノラマ映像合成装置、パノラマ映像合成方法、及びパノラマ映像合成プログラム | |
JP6758265B2 (ja) | 映像処理装置、映像処理方法及び映像処理プログラム | |
JP6600335B2 (ja) | 映像処理装置、映像処理方法および映像処理プログラム | |
JP2010239459A (ja) | 画像合成装置及びプログラム | |
JP6857104B2 (ja) | 映像処理装置、映像処理方法および映像処理プログラム | |
JP6336856B2 (ja) | 多視点映像表現装置及びそのプログラム | |
KR101565926B1 (ko) | 저시력자를 위한 영상보정방법 및 이를 위한 장치 | |
JP6105960B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP2009200981A (ja) | ビデオカメラ | |
WO2017094241A1 (en) | Display processing apparatus, display processing method, and computer-readable medium for executing display processing method | |
JP2017216634A (ja) | 映像合成装置、映像合成方法、及びプログラム | |
WO2022118434A1 (ja) | 処理装置、処理方法およびプログラム | |
JP6863007B2 (ja) | 画像合成プログラム、方法及び装置 | |
JP2005252803A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよびそのプログラムを記録した記録媒体 | |
JP4733448B2 (ja) | 視差生成装置及び視差生成プログラム | |
JP2008227636A (ja) | 回転物体画像処理装置,回転物体画像処理方法および回転物体画像処理プログラム | |
JP2018046372A (ja) | 撮像装置、システム、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181128 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191007 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191126 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191227 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200602 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200608 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6715217 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |