JP2013042213A - 画像処理装置および画像処理方法、プログラム - Google Patents
画像処理装置および画像処理方法、プログラム Download PDFInfo
- Publication number
- JP2013042213A JP2013042213A JP2011176047A JP2011176047A JP2013042213A JP 2013042213 A JP2013042213 A JP 2013042213A JP 2011176047 A JP2011176047 A JP 2011176047A JP 2011176047 A JP2011176047 A JP 2011176047A JP 2013042213 A JP2013042213 A JP 2013042213A
- Authority
- JP
- Japan
- Prior art keywords
- image data
- super
- combined
- image
- resolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000012545 processing Methods 0.000 title claims abstract description 92
- 238000003672 processing method Methods 0.000 title claims description 4
- 238000003384 imaging method Methods 0.000 claims abstract description 54
- 238000000034 method Methods 0.000 description 50
- 238000004891 communication Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 7
- 238000012937 correction Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 6
- 238000002156 mixing Methods 0.000 description 3
- 230000004075 alteration Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000001174 ascending effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Abstract
【課題】 複数の撮像画像データからパノラマ画像のような結合画像データを高解像度で生成することを目的とする。
【解決手段】 超解像処理が行えるように、結合シーンの各位置を撮像装置により複数回撮影すべく撮像装置の撮影条件を決定し、決定された撮影条件により撮影された複数の撮像画像データに基づいて超解像処理を行い、解像度の大きい結合画像データを生成する。
【選択図】 図7
【解決手段】 超解像処理が行えるように、結合シーンの各位置を撮像装置により複数回撮影すべく撮像装置の撮影条件を決定し、決定された撮影条件により撮影された複数の撮像画像データに基づいて超解像処理を行い、解像度の大きい結合画像データを生成する。
【選択図】 図7
Description
本発明は、撮像部による複数回の撮影により取得される複数の撮像画像データから、撮像部による1回の撮影で得られるシーンよりも広いシーンである被写体エリアに対応する合成画像データを生成する画像処理装置および画像処理方法、プログラムに関する。
従来、三脚とカメラの間に装着し、上部に設置されたカメラ(撮像部)を電動で一定角度回転させるための装置として、電動雲台が知られている。これは、一般的にはパノラマ画像を撮影するための撮影補助具として用いられる。決められた角度の回転を行うため、人間がカメラを手持ちで任意の角度振りながら撮影するよりも、精度よく撮影することが可能となる。この電動雲台を使用した技術としては、電動雲台とカメラの両方を制御し、自動でパノラマ画像を撮影する技術が知られている(特許文献1)。このように、電動雲台を利用してカメラによる複数回の撮影により取得される複数枚の撮像画像データから、1回の撮影で得られるシーンよりも広いシーンを表わすパノラマ画像データを生成するためには、これら複数枚の撮像画像データを結合する必要がある。そのため、各々の撮像画像データは、隣接画像と重複領域を持つように撮影され、隣接画像と位置合わせをした後でブレンド処理を行うことで結合処理が行われる。この位置合わせは、例えば、重複領域において画素ごとの平均二乗誤差を求め、それが最小となるように2枚の画像の位置を合わせる処理である。
Sung C. P., Min K. P. ,"Super−Resolution Image Reconstruction: A Technical Overview" 米国 IEEE Signal Proc. Magazine, 第26巻, 第3号, p.21−36,2003年
R. R. Schulz, R. L. Stevenson, "Extraction of high−resolution frames from video sequences" IEEE Trans. Image Processing, 第5巻, p.996−1011, 1996年
しかしながら、特許文献1に記載されている技術により得られるパノラマ画像の解像度は、カメラによる撮影で得られる画像データの解像度である。
そこで、本発明は、複数の撮像画像データからパノラマ画像のような結合画像データを高解像度で生成することを目的とする。
そこで、本発明は、複数の撮像画像データからパノラマ画像のような結合画像データを高解像度で生成することを目的とする。
上記目的を達成するために本発明の画像処理装置は、撮像装置による複数回の撮影により取得される複数の撮像画像データから、前記撮像装置による1回の撮影で得られるシーンよりも広い結合シーンに対応する結合画像データを生成する画像処理装置であって、超解像処理が行えるように、前記結合シーンの各位置を前記撮像装置により複数回撮影すべく前記撮像装置の複数の撮影条件を決定する決定手段と、前記決定された複数の撮影の撮影条件により取得された複数の撮像画像データを入力する入力手段と、前記入力された複数の撮像画像データに基づいて、超解像処理を行うことにより結合シーンに対応する結合画像データを生成する生成手段とを有し、前記超解像処理により、前記撮像装置による1回の撮影で得られる画像データの解像度よりも前記結合画像データの解像度が大きくなることを特徴とする。
本発明によれば、複数の撮像画像データからパノラマ画像のような合成画像データを高解像度で生成することができる。
[実施例1]
図1は本実施例における撮影装置の構成を示す図である。図1において、101は撮影装置本体であるカメラであり、102は電動雲台で、回転によりカメラ本体をPAN、TILTさせるための装置を示している。103はカメラ101の動作、および電動雲台102の回転動作を制御する制御部である。104は幅W、高さHの大きさを持ち、カメラ101から距離Lの位置に設置された撮影対象の被写体を示している。
図2は、図1の撮影装置の詳細構成を示した図である。201は撮影光学系レンズ、202は結像した光学像を光電変換する撮像素子(CCD等)である。203は撮像された電気信号に所定の処理を行うための信号処理部、204は信号処理された画像を記憶するための記憶部である。205は撮像された画像または記憶された画像を表示するための表示部(LCD)、206はカメラの動作を制御するカメラ制御部、207はカメラ操作部である。208は電動雲台102を回転制御するためのステッピングモータ、209はモータドライバ、210はステッピングモータ208の回転動作を制御する雲台制御部である。211はホスト制御部(ホストコンピュータ)である。212はカメラ101への撮影指示や電動雲台102の回転角度を指定するためのホスト操作部であり、キーボードやマウス等の入力装置で構成される。213はホスト制御部における情報を表示するためのモニタである。214はカメラ101と制御部103を繋ぐ通信ライン、215は電動雲台102と制御部103を繋ぐ通信ラインである。これら通信ラインを通して、制御部103からカメラ101や電動雲台102へと制御信号を送ることで、これら装置の動作制御を行う。なお、通信ラインは有線でも無線でも構わない。
カメラ101において、撮影光学系レンズ201により撮像素子202上に結像した光学像は、信号処理部203により信号処理され、表示部205に表示される。カメラ操作部207によりシャッター操作が行われるか、ホスト制御部211よりシャッターコマンドが送られてくると、カメラ制御部206は現在撮像されている画像を記憶部204に記憶させる。また、雲台制御部210は、ホスト制御部211より回転動作のコマンドが送られてくると、これに従い回転を行う。
本実施例では、説明を簡単にするため被写体104に歪みはなく、地面に対して垂直に設置されているものとする。また、電動雲台102のPANとTILTの角度(撮影方向)がゼロの位置(ホームポジション)においてはカメラ101と被写体104は正対し、その際カメラの画角中心は被写体中心を捉えているものとして説明を行う。
本実施例では、全ての撮像画像が隣接する撮像画像と重複するように電動雲台102を制御して、被写体を複数回に分けて撮影を行う。この撮影を行うにあたって、まずは電動雲台102のPANとTILTの角度で表現される撮影条件(撮影座標、撮影角度)の決定を行う。この際に、もし、超解像処理モードが選択された場合、超解像処理が行えるように、合成後のシーン(被写体)の各位置を指定された回数分撮影されるように撮影条件が決定される。次に、決定された撮影条件に基づいて撮影を行い、撮像画像データを取得する。そして、最後に全ての撮像画像データを結合することで、1枚の高解像度画像を生成する。以下、これらの処理について詳細に説明する。
<画像結合処理>
まず、図3を用いて本実施例における結合処理の概要を説明する。本実施例では、被写体を絵画のように平面であるものとする。風景など、撮影距離が非常に大きい被写体についても同様に平面として扱うことができるため、本実施例の手法で対応可能である。
まず、図3を用いて本実施例における結合処理の概要を説明する。本実施例では、被写体を絵画のように平面であるものとする。風景など、撮影距離が非常に大きい被写体についても同様に平面として扱うことができるため、本実施例の手法で対応可能である。
被写体を平面であると仮定した場合、図3(a)のようなある3次元空間上に被写体を想定した平面(被写体面)を設定し、この平面上に撮像画像をマッピングすることで画像配置することができる。図3(b)では説明を簡単にするために、3次元空間をz軸方向から見た図を示している。配置した画像の被写体面との角度は、撮影時のカメラ位置によって決まる。
以後、図3(b)を用いて本実施例における結合処理について説明する。
例えば(A)の位置から撮影した場合、ファインダ中心にピントが合うように撮影すると、撮影レンズの画角から、図中に示した仮想ピント面Faを設定することが出来る。ここで、仮想ピント面はカメラによってピントを合わせた平面であり、カメラ位置から被写体を見た光景のうち、仮想ピント面を含む領域が撮像画像に写り込むことになる。この場合、(A)の位置にあるカメラは被写体面に対して正対していないため、実際に写る範囲は撮影範囲Raの部分になる。
そこで、図中に示したような再構成平面を設定し、被写体から無限遠の位置、かつ視線方向を再構成平面に正対した方向とするような視点からの被写体像を得るパース補正処理を施して、これを並べることで結合画像データを得る。以後、このようにして得た画像データを射影後画像データと呼ぶ。例えば説明を簡単にするためにレンズによる歪みが無いと仮定した場合、再構成平面上の点Pa’は、(A)にあるカメラと被写体との距離や撮影時の画角から、被写体面上の点Paの画素値となる。撮影データはデジタル化されたビットマップデータであり、点Paの座標は必ずしも整数値になるとは言えないが、整数値にならない場合には近傍画素を補間して画素値を算出する。ここで、図中の(B)のように、使用AFフレームが画像の中心にない場合には、AFフレームが被写体上に配置されるように、仮想ピント面を設定する。この結合処理により、カメラ101による1回の撮影で得られるシーンよりも広い結合シーンに対応する結合画像データを得ることができる。
このようにして得た射影後画像が示すデータが示す画像の一例を図4に示す。射影後画像データが示す画像間には重複領域が生じ、この重複領域に対してブレンド処理を適用することで画像間の境界部分に違和感の無い結合画像データを得ることが可能になる。本実施例では、このブレンド処理の際に超解像処理を施すことによって、高解像度の結合画像データを生成する。この重複領域においては、同じ被写体位置を撮影した撮影条件の異なる複数枚の撮像画像データが示す画像が重なった状態で形成される。また、各撮像画像データを取得する際の撮影条件が異なるため、シーン(被写体)の各位置において各撮像画像データが示す画像間で若干シフトしている。そのシフト量(ズレ量)はサブピクセル以下のズレ量である。このようなシーンの各位置において若干シフトした画像に対応する撮像画像データを利用することにより超解像処理を実現する。この超解像処理には公知の方法を用いる。例えば、複数フレームの位置ずれを有する低解像度画像を合成して、高解像度な画像を生成する撮像手法(非特許文献1)や、MAP(Maximum A Posterior)推定に基づく方法(非特許文献2)である。これらの処理の詳細に関しては本実施例の主眼ではないため詳細な説明は省略する。
<撮影条件決定処理>
ここでは、本実施例の主眼である撮影条件決定処理の詳細について説明する。
ここでは、本実施例の主眼である撮影条件決定処理の詳細について説明する。
本実施例では、電動雲台102を制御し、超解像処理モードの場合には結合シーン(被写体)が全ての位置において指定された重複枚数の分割画像で構成されるように、撮影条件を決定する。撮影条件は、電動雲台のホームポジションにおいて撮影される画像を基準画像とし、その基準画像に近い順に決定していく。例えば図5に示したような射影後画像データが示す画像群について、画像8を基準画像とした場合、画像7、画像9、画像11、画像5、画像10、画像12、・・・の順で撮影条件を決定する。もちろんこれ以外の順番で撮影条件を決めていってもよいことは言うまでもない。例えば図5における画像1を基準として、画像2、画像3、画像4、画像5、・・・とラスタスキャンするように決定していく方法も考えられる。ただし、決定順がどのような順番であっても、少なくとも1枚以上の画像と隣接するように決定する必要がある。
次に、図6に示すフローチャートを用いて、本実施例における撮影条件決定処理の流れを説明する。
ステップS601では、ホスト操作部212から処理モードの入力を行う。
ステップS602では、ホスト制御部211は、入力された処理モードが超解像処理モードであるかどうかを判断する。もし、超解像処理モードであると判断した場合には、ステップS603へ進み、そうでない場合にはステップS604へと進む。
ステップS603では、超解像処理用の撮影条件決定処理を行い、処理を終了する。この処理の詳細に関しては後述する。
ステップS604では、一般的な画像結合用の撮影条件決定処理を行い、処理を終了する。このステップS604の処理は、従来のパノラマ画像生成処理において用いられる公知の撮影条件決定処理である。例えば、画像結合処理が実行可能であろうと想定される重複領域(例えば画像の1/3の面積)を撮像画像同士が持つように、撮影条件を決定する処理である。つまり、これは最終的に画像同士が超解像処理を行うことなく結合することだけを考慮に入れた撮影条件決定方法である。この処理により、超解像処理を必要としない撮影における撮影枚数と画像結合処理における計算コストを必要最小限に抑えることができる。ステップS604の結合処理によれば、カメラ101による1回の撮影で得られる画像データの解像度と結合画像データの解像度とは等しい。
<超解像処理用の撮影条件決定処理>
ここでは、超解像処理モードであると判断された場合に行われる超解像処理用の撮影条件決定処理について説明する。図7は、本実施例における超解像処理用の撮影条件決定処理の流れを示すフローチャートである。
ここでは、超解像処理モードであると判断された場合に行われる超解像処理用の撮影条件決定処理について説明する。図7は、本実施例における超解像処理用の撮影条件決定処理の流れを示すフローチャートである。
ステップS701では、撮影対象となる被写体104の幅Wと高さHをホスト操作部212により入力する。
ステップS702では、カメラ101から被写体104までの距離Lをホスト操作部212により入力する。
ステップS703では、撮像画像の最低重複枚数n(n≧2)をホスト操作部212により指定する。最低重複枚数n(撮像画像データ数)は、超解像処理の処理コストと、生成する結合画像の解像度を考慮して決定する。超解像処理では、サブピクセル単位でずれた画像の枚数が増えるほど、処理コストは大きくなるが、より高解像度な画像を生成することが可能となる。ステップS704では、カメラ101とレンズ201の情報を取得する。カメラとレンズの情報とは、撮像画像サイズ、焦点距離、レンズ収差補正に必要な光学特性を含む情報である。
ステップS705では、電動雲台102をホームポジションへと移動し、基準画像データを設定する。ここでは、ホームポジションにおいて得られる画像を基準画像データとする。さらに、基準画像データの撮影条件を決定する。前述したように、この撮影条件とは雲台のPANとTILTの角度で表現されるため、この場合、基準画像データの撮影条件は雲台のPANとTILTの角度が0度で示される撮影条件となる。
ステップS706では、ループ処理のインデックスiを0に初期化する。
ステップS707では、インデックスi番目の撮影条件の初期値を設定する。この撮影条件の初期値は、すでに撮影条件の決まった隣接画像と重複領域を持つように適当な値を設定すればよい。例えば、図4において、画像8を基準画像とした場合、画像10の撮影条件の初期値は、画像7および画像11と重複領域を持つように設定する。本実施例では収束演算により最終的な撮影条件を決定するため、この初期値の決め方で収束速度が変化する。
ステップS708では、カメラ情報、レンズ情報、被写体までの距離L、および被写体の大きさから、現在設定されている撮影条件において撮影を行った場合に、カメラで取得される被写体の撮影範囲1を計算する。
ステップS709では、前のステップで計算された被写体の撮影範囲1に対してパース補正を適用し、被写体の撮影範囲1を更新して撮影範囲2を得る。この撮影範囲2は、射影後画像データが示す画像に相当する被写体の撮影範囲である。
ステップS710では、ステップS709で得られた撮影範囲2と、すでに撮影条件の決まった隣接画像の射影後画像データが示す画像に相当する撮影範囲との重複領域の大きさmを算出する。
ステップS711では、算出された重複領域の大きさmが、規定の重複領域の大きさMを満たすかどうかを判定する。ここで、規定の大きさMについて図9を用いて説明する。この規定の大きさMは、ステップS703で入力された重複数nから求まる値である。図9(a)は重複数nが2の場合の規定の重複領域の大きさMを示している。図示したように重複領域の大きさMは、隣接画像の射影後画像データが示す画像の面積の1/2となるように決定される。図9(b)は、重複数nが3の場合の規定の重複領域の大きさMを示している。この場合は、重複領域の大きさMは隣接画像の射影後画像データが示す画像の面積の2/3となるように決定される。つまり、射影後画像データが示す画像の面積の(1−1/n)となるように重複領域の大きさMが決定されることになる。もし、算出された重複領域の大きさmが規定の大きさMを満たしていればステップS713へと進み、規定の大きさMを満たしていなければステップS712へと進む。
ステップS713では、撮影条件の更新を行う。もし、mが規定の大きさMよりも小さかった場合には、隣接画像との重複が小さくなる方向へと撮影条件を更新し、逆に、mが規定の大きさMよりも大きかった場合には、隣接画像との重複が大きくなる方向へと撮影条件を更新する。この更新処理に例えば二分法のような探索方法を用いることで、更新処理の繰り返し回数を削減することができることは言うまでもない。
ステップS714では、被写体104が、全ての位置において指定された重複枚数の射影後画像によって構成されているかどうかの判定を行う。例えば、nが2の場合には、全ての位置において2枚上の射影後画像データが示す画像が重なった状態となっているかを判断する。なお、この判定にはステップS701で入力した被写体の幅Wと高さHを用いる。もし、被写体全体に対して条件を満たしている場合には処理を終了し、そうでない場合にはステップS709へと進む。
ステップS715では、インデックスiを1だけインクリメントする。
以上の処理により、超解像処理モード時の撮影条件決定を行う。
本実施例では、射影後画像データが示す画像の面積の(1−1/n)となるように重複領域の大きさMを決定したが、この際に、超解像処理の効果をさらに向上させるために、隣接画像と1/2画素だけずれるように設定するようにしてもよい。
<撮影処理>
図8は、撮影処理の流れを示すフローチャートである。
図8は、撮影処理の流れを示すフローチャートである。
ステップS801では、ホスト制御部211は、記憶装置に記憶された撮影条件(回転角度)を読み出す。
ステップS802では、ホスト制御部211は、回転角度を回転動作のコマンドと共に雲台制御部210へと通信ライン215を通して送信する。
ステップS803では、雲台制御部は、モータドライバ209によりステッピングモータ208を駆動し、受信した回転角度だけ雲台を回転する。
ステップS804では、ホスト制御部211は、シャッターコマンドをカメラ制御部206へと通信ライン214を通して送信する。
ステップS805では、カメラ制御部206は、シャッターコマンドを受信するとカメラのシャッターを切り、撮影を行う。撮影された画像はカメラ内の記憶部204に記憶される。
ステップS806では、カメラ制御部206は、記憶部204に記憶された撮像画像データをホスト制御部211内にある記憶装置へと通信ライン214を通して転送し、処理を終了する。
以上の処理により、決められた撮影条件における撮影を行う。
本実施例では、撮影条件決定処理と撮影処理を分けて行うよう説明したが、これらを組み合わせて撮影条件を決めながら撮影処理を行うようにしてもよいことは言うまでもない。
なお、画像結合処理において、指定された最低重複枚数nを超える画像が重複する部分に関しては、その中からn枚の画像を選択し、それらを使って超解像処理を適用するものとする。これにより、被写体の全ての位置において一様な解像度を持つ高解像度画像を得ることが可能となる。
<超解像処理>
カメラ制御部206から送信されてきた複数の撮像画像データを用いて、ホスト制御部211は超解像処理を行う。この複数の撮像画像データは、被写体(結合シーン)の各位置のをカメラ101により複数回撮影したことにより得られ、かつ各位置においてサブピクセルだけシフトしているため超解像処理が行うことができる。この超解像処理により、カメラ101による1回の撮影で得られる画像データの解像度より大きな解像度を有する結合画像データを生成することが可能となる。
カメラ制御部206から送信されてきた複数の撮像画像データを用いて、ホスト制御部211は超解像処理を行う。この複数の撮像画像データは、被写体(結合シーン)の各位置のをカメラ101により複数回撮影したことにより得られ、かつ各位置においてサブピクセルだけシフトしているため超解像処理が行うことができる。この超解像処理により、カメラ101による1回の撮影で得られる画像データの解像度より大きな解像度を有する結合画像データを生成することが可能となる。
以上説明した方法により、画像結合時に被写体全体に対して超解像処理が確実に適用可能なように、撮像画像データを取得することが可能となる。
[実施例2]
実施例1では、指定された最低重複枚数nを超える画像が重複する部分に関しては、その中からn枚の画像を選択し、それらを使って超解像処理を適用するとして説明した。本実施例では、その場合の画像の選択方法について説明する。
図10は、最低重複枚数nが2の場合の射影後画像データが示す画像群の一例を示している。本来であれば射影後画像データが示す画像はが画像変形しているが、説明を簡単にするため、ここでは全て長方形として扱う。図10において位置Aでは、画像1、画像2、画像3、画像4の4枚の画像が重複している。この場合、最低重複枚数nが2であるため、この4枚の中から2枚を選択することとなる。本実施例では、この選択の際に被写体中心からの距離を用いる。4枚の画像それぞれに対して、被写体中心からそれぞれの画像中心までの距離を求める。そして、これらの距離を短い順に並べ、距離の短い方から2枚の画像を選ぶことによって画像の選択を行う。つまり、図10の例では、画像4と画像2を選択する。このようにすることで、できるだけ画質の良い画像を使って結合画像を生成することが可能となる。なぜなら、被写体中心(雲台のホームポジション)から離れるほど、撮像画像のパースはきつくなるため、パース補正の際の補間処理により射影後画像データが示す画像の画質の劣化が大きくなるからである。
以上説明した方法により、画像結合時に被写体全体に対してできるだけ高画質な超解像処理が確実に適用可能なように、撮像画像を取得することが可能となる。
<変形例>
実施例1では、超解像処理モードかそうでないかによって撮影条件の決定の仕方を変更する方法について説明したが、この処理モードは、例えばS/N比を向上させるようなモードであってもよい。つまり、複数枚の重複した画像を用いて1枚の画像を生成する画像処理を行うような重複撮影モードの場合には全て適用可能である。
実施例1では、超解像処理モードかそうでないかによって撮影条件の決定の仕方を変更する方法について説明したが、この処理モードは、例えばS/N比を向上させるようなモードであってもよい。つまり、複数枚の重複した画像を用いて1枚の画像を生成する画像処理を行うような重複撮影モードの場合には全て適用可能である。
実施例1では、パース補正により撮影範囲を更新しているが、例えばレンズ収差の影響等も考慮して撮影範囲を決定するような構成も考えられる。
実施例1では、全ての被写体位置においてn枚以上の画像が重なるように撮影位置を決定したが、例えば、被写体情報(例えば、重要度や周波数など)に応じて最低重複枚数を被写体位置ごとに変更するような構成も考えられる。
本実施例1では、撮像画像データの取得に当たり、電動雲台102のPANとTILTの角度で表現される撮影条件を決定するとしたがこれに限らない。例えば、光学ズームや空間位置(X,Y,Z位置)を変更した上で撮像画像データを取得しても良い。
実施例2では、被写体中心からの距離に応じて画像の選択を行っているが、例えば、画素ごとにその画素がパース補正時の画素補間によって生成されたものかどうかを判定し、補間によって生成されたものでないものを優先的に選択するような構成も考えられる。実施例1,2では、ホスト制御部211により、撮影条件の決定処理や超解像処理を行うとしたが、それら処理の一部又は全部をカメラ101で行うとしても良い。
Claims (9)
- 撮像装置による複数回の撮影により取得される複数の撮像画像データから、前記撮像装置による1回の撮影で得られるシーンよりも広い結合シーンに対応する結合画像データを生成する画像処理装置であって、
超解像処理が行えるように、前記結合シーンの各位置を前記撮像装置により複数回撮影すべく前記撮像装置の複数の撮影条件を決定する決定手段と、
前記決定された複数の撮影条件により取得された複数の撮像画像データを入力する入力手段と、
前記入力された複数の撮像画像データに基づいて、超解像処理を行うことにより結合シーンに対応する結合画像データを生成する生成手段とを有し、
前記超解像処理により、前記撮像装置による1回の撮影で得られる画像データの解像度よりも前記結合画像データの解像度が大きくなることを特徴とする画像処理装置。 - 超解像処理を行うか否かを判断する判断手段と、
前記入力された複数の撮像画像データに基づいて、超解像処理を行うことなく結合シーンに対応する結合画像データを生成する結合手段とを有し、
前記判断手段により超解像処理を行うと判断された場合、前記生成手段により、前記入力された複数の撮像画像データに基づいて、超解像処理を行うことにより結合シーンに対応する結合画像データを生成し、
前記判断手段により超解像処理を行わないと判断された場合、前記結合手段により、前記入力された複数の撮像画像データに基づいて、超解像処理を行うことなく結合シーンに対応する結合画像データを生成することを特徴とする請求項1に記載の画像処理装置。 - 前記超解像処理に必要な撮像画像データ数を指定する指定手段を更に有し、
前記生成手段は、前記結合シーンの各位置において前記指定された撮像画像データ数の撮像画像データに基づいて、超解像処理を行うことにより結合シーンに対応する結合画像データを生成することを特徴とする請求項1又は2に記載の画像処理装置。 - 前記各位置において前記指定された撮像画像データ数よりも多い撮像画像データがある場合、前記結合シーンの中心に近い撮像画像データを用いて超解像処理を行うことを特徴とする請求項3に記載の画像処理装置。
- 前記撮影条件は、撮像装置の撮影方向であることを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。
- 前記複数の撮像画像データは、前記撮像装置を雲台に設置して撮像することにより得られることを特徴とする請求項1乃至5のいずれか1項に記載の画像処理装置。
- 請求項1乃至6のいずれか1項に記載の画像処理装置を備えた撮影装置。
- 撮像装置による複数回の撮影により取得される複数の撮像画像データから、前記撮像装置による1回の撮影で得られるシーンよりも広いシーンである結合シーンに対応する結合画像データを生成する画像処理方法であって、
超解像処理が行えるように、前記結合シーンの各位置を前記撮像装置により複数回撮影すべく前記撮像装置の複数の撮影条件を決定する決定工程と、
前記決定された複数の撮影条件により取得された複数の撮像画像データを入力する入力工程と、
前記入力された複数の撮像画像データに基づいて、超解像処理を行うことにより結合シーンに対応する結合画像データを生成する生成工程とを有し、
前記超解像処理により、前記撮像装置による1回の撮影で得られる画像の解像度よりも前記結合画像データの解像度が大きくなることを特徴とする画像処理方法。 - コンピュータを請求項1乃至6のいずれか1項に記載の画像処理装置として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011176047A JP2013042213A (ja) | 2011-08-11 | 2011-08-11 | 画像処理装置および画像処理方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011176047A JP2013042213A (ja) | 2011-08-11 | 2011-08-11 | 画像処理装置および画像処理方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013042213A true JP2013042213A (ja) | 2013-02-28 |
Family
ID=47890246
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011176047A Withdrawn JP2013042213A (ja) | 2011-08-11 | 2011-08-11 | 画像処理装置および画像処理方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013042213A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107592549A (zh) * | 2017-10-27 | 2018-01-16 | 哈尔滨市舍科技有限公司 | 基于双向通信的全景视频播放拍照系统 |
-
2011
- 2011-08-11 JP JP2011176047A patent/JP2013042213A/ja not_active Withdrawn
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107592549A (zh) * | 2017-10-27 | 2018-01-16 | 哈尔滨市舍科技有限公司 | 基于双向通信的全景视频播放拍照系统 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5596972B2 (ja) | 撮像装置の制御装置および制御方法 | |
JP7291244B2 (ja) | プロジェクタの台形補正方法、装置、システム及び読み取り可能な記憶媒体 | |
US9900505B2 (en) | Panoramic video from unstructured camera arrays with globally consistent parallax removal | |
JP5486298B2 (ja) | 画像処理装置および画像処理方法 | |
KR101819851B1 (ko) | 화상 처리 장치, 화상 처리 방법, 및 기록 매체 | |
US9667864B2 (en) | Image conversion apparatus, camera, image conversion method, and storage medium with program stored therein | |
CN102404537B (zh) | 投影仪以及投影仪的控制方法 | |
JP5666069B1 (ja) | 座標算出装置及び方法、並びに画像処理装置及び方法 | |
KR20160118868A (ko) | 하나의 룩업 테이블을 이용한 파노라마 영상 출력 시스템 및 방법 | |
JP2006113807A (ja) | 多視点画像の画像処理装置および画像処理プログラム | |
JP2007166317A (ja) | 撮像装置、画像処理方法及びそのプログラム | |
WO2005024723A1 (ja) | 画像合成システム、画像合成方法及びプログラム | |
JP3817302B2 (ja) | 画像生成装置 | |
JP5735846B2 (ja) | 画像処理装置およびその方法 | |
JP2004015205A (ja) | マルチプロジェクションシステム及びマルチプロジェクションシステムにおける補正データ取得方法 | |
JP2014003586A (ja) | 画像処理システム、画像処理方法およびプログラム | |
KR101725024B1 (ko) | 룩업테이블 기반의 실시간 360도 vr 동영상 제작 시스템 및 이를 이용한 360도 vr 동영상 제작 방법 | |
JP2006285482A (ja) | 映像ジオメトリ補正装置 | |
KR102127764B1 (ko) | 파노라마 이미지 생성 시스템 및 방법 | |
JP2013042213A (ja) | 画像処理装置および画像処理方法、プログラム | |
JP2007322403A (ja) | 画像処理装置及びその処理方法 | |
WO2012086298A1 (ja) | 撮影装置、方法及びプログラム | |
JP2011205585A (ja) | 画像処理装置、画像処理システム、及び画像処理プログラム | |
JP5687370B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 | |
JP6128966B2 (ja) | 画像処理装置、画像処理方法、及び、プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20141104 |