JP2016001815A - 画像処理装置およびその制御方法 - Google Patents
画像処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP2016001815A JP2016001815A JP2014121222A JP2014121222A JP2016001815A JP 2016001815 A JP2016001815 A JP 2016001815A JP 2014121222 A JP2014121222 A JP 2014121222A JP 2014121222 A JP2014121222 A JP 2014121222A JP 2016001815 A JP2016001815 A JP 2016001815A
- Authority
- JP
- Japan
- Prior art keywords
- image
- feature information
- storage unit
- shooting
- buffer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【課題】撮影される被写体の、位置や大きさが滑らかに連続的に変化するような動画像を取得でき、かつ、動画像の撮影時間分の再生時間を得ることができることを可能にする画像処理装置を提供する。【解決手段】記録するフレーム数のn倍のフレーム数で撮像された画像をnフレーム分保持する撮影バッファ105と、撮影バッファ105から選択された画像を少なくとも1枚以上保持する選択バッファ107とを備える画像処理装置101を設ける。画像処理装置101が、撮影バッファ105内の画像のうち、選択バッファ107内の画像との連続性が良い画像を1枚選択して選択バッファ107に記憶する。【選択図】図1
Description
本発明は、画像処理装置およびその制御方法に関する。
図19は、撮影者が移動しながら撮影する例を説明する図である。
被写体1901に対して、撮影者がビデオカメラを手持ちで、位置1902から位置1903、位置1904へと移動しながら撮影する。これにより、被写体の位置や大きさなどに変化がある動画像を撮影できる。しかし、通常の撮影者が移動しながら撮影を行う場合、映画撮影などで用いられるカメラをレール等に乗せて、一定間隔で移動させた場合のような、滑らかな画像の変化を持つ、連続性の良い画像を撮影することは困難である。例えば、図20に示すように、撮影した画像2001において、各フレーム画像間(2002,2003,2004)で、被写体の位置がまちまちになったり、被写体の大きさの変化が不連続になることがある。特許文献1は、フレーム間における被写体の移動量を求めて、移動が少ない場合は、フレーム間引きを行い、移動が多い場合は、フレーム補間を行う動画撮影装置を開示している。
被写体1901に対して、撮影者がビデオカメラを手持ちで、位置1902から位置1903、位置1904へと移動しながら撮影する。これにより、被写体の位置や大きさなどに変化がある動画像を撮影できる。しかし、通常の撮影者が移動しながら撮影を行う場合、映画撮影などで用いられるカメラをレール等に乗せて、一定間隔で移動させた場合のような、滑らかな画像の変化を持つ、連続性の良い画像を撮影することは困難である。例えば、図20に示すように、撮影した画像2001において、各フレーム画像間(2002,2003,2004)で、被写体の位置がまちまちになったり、被写体の大きさの変化が不連続になることがある。特許文献1は、フレーム間における被写体の移動量を求めて、移動が少ない場合は、フレーム間引きを行い、移動が多い場合は、フレーム補間を行う動画撮影装置を開示している。
しかし、特許文献1が開示する動画撮影装置では、フレーム間引きとフレーム補間をどの程度行うかが明確でなく、動きが続く場合や、静止状態が続く画像を撮影した場合、本来の動きとは異なる動きで撮影されてしまう。例えば、動きが極端に連続する場合、フレーム補間が多発するため、通常のフレームレート(例えば毎秒60フレーム)よりも多い数のフレーム数を持った動画像がかなりの期間、発生してしまう。したがって、撮影された動画像を通常のフレームレートで再生すると、スローモーションとして再生されてしまい、撮影時の被写体の動きとは異なった動きになってしまう。一方、この動画撮影装置で極端に静止状態が続く画像を撮影した場合、フレーム間引きが続くので、通常のフレームレートに満たないフレーム数の動画を作成してしまい、撮影時間分の再生時間が得られない。
本発明は、撮影される被写体の位置や大きさが滑らかに連続的に変化するような動画像を取得でき、かつ、動画像の撮影時間分の再生時間を得ることができることを可能にする画像処理装置の提供を目的とする。
本発明の一実施形態の画像処理装置は、記録するフレーム数のn倍のフレーム数で撮像された画像をnフレーム分保持する第1の記憶部と、前記第1の記憶部から選択された画像を少なくとも1枚以上保持する第2の記憶部と、前記第1の記憶部内の画像のうち、前記第2の記憶部内の画像との連続性が良い画像を1枚選択して前記第2の記憶部に記憶する制御手段とを備える。
本発明によれば、撮影される被写体の位置や大きさが滑らかに連続的に変化するような動画像を取得でき、かつ、動画像の撮影時間分の再生時間を得ることができる。
(実施例1)
図1は、実施例1の画像処理装置の構成を示す図である。
実施例1の画像処理装置101は、撮影バッファ105内のnフレーム分の画像のうち、選択バッファ107内の画像との画素間の変化が最も少ない画像を、連続性が良い画像と判断し、この画像を記録対象すなわち再生対象として選択する。なお、画像処理装置101が備える各処理部の機能は、不図示のCPUによって実現される。
図1は、実施例1の画像処理装置の構成を示す図である。
実施例1の画像処理装置101は、撮影バッファ105内のnフレーム分の画像のうち、選択バッファ107内の画像との画素間の変化が最も少ない画像を、連続性が良い画像と判断し、この画像を記録対象すなわち再生対象として選択する。なお、画像処理装置101が備える各処理部の機能は、不図示のCPUによって実現される。
画像処理装置101は、画像を撮影し、撮影した画像を記録媒体108に記録する。図中、太線は、画像データの流れを示している。102は撮影レンズ、103は、CCDやCMOSなどの撮像素子であって、撮影レンズで結像された画像を画像信号に変換する。撮像素子103は、記録媒体108に記録するフレームレートのn倍の高速のフレームレート(nは整数)で画像撮影が可能である。例えば、記録するフレームレートが60P(毎秒60フレーム)である場合、撮像素子103は、240P(毎秒240フレーム)で撮影を行う。すなわち、この場合には、画像処理装置101は、記録するフレームレートの4倍(n=4)のフレームレートで撮影する。
画像処理部104は、撮像素子101からの画像信号に対して、デモザイク処理やホワイトバランス調整などの必要な処理を行って、画像データを作成する。画像処理された画像データは、一旦、撮影バッファ105に記録される。
画像処理部104は、CPUの指示にしたがって、撮影バッファ105に、nフレーム単位で画像データを記録する。具体的には、CPUは、連続性判断部106が撮影バッファ105から画像を選択する毎に、撮影バッファ105内の画像をnフレーム単位で更新する。以下では、撮影する画像フレームをnフレーム単位にまとめた画像データを、フレームグループと呼ぶ。撮影された画像データは、フレームグループ単位で、撮影バッファ105に記録される。また、毎秒のフレームグループの数と、記録するフレームレートの値は、同じ値である。例えば、記録するフレームレートが60Pであり、撮影するフレームレートが240Pである場合、撮影するフレームの4フレーム単位でフレームグループが形成される。また、フレームグループは、毎秒60フレームグループが作成されることになる。すなわち、撮影バッファ105は、記録するフレーム数のn倍のフレーム数で撮像された画像をnフレーム分保持する第1の記憶部として機能する。
連続性判断部106は、撮影バッファ105に保持されているnフレームの画像について、選択バッファ107に保持されている画像との連続性の良否を判断し、最も連続性の良い画像を1枚選択して、選択バッファ107に記憶する。これにより、選択バッファ内の画像が更新される。
選択バッファ107は、連続性判断部106によって撮影バッファ105から選択された画像を少なくとも1枚以上保持する第2の記憶部として機能する。連続性判断部106で次の画像が選択された場合、CPUが、それまでに記録してあった画像データを、記録媒体108に記録する。すなわち、CPUおよび連続性判断部106は、第1の記憶部内(撮影バッファ内)の画像のうち、第2の記憶部内(選択バッファ内)の画像との連続性が良い画像を1枚選択して選択バッファに記憶する制御手段として機能する。
記録媒体108には、画像データが記録される。ここで、画像データを記録する際に、必要に応じて、画像データの圧縮処理やファイル形式の変更などが行われるが、本発明の動作に直接関係しないので、説明を省略した。また、この例では、一旦、選択バッファに記録した画像データを記録媒体108に記録するが、連続性判断部106で選択された画像データを、選択バッファ107に記録すると同時に記録媒体108に記録するようにしてもよい。また、この例では、画像処理装置101と記録媒体108とが、別構成となるように記述しているが、記録媒体108を、画像処理装置101の内部に構成することも可能である。
図2は、撮影した画像データから、記録する画像データを選択する処理を説明する図である。
例示する画像は、480x640画素のサイズの画像である。図2中、201は、時間軸を示す。図の右側ほど前の時間であり、左側ほど後の時間を示す。時間軸201の目盛線は、撮影する画像データのフレーム間隔を示す。
例示する画像は、480x640画素のサイズの画像である。図2中、201は、時間軸を示す。図の右側ほど前の時間であり、左側ほど後の時間を示す。時間軸201の目盛線は、撮影する画像データのフレーム間隔を示す。
202は、撮像素子103で撮影された画像データを示す。図では、G0−0からG3−0番までの番号付された画像が13枚出力されている。画像データは、n枚単位でフレームグループを形成しており、破線の矩形で囲んだ4枚づつの画像データがそれぞれフレームグループとなる。この例では、G0からG3までのフレームグループが示されている。なお、フレームグループG3は、まだ画像データは1枚だけである。
203は、記録された画像データの例を示しており、連続性判断部で選択された結果、各フレームグループ単位から、一枚づつの画像データが選択されて、記録される様子を示している。図では、フレームグループG0から、画像データG0−0が選択され、フレームグループG1から、画像データG1−2が選択され、フレームグループG2から、画像データG2−1が選択された様子が示してある。この記録された画像データを再生する際は、これらの画像データを、記録されたフレームレートに従って、一定の時間間隔で再生し表示する。
画像処理装置101は、フレームグループ単位に、一枚の画像を撮影バッファ105から選択して選択バッファ107に記録する。このとき、フレームグループ内のどの画像データが選択されるかは、連続性判断部106による選択の判断に依存し、フレームの順序や、フレームの間隔は無関係である。例えば、記録された画像データG0−0に対して、次の記録された画像データG1−2は、撮影時の画像データG0−0の6フレーム後の画像データである。一方、その次に記録された画像データG2−1は、撮影時の画像データG1−2の3フレーム後の画像データである。撮影時には、G0−0とG1−2のフレーム間隔と、G1−2とG2−1のフレーム間隔は異なるが、これを連続した画像として記録し、再生時には、G0−0とG1−2とG2−1とを、一定のフレームレートで再生する。すなわち、撮影時はバラバラのフレーム間隔で撮影された画像を、一定のフレームレートで再生する。再生される画像データ(G0−0,G1−2,G2−1)は、記録される際、連続性判断部で画像の連続性を判断して選択されているため、一定のフレームレートで再生した場合、動きが滑らかな、連続性の良い画像として再生できる。
また、画像処理装置101は、nフレーム単位(フレームグループ単位)毎に、一つの画像データを選択しているので、選択するフレーム間隔が極端に短い場合が続いたり、極端に離れる状態が発生することはない。したがって、撮影した時間と、再生する時間とが概ね一致した画像データが得られる。
図3は、連続性判断部による画像の選択処理の具体例を示す図である。
撮影バッファ301は、図1の撮影バッファ105に相当する。選択バッファ302ha,図1の選択バッファ107に相当する。図3(A)乃至図3(D)は、後述するように、特定のタイミングにおける、各バッファ内の画像データを示す。
撮影バッファ301は、図1の撮影バッファ105に相当する。選択バッファ302ha,図1の選択バッファ107に相当する。図3(A)乃至図3(D)は、後述するように、特定のタイミングにおける、各バッファ内の画像データを示す。
図3(A)は、撮影バッファ301に、フレームグループG1のG1−0からG1−3までの4枚の画像が読み込まれた状態を示す。この状態のとき、選択バッファ302には、画像G0−0が記録されているとする。本実施例では、連続性判断部106が、選択バッファ302内における選択された画像と、撮影バッファ内の画像の連続性の良否を判断する。このために、連続性判断部106は、画素間のマッチングを計算する。すなわち、比較元となる選択された画像(図3(A)では、G0−0)と、比較対象となる撮影バッファ内の画像(G1−0,G1−1,G1−2,G1−3)とで、対応する座標の画素値の差分の二乗の総和を求める。連続性判断部106は、画素値の差分の二乗の総和の大きさに基づいて、連続性の良否を判断する。画素値の差分の二乗の総和に代えて、二乗の総和の平方根を用いてもよい。
画素値の差分の二乗の総和を、図3(A)の撮影バッファ301内の各画像の下に記述してある。例えば、画像G1−0は、画像G0−0との画素値の差分の二乗の総和が240と計算される。同様に、画像G1−1については、画素値の差分の二乗の総和は383である。画像G1−2については、122、画像G1−3については、355と計算される。連続性判断部106は、画素値の二乗の総和が最も小さかったG1−2を、最も連続性の良い画像と判断して、撮影バッファ301内の画像から選択する。図3(B)は、画像G1−2が選択された状態を示す。画像に施されたハッチングは、当該画像が選択されたことを示している。選択された画像G1−2は、選択バッファ302に記録される。選択バッファ302に先に記録されていたG0−0は、記録媒体108に記録され、選択バッファ302から削除される。
図3(C)は、次のフレームグループG2のG2−0からG2−3までの、4枚の画像が読み込まれた状態を示している。画像G2−1が、画素値の差分の二乗の総和が145と最も小さいので、この画像が最も連続性が良いと判断され、選択される。図3(D)は、画像G2−1が選択され、選択バッファ302に記録された状態を示している。なお、画像の画素値の差分の二乗の総和を計算する際には、全画面の画素値を用いる必要はなく、画像の中央部分など一部の領域に制限して計算をしても良い。
図4は、実施例1の画像処理装置の動作処理を説明するフローチャートである。
S401で処理が開始されると、S402において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。読み込まれた結果は、図3(A)または図3(C)の状態となる。
S401で処理が開始されると、S402において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。読み込まれた結果は、図3(A)または図3(C)の状態となる。
次に、S403において、連続性判断部106が、S402で読み込まれた各画像と、選択バッファ107内の画像とを比較し、画像毎に評価値を求める。ここでは、先に説明したように、画素間のマッチング計算を行い、画素値の差分の二乗の総和を評価値として求める。続いて、S404において、連続性判断部106が、撮影バッファ105内の画像のうち、評価値が最も小さい画像を連続性が良い画像と判断して、選択する。
次に、S405で、画像処理装置101が備えるCPUが、選択バッファ107に記録されている画像を記録媒体108に記録し、選択バッファ107から削除する。続いて、S406において、連続性判断部106が、選択バッファ107に、S404で選択した画像を記録して、選択バッファ107の更新を行う。選択バッファ107の更新を行った状態が、図3(B)または図3(D)である。
次に、S407において、画像処理装置101が備えるCPUが、撮影が終了したかを判断する。撮影が終了していない場合は、処理がステップS402に戻る。撮影が終了した場合は、処理を終了する。
実施例1の画像処理装置は、撮影バッファ105に読み込んだn枚の画像のそれぞれと、選択バッファ107内の画像とで画像マッチングを行う。そして、n枚の画像のうち、画素値の差分の二乗の総和が最も小さい画像を、選択バッファ107内の画像との連続性が良い画像として選択して、記録対象とする。これにより、画像間の変化が小さい画像が記録されるので、記録された画像の再生時に、より安定した画像を表示することができる。
(実施例2)
図5は、実施例2の画像処理装置の構成を示す図である。
実施例2の画像処理装置501は、撮影バッファ105内のnフレーム分の画像のうち、対応する撮影倍率が、選択バッファ107内の画像に対応する撮影倍率と最も近い画像を、連続性が良い画像と判断し、この画像を記録対象すなわち再生対象として選択する。なお、画像処理装置501が備える各処理部の機能は、不図示のCPUによって実現される。
図5は、実施例2の画像処理装置の構成を示す図である。
実施例2の画像処理装置501は、撮影バッファ105内のnフレーム分の画像のうち、対応する撮影倍率が、選択バッファ107内の画像に対応する撮影倍率と最も近い画像を、連続性が良い画像と判断し、この画像を記録対象すなわち再生対象として選択する。なお、画像処理装置501が備える各処理部の機能は、不図示のCPUによって実現される。
図5中、図1に示す処理部と同等の動作や機能を持つ処理部は、図1に示す処理部と同一の番号を使用している。太線は、画像データの流れを、細線は、それ以外のデータの流れを示している。撮影レンズ102で結像された画像が、撮像素子103で画像信号に変換され、画像処理部104が、必要な処理を行ったのち、撮影バッファ105にnフレーム単位(フレームグループ)で、画像データを記録する。
本実施例では、撮影情報取得部502が、撮影情報を取得する。撮影情報は、画像を撮影する際のカメラの状態や、被写体の情報である。具体的には、撮影情報は、カメラレンズの焦点距離や、被写体距離などである。撮影情報が、レンズの絞り値、シャッター速度、ホワイトバランス情報、画像ヒストグラムなどでもよい。以下の説明では、撮影情報がカメラレンズの焦点距離と、被写体距離とを有する場合について説明する。倍率計算部503が、撮影情報に基づいて撮影倍率を計算した後、撮影倍率を画像データと関連付けて撮影バッファ105に記録する。倍率計算部503は、撮影情報のうち、カメラレンズの焦点距離と被写体距離を受け取り、各画像の撮影倍率を計算する。
図6は、撮影倍率の計算の例を説明する図である。
図6中、601は、被写体、602は、カメラレンズ、603は、撮像素子上の被写体像である。604は、レンズの光軸であり、レンズ602の中心を通り、被写体601と被写体像603を結ぶ。矢印fは、レンズの焦点距離を示す。矢印aは、レンズから被写体までの距離を示す。矢印bは、レンズから被写体像までの距離を示す。矢印dは、撮像素子から被写体までの距離を示す。以下、便宜上、a,b,f,d の値は、全て正の値として説明する。
図6中、601は、被写体、602は、カメラレンズ、603は、撮像素子上の被写体像である。604は、レンズの光軸であり、レンズ602の中心を通り、被写体601と被写体像603を結ぶ。矢印fは、レンズの焦点距離を示す。矢印aは、レンズから被写体までの距離を示す。矢印bは、レンズから被写体像までの距離を示す。矢印dは、撮像素子から被写体までの距離を示す。以下、便宜上、a,b,f,d の値は、全て正の値として説明する。
通常、撮影情報として得られるは、カメラレンズの焦点距離fと、被写体距離dである。したがって、fとdから、式(1),式(2),式(3)の関係を利用して、撮影倍率βが求められる。ただし、マクロ撮影のような特殊撮影を除いて、ポートレート撮影などで、通常の被写体を普通に撮影する場合は、焦点距離fに比べて、被写体距離aが十分に大きくなり、同時にレンズから被写体像までの距離bはfに近い値となる。したがって、簡易的に、以下の式(4)で概略の撮影倍率β’を求めて、撮影倍率としても良い。
すなわち、連続性判断部503は、撮影情報のうち、レンズ焦点距離と、被写体距離から、撮影バッファ105内に記録されたそれぞれの画像データの撮影倍率を計算する。
図5の説明に戻る。撮影バッファ105には、nフレーム単位で画像データが記録されるともに、各画像データに対応する撮影倍率が記録される。連続性判断部504は、撮影バッファに記録されたnフレームの画像の、選択バッファ107に記録された画像との連続性の良否を判断し、最も連続性の良い画像を一つ選択して選択バッファ107に記録する。
図5の説明に戻る。撮影バッファ105には、nフレーム単位で画像データが記録されるともに、各画像データに対応する撮影倍率が記録される。連続性判断部504は、撮影バッファに記録されたnフレームの画像の、選択バッファ107に記録された画像との連続性の良否を判断し、最も連続性の良い画像を一つ選択して選択バッファ107に記録する。
選択バッファ107には、連続性判断部504によって選択された画像データと撮影倍率とが記録される。連続性判断部106で次の画像が選択された場合、それまでに記録してあった画像データは、記録媒体108に記録される。
図7は、連続性判断部による画像の選択処理の具体例を示す図である。
撮影バッファ701は、図5の撮影バッファ105に相当する。選択バッファ702は、図5の選択バッファ107に相当する。図7(A)から図7(D)は、特定のタイミングでの各バッファ内の画像データの様子を示す。
撮影バッファ701は、図5の撮影バッファ105に相当する。選択バッファ702は、図5の選択バッファ107に相当する。図7(A)から図7(D)は、特定のタイミングでの各バッファ内の画像データの様子を示す。
図7(A)は、撮影バッファ701に、フレームグループG1のG1−0からG1−3までの4枚の画像が読み込まれた状態を示している。このとき、選択バッファ702には、画像G0−0が記録されている。それぞれの画像には、既に計算された撮影倍率が関連して記録されている。本実施例では、連続性判断部106が、選択バッファ701内の画像と、撮影バッファ701内の画像の連続性の良否を判断するために、撮影倍率を比較する。すなわち、比較元となる選択された画像(図7(A)では、G0−0)と、比較対象となる撮影バッファ内の画像(G1−0,G1−1,G1−2,G1−3)とで、撮影倍率の比を求めて、これを評価値として、連続性の良否を判断する。連続性判断部106が、撮影倍率の差を利用して、連続性の良否を判断してもよい。
撮影倍率を記録した例を、図7(A)の撮影バッファ701内の各画像と選択バッファ702内の画像の下に記述してある。例えば、画像G1−0は、対応する撮影倍率が、0.105である。画像G1−1は、対応する撮影倍率が0.097、画像G1−2は、対応する撮影倍率が0.101、画像G1−3は、対応する撮影倍率が0.112である。また、選択画像G0−0の撮影倍率は、0.100である。連続性判断部106は、以上の撮影倍率を比較した結果、選択画像G0−0の撮影倍率と最も近い撮影倍率に対応するG1−2を、最も連続性の良い画像と判断して、撮影バッファ701内の画像から選択する。
図7(B)は、画像G1−2が選択された様子を示す。選択された画像G1−2は、選択バッファ702に記録される。選択バッファ702に先に記録されていたG0−0は、記録媒体108に記録され、選択バッファ702からは削除される。
図7(C)は、次のフレームグループG2のG2−0からG2−3までの、4枚の画像が読み込まれた状態を示している。各画像は、同様に撮影倍率の計算が行われており、それぞれ記録されている。この中では、画像G2−1が撮影倍率0.099と、画像G1−2の撮影倍率0.101に対して最も近いので、この画像が最も連続性が良いと判断され、画像G2−1が選択される。図3(D)は、画像G2−1が選択され、選択バッファ302に記録された状態を示している。
図8は、実施例2の画像処理装置の動作処理を説明するフローチャートである。
S801で処理が開始されると、S802において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。S803において、倍率計算部503が、撮影倍率を計算し、画像データと関連付けて、撮影バッファ105に記録する。
S801で処理が開始されると、S802において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。S803において、倍率計算部503が、撮影倍率を計算し、画像データと関連付けて、撮影バッファ105に記録する。
次に、S804において、画像処理装置501が備えるCPUが、画像の読み込み(S802)と撮影倍率の計算(S803)が、nフレーム分繰り返されたかを判断する。画像の読み込み(S802)と撮影倍率の計算(S803)が、nフレーム分繰り返されていない場合は、処理がS802に戻る。画像の読み込み(S802)と撮影倍率の計算(S803)が、nフレーム分繰り返された場合は、処理がS805に進む。nフレームの画像を読み読み込んだ結果は、図7(A)または図7(C)の状態となる。
次に、S805において、連続性判断部504が、撮影バッファ105に読み込まれた各画像と、選択バッファ107内の画像とで、撮影倍率の比を求める。連続性判断部504は、撮影バッファ105内の画像のうち、撮影倍率の比の値が最も小さい画像を連続性が良い画像と判断して、選択する。
次に、S806で、画像処理装置501が備えるCPUが、選択バッファ107に記録されている画像を記録媒体108に記録し、選択バッファ107から削除する。続いて、S807において、連続性判断部504が、選択バッファ107に、S805で選択した画像を記録して、選択バッファ107の更新を行う。
選択バッファ107の更新を行った状態が、図7(B)または図7(D)に示す状態である。S808において、画像処理装置501が備えるCPUが、撮影が終了したかを判断する。撮影が終了していない場合は、処理がS802に戻る。撮影が終了した場合は、処理を終了する。
実施例2の画像処理装置によれば、画像間の撮影倍率の変化が小さい画像が記録対象として選択されるので、撮影レンズの焦点距離にかかわらず、被写体の撮影サイズがほとんど同じ画像が記録される。したがって、再生時により安定した画像を表示することができる。これにより、例えば、映画などで行われている、ズームレンズと被写体距離を変化させながら、被写体の大きさは一定として、背景画像のみを変化させることができ、なおかつ、その変化が滑らかである画像を得ることができる。
(実施例3)
図9は、実施例3の画像処理装置の構成を示す図である。
実施例3の画像処理装置901は、撮影バッファ105内のnフレーム分の画像のうち、選択バッファ905内の画像の重心位置の変化から予測される重心位置に最も近い重心位置を持つ画像を連続性が良い画像と判断する。そして、この画像を記録対象すなわち再生対象として選択する。なお、画像処理装置901が備える各処理部の機能は、不図示のCPUによって実現される。
図9は、実施例3の画像処理装置の構成を示す図である。
実施例3の画像処理装置901は、撮影バッファ105内のnフレーム分の画像のうち、選択バッファ905内の画像の重心位置の変化から予測される重心位置に最も近い重心位置を持つ画像を連続性が良い画像と判断する。そして、この画像を記録対象すなわち再生対象として選択する。なお、画像処理装置901が備える各処理部の機能は、不図示のCPUによって実現される。
実施例3では、主被写体検出部902が、画像処理部104が出力した画像データから主被写体を検出する。そして、重心位置計算部903が、検出された主被写体の重心位置を計算し、重心位置を画像データと関連付けて撮影バッファ105に記録する。
図10は、画像からの主被写体の検出と重心位置の計算を説明する図である。
図10(A)は、撮影した画像全体を示す。図10(B)中、1001は、検出される主被写体範囲を示す。主被写体検出部902は、主被写体を、被写体の形状や種類、背景画像との差分などから判別し、検出する。検出された主被写体は、その周辺を含めて、主被写体範囲1001として抽出される。重心位置計算部903は、抽出された主被写体範囲について、その画素値と画像の座標に基づいて、重心位置の計算を実行する。重心位置は、例えば、図10(C)の1002で示す×印のように、画像の左上からの画素数で表す。
図10(A)は、撮影した画像全体を示す。図10(B)中、1001は、検出される主被写体範囲を示す。主被写体検出部902は、主被写体を、被写体の形状や種類、背景画像との差分などから判別し、検出する。検出された主被写体は、その周辺を含めて、主被写体範囲1001として抽出される。重心位置計算部903は、抽出された主被写体範囲について、その画素値と画像の座標に基づいて、重心位置の計算を実行する。重心位置は、例えば、図10(C)の1002で示す×印のように、画像の左上からの画素数で表す。
重心位置計算部903は、以下の式で撮影バッファ105内の画像データの重心位置を計算する。ここで、Y(i,j)は、座標(i,j)の位置の画像の画素値、重心の座標を(Wx,Wy)とする。
画像処理装置901は、撮影バッファ105に、nフレーム単位で画像データを記録すると共に、各画像データに対応する重心位置を記録する。
図9の説明に戻る。連続性判断部904は、選択バッファ905内の画像データに対応する重心位置から、予測される重心位置を算出する。連続性判断部904は、撮影バッファ105内の画像のうち、対応する重心位置が上記予測される重心位置に最も近い画像を、選択バッファ905内の画像との連続性が最も良いと判断し、選択する。選択バッファ905は、選択された画像データと重心位置とを記録する。この例では、選択バッファ905には、選択された画像が2枚記録されるものとする。連続性判断部904で次の画像が選択された場合、CPUが、それまでに記録してあった最も古い画像データを、記録媒体108に記録する。なお、実施例1で説明したように、連続性判断部904で選択された画像データを、選択バッファに記録すると同時に記録媒体108に記録する構成をとることもできる。
図11は、連続性判断部による画像の選択処理の具体例を示す図である。
撮影バッファ1101は、図9の撮影バッファ105に相当する。選択バッファ1102は、図9の選択バッファ905に相当する。図11(A)から図11(D)は、特定のタイミングでの、各バッファ内の画像データの様子を示す。
撮影バッファ1101は、図9の撮影バッファ105に相当する。選択バッファ1102は、図9の選択バッファ905に相当する。図11(A)から図11(D)は、特定のタイミングでの、各バッファ内の画像データの様子を示す。
図11(A)は、撮影バッファ1101に、フレームグループG2のG2−0からG2−3までの4枚の画像が読み込まれた状態を示している。このとき、選択バッファ1102には、画像G0−0及び画像G1−2が記録されているとする。それぞれの画像には、既に計算された重心位置が関連付けられて記録されている。画像処理装置901は、選択バッファ内の画像と、撮影バッファ内の画像の連続性を判断するために、選択バッファ内の画像の重心位置から予測される重心位置と、撮影バッファ内の画像の重心位置を比較する。具体的には、選択された画像(図11(A)では、G0−0とG1−2)の重心位置の変化から予測される重心位置と、比較対象となる撮影バッファ内の画像(G2−0,G2−1,G2−2,G2−3)の重心位置とで、それぞれの距離を求める。画像処理装置901は、距離が最も小さい画像を撮影バッファから選択する。
重心位置を記録した例が、図11(A)の撮影バッファ1101内の各画像と選択バッファ1102内の各画像の下に記述してある。例えば、画像G0−0は、重心位置が、(215,298)である。同様に、画像G1−2は、重心位置が(239,322)である。画像G2−0は、重心位置が(280,351)である。画像G2−1は、重心位置が(265,344)である。画像G2−2は、重心位置が(273,255)である。画像G2−3は、重心位置が(252,351)である。
図12は、重心位置の予測を説明する図である。
図12(A)は、図11(A)の状態における各画像の重心位置を示している。画像G0−0の重心位置が、座標(215,298)に示される。以下、同様に、画像G1−2,画像G2−0,画像G2−1,画像G2−2,画像G2−3の重心位置が、それぞれ座標(239,322),(280,351),(265,344),(273,255),(252,351)に示される。
図12(A)は、図11(A)の状態における各画像の重心位置を示している。画像G0−0の重心位置が、座標(215,298)に示される。以下、同様に、画像G1−2,画像G2−0,画像G2−1,画像G2−2,画像G2−3の重心位置が、それぞれ座標(239,322),(280,351),(265,344),(273,255),(252,351)に示される。
図12(B)は、選択画像G0−0とG1−2の重心位置から予測される重心位置を示す。P01は、G0−0とG1−2の重心位置から予測される重心位置の座標である。連続性判断部904は、G0−0とG1−2の重心位置の座標の差分値を求める。連続性判断部904は、求めた座標の差分値を画像G1−2の重心位置の座標値に加算することで、予測される重心位置の座標P01を求める。図12(B)中、白矢印は、G0−0とG1−2との重心位置の座標の差分値である。黒矢印は、G1−2の重心位置の座標値に当該差分値が加算される様子を示す。
ここで、選択画像の重心座標を、順に、(W0x,W0y)、(W1x,W1y)、選択画像の重心座標の差分値を(△Wx,△Wy)、差分値から予測される重心位置の座標を(Wpx,Wpy)とすると、以下の関係が成立する。
上記の関係を利用し、G0−0とG1−2の重心位置から予測される重心位置の座標は、(263,346)となる。
ここで、撮影バッファ内のn番目の画像の重心位置を(Wnx,Wnx) としたとき、この重心位置の座標と、予測される重心位置の座標との距離Dnは、次の式で求められる。
連続性判断部904は、上記の式にしたがって、画像G2−0,画像G2−1,画像G2−2,画像G2−3の重心位置と、予測される重心位置の座標との距離を、それぞれ、17.7,2.8,13.5,12.1と計算する。連続性判断部904は、計算された距離を評価値として、撮影バッファ内の画像の選択画像との連続性の良否を判断する。連続性判断部904は、上記の距離が最も小さい画像G2−1を、最も連続性が良い画像として、選択する。
図11の説明に戻る。図11(B)は、画像G2−1が選択された様子を示す。選択された画像G2−1は、選択バッファ1102に記録される。選択バッファ1102では、最も先に記録されていたG0−0が、記録媒体108に記録され、選択バッファ1102からは削除される。その結果、選択バッファ1102内の画像は、画像G1−2及び画像G2−1となる。
図11(C)は、次のフレームグループG3のG3−0からG3−3までの、4枚の画像が読み込まれた状態を示している。各画像は、重心位置の座標の計算が行われ、記録されている。図11(C)では、画像G3−0,画像G3−1,画像G3−2,画像G3−3の重心位置が、それぞれ、座標(295,368),(301,359),(318,366),(307,373)と計算されている。
図12(C)は、図11(C)の状態の場合の各画像の重心位置を示す。図12(D)は、図12(B)と同様に、選択画像G1−2とG2−1の重心位置の変化から予測される重心位置の座標を示す。この例では、画像G3−0,画像G3−1,画像G3−2,画像G3−3の重心位置と、予測される重心位置の座標との距離は、それぞれ、4.5,12.2,27.0,17.5と計算される。連続性判断部904は、上記の距離が最も小さい画像G3−0を、最も連続性が良い画像として、選択する。図11(D)は、画像G3−0が選択され、選択バッファ内の画像が更新された結果を示している。
図13は、実施例3の画像処理装置の動作処理を説明するフローチャートである。
S1301で処理が開始されると、S1302において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。S1303において、主被写体検出部902が、撮影バッファ105に読み込まれた画像から主被写体を検出する。S1304において、重心位置計算部903が、主被写体の重心位置を計算する。画像処理装置901は、重心位置を画像と関連付けて撮影バッファ105に記録する。
S1301で処理が開始されると、S1302において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。S1303において、主被写体検出部902が、撮影バッファ105に読み込まれた画像から主被写体を検出する。S1304において、重心位置計算部903が、主被写体の重心位置を計算する。画像処理装置901は、重心位置を画像と関連付けて撮影バッファ105に記録する。
次に、S1305において、画像処理装置901が備えるCPUが、S1302乃至S1304の処理がnフレーム分繰り返されたかを判断する。S1302乃至S1304の処理がnフレーム分繰り返されていない場合は、処理がS1302に戻る。S1302乃至S1304の処理がnフレーム分繰り返された場合は、処理がS1306に進む。nフレームの画像を読み読み込んだ結果は、図11(A)または図11(C)の状態となる。
次に、S1306において、連続性判断部904が、撮影バッファ内の各画像の重心位置の座標と、選択バッファ905内の画像から予測される重心位置の座標との距離を求める。連続性判断部904は、求めた距離が最も近い画像を、連続性が良い画像と判断して、選択する。
次に、S1307において、CPUが、選択バッファ905に記録された画像のうち、最も先に記録されていた画像を記録媒体108に記録し、選択バッファ905内から削除する。続いて、S1308において、連続性判断部904が、選択バッファ905に、S1306で選択した画像を記録して、選択バッファ905の更新を行う。選択バッファ905の更新を行った状態が、図11(B)または図11(D)に示される。
S1309において、CPUが、撮影が終了したかを判断する。撮影が終了していない場合は、処理がS1302に戻る。撮影が終了した場合は、処理を終了する。実施例3の画像処理装置によれば、画像間で主被写体の重心位置の変化が小さい画像が選択されるので、主被写体の位置がほとんど同じ画像が記録される。したがって、再生時により安定した滑らかな画像を表示することができる。
(実施例4)
図14は、実施例4の画像処理装置の構成を示す図である。
実施例4の画像処理装置1401は、撮影バッファ105内のnフレーム分の画像のうち、選択バッファ1405内の画像の形状の変化から予測される形状に最も近い形状を持つ画像を連続性が良い画像と判断して、記録対象すなわち再生対象として選択する。なお、画像処理装置1401が備える各処理部の機能は、不図示のCPUによって実現される。
図14は、実施例4の画像処理装置の構成を示す図である。
実施例4の画像処理装置1401は、撮影バッファ105内のnフレーム分の画像のうち、選択バッファ1405内の画像の形状の変化から予測される形状に最も近い形状を持つ画像を連続性が良い画像と判断して、記録対象すなわち再生対象として選択する。なお、画像処理装置1401が備える各処理部の機能は、不図示のCPUによって実現される。
実施例4では、主被写体検出部1402が、画像処理部104が出力した画像データから主被写体を検出する。そして、四隅位置計算部1403が、検出された主被写体の形状を示す四隅の位置を計算した後、四隅の位置(四隅位置)を画像データと関連付けて撮影バッファ105記録する。
図15は、主被写体の検出と、主被写体の形状を示す四隅位置の計算を説明する図である。
図15(A)は、撮影した画像全体を示している。図15(B)中、1501は、検出される主被写体範囲を示している。主被写体の検出は、実施例3と同様の方法で行われる。実施例4では、四隅位置計算部1403が、主被写体1501の形状にかかわらず、主被写体1501が収まる矩形の領域を設定する。四隅位置計算部1403は、設定した矩形領域について、その四隅位置の座標を算出する。この四隅位置の座標が、主被写体の形状を示す値である。画像処理装置1401は、撮影バッファ105内の各画像について算出された四隅位置に基づいて、選択バッファ1405内の画像との連続性の良否の判断を実行する。
図15(A)は、撮影した画像全体を示している。図15(B)中、1501は、検出される主被写体範囲を示している。主被写体の検出は、実施例3と同様の方法で行われる。実施例4では、四隅位置計算部1403が、主被写体1501の形状にかかわらず、主被写体1501が収まる矩形の領域を設定する。四隅位置計算部1403は、設定した矩形領域について、その四隅位置の座標を算出する。この四隅位置の座標が、主被写体の形状を示す値である。画像処理装置1401は、撮影バッファ105内の各画像について算出された四隅位置に基づいて、選択バッファ1405内の画像との連続性の良否の判断を実行する。
四隅位置の座標は、図10(C)に示すように、主被写体に対して、左上座標1502、右上座標1503、左下座標1504及び右下座標1504として求められる。この例では、左上座標1502のように、画像の左上からの画素数で表示する。
図14の説明に戻る。連続性判断部1404は、選択バッファ1405内の画像データに対応する四隅位置の変化から予測される四隅位置を算出する。連続性判断部1404は、撮影バッファ105内の画像のうち、対応する四隅位置が上記予測される四隅位置に最も近い画像を、選択バッファ1405内の画像との連続性が最も良いと判断し、選択する。選択バッファ1405は、選択された画像データと四隅位置とを記録する。この例では、選択バッファ905には、選択された画像が2枚記録されるものとする。連続性判断部1404で次の画像が選択された場合、CPUが、それまでに記録してあった最も古い画像データを、記録媒体108に記録する。なお、実施例1で説明したように、連続性判断部1404で選択された画像データを、選択バッファ1405に記録すると同時に記録媒体108に記録する構成をとることもできる。
図16は、連続性判断部による画像の選択処理の具体例を示す図である。
図16中、撮影バッファ1601は、図14の撮影バッファ105に相当する。選択バッファ1602は、図14の選択バッファ1405に相当する。図16(A)および図16(B)は、特定のタイミングでの、各バッファ内の画像データの様子を示す。
図16中、撮影バッファ1601は、図14の撮影バッファ105に相当する。選択バッファ1602は、図14の選択バッファ1405に相当する。図16(A)および図16(B)は、特定のタイミングでの、各バッファ内の画像データの様子を示す。
図16(A)は、撮影バッファ1601に、フレームグループG2のG2−0からG2−3までの4枚の画像が読み込まれた状態を示す。このとき、選択バッファ1602には、画像G0−0及び画像G1−2が記録されている。それぞれの画像には、既に計算された四隅の位置が関連して記録されている。
連続性判断部1404は、選択バッファ内の画像と、撮影バッファ内の画像との連続性の良否を判断するために、選択バッファ内の画像の四隅位置の変化から予測される四隅位置に最も近い四隅位置に対応する撮影バッファ内の画像を選択する。
具体的には、連続性判断部1404は、選択バッファ内の画像(図16(A)では、G0−0とG1−2)の四隅位置の変化から予測される四隅位置と、撮影バッファ内の各画像(G2−0,G2−1,G2−2,G2−3)の四隅位置との距離を求める。連続性判断部1404は、求めた距離の総和を各画像の評価値として、連続性を判断する。連続性判断部1404は、撮影バッファ内の画像のうち、距離の総和が最も小さい画像を選択バッファ内の画像との連続性が最も良いと判断して、選択する。
四隅位置を記録した例を、図16(A)の撮影バッファ1601内の各画像と選択バッファ1602内の各画像の下に記述してある。例えば、画像G0−0は、四隅位置が、{左上、右上、左下、右下}の順に、{(265,248)、(265,348)、(165,248)、(165,348)}と計算されている。同様に、画像G1−2は、四隅位置が、{(289,272)、(289,372)、(189,272)、(189,372)}である。
画像G2−0は、四隅位置が、{(330,301)、(330,401)、(230,301)、(230,401)}である。また、画像G2−1は、四隅位置が、{(315,294)、(315,394)、(215,294)、(215,394)}である。画像G2−2は、四隅位置が、{(323,305)、(323,405)、(223,305)、(223,405)}である。また、画像G2−3は、四隅位置が、{(302,301)、(302,401)、(202,301)、(202,401)}である。
図17は、画像の四隅位置の予測を説明する図である。
図17は、図11(B)に相当する図である。選択バッファ内の画像G0−0と画像G1−2の四隅位置、撮影バッファ内の画像G2−0,G2−1,G2−2,G2−3の四隅位置、予測される四隅位置(P01)が示される。図の破線の円は、それぞれ、表示されている各画像の主被写体の四隅位置が、左上、右上、左下及び右下の位置であることを示している。この例では、四隅位置のうち、左上の位置を1番目の位置、右上の位置を2番目の位置、左下の位置を3番目の位置、右下の位置を4番目の位置とする。白矢印は、画像G0−0とG1−2の差分値を示す。連続性判断部1404は、各四隅の予測値を、実施例3の重心位置の予測値を求める方法に準じた方法で計算する。連続性判断部1404は、黒矢印に示すように、G0−0の各四隅の座標値に上記差分値を加算することで、四隅位置(P01)の座標値を算出する。
図17は、図11(B)に相当する図である。選択バッファ内の画像G0−0と画像G1−2の四隅位置、撮影バッファ内の画像G2−0,G2−1,G2−2,G2−3の四隅位置、予測される四隅位置(P01)が示される。図の破線の円は、それぞれ、表示されている各画像の主被写体の四隅位置が、左上、右上、左下及び右下の位置であることを示している。この例では、四隅位置のうち、左上の位置を1番目の位置、右上の位置を2番目の位置、左下の位置を3番目の位置、右下の位置を4番目の位置とする。白矢印は、画像G0−0とG1−2の差分値を示す。連続性判断部1404は、各四隅の予測値を、実施例3の重心位置の予測値を求める方法に準じた方法で計算する。連続性判断部1404は、黒矢印に示すように、G0−0の各四隅の座標値に上記差分値を加算することで、四隅位置(P01)の座標値を算出する。
ここで、予測される四隅位置のうちのk番目の位置(1≦k≦4)の座標を(Pkx,Pky)とする。撮影バッファ内のn番目の画像の四隅位置のうちのk番目の位置を(Wnkx,Wnkx)とする。n番目の画像の四隅位置のうちのk番目の位置と、予測される四隅位置のうちのk番目の位置との距離Dknは、次の式で求められる。
求まった距離Dknを四隅位置のうちの1番目の位置から4番目の位置まで加算した値を、当該画像についての総合的な評価値とする。すなわち、n番目の画像の総合的な評価値は、次の式で求められる。
上記式に従って、画像G2−0,画像G2−1,画像G2−2,画像G2−3の評価値は、それぞれ、70.1,11.3,53.8,48.3と計算される。連続性判断部1404は、この評価値に基づいて、最も近い距離にある画像G2−1を、最も連続性が良い画像であると判断する。したがって、画像G2−1が、撮影バッファ1601内の画像から選択される。
図16の説明に戻る。図16(B)は、画像G2−1が選択された様子を示す。選択された画像G2−1は、選択バッファ1602に記録される。選択バッファ1602では、最も先に記録されていたG0−0が、記録媒体108に記録され、選択バッファ1602からは削除される。その結果、選択バッファ1602内の画像は、画像G1−2及び画像G2−1となる。以降、画像の選択と、選択バッファの更新とが繰り返される。
図18は、実施例4の画像処理装置の動作処理を説明するフローチャートである。
S1801で処理が開始されると、S1802において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。S1803において、主被写体検出部1402が、撮影バッファ105に読み込まれた画像から主被写体を検出する。S1804において、四隅位置計算部1403が、主被写体の四隅位置を計算する。画像処理装置1401は、四隅位置を画像と関連付けて撮影バッファ105に記録する。
S1801で処理が開始されると、S1802において、画像処理部104が、フレームグループを形成するn枚の画像を撮影バッファ105に読み込む。S1803において、主被写体検出部1402が、撮影バッファ105に読み込まれた画像から主被写体を検出する。S1804において、四隅位置計算部1403が、主被写体の四隅位置を計算する。画像処理装置1401は、四隅位置を画像と関連付けて撮影バッファ105に記録する。
次に、S1805において、画像処理装置1401が備えるCPUが、S1802乃至S1804の処理がnフレーム分繰り返されたかを判断する。S1802乃至S1804の処理がnフレーム分繰り返されていない場合は、処理がS1802に戻る。S1802乃至S1804の処理がnフレーム分繰り返された場合は、処理がS1806に進む。nフレームの画像を読み読み込んだ結果は、図16(A)の状態となる。
次に、S1806において、連続性判断部1404が、読み込まれた各画像の四隅位置の座標と、選択バッファ1405内の画像から予測される四隅位置の座標との距離を求めて、各画像の評価値とする。続いて、S1807において、連続性判断部1404が、評価値が最も小さい画像を連続性が良い画像と判断して、選択する。
次に、S1808において、CPUが、選択バッファ1405に記録された画像のうち、最も先に記録されていた画像を記録媒体108に記録し、選択バッファ1405内から削除する。続いて、S1809において、連続性判断部1404が、選択バッファ1405に、S1807で選択した画像を記録して、選択バッファ1405の更新を行う。選択バッファ1405の更新を行った状態が、図16(B)に示される。
S1810において、CPUが、撮影が終了したかを判断する。撮影が終了していない場合は、処理がS1802に戻る。撮影が終了した場合は、処理を終了する。実施例4の画像処理装置によれば、画像間の主被写体の形状位置の変化が小さい画像が選択されるので、主被写体の形状がほとんど同じ画像が記録される。このため、再生時により安定した滑らかな画像を表示することができる。
実施例4では、主被写体の形状を表す領域として、矩形形状の領域を用いて、その四隅の位置を求めているが、主被写体の形状を表す領域は、矩形領域に限るものではない。例えば、主被写体の形状を三角形の領域で表した場合は、各頂点(3点)の位置を求めれば良い。同様に、他の多角形領域も利用できる。
以上、説明した通り、画像処理装置は、記録するフレーム数のn倍で撮影され、撮影バッファに記憶された画像から、n枚単位に、最も連続性が良い一つの画像を選択する。その際、画像処理装置が備える連続性判断部が、撮影バッファ内の画像の特徴を示す第1の特徴情報と、選択バッファ内の画像の特徴を示す第2の特徴情報とを算出する。連続性判断部は、第1の特徴情報と第2の特徴情報とを比較して、第2の特徴情報が示す特徴に最も近い特徴を示す第1の特徴情報に対応する画像を選択する。
さらに、実施例1から実施例4について総括すると、実施例1と実施例2は、選択バッファ内の画像が一つである。画像処理装置は、撮影バッファ内の画像の特徴を示す第1の特徴情報と、選択バッファ内の画像の特徴を示す第2の特徴情報とを比較して、一枚の画像を選択する。実施例3と実施例4は、選択バッファ内の画像が複数である。画像処理装置は、第1の記憶部内の画像の特徴を示す第1の特徴情報と、第2の記憶部内の各々の画像の特徴を示す第2の特徴情報を算出する。画像処理装置は、第2の特徴情報に基づいて、次に算出が予測される第2の特徴情報を予測特徴情報として算出する。そして、画像処理装置は、第1の特徴情報と予測特徴情報とを比較して、予測特徴情報が示す特徴に最も近い特徴を示す第1の特徴情報に対応する画像を選択する。
実施例1では、第1、第2の特徴情報は、画像の画素値を示す。画像処理装置は、第1の特徴情報が示す画素値の、第2の特徴情報が示す画素値との差分二乗和を算出する。そして、画像処理装置は、差分二乗和が最も小さい画素値を示す第1の特徴情報に対応する画像を選択する。
実施例2では、第1、第2の特徴情報は、画像の撮影時の撮影情報から求まる値、具体的には、撮影倍率である。画像処理装置は、第2の特徴情報が示す値に最も近い値を示す第1の特徴情報に対応する画像を選択する。
実施例3では、第1の特徴情報、第2の特徴情報、および予測特徴情報は、画像内の被写体の重心の位置を示す。画像処理装置は、第2の特徴情報が示す重心の位置に最も近い重心の位置を示す第1の特徴情報に対応する画像を選択する。
実施例4では、第1の特徴情報、第2の特徴情報、および予測特徴情報は、画像内の被写体の形状を示す。画像処理装置は、第2の特徴情報が示す形状に最も近い形状を示す第1の特徴情報に対応する画像を選択する。
画像の特徴情報については、実施例1乃至4に具体的に記述した例以外の特徴情報を用いることができる。例えば、画像の特徴情報として撮影時の情報のホワイトバランス情報を用いた場合、これを実施例2で用いた撮影倍率の代わりに利用することで、ホワイトバランスについて最も連続性が良い画像が得られる。また、画像の特徴情報として、主被写体の面積を用いる場合、これを実施例3で用いた重心位置の代わりに利用することで、主被写体の面積について最も連続性が良い画像が得られる。また、実施例1乃至4に示した特徴情報を複数を組み合わせて、重み付け等を行って各画像の評価値とすることもできる。
また、撮影バッファ内に、第2の特徴情報が示す特徴と同じ特徴を示す第1の特徴情報に対応する画像が、複数保持されている場合に、撮影バッファ内の画像のうち、予め定められた撮影順序に対応するほうの画像(例えば図2の画像G0−0等)を選択してもよい。
また、選択した画像を記録媒体に記録する際に、選択した画像の撮影バッファ内の撮影順序を示す番号、すなわちフレームグループ内の番号を記録しておくようにしてもよい。このようにすることで、撮影時はバラバラのフレーム間隔で撮影された画像であることを示すこともできる。以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
(その他の実施例)
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。
101 画像処理装置
105 撮影バッファ
106 連続性判断部
107 選択バッファ
105 撮影バッファ
106 連続性判断部
107 選択バッファ
Claims (13)
- 記録するフレーム数のn倍のフレーム数で撮像された画像をnフレーム分保持する第1の記憶部と、
前記第1の記憶部から選択された画像を少なくとも1枚以上保持する第2の記憶部と、
前記第1の記憶部内の画像のうち、前記第2の記憶部内の画像との連続性が良い画像を1枚選択して前記第2の記憶部に記憶する制御手段とを備える
ことを特徴とする画像処理装置。 - 前記制御手段は、
前記第1の記憶部内の画像の特徴を示す第1の特徴情報と、前記第2の記憶部内の画像の特徴を示す第2の特徴情報とを算出し、
前記第1の特徴情報と前記第2の特徴情報とを比較して、前記第2の特徴情報が示す特徴に最も近い特徴を示す第1の特徴情報に対応する画像を選択する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記制御手段は、前記第1の記憶部内に、前記第2の特徴情報が示す特徴と同じ特徴を示す第1の特徴情報に対応する画像が複数ある場合に、当該複数の画像のうち、予め定められた撮影順序に対応する画像を選択する
ことを特徴とする請求項2に記載の画像処理装置。 - 前記第1、第2の特徴情報は、画像の画素値を示し、
前記制御手段は、前記第1の特徴情報が示す画素値の、前記第2の特徴情報が示す画素値との差分二乗和を算出し、
前記差分二乗和が最も小さい画素値を示す前記第1の特徴情報に対応する画像を選択する
ことを特徴とする請求項2または請求項3に記載の画像処理装置。 - 前記第1、第2の特徴情報は、画像の撮影時の撮影情報から求まる値を示し、
前記制御手段は、前記第2の特徴情報が示す値に最も近い値を示す前記第1の特徴情報に対応する画像を選択する
ことを特徴とする請求項2または請求項3に記載の画像処理装置。 - 前記第1、第2の特徴情報が示す、前記撮影情報から求まる値は、撮影倍率である
ことを特徴とする請求項5に記載の画像処理装置。 - 前記制御手段は、
前記第1の記憶部内の画像の特徴を示す第1の特徴情報と、前記第2の記憶部内の複数の画像のそれぞれについて、画像の特徴を示す第2の特徴情報を算出し、
前記算出された第2の特徴情報に基づいて、次に算出が予測される第2の特徴情報を予測特徴情報として算出し、
前記第1の特徴情報と前記予測特徴情報とを比較して、前記予測特徴情報が示す特徴に最も近い特徴を示す第1の特徴情報に対応する画像を選択する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記第1の特徴情報、前記第2の特徴情報、および前記予測特徴情報は、画像内の被写体の重心の位置を示す
ことを特徴とする請求項7に記載の画像処理装置。 - 前記第1の特徴情報、前記第2の特徴情報、および前記予測特徴情報は、画像内の被写体の形状を示す
ことを特徴とする請求項7に記載の画像処理装置。 - 前記制御手段は、前記第1の記憶部から画像を選択する毎に、前記第1の記憶部内の画像をnフレーム単位で更新する
ことを特徴とする請求項1乃至9のいずれか1項に記載の画像処理装置。 - 前記制御手段は、前記第2の記憶部に前記選択された画像を記憶するとともに、前記第2の記憶部に保持されていた最も古い画像を再生対象として第3の記憶部に記憶する
ことを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。 - 前記制御手段は、前記第2の記憶部に前記選択された画像を記憶すると同時に、当該記憶された画像を再生対象として第3の記憶部に記憶する
ことを特徴とする請求項1乃至10のいずれか1項に記載の画像処理装置。 - 記録するフレーム数のn倍のフレーム数で撮像された画像をnフレーム分保持する第1の記憶部と、前記第1の記憶部から選択された画像を少なくとも1枚以上保持する第2の記憶部とを備える画像処理装置の制御方法であって、
前記第1の記憶部内の画像のうち、前記第2の記憶部内の画像との連続性が良い画像を1枚選択して前記第2の記憶部に記憶する工程を有する
ことを特徴とする制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014121222A JP2016001815A (ja) | 2014-06-12 | 2014-06-12 | 画像処理装置およびその制御方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014121222A JP2016001815A (ja) | 2014-06-12 | 2014-06-12 | 画像処理装置およびその制御方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016001815A true JP2016001815A (ja) | 2016-01-07 |
Family
ID=55077213
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014121222A Pending JP2016001815A (ja) | 2014-06-12 | 2014-06-12 | 画像処理装置およびその制御方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2016001815A (ja) |
-
2014
- 2014-06-12 JP JP2014121222A patent/JP2016001815A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4823179B2 (ja) | 撮像装置及び撮影制御方法 | |
CN101601279B (zh) | 摄像装置以及摄像方法 | |
JP5820257B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP4212109B2 (ja) | 撮影装置および撮影方法 | |
JP2019535167A (ja) | 広角撮像素子及び長焦点撮像素子を利用してクリアかつ正確な光学ズーム機構を達成する方法 | |
JP6308748B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
JP2008129554A (ja) | 撮像装置及びオートフォーカス制御方法 | |
JP4748230B2 (ja) | 撮像装置、撮像方法及び撮像プログラム | |
TWI336588B (en) | A focusing method, suitable for an image capturing apparatus using in an environment of low brightness and image capturing apparatus using the same | |
TWI626500B (zh) | 攝影裝置、透鏡單元以及訊號處理裝置 | |
KR20200064908A (ko) | 제어장치, 촬상장치, 및 기억매체 | |
JP2020053774A (ja) | 撮像装置および画像記録方法 | |
JP6261205B2 (ja) | 画像処理装置 | |
JP2015012482A (ja) | 画像処理装置及び画像処理方法 | |
TWI420899B (zh) | 影像處理裝置和方法及記錄媒體 | |
JP2011176557A (ja) | 画像処理装置及び方法、並びにプログラム | |
JP2013110754A (ja) | カメラ装置、及びその撮影方法とプログラム | |
JP2008116663A (ja) | 撮像装置 | |
JP2013135410A (ja) | 撮像装置および評価値生成装置 | |
JP5484129B2 (ja) | 撮像装置 | |
JP2009171341A (ja) | ぶれ補正装置及び撮像装置 | |
JP2013084124A (ja) | 撮像システム、撮像装置および画像処理方法 | |
JP2016001815A (ja) | 画像処理装置およびその制御方法 | |
JP6124703B2 (ja) | 撮像装置およびその制御方法 | |
JP2014067142A (ja) | 画像処理装置、画像処理方法、撮像装置、および撮像方法 |