JP2017163191A - 画像処理装置、撮像装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP2017163191A JP2017163191A JP2016043237A JP2016043237A JP2017163191A JP 2017163191 A JP2017163191 A JP 2017163191A JP 2016043237 A JP2016043237 A JP 2016043237A JP 2016043237 A JP2016043237 A JP 2016043237A JP 2017163191 A JP2017163191 A JP 2017163191A
- Authority
- JP
- Japan
- Prior art keywords
- image
- frame
- unit
- synthesis
- synthesized
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Television Signal Processing For Recording (AREA)
- Studio Devices (AREA)
Abstract
【課題】撮影された動画の画像データに基づいて、ユーザが所望する撮影効果が付与された静止画の画像データを、簡便かつ直観的に編集および生成することが可能な画像処理装置、撮像装置、画像処理方法、およびプログラムを提供する。【解決手段】動画フレームの中でフレームが指定されと、このフレーム画像を表示し(f2)、フレーム画像が読み出されるたびに、読み出されたフレーム画像と合成画像を合成し、この合成画像を表示し(O1、O2、O3)、合成停止指示がなされると、合成画像の生成を終了する。【選択図】 図1
Description
本発明は、動画データから任意のフレームに基づいた静止画画像データを生成することが可能な画像処理装置、撮像装置、画像処理方法、およびプログラムに関する。
近年、撮像装置および表示装置の高性能化に伴い、動画映像の品質が向上し、高画素化、高フレームレート化が進んでおり、高精細動画の撮影技術や再生技術を利用することができる。高精細動画として、例えば4K動画の再生に対応したテレビや、4K動画の撮影が可能なビデオカメラが普及しつつあり、動画の高精細化は、今後も拡大していくものと思われる。なお、4K動画とは、一般的には、動画のフレーム画像を3840×2180画素によって構成される映像であるが、この画素サイズは、動画のフレーム画像を、写真として印刷するには十分な解像度である。
これまでは、動画の解像度(画像サイズ)は、静止画の解像度(画像サイズ)とは異なり、前者は、静止画撮影で達成している解像度(画像サイズ)が得られていなかった。このため、撮影者は、動画と静止画の両方を取得する場合には、撮影者はビデオカメラで撮影しながら、高性能なデジタルカメラで静止画像を撮影するのが一般的であった。ところが、高精細動画である4K動画では、動画撮影しておけば、記録された動画から気に入ったシーンのフレーム画像を静止画として切り出すことができる。
動画からユーザが所望のフレームを静止画として切り出す方法としては、例えば、特許文献1に開示されている静止画キャップチャ装置では、ユーザのキャプチャ指示に基づいて、表示を選択しやすい表示方法に切替え、キャプチャ指示終了がなされると、この指示終了時のフレームを静止画として画像データに変換している。
また、特許文献2に開示されている撮像装置では、動画の画像データから複数フレーム分の画像データを用いて合成処理することにより静止画を生成する。
特許文献1に開示の方法では、所望のシーンの選択はしやすくなる。しかし、撮影された動画の1フレーム画像を、静止画画像として抜き出していることから、動画のフレームレートに基づいたシャッタ速度の画像となる。このため静止画画像として、撮影者が意図する撮影効果に応じたシャッタ速度の画像を得ることができない。例えば、スローシャッタ効果を活かした画像を得ることはできない。
静止画撮影では、滝などの水の流れを表現したり、流し撮りや、被写体ブレなどで動きを表現したりする撮影方法がある。例えば、1/10秒前後のシャッタ速度で撮影をする場合があり、また、花火などの撮影では、数秒間の露光を行なう場合もある。このため、動画からの1フレームの切り出しでは、撮影者の意図する撮影効果での画像を生成することはできない。
また、特許文献2に開示の方法では、特定の効果しか得られず、上述したような流し撮りや、滝の流れを表現するような撮影には対応できない。また、合成対象となるフレーム数も予め指定しておくために、合成後の画像のイメージを、ユーザが意図した効果と一致させるのは困難である。
本発明は、このような事情を鑑みてなされたものであり、撮影された動画の画像データに基づいて、ユーザが所望する撮影効果が付与された静止画の画像データを、簡便かつ直観的に編集および生成することが可能な画像処理装置、撮像装置、画像処理方法、およびプログラムを提供することを目的とする。
上記目的を達成するため第1の発明に係る画像処理装置は、画像処理装置に入力される動画データ又は静止画データとなる画像データを記録する記録部と、上記記録部に記録された画像データに対応する画像を表示する表示部と、上記記録部に記録された動画データの中から基準フレーム画像を含む複数のフレーム画像を選択するフレーム選択手段と、上記選択された複数のフレーム画像に対して、画像合成を指示する合成指示手段とを含む操作入力部と、上記フレーム選択手段によって選択されたフレーム画像又は合成画像に対して、選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成手段と、を具備し、上記表示部は、上記合成指示手段により画像合成が指示された場合は、上記合成手段により合成した合成画像を表示し、上記記録部は、上記合成指示手段により画像合成が指示された場合は、上記合成手段により合成した合成画像に基づいた、静止画データを記録する。
第2の発明に係る画像処理装置は、上記第1の発明において、上記合成手段は、上記合成指示手段から合成指示が継続している際には、所定の時間周期毎に、上記選択手段によって選択されたフレーム画像に対して、順次後続となるフレーム画像を合成処理して、合成画像を生成する。
第3の発明に係る画像処理装置は、上記第1又は第2の発明において、上記合成手段は、フレーム画像と後続フレームに対応する画像とを、平均化合成処理をして、合成画像を生成する。
第4の発明に係る画像処理装置は、上記第1又は第2の発明において、上記合成手段は、フレーム画像と後続フレームに対応する画像とを、加算合成処理をして、合成画像を生成する。
第5の発明に係る画像処理装置は、上記第1又は第2の発明において、上記合成手段は、フレーム画像と後続フレームに対応する画像とを、比較明合成処理をして、合成画像を生成する。
第4の発明に係る画像処理装置は、上記第1又は第2の発明において、上記合成手段は、フレーム画像と後続フレームに対応する画像とを、加算合成処理をして、合成画像を生成する。
第5の発明に係る画像処理装置は、上記第1又は第2の発明において、上記合成手段は、フレーム画像と後続フレームに対応する画像とを、比較明合成処理をして、合成画像を生成する。
第6の発明に係る画像処理装置は、上記第1の発明において、基準フレームの後続フレームから任意のフレームを選択する合成フレーム選択手段をさらに有し、上記合成手段は、上記合成指示手段から合成指示がなされる毎に、上記合成フレーム選択手段によって選択されたフレーム画像と、上記合成手段によって合成処理された合成画像とを合成処理して、合成画像を生成する。
第7の発明に係る画像処理装置は、上記第1の発明において、フレーム画像と後続フレームに対応する画像との位置ずれを調整する位置あわせ手段をさらに有し、上記位置あわせ手段は、フレーム画像における被写体像と、後続フレームに対応する画像における被写体像の位置ずれ量を検出し、上記合成手段は、上記位置ずれ量に基づいて、後続フレームの画像位置をシフト移動してから合成する。
第7の発明に係る画像処理装置は、上記第1の発明において、フレーム画像と後続フレームに対応する画像との位置ずれを調整する位置あわせ手段をさらに有し、上記位置あわせ手段は、フレーム画像における被写体像と、後続フレームに対応する画像における被写体像の位置ずれ量を検出し、上記合成手段は、上記位置ずれ量に基づいて、後続フレームの画像位置をシフト移動してから合成する。
第8の発明に係る画像処理装置は、上記第1の発明において、合成されるフレームである、複数の後続フレームに対して、間引きフレーム数を決定する合成間隔指定手段をさらに有し、上記合成手段は、上記合成間隔指定手段の指定に基づいて、合成フレームの間引きを行う。
第9の発明に係る画像処理装置は、上記第8の発明において、上記合成間隔指定手段は、上記操作入力部からのユーザの指定に基づいて決定する。
第10の発明に係る画像処理装置は、上記第8の発明において、撮影時の撮像装置の動きを検出するカメラワーク検出手段をさらに有し、上記合成間隔指定手段は、上記カメラワーク検出手段の検出結果に基づいて、間引き数を決定する。
第9の発明に係る画像処理装置は、上記第8の発明において、上記合成間隔指定手段は、上記操作入力部からのユーザの指定に基づいて決定する。
第10の発明に係る画像処理装置は、上記第8の発明において、撮影時の撮像装置の動きを検出するカメラワーク検出手段をさらに有し、上記合成間隔指定手段は、上記カメラワーク検出手段の検出結果に基づいて、間引き数を決定する。
第11の発明に係る画像処理装置は、上記第10の発明において、選択フレームの画像から輝度分布情報を取得する映像情報取得手段をさらに有し、上記合成手段は、上記カメラワーク検出手段及び上記映像情報取得手段による検出結果のうち、少なくとも1つの情報を用いて、合成方法を決定する。
第12の発明に係る撮像装置は、被写体像に基づいて、動画データ又は静止画データを撮影して取得する撮像部と、上記第1ないし上記11のいずれかの画像処理装置と、を有する。
第12の発明に係る撮像装置は、被写体像に基づいて、動画データ又は静止画データを撮影して取得する撮像部と、上記第1ないし上記11のいずれかの画像処理装置と、を有する。
第13の発明に係る画像処理方法は、入力される動画データ又は静止画データを読み込む読込ステップと、上記読込ステップにおいて読み込まれた画像データを表示する表示ステップと、フレーム画像の合成を指示する合成指示ステップと、上記読込ステップにおいて読み込まれた動画データの中から基準となるフレーム画像を選択する選択ステップと、上記選択ステップによって選択されたフレーム画像又は合成画像に対して、上記選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成ステップと、を有し、上記表示ステップは、上記合成指示ステップにより合成が指示された場合は、上記合成ステップにおいて合成した合成画像を表示させ、さらに、上記合成指示ステップにより合成が指示された場合は、上記合成ステップにおいて合成した合成画像に基づいた、静止画データを記録させる記録ステップを有する。
第14の発明に係るプログラムは、入力される動画データ又は静止画データを記録する記録部を有する画像処理装置のコンピュータを実行させるためのプログラムにおいて、上記記録部に記録された画像データを表示する表示ステップと、上記記録部に記録された動画データの中から基準となるフレーム画像を選択する選択ステップと、フレーム画像の合成を指示する合成指示ステップと、上記選択ステップによって選択されたフレーム画像又は合成画像に対して、上記選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成ステップと、を有し、上記表示ステップは、上記合成指示ステップにより合成が指示された場合は、上記合成手段により合成した合成画像を表示させ、さらに、上記合成指示ステップにより合成が指示された場合は、上記合成手段により合成した合成画像に基づいた、静止画データを記録させる記録ステップを有し、上記各ステップを上記コンピュータに実行させる。
本発明によれば、撮影された動画の画像データに基づいて、ユーザが所望する撮影効果が付与された静止画の画像データを、簡便かつ直観的に編集および生成することが可能な画像処理装置、撮像装置、画像処理方法、およびプログラムを提供することができる。
以下、本発明の好ましい実施形態について図を用いて説明する。図1は、第1実施形態において、動画像から合成画像を生成する仕方を説明する図である。図1において、最上段に動画フレームf1〜f8を示し、中段に画像の合成関係を示し、下段に動画のフレーム画像f2と、合成画像O1〜O3を示す。
動画は、連続するフレームデータf1〜f8から構成されている。ユーザは、まず、表示部で動画を1フレームずつ見ながら、静止画として合成したい画像の最初のフレームを選択する。図1では、ユーザは所望のフレームとしてf2(指定フレームまたは基準フレームともいう)を選択している。
基準フレームが選択された後は、画像処理装置は、フレームf2を基準フレームとして、合成停止指示がなされるまでの間(フレームf2〜f5)、各フレーム画像と、それまでのフレームで合成された合成画像データを用いて合成処理を行い、合成画像(すなわち、合成画像データO2〜O3)が順次表示される。ユーザは、静止画として合成したい画像の最後のフレームとなると、このフレームに対して合成停止を指示する。
合成処理にあたって、先ず、フレームf2とf3を合成し、画像データO1を生成する。その後も合成指示が継続されていることから、合成画像データO1と動画フレームf4を合成し、合成画像データO2を生成する。その後も合成停止指示がなされるまで、順次後続フレームを合成していく。
図1に示す例では、合成画像データO3の合成結果を表示中に、合成指示が停止され合成画像データO3に基づく合成画像が静止画像として記録される。個々の動画フレームの露光時間は、短時間であることから(最大、フレームレートに基づく露光時間)、各動画フレームの画像中の滝(例えば、フレームfaの滝Fa)の流れは、止まっているような画像である。しかし、これらの画像を合成すると、等価的に露光時間が長くなり、滝の流れをぼかしたような画像が生成される(例えば、合成画像O1〜O3の滝Fa参照)。
また、本実施形態においては、動画フレームを用いて合成処理を行うたびに、合成画像を表示している。各フレームが合成されるたびに、ユーザは、合成した効果を確認することができ、期待の効果がえられた段階で合成を停止する。これによって、所望の画像データが生成できる。
なお、合成する後続のフレームに関しては、図1に示す例では、次フレームを合成しているが、これに限らず、後続のフレームを間引いて合成しても良い。この間引き量は、ユーザが事前に設定しておいても構わないし、撮影シーンによって決定しても良い。例えば、各フレームでの画像の変化が少ない場合は、合成する後続のフレームを多く間引いたほうが良い。これは、合成しても変化が少ないためで、画像の変化が大きい場合は、合成画像のズレが大きくなるため、間引き量を少なくしたほうが良い。
図2は、本実施形態に係る画像表示システムの外観を示しており、この画像表示システムは、画像表示装置1、モニタ2および操作リモコン3からなる。画像表示装置1は、前述した合成処理を実行する。
画像表示装置1は、動画データを記録した記録部および静止画合成用の画像処理部等を有する。画像表示装置1の詳しい構成は、図3を用いて後述する。モニタ2は、例えば、HDMI(登録商標)(High-Definition Multimedia Interface)等の映像伝送用のケーブルにより、画像表示装置1に接続されている。モニタ2は、画像表示装置1から送信されてきた画像データに基づいて、画像を表示する。モニタ2は、記録部に記録された画像データに対応する画像を表示する表示部として機能する。この表示部は、合成指示手段により画像合成が指示された場合は、合成手段により合成した合成画像を表示させる。
操作リモコン3は、操作ボタン32等を有し、この操作ボタン32の操作状態を赤外線通信や無線通信により、画像表示装置1に送信する。操作ボタン32は、一般的な、再生、停止、一時停止、1コマ送り、早送りに加えて、画像の合成を指示する合成ボタン31を有している。操作リモコン3は、記録部に記録された動画データの中から所望となる複数のフレーム画像を選択するフレーム選択手段と、選択された複数のフレーム画像に対して、画像合成を指示する合成指示手段とを含む操作入力部として機能する。
ユーザは、画像表示装置1の内部のHDD(hard disk drive)に記録されている動画データを操作リモコン3の操作を介して選択し、再生する。ユーザはモニタ2の画面で動画を確認しながら、気に入ったシーンで再生を一時停止し、その後、1コマ送り等を行いながら、所望のシーン(図1の最下段のf2)を選択する。ここで、合成ボタン31を押すと、静止画合成の開始位置(図1の指定フレームに相当)になる。
合成ボタン31が押されると、モニタ2には後続フレームを合成した画像が表示される。例えば、1秒ごとに、順次後続フレームを合成して合成結果(図1の例では、合成画像O1〜O3)がモニタ2に表示される。
合成結果の表示の際に、図2に示す様に、合成枚数に相当する露光時間をシャッタ速度表示2aとして重畳表示する。この表示によって、ユーザがどの程度のシャッタ速度に相当する効果が付与されているかが分かる。例えば、30fpsで撮影された動画のシャッタ速度は1/15であり、図1に示すように、4枚を合成すると、シャッタ速度が1/8秒に相当し、図2のシャッタ速度表示2aには、この1/8が表示されている。
ユーザは、モニタ2を観察し、所望の効果がえられた段階で合成ボタン31の押下を停止する。合成された画像は、画像表示装置1内のHDDに記録される。
図3は、画像表示装置1の内部に設けられた主として電気的構成を示すブロック図である。
制御部11は、CPU(Central Processing Unit)や、CPUを実行させるためのプログラムを記憶したメモリや、操作リモコン3との信号のやり取りを行うための通信回路、その周辺回路等を有する。制御部11は、操作リモコン3からの操作指示に基づいて、画像表示装置1の全体を制御する。なお、本実施形態においては、操作は外部操作リモコン3により指示されるが、画像表示装置1の本体内に操作スイッチを有するようにしても構わない。
画像処理部12は、画像処理回路等を有し、制御部11からの指示に基づいて、記録部13に記録されている画像データを読み出して表示データとして表示制御部14に出力する。この画像処理部12は、図1において説明したような動画を合成し、静止画を生成する合成処理も行う。
画像処理部12は、フレーム選択手段によって選択されたフレーム画像又は合成画像に対して、選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成手段として機能する。また、この合成手段は、合成指示手段から合成指示が継続している際には、所定の時間周期毎に、選択手段によって選択されたフレーム画像に対して、順次後続となるフレーム画像を合成処理して、合成画像を生成する。また、上述の合成手段は、フレーム画像と後続フレームに対応する画像とを、平均化合成処理をして、合成画像を生成する。
記録部13は、HDDなどの大容量記録装置であり、動画データや静止画像データを記録する。撮影等によって生成された動画データは、制御部11内の通信回路を介して、記録部13に記録される。この記録された動画データは、画像処理部12で合成処理され、再び記録部13に記録される。記録部13は、画像処理装置に入力される動画データ又は静止画データとなる画像データを記録する記録部として機能する。この記録部は、合成指示手段により画像合成が指示された場合は、合成手段により合成した合成画像に基づいた、静止画データを記録させる。
表示制御部14は、画像処理部12から送られてくる画像データを、例えば、HDMI(登録商標)規格に従った映像信号に変換してモニタ2に出力する。また、映像を表示しない場合は、制御部11の指示に基づいて、メニュー画面をモニタ2に表示する。ユーザは、メニュー画面に従って、再生する動画データを選択する。
次に、図4に示すフローチャートを用いて、本実施形態における合成画像を生成するまでの動作を説明する。このフローチャートは、制御部11内のCPUが記録部に記録されているプログラムに従って、画像表示装置1内の各部を制御することにより実行する。
静止画生成のフローが開始すると、まず、動画データの読み込みを行い(S1)、動画表示がなされる(S3)。ここでは、画像表示装置1がモニタ2に接続され、ユーザが再生を指示すると、モニタ2に動画が再生表示される。すなわち、制御部11が、記録部1に記録されている複数の動画データの中からユーザが再生を指示した動画データを読み出す。この読み出された動画データは、画像処理部12によって画像処理が施され、表示制御部14によって、モニタ2に再生表示される。このとき、表示制御部14は、順次表示するフレーム画像(映像データ)を送信する。出力された映像データは、ケーブルを経由してモニタ2に表示されるので、ユーザは再生画像を視聴できる。
動画表示がなされると、ユーザは、静止画に切り出したい所望のフレームがある場合は一時停止ボタンを押し、合成開始フレームの指定を行う(S5)。ユーザが操作ボタン32の内の一時停止ボタンを操作すると、制御部11は画像処理部12に再生停止を指示し、画像処理部12は停止したフレーム画像を出力し続ける。ユーザは一時停止したフレーム画像から静止画の合成を開始したい場合には、合成ボタン31を操作する。一方、別のフレームから合成を開始した場合には、再度、再生ボタンを操作して再生を再開する。なお、コマ送り表示等、順次フレーム毎に表示が進むような表示を行うようにしてもよい。
ステップS5において、合成開始が指示された場合は、次フレーム合成を行う(S7)。ここでは、制御部11が画像処理部12に合成を指示し、画像処理部12は、次のフレームデータと合成を行なう。すなわち、最初に、このステップを実行する場合には、ステップS5で指示されたフレームの画像データを記録部13に一時記憶する。そして、後述するステップS13において、合成指示が継続していると判定され、動画データの次のフレームの画像データが読み出されると、この画像データと一時記憶された画像データとを用いて、画像合成を行う。以後、画像データが読み出される毎に、合成画像の画像データと読み出された画像データを用いて画像合成を行う。
ステップS7での合成は、平均化合成で、各画素に対して、次フレームの対応する画素値を平均化する。例えばn回目の合成の場合、合成画像の各画素値をOn−1、次フレームの各画素値をfnとすると合成画像Onは下記(式1)で求められる。
On=(On−1×n+fn)/(n+1) (式1)
On=(On−1×n+fn)/(n+1) (式1)
ステップS7において、次フレーム合成を行うと、次に、露光時間算出を行う(S9)。ここでは、制御部11は、合成枚数に応じた露光時間をシャッタ速度として算出する。例えば、動画の撮影のフレームレートが30fpsとすると、4枚のフレームが合成された場合には、シャッタ速度が1/8秒となる。
ステップS9において、露光時間を算出すると、合成画像の表示を行う(S11)。ここでは、表示制御部14は、ステップS11で合成された画像の画像データに、ステップS9で算出された露光時間(シャッタ速度)を示す画像を重畳させ、映像データに変換してモニタ2に出力する。
合成画像の表示を行うと、次に、合成指示が継続されているか否かを判定する(S13)。本実施形態においては、ユーザが合成を終了したいと思うまで、合成ボタン31を押し続けるようにしている。そこで、このステップでは、ユーザが合成ボタン31を押すのを止めたか否かを判定する。
ステップS13における判定の結果、合成ボタン31が押されたままである場合には、ステップS7に戻る。合成指示が継続している間は、制御部11は、所定の周期で次のフレームの画像データを読出し、画像処理部12に対して合成指示を行う。従って、合成指示継続している限り、所定周期で画像合成が繰り返し行われる。
なお、所定周期としては、例えば、1秒程度の時間であり、ユーザが合成結果表示から合成の効果の度合いやシャッタ速度を確認し、合成を継続するかを判断するための時間であればよい。また、本実施形態においては、合成指示は、合成ボタン31が押されている間としたが、これに限らず、合成ボタン31が操作されると合成が開始され、再度、合成ボタン31が操作されると合成が終了する等、他の設定方法であってもよい。
ステップS13における判定の結果、合成終了が指示された場合には、画像記録を行う(S15)。ここでは、制御部11は、画像処理部12に合成終了を指示し、画像処理12は、ステップS7で合成された合成結果を画像データとして、記録部13に記録する。なお、この時、ステップS9において算出したシャッタ速度をExif情報のシャッタ速度として画像データと合わせて記録する。また、撮影日時は、動画の撮影日時の情報と、再生時間から求められる時間にしても良い。さらに、画像合成に使用した元動画のフレーム番号等の情報を合せて静止画画像データの付帯情報(ヘッダ情報)として記録してもよい。
以上述べてきた様に、本実施形態によれば、ユーザは、画像合成によって生成された画像が表示されるので、スローシャッタの効果を確認しながら、合成期間を指示できる。
なお、合成処理は、本実施形態では平均化合成を行なっているが、単純な加算であっても構わないし、比較明合成や比較暗合成であっても構わない。平均化合成は、動画のフレーム画像の露出量が適正な場合に相応しく、単純加算合成は、動画のフレーム画像の露出量が不足している場合に相応しく、比較明合成はスローシャッタで得る画像の内、明るい部分の動きの軌跡を強調する場合に相応しく、また比較暗合成はスローシャッタで得る画像の内、明るい部分を消去し背景部分を強調する場合に相応しい。
また、合成処理にあたっては、被写界の明るさから合成方法を切替えても良い。例えば、適正露出がえられたフレームであれば、各画素を平均化する平均化合成を行い、暗いフレームである場合は、合成するほど画像が明るくなるように、加算合成を行なうようにしても良い。
前述の比較明合成は、基準画像と合成画像の各画素を比較して、合成画像の画素の方が高輝度の場合には、基準画像の画素を合成画像の画素に置き換える合成方法である。また、比較暗合成は、逆に、基準画像と合成画像の各画素を比較して、合成画像の画素の方が低輝度の場合には、基準画像の画素を合成画像の画素に置き換える合成方法である。
次に、図5ないし図7を用いて、本発明の第2実施形態について説明する。第1実施形態は、本発明を、画像表示装置1、モニタ2および操作リモコン3からなる画像表示システムに適用した例について説明した。第2実施形態においては、本発明を、操作部およびモニタ部と一体に設けられた端末装置に適用した例について説明する。
図5は、本実施形態に係る端末装置の外観を示す正面図である。この端末装置4は、タブレット端末の形状をしており、アプリケーションソフトを搭載していて、動画の画像データから静止画の画像データを生成する。
図5において、端末装置は、液晶パネル4aを有している。この液晶パネル4aに画像データに基づく画像4bが表示され、また操作部4cと合成操作部4dがアイコンで表示される。
図6は、端末装置の内部に設けられた主として電気的構成を示すブロック図である。本実施形態における端末装置は、図3に示した第1実施形態における画像表示装置1と比較し、第1実施形態におけるモニタ2と操作リモコン3が、端末装置に内蔵されている点が相違する。すなわち、本実施形態においては、端末装置内に操作部4c(合成操作部4dも含む)と表示部4aが追加されている。
図6において、操作部4c(合成操作部4dも含む)は、前述したように、アイコンが液晶パネル4a上に表示され、ユーザのタッチ操作を検知し、制御部41に出力する。なお、本実施形態においては、操作部はアイコン表示としたが、これに限らず、スイッチに連動する操作ボタンを配置し、この操作ボタンの操作状態を検知するようにしても構わない。
記録部43は、フラッシュメモリなどの不揮発性メモリを有し、画像データ等を記憶する。また、制御部41内のCPUを実行するためのプログラム等も記憶する。
画像処理部42は、本実施形態においては、比較明合成処理を行う。比較明合成は、基準画像と合成画像の各画素を比較し、輝度が高いほうの値に画素値を置き換えることにより比較明処理による合成画像を生成する。比較明合成を行うことにより、画像の中で明るい部分の動き(軌跡)を強調した撮影効果のある合成画像が生成される。画像処理部42は、フレーム画像と後続フレームに対応する画像とを、比較明合成処理をして、合成画像を生成する合成部として機能する。
なお、合成方法としては、比較明合成に限らず、他の方法、例えば、比較暗合成でも良いし、指定の色を採用する方式であっても良い。比較暗合成は、基準画像と合成画像の各画素を比較し、輝度が低いほうの値に画素値を置き換えることにより合成画像を生成する。比較暗合成を行うと、画像の中で暗い部分が強調され、移動する明るい部分が消失し、背景部分の画像となる。また、指定の色を採用する方式は、比較明合成や比較暗合成を行う際に、特定の色についてのみ比較明合成や比較暗合成の処理をする方式である。
本実施形態は、第1実施形態と同様にユーザは、操作部4cを操作することにより動画データの複数のフレームの中から所望のフレームを選択して、合成ボタン4dをタッチ操作すると、図7に示すように、後続フレームを順次合成する。
すなわち、図7は、月夜の下で、道路Roを走る車を撮影した動画を用いて、スローシャッタで撮影した静止画と等価となるように比較明合成処理で生成した画像の例である。画像P1は、ユーザが合成ボタン4dをタッチ操作した時点で取り込んだフレームデータに基づく画像である。この画像は1フレーム分の画像であることから、道路Roを走行する車のランプの軌跡La1は点状である。
画像P2は、画像P1に基づくフレーム画像に、後続する1フレーム分の画像データを比較明合成により生成した画像である。この画像P2は、2フレーム分の画像データを比較明合成していることから、車のランプの軌跡La2は少し延びている。画像P3は、画像P2とこの画像P2に後続するフレーム画像を用いて比較明合成し、画像P4は、更に画像P3と後続するフレーム画像を用いて、比較明合成した画像である。このように、後続するフレーム画像を順次合成することにより、光の軌跡が徐々に伸びていく。
表示制御部44は、比較明合成を行うたびに、合成結果の画像を表示部4aに表示する。ユーザは、表示部4aで合成結果を観察し、所望の軌跡になったところで合成を停止すれば良い。
このように、本実施形態においては、端末装置に記録されている動画の画像データを用いて、端末装置に備えられた操作部4cおよび表示部4aを用いて、動画の画像データからスローシャッタで撮影したのと等価な静止画を生成することができる。この場合、1フレームずつ画像を合成する度に合成画像が表示されることから、ユーザが所望するシャッタ速度に応じた撮影効果が付与された静止画を簡単に得ることができる。
次に、図8ないし図10を用いて、本発明の第3実施形態について説明する。第1および第2実施形態は、動画の画像データを記録部しておき、この画像データを用いて静止画を合成していた。第3実施形態においては、撮像部を有し、この撮像部によって動画の画像データを記録し、静止画を合成する。
図8は、本実施形態に係る撮像装置5の主として電気的構成を示すブロック図である。
撮像装置5は、被写体像を結像する光学系51と、結像された被写体像を電気信号(画像データともいう)に変換する撮像素子52を有する。撮像素子52によって変換された電気信号は、システムコントローラ54に出力される。撮像素子52は、被写体像に基づいて、動画データ又は静止画データを撮影して取得する撮像部として機能する。
撮像装置5は、被写体像を結像する光学系51と、結像された被写体像を電気信号(画像データともいう)に変換する撮像素子52を有する。撮像素子52によって変換された電気信号は、システムコントローラ54に出力される。撮像素子52は、被写体像に基づいて、動画データ又は静止画データを撮影して取得する撮像部として機能する。
システムコントローラ54は、CPU(Central Processing Unit)とその周辺回路を有し、不揮発性メモリに記憶されたプログラムに従って撮像装置5の全体を制御する。周辺回路としては、画像処理回路(画像合成回路を含む)や表示制御回路等を含む。
画像合成回路は、平均化合成、加算合成、比較明合成、比較暗合成等の各種画像合成が可能であり、またパターンマッチング法による位置合わせ処理等を行う。画像合成回路は、フレーム画像と後続フレームに対応する画像との位置ずれを調整する位置合わせ手段としても機能する(図10のS29参照)。この位置合わせ手段は、フレーム画像における被写体像と、後続フレームに対応する画像における被写体像の位置ずれ量を検出し、合成手段は、位置ずれ量に基づいて、後続フレームの画像位置をシフト移動してから合成する。
システムコントローラ54は、RAM(Random Access Memory)53、メモリカード55、操作スイッチ56、電子ビューファインダ57(EVF:Electronic View Finder)に接続されている。
RAM53は、電気的に書き換え可能なメモリであり、撮像素子52から出力された画像データや、システムコントローラ54内の画像処理回路によって処理された画像データを一時的に保持する。メモリカード55は、電気的に書き換え可能な不揮発性メモリであり、撮像装置5に装填自在である。このメモリカード55には、撮影済みの静止画や動画の画像データが記録される。また、記録された動画の複数フレームの画像データを用いて、合成された静止画の画像データも記録される。
操作スイッチは、撮影の開始や画像の再生を指示する操作ボタンと、これに連動するスイッチを有する。操作スイッチの操作状態は、システムコントローラ54に出力される。システムコントローラ54は、操作スイッチの操作状態に応じて、撮像装置5の制御を行う。
EVF57は、撮像装置5の背面に設けられた液晶モニタと、この表面に設けられたタッチセンサ等を有する。EVF57は、撮像素子52から出力された画像データに基づくライブビュー画像を表示し、またメモリカード55に記録された撮影画像を表示する。さらに、EVF57は、画像合成回路によって複数の動画の画像データから静止画に合成された画像データに基づいて、合成画像の表示を行う。また、EVF57は、モード設定等を行うためのメニュー画面の表示も行う。タッチセンサは、ユーザのタッチ操作を検出し、検出結果をシステムコントローラ54に出力する。
なお、本実施形態における各部は、第1および第2実施形態における操作部3は操作スイッチ56が相当し、制御部1、画像処理部2、および表示制御部4は、システムコントローラ54が相当し、記録部13はメモリカード55が相当する。
図9は、合成操作を行う場合のEVF57における表示を示す。撮像装置5のEVF57には、ユーザによって選択されたフレームまたは合成された画像が画像表示領域571に表示される。まず、ユーザ操作により、再生画像が選択された場合、システムコントローラ54は、メモリカード55から選択された画像データを読出し、一旦RAM53上に展開する。その後、図9(a)に示すように、EVF57の上部側の画像表示領域571に表示する。
また、EVF57の下部側には、フレーム選択領域572が設けられている。このフレーム選択領域572には、複数の動画のフレームが順番に配置されており、中央フレームに相当する画像のみが表示されている。ユーザがフレーム選択領域572を指で左右にスライドさせることにより、そのフレームを進めたり、戻したりすることができる。ユーザは、スライドさせながら、静止画合成のために追加したいフレームを選択することができる。
ユーザがフレーム選択領域572を指でスライドさせると、システムコントローラ54は、対応するフレームの画像データをRAM53から読み出し、表示を更新する。これにより、選択フレームの画像がEVF57上のフレーム選択領域の略中央に表示される。
ユーザは、静止画合成のための追加画像を選択すると、図9(b)に示すように、選択フレームを上にスライドさせる。このスライド操作すると、選択画像が画像合成する際に使用される。合成処理を行う場合に、システムコントローラ54内の画像合成回路は、まず、RAM53から合成画像を読み出す。そして、画像合成回路は、パターンマッチング領域574で示される部分が選択画像573と合成画像で一致するように位置を調整してから画像合成を行う。
画像合成回路によって、合成された画像は、画像表示領域571に表示される。また、システムコントローラ54は、合成画像の画像データをRAM53に一時保管する。一時保管された合成画像の画像データは、次に、選択画像が決まると、画像合成に使用する。
画像合成が終了すると、システムコントローラ54は、RAM53に一時保管された合成画像データを記録する形式に変換して、メモリカード55に記録する。
次に、図10に示すフローチャートを用いて静止画生成の動作について説明する。このフローチャートは、システムコントローラ54内のCPUがメモリに記録されているプログラムに従って、撮像装置5内の各部を制御することにより実行する。
静止画生成のフローが開始すると、まず、動画データの読み込みを行う(S21)。ユーザの操作スイッチ56を操作すると、システムコントローラ54はメモリカード55から動画データの読み込みを行い、RM53に動画データの一時保管を行う。
動画データの読み込みを行うと、動画像表示を行う(S23)。ここでは、システムコントローラ54が、動画データに基づいて、図9に示したような形式でEVF57に表示する。
次に、合成開始フレームの指定を行う(S25)。図9を用いて説明したように、ユーザは、フレーム選択領域572を左右にスライドし、一連の動画の中から静止画の合成を行う最初のフレーム(開始フレーム)を決定する。この決定は、開始フレームをユーザがタッチ操作する等によって行う。決定されたフレームの画像は、EVF57の画面の上部側の画像表示領域571に表示される。
合成開始フレームを指定すると、次に合成フレームの選択を行う(S27)。ユーザは、EVF57の画面上を指で左右にスライド操作することにより、画像を順次切り換え、静止画の合成のための選択画像573を指で上にスライド操作することにより指定することができる。このステップでは、指で上にスライド操作されたか否かを判定し、上にスライド操作された場合に、合成フレームの選択を行う。合成フレームの選択が行われると、選択画像573がEVF57の画面の上に移動し、画像表示領域571に大きく表示される。
合成フレームの選択を行うと、次に位置合わせを行う(S29)。ここでは、システムコントローラ54は、RAM53に一時保管した合成画像の合成フレームの中から、選択画像573のパターンマッチング領域574と一致する領域を検出する。このパターンマッチング領域574は、初期状態で中心付近の領域を使用するが、ユーザ指定により、所望の位置に変更しても良い。
位置合わせを行うと、次に、画像合成を行う(S31)。ここでは、システムコントローラ54内の画像処理回路が、ステップS29において検出したパターンマッチング領域と一致する部分が合うように画像の合成を行なう。画像合成としては、前述したような平均化合成処理、比較明合成処理、比較暗合成処理でもよく、また単純加算合成処理でもよい。
画像合成を行うと、合成画像の表示を行う(S33)。ここでは、ステップS31において合成された画像がEVF57の画面の上部側の画像表示領域571に表示される。
合成画像の表示を行うと、次に、合成指示が継続しているか否かを判定する(S35)。本実施形態においては、ユーザが合成を終了したい場合には、合成ボタン4dを再度、タッチする。そこで、このステップでは、ユーザが合成ボタン4dのタッチ状態に基づいて判定する。この判定の結果、合成ボタン4dが再度タッチ操作されていない場合には、合成指示が継続されると判断されて、ステップS27に戻る。合成指示が継続している間は、システムコントローラ54は、合成フレームが選択されるたびに、画像処理回路に対して合成指示を行う。従って、合成フレームが選択されるたびに画像合成が行われる。
一方、ステップS35における判定の結果、合成ボタン4dがタッチされ、合成を終了する場合には、画像記録を行う(S35)。ここでは、ステップS31において生成された合成画像の画像データをメモリカード55に記録し、静止画生成のフローを終了する。
このように、本実施形態では、合成手段は、合成指示手段から合成指示がなされる毎に(図10のS27参照)、選択手段によって選択されたフレーム画像と、合成手段によって合成処理された合成画像とを合成処理して(図10のS31参照)、合成画像を生成している。このため、撮影した動画像に基づいて、すぐに簡単な操作で、スローシャッタ効果を活かした静止画画像を生成できる。前述した第1および第2実施形態においては、撮像装置で動画を撮影した場合に、この動画の画像データを画像表示装置1、4の記録部13に転送した後、静止画を合成していた。しかし、この第3実施形態においては、撮像装置5で動画を撮影すると、この撮像装置5を用いて静止画画像を生成することができる。
次に、図11ないし図15を用いて、本発明の第4実施形態について説明する。前述の第1および第2実施形態においては、所定の時間間隔で読み出されるフレーム画像を用いて静止画の画像合成を行い、また第3実施形態においては、ユーザが選択した動画のフレーム画像を用いて静止画画像合成を行っていた。これに対して、第4実施形態では、画像生成装置が画像からカメラワークやシーンを検出して、その検出結果に基づいて、合成方式やフレームの間引き数を決定する。
図11を用いて、本実施形態におけるカメラワークの検出について説明する。図11に示す例では、四角の破線で示されるエリアAが9個、設けられている(図11では、9個のエリアの内、右上のエリアを代表として符号「A」を記載してある)。
後述する移動ベクトル検出部421は、このエリア内で連続するフレーム間での像のブレ量を検出し、これに基づいて移動ベクトルVを求める。エリアA内の矢印は、検出した移動ベクトルVであり、方向と長さで移動量を示している(図11では、9個の移動ベクトルの内、右上のエリアAの移動ベクトル代表として符号「V」を記載してある)。また、図11中で、エリアA1内の×は動きを検出できなかったことを示す。
また、本実施形態に係る画像生成装置は、顔検出機能を有し、画像中の顔が検出する。図11に示す例では、顔枠Fdによって検出された顔の位置(顔検出情報)を示す。この顔検出情報は、後述するように、シーンの判定に用いられる。
図11に示す例では、画像周辺の移動ベクトルの向きと長さが略等しく、また顔枠Fdによって示されるように、人の顔が検出されている。このことから、記録されている画像は、走る(又は歩く)人をパンニングで追いながら撮影した動画であることが検出できる。
図11に示されるような動画から静止画を生成する場合は、動画は流し撮りされていることから、第1実施形態で示した平均化合成を用いる。また、この例では、カメラの動きが大きいため、フレームの間引きは行なわない。
本実施形態におけるシーン検出では、移動ベクトルを使用して、検出を行なっている。しかし、この方法に限定されるものではなく、カメラワークが検出できれば良い。例えば、撮影時にカメラの動き情報(角速度など)を各フレームに関連付けて記録しておき、静止画等に合成する際に、動き情報を読み出して、その情報に基づいてカメラワークを検出するようにしても良い。
図12は、動画像から検出される移動ベクトルと時間の流れの関係を示した図である。図12に示す例では、移動ベクトルが一時的に大きくなった場合(時刻T1参照)は、シーンチェンジが考えられる。この場合、合成方式によっては、合成処理を停止するように制御しても良い。
また、一定期間以上、移動ベクトルが偏った状態が続く(図12の時刻T2〜T3参照)と、パンニング中であると判定することができる。移動ベクトルがほとんど0に近い場合は、止まっている被写体を捉えている状態と考えられる。
本実施形態においては、画像から得られる露出情報・移動ベクトル情報等を用いて、シーン検出を行い、合成方法や、フレーム間引き間隔を決定する。
次に、図13を用いて本実施形態における画像処理部の構成について説明する。本発明の全体的な電気的構成は、第1実施形態に係る図1のブロック図、第2実施形態に係る図6のブロック図、第3実施形態に係る図8のブロック図のいずれを採用してもよい。しかし、画像処理部42(図8においては、システムコントローラ内の画像処理回路)の内部を図13にブロック図のように構成する。他の実施形態では、画像処理部42は、合成を行なうのみであったが、本実施形態においては、画像合成に加えて、移動ベクトルの算出や合成方法、間引き間隔の決定を行なう。
図13は、本実施形態の画像処理部42の詳細を示すブロック図であり、移動ベクトル検出421と、間引き判定422と、シーン判定423と、画像合成424と、表示画像生成425とを有する。
移動ベクトル検出部421は、動画の画像データを読出し、エリアA内で連続するフレーム間での像のブレ量を検出し、これに基づいて移動ベクトルVを求める。このエリア毎に求めた移動ベクトルVは、間引き判定部422とシーン判定部423に出力する。移動ベクトル検出部421は、撮影時の撮像装置の動きを検出するカメラワーク検出手段として機能する。合成間隔指定手段(例えば、間引き判定部422参照)は、カメラワーク検出手段の検出結果に基づいて、間引き数を決定する。
間引き判定部422は、移動ベクトル検出部421によって検出された移動ベクトルを用いて、静止画を生成する際に、所定のフレームレートに従って連続的に出力されるフレーム画像を間引くか否か、また間引く場合の間引き率を判定する。フレームごとの変化が小さい場合には、間引き率を高くし、一方フレームごとの変化大きい場合には間引き率を低くするか間引きを行わない。間引き判定部422は、合成されるフレームである、複数の後続フレームに対して、間引きフレーム数を決定する合成間隔指定手段として機能する。合成手段は、合成間隔指定手段の指定に基づいて、合成フレームの間引きを行う。
シーン判定部423は、移動ベクトル検出部421によって検出された移動ベクトルと、画像データに基づく露出情報(輝度情報、輝度分布情報等)を用いてシーンの判定を行う(後述する図15の合成方式決定のS61、S65、S69等参照)。シーン判定部423は、選択フレームの画像から輝度分布情報を取得する映像情報取得手段として機能する。合成手段は、カメラワーク検出手段及び映像情報取得手段による検出結果のうち、少なくとも1つの情報を用いて、合成方法を決定する(後述する図15のS63、S67、S71、S73参照)。
画像合成部424は、間引き判定部422からの判定結果、シーン判定部423からの判定結果、および合成指示を入力し、画像合成を行う。本実施形態においては、図15を用いて後述するように、移動ベクトルの大きさ、画像の明るさ、高輝度画素の有無等に応じて、合成方法等を異ならせている。画像合成部424によって合成された合成画像の画像データは、表示画像生成部425に出力される。画像合成部424は、フレーム選択手段によって選択されたフレーム画像又は合成画像に対して、選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成手段として機能する。
画像合成部424は、フレーム画像と後続フレームに対応する画像とを、平均化合成処理をして、合成画像を生成する合成手段として機能する。また、画像合成部424は、フレーム画像と後続フレームに対応する画像とを、加算合成処理をして、合成画像を生成する合成手段として機能する。画像合成部424は、フレーム画像と後続フレームに対応する画像とを、比較明合成処理をして、合成画像を生成する合成手段として機能する。
表示画像生成部425は、画像合成部424からの画像データに基づいて、表示用の画像データを生成し、表示制御部に出力する。
次に、図14および図15に示すフローチャートを用いて、本実施形態における画像処理の動作について説明する。これらのフローチャートは、画像生成装置内のCPUがメモリに記録されているプログラムに従って、画像生成装置内の各部を制御することにより実行する。なお、ここでは、本実施形態の構成は、図3または図6に示されたブロック図が採用されている場合を例に挙げて説明する。
画像処理のフローが開始すると、まず動画データの読み込みを行う(S41)。ここでは、先ず動画記録部43に記録されている動画データを読み出す。
動画データの読み込みを行うと、次に、移動ベクトルを算出する(S43)。ここでは、移動ベクトル検出部421が、ステップS41において取得した画像を用いて、各フレーム間の移動ベクトルを算出する。この時、表示フレーム以外に、基準フレーム前後の数秒間の移動ベクトルを保持しておくことにより、シーンの判定精度を高くすることができる。
移動ベクトルを算出すると、次に、映像情報を取得する(S45)。ここで、基準フレームの映像情報を取得する。映像情報とは、全体的なフレームの明るさや、高輝度な点があるかなどの判定が出来る情報、例えば、輝度のヒストグラム等である。
映像情報を取得すると、次に、合成方式を決定する(S47)。ここでは、ステップS43で取得した移動ベクトルやステップS45で取得した映像情報を用いて、撮影シーンと合成方法を決定する。この合成方式の決定の詳しい動作については、図15を用いて後述する。
合成方式を決定すると、次に、フレーム間引き数を決定する(S49)。ここでは、間引き判定部422が、フレーム間の変化を算出し、間引きフレーム数を決定する。間引き数の決定方法の一例としては、フレーム間の色や輝度の異なる画素数をカウントし、所定の画素数の閾値を超えるフレームを検出する。閾値を超えない場合は、次のフレームで比較を行い、閾値を超えるまで繰り返す。この時、閾値を超えなかったフレーム数を間引きフレーム数とすればよい。
フレーム間引き数を決定すると、次に、画像合成を行う(S51)。ここでは、ステップS47において決定した合成方法と、ステップS49において決定したフレーム間引き数に基づいて、画像合成部424が画像の合成を行なう。
画像合成を行うと、次に、合成画像の表示を行う(S53)。ここでは、ステップS51において生成した合成画像をモニタ2や表示部4aに表示する。合成画像の表示を行うと、次に、合成指示が継続しているか否かを判定する(S55)。ここでは、第1〜第3実施形態と同様に、合成ボタンの操作に応じて判定する。この判定の結果、合成指示が継続している間は、合成と表示を所定の間隔または、ユーザ指示に応じて繰り返す。
一方、ステップS55における判定の結果、合成指示か終了したら、記録画像を生成する(S57)。ここでは、ステップS51で生成された合成画像を、記録する画像形式に変換して記録部43に記録する。
次に、図15に示すフローチャートを用いて、ステップS47における合成方式決定の動作について説明する。
合成方式決定のフローに入ると、先ず、移動ベクトルが大であるか否かを判定する(S61)。ここでは、移動ベクトル検出部421で検出した移動ベクトルが判定値より大であるか否かを判定する。この判定値は、基準フレームが前後の移動ベクトルに基づいて、パンニング中か否かを判定できる値であればよい。
ステップS61における判定の結果、移動ベクトルが大であった場合には、シーンは「流し撮り」であり、合成方法は「平均合成+位置合わせ」と合成方式を決定する(S63)。パンニング中であると判定されたことから、シーンは流し撮りとして、合成方法を平均化合成とし、位置あわせ処理を実施する。この合成方式の決定によって、パンニング中の動画から流し撮り画像を生成できる。
ステップS61における判定の結果、移動ベクトルが大でなかった場合には、映像全体が明るいか否かを判定する(S65)。ステップS61における判定の結果、パンニング中で無い場合であり、この場合には、画像データに基づいて、映像全体が明るいかを判別する。
ステップS65における判定の結果、映像全体が明るいと判定された場合には、シーンは「風景」であり、合成方法は「平均化合成」と合成方式を決定する(S67)。このような合成方式を決定することにより、滝や川の流れをにじませたり、撮影視野内を移動している人間や乗り物などを消去することができる。
ステップS65における判定の結果、映像全体が明るくないと判定された場合には、高輝度画素があるか否かを判定する(S69)。ここでは、画像データに基づいて、局所的に高輝度の画素があるか否かを判別する。シーンが夜景の場合には、街路灯、窓の明かり、月や星等、局所的に周囲より高輝度の被写体が存在する。このステップでは、このような高輝度の画素があるか否かを検出する。
ステップS69における判定の結果、高輝度画素がある場合には、シーンは「夜景撮影」であり、合成方法は「比較明合成」と合成方式を決定する(S71)。ここでは、夜景モードとして、比較明合成を行なうように、合成方式を決定する。なお、輝度差が無い画素に対して、平均化合成をするようにすれば、ノイズ低減効果があり、画質向上が期待できる。
ステップS69における判定の結果、高輝度画素がない場合には、シーンは「バルブ撮影」であり、合成方法は「加算合成」と合成方式を決定する(S73)。この場合には、バルブ撮影モードとして、加算合成を行なう。加算合成することで、暗い動画から、バルブ撮影したような画像を生成できる。
このように、本実施形態においては、画像生成装置が、自動的にシーンと合成方法を判定する。このため、ユーザは、基準となるフレームを選択して合成指示を行なうだけで、選択したシーンに適したスローシャッタ効果のある画像を生成できる。本実施形態における画像生成装置をデジタルカメラ内に搭載すれば、動画を撮影した後に簡単かつ迅速にスローシャッタ効果の画像をその場で確認しながら生成することができる。
なお、本実施形態においては、間引き判定部422は、移動ベクトル検出部421によって検出された移動ベクトルに基づいて判定していたが、これに限らず、ユーザが操作部(リモコン操作部3、操作部4c等)を操作することによって、手動で入力するようにしてもよい。この場合には、ユーザの意図に応じた間引きを行うことができる。また、本実施形態においては、間引きフレーム数の判定および合成方法の判定の両方を行っていたが(図14のS47、S49参照)、これに限らず、間引きフレーム数の判定のみを行ったり、合成方法の判定だけを行なうようにして勿論かまわない。
以上説明したように、本発明の各実施形態においては、合成指示手段により画像合成が指示された場合は、表示部に合成手段により合成した合成画像を表示させ、記録部に合成手段により合成した合成画像に基づいた、静止画データを記録させている。このため、ユーザは合成結果を確認しながら、動画から所望の効果が得られる画像を容易に作成できる。
また、本発明の第1、第2、第4の各実施形態において、合成手段は、合成指示手段から合成指示が継続している際には、所定の時間周期毎に、選択手段によって選択されたフレーム画像に対して、順次後続となるフレーム画像を合成処理して、合成画像を生成している。このため、ユーザは合成指示を継続するだけで、フレーム画像が読み出されるたびに、徐々に合成効果が増して行き、所望の効果が得られるタイミングで合成指示手段による合成指示を停止すればよい。
また、本発明の各実施形態において、合成手段は、フレーム画像と後続フレームに対応する画像とを、平均化合成処理をして、合成画像を生成している。このため、流し撮りや滝の流れを表現するようなスローシャッタ効果のある画像を得ることができる。
また、本発明の各実施形態において、合成手段は、フレーム画像と後続フレームに対応する画像とを、加算合成処理をして、合成画像を生成している。このため、動画からバルブ撮影を行ったような効果を得ることができる。
また、本発明の各実施形態において、合成手段は、フレーム画像と後続フレームに対応する画像とを、比較明合成処理をして、合成画像を生成している。このため、明るい部分の軌跡のある画像を生成することができる。
また、本発明の第3実施形態において、合成手段は、合成指示手段から合成指示がなされる毎に、選択手段によって選択されたフレーム画像と、合成手段によって合成処理された合成画像とを合成処理して、合成画像を生成している。このため、ユーザの意図に従った画像を選択的に用いて合成画像を生成することができる。
また、本発明の第4実施形態において、フレーム画像と後続フレームに対応する画像との位置ずれを調整する位置あわせ手段をさらに有し、位置あわせ手段は、フレーム画像における被写体像と、後続フレームに対応する画像における被写体像の位置ずれ量を検出し、合成手段は、位置ずれ量に基づいて、後続フレームの画像位置をシフト移動してから合成している。このため、動画から流し撮り画像を簡単に生成することができる。
また、本発明の第4実施形態において、合成されるフレームである、複数の後続フレームに対して、間引きフレーム数を決定する合成間隔指定手段(例えば、間引き判定部422参照)をさらに有し、合成手段は、合成間隔指定手段の指定に基づいて、合成フレームの間引きを行うようにしている。このため、間引き判定の結果に基づいて、合成フレームを間引きするので、合成しても変化が無い画像を除去することができる。
また、本発明の第4実施形態において、合成間隔指定手段は、操作入力部からのユーザの指定に基づいて決定するようにしている。このため、ユーザの意図に応じた間引きを行うことができる。
また、本発明の第4実施形態において、撮影時の撮像装置の動きを検出するカメラワーク検出手段(例えば、移動ベクトル検出部421参照)をさらに有し、合成間隔指定手段は、カメラワーク検出手段の検出結果に基づいて、間引き数を決定している。このため、カメラワーク検出手段によってパンニング中を検出した場合は、合成方法を平均化合成とし、フレーム間引きは行なわないことで、流し撮り画像生成に最適な合成ができる。
また、本発明の第4実施形態において、選択フレームの画像から輝度分布情報を取得する映像情報取得手段(例えば、シーン判定部423参照)をさらに有し、合成手段は、カメラワーク検出手段及び映像情報取得手段による検出結果のうち、少なくとも1つの情報を用いて、合成方法を決定している(例えば、図15参照)。このように、選択フレームから取得した輝度情報と、カメラワーク検出手段により取得したカメラワーク情報に基づいて、合成方法を決定するので、ユーザが特に合成方法の知識をもつことが無くても選択シーンに最適な合成画像を生成することができる。
また、本発明の第3実施形態において、被写体像に基づいて、動画データ又は静止画データを撮影して取得する撮像部を有している。このため、動画を撮影した際に、その場で、合成画像を生成し、確認することができる。意図するような合成画像が生成できなかった場合には、再度、意図する合成画像を生成するための動画を撮影することができる。
また、本発明の各実施形態において、入力される動画データ又は静止画データを読み込む読込ステップ(例えば、図4のS1参照)と、読込ステップにおいて読み込まれた画像データを表示する表示ステップ(例えば、図4のS3参照)と、フレーム画像の合成を指示する合成指示ステップ(例えば、図4のS5参照と、読込ステップにおいて読み込まれた動画データの中からフレーム画像を選択する選択ステップ(例えば、図4のS7、図10のS27参照)と、選択ステップによって選択されたフレーム画像又は合成画像に対して、選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成ステップ(例えば、図4のS7、図10のS31参照)を有し、上述の表示ステップは、合成指示ステップにより合成が指示された場合は、合成ステップにおいて合成した合成画像を表示させ(例えば、図4のS11参照)、さらに、合成指示ステップにより合成が指示された場合は、合成ステップにおいて合成した合成画像に基づいた、静止画データを記録させている(例えば、図4のS15参照)。このため、ユーザは合成結果を確認しながら、動画から所望の効果が得られる画像を容易に作成できる。
なお、本発明の各実施形態においては、制御部11、画像処理部12、表示制御部14、移動ベクトル検出部421、間引き判定部422、シーン判定部423、画像合成部424、表示画像生成部425等は、CPUとプログラムコードでソフトウエア的に実現してもよく、またDSP(Digital Signal Processor)等のプログラムコードで実行される回路で実現するようにしてもよく、ヴェリログ(Verilog)によって記述されたプログラム言語に基づいて生成されたゲート回路等のハードウエア構成でもよく、またハードウエア回路によって実行するようにしても勿論かまわない。
また、第3実施形態においては、撮像のための機器として、デジタルカメラを用いて説明したが、カメラとしては、デジタル一眼レフカメラでもコンパクトデジタルカメラでもよく、ビデオカメラ、ムービーカメラのような動画用のカメラでもよく、さらに、携帯電話、スマートフォン、携帯情報端末、パーソナルコンピュータ(PC)、タブレット型コンピュータ、ゲーム機器等に内蔵されるカメラでも構わない。いずれにしても、動画を記録可能な撮影のための機器であれば、本発明を適用することができる。
また、第1、第2、第4実施形態に開示された構成・作用についても第3実施形態に開示された撮像装置においても適宜適用してもよく、また第3実施形態に開示された構成・作用についても他の実施形態に適宜適用してもよい。
また、本明細書において説明した技術のうち、主にフローチャートで説明した制御に関しては、プログラムで設定可能であることが多く、記録媒体や記録部に収められる場合もある。この記録媒体、記録部への記録の仕方は、製品出荷時に記録してもよく、配布された記録媒体を利用してもよく、インターネットを介してダウンロードしたものでもよい。
また、特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず」、「次に」等の順番を表現する言葉を用いて説明したとしても、特に説明していない箇所では、この順で実施することが必須であることを意味するものではない。
本発明は、上記実施形態にそのまま限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素の幾つかの構成要素を削除してもよい。さらに、異なる実施形態にわたる構成要素を適宜組み合わせてもよい。
1・・・画像表示装置、2・・・モニタ、2a・・・シャッタ速度表示、3・・・操作リモコン、4・・・端末装置、4a・・・液晶パネル、4b・・・画像、4c・・・操作ボタン、4d・・・合成ボタン、5・・・撮像装置、31・・・合成ボタン、32・・・操作ボタン、51・・・光学系、52・・・撮像措置、53・・・RAM、54・・・システムコントローラ、55・・・メモリカード、56・・・操作スイッチ、57・・・EVF、421・・・移動ベクトル検出部、422・・・間引き判定部、423・・・シーン判定部、424・・・画像合成部、425・・・表示画像生成部、571・・・画像表示領域、572・・・フレーム選択領域、573・・・選択画像、574・・・パターンマッチング領域
Claims (14)
- 画像処理装置に入力される動画データ又は静止画データとなる画像データを記録する記録部と、
上記記録部に記録された画像データに対応する画像を表示する表示部と、
上記記録部に記録された動画データの中から基準フレーム画像を含む複数のフレーム画像を選択するフレーム選択手段と、上記選択された複数のフレーム画像に対して、画像合成を指示する合成指示手段とを含む操作入力部と、
上記フレーム選択手段によって選択されたフレーム画像又は合成画像に対して、選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成手段と、
を具備し、
上記表示部は、上記合成指示手段により画像合成が指示された場合は、上記合成手段により合成した合成画像を表示し、
上記記録部は、上記合成指示手段により画像合成が指示された場合は、上記合成手段により合成した合成画像に基づいた、静止画データを記録する、
ことを特徴とする画像処理装置。 - 上記合成手段は、上記合成指示手段から合成指示が継続している際には、所定の時間周期毎に、上記選択手段によって選択されたフレーム画像に対して、順次後続となるフレーム画像を合成処理して、合成画像を生成することを特徴とする請求項1に記載の画像処理装置。
- 上記合成手段は、フレーム画像と後続フレームに対応する画像とを、平均化合成処理をして、合成画像を生成することを特徴とする請求項1又は2に記載の画像処理装置。
- 上記合成手段は、フレーム画像と後続フレームに対応する画像とを、加算合成処理をして、合成画像を生成することを特徴とする請求項1又は2に記載の画像処理装置。
- 上記合成手段は、フレーム画像と後続フレームに対応する画像とを、比較明合成処理をして、合成画像を生成することを特徴とする請求項1又は2に記載の画像処理装置。
- 基準フレームの後続フレームから任意のフレームを選択する合成フレーム選択手段をさらに有し、
上記合成手段は、上記合成指示手段から合成指示がなされる毎に、上記合成フレーム選択手段によって選択されたフレーム画像と、上記合成手段によって合成処理された合成画像とを合成処理して、合成画像を生成することを特徴とする請求項1に記載の画像処理装置。 - フレーム画像と後続フレームに対応する画像との位置ずれを調整する位置あわせ手段をさらに有し、
上記位置あわせ手段は、フレーム画像における被写体像と、後続フレームに対応する画像における被写体像の位置ずれ量を検出し、
上記合成手段は、上記位置ずれ量に基づいて、後続フレームの画像位置をシフト移動してから合成する、
ことを特徴とする請求項1に記載の画像処理装置。 - 合成されるフレームである、複数の後続フレームに対して、間引きフレーム数を決定する合成間隔指定手段をさらに有し、
上記合成手段は、上記合成間隔指定手段の指定に基づいて、合成フレームの間引きを行うことを特徴とする請求項1に記載の画像処理装置。 - 上記合成間隔指定手段は、上記操作入力部からのユーザの指定に基づいて決定することを特徴とする請求項8記載の画像処理装置。
- 撮影時の撮像装置の動きを検出するカメラワーク検出手段をさらに有し、
上記合成間隔指定手段は、上記カメラワーク検出手段の検出結果に基づいて、間引き数を決定することを特徴とする請求項8に記載の画像処理装置。 - 選択フレームの画像から輝度分布情報を取得する映像情報取得手段をさらに有し、
上記合成手段は、上記カメラワーク検出手段及び上記映像情報取得手段による検出結果のうち、少なくとも1つの情報を用いて、合成方法を決定することを特徴とする請求項10に記載の画像処理装置。 - 被写体像に基づいて、動画データ又は静止画データを撮影して取得する撮像部と、
請求項1ないし11のいずれか1項に記載の画像処理装置と、
を有することを特徴とする撮像装置。 - 入力される動画データ又は静止画データを読み込む読込ステップと、
上記読込ステップにおいて読み込まれた画像データを表示する表示ステップと、
フレーム画像の合成を指示する合成指示ステップと、
上記読込ステップにおいて読み込まれた動画データの中から基準となるフレーム画像を選択する選択ステップと、
上記選択ステップによって選択されたフレーム画像又は合成画像に対して、上記選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成ステップと、
を有し、
上記表示ステップは、上記合成指示ステップにより合成が指示された場合は、上記合成ステップにおいて合成した合成画像を表示させ、
さらに、
上記合成指示ステップにより合成が指示された場合は、上記合成ステップにおいて合成した合成画像に基づいた、静止画データを記録させる記録ステップを有することを特徴とする画像処理方法。 - 入力される動画データ又は静止画データを記録する記録部を有する画像処理装置のコンピュータを実行させるためのプログラムにおいて、
上記記録部に記録された画像データを表示する表示ステップと、
上記記録部に記録された動画データの中から基準となるフレーム画像を選択する選択ステップと、
フレーム画像の合成を指示する合成指示ステップと、
上記選択ステップによって選択されたフレーム画像又は合成画像に対して、上記選択フレームに後続する1または複数のフレームを合成して1つの静止画画像を生成する合成ステップと、
を有し、
上記表示ステップは、上記合成指示ステップにより合成が指示された場合は、上記合成手段により合成した合成画像を表示させ、
さらに、上記合成指示ステップにより合成が指示された場合は、上記合成手段により合成した合成画像に基づいた、静止画データを記録させる記録ステップを有し、
上記各ステップを上記コンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016043237A JP2017163191A (ja) | 2016-03-07 | 2016-03-07 | 画像処理装置、撮像装置、画像処理方法、およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016043237A JP2017163191A (ja) | 2016-03-07 | 2016-03-07 | 画像処理装置、撮像装置、画像処理方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017163191A true JP2017163191A (ja) | 2017-09-14 |
Family
ID=59857461
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016043237A Pending JP2017163191A (ja) | 2016-03-07 | 2016-03-07 | 画像処理装置、撮像装置、画像処理方法、およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017163191A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019092018A (ja) * | 2017-11-14 | 2019-06-13 | オリンパス株式会社 | 撮像装置及び表示方法 |
JP2019121981A (ja) * | 2018-01-10 | 2019-07-22 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2020010140A (ja) * | 2018-07-05 | 2020-01-16 | オリンパス株式会社 | 撮像装置及び表示方法 |
WO2022195910A1 (ja) * | 2021-03-15 | 2022-09-22 | ソニーグループ株式会社 | 制御装置、制御方法、プログラム |
-
2016
- 2016-03-07 JP JP2016043237A patent/JP2017163191A/ja active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019092018A (ja) * | 2017-11-14 | 2019-06-13 | オリンパス株式会社 | 撮像装置及び表示方法 |
JP2019121981A (ja) * | 2018-01-10 | 2019-07-22 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP7102150B2 (ja) | 2018-01-10 | 2022-07-19 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2020010140A (ja) * | 2018-07-05 | 2020-01-16 | オリンパス株式会社 | 撮像装置及び表示方法 |
JP7097248B2 (ja) | 2018-07-05 | 2022-07-07 | Omデジタルソリューションズ株式会社 | 撮像装置及び表示方法 |
JP2022125117A (ja) * | 2018-07-05 | 2022-08-26 | Omデジタルソリューションズ株式会社 | 撮像装置及び撮像装置の制御方法 |
JP7371171B2 (ja) | 2018-07-05 | 2023-10-30 | Omデジタルソリューションズ株式会社 | 撮像装置及び撮像装置の制御方法 |
WO2022195910A1 (ja) * | 2021-03-15 | 2022-09-22 | ソニーグループ株式会社 | 制御装置、制御方法、プログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8446479B2 (en) | Photographing apparatus | |
JP5806623B2 (ja) | 撮像装置、撮像方法およびプログラム | |
US9838609B2 (en) | Image capturing apparatus, control apparatus and control method for controlling zooming function | |
US20110102621A1 (en) | Method and apparatus for guiding photographing | |
JP5872834B2 (ja) | 撮像装置、撮像方法および撮像プログラム | |
JP2008193342A (ja) | 撮像装置及びそのプログラム | |
US8593544B2 (en) | Imaging apparatus, imaging method, and computer-readable recording medium | |
JP5782813B2 (ja) | 撮像装置および画像表示方法 | |
JP6116299B2 (ja) | 撮像装置及びその制御方法 | |
JP4639965B2 (ja) | 撮像装置、画像処理方法及びプログラム | |
JP2008098754A (ja) | 撮像装置、画像再生装置および撮像画像の表示方法 | |
US9172874B2 (en) | Imaging apparatus and image generation method for generating one piece of image including a moving image and still image | |
JP2017163191A (ja) | 画像処理装置、撮像装置、画像処理方法、およびプログラム | |
US20140071307A1 (en) | Image generation apparatus, imaging apparatus comprising the same, image generation method, and storage medium storing image generation program | |
JP6980494B2 (ja) | 撮像制御装置およびその制御方法 | |
JP2007325152A (ja) | 撮像装置及びそのプログラム | |
JP6370146B2 (ja) | 画像処理装置およびその制御方法 | |
JP6242428B2 (ja) | 撮影装置および撮影方法 | |
JP5289354B2 (ja) | 撮像装置 | |
JP2008172676A (ja) | 画像合成装置、画像合成方法 | |
JP4378278B2 (ja) | 撮像装置 | |
KR101423918B1 (ko) | 피사체의 경계 영상을 표시하는 디지털 영상 처리장치 및그 제어방법 | |
JP5911253B2 (ja) | 撮像装置 | |
JP6929133B2 (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP2009049503A (ja) | デジタルカメラ、撮影方法及び撮影プログラム |