JP2006025312A - 撮像装置、及び画像取得方法 - Google Patents

撮像装置、及び画像取得方法 Download PDF

Info

Publication number
JP2006025312A
JP2006025312A JP2004203061A JP2004203061A JP2006025312A JP 2006025312 A JP2006025312 A JP 2006025312A JP 2004203061 A JP2004203061 A JP 2004203061A JP 2004203061 A JP2004203061 A JP 2004203061A JP 2006025312 A JP2006025312 A JP 2006025312A
Authority
JP
Japan
Prior art keywords
image
images
composite
imaging
imaging apparatus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2004203061A
Other languages
English (en)
Inventor
Kenji Nakamura
健二 中村
Shinichi Fujii
真一 藤井
Yasuhiro Kingetsu
靖弘 金月
Masaru Shintani
大 新谷
Masahiro Kitamura
雅裕 北村
Tsutomu Honda
努 本田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Photo Imaging Inc
Original Assignee
Konica Minolta Photo Imaging Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Photo Imaging Inc filed Critical Konica Minolta Photo Imaging Inc
Priority to JP2004203061A priority Critical patent/JP2006025312A/ja
Priority to US11/056,634 priority patent/US20060007327A1/en
Publication of JP2006025312A publication Critical patent/JP2006025312A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability

Abstract

【課題】簡単かつ安価な構成で所望の流し撮りによる効果が付与された画像を取得することができる技術を提供する。
【解決手段】撮影モードにおいて、流し撮りモード設定ボタン14の押下操作により流し撮りモードに設定された状態で、シャッターボタン13が押下操作されると、撮像センサ16を用いた連写によって複数の合成用画像が取得される。連写終了後、画像合成部30Aで、各合成画像間で相対的な位置が変化している動体に対応する部分画像(動体画像)を検出する。そして、当該検出されたそれぞれにおける動体画像の位置が略一致するように複数の合成用画像を用いて合成することで1フレームの合成画像を生成する。当該合成画像では、動体は静止している一方で、背景(その他のもの)は動体との相対的な位置関係のズレによって流れているように見える画像となる。
【選択図】図2

Description

本発明は、被写体に係る画像を取得する技術に関する。
疾走するレーシングカー等の動体を撮影する際、そのスピード感を強調するために、背景が流れているような画像を取得する”流し撮り”と言われる撮影手法が知られている。しかし、この撮影手法では、動体の動きに合わせて、手でカメラを振るといった不確実性の高い動きが必要となるため、熟練した者でなければ、所望の画像を得ることは難しい。
そこで、動体と撮影レンズとの間に可変頂角プリズムを配設し、露光時間中に、主被写体である動体の速度を検出するセンサの出力に対応した速度で、可変頂角プリズムの頂角を変更するカメラが提案されている(例えば、特許文献1)。このカメラでは、まず、速度センサを作動させて動体の速度検知を行い、プリズムの加速のために必要なプリズム頂角変化量だけ光軸から戻った位置を初期位置としてプリズムをセットしておき、その後、検知した速度に応じてプリズムの頂角を変更させつつ露光を行う。このような動作により、露光時間中には、主被写体に係る光像が撮影面の同一箇所に結像するように制御することができる。その結果、ユーザーが手を使ってカメラを横に振る等といった動作をする必要なしに、流し撮りによる効果と同様な効果が付与された画像を得ることができる。
このような技術に関する先行技術文献としては、以下のようなものがある。
特開平7−98471号公報
しかしながら、特許文献1で提案されているカメラでは、可変頂角プリズムや当該プリズムを駆動させるための機構や速度センサ等、特別な構成が必要であるため、カメラの大型化や製造コストの上昇を招いてしまう。
また、事前に被写体の動きが全く予想できない場合、1回限りのシャッターチャンスにおいては、予め動体の速度を検知することができず、プリズムの初期位置やプリズムの頂角変化の設定が間に合わないといったことも考えられる。したがって、撮影の失敗を招く可能性が高いとも言える。
本発明は、上記課題に鑑みてなされたものであり、簡単かつ安価な構成で所望の流し撮りによる効果が付与された画像を取得することができる技術を提供することを目的とする。
上記の課題を解決するために、請求項1の発明は、撮像装置であって、被写体に係る画像を取得する撮像手段と、前記撮像手段を用いて複数の画像を時間順次に取得する連写を実施させる撮影制御手段と、前記複数の画像に基づき、前記複数の画像の各画像について動体に対応する部分画像にあたる動体画像を検出する検出手段と、それぞれにおける前記動体画像の位置が略一致するように前記複数の画像を用いた合成処理を行うことで合成画像を生成する画像生成手段とを備えることを特徴とする。
また、請求項2の発明は、請求項1に記載の撮像装置であって、ユーザーによる一の操作に応答して撮影動作の開始指示を発する指示手段を備え、前記開始指示に応答して、前記撮影制御手段が前記連写を実施させるとともに、前記画像生成手段が前記合成処理を行うことで前記合成画像を生成することを特徴とする。
また、請求項3の発明は、請求項1又は請求項2に記載の撮像装置であって、所定の測光手段による測定結果に基づいて、所定の明るさを示す一の画像を取得するために必要な露光時間であるTconstを算出する算出手段を備え、前記複数の画像の数をK、前記複数の画像の各画像を取得するための露光時間をTrenとして、K≦Tconst/Trenの関係を満たすように構成されることを特徴とする。
また、請求項4の発明は、請求項1から請求項3のいずれかに記載の撮像装置であって、前記複数の画像のそれぞれに対応する複数のサムネイル画像を表示するサムネイル表示手段と、前記サムネイル表示手段に前記複数のサムネイル画像が表示された状態で、ユーザーの操作に基づき、前記複数のサムネイル画像のうちの一のサムネイル画像を指定する指定手段とを備え、前記画像生成手段が、前記合成画像において前記動体画像が占める位置と、前記指定手段によって指定された一のサムネイル画像において前記動体画像が占める位置とが略一致するように、前記合成処理を行うことを特徴とする。
また、請求項5の発明は、請求項3に記載の撮像装置であって、前記連写が、前記複数の画像の数であるKよりも多数の画像を取得する動作を含むことを特徴とする。
また、請求項6の発明は、請求項1から請求項5のいずれかに記載の撮像装置であって、ユーザーによって操作されることで、前記撮像装置のモードの設定状態を、前記合成画像を生成する所定のモードに設定された状態に切り替える操作部材を備えることを特徴とする。
また、請求項7の発明は、請求項6に記載の撮像装置であって、前記撮像手段によって取得される画像に基づいて生成される表示画像を表示する手段を備え、前記所定のモードに設定されている場合、前記表示画像が、前記撮像手段によって取得された画像の一部の領域に対応する画像であることを特徴とする。
また、請求項8の発明は、請求項7に記載の撮像装置であって、前記画像生成手段が、画像において前記動体画像が占める位置が略一致するように、前記複数の画像の各画像から前記動体画像を含む所定サイズの部分画像を被合成画像として抽出する抽出手段と、前記抽出手段によって抽出された複数の被合成画像の合成処理を行うことで前記合成画像を生成する手段とを有することを特徴とする。
また、請求項9の発明は、画像取得方法であって、(a)所定の撮像手段を用いて複数の画像を時間順次に取得する連写を実施させるステップと、(b)前記複数の画像に基づき、前記複数の画像の各画像について動体に対応する部分画像にあたる動体画像を検出するステップと、(c)それぞれにおける前記動体画像の位置が略一致するように前記複数の画像を用いた合成処理を行うことで合成画像を生成するステップとを備えることを特徴とする。
請求項1から請求項9のいずれに記載の発明においても、連写によって被写体に係る複数の画像を取得して、各画像について動体に対応する部分画像を検出し、当該検出された各部分画像の位置が略一致するように複数の画像を用いた合成処理を行うことで1フレームの合成画像を生成するような構成とすることで、簡単かつ安価な構成で、高度なテクニックを駆使することなく容易に所望の流し撮りによる効果が付与された画像を取得することができる。
また、請求項2に記載の発明によれば、ユーザーによる撮影動作を開始させるための一の操作に応答して、連写及び合成処理が行われて合成画像が生成されるため、簡単な操作で所望の流し撮りによる効果が付与された画像を取得することができる。
また、請求項3に記載の発明によれば、所定の明るさを示す1フレームの画像を取得するために必要な露光時間をTconst、連写により取得される複数の画像の数をK、当該複数の画像の各画像を取得するための露光時間をTrenとして、K≦Tconst/Trenの関係を満たすような構成とすることで、複数の画像の数であるKが比較的小さくなるため、連写により取得される複数の画像を記憶するための記憶容量が小さくて済む。また、連写におけるフレームレートが比較的遅くても済む。
また、請求項4に記載の発明によれば、連写により取得される複数の画像のそれぞれに対応する複数のサムネイル画像を表示させた状態で、ユーザーの操作に基づいて一のサムネイル画像が指定されると、当該一のサムネイル画像の構図と略同一の構図を有する合成画像が生成されるため、所望の構図の合成画像を取得することができる。
また、請求項5に記載の発明によれば、合成処理に用いられる複数の画像の数であるKよりも多数の画像を連写によって取得することで、所望の構図に近いK枚の画像を抽出して合成すること等もできるため、所望の構図が後から変わった場合等でも、他の複数の画像の合成によりフォローすることができる。
また、請求項6に記載の発明によれば、撮像装置のモードの設定状態を、合成画像を生成する所定のモードに設定された状態に切り替える操作部材が設けられているため、必要な時に容易に合成画像を生成するモードに設定することができる。
また、請求項7に記載の発明によれば、合成画像を生成するモードでは、撮像手段によって取得された画像の一部の領域に対応する表示画像が表示されることで、表示画像に従った構図の合成画像を生成すべく複数の画像を合成する際に、画像同士が重ならないエリアの発生を低減することができるため、合成画像の画質劣化を抑制することができる。
また、請求項8に記載の発明によれば、動体に対応する部分画像が占める位置がそれぞれ略一致するように、複数の画像の各画像から動体に対応する動体画像を含む所定サイズの部分画像を被合焦画像として抽出し、それぞれにおける動体画像の位置が略一致するように複数の被合焦画像を合成することで1フレームの合成画像を生成するような構成とすることで、複数の画像を合成する際に、画像同士が重ならないエリアの発生を防止することができるため、合成画像の画質劣化を更に抑制することができる。
以下、本発明の実施形態を図面に基づいて説明する。
<第1実施形態>
<撮像装置の概要>
図1は、本発明の第1実施形態に係る撮像装置1Aの外観を示す図である。ここで、図1(a)〜(c)は、それぞれ撮像装置1Aの正面図、背面図及び上面図に相当している。
撮像装置1Aは、デジタルカメラとして構成されており、その前面に撮影レンズ10を備えている。また、撮像装置1Aは、その上面にモード切替スイッチ12、シャッターボタン13、及び流し撮りモード設定ボタン14が設けられている。
モード切替スイッチ12は、被写体を撮像してその静止画を記憶するモード(撮影モード)と、メモリカード9(図2参照)に記憶された画像を再生するモード(再生モード)と、OFFモードとを切替えるためのスイッチである。
流し撮りモード設定ボタン14は、通常のデジタルカメラと同様に単に1回の露光により被写体を撮像して1フレームの静止画を取得してメモリカード9に記憶するモード(通常撮影モード)と、流し撮りと同様な効果が付与された静止画を取得してメモリカード9に記憶するモード(流し撮りモード)との間でモードの切り替えを行うボタンである。そして、撮影モードに設定されている状態で、流し撮りモード設定ボタン14が押下される毎に、通常撮影モードと流し撮りモードとの間でモードが順次切り替えられる。つまり、流し撮りモード設定ボタン14は、ユーザーによって押下操作されることで、撮像装置1Aのモードの設定状態を、流し撮りモードに設定された状態に切り替える専用の操作部材として機能する。
シャッターボタン13は、半押し状態(S1オン)と、さらに押し込まれた全押し状態(S2オン)とを検出可能な2段階スイッチになっている。上記の撮影モードにおいてシャッターボタン13が半押しされると、ズーム・フォーカスモータドライバ47(図2参照)が駆動されて、合焦位置に撮影レンズ10を移動させる動作が行われる。更に、撮影モードにおいてシャッターボタン13が全押しされると、本撮影動作、つまりメモリカード9へ記憶するための画像を取得する撮影動作が行われる。ここでは、ユーザーによるシャッターボタン13の1回の全押し操作に応答して、S2オンとなると、撮影動作を開始する指示(撮影開始指示)が、シャッターボタン13からカメラ制御部40A(図2参照)に対して発せられる。
撮像装置1Aの背面には、撮影された画像などを表示するLCD(Liquid Crystal Display)モニタ42と、電子ビューファインダー(EVF)43と、コマ送り・ズームスイッチ15とが設けられている。
コマ送り・ズームスイッチ15は、4つのボタンで構成され、再生モードにおける記憶画像のコマ送りや、撮影時のズーミングを指示するためのスイッチである。このコマ送り・ズームスイッチ15の操作により、ズーム・フォーカスモータドライバ47が駆動されて、撮影レンズ10に関する焦点距離を変更できる。
図2は、撮像装置1Aの機能ブロックを示す図である。
撮像装置1Aは、撮像センサ16と、撮像センサ16にデータ伝送可能に接続する画像処理部3と、画像処理部3に接続するカメラ制御部40Aとを備えている。
撮像センサ16は、R(赤)、G(緑)、B(青)の原色透過フィルターがピクセル毎に配されることで、RGBの原色透過フィルターが市松状に配列(ベイヤー配列)されたエリアセンサ(撮像素子)として構成されている。この撮像センサ16は、被写体に係る光像を撮像面に結像させることで、被写体に係る画像信号(「画像」とも称する)を取得する撮像手段として機能する。
また、撮像センサ16は、C−MOSタイプの撮像素子であり、タイミングジェネレータ(TG)、相関2重サンプリング器(CDS)、及びアナログ/デジタル変換器(A/D)が内蔵されている。TGは、センサー駆動制御部46による制御信号に基づいて、撮像センサ16の各種駆動タイミングを制御し、CDSは、撮像センサ16で取得されるアナログ画像信号についてサンプリングによるノイズ除去を行い、A/Dは、アナログ画像信号をデジタル化する。
更に、撮像センサ16では、各水平ライン毎にCDS、A/Dが設けられ、水平ライン毎に分割した読出し(ライン分割読出し)が可能であるため、高速での読出しが可能となっている。ここでは、毎秒300フレーム(300fps)分の画像信号の読出しが可能となっているものとする。
本撮影前において、被写体を動画的態様でLCDモニタ42に表示するプレビュー表示(ライブビュー画像の表示)時には、絞り44の光学絞りが絞りドライバ45によって開放固定となる。また、シャッタースピード(SS)に相当する撮像センサ16の電荷蓄積時間(露光時間)に関しては、撮像センサ16で取得したライブビュー画像に基づき、カメラ制御部40Aが露出制御データを演算する。そして、カメラ制御部40Aの制御下で、算出された露出制御データと予め設定されたプログラム線図とに基づいて、撮像センサ16の露光時間が適正となるように撮像センサ16に対するフィードバック制御が行われる。
カメラ制御部40Aは、ライブビュー画像の画素値に基づいて被写体に係る輝度(被写体輝度)を測定する測光手段としての機能を有する。そして、カメラ制御部40Aは、例えば、測定結果たる被写体輝度(例えば、G色フィルターが配された全画素値の平均値等)に基づいて、予め設定された所定の画素値(明るさ)を示す1フレームの画像を得るために必要な露光時間(Tconst)を算出する。
撮像装置1Aでは、通常撮影モードに設定されている場合には、1回のシャッターボタン13の全押し操作(レリーズ操作)に応答して、1回の露光による撮影を行う。一方、流し撮りモードに設定されている場合には、通常1回の露光により撮影を行うところを、複数回に分割して露光を行い、当該複数回の露光にそれぞれ対応する複数フレーム分の画像(以下「合成用画像」とも称する)を取得する。その後、設定されたルールに沿って複数の合成用画像を合成して1フレーム分の画像(以下「合成画像」とも称する)を生成する。そのため、流し撮りモードでは、カメラ制御部40Aにおいて、露光時間(Tconst)に基づき、分割後の1回分の露光(分割露光)の露光時間(Tren)と露光回数(K:Kは自然数)とを算出する。なお、ここでは、カメラ制御部40A内のROM等に、TconstとTrenとKとを関連付けたLUT(Look-Up Table)が格納されているものとする。
また、絞り44はメカニカルシャッターを兼用し、本撮影時には、上述のごとく算出される露出制御データと予め設定されたプログラム線図とに基づいて絞り値が求められ、絞りドライバ45により絞り44の開放度合いが制御されて、撮像センサ16での露光量が調整される。流し撮りモード時には、基本的に撮像センサ16の電子シャッターにより露光量を決める。
そして、撮像センサ16では、露光に応じた光電変換による電荷(電荷信号)の蓄積が読出しゲートの操作により完了し、読み出される。なお、この読出し時には、ライン分割読出しが行われ、ライン毎にCDS及びA/Dによる処理が実施され、撮像センサ16から出力されるデジタル変換された画像信号(画像データ)に対して画像処理部3で所定の画像処理が施されて、画像ファイルが生成される。
画像処理部3は、画素補間部29、デジタル処理部3p、及び画像圧縮部35とを備えている。また、画像処理部3は、測距演算部36、OSD部37、ビデオエンコーダ38、及びメモリカードドライバ39を備えている。
デジタル処理部3pは、画像合成部30A、解像度変換部31、ホワイトバランス(WB)制御部32、ガンマ補正部33、及びシェーディング補正部34を有している。
画像処理部3に入力された画像データは、撮像センサ16の読出しに同期し画像メモリ41に書込みまれる。以後は、この画像メモリ41に格納された画像データにアクセスし、画像処理部3で各種の処理が行われる。なお、流し撮りモードに設定されている場合には、1回のレリーズ操作に応答して、期間Tconstのうちに露光時間がTrenであるK回の露光による時間的に連続した撮影動作(連写)を行い、Kフレームの合成用画像が時間順次に画像メモリ41に書き込まれる。
画像メモリ41内の画像データについては、まず画素補間部29においてRGB各画素がそれぞれのフィルターパターンでマスキングされた後、高帯域まで画素値を有するG画素については、メディアン(中間値)フィルタで周辺4画素の中間2値の平均値を算出して補間する。また、R画素及びB画素に関しては、周囲の同色の画素値の平均値を算出して補間する。
画像合成部30Aは、流し撮りモードに設定されている場合に、画素補間部29で画素補間された複数の合成用画像を用いて、設定された構図となるように合成処理を行い、1フレーム分の合成画像データ(合成画像)を生成する。構図の設定については後述する。なお、通常撮影モードに設定されている場合には、画像合成部30Aでは処理が行われない。
画素補間部29で画素補間された画像データ(画像)、又は画像合成部30Aで生成された合成画像は、解像度変換部31で水平垂直の縮小又は間引きが行われ、設定された記憶用の画素数への解像度変換が行われる。また、モニタ表示用についても、解像度変換部31で画素の間引きが行われて、LCDモニタ42やEVF43に表示するための低解像度の画像が作成される。
解像度変換部31で解像度変換された画像データは、WB制御部32によりRGB各画素が独立にゲイン補正されるホワイトバランス補正が行われる。このWB制御部32では、例えば、撮影被写体から本来白色となる部分を輝度や彩度データ等から推測し、その部分のR、G、Bそれぞれの平均値とG/R比及びG/B比とを求め、これらの情報に基づいてR及びBの補正ゲインを設定してホワイトバランス補正を行う。
WB制御部32によりホワイトバランス補正された画像データは、シェーディング補正部34でシェーディング補正が施された後、ガンマ補正部33により各出力機器に合った非線形変換、具体的にはガンマ補正及びオフセット調整が行われ、画像メモリ41に格納される。
そして、プレビュー表示時には、画像メモリ41から読出された640×240画素の低解像度画像がビデオエンコーダ38でNTSC/PALにエンコードされ、これをフィールド画像としてLCDモニタ42やEVF43で画像再生する。
一方、画像をメモリカード9に記憶する時(画像記憶時)には、画像メモリ41に格納された画像データは、画像圧縮部35で圧縮処理が行われた後、メモリカードドライバ39にセットされるメモリカード9に記憶される。このとき、指定された解像度の撮影画像がメモリカード9に記憶されるとともに、再生表示用のスクリーンネイル画像(VGA)が作成され、上記の撮影画像にリンクされてメモリカード9に記憶される。そして、画像再生時には、スクリーンネイル画像をLCDモニタ42に表示することで高速な画像表示が可能となる。
測距演算部36では、画像メモリ41に格納される画像データの一部の領域を対象として、隣接画素の画素値の差分の絶対値の総和を、合焦状態を評価するための評価値(合焦評価値)として算出する。そして、本撮影直前のS1オンの状態において、カメラ制御部40Aと測距演算部36とが協働することで、撮影レンズ10内のフォーカスレンズを光軸方向に駆動させつつ、合焦評価値が最大となるフォーカスレンズ位置を検出するオートフォーカス制御(AF)が行われる。
OSD(オン・スクリーン・ディスプレイ)部37は、各種の文字、記号及びフレーム等を生成し、表示画像の任意位置に重ねることが可能である。このOSD部37により、LCDモニタ42には各種の文字、記号及びフレーム等が必要に応じて表示できる。
カメラ制御部40Aは、CPU、ROM及びRAMを備え、撮像装置1Aの各部を統括的に制御する部位である。具体的には、上記のモード切替スイッチ12やシャッターボタン13や流し撮りモード設定ボタン14等を有するカメラ操作スイッチ50に対してユーザーが行う操作入力を処理する。したがって、例えば、カメラ制御部40Aによる制御下で、ユーザーが流し撮りモード設定ボタン14を押下操作することで、流し撮りモードを含む複数のモード間(ここでは、通常撮影モードと流し撮りモードとの間)で、モードの設定状態が切り替わる。
<流し撮りモード>
列車や車等、移動している物体を主要な被写体(主被写体)として、移動している物体は動かずに、背景が流れているように見える画像を取得する”流し撮り”は、移動中の物体を追いかけるように手でカメラを振って撮影を行う高等テクニックである。よって、素人にとっては流し撮りによって所望の画像を得ることは難しい。
そこで、本発明の第1実施形態に係る撮像装置1Aでは、流し撮りモードに設定することで、撮像装置1Aを手で振ることなく、流し撮りと同様な効果が付与された画像を取得することができるようになっている。
まず、流し撮りモードの概要について説明する。
図3は、流し撮りモードにおける連写によって得られる画像を例示する図である。
撮像装置1Aが流し撮りモードに設定されている状態で、例えば、トラックが左方から右方へ移動していくようなシーンを、撮像装置1Aを手で振ることなく固定して撮影すると、露光時間がTrenであるK回(ここでは、K=4)の露光による連写により、図3(a)〜(d)に示すような4フレームの合成用画像P1〜P4が取得される。連写終了後、4フレームの合成用画像のうちの一の合成用画像が構図の基準となる画像(構図基準画像)として指定される。すると、画像合成部30Aにおいて、4フレームの画像の違いから移動している動体をとらえた部分画像(以下「動体画像」とも称する。図3に示す画像については、動体であるトラックに対応する動体画像TR)が検出される。そして、画像合成部30Aにおいて、それぞれにおける動体画像TRの位置が略一致するように、構図基準画像として指定された一の合成用画像に対して、他の合成用画像が合わせ込まれて合成される合成処理が行われることで、1フレームの合成画像が生成される。したがって、生成された合成画像において動体画像TRが占める位置と、構図基準画像において動体画像TRが占める位置とが略一致する。
なお、ここで言う「それぞれにおける動体画像TRの位置が略一致するように合成すること」は、理想的には「動体の同一の部分に係る各画像の位置が完全に合致するように合成すること」、すなわち「それぞれにおける動体画像TRの位置が完全一致するように合成すること」である。但し、撮像装置1Aによってとらえられる動体の種類や状態によっては、当該動体の形状や形態は刻々と変化する場合がある。そのような場合には、複数の合成用画像について、動体の同一の部分に係る各画像の位置を完全に合致させることはできないため、動体の同一の部分に係る各画像の位置がほぼ合致するような合成処理を行わざるを得ない。したがって、ここでは、「動体の同一の部分に係る各画像の位置がほぼ合致するように合成すること」を含む表現として「それぞれにおける動体画像TRの位置が略一致するように」という文言を使用している。
ここで、例えば、図3(a)〜(d)に示す4フレームの合成用画像P1〜P4のうち、図3(c)に示す合成用画像P3が構図基準画像として後述するように指定された場合には、画像に占める動体画像TRの位置(すなわち構図)が、図3(c)に示す合成用画像P3と同様となるように、合成用画像P3に対して、他の合成用画像P1,P2,P4が合わせ込まれて、図4に示すような合成画像RPが生成される。この合成画像RPは、動体であるトラックは静止している一方で、背景(その他のもの)はトラックとの相対的な位置関係によって流れているように見える画像となる。
<流し撮りモードにおける動作>
図5は、流し撮りモードにおける撮像装置1Aの動作フローを示すフローチャートである。本動作フローは、カメラ制御部40Aの制御下で実現され、撮影モードにおいて、流し撮りモード設定ボタン14がユーザーによって押下操作されることで、流し撮りモードに設定されると、流し撮りモードにおける動作フローが開始され、図5のステップS1に進む。なお、撮影モード選択時に、ライブビュー表示状態となる。
ステップS1では、ユーザーにより、シャッターボタン13が半押しされた状態(S1オン)となったか否か判定する。このステップS1では、S1オンとなるまでステップS1の判定を繰り返し、S1オンとなるとステップS2に進む。
ステップS2では、S1オンとなったことに応答して、オートフォーカス制御(AF)、自動露光制御(AE)が行われて、露光時間(Tconst)が算出されるとともに、連写における露光時間(Tren)と露光回数すなわち合成枚数(K)とが設定され、ステップS3に進む。
このステップS2では、例えば、AEによって算出された露光時間(Tconst)に基づいて、K=Tconst/Trenの関係を満たすようなKとTconstとTrenとの関係を示すROM内のLUTから、対応する露光時間(Tren)と露光回数(K)とが読出されて、連写用のパラメータとして設定される。ROM内のLUTでは、例えば、Tconst=1/15秒に対しては、K=10、Tren=1/150秒が関連付けられ、Tconst=1/4秒に対しては、K=10、Tren=1/40秒が関連付けられるといった具合に、TconstとKとTrenとが関連付けられて記憶されている。
ステップS3では、ユーザーにより、シャッターボタン13が全押しされた状態(S2オン)となったか否か判定する。このステップS3では、S2オンとなるまでステップS2に戻ってはステップS2及びステップS3の処理を繰り返し、S2オンとなるとステップS4に進む。なお、S2オンとなると、シャッターボタン13からカメラ制御部40Aに対して撮影開始指示が発せられる。
ステップS4では、撮影開始指示に応答して、ステップS2における設定に応じた連写を行い、Kフレーム(一般的には複数フレーム)の合成用画像を時間順次に取得して画像メモリ41に一時的に記憶し、ステップS5に進む。なお、このステップS4における連写では、撮像センサ16において露光時間Trenの各露光に対応した画像の読出しが行われるが、この画像の読出し間隔(フレームレート)が、Tconst/Kとなるように設定される。例えば、Tconst=1/15秒、K=10、Tren=1/150秒である場合には、フレームレートが1/150秒に設定される。
ステップS5では、画像メモリ41に一時的に記憶された複数フレームの合成用画像に係るサムネイル画像を連写直後にLCDモニタ42に表示するように設定されているか否か判定する。連写直後にサムネイル画像を表示するか否かの設定は、S1オンになる前に、ユーザーがカメラ操作スイッチ50を種々操作することで実施することができる。そして、このステップS5では、サムネイル画像をLCDモニタ42に表示するように設定されている場合には、ステップS6に進み、表示するように設定されていない場合には、ステップS8に進む。
ステップS6では、画像メモリ41に一時的に記憶された複数フレームの合成用画像のそれぞれに対応する複数のサムネイル画像がLCDモニタ42上に空間順次に並べられて表示され、ステップS7に進む。例えば、図3で示した4フレームの合成用画像が画像メモリ41に記憶されている場合には、図6に示すように、図3(a)〜(d)にそれぞれ対応する4つのサムネイル画像が同時にLCDモニタ42上に表示される。
ステップS7では、複数の合成用画像に係るサムネイル画像がLCDモニタ42に表示された状態で、ユーザーによるカメラ操作スイッチ50の操作に応答して構図が設定され、ステップS9に進む。このステップS7では、ユーザーによる操作に応答して、複数のサムネイル画像のうちの1つのサムネイル画像が指定されることで、指定されたサムネイル画像に係る合成用画像が構図基準画像として指定され、結果として構図が設定される。例えば、図6に示すように、ユーザーがカメラ操作スイッチ50を操作することで、太枠カーソルCSを所望のサムネイル画像に合わせて選択することで、1つのサムネイル画像が指定される。
ステップS8では、画像メモリ41に一時的に記憶された複数フレームの合成用画像のうち、動体画像が最も画像の中央近くに位置する合成用画像が構図基準画像として指定されることで、構図が設定され、ステップS9に進む。このステップS8では、例えば、パターンマッチング等の手法により、複数フレームの合成用画像の違いを検出することで、複数フレームの合成用画像について動体画像を検出し、合成用画像に占める動体画像の位置が画像の中央に最も近い合成用画像が抽出される。そして、抽出された合成用画像が構図基準画像として指定されることで、最終的に生成される合成画像の構図が設定される。このように、デフォルトの設定により、動体画像が最も中央(より一般的には所定位置)近くに位置する合成用画像に係る構図が自動的に設定されることで、構図を選択する手間(煩雑な操作)を省くことができる。
ステップS9では、ステップS7又はステップS8において設定された構図に従って、合成用画像を用いた合成処理による合成画像の生成、及び当該合成画像のメモリカード9への記憶(記憶処理)が実施され、ステップS1に戻る。
このステップS9では、図3及び図4で示したように、構図基準画像として指定された合成用画像(例えば、図3(c)で示した合成用画像P3)に対して、各動体画像の位置が略一致するように、他の合成用画像(例えば、図3で示した合成用画像P1,P2,P4)を合わせ込むような合成処理が行われる。そうすることで、1フレームの合成画像(例えば、図4で示した合成画像RP)が生成される。換言すれば、動体画像の位置合わせを行いつつ、合成処理が行われて1フレームの合成画像が生成される。
この合成処理では、各合成用画像間における動体画像の相対的な位置関係の変化量が小さな場合には、単に複数の合成用画像を合成するだけで、背景等の動体以外の物体が自然に流れているように見える画像を生成することができる。
しかし、各合成用画像間における動体画像の相対的な位置関係の変化量が大きな場合には、単に複数の合成用画像を合成しただけでは、背景等の動体以外の物体が自然に流れているように見える画像を生成することができない。したがって、このような場合には、このステップS9では、各合成画像間における動体画像の相対的な位置関係の変化、すなわち動体の動きを示すベクトル(動きベクトル)を検出し、その動きベクトルに応じて主被写体以外の物体が流れているように見える画像となるように、画像処理を付加する。
また、ステップS7又はステップS8において設定された構図に従って、単に合成用画像を合わせ込んで合成画像を生成すると、合成画像の周縁部付近において、合成した全合成用画像が相互に重なり合わない部分が生じる。例えば、図3(a)〜(d)で示された合成用画像P1〜P4が取得されて、図3(c)の構図が設定された場合には、各動体領域TRの位置が一致するように合成処理を行うと、図3(a),(b)で示した合成用画像P1,P2は、合成用画像P3の左端付近とは重なり合わない。よって、図3(c)の構図に従って、単に図3(a)〜(d)の合成用画像を合成しただけでは、全合成用画像が相互に重なり合わない部分が生じてしまう。そして、このような合成用画像が相互に重なり合わない領域を、そのまま放置しておくと、当該部分の輝度が不自然に低くなってしまい、シェーディングとなってしまう。
そこで、合成用画像が相互に重なり合わない領域については、通常のシェーディング補正と同様な画素値を増幅させる補正を行うことで、輝度が不自然に低くなってしまう領域の発生を防止する。具体的には、例えば、4フレームの合成用画像を合成して1フレームの合成画像を生成する場合、単に合成した後に、nフレーム(nは自然数)の合成用画像が重ならない領域については、画素値を4/(4−n)倍に増幅させる補正を施す。更に、当該画素値が増幅された領域のうち、主被写体である動体以外を捉えた領域については、各合成用画像間における動体に係る動きベクトルに応じて、主被写体以外の物体が流れているように見える画像となるように、画像処理を付加する。
このようにして、ユーザーによるシャッターボタン13の1回の押下操作によって発せられる撮影開始指示に応答して、カメラ制御部40Aが連写を実施させる。そして、画像合成部30Aにおいて、連写によって取得された複数の合成用画像を用いた合成処理が行われて、1フレームの合成画像が生成される。
以上のように、本発明の第1実施形態に係る撮像装置1Aでは、流し撮りモードに設定された状態で、連写によって被写体に係る複数の合成用画像を取得する。そして、連写終了後、複数の合成用画像について相対的な位置が変化している動体に対応する動体画像を検出する。更に、当該検出されたそれぞれにおける動体画像の位置が略一致するように複数の合成用画像を用いて合成処理を行うことで、1フレームの合成画像を生成する。この合成画像では、動体は静止している一方で、背景(その他のもの)は動体との相対的な位置関係のズレによって流れているように見える画像となる。したがって、このような構成により、簡単かつ安価な構成で、高度なテクニックを駆使することなく容易に所望の流し撮りによる効果が付与された画像を取得することができる。また、撮像装置の使い勝手も向上する。
また、ユーザーによるシャッターボタン13の全押しという1つの操作に応答して、連写及び合成処理が行われるため、簡単な操作で所望の流し撮りによる効果が付与された画像を取得することができる。
また、連写により取得された複数の合成用画像のそれぞれに対応する複数のサムネイル画像をLCDモニタ42に表示させた状態で、ユーザーの操作に基づいて1つのサムネイル画像を指定すると、当該指定された1つのサムネイル画像の構図と同様な構図を有する合成画像が生成される。したがって、所望の構図の合成画像を取得することができる。
また、撮像装置1Aのモードの設定状態を、合成画像を生成する流し撮りモードに設定された状態に切り替える操作部材である流し撮りモード設定ボタン14が設けられているため、必要な時に容易に合成画像を生成する流し撮りモードに設定することができる。
<第2実施形態>
上述した第1実施形態に係る撮像装置1Aでは、合成用画像を合成する過程で、画像の周縁部付近において、合成用画像が相互に重なり合わない領域が生じるため、画素値を増幅させる補正を行うことで、輝度が不自然に低くなってしまう領域の発生を防止した。このような画素値の増幅による補正を施すことによって最終的に生成される合成画像では、ノイズの増幅等により若干なりとも画質の劣化を招く。更に、当該画素値が増幅された領域のうち、主被写体である動体以外を捉えた領域については、動体に係る動きベクトルに応じて、主被写体以外の物体が流れているように見える画像となるように、画像処理が付加されるため、画像が不自然なものとなり、この点からも画質の劣化を招くことになる。
このような問題点を解消するために、本発明の第2実施形態に係る撮像装置1Bでは、流し撮りモードに設定されると、撮影レンズ10が自動的にワイド側に駆動する。そして、撮像センサ16で取得される画像の一部の領域に対応する画像がLCDモニタ42等に表示される。つまり、LCDモニタ42上等で表示される画像(合成用画像に係るサムネイル画像、及びライブビュー画像等)よりも広範囲の被写体を捉えた画像が撮像センサ16により取得される。そうすることで、所望の構図に従った合成画像を生成する過程で、画像の周縁部付近において、合成用画像同士が相互に重なり合わない領域が生じないようにしている。
なお、本発明の第2実施形態に係る撮像装置1Bは、流し撮りモードにおける撮影レンズ10の駆動、画像合成の手法、及びライブビュー画像やサムネイル画像のサイズが、第1実施形態に係る撮像装置1Aとは異なる。しかし、それら異なる部分に係る機能構成(画像合成部30B、カメラ制御部40B)以外の部分については、第1実施形態に係る撮像装置1Aと同様となるため、当該同様となる部分については、同じ符合を付して説明を省略する。
以下、第2実施形態に係る撮像装置1Bにおいて、第1実施形態に係る撮像装置1Aと異なる部分について主に説明する。
図7は、撮像装置1Bが流し撮りモードに設定された状態における撮影範囲と表示範囲との関係を例示する図である。図7に示すように、流し撮りモードに設定された状態では、撮像センサ16によって画像CPが取得される。そして、画像CPの中央付近の一部の領域(破線で囲まれた領域)PPに係る画像が抽出され、図8に示すように、ライブビュー画像やサムネイル画像等といったLCDモニタ42等に表示される表示画像DPが生成される。
よって、例えば、構図をライブビューで確認しつつ連写を行い、連写直後において、図3(a)〜(d)に示すようなサムネイル画像が合成用画像に係るサムネイル画像としてLCDモニタ42上に表示されても、画像メモリ41には、表示画像でとらえられる被写体よりも広範囲の被写体をとらえた合成用画像CP1〜CP4(図9〜図12)が記憶されている。
したがって、例えば、ユーザーの操作に基づいて、図3(c)に示すような構図が設定された場合には、画像合成部30Bにおいて、各合成用画像CP1〜CP4間における動体に係る動きベクトルが検出される。そして、画像合成部30Bにおいて、図9〜図12に示すように、当該動きベクトルに応じて、画像全体において動体画像TRが占める位置が図3(c)に示す画像と略一致するように、各合成用画像CP1〜CP4から、動体画像TRを含む所定サイズの破線で囲まれる領域に係る画像(「被合成画像」とも称する)PP1〜PP4が抽出される。更に、それぞれにおける動体画像TRの位置が略一致するように、被合成画像PP1〜PP4を合成する合成処理等を行うことで1フレームの合成画像が生成される。その結果、画素値を増幅させる補正を行うことなく、図4に示すような1フレームの合成画像RPを得ることができる。
以下、流し撮りモードにおける撮像装置1Bの動作フローについて説明する。
図13は、流し撮りモードにおける撮像装置1Bの動作フローを示すフローチャートである。本動作フローは、カメラ制御部40Bの制御下で実現され、撮影モードにおいて、流し撮りモード設定ボタン14がユーザーによって押下操作されることで、流し撮りモードに設定されると、流し撮りモードにおける動作フローが開始され、図13のステップS11に進む。なお、撮影モード選択時に、ライブビュー表示状態となる。
ステップS11では、撮影レンズ10が自動的にワイド側に駆動して、撮像センサ16で撮影される被写体の範囲(撮影範囲)が広げられるとともに、撮像センサ16で取得される画像のうち表示に使用される領域(表示エリア)を変更し、ステップS12に進む。例えば、図7に示したように、撮像センサ16で取得される画像CPの一部の領域PPに係る画像がLCDモニタ42等に表示される状態に設定される。
ステップS12では、S1オンとなったか否か判定し、S1オンとなるまでステップS12の判定が繰り返され、S1オンとなるとステップS13に進む。そして、ステップS13では、図5のステップS2と同様に、S1オンとなったことに応答して、AF、AEが行われて、露光時間(Tconst)が算出されるとともに、連写における露光時間(Tren)と合成枚数(K)が設定される。そして、ステップS14で、S2オンとなったか否か判定し、S2オンとなるまでステップS13及びステップS14の処理を繰り返し、S2オンとなるとステップS15に進む。
ステップS15では、ステップS13における設定に応じて、連写を行うことで、Kフレームの合成用画像を時間順次に取得して画像メモリ41に一時的に記憶し、ステップS16に進む。このステップS15では、撮像センサ16におけるフレームレートがTconst/Kに設定された連写を行い、例えば、図9〜図12に示すような合成用画像CP1〜CP4が画像メモリ41に記憶される。
ステップS16では、画像メモリ41に一時的に記憶された複数フレームの合成用画像に係るサムネイル画像をLCDモニタ42に表示するように設定されているか否かを判定する。このステップS16では、サムネイル画像をLCDモニタ42に表示するように設定されている場合には、ステップS17に進み、表示するように設定されていない場合にはステップS19に進む。
ステップS17では、画像メモリ41に一時的に記憶された複数の合成用画像に係るサムネイル画像がLCDモニタ42に表示される。なお、ここでは、例えば、合成用画像CP1〜CP4(図9〜図12)が画像メモリ41に記憶されている場合には、合成用画像CP1〜CP4それぞれの中央付近の一部の領域に対応するサムネイル画像(図3(a)〜(d)に示す画像と同様なもの)がLCDモニタ42上に空間順次に並べられて表示される(図6)。
ステップS18では、図5のステップS7と同様に、ユーザーによるカメラ操作スイッチ50の操作に応答して構図が設定され、ステップS20に進む。一方、ステップS19では、図5のステップS8と同様に、画像メモリ41に一時的に記憶された複数フレームの合成用画像のうち、動体画像が最も中央近くに位置する合成用画像に係る構図が最終的な合成画像に係る構図として設定され、ステップS20に進む。
ステップS20では、ステップS18又はステップS19で設定された構図に従って、合成用画像を用いた合成処理による合成画像の生成、及び当該合成画像のメモリカード9への記憶(記憶処理)が実施され、ステップS11に戻る。このステップS20では、図9〜図12で示したように、例えば、構図基準画像として指定された被合成画像PP3に対して、他の被合成画像PP1,PP2,PP4を合わせ込むような合成処理を行うことで、1フレームの合成画像(例えば、図4で示した合成画像RP)を生成することができる。このステップS20では、図5のステップS9と同様に、各合成用画像間における動体に係る動きベクトルが大きな場合には、動きベクトルに応じて主被写体以外の物体が流れているように見える画像となるように画像処理を付加する。
以上のように、本発明の第2実施形態に係る撮像装置1Bでは、流し撮りモードに設定された場合には、撮像センサ16によって取得される合成用画像CP1〜CP4の一部の領域に対応する表示画像が抽出されて、LCDモニタ42等に表示される。このような構成とすることで、所望の合成画像を生成するために、表示画像に従った構図の合成画像を生成すべく複数の画像を合成する際、画像同士が相互に重ならないエリアの発生を低減することができる。その結果、自然な合成画像を得ることができ、合成画像の画質劣化を抑制することができる。
また、主被写体である動体に対応する動体画像の占める位置がそれぞれ略同一となるように、複数の合成用画像CP1〜CP4から動体画像を含む被合成画像PP1〜PP4をそれぞれ抽出する。そして、それぞれにおける動体画像の位置が略一致するように、複数の被合成画像PP1〜PP4を合成して、1フレームの合成画像RPを生成する。このような構成により、複数の画像を合成する際に、画像同士が相互に重ならないエリアの発生を防止することができる。その結果、合成画像の画質劣化を更に抑制することができる。
<変形例>
以上、この発明の実施形態について説明したが、この発明は上記説明した内容のものに限定されるものではない。
◎例えば、上述した実施形態では、K=Tconst/Trenの関係を満たしたが、これに限られず、例えば、K<Tconst/Trenの関係を満たすようなKとTconstとTrenとの関係を示すROM内のLUTから、露光時間(Tconst)に対応する露光時間(Tren)と露光回数(K)とが読出されて、連写用のパラメータとして設定されるようにしても良い。但し、K<Tconst/Trenの関係を満たす場合には、合成画像における輝度が低くなってしまうため、AGCゲイン等による感度アップによって合成画像の輝度が適正となるように調整するようにすれば良い。なお、AGCゲイン等による感度アップはノイズ成分も増幅して画像の劣化を招くが、ノイズが増幅されても複数の画像を合成することで合成画像を生成するため、感度アップの度合いが小さな場合には、ノイズは平均化されてあまり目立たない。
このように、K≦Tconst/Trenの関係を満たすようにすれば、連写により画像メモリ41に記憶される合成用画像のフレーム数(K)が比較的少なくて済むため、画像メモリ41の容量が少なくて済む。また、期間Tconstにおける露光及び読出しの回数が少なくて済むため、連写における撮像センサ16での画像信号の読出し間隔(フレームレート)が比較的長くなっても良い。但し、K<Tconst/Trenの関係を満たすようにして、Kを小さくして連写における各露光の間隔が長くなればなるほど、各合成画像間における動体に係る動きベクトルが大きくなるため、このような設定は、動きの遅い動体を撮影する場合等に適していると言える。
一方、仮に、K>Tconst/Trenの関係を満たすとすると、期間Tconstにおいて露光時間がTrenであるK回の露光を行うことができないが、出来るだけ高速のフレームレートを採用することで、およそTren×Kの期間において、K回の露光を行うことができる。そして、このような場合には、感度を下げることで適正な輝度レベルを有する合成画像を得ることが出来るが、合成用画像のフレーム数(K)が増加して、画像メモリ41の容量を大きくする必要性があるといったデメリットを生じる。したがって、コストの低減等といった観点からすれば、K≦Tconst/Trenの関係を満たす方が望ましい。
◎また、上述した実施形態では、合成用画像を取得する連写時には、撮像装置1A,1Bを手で振ることなく、撮影方向を固定して撮影することを前提としたが、これに限られず、撮影方向が若干ずれても良い。
このような構成では、複数の合成用画像間で画像に対する動体に係る位置も背景に係る位置も変化するため、動体画像を検出することが難しい。しかし、例えば、主被写体である動体に合焦し、背景等には合焦していないことを利用して、合成用画像をエリア分割し、合焦評価値が最も大きなエリアに動体画像が位置しているものとみなして、動体画像を検出することができる。
◎また、上述した実施形態では、複数の合成用画像に係るサムネイル画像を表示した状態で、一のサムネイル画像に係る構図を選択したが、これに限られず、例えば、ユーザーの操作に応じて画像の特定位置(例えば、中央)付近に動体が存在する構図を指定することができるようにしても良い。
◎また、上述した実施形態では、S1オンの状態において、露光時間Trenが決まったが、これに限られず、例えば、前もって、実際に撮影したい動体と同様な速度で動く被写体を試し撮りして、露光時間Trenを決めるようにしても良い。具体的には、例えば、被写体の速度に応じた複数のLUT(TconstとTrenとKとを関連付けたLUT)をROM内に格納しておき、試し撮り時に、動体に係る動きベクトル(移動速度)を検出して、その検出結果に応じて、採用するLUTを切り替えても良い。更に、試し撮り時に、露光時間Trenを算出して、露光時間Tren及び露光回数Kを算出しても良い。すなわち、事前に、動体の速度に応じたTrenを決定しても良い。このような構成とすることで、動体の速度に応じて連写時のフレームレートが変更されるため、各合成用画像間における動体に係る動きベクトルが大きくならず、背景等の動体以外の物体が自然に流れているように見える合成画像を生成することができる。
また、予め、主被写体である動体の速度が予想される場合には、ユーザーの各種操作に応答して、被写体の速度に応じた複数のLUTから所望のLUTを採用することができるようにしても良い。具体的には、「高速」「中速」「低速」のうちから被写体の移動速度を選択したり、「新幹線」「自転車」「走者」といった被写体の種類を選択することで、間接的に被写体の速度を選択したりすることで、所望のLUTを採用することができるようにしても良い。
◎また、上述した実施形態では、連写によって得られる合成用画像がKフレームであったが、例えば、主被写体である動体の速度に応じて取得される合成用画像のフレーム数を変更するようにしても良い。具体的には、例えば、「高速」「中速」「低速」のうちから主被写体の移動速度をユーザーが選択し、「高速」が選択された場合にはK=20、「中速」が選択された場合にはK=10、「低速」が選択された場合にはK=5とするようにしても良い。
なお、主被写体以外の物体が自然に流れているような合成画像を生成するためには、合成に用いる合成用画像のフレーム数(K)が多い方が好ましい。しかしながら、フレーム数(K)が多すぎると、大容量の画像メモリ41が必要となりコストアップを招く。よって、所望の合成画像を得ることと、コストとのバランスを考えて、合成用画像のフレーム数(K)を設定する必要性がある。
◎また、上述した実施形態では、連写によって取得した合成用画像の全てを用いて合成画像を生成したが、これに限られず、例えば、実際に合成に用いるフレーム数(K)よりも多くのフレーム数の合成用画像を連写によって取得しておき、取得された多数の合成用画像の一部の合成用画像を用いて合成画像を生成するようにしても良い。このような構成により、連写終了後に、所望の構図が後から変わった場合にも、時間的に前後の合成用画像も取得されているため、例えば、所望の構図に近いKフレームの画像を適宜抽出して合成する等、他の複数の合成用画像の合成によりフォローすることができる。
更に、多数フレームの合成用画像を連写によって取得しておき、各合成用画像間における動体に係る動きベクトルに応じて、実際に合成に使用する合成用画像のフレーム数(K)を変更しても良い。例えば、動きベクトルが所定値よりも小さな場合には、Kを大きくし、動きベクトルが所定値以上の場合には、Kを小さくするようにしても良い。このような構成とすることで、主被写体以外の背景等がしっかりと流れて見える合成画像を得ることができる。
◎また、第2実施形態では、実際に合成に使用する被合焦画像PP1〜PP4よりも広い範囲の合成用画像CP1〜CP4を一律に取得して、画像メモリ41に記憶したが、これに限られず、例えば、主被写体が移動していく方向が予め分かっているような場合には、合成用画像のうち主被写体が移動していく方向以外に係る周縁部の領域については、画像メモリ41に記憶しないようにしても良い。具体的には、図9〜図12に示すような合成用画像CP1〜CP4を取得する場合、予め主被写体であるトラックが左方から右方といった横方向に移動することが分かっていれば、当該横方向に移動する情報をユーザーが入力操作することで、合成用画像CP1〜CP4の一部の領域(被合成画像PP1〜PP4に対応する領域)よりも上下にあたる周縁部の領域に係る画像データを画像メモリ41に記憶しないようにしても良い。なお、主被写体と同様な方向に移動する被写体を予め試し撮りして、移動方向を検出し、その検出結果に応じて、合成用画像のうち画像メモリ41に記憶しない領域を設定するようにすることもできる。
このような構成により、不要な部分に係る画像データを記憶しないようにすることができるため、画像メモリ41の大容量化の抑制によるコストダウンを図ることができる。また、画像メモリ41の容量の有効利用も図ることができるため、合成枚数Kを増加させることも可能であり、結果的に得られる合成画像の画質の向上及び自然な流れの効果の付与にも資する。
◎また、上述した実施形態では、S2オンとなってから合成用画像を取得する連写を開始したが、これに限られず、例えば、S1オンとなった後からS2オンとなるまで連写によって合成用画像を画像メモリ41に時間順次に記憶しつつ、新しいものから所定フレーム数の合成用画像が画像メモリ41内に随時残るようにし、S2オンに応答した連写によって得られる複数フレームの合成用画像と、S2オン直前の所定フレーム数の合成用画像とを用いて合成画像を生成するような構成としても良い。
このような構成により、人がシャッターボタン13を押下するタイミング(レリーズタイミング)は少し遅れがちとなるが、S2オン前後に得られる複数フレームの合成用画像から1フレームの合成画像を生成することで、レリーズタイミングが悪かったような場合等でも、レリーズタイミングよりも前における画像も取得されているため、所望の構図に係る合成画像を確実に取得することができる。
◎また、上述した実施形態では、連写におけるフレームレートを毎秒300フレーム(300fps)まで高めることができたが、これに限られず、その他のフレームレートまで高めることができるようにしても良い。但し、上述した手法によって合成画像を生成するためには、動体を捉えたある程度の数の合成用画像を取得する必要性があるため、連写におけるフレームレートは、少なくとも毎秒60フレーム(60fps)以上まで高めることができることが好ましく、250fps以上までフレームレートを高めることができることが更に好ましい。
◎また、上述した実施形態では、サムネイル画像表示時の選択として、1つのサムネイル画像を選択して、当該選択された1つのサムネイル画像に係る構図(被写体の位置)を基準として1フレームの合成画像を作成したが、これに限られず、例えば、複数のサムネイル画像を選択して、当該選択された複数のサムネイル画像のそれぞれに係る構図(被写体の位置)を基準として複数フレームの合成画像を作成するようにしても良い。このようにすることで、1回の撮影において(1回のレリーズ操作により)、流し撮りによる効果が付与された複数フレームの異なる画像を得ることが出来る。
◎また、サムネイル画像表示時の選択において、1つのサムネイル画像を選択した後に、選択された1つのサムネイル画像の特定位置を指定して、当該特定位置において画像がぶれないように合成用画像を用いた合成処理を行うようにしても良い。複数の合成用画像においては、移動体全てにわたって同じ画像が得られることは少ないので、合成時にどうしても合成しきれない場合が生じるが、上記のような構成とすると、例えば、特定位置(例えばトラックの前部)のみぶれないように合成することで、違和感のない流し撮りによる効果が付与された画像を得ることが出来る。
◎また、上述した実施形態では、流し撮りモードにおいて、複数回の露光を間髪入れずに連続的に行って合成用画像を得るための連写を行ったが、これに限られず、例えば、複数回の露光同士の間隔を開けて、時間的に離散的なタイミングで露光を行うことで複数回の露光を行って複数の合成用画像を得て、当該複数の合成用画像を用いた合成処理によって流し撮りによる効果が付与された画像を得るようにしても良い。これにより、被写体の動きが小さな場合でも流し撮りによる効果が付与された画像を得ることが出来る。
本発明の実施形態に係る撮像装置の外観を示す図である。 本発明の実施形態に係る撮像装置の機能構成を示すブロック図である。 連写によって得られる画像を例示する図である。 合成画像を例示する図である。 流し撮りモードにおける動作フローを示すフローチャートである。 サムネイル画像の表示例を示す図である。 第2実施形態に係る撮影範囲と表示範囲とを例示する図である。 表示画像を例示する図である。 第2実施形態に係る連写によって得られる画像を例示する図である。 第2実施形態に係る連写によって得られる画像を例示する図である。 第2実施形態に係る連写によって得られる画像を例示する図である。 第2実施形態に係る連写によって得られる画像を例示する図である。 流し撮りモードにおける動作フローを示すフローチャートである。
符号の説明
1A,1B 撮像装置
3 画像処理部
10 撮影レンズ
12 モード切替スイッチ
13 シャッターボタン
14 流し撮りモード設定ボタン
16 撮像センサ
30A,30B 画像合成部
40A,40B カメラ制御部
42 LCDモニタ
43 EVF

Claims (9)

  1. 撮像装置であって、
    被写体に係る画像を取得する撮像手段と、
    前記撮像手段を用いて複数の画像を時間順次に取得する連写を実施させる撮影制御手段と、
    前記複数の画像に基づき、前記複数の画像の各画像について動体に対応する部分画像にあたる動体画像を検出する検出手段と、
    それぞれにおける前記動体画像の位置が略一致するように前記複数の画像を用いた合成処理を行うことで合成画像を生成する画像生成手段と、
    を備えることを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置であって、
    ユーザーによる一の操作に応答して撮影動作の開始指示を発する指示手段、
    を備え、
    前記開始指示に応答して、前記撮影制御手段が前記連写を実施させるとともに、前記画像生成手段が前記合成処理を行うことで前記合成画像を生成することを特徴とする撮像装置。
  3. 請求項1又は請求項2に記載の撮像装置であって、
    所定の測光手段による測定結果に基づいて、所定の明るさを示す一の画像を取得するために必要な露光時間であるTconstを算出する算出手段、
    を備え、
    前記複数の画像の数をK、前記複数の画像の各画像を取得するための露光時間をTrenとして、
    K≦Tconst/Tren
    の関係を満たすように構成されることを特徴とする撮像装置。
  4. 請求項1から請求項3のいずれかに記載の撮像装置であって、
    前記複数の画像のそれぞれに対応する複数のサムネイル画像を表示するサムネイル表示手段と、
    前記サムネイル表示手段に前記複数のサムネイル画像が表示された状態で、ユーザーの操作に基づき、前記複数のサムネイル画像のうちの一のサムネイル画像を指定する指定手段と、
    を備え、
    前記画像生成手段が、
    前記合成画像において前記動体画像が占める位置と、前記指定手段によって指定された一のサムネイル画像において前記動体画像が占める位置とが略一致するように、前記合成処理を行うことを特徴とする撮像装置。
  5. 請求項3に記載の撮像装置であって、
    前記連写が、
    前記複数の画像の数であるKよりも多数の画像を取得する動作を含むことを特徴とする撮像装置。
  6. 請求項1から請求項5のいずれかに記載の撮像装置であって、
    ユーザーによって操作されることで、前記撮像装置のモードの設定状態を、前記合成画像を生成する所定のモードに設定された状態に切り替える操作部材、
    を備えることを特徴とする撮像装置。
  7. 請求項6に記載の撮像装置であって、
    前記撮像手段によって取得される画像に基づいて生成される表示画像を表示する手段、
    を備え、
    前記所定のモードに設定されている場合、前記表示画像が、前記撮像手段によって取得された画像の一部の領域に対応する画像であることを特徴とする撮像装置。
  8. 請求項7に記載の撮像装置であって、
    前記画像生成手段が、
    画像において前記動体画像が占める位置が略一致するように、前記複数の画像の各画像から前記動体画像を含む所定サイズの部分画像を被合成画像として抽出する抽出手段と、
    前記抽出手段によって抽出された複数の被合成画像の合成処理を行うことで前記合成画像を生成する手段と、
    を有することを特徴とする撮像装置。
  9. 画像取得方法であって、
    (a)所定の撮像手段を用いて複数の画像を時間順次に取得する連写を実施させるステップと、
    (b)前記複数の画像に基づき、前記複数の画像の各画像について動体に対応する部分画像にあたる動体画像を検出するステップと、
    (c)それぞれにおける前記動体画像の位置が略一致するように前記複数の画像を用いた合成処理を行うことで合成画像を生成するステップと、
    を備えることを特徴とする画像取得方法。
JP2004203061A 2004-07-09 2004-07-09 撮像装置、及び画像取得方法 Pending JP2006025312A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004203061A JP2006025312A (ja) 2004-07-09 2004-07-09 撮像装置、及び画像取得方法
US11/056,634 US20060007327A1 (en) 2004-07-09 2005-02-10 Image capture apparatus and image capture method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004203061A JP2006025312A (ja) 2004-07-09 2004-07-09 撮像装置、及び画像取得方法

Publications (1)

Publication Number Publication Date
JP2006025312A true JP2006025312A (ja) 2006-01-26

Family

ID=35540916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004203061A Pending JP2006025312A (ja) 2004-07-09 2004-07-09 撮像装置、及び画像取得方法

Country Status (2)

Country Link
US (1) US20060007327A1 (ja)
JP (1) JP2006025312A (ja)

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007274220A (ja) * 2006-03-30 2007-10-18 Samsung Techwin Co Ltd 撮像装置および撮像方法
JP2007295401A (ja) * 2006-04-26 2007-11-08 Canon Inc 撮像装置及びその制御方法
JP2007325130A (ja) * 2006-06-02 2007-12-13 Canon Inc 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体
JP2007325129A (ja) * 2006-06-02 2007-12-13 Canon Inc 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体
JP2008016935A (ja) * 2006-07-03 2008-01-24 Sanyo Electric Co Ltd 監視カメラ
JP2008100962A (ja) * 2006-10-20 2008-05-01 Kao Corp バイオフィルム生成抑制剤組成物
JP2009048494A (ja) * 2007-08-21 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法及び画像処理プログラム
JP2010021698A (ja) * 2008-07-09 2010-01-28 Casio Comput Co Ltd 画像処理装置およびプログラム
JP2010087708A (ja) * 2008-09-30 2010-04-15 Casio Computer Co Ltd 撮像装置、及びプログラム
KR20100084140A (ko) 2009-01-15 2010-07-23 후지필름 가부시키가이샤 촬상 장치, 화상 처리 방법 및 프로그램
JP2010246162A (ja) * 2010-07-16 2010-10-28 Casio Computer Co Ltd 撮像装置と画像処理プログラム
JP2010273268A (ja) * 2009-05-25 2010-12-02 Nikon Corp 画像再生装置、撮像装置、画像再生方法、画像再生プログラム
KR20100138608A (ko) * 2009-06-25 2010-12-31 삼성전자주식회사 촬영 장치 및 촬영 방법
JP2011130209A (ja) * 2009-12-17 2011-06-30 Canon Inc 撮像装置、画像処理装置、画像処理方法
US8558944B2 (en) 2008-03-25 2013-10-15 Sony Corporation Image capture apparatus and method for generating combined-image data
JP2014216926A (ja) * 2013-04-26 2014-11-17 リコーイメージング株式会社 合成画像生成装置及び合成画像生成方法
US9041821B2 (en) 2012-03-12 2015-05-26 Casio Computer Co., Ltd. Image composing apparatus for continuously shooting plural images and combining the plural images
JP2017017540A (ja) * 2015-07-01 2017-01-19 キヤノン株式会社 画像処理装置、撮像装置および画像処理プログラム
JP2018513640A (ja) * 2015-04-10 2018-05-24 クゥアルコム・インコーポレイテッドQualcomm Incorporated パンニングショットの自動生成

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7394939B2 (en) * 2003-12-17 2008-07-01 Microsoft Corporation Managing file stream generation
US20060274209A1 (en) * 2005-06-03 2006-12-07 Coretronic Corporation Method and a control device using the same for controlling a display device
US20060288310A1 (en) * 2005-06-17 2006-12-21 Ming-Tsung Chiang System and method of dynamically displaying a function icon set in a handheld data processing device
JP4979969B2 (ja) * 2006-04-03 2012-07-18 三星電子株式会社 撮像装置および撮像方法
US8089516B2 (en) * 2006-06-20 2012-01-03 Hewlett-Packard Development Company, L.P. Event management for camera systems
JP2008028957A (ja) * 2006-07-25 2008-02-07 Denso Corp 車両用画像処理装置
JP5168837B2 (ja) * 2006-07-27 2013-03-27 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
TW200839569A (en) * 2007-03-23 2008-10-01 Asustek Comp Inc Quick imgae capture system
TWI338241B (en) * 2007-08-23 2011-03-01 Pixart Imaging Inc Interactive image system, interactive device and operative method thereof
JP4561845B2 (ja) * 2008-02-29 2010-10-13 カシオ計算機株式会社 撮像装置と画像処理プログラム
JP4483962B2 (ja) * 2008-03-25 2010-06-16 ソニー株式会社 撮像装置、撮像方法
JP4544332B2 (ja) * 2008-04-07 2010-09-15 ソニー株式会社 画像処理装置、画像処理方法、プログラム
FR2942890A1 (fr) * 2009-03-05 2010-09-10 Thomson Licensing Procede de creation d'une suite animee de photographies, et appareil pour mettre en oeuvre le procede
JP2011119930A (ja) * 2009-12-02 2011-06-16 Seiko Epson Corp 撮像装置、撮像方法および撮像プログラム
JP5689662B2 (ja) * 2009-12-09 2015-03-25 株式会社東芝 超音波診断装置、超音波画像処理装置、超音波画像処理プログラム、医用画像診断装置、医用画像処理装置及び医用画像処理プログラム
JP5482196B2 (ja) * 2009-12-25 2014-04-23 東京エレクトロン株式会社 成膜装置、成膜方法及び記憶媒体
JP5810307B2 (ja) * 2010-05-10 2015-11-11 パナソニックIpマネジメント株式会社 撮像装置
KR101843450B1 (ko) * 2011-08-23 2018-03-29 엘지전자 주식회사 이동 단말기 및 이동 단말기의 제어 방법
JP2015515169A (ja) * 2012-02-22 2015-05-21 コーニンクレッカ フィリップス エヌ ヴェ 画像センサと、複数のフレームを用いて視野の外縁に向かって失われる照度を分析して減少させる手段とを含むビジョンシステム
JP2014007680A (ja) * 2012-06-27 2014-01-16 Xacti Corp 画像生成装置
US9148582B2 (en) * 2012-06-29 2015-09-29 Intel Corporation Method and system for perfect shot imaging from multiple images
US9432575B2 (en) * 2013-06-28 2016-08-30 Canon Kabushiki Kaisha Image processing apparatus
JP6341814B2 (ja) * 2014-09-08 2018-06-13 キヤノン株式会社 撮像装置、その制御方法、及びプログラム
JP5846549B1 (ja) * 2015-02-06 2016-01-20 株式会社リコー 画像処理システム、画像処理方法、プログラム、撮像システム、画像生成装置、画像生成方法およびプログラム
TWI554108B (zh) * 2015-08-04 2016-10-11 緯創資通股份有限公司 電子裝置及影像處理方法
JP2018148272A (ja) * 2017-03-01 2018-09-20 オリンパス株式会社 撮像装置、画像処理装置、撮像方法およびプログラム
JP7118718B2 (ja) * 2018-04-18 2022-08-16 キヤノン株式会社 被検体情報取得装置、被検体情報処理方法、およびプログラム
CN113099122A (zh) * 2021-03-31 2021-07-09 维沃移动通信有限公司 拍摄方法、装置、设备和存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5125041A (en) * 1985-08-05 1992-06-23 Canon Kabushiki Kaisha Still image processing method for blurring an image background and producing a visual flowing effect
US5687249A (en) * 1993-09-06 1997-11-11 Nippon Telephone And Telegraph Method and apparatus for extracting features of moving objects
US6137533A (en) * 1997-05-14 2000-10-24 Cirrus Logic, Inc. System and method for enhancing dynamic range in images
US7286168B2 (en) * 2001-10-12 2007-10-23 Canon Kabushiki Kaisha Image processing apparatus and method for adding blur to an image
JP2003209771A (ja) * 2002-01-16 2003-07-25 Hitachi Ltd デジタル映像再生装置及び再生方法
JP2003319252A (ja) * 2002-04-26 2003-11-07 Minolta Co Ltd デジタルカメラ

Cited By (25)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007274220A (ja) * 2006-03-30 2007-10-18 Samsung Techwin Co Ltd 撮像装置および撮像方法
JP2007295401A (ja) * 2006-04-26 2007-11-08 Canon Inc 撮像装置及びその制御方法
JP4671429B2 (ja) * 2006-06-02 2011-04-20 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム及び記録媒体
JP2007325130A (ja) * 2006-06-02 2007-12-13 Canon Inc 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体
JP2007325129A (ja) * 2006-06-02 2007-12-13 Canon Inc 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体
JP4671430B2 (ja) * 2006-06-02 2011-04-20 キヤノン株式会社 撮像装置、撮像装置の制御方法、プログラム及び記録媒体
JP2008016935A (ja) * 2006-07-03 2008-01-24 Sanyo Electric Co Ltd 監視カメラ
JP2008100962A (ja) * 2006-10-20 2008-05-01 Kao Corp バイオフィルム生成抑制剤組成物
JP2009048494A (ja) * 2007-08-21 2009-03-05 Fujifilm Corp 画像処理装置、画像処理方法及び画像処理プログラム
US8558944B2 (en) 2008-03-25 2013-10-15 Sony Corporation Image capture apparatus and method for generating combined-image data
JP2010021698A (ja) * 2008-07-09 2010-01-28 Casio Comput Co Ltd 画像処理装置およびプログラム
JP2010087708A (ja) * 2008-09-30 2010-04-15 Casio Computer Co Ltd 撮像装置、及びプログラム
US8587684B2 (en) 2009-01-15 2013-11-19 Fujifilm Corporation Imaging apparatus, image processing method, and image processing program
JP2010166289A (ja) * 2009-01-15 2010-07-29 Fujifilm Corp 撮像装置及び画像処理方法並びにプログラム
KR20100084140A (ko) 2009-01-15 2010-07-23 후지필름 가부시키가이샤 촬상 장치, 화상 처리 방법 및 프로그램
KR101626780B1 (ko) * 2009-01-15 2016-06-02 후지필름 가부시키가이샤 촬상 장치, 화상 처리 방법 및 프로그램
JP2010273268A (ja) * 2009-05-25 2010-12-02 Nikon Corp 画像再生装置、撮像装置、画像再生方法、画像再生プログラム
KR20100138608A (ko) * 2009-06-25 2010-12-31 삼성전자주식회사 촬영 장치 및 촬영 방법
KR101589500B1 (ko) 2009-06-25 2016-01-28 삼성전자주식회사 촬영 장치 및 촬영 방법
JP2011130209A (ja) * 2009-12-17 2011-06-30 Canon Inc 撮像装置、画像処理装置、画像処理方法
JP2010246162A (ja) * 2010-07-16 2010-10-28 Casio Computer Co Ltd 撮像装置と画像処理プログラム
US9041821B2 (en) 2012-03-12 2015-05-26 Casio Computer Co., Ltd. Image composing apparatus for continuously shooting plural images and combining the plural images
JP2014216926A (ja) * 2013-04-26 2014-11-17 リコーイメージング株式会社 合成画像生成装置及び合成画像生成方法
JP2018513640A (ja) * 2015-04-10 2018-05-24 クゥアルコム・インコーポレイテッドQualcomm Incorporated パンニングショットの自動生成
JP2017017540A (ja) * 2015-07-01 2017-01-19 キヤノン株式会社 画像処理装置、撮像装置および画像処理プログラム

Also Published As

Publication number Publication date
US20060007327A1 (en) 2006-01-12

Similar Documents

Publication Publication Date Title
JP2006025312A (ja) 撮像装置、及び画像取得方法
JP5144481B2 (ja) 撮像装置及び撮像方法
JP5022105B2 (ja) カメラの表示制御装置及び方法
JP5439197B2 (ja) 撮像装置、撮像方法、および、撮像プログラム
US9210334B2 (en) Imaging apparatus and imaging method for flare portrait scene imaging
JP5347707B2 (ja) 撮像装置および撮像方法
JP4730553B2 (ja) 撮影装置及び露出制御方法
JP3395770B2 (ja) デジタルスチルカメラ
JP2009147730A (ja) 動画生成装置、動画撮影装置、動画生成方法及びプログラム
JP2010093679A (ja) 撮像装置及び撮像制御方法
JP2008278354A (ja) 撮像装置
JP2001275033A (ja) デジタルスチルカメラ
JP2004023747A (ja) 電子カメラ
JP4033456B2 (ja) デジタルカメラ
US20080118220A1 (en) Method of capturing still image during reproduction of moving picture
JP4934617B2 (ja) 撮像装置及び撮像方法
JP2004080376A (ja) 動画撮像装置及び動画再生装置
JP5310331B2 (ja) 撮像装置および撮像方法
JP2004328606A (ja) 撮像装置
JP2009118052A (ja) 画像信号処理方法及び装置
JP3092577B2 (ja) デジタルカメラの多重撮影装置
JP6197062B2 (ja) 撮像装置及び撮像方法並びに表示装置及び表示方法
JP2010050784A (ja) デジタルカメラ
JP2004221650A (ja) 電子カメラ
JP2005117494A (ja) 撮像装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060314

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20060704