JP4993012B2 - 撮像装置及び画像処理装置 - Google Patents

撮像装置及び画像処理装置 Download PDF

Info

Publication number
JP4993012B2
JP4993012B2 JP2010205172A JP2010205172A JP4993012B2 JP 4993012 B2 JP4993012 B2 JP 4993012B2 JP 2010205172 A JP2010205172 A JP 2010205172A JP 2010205172 A JP2010205172 A JP 2010205172A JP 4993012 B2 JP4993012 B2 JP 4993012B2
Authority
JP
Japan
Prior art keywords
image
moving image
time
recording
predetermined time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010205172A
Other languages
English (en)
Other versions
JP2011103641A (ja
Inventor
孝司 栗山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2010205172A priority Critical patent/JP4993012B2/ja
Priority to US12/896,066 priority patent/US8416310B2/en
Priority to CN201010510324.1A priority patent/CN102045527B/zh
Publication of JP2011103641A publication Critical patent/JP2011103641A/ja
Application granted granted Critical
Publication of JP4993012B2 publication Critical patent/JP4993012B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/667Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/78Television signal recording using magnetic recording
    • H04N5/782Television signal recording using magnetic recording on tape
    • H04N5/783Adaptations for reproducing at a rate different from the recording rate
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/79Processing of colour television signals in connection with recording
    • H04N9/80Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback
    • H04N9/82Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only
    • H04N9/8205Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal
    • H04N9/8227Transformation of the television signal for recording, e.g. modulation, frequency changing; Inverse transformation for playback the individual colour picture signal components being recorded simultaneously only involving the multiplexing of an additional signal and the colour video signal the additional signal being at least another television signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • H04N5/765Interface circuits between an apparatus for recording and another apparatus
    • H04N5/77Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera
    • H04N5/772Interface circuits between an apparatus for recording and another apparatus between a recording apparatus and a television camera the recording apparatus and the television camera being placed in the same enclosure

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、動画像を記録可能な撮像装置及び動画像を生成可能な画像処理装置に関するものである。
デジタルカメラにより撮影された動画像に基づく動画データ、及び動画像の撮影後にデジタルカメラにより撮影された静止画像に基づいて、該静止画像を所定期間再生するフリーズ動画データを作成し、動画データの最終フレームに続けてフリーズ動画データを連結編集した動画ファイルを生成するデジタルカメラが提案されている(例えば、特許文献1参照)。
特開2006−165769号公報
しかしながら、上述の従来技術では、動画像の記録時間や静止画像に基づくフリーズ動画像の再生時間の長さを、例えば被写体の動き等に応じて自由に設定することができなかった。
ところで、動画像を撮影する場合において、動きのある被写体の静止画像と動画像とを組み合わせた動画像等の、印象的な映像効果を有する動画像を、画像処理装置等において合成処理を行うことなしに取得可能な技術が所望されている。しかしながら、上述のような印象的な映像効果を有する動画像を、使用者がビデオカメラ等を手動操作して撮影しようとした場合には高度な操作技術を要していた。
本発明の目的は、印象的な映像効果を有する動画像を含む動画像データを容易に作成することができる撮像装置及び画像処理装置を提供することである。
本発明は以下のような解決手段により上記課題を解決する。なお、理解を容易にするために、本発明の実施の形態に対応する符号を付して説明するが、本発明はこれに限定されるものではない。
本発明の撮像装置は、被写体からの光を撮像する撮像素子(6)と、前記撮像素子(6)による静止画像の撮像を指示する第1指示部(4)と、前記第1指示部(4)による撮像指示により撮像される静止画像の撮像時から第1所定時間前までの間に前記撮像素子(6)から出力される撮像信号に基づき生成される、記録時間が前記第1所定時間の第1動画像と、前記静止画像の撮像時から第2所定時間後までの間に前記静止画像を用いて生成される、記録時間が前記第2所定時間の第2動画像とを一つの動画像ファイルとして、または前記第2動画像と、前記静止画像の撮像時から第3所定時間後までの間に前記撮像素子(6)から出力される撮像信号に基づき生成される、記録時間が前記第3所定時間の第3動画像とを一つの動画像ファイルとして、記録媒体(18)に記録する記録制御部(4)と、前記被写体の動き情報を検出する検出部(26)とを備え、前記記録制御部(4)は、前記検出部(26)により検出される前記動き情報に基づいて、前記第1所定時間、前記第2所定時間及び前記第3所定時間の少なくとも1つの前記記録時間の長さを設定することを特徴とする。
また、本発明の画像処理装置は、記録媒体(18)に記録されている所定動画像ファイルを形成する複数のフレーム画像の中から所定フレーム画像を選択する第1選択部(24)と、前記第1選択部(24)により選択された前記所定フレーム画像の記録時間より前の第1所定時間の長さの間に記録された複数の前記フレーム画像により生成される第1動画像と、前記所定フレーム画像を用いて生成される第2所定時間の長さの第2動画像とにより形成される動画像の表示部(20)への表示、または前記第2動画像と、前記所定フレーム画像の記録時間より後の第3所定時間の長さの間に記録された複数の前記フレーム画像により生成される第3動画像とにより形成される動画像の前記表示部(20)への表示を制御する表示制御部(4)と、前記複数のフレーム画像内の被写体の動き情報を検出する検出部(26)とを備え、前記表示制御部(4)は、前記検出部(26)により検出される前記動き情報に基づいて、前記第1所定時間、前記第2所定時間及び前記第3所定時間の少なくとも一つ時間の長さを設定することを特徴とする。

本発明の撮像装置及び画像処理装置によれば、印象的な映像効果を有する動画像を含む動画像データを容易に作成することができる。
実施の形態に係る電子カメラのシステム構成を示すブロック図である。 実施の形態に係る電子カメラにおいて動画像を撮影する際の処理について説明するためのフローチャートである。 実施の形態に係る表示部の表示例を示す図である。 実施の形態に係る表示部の表示例を示す図である。 実施の形態に係る表示部の表示例を示す図である。 実施の形態に係る電子カメラにおいて動画像を撮影するための設定を行う際の処理について説明するためのフローチャートである。 被写体の移動速度を検出するために用いられるフレーム画像の例を示す図である。 画像記録、音記録、及び画像表示の状態を示すタイムチャートである。 画像記録、音記録、及び画像表示の状態を示すタイムチャートである。 第1の実施の形態に係る電子カメラにおいて「動から静の動画像」を撮影する際の処理について説明するためのフローチャートである。 撮影する動画像の例を示す図である。 第1の実施の形態に係る電子カメラにおいて「静から動の動画像」を撮影する際の処理について説明するためのフローチャートである。 第2の実施の形態に係る電子カメラにおいて「動から静の動画像」を撮影する際の処理について説明するためのフローチャートである。 第2の実施の形態に係る電子カメラにおいて「静から動の動画像」を撮影する際の処理について説明するためのフローチャートである。 第3の実施の形態に係る電子カメラにおいてシナリオ動画を再生する際の処理について説明するためのフローチャートである。 「動から静のシナリオ動画」を再生する際の処理について説明するためのタイムチャートである。 「静から動のシナリオ動画」を再生する際の処理について説明するためのタイムチャートである。 他の「静から動のシナリオ動画」を再生する際の処理について説明するためのタイムチャートである。
以下、図面を参照して、本発明の第1の実施の形態に係る撮像装置としての電子カメラについて説明する。図1は、第1の実施の形態に係る電子カメラ2のシステム構成を示すブロック図である。図1に示すように、電子カメラ2は、マイクロプロセッサ等により構成され、電子カメラ2の各部を統括的に制御する制御部4を備えている。制御部4には、撮像素子6、アンプ・A/D変換部8、動画用バッファメモリ12、静止画用バッファメモリ14、音声用バッファメモリ16、記録媒体18、表示部20、スピーカ22、操作部24、及び動き検出部26が接続されている。
撮像素子6は、CCDまたはCMOS等により構成され、図示しない撮影レンズを介した被写体光を撮像して撮像信号を制御部4に対して出力する。アンプ・A/D変換部8は、マイク10により集音された電子カメラ2周辺の音声のアナログ信号をデジタル信号に変換し、変換された音声のデジタル信号を制御部4に対して出力する。
動画用バッファメモリ12は、撮像素子6からの撮像信号に基づき作成され、制御部4内の図示しない縮小回路を介することにより動画像用の解像度にリサイズ(解像度大から小へ)された動画像データを一時的に記憶する。静止画用バッファメモリ14は、撮像素子6からの撮像信号に基づき作成された静止画像データを一時的に記憶する。音声用バッファメモリ16は、アンプ・A/D変換部8から出力された音声のデジタル信号に基づき作成された音声データを一時的に記憶する。
記録媒体18は、電子カメラ2に設けられたカードスロット(図示せず)に着脱可能に装着される可搬性を有する記録媒体であり、例えば、CFカード、SDカード、スマートメディア等が用いられる。記録媒体18には、制御部4において作成された動画像データに制御部4内の図示しない動画用信号処理回路により動画像用の画像処理が施され、制御部4内の図示しない動画用圧縮回路により動画像用の圧縮処理が施された動画像データが記録される。同様に、記録媒体18には、制御部4において作成された静止画像データに制御部4内の図示しない静止画用信号処理回路により静止画像用の圧縮処理が施された静止画像データ、及び制御部4において作成され、対応する動画像データに付加された音声データ等が記録されている。
表示部20は、電子カメラ2の背面部に配置されるLCD等により構成されるモニタまたはEVF等により構成され、撮像素子6からの撮像信号に基づくスルー画像、記録媒体18に記録されている画像データに基づく静止画像や動画像、後述するシナリオ動画撮影モード毎にサンプル動画データとしてカメラ内の不図示のメモリに記憶されているサンプル動画、及び撮影に関する情報等を表示する。スピーカ22は、記録媒体18に記録されている音声データや、前述のカメラ内の不図示のメモリに記憶されているサンプル動画データに付随して不図示のメモリに記録されている音声データに基づく音声を出力する。
操作部24は、電子カメラ2の電源をオン/オフする電源スイッチ、静止画像や動画像及び音声の記録を開始する際に操作される録画開始ボタン(例えば、RECボタンやシャッタボタン等)、動画像及び音声の記録を終了する際に操作される録画終了ボタン(例えば、RECボタンやシャッタボタン等)、表示部20にメニュー等を表示させるためのメニューボタン、メニュー項目等の選択や様々な設定時に操作される十字キー、メニュー項目等の選択や様々な設定に対する確定操作を行うためのOKボタン等を含んで構成されている。
動き情報検出部26は、電子カメラ2において動画像を撮影する際に、動きのある被写体の動き情報を検出する。具体的には、撮像素子6からの撮像信号に基づき作成され、制御部4内の図示しない縮小回路を介することにより被写体の動き情報検出用の解像度にリサイズ(解像度大から小へ)された少なくとも2つのフレーム画像に基づいて、周知の動きベクトル算出処理により動きベクトルを算出し、算出された動きベクトルに基づいて動きのある被写体の動き情報(この実施の形態では、被写体の移動速度)を検出する。
この実施の形態に係る電子カメラ2では、動きのある被写体の動画像と静止画像とを組み合わせて生成される動画像を自動的に撮影することができる。以下、図2に示すフローチャートを参照して、第1の実施の形態に係る電子カメラ2において上述の動画像を撮影する際の処理について説明する。
まず、制御部4は、ユーザーにより動画撮影メニューの表示指示(例えば、メニューボタンの押下)がなされると、表示部20に、例えば図3に示すような動画撮影メニュー画面27を表示する(ステップS10)。動画撮影メニュー画面27には、様々な動画撮影モードを選択可能な項目(図3では、シナリオ動画撮影モードA,B,C,D,E)が表示される。ユーザーにより十字キー等を用いて1つの動画撮影モード(図3では、シナリオ動画撮影モードB)が選択され、OKボタンが押下されると、制御部4は、表示部20に、例えば図4に示すような画面28を表示する。画面28には、「サンプル動画を表示しますか?」等のメッセージ、及びメッセージに対する回答を選択するための項目(図4では、「Yes」及び「No」)が表示される。
なお、この実施の形態では、シナリオ動画撮影モードBが静止している画像が動き出したり、或いは動いている被写体が静止するように表示する動画像を撮影するモードであるものとする。また、サンプル動画は、各シナリオ動画撮影モードについての特徴的な映像効果を的確にユーザーに示すためにシナリオ動画撮影モード毎に予め作成されて電子カメラ2内の不図示のメモリ内に記憶されている動画像であり、ユーザーは、サンプル動画を視認することにより、選択したシナリオ動画撮影モードで撮影できる動画像がどういった形態(態様)のものかを容易に理解することができる。
ユーザーにより十字キー等を用いて「Yes」が選択され、OKボタンが押下されると(ステップS11、Yes)、制御部10は、表示部20に、例えば図5に示すようなサンプル動画の表示を行うための画面29を表示する(図4から図5に表示が切り替わる)。画面29には、サンプル動画を表示するためのサンプル動画表示エリア29a、選択されたシナリオ動画撮影モードBについて説明するための簡単な説明文(図5では、「静止している画像が動き出したり、或いは動いている被写体が静止するように表示する動画を撮影します。」)を表示するメッセージ表示エリア29b、サンプル動画の再表示または動画撮影への移行を選択するためのアイコン(図5では、「再表示」及び「撮影へ」)がそれぞれ表示される。そして、制御部4は、サンプル動画表示エリア29aに、シナリオ動画撮影モードBのサンプル動画を表示する(ステップS12)。
なお、シナリオ動画撮影モードには、図5中の説明文にあるような動画を撮影するモード以外にも、例えば、撮影画面内で撮影距離の異なる被写体に対して順次フォーカスを切り換えながら動画を撮影するモードや、フォーカス状態とズーム状態を同時に変更しながら動画を撮影するモード等、モード毎に互いに異なるシナリオの下で再生表示されて様々な映像効果が得られる動画撮影モード(他のシナリオ動画撮影モードA,C〜E)が設けられている。
ユーザーにより十字キー等を用いて「再表示」が選択され、OKボタンが押下されると(ステップS13、Yes)、制御部4は、図5に示す画面29において、サンプル動画表示エリア29aにシナリオ動画撮影モードBに対応するサンプル動画を再表示する(ステップS12)。一方、図4に示す画面28においてユーザーにより「No」が選択された場合(ステップS11、No)、または図5に示す画面29においてユーザーにより「撮影へ」が選択された場合(ステップS13、No)には、制御部4は、シナリオ動画撮影モードB、即ち静止している画像が動き出したり、或いは動いている被写体を静止させて表示する動画像を撮影するための設定へと移行する(ステップS14)。
図6は、シナリオ動画撮影モードBの動画像を撮影するための設定を行う際の処理について説明するためのフローチャートである。なお、シナリオ動画撮影モードBの動画像には、動いている被写体の動画像(第1動画像)を撮影した後、動いている被写体の静止画像を撮影し、撮影した静止画像を用いて動画像(第2動画像)を生成し、第1動画像と第2動画像とを連結させて作成された動画像(以下、「動から静の動画像」という)と、動いている被写体の静止画像を撮影した後、動いている被写体の動画像(第3動画像)を撮影し、撮影した静止画像を用いて生成された動画像と第3動画像とを連結させて作成された動画像(以下、「静から動の動画像」という)とが存在する。
したがって、まず、制御部4は、「動から静の動画像」を撮影するか、または「静から動の動画像」を撮影するかをユーザーに選択させるための選択画面を表示部20にメニュー表示(不図示)する(ステップS20)。ユーザーにより「動から静の動画像」または「静から動の動画像」が選択され、OKボタンが押下されると(ステップS21、Yes)、制御部4は、表示部20の表示面上にスルー画像を表示する(ステップS22)。
ユーザーが例えばシャッタボタンを半押しした状態でスルー画像を視認しながらピントを合わせている間に、制御部4は、撮像素子6からの撮像信号に基づき作成され、被写体の動き情報検出用の解像度にリサイズ(解像度大から小へ)された少なくとも2つのフレーム画像、例えば図7に示すようなフレーム画像30,32を動き情報検出部26へ出力する。動き情報検出部26は、フレーム画像30,32に基づいて周知の動きベクトル算出処理により動きベクトルを算出し、算出された動きベクトルに基づいて動いている被写体(図7では、電車)の移動速度を検出し、検出結果を制御部4に対して出力する。そして、制御部4は、動き情報検出部26からの検出結果から動いている被写体(図7では、電車)の移動速度を取得する(ステップS23)。
次に、制御部4は、ステップS23において取得した被写体(電車)の移動速度に基づいて、動画像の記録時間の長さを設定する(ステップS24)。即ち、ステップS21において「動から静の動画像」の撮影が選択されている場合には、図8に示すように、録画・録音を開始する時間t1から録画終了及び静止画撮影を行う時間t2まで撮影される動画像の記録時間T1、及び時間t2に撮影された静止画像を用いて作成される動画像の記録時間T2の長さを設定する。
また、ステップS21において「静から動の動画像」の撮影が選択されている場合には、図9に示すように、時間t4に撮影される静止画像を用いて作成される動画像の記録時間T3、及び録画・録音を開始する時間t4から録画・録音を終了する時間t5まで撮影される動画像の記録時間T4の長さを設定する。なお、撮影された静止画像を用いて作成される動画像とは、撮影された静止画像が時間T2(図8参照、図9ではT3)の間、再生継続される動画像のことであり、具体的には、静止画像を動画像用の解像度にリサイズし、リサイズされた静止画像をフレーム画像として形成される動画像のことである。
制御部4は、ステップS23において取得した電車の移動速度が予め設定されている基準値より大きい場合には、記録時間T1,T4を短く、または記録時間T2,T3を長くする。また、電車の移動速度の増大に応じて記録時間T1,T4を更に短く、または記録時間T2,T3を更に長くする。即ち、高速で移動する被写体については、撮影画面内に収まる時間が短いため、動画像の記録時間を短くし、静止画像の記録時間を長くすることにより、高速で移動する被写体が長く再生され続ける動画像を作成することができる。
同様に、電車の移動速度が基準値より小さい場合には、記録時間T1,T4を長く、または記録時間T2,T3を短くする。また、電車の移動速度の減少に応じて記録時間T1,T4を更に長く、または記録時間T2,T3を更に短くする。即ち、低速で移動する被写体については、撮影画面内に収まる時間が長いため、動画像の記録時間を長くし、静止画像の記録時間を短くすることにより、被写体が動いている様子を長く再生する動画像を作成することができる。
また、例えば、被写体の移動速度に対応させた記録時間T1〜T4の長さのテーブルを図示しないメモリ等に記憶させておき、テーブルに基づいて記録時間T1〜T4を設定することもできる。また、「動から静の動画像」の記録時間T1+T2、「静から動の動画像」の記録時間T3+T4の長さを予め設定し、電車の移動速度に基づいて、記録時間T1とT2との比率、または記録時間T3とT4との比率を設定することもできる。
なお、ステップS24において、制御部4は、記録時間T1及びT2の両方、または記録時間T3及びT4の両方を設定しているが、記録時間T1もしくはT2の何れか一方、または記録時間T3もしくはT4の何れか一方を設定する構成にすることもできる。
動画像撮影のための設定を終えた後、制御部4は、動画像の撮影へと移行する(図2のステップS15)。図10は、シナリオ動画撮影モードBの「動から静の動画像」を撮影するための処理について説明するためのフローチャートである。
まず、制御部4は、ユーザーにより録画開始ボタン(この実施の形態ではRECボタン)が押下されたか否かを判別する(ステップS30)。ステップS30において録画開始ボタンが押下されたと判別された場合には(ステップS30、Yes)、制御部4は、動画像及び音声の記録を開始する(ステップS31、図8では時間t1)。なお、ステップS30において録画開始ボタンが押下されたとき(図8では時間t1)のスルー画像を、図11に示す画像34とし、時間t1から(T1/2)時間経過したときのスルー画像を、図11に示す画像36とする。即ち、この実施の形態では、時間t1から時間t2(図8参照)までの間、図11に示すように、電子カメラ2に対して電車が遠くから近付いてくる動画像が記録される。
次に、制御部4は、図6のステップS24において設定された記録時間T1が経過したか否かを判別する(ステップS32)。ステップS32において記録時間T1が経過したと判別された場合には(ステップS32、Yes)、制御部4は、動画像の記録を終了し(ステップS33、図8では時間t2)、同時に静止画像を少なくとも1フレーム撮像する(ステップS34、図8では時間t2)。なお、ステップS33において動画像の記録を終了し、ステップS34において静止画像が撮像されたとき(図8では時間t2)のスルー画像を、図11に示す画像38とする。また、図8に示すように、記録時間T1が経過した後も、音声の記録は継続される。
次に、制御部4は、図6のステップS24において設定された記録時間T2が経過したか否かを判別する(ステップS35)。ステップS35において記録時間T2が経過したと判別された場合には(ステップS35、Yes)、制御部4は、音声の記録を終了する(ステップS36、図8では時間t3)。
次に、制御部4は、時間t1から時間t2まで(記録時間T1)に撮像素子6からの撮像信号に基づき生成される動画像データ、時間t2から時間t3まで(記録時間T2)の動画像として時間t2に撮影された静止画像(図11に示す画像38)を用いて生成される動画像データ(時間t2に撮影された1フレームの静止画像を記録時間T2の期間再生し続けることにより生成される動画像データ)、及び時間t1から時間t3までにマイク10からの音声信号に基づき生成される音声データを1つの動画像ファイル40(図8参照)として記録媒体18に記録する(ステップS37)。このとき、時間t2から時間t3までの音声データは、静止画像を用いて生成される動画像データに対応する音声データとして記録される。
なお、制御部4は、図6のステップS22〜S24、図10のステップS30〜S34の処理の間、即ち表示部20の表示面上にスルー画像が表示されてから静止画像が撮像されるまでの間、図8に示すように、表示部20の表示面上に、撮像素子6からの撮像信号に基づくスルー画像を表示する。そして、図10のステップS35〜S36の処理の間、即ち静止画像が撮像されてから記録時間T2が経過するまでの間、図8に示すように、表示部20の表示面上に、撮像された静止画像(図11に示す画像38)を表示する。そして、記録時間T2が経過した後、即ち時間t3以降、図8に示すように、再びスルー画像を表示する。
また、図10のステップS37において記録された動画像ファイル40の動画像の再生においては、記録時間T1の間、電車が画像34内の位置から画像36内の位置を経て画像38内の位置まで近づいてくる動画像が再生され、記録時間T2の間、画像38が再生され続ける。このように、動きのある被写体の動いている状態、及び動いている被写体が静止した状態を組み合わせた印象的な動画像を作成及び再生することができる。
なお、上記「動から静の動画像」において、「静」の期間に相当する動画像データ(時間t2に撮影された1フレームの静止画像に基づいて、記録時間T2の期間の動画像として生成される動画像データ)として、上記実施形態のように同じカットを同じ表示状態で表示し続けるものばかりでなく、様々な変形形態(静止画像ゆえに処理可能な画像表現)が考えられる。例えば時間t2に撮影された静止画像を徐々にズームインしていく(部分拡大していく)ようなデジタルズーム処理された画像を動画像データとして生成するようにしても良い。あるいは静止画像を使って、その静止画像が表示画面から徐々に移動(例えば回転したり、表示画面外にフレームアウト移動したり)するような動画像データを生成するようにしても良い。
次に、図12に示すフローチャートを参照して、シナリオ動画撮影モードBの「静から動の動画像」を撮影するための処理について説明する。
まず、制御部4は、ユーザーにより録画開始ボタン(この実施の形態ではRECボタン)が押下されたか否かを判別する(ステップS40)。ステップS40において録画開始ボタンが押下されたと判別された場合には(ステップS40、Yes)、制御部4は、静止画像を撮像し(ステップS41、図9では時間t4)、同時に動画像及び音声の記録を開始する(ステップS42、図9では時間t4)。なお、ステップS41において静止画像を撮像し、かつ動画像及び音声の記録を開始したとき(図9では時間t4)のスルー画像を、図11に示す画像34とし、時間t4から(T4/2)時間経過したときのスルー画像を、図11に示す画像36とする。即ち、この実施の形態では、時間t4において静止画像として画像34が撮像され、時間t4から時間t5(図9参照)までの間、図11に示すように、電子カメラ2に対して電車が遠くから近付いてくる動画像が記録される。
次に、制御部4は、図6のステップS24において設定された記録時間T4が経過したか否かを判別する(ステップS43)。ステップS43において記録時間T4が経過したと判別された場合には(ステップS43、Yes)、制御部4は、動画像及び音声の記録を終了する(ステップS44、図9では時間t5)。なお、ステップS44において動画像及び音声の記録を終了したとき(図9では時間t5)のスルー画像を、図11に示す画像38とする。
次に、制御部4は、図9に示すように、時間t4から時間t6まで(記録時間T3)の動画像として、時間t4に撮像された静止画像(図11に示す画像34)を用いて生成される動画像データ(時間t4に撮影された1フレームの静止画像を記録時間T3の期間再生し続けることにより生成される動画像データ)、時間t4から時間t5まで(記録時間T4)に記録された動画像に基づく動画像データ、及び時間t4から時間t5までに記録された音声に基づく音声データを1つの動画像ファイル42(図9参照)として記録媒体18に記録する(ステップS45)。
なお、制御部4は、図6のステップS22〜S24、図12のステップS40〜S42の処理の間、即ち表示部20の表示面上にスルー画像が表示されてから動画像及び音声の記録が開始されるまでの間、図9に示すように、表示部20の表示面上に、撮像素子6からの撮像信号に基づくスルー画像を表示する。そして、図9に示すように、動画像及び音声の記録が開始されてから記録時間T3が経過するまでの間(時間t4から時間t6までの間)、表示部20の表示面上に、撮像された静止画像(図11に示す画像34)を表示する。次に、記録時間T3が経過した後から記録時間T4が経過するまでの間(時間t6から時間t7までの間)、表示部20の表示面上に、時間t4から時間t5まで記録した動画像(図11に示す画像34から画像38へ電車が近づいてくる動画像)を表示する。そして、記録時間T4が経過した後、即ち時間t7以降、再びスルー画像を表示する。
また、図12のステップS45において記録された動画像ファイル42の動画像の再生においては、記録時間T3の間、画像34が再生され続け、記録時間T4の間、電車が画像34内の位置から画像36内の位置を経て画像38内の位置まで近づいてくる動画像が再生される。このように、被写体が一定時間静止した状態から動き出す印象的な動画像を作成及び再生することができる。このとき、記録時間T3の間、即ち画像34が静止した動画像として再生されている間、対応する音声が存在しないため、音声は再生されず、記録時間T4の間、動画像に対応する音声が再生される。
なお、図10のステップS37及び図12のステップS45の処理の前に、「記録してもよいですか?」等の記録媒体18への記録を確認するメッセージ、及び「はい・いいえ」等の記録媒体18への記録の有無を選択する選択肢を表示してもよい。
なお、上記「静から動の動画像」において、「静」の期間に相当する動画像データ(時間t4に撮影された1フレームの静止画像に基づいて、記録時間T3の期間の動画像として生成される動画像データ)として、上記実施形態のように同じカットを同じ表示状態で表示し続けるものばかりでなく、様々な変形形態(静止画像ゆえに処理可能な画像表現)が考えられる。例えば時間t4に撮影された静止画像を徐々に電子的にズームインした状態からズームアウトした状態にデジタルズーム処理していく(縮小していく)ような画像を動画像データとして生成するようにしても良い。あるいは静止画像を使って、その静止画像が表示画面から徐々に移動(例えば回転したり、表示画面内にフレームイン移動したり)するような動画像データを生成するようにしても良い。
第1の実施の形態に係る電子カメラ2によれば、動きのある被写体の動画像及び静止画像を組み合わせた動画像、即ち印象的な映像効果を有する動画像を容易に作成することができる。即ち、動いている被写体の動いている状態の動画像と静止している状態の動画像とを連結させた1つの動画像ファイルを作成することができる。
また、このような動画像を記録している間、表示部20においては、スルー画像でなく、作成される動画像が再生される場合と同様の動画像が表示される。即ち、動画像の記録時において、作成される動画像のプレビュー表示を行うことができる。したがって、ユーザーに対してどのような映像効果を有する動画像が作成されるのかを動画像の記録時に示すことができる。また、被写体の移動速度に応じて最適な記録時間T1〜T4が設定されるため、より印象的な映像効果を有する動画像を作成することができる。
次に、図面を参照して、本発明の第2の実施の形態に係る電子カメラについて説明する。なお、第2の実施の形態に係る電子カメラの構成については、第1の実施の形態に係る電子カメラ2の構成から動き情報検出部26(図1参照)を取り除いたものであるため、その説明を省略する。また、第2の実施の形態に係る電子カメラの機能や動作については、図1に示す電子カメラ2の構成と同一の構成には同一の符号を用いてその説明を行う。
第2の実施の形態に係る電子カメラにおいても、第1の実施の形態に係る電子カメラ2と同様に、動きのある被写体の動画像と静止画像とを組み合わせて生成される動画像を自動的に撮影することができるが、図8に示す記録時間T1及び図9に示す記録時間T4の長さについてはユーザーによる操作部24を介した指示により決定され、図8に示す記録時間T2及び図9に示す記録時間T3については予め設定されている。
したがって、第2の実施の形態においては、図2に示すステップS10〜S13の処理を終えた後、ステップS14の処理として図6に示すステップS20〜S22の処理を行う。そして、図6に示すステップS23及びS24の処理を行うことなく、図2に示すステップS15の処理に移行する。図13は、第2の実施の形態に係る電子カメラにおいて、シナリオ動画撮影モードBの「動から静の動画像」を撮影するための処理について説明するためのフローチャートである。なお、ステップS50及びS51の処理は、図10に示すステップS30及びS31の処理と同一のため、その説明を省略する。
次に、制御部4は、録画可能時間が経過したか否かを判別する(ステップS52)。録画可能時間は、図8に示す記録時間T1(時間t1からt2まで)について設定されている最長時間であって、記録媒体18の容量等に基づいて予め設定されており、図示しないメモリ等に記憶されている。この実施の形態では、録画可能時間は10秒間に設定されている。ステップS52において録画可能時間、即ち時間t1から10秒間経過していないと判別された場合には(ステップS52、No)、制御部4は、ユーザーにより撮影開始ボタン(この実施の形態ではRECボタンまたはシャッタボタン)が押下されたか否かを判別する(ステップS53)。ステップS53において撮影開始ボタンが押下されていないと判別された場合には(ステップS53、No)、制御部4は、ステップS52の処理に戻り、ステップS52及びS53の処理を繰り返す。
一方、ステップS52において録画可能時間が経過したと判別された場合(ステップS52、Yes)、またはステップS53において撮影開始ボタンが押下されたと判別された場合(ステップS53、Yes)には、制御部4は、動画像の記録を終了し(ステップS54、図8では時間t2)、同時に静止画像を撮像する(ステップS55、図8では時間t2)。
次に、制御部4は、録音時間が経過したか否かを判別する(ステップS56)。録音時間は、図8に示す記録時間T2であり、記録時間T2は、ステップS55において撮像された静止画像を用いて作成される動画像の記録時間のことである。記録時間T2は、記録媒体18の容量等に基づいて予め設定されており、図示しないメモリ等に記憶されている。この実施の形態では、記録時間T2は5秒間に設定されている。ステップS56において録音時間、即ち記録時間T2が経過したと判別された場合には(ステップS56、Yes)、制御部4は、音声の記録を終了し(ステップS57、図8では時間t3)、ステップS58の処理を行う。なお、ステップS58の処理は、図10に示すステップS37の処理と同一のため、その説明を省略する。
次に、図14に示すフローチャートを参照して、第2の実施の形態に係る電子カメラにおいて、シナリオ動画撮影モードBの「静から動の動画像」を撮影するための処理について説明する。なお、ステップS70〜S72の処理は、図12に示すステップS40〜S42の処理と同一のため、その説明を省略する。
次に、制御部4は、録画可能時間が経過したか否かを判別する(ステップS73)。録画可能時間は、図9に示す記録時間T4(時間t4からt5まで)について設定されている最長時間であって、記録媒体18の容量等に基づいて予め設定されており、図示しないメモリ等に記憶されている。この実施の形態では、録画可能時間は10秒間に設定されている。ステップS73において録画可能時間、即ち時間t4から10秒間経過していないと判別された場合には(ステップS73、No)、制御部4は、ユーザーにより録画終了ボタン(この実施の形態ではRECボタン)が押下されたか否かを判別する(ステップS74)。ステップS74において録画終了ボタンが押下されていないと判別された場合には(ステップS74、No)、制御部4は、ステップS73の処理に戻り、ステップS73及びS74の処理を繰り返す。
一方、ステップS73において録画可能時間が経過したと判別された場合(ステップS73、Yes)、またはステップS74において録画終了ボタンが押下されたと判別された場合(ステップS74、Yes)には、制御部4は、動画像及び音声の記録を終了し(ステップS75、図9では時間t5)、ステップS76の処理を行う。なお、ステップS76の処理は、図12に示すステップS45の処理と同一のため、その説明を省略する。また、図9に示す記録時間T3は、記録媒体18の容量等に基づいて予め設定されており、図示しないメモリ等に記憶されている。この実施の形態では、記録時間T3は5秒間に設定されている。
第2の実施の形態に係る電子カメラによれば、記録時間T1,T4を撮影中に録画可能時間を超えない範囲で自由に設定することができ、記録時間T2,T3は予め設定されているため、動き情報検出部を備えていなくとも、印象的な映像効果を有する動画像を手軽に作成することができる。
なお、第2の実施の形態においては、記録時間T2,T3が予め設定されているが、予め設定された記録時間T2,T3をデフォルトとし、記録時間T2,T3を変更可能に構成することもできる。この場合には、メニューの中のメニュー項目に記録時間T2,T3設定の項目を加え、動画像を撮影する前に、メニュー画面を表示部20に表示し、十字キー等を用いて操作することにより記録時間T2,T3の設定を行う。また、記録時間T1,T4については、撮影中に録画可能時間を超えない範囲で自由に設定しているが、記録時間T2,T3と同様に、撮影前に予め設定することもできる。
また、第2の実施の形態においては、録画可能時間が予め設定されており、録画可能時間より長い時間の録画を禁止しているが、ユーザーにより録画終了ボタンが押下されるまで録画及び録音を継続する構成にすることもできる。また、予め設定された録画可能時間をデフォルトとし、録画可能時間を変更可能に構成することもできる。
また、第2の実施形態における「静から動の動画像」あるいは「動から静の動画像」を撮影する場合においても、「静」の期間に相当する動画像データについて、第1の実施形態で既述したような様々な変形形態が適用可能である。
なお、上記各実施の形態では、「静」の期間に相当する動画像データを作成する際に基となる静止画像を1フレーム分として説明したが、本発明はこれに限られるものではなく連続撮影した複数フレーム分の静止画像に基づいて「静」の期間の動画像データを作成するようにしても良い。例えば、露出条件を異ならせて連続撮影した複数の静止画像を合成することにより、ダイナミックレンジを拡張した静止画像(いわゆるハイダイナミックレンジ(HDR)処理された静止画像)を得て、そのHDR画像に基づいて動画像データを作成するようにしても良い。
なお、上述の各実施の形態においては、「静から動の動画像」の動画像ファイル42を記録する際、静止画像を用いて作成される動画像に対応する音声を記録していないが、静止画像の撮像時から記録時間T3(図9参照)の長さ前までの音声を記録し、この音声を静止画像を用いて作成される動画像に対応する音声として動画像ファイル42に付加して記録してもよい。この場合には、例えば静止画像の撮像時から所定時間(≧記録時間T3の長さ)前の時点において、ユーザーによる音声記録開始指示ボタン(例えば、RECボタンやOKボタン)の押下により、音声の記録を開始し、動画像ファイル42作成時に静止画像の撮像時から記録時間T3の長さ前までの音声を、動画像ファイル42に付加して記録する。
また、上述の各実施の形態においては、「動から静の動画像」または「静から動の動画像」を作成しているが、「動から静の動画像」及び「静から動の動画像」を組み合わせた「動・静・動の動画像」を作成することもできる。即ち、動いている被写体の動画像(第1動画像)を撮影した後、動いている被写体の静止画像を撮影し、静止画像を撮影した後更に、動いている被写体の動画像(第3動画像)を撮影し、撮影した静止画像を用いて動画像(第2動画像)を生成し、第1動画像、第2動画像及び第3動画像を連結させた動画像を作成することもできる。
次に、図面を参照して、本発明の第3の実施の形態に係る画像処理装置としての電子カメラについて説明する。なお、第3の実施の形態に係る電子カメラは、第1の実施の形態に係る電子カメラ2の構成と同一の構成を有しているため、その説明を省略する。また、第3の実施の形態に係る電子カメラの機能や動作については、図1に示す電子カメラ2の構成と同一の構成には同一の符号を用いてその説明を行う。
第3の実施の形態では、制御部4は、記録媒体18に記録されている動画像ファイル内の動画像データを動画用バッファメモリ12に一時的に記憶させる。同様に、記録媒体18に記録されている動画像ファイル内の動画像データを形成する複数のフレーム画像の中の少なくとも1つのフレーム画像を静止画像データとして静止画用バッファメモリ14に、記録媒体18に記録されている動画像ファイル内の音声データを音声用バッファメモリ16に、一時的に記憶させる。また、動き情報検出部26は、電子カメラ2において記録媒体18に記録されている動画像ファイルに基づいてシナリオ動画(後述する)を作成する際に、動画像ファイルに基づく動画像中の動きのある被写体の動き情報を検出し、検出結果を制御部4に対して出力する。具体的には、まず、動画像ファイル内の動画像データを形成する複数のフレーム画像の中の少なくとも2つのフレーム画像を、制御部4内の図示しない縮小回路を介することにより被写体の動き情報検出用の解像度(解像度大から小へ)にリサイズする。そして、リサイズされた少なくとも2つのフレーム画像から、周知の動きベクトル算出処理により動きベクトルを算出し、算出された動きベクトルに基づいて動きのある被写体の動き情報(この実施の形態では、被写体の移動速度)を検出する。
この実施の形態に係る電子カメラ2では、電子カメラ2により撮影され、記録媒体18に記録されている動画像及び音声を含む動画像ファイルに基づいて、動きのある被写体の動画像と静止画像とを組み合わせて生成されるシナリオ動画を自動的に作成し、作成されたシナリオ動画を再生することができる。以下、図15に示すフローチャートを参照して、第3の実施の形態に係る電子カメラ2において上述のシナリオ動画を再生する際の処理について説明する。
まず、制御部4は、ユーザーにより動画再生メニューの表示指示(例えば、メニューボタンの押下)がなされると、表示部20に動画再生メニュー画面を表示する(ステップS80)。動画再生メニュー画面には、様々な動画再生モードを選択可能な項目(例えば、シナリオ動画再生モードA,B,C,D,E)が表示される。ユーザーにより十字キー等を用いて1つの動画再生モード(この実施の形態ではシナリオ動画再生モードAとする)が選択され、OKボタンが押下されると、制御部4は、シナリオ動画再生モードAへと移行する。なお、この実施の形態では、シナリオ動画再生モードAが静止している画像が動きだしたり、或いは動いている被写体が静止するように表示されるシナリオ動画(以下、単にシナリオ動画という)を作成し、再生するモードであるものとする。また、動画再生モードには、上述のシナリオ動画を作成し、再生するモード以外にも、例えば、動いている被写体が不連続に移動したような動画像を作成し、再生するモード等、モード毎に互いに異なるシナリオの下で再生表示されて様々な映像効果が得られる動画再生モード(他のシナリオ動画再生モードB〜E)が設けられている。
次に、制御部4は、シナリオ動画再生モードAへ移行すると、シナリオ動画を作成する際の元となる動画像ファイル、即ち記録媒体18に記録されている動画像ファイルの中の一つをユーザーに選択させるための動画選択画面を表示部20に表示する(ステップS81)。具体的には、記録媒体18に記録されている動画像ファイルの一覧、例えばファイル名の一覧や代表フレーム画像のサムネイル画像の一覧等を表示部20に表示し、十字キー等を用いて1つの動画像ファイルをユーザーに選択させる。
ユーザーにより十字キー等を用いて1つの動画像ファイルが選択され、OKボタンが押下されると、制御部4は、「動から静のシナリオ動画」を作成するか、または「静から動のシナリオ動画」を作成するかをユーザーに選択させるためのシナリオ動画選択画面を表示部20にメニュー表示(不図示)する(ステップS82)。そして、制御部4は、ユーザーにより「動から静のシナリオ動画」が選択されたか否かを判別する(ステップS83)。ステップS83においてユーザーにより「動から静のシナリオ動画」が選択されたと判別された場合には(ステップS83、Yes)、制御部4は、動から静のシナリオ動画を作成するに当たり、該シナリオ動画の再生時間の長さを設定する(ステップS84)。即ち、ステップS81において選択された動画像ファイル内の動画像データ(以下、元の動画像データという)を形成する複数のフレーム画像の中の所定フレーム画像が記録された記録時間より前の第1所定時間の間に記録されたフレーム画像により生成される第1動画像と、第2所定時間の長さで所定フレーム画像により生成される第2動画像とから形成されるシナリオ動画の再生時間の長さを設定する。
具体的には、制御部4は、元の動画像データを形成する複数のフレーム画像の中の少なくとも2つのフレーム画像を、動き情報検出用に解像度をリサイズし、動き情報検出部26に対して出力する。動き情報検出部26は、リサイズされた少なくとも2つのフレーム画像(例えば図7に示すようなフレーム画像30,32)から、周知の動きベクトル算出処理を用いて被写体(図7では電車)の動き情報を検出し、検出結果を制御部4に対して出力する。制御部4は、動き情報検出部26により検出された被写体の動き情報に基づいて被写体の移動速度を算出し、算出された被写体の移動速度に基づいて第1所定時間及び第2所定時間の長さを設定する。
例えば、被写体の移動速度が予め設定されている基準値より大きい場合には、第1所定時間を短く、または第2所定時間を長くする。また、被写体の移動速度の増大に応じて第1所定時間を更に短く、または第2所定時間を更に長くする。即ち、高速で移動する被写体については、再生画面内に収まる時間が短いため、動画像の再生時間を短くし、静止画像の再生時間を長くすることにより、高速で移動する被写体が長く再生され続ける動画像を作成することができる。
同様に、被写体の移動速度が基準値より小さい場合には、第1所定時間を長く、または第2所定時間を短くする。また、被写体の移動速度の減少に応じて第1所定時間を更に長く、または第2所定時間を更に短くする。即ち、低速で移動する被写体については、再生画面内に収まる時間が長いため、動画像の記録時間を長くし、静止画像の記録時間を短くすることにより、被写体が動いている様子を長く再生する動画像を作成することができる。
次に、制御部4は、図16に示すように、元の動画像データに基づく動画像を再生し(時間t6からt8まで)、再生された元の動画像データを動画用バッファメモリ12に、ステップS81において選択された動画像ファイル内の音声データ(以下、元の音声データという)を音声用バッファメモリ16に格納する(ステップS85)。即ち、元の動画像データを形成する複数のフレーム画像を表示部20に順次表示し、表示部20に表示されたフレーム画像を動画用バッファメモリ12に順次記憶させ、かつ動画用バッファメモリ12に記憶されたフレーム画像に対応する音声データを音声用バッファメモリ16に順次記憶させる。このとき、動画用バッファメモリ12に格納される動画像データの再生時間が、ステップS84において設定された第1所定時間を超える場合には、動画用バッファメモリ12に格納されている最古のフレーム画像を削除し、表示部20に表示された最新のフレーム画像を動画用バッファメモリ12に格納する。音声用バッファメモリ16に格納される音声データの再生時間が、ステップS84において設定された第1所定時間を超える場合にも同様とする。なお、ステップS85において、元の動画像データに基づく動画像の再生と共に、動画像に対応する音声(元の音声データに基づく音声)を時間t6からt8まで再生することもできる。
次に、制御部4は、ユーザーによりシャッタボタンが押下されたか否かを判別する(ステップS86)。ステップS86においてシャッタボタンが押下されたと判別された場合には(ステップS86、Yes)、制御部4は、元の動画像データの動画用バッファメモリ12への格納を終了し、同時にシャッタボタンが押下されたとき(図16では時間t7)に表示部20に表示されたフレーム画像の画像データを、静止画像データとして静止画用バッファメモリ14に格納する(ステップS87)。即ち、図16に示すように、動画像の再生開始の時間t6からシャッタボタンが押下された時間t7までの間、FIFO(First In First Out)形式で動画用バッファメモリ12への格納が行われたため、時間t7において、動画用バッファメモリ12には時間t7から第1所定時間T5前までの間に表示部20に表示された動画像の動画像データが格納されている。同様に、音声用バッファメモリ16には時間t7から第1所定時間T5前までの間にスピーカ22に出力された音声の音声データが、静止画用バッファメモリ14には時間t7に表示部20に表示されたフレーム画像の画像データが格納されている。
そして、ステップS87の処理の後、時間t7から第2所定時間T6が経過するまでの間、制御部4は、音声データの音声用バッファメモリ16への格納を継続する(ステップS88)。
一方、ステップS83においてユーザーにより「動から静のシナリオ動画」が選択されていない、即ち「静から動のシナリオ動画」が選択されたと判別された場合には(ステップS83、No)、制御部4は、静から動のシナリオ動画を作成するに当たり、該シナリオ動画の再生時間の長さを設定する(ステップS89)。即ち、元の動画像データを形成する複数のフレーム画像の中の所定フレーム画像により第2所定時間の長さで生成される第2動画像と、所定フレーム画像が記録された記録時間より後の第3所定時間の間に記録されたフレーム画像により生成される第3動画像とから形成されるシナリオ動画の再生時間の長さを設定する。具体的な設定方法については、ステップS84における設定方法と同様のため、詳細な説明は省略する。
例えば、被写体の移動速度が予め設定されている基準値より大きい場合には、第3所定時間を短く、または第2所定時間を長くする。また、被写体の移動速度の増大に応じて第3所定時間を更に短く、または第2所定時間を更に長くする。また、被写体の移動速度が基準値より小さい場合には、第3所定時間を長く、または第2所定時間を短くする。また、被写体の移動速度の減少に応じて第3所定時間を更に長く、または第2所定時間を更に短くする。
次に、制御部4は、図17に示すように、元の動画像データに基づく動画像を再生し(時間t9からt11まで)、元の音声データを音声用バッファメモリ16に格納する(ステップS90)。即ち、表示部20に表示されたフレーム画像に対応する音声データを音声用バッファメモリ16に順次記憶させる。このとき、音声用バッファメモリ16に格納される音声データの再生時間が、ステップS89において設定された第2所定時間を超える場合には、音声用バッファメモリ16に格納されている最古の音声データを削除し、表示部20に表示された最新のフレーム画像に対応する音声データを音声用バッファメモリ16に格納する。なお、元の動画像データに基づく動画像の再生と共に、動画像に対応する音声(元の音声データに基づく音声)を時間t9からt11まで再生することもできる。
次に、制御部4は、ユーザーによりシャッタボタンが押下されたか否かを判別する(ステップS91)。ステップS91においてシャッタボタンが押下されたと判別された場合には(ステップS91、Yes)、制御部4は、シャッタボタンが押下されたとき(図17では時間t10)に表示部20に表示されたフレーム画像の画像データを、静止画像データとして静止画用バッファメモリ14に格納する(ステップS92)。即ち、図17に示すように、動画像の再生開始の時間t9からシャッタボタンが押下された時間t10までの間、FIFO形式で音声用バッファメモリ16への格納が行われたため、時間t10において、音声用バッファメモリ16には時間t10から第2所定時間T7前までの間にスピーカ22に出力された音声の音声データが格納されている。
そして、ステップS92の処理の後、時間t10から第3所定時間T8が経過するまでの間、制御部4は、表示部20に表示される動画像の動画像データを動画用バッファメモリ12に格納し、かつ音声データの音声用バッファメモリ16への格納を継続する(ステップS93)。
次に、制御部4は、動画用バッファメモリ12、静止画用バッファメモリ14、音声用バッファメモリ16のそれぞれに記憶されている動画像データ、静止画像データ、音声データを順次読み出すことにより、シナリオ動画を再生する(ステップS94)。「動から静のシナリオ動画」の画像再生においては、図16に示すように、まず、第1所定時間T5の間、動画用バッファメモリ12に記憶されているフレーム画像を表示部20に順次表示し、第1所定時間T5が経過した後、第2所定時間T6の間、静止画用バッファメモリ14に記憶されている静止画像(所定フレーム画像)を表示部20に継続表示する。そして、「動から静のシナリオ動画」の音声再生においては、図16に示すように、第1所定時間T5及び第2所定時間T6の間、音声用バッファメモリ16に記憶されている音声データに基づく音声をスピーカ22に順次出力する。
一方、「静から動のシナリオ動画」の画像再生においては、図17に示すように、まず、第2所定時間T7の間、静止画用バッファメモリ14に記憶されている静止画像(所定フレーム画像)を表示部20に継続表示し、第2所定時間T7が経過した後、第3所定時間T8の間、動画用バッファメモリ12に記憶されているフレーム画像を表示部20に順次表示する。そして、「静から動のシナリオ動画」の音声再生においては、図17に示すように、第2所定時間T7及び第3所定時間T8の間、音声用バッファメモリ16に記憶されている音声データに基づく音声をスピーカ22に順次出力する。
なお、ステップS94において再生されるシナリオ動画、即ち動画用バッファメモリ12、静止画用バッファメモリ14、音声用バッファメモリ16のそれぞれに記憶されている動画像データ、静止画像データ、音声データを一つのシナリオ動画の動画像ファイルとして記録媒体18に記録することもできる。この場合には、制御部4は、例えばシナリオ動画の再生後、再生したシナリオ動画を記録媒体18に記録するか否かを選択するための選択画面を表示部20に表示し、ユーザーにより記録するよう指示がなされた場合に記録する。
第3の実施の形態に係る電子カメラ2によれば、動きのある被写体の動画像及び静止画像を組み合わせたシナリオ動画、即ち印象的な映像効果を有する動画像を、記録媒体18に記録されている動画像ファイルを用いて容易に作成し、再生することができる。
なお、第3の実施の形態においては、シャッタボタンの押下直前から第1所定時間T5前までの動画像、またはシャッタボタン押下直後から第3所定時間T8後までの動画像の動画像データを動画用バッファメモリ12に格納しているが、図18に示すように、シャッタボタンを押下直後(時間t13)でなく、時間t14(時間t13から一定時間T10後)から第3所定時間T11までの間の動画像の動画像データを動画用バッファメモリ12に格納する構成にしてもよい。即ち、シャッタボタン押下時(時間t13)のフレーム画像または直後のフレーム画像でなく、時間t14時のフレーム画像を最初のフレーム画像とする動画像の動画像データを動画用バッファメモリ12に格納する。
この場合には、ユーザーによりシャッタボタンが押下されたとき(時間t13)から第2所定時間T9前までの間の音声データを音声用バッファメモリ16に格納し、ユーザーによりシャッタボタンが押下されたとき(時間t13)のフレーム画像の画像データを静止画像データとして静止画用バッファメモリ14に格納し、ユーザーにより再度シャッタボタンが押下されたとき(時間t14)から第3所定時間T11後までの間の動画像データ及び音声データのそれぞれを動画用バッファメモリ12及び音声用バッファメモリ16のそれぞれに格納する。
そして、画像再生時には、図18に示すように、まず、第2所定時間T9の間、静止画用バッファメモリ14に記憶されている静止画像(時間t13時のフレーム画像)を表示部20に継続表示し、第2所定時間T9が経過した後、第3所定時間T11の間、動画用バッファメモリ12に記憶されているフレーム画像を表示部20に順次表示する。そして、音声再生については、図18に示すように、第2所定時間T9の間、音声用バッファメモリ16に記憶されている時間t12からt13までの音声を、第3所定時間T11の間、音声用バッファメモリ16に記憶されている時間t14からt15までの音声をスピーカ22に順次出力する。
なお、図18では、「静から動のシナリオ動画」について説明したが、「動から静のシナリオ動画」については、シャッタボタン押下時から第1所定時間までの間の動画像の動画像データを動画用バッファメモリ12に格納し、第1所定時間経過後から所定時間経過後(再度シャッタボタン押下されたとき)のフレーム画像の画像データを静止画像データとして静止画用バッファメモリ14に格納し、シャッタボタン押下時から第1所定時間までの間及び再度シャッタボタンが押下された時から第2所定時間経過後までの間の音声の音声データを音声用バッファメモリ16に格納する。即ち、再度シャッタボタンが押下された時のフレーム画像または直前のフレーム画像でなく、最初シャッタボタンが押下された時から第1所定時間経過時のフレーム画像を最後のフレーム画像とする動画像の動画像データを動画用バッファメモリ12に格納する。
そして、画像再生時には、まず、第1所定時間の間、動画用バッファメモリ12に記憶されているフレーム画像を表示部20に順次表示し、第1所定時間が経過した後、第2所定時間の間、静止画用バッファメモリ14に記憶されている静止画像を表示部20に継続表示する。そして、音声再生については、第1所定時間の間、及び第2所定時間の間、音声用バッファメモリ16に記憶されている各所定時間に対応する音声をスピーカ22に順次出力する。
また、第3の実施の形態においては、被写体の移動速度に基づいて第1所定時間、第2所定時間及び第3所定時間を設定しているが、例えば被写体の移動速度に対応させた第1所定時間等の長さのテーブルを図示しないメモリ等に記憶させておき、テーブルに基づいて第1所定時間等を設定してもよい。また、「動から静のシナリオ動画」の再生時間(第1所定時間T5+第2所定時間T6)、「静から動のシナリオ動画」の再生時間(第2所定時間T7+第3所定時間T8)の長さを予め設定し、被写体の移動速度に基づいて、第1所定時間T5と第2所定時間T6との比率、または第2所定時間T7と第3所定時間T8との比率を設定してもよい。
また、メニューの中に、第1所定時間等を設定するためのメニュー項目を加え、メニュー画面を表示部20に表示し、十時キー等を用いて操作することにより第1所定時間等を予め設定する構成にしてもよい。また、第1所定時間T5若しくは第2所定時間T6の何れか一方、または第2所定時間T7若しくは第3所定時間T8の何れか一方を被写体の移動速度に基づいて設定し、他方を予め任意に設定する構成にしてもよい。
また、第3の実施の形態では、1フレーム分の画像データを静止画像データとして静止画バッファメモリ14に格納しているが、連続撮影した複数フレーム分の画像データを静止画像データとして静止画バッファメモリ14に格納する構成にしてもよい。
また、第3の実施の形態においては、「動から静のシナリオ動画」または「静から動のシナリオ動画」を作成し、再生しているが、「動から静のシナリオ動画」及び「静から動のシナリオ動画」を組み合わせた「動・静・動のシナリオ動画」や「静・動・静のシナリオ動画」等を作成し、再生することもできる。
また、第3の実施の形態においては、画像処理装置として電子カメラ2を例に挙げて説明したが、電子カメラに限らず、撮像装置等により撮影された動画像に対して画像処理可能なパソコン等の他の画像処理装置においても本発明を適用することができる。また、第3の実施の形態においては、電子カメラ2により撮影され、記録媒体18に記録された動画像を用いてシナリオ動画を作成し、再生しているが、他の撮像装置等により撮影され、記録媒体に記録された動画像を用いて、電子カメラ2によりシナリオ動画を作成し、再生することもできる。
2…電子カメラ、4…制御部、6…撮像素子、8…アンプ・A/D変換部、10…マイク、12…動画用バッファメモリ、14…静止画用バッファメモリ、16…音声用バッファメモリ、18…記録媒体、20…表示部、22…スピーカ、24…操作部、26…動き情報検出部。

Claims (15)

  1. 被写体からの光を撮像する撮像素子と、
    前記撮像素子による静止画像の撮像を指示する第1指示部と、
    前記第1指示部による撮像指示により撮像される静止画像の撮像時から第1所定時間前までの間に前記撮像素子から出力される撮像信号に基づき生成される、記録時間が前記第1所定時間の第1動画像と、前記静止画像の撮像時から第2所定時間後までの間に前記静止画像を用いて生成される、記録時間が前記第2所定時間の第2動画像とを一つの動画像ファイルとして、または、
    前記第2動画像と、前記静止画像の撮像時から第3所定時間後までの間に前記撮像素子から出力される撮像信号に基づき生成される、記録時間が前記第3所定時間の第3動画像とを一つの動画像ファイルとして、記録部に記録する記録制御部と、
    前記被写体の動き情報を検出する検出部と、を備え、
    前記記録制御部は、前記検出部により検出される前記動き情報に基づいて、前記第1所定時間、前記第2所定時間及び前記第3所定時間の少なくとも1つの前記記録時間の長さを設定することを特徴とする撮像装置。
  2. 前記撮像素子から出力される撮像信号に基づくスルー画像または前記記録部に記録されている画像の表示部への表示を制御する表示制御部を備え、
    前記表示制御部は、前記第1動画像及び前記第2動画像を含む動画像ファイルの記録時において、前記静止画像の撮像時までの間は前記スルー画像を、前記静止画像の撮像時から前記第2所定時間後までの間は前記静止画像を、前記第2所定時間経過後は前記スルー画像を前記表示部に表示することを特徴とする請求項1記載の撮像装置。
  3. 前記撮像素子から出力される撮像信号に基づくスルー画像または前記記録部に記録されている画像の表示部への表示を制御する表示制御部を備え、
    前記表示制御部は、前記第2動画像及び前記第3動画像を含む動画像ファイルの記録時において、前記静止画像の撮像時までの間は前記スルー画像を、前記静止画像の撮像時から前記第2所定時間後までの間は前記静止画像を、前記第2所定時間経過後から前記第3所定時間後までの間は前記第3動画像を、前記第3所定時間経過後は前記スルー画像を前記表示部に表示することを特徴とする請求項1記載の撮像装置。
  4. 前記記録制御部は、前記第1動画像、前記第2動画像及び前記第3動画像を一つの動画像ファイルとして更に記録することを特徴とする請求項1〜請求項3の何れか一項に記載の撮像装置。
  5. 前記記録制御部は、前記動画像ファイルの記録前に、前記第1所定時間、前記第2所定時間及び前記第3所定時間の少なくとも1つの長さを任意の長さに設定することを特徴とする請求項1〜請求項4の何れか一項に記載の撮像装置。
  6. 前記記録制御部は、前記第1動画像及び前記第2動画像を含む動画像ファイルの記録時において、前記第2動画像に対応する音声として前記静止画像の撮像時から前記第2所定時間後までの間の音声を前記動画像ファイルに付加して記録することを特徴とする請求項1〜請求項5の何れか一項に記載の撮像装置。
  7. 前記静止画像の撮像時から第4所定時間前の時点を指示する第2指示部を備え、
    前記記録制御部は、前記第2動画像及び前記第3動画像を含む動画像ファイルの記録時において、前記第2動画像に対応する音声として前記静止画像の撮像時から前記第4所定時間前までの間の音声を前記動画像ファイルに付加して記録することを特徴とする請求項1〜請求項5の何れか一項に記載の撮像装置。
  8. 記録媒体に記録されている所定動画像ファイルを形成する複数のフレーム画像の中から所定フレーム画像を選択する選択部と、
    前記選択部により選択された前記所定フレーム画像の記録時間より前の第5所定時間の長さの間に記録された複数の前記フレーム画像により生成される第5動画像と、前記所定フレーム画像を用いて生成される第6所定時間の長さの第6動画像とにより形成される動画像の表示部への表示、または
    前記第6動画像と、前記所定フレーム画像の記録時間より後の第7所定時間の長さの間に記録された複数の前記フレーム画像により生成される第7動画像とにより形成される動画像の前記表示部への表示を制御する表示制御部と、を備え、
    前記検出部は、前記複数のフレーム画像内の被写体の動き情報を検出し、
    前記表示制御部は、前記検出部により検出される前記動き情報に基づいて、前記第5所定時間、前記第6所定時間及び前記第7所定時間の少なくとも一つの時間の長さを設定することを特徴とする撮像装置。
  9. 記録媒体に記録されている所定動画像ファイルを形成する複数のフレーム画像の中から所定フレーム画像を選択する第1選択部と、
    前記第1選択部により選択された前記所定フレーム画像の記録時間より前の第1所定時間の長さの間に記録された複数の前記フレーム画像により生成される第1動画像と、前記所定フレーム画像を用いて生成される第2所定時間の長さの第2動画像とにより形成される動画像の表示部への表示、または
    前記第2動画像と、前記所定フレーム画像の記録時間より後の第3所定時間の長さの間に記録された複数の前記フレーム画像により生成される第3動画像とにより形成される動画像の前記表示部への表示を制御する表示制御部と、
    前記複数のフレーム画像内の被写体の動き情報を検出する検出部と、を備え、
    前記表示制御部は、前記検出部により検出される前記動き情報に基づいて、前記第1所定時間、前記第2所定時間及び前記第3所定時間の少なくとも一つ時間の長さを設定することを特徴とする画像処理装置。
  10. 前記表示制御部は、前記第1動画像、前記第2動画像及び前記第3動画像を一つの動画像として前記表示部に表示することを特徴とする請求項9記載の画像処理装置。
  11. 前記表示制御部は、前記動画像の前記表示部への表示前に、前記第1所定時間、前記第2所定時間及び前記第3所定時間の少なくとも1つの長さを任意の長さに設定することを特徴とする請求項9または請求項10記載の画像処理装置。
  12. 前記第1動画像は、前記所定フレーム画像の記録時間直前から前記第1所定時間前までの間に記録された前記フレーム画像により生成され、
    前記第3動画像は、前記所定フレーム画像の記録時間直後から前記第3所定時間後までの間に記録された前記フレーム画像により生成されることを特徴とする請求項9〜請求項11の何れか一項に記載の画像処理装置。
  13. 前記所定動画像ファイルを形成する前記複数のフレーム画像の中から、前記所定フレーム画像と異なる第2所定フレーム画像を選択する第2選択部を備え、
    前記表示制御部は、前記第2選択部により選択された前記第2所定フレーム画像の記録時間が前記所定フレーム画像の記録時間より前である場合には、前記第2所定フレーム画像を前記第1動画像を形成する最初のフレーム画像とし、
    前記第2所定フレーム画像の記録時間が前記所定フレーム画像の記録時間より後である場合には、前記第2所定フレーム画像を前記第3動画像を形成する最初のフレーム画像とすることを特徴とする請求項9〜請求項11の何れか一項に記載の画像処理装置。
  14. 前記所定動画像ファイルに付加されている音声の再生部への再生を制御する再生制御部を備え、
    前記再生制御部は、前記表示制御部が前記第1動画像及び前記第2動画像を含む動画像を前記表示部に表示するとき、前記第1動画像に対応する前記音声と、前記第2動画像に対応する音声として前記所定フレーム画像の記録時間から前記第2所定時間後までの間の前記音声とを前記再生部において再生することを特徴とする請求項9〜請求項13の何れか一項に記載の画像処理装置。
  15. 前記所定動画像ファイルに付加されている音声の再生部への再生を制御する再生制御部を備え、
    前記再生制御部は、前記表示制御部が前記第2動画像及び前記第3動画像を含む動画像を前記表示部に表示するとき、前記第2動画像に対応する音声として前記所定フレーム画像の記録時間から前記第2所定時間前までの間の前記音声と、前記第3動画像に対応する前記音声とを前記再生部において再生することを特徴とする請求項9〜請求項13の何れか一項に記載の画像処理装置。
JP2010205172A 2009-10-14 2010-09-14 撮像装置及び画像処理装置 Expired - Fee Related JP4993012B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2010205172A JP4993012B2 (ja) 2009-10-14 2010-09-14 撮像装置及び画像処理装置
US12/896,066 US8416310B2 (en) 2009-10-14 2010-10-01 Imaging device and imaging processing apparatus capable of recording and generating movie image data
CN201010510324.1A CN102045527B (zh) 2009-10-14 2010-10-14 摄像装置及图像处理装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009237069 2009-10-14
JP2009237069 2009-10-14
JP2010205172A JP4993012B2 (ja) 2009-10-14 2010-09-14 撮像装置及び画像処理装置

Publications (2)

Publication Number Publication Date
JP2011103641A JP2011103641A (ja) 2011-05-26
JP4993012B2 true JP4993012B2 (ja) 2012-08-08

Family

ID=44193775

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010205172A Expired - Fee Related JP4993012B2 (ja) 2009-10-14 2010-09-14 撮像装置及び画像処理装置

Country Status (2)

Country Link
US (1) US8416310B2 (ja)
JP (1) JP4993012B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI366148B (en) * 2007-12-21 2012-06-11 Asia Optical Co Inc A method of image data processing
JP4868075B2 (ja) * 2009-10-09 2012-02-01 株式会社ニコン 撮像装置
JP5783737B2 (ja) * 2011-02-02 2015-09-24 キヤノン株式会社 撮像装置および動画記録装置の制御方法
US9621796B2 (en) * 2012-03-15 2017-04-11 Nokia Technologies Oy Method, apparatus and computer program for capturing images with multiple image capture and image modification
US9167160B2 (en) * 2012-11-14 2015-10-20 Karl Storz Imaging, Inc. Image capture stabilization
JP2014134898A (ja) * 2013-01-08 2014-07-24 Canon Inc 画像検索装置
JP6093289B2 (ja) * 2013-12-10 2017-03-08 株式会社フレイ・スリー 映像処理装置、映像処理方法およびプログラム
JP5817858B2 (ja) * 2014-01-30 2015-11-18 カシオ計算機株式会社 画像処理装置、画像処理方法、及びプログラム
US10645335B2 (en) * 2017-03-22 2020-05-05 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus for generating a single file of two shooting periods
CN107566737A (zh) * 2017-10-10 2018-01-09 上海小蚁科技有限公司 延时拍照控制方法及装置、可读存储介质、相机

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001057659A (ja) * 1999-08-17 2001-02-27 Nikon Corp 電子カメラおよび画像再生用プログラムを記録した記録媒体
JP4483501B2 (ja) * 2004-09-22 2010-06-16 株式会社ニコン 静止画を動画再生するための前処理を行う画像処理装置、プログラム、および方法
EP1667418B1 (en) * 2004-12-03 2013-01-16 Nikon Corporation Digital camera having video file creating function
JP4552631B2 (ja) 2004-12-03 2010-09-29 株式会社ニコン デジタルカメラ
JP2006165770A (ja) * 2004-12-03 2006-06-22 Nikon Corp デジタルカメラ
JP2008011349A (ja) * 2006-06-30 2008-01-17 Nikon Corp 動画撮影が可能なカメラ
JP4396712B2 (ja) * 2006-09-15 2010-01-13 カシオ計算機株式会社 カメラ装置、撮影制御プログラム、及び、撮影制御方法
US8743227B2 (en) * 2007-05-02 2014-06-03 Canon Kabushiki Kaisha Imaging apparatus and control method for reducing a load of writing image data on a recording medium
JP2009060355A (ja) * 2007-08-31 2009-03-19 Casio Comput Co Ltd 撮像装置、撮像方法、およびプログラム
JP4548493B2 (ja) * 2008-02-19 2010-09-22 カシオ計算機株式会社 撮像装置、動画生成方法及びプログラム
JP5350928B2 (ja) * 2009-07-30 2013-11-27 オリンパスイメージング株式会社 カメラ及びカメラの制御方法

Also Published As

Publication number Publication date
JP2011103641A (ja) 2011-05-26
US8416310B2 (en) 2013-04-09
US20110221916A1 (en) 2011-09-15

Similar Documents

Publication Publication Date Title
JP4993012B2 (ja) 撮像装置及び画像処理装置
JP4985834B2 (ja) 撮像装置及び画像処理装置
JP4983961B2 (ja) 撮像装置
JP2009284234A (ja) 撮像装置、撮像方法、再生装置および再生方法
JP4992860B2 (ja) 撮像装置及びプログラム
JP2011087010A (ja) 撮像装置
US8872942B2 (en) Imaging device
JP2012015830A (ja) カメラ
JP2007089186A (ja) 動画撮影機能付き移動通信端末機及びその動作方法
CN102045527B (zh) 摄像装置及图像处理装置
JP2007266659A (ja) 撮像再生装置
JP5509781B2 (ja) 撮像装置
JP2009077265A (ja) 撮像装置
JP2008206099A (ja) 記録装置
JP2013110562A (ja) 撮像装置
JP2009044728A (ja) データ記録装置、およびカメラ
JP2008160564A (ja) カメラ装置およびカメラ装置におけるチャプタデータ生成方法
JP5589615B2 (ja) 撮像装置
JP5593652B2 (ja) カメラ、および動画再生用プログラム
JP5500188B2 (ja) 撮像装置
JP2014086869A (ja) デジタルカメラ
JP2010187112A (ja) 画像再生装置
JP2010187111A (ja) 撮像装置
JP2010239363A (ja) 動画処理装置、動画再生方法、動画録画方法、及びプログラム
JP2006203539A (ja) 動画記録装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120410

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120423

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150518

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4993012

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150518

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150518

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees