JP4487314B2 - 動画撮像装置及びそのプログラム - Google Patents

動画撮像装置及びそのプログラム Download PDF

Info

Publication number
JP4487314B2
JP4487314B2 JP2005133944A JP2005133944A JP4487314B2 JP 4487314 B2 JP4487314 B2 JP 4487314B2 JP 2005133944 A JP2005133944 A JP 2005133944A JP 2005133944 A JP2005133944 A JP 2005133944A JP 4487314 B2 JP4487314 B2 JP 4487314B2
Authority
JP
Japan
Prior art keywords
sound
recording
moving image
recorded
still image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005133944A
Other languages
English (en)
Other versions
JP2006311412A (ja
Inventor
圭一 今村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005133944A priority Critical patent/JP4487314B2/ja
Publication of JP2006311412A publication Critical patent/JP2006311412A/ja
Application granted granted Critical
Publication of JP4487314B2 publication Critical patent/JP4487314B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

本発明は、動画撮像装置及びそのプログラムに係り、詳しくは、動画撮影中に静止画撮影を行なうことができる動画撮像装置及びそのプログラムに関する。
近年においては、技術の進歩により動画撮影中に静止画撮影を行なうことができるデジタルカメラの技術が広く知られている。
これに伴い、動画撮影中における静止画撮影によって記録される動画品質の低下を防止する技術などが登場してきている(特許文献)
公開特許公報 特開2001−111934
しかしながら、従来のデジタルカメラなどにおいては、音声付動画撮影を行なっているときに静止画撮影を行なうと、シャッタ音が放音されるため、音声付動画撮影中にシャッタ音まで録音されてしまい、動画の再生中に被写体の音声とともにシャッタ音が鳴ってしまい煩わしいという問題点があった。
また、デジタルカメラなどの動画撮像装置においては、シャッタ音を放音するスピーカと、マイクの位置が近すぎてしまうため、スピーカから放音されたシャッタ音をマイクで集音して録音すると、音質が悪くなるという問題点があった。
また、撮影目的や状況によっては、シャッタ音の放音や録音を行った方が良い場合もあるが、撮影目的や状況によってシャッタ音の放音、録音を制御することはできなかった。
そこで本発明は、かかる従来の問題点に鑑みてなされたものであり、動画撮影中に静止画撮影を行った場合でも、撮影目的や状況によってシャッタ音の録音、放音を制御することができる動画撮像装置及びそのプログラムを提供することを目的とする。
上記目的達成のため、本発明による動画撮像装置は、被写体を撮像する撮像手段と、音を集音するマイクロホンと、前記撮像手段による動画の撮影を制御して得られた動画データを記録手段に記録するとともに、前記マイクロホンにより集音された音を音データとして記録する音声付動画撮影記録制御手段と、ユーザが静止画の撮影を指示するための指示手段と、前記指示手段により静止画の撮影が指示された場合は、撮影を報知する報知音の音データを記憶手段から読み出して報知手段から放音させる放音制御手段と、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクロホンにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録制御手段により制御されている前記撮像手段による動画の撮影を一時中断して、前記撮像手段による静止画の撮影を制御して得られた静止画データを前記記録手段に記録する静止画撮影記録制御手段と、前記放音制御手段により放音される報知音を記録するか否かを判定する第1の判定手段と、前記第1の判定手段により報知音を記録しないと判定され、且つ、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクにより集音された音の音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御する第1の制御手段と、を備え、前記第1の判定手段は、前記静止画撮影記録制御手段により制御される静止画の撮影及び得られた静止画データの記録により、欠落する動画フレームが所定枚数以下しかないと判定した場合には、報知音の音データを記録しないと判定することを特徴とする。
また、前記第1の判定手段は、前記音声付動画撮影記録処理により撮影される動画のフレームレートが所定フレームレート以上でない場合は、欠落する動画フレームが所定枚数以下しかないと判定するようにしてもよい。
また、前記第1の判定手段は、前記静止画撮影記録制御手段により撮影される静止画の解像度が所定の解像度以上でない場合には、欠落する動画フレームが所定枚数以下しかないと判定するようにしてもよい。
また、ユーザが報知音を記録するか否かを設定するための第1の設定手段を備え、前記第1の判定手段は、前記第1の設定手段により設定された結果に基づいて判定するようにしてもよい。
また、前記第1の制御手段は、前記放音制御手段による報知音の放音を禁止することにより、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御するようにしてもよい。
また、前記第1の制御手段は、前記マイクロホンにより集音された音のうち前記放音制御手段により放音された報知音を除去することにより、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御するようにしてもよい。
また、前記第1の判定手段により報知音を記録すると判定され、且つ、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記マイクロホンにより集音された音のうち前記放音制御手段により放音された報知音を除去し、該報知音が除去された音の音データに前記記憶手段に記憶されている報知音の音データを合成して前記記録手段に記録する第2の制御手段を備えるようにしてもよい。
また、前記放音制御手段により放音された報知音を記録するか、前記記憶手段に記憶されている報知音の音データを合成して記録するか否かを判定する第2の判定手段を備え、前記第2の制御手段は、前記第2の判定手段により報知音の音データを合成して記録すると判定された場合は、前記マイクロホンにより集音された音のうち前記放音制御手段により放音された報知音を除去し、該報知音が除去された音の音データに前記記憶手段に記憶されている報知音の音データを合成して前記記録手段に記録するようにしてもよい。
また、ユーザが報知音を記録するか、報知音の音データを合成して記録するかを設定するための第2の設定手段を備え、前記第2の判定手段は、前記第2の設定手段により設定された結果に基づいて判定するようにしてもよい。
また、報知音の放音が必要か否かを判定する第2の判定手段と、前記第2の判定手段による判定にしたがって、前記放音制御手段による報知音の放音、非放音を制御する報知制御手段と、を備えるようにしてもよい。
また、前記第2の判定手段は、撮影場所が屋外であるという条件、録音レベルが所定レベル以上であるという条件、被写体の動きが所定以上であるという条件のうち、少なくとも1つ以上の条件に基づいて判定するようにしてもよい。
また、ユーザが報知音の放音を行なうか否かを設定するための第2の設定手段を備え、前記第3の判定手段は、前記第2の設定手段により設定された結果に基づいて判定するようにしてもよい。
また、前記第2の制御手段は、前記第2の判定手段により報知音の放音が不必要と判定された場合には、前記マイクロホンにより集音された音の音データに、前記記憶手段に記憶されている報知音の音データを合成して記録するようにしてもよい。
上記目的達成のため、本発明によるプログラムは、被写体を撮像する撮像素子を制御して動画の撮影を行ない、該得られた動画データを記録媒体に記録するとともに、音を集音するマイクロホンにより集音された音を音データとして記録する音声付動画撮影記録処理と、静止画の撮影を指示する指示処理と、前記指示処理により静止画の撮影が指示された場合は、撮影を報知する報知音の音データを記憶媒体から読み出して報知部から放音させる放音処理と、前記音声付動画撮影記録処理により撮影された動画データと、前記マイクロホンにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録処理により制御されている前記撮像素子による動画の撮影を一時中断して、前記撮像素子による静止画の撮影を制御して得られた静止画データを前記記録媒体に記録する静止画撮影記録処理と、前記放音処理により放音される報知音を記録するか否かを判定する判定処理と、前記判定処理により報知音を記録しないと判定され、且つ、前記音声付動画撮影記録処理により撮影された動画データと、前記マイクにより集音された音の音データとを記録している最中に、前記指示処理により静止画の撮影が指示された場合には、前記音声付動画撮影記録処理により記録される音に報知音が含まれないように制御する処理と、をコンピュータで実行させるプログラムであって、前記判定処理は、前記静止画撮影記録制御処理により制御される静止画の撮影及び得られた静止画データの記録により、欠落する動画フレームが所定枚数以下しかないと判定した場合には、報知音の音データを記録しないと判定することを特徴とする。
本発明によれば、被写体を撮像する撮像手段と、音を集音するマイクロホンと、前記撮像手段による動画の撮影を制御して得られた動画データを記録手段に記録するとともに、前記マイクロホンにより集音された音を音データとして記録する音声付動画撮影記録制御手段と、ユーザが静止画の撮影を指示するための指示手段と、前記指示手段により静止画の撮影が指示された場合は、撮影を報知する報知音の音データを読み出して報知手段から放音させる放音制御手段と、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクロホンにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録制御手段により制御されている前記撮像手段による動画の撮影を一時中断して、前記撮像手段による静止画の撮影を制御して得られた静止画データを前記記録手段に記録する静止画撮影記録制御手段と、前記放音制御手段により放音される報知音を記録するか否かを判定する第1の判定手段と、前記第1の判定手段により報知音を記録しないと判定され、且つ、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクロホンにより集音された音の音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御する第1の制御手段と、を備え、前記第1の判定手段は、前記静止画撮影記録制御手段により制御される静止画の撮影及び得られた静止画データの記録により、欠落する動画フレームが所定枚数以下しかないと判定した場合には、報知音の音データを記録しないと判定するようにしたので、動画データの再生時において、被写体の音声とともに煩わしいシャッタ音が鳴ることがない。
また、請求項2記載の発明によれば、前記第1の判定手段は、前記静止画撮影記録制御手段により制御される静止画の撮影及び得られた静止画データの記録により、欠落する動画フレームが所定枚数以下しかないと判定した場合には、報知音の音データを記録しないと判定するようにしたので、動画再生時において被写体の音声とともに煩わしいシャッタ音が鳴ることがない。
また、欠落する動画フレームが所定枚数以上の場合には、シャッタ音を記録するので、動画再生時において欠落動画フレームの直前にシャッタ音がなり、ユーザがここで静止画撮影を行なったということを認識させ、動画フレームの欠落による違和感を軽減させることができる。
以下、本実施の形態について、図面を参照して詳細に説明する。
[実施の形態]
A.デジタルカメラの構成
図1は、本発明の動画撮像装置を実現するデジタルカメラ1の電気的な概略構成を示すブロック図である。
デジタルカメラ1は、撮影レンズ2、レンズ駆動ブロック3、絞り兼用シャッタ4、CCD5、TG(timing generator)6、ユニット回路7、DRAM8、メモリ9、CPU10、フラッシュメモリ11、画像表示部12、キー入力部13、音声処理部14、ストロボ駆動部15、ストロボ発光部16、カードI/F17を備えており、カードI/F17には、図示しないデジタルカメラ1本体のカードスロットに着脱自在に装着されたメモリ・カード18が接続されている。
撮影レンズ2は、図示しないフォーカスレンズ、ズームレンズを含み、レンズ駆動ブロック3が接続されている。このレンズ駆動ブロック3は、図示しないフォーカスレンズ、ズームレンズをそれぞれ光軸方向に駆動させるモータと、CPU10からの制御信号にしたがってフォーカスモータ、ズームモータをそれぞれ光軸方向に駆動させるフォーカスモータドライバ、ズームモータドライバから構成されている。
絞り兼用シャッタ4は、図示しない駆動回路を含み、駆動回路はCPU10から送られてくる制御信号にしたがって絞り兼用シャッタを動作させる。この絞り兼用シャッタは、絞りとシャッタとして機能する。
絞りとは、撮影レンズ2から入ってくる光の量を制御する機構のことをいい、シャッタとは、CCD5に光を当てる時間を制御する機構のことをいい、CCD5に光を当てる時間は、シャッタの開閉の速度(シャッタ速度)によって変わってくる。露出は、この絞りとシャッタ速度によって定めることができる。
CCD5(撮像手段)は、撮影レンズ2、絞り兼用シャッタ4を介して投影された被写体の光を電気信号に変換し、撮像信号としてユニット回路7に出力する。また、CCD5は、TG6によって生成された所定周波数のタイミング信号にしたがって駆動する。TG6にはユニット回路7が接続されている。
ユニット回路7は、CCD5から出力される撮像信号を相関二重サンプリングして保持するCDS(Correlated Double Sampling)回路、そのサンプリング後の撮像信号の自動利得調整を行うAGC(Automatic Gain Control)回路、その自動利得調整後のアナログの撮像信号をデジタル信号に変換するA/D変換器から構成されており、CCD5の撮像信号は、ユニット回路7を経てデジタル信号としてCPU10に送られる。
CPU10は、ユニット回路7から送られてきた画像データの画像処理(画素補間処理、γ補正、輝度色差信号の生成、ホワイトバランス処理、露出補正処理等)、画像データの圧縮・伸張(例えば、JPEG形式やM−JPEG形式又はMPEG形式の圧縮・伸張)の処理などを行う機能を有するとともに、デジタルカメラ1の各部を制御するワンチップマイコンである。
DRAM8は、CCD5によって撮像された後、CPU10に送られてきた画像データを一時記憶するバッファメモリとして使用されるとともに、CPU10のワーキングメモリとして使用される。
フラッシュメモリ11やメモリ・カード18は、CCD5によって撮像された画像データなどを保存しておく記録媒体である。なお、本実施例では、画像データの書き込み(記録)、読み込みは、専らフラッシュメモリ11を用いて説明しているが、ユーザのキー入力部13の操作により、画像データをフラッシュメモリ11に記録するか、メモリ・カード18に記録するか等を選択することができる。フラッシュメモリ11や、メモリ・カード18は、本発明の記録手段として機能する。
画像表示部12は、カラーLCDとその駆動回路を含み、撮影待機状態にあるときには、CCD5によって撮像された被写体をスルー画像として表示し、記録画像の再生時には、保存用フラッシュメモリ11やメモリ・カード18から読み出され、伸張された記録画像を表示させる。
キー入力部13は、シャッタボタン、録画開始/終了ボタン、モードキー等の複数の操作キーを含み、ユーザのキー操作に応じた操作信号をCPU10に出力する。このキー入力部13は、本発明の指示手段、第1の設定手段、第2の設定手段、第3の設定手段として機能する。
音声処理部14は、内蔵マイク(マイクロホン)、アンプ、A/D変換器、D/A変換器、アンプ、内蔵スピーカ(報知手段)、シャッタ音除去フィルタ等を含み、動画撮影時や音声付静止画撮影時には、内蔵マイクに入力された音声をデジタル信号に変換してCPU10に送る。送られてきた音声データは、バッファメモリ(DRAM8)に順次記憶され、CCD5によって撮像された画像データとともにフラッシュメモリ11又はメモリ・カード18に記録される。
また、音声処理部14は、静止画撮影時には、シャッタ音を内蔵スピーカから放音し、動画像や音声付静止画像の再生時には、各画像データに付属する音声データに基づく音声等を内蔵スピーカから放音する。なお、このシャッタ音の音データはメモリ9に記録されており、静止画撮影を行なう場合には、CPU10は、メモリ9からシャッタ音の音データを読み出し、音声処理部14は、該読み出されたシャッタ音の音データを内蔵スピーカから放音する。
シャッタ音除去フィルタは、内蔵マイクによって集音された音のうちシャッタ音のみを除去するためのフィルタである。動画撮影中に静止画撮影処理を行うと内蔵スピーカからシャッタ音が放音され、放音されたスピーカ音が内蔵マイクを通して録音されてしまうため、内蔵マイクによって集音された音のうちシャッタ音のみを除去するためである。
CPU10は、内蔵マイクに入力されたシャッタ音を除去するか否かの判断を行い、内蔵マイクに入力されたシャッタ音を除去する場合には音声処理部14に制御信号を送り、音声処理部14は、該送られてきた制御信号に従ってシャッタ音除去フィルタをOnさせて、シャッタ音を除去させる。なお、シャッタ音除去フィルタがOffの場合には、内蔵マイクから入力された音のうちシャッタ音が除去されずにそのまま録音される。また、CPU10は、シャッタ音除去フィルタをOnさせて、静止画撮影を行なうとシャッタ音除去フィルタがOffとなるような制御信号を音声処理部14に送る
ストロボ駆動部15は、CPU10の制御信号にしたがって、ストロボ発光部16を閃光駆動させ、ストロボ発光部16はストロボを閃光させる。CPU10は、図示しない測光回路によって撮影シーンが暗いか否かを判断し、撮影シーンが暗いと判断し、且つ、静止画撮影を行うと判断した場合(シャッタボタン押下時)には、ストロボ駆動部15に制御信号を送る。
メモリ9には、CPU10によるデジタルカメラ1の各部の制御に必要なプログラム、及び各部の制御に必要なデータが記録されており、CPU9は、このプログラムにしたがって処理を行うことにより、本発明の音声付動画撮影記録制御手段、静止画撮影記録制御手段、放音制御手段、第1の判定手段、第2の判定手段、第3の判定手段、第1の制御手段、第2の制御手段、報知制御手段として機能する。
また、メモリ7には、シャッタ音の音データが記録されており、シャッタ音記録判定処理及びシャッタ音放音非放音判定処理によって判定された判定結果を記憶しておく記憶領域A、記憶領域Bを有する。メモリ7は、本発明の記憶手段として機能する。
B.デジタルカメラ1の動作
第1の実施の形態におけるデジタルカメラ1の撮影モードの動作を図2及び図3のフローチャートにしたがって説明する。
まず、ユーザのキー入力部13のモードキーの操作により撮影モードに設定されると、CPU10は、CCD5による被写体の撮像を所定のフレームレート(1/30秒の固定周期)で開始させ、該撮像された画像データに対して画像処理を施して、バッファメモリ(DRAM8)に記憶させ、該記憶された画像データを画像表示部12に表示させるという、いわゆるスルー画像表示を行う(ステップS1)。
スルー画像を画像表示部12に表示させると、CPU10は、ユーザによって静止画撮影の指示が行われたか否かの判断を行う(ステップS2)。この判断は、キー入力13からシャッタボタン押下に対応する操作信号が送られてきた場合には、静止画撮影の指示が行われたと判断する。
ステップS2で、静止画撮影の指示が行われたと判断すると、CPU10は、メモリ9からシャッタ音の音データを読み出し、音声処理部14の内蔵スピーカから該読み出した音データの音(シャッタ音)を放音させる(ステップS3)。つまり、シャッタ音を放音させることにより撮影が行なわれた旨を撮影者及び被写体に報知させることができる。
次いで、CPU10は、静止画撮影処理を行い、該撮影処理により得られた静止画像データをフラッシュメモリ11に記録させて(ステップS4)、ステップS2に戻る。
一方、ステップS2で、静止画撮影の指示が行われていないと判断すると、CPU10は、ユーザによって動画撮影の指示が行われたか否かの判断を行う(ステップS5)。この判断は、キー入力部13から録画開始/終了ボタンの押下に対応する操作信号が送られてきた場合には、動画撮影の指示が行われたと判断する。
ステップS5で、動画撮影の指示が行われていないと判断するとステップS2に戻り、動画撮影の指示が行われたと判断すると、CPU10は動画撮影・記録処理を開始させる(ステップS6)。つまり、CCD5により、ある一定のフレームレートで撮像され、バッファメモリに記憶された動画データのフレームデータに対してJPEG圧縮を施し、該圧縮したフレームデータを順次フラッシュメモリ11に記録していく。
次いで、CPU10は、音声録音処理を開始させる(ステップS7)。つまり、音声処理部14の内蔵マイクに集音された被写体等の音声などの音声データを順次フラッシュメモリ11に記録していく。
次いで、CPU10は、シャッタ音記録判定処理を行う(ステップS8)。このシャッタ音合記録判定処理は、シャッタ音の録音、つまり、シャッタ音の音データを記録するか否かの判定を行なう。この判定処理により得られた判定結果を示す情報をメモリ9の記憶領域Aに記憶させる。このシャッタ音記録判定処理については後で説明する。
次いで、CPU10は、シャッタ音放音非放音判定処理を行う(ステップS9)。このシャッタ音放音非放音判定処理は、動画撮影・記録処理中に静止画撮影の指示が行われた場合には、静止画撮影記録処理に先立ってシャッタ音を音声処理部14の内蔵スピーカから放音させるか否かの判定を行なう。この判定処理によりシャッタ音を放音すると判定した場合にはメモリ9の記憶領域Bにその旨を示す情報を記憶させ、シャッタ音を放音しないと判定した場合には該記憶領域Bにその旨を示す情報を記憶させる。このシャッタ音放音非放音判定処理については、後で説明する。
次いで、CPU10は、ユーザによって動画撮影を終了する旨の指示が行われたか否かの判断を行う(ステップS10)。この判断は、キー入力部13から録画開始/終了ボタンの押下に対応する操作信号が送られてきた場合には、動画撮影を終了すると判断する。
ステップS10で、動画撮影を終了する旨の指示が行われたと判断した場合には、CPU10は、動画撮影・記録処理、音声録音処理を終了して、順次記録した動画フレームデータ、音声データから動画ファイルを生成して(ステップS11)、ステップS2に戻る。
一方、ステップS10で、動画撮影を終了する旨の指示が行われていないと判断した場合には、CPU10は、静止画撮影の指示が行われたか否かの判断を行う(ステップS12)。この判断は、上述したようにキー入力部13からシャッタボタン押下に対応する操作信号が送られてきた場合には、静止画撮影の指示が行われたと判断する。
ステップS12で、静止画撮影の指示が行われていないと判断するとステップS9に戻り、静止画撮影の指示が行われたと判断すると、CPU10は、静止画撮影に先立ってシャッタ音を放音するか否かの判断を行う(ステップS13)。この判断は、メモリ9の記憶領域Bに記憶されている情報に基づいて判断を行う。つまり、記憶領域Aにシャッタ音を放音させる旨を示す情報が記憶されている場合にはシャッタ音を放音すると判断し、記憶領域Bにシャッタ音を放音しない旨を示す情報が記憶されている場合にはシャッタ音を放音しないと判断する。なお、ユーザがシャッタ音の放音/非放音を設定することができるようにし、ユーザによってシャッタ音の放音/非放音が設定されている場合には、その設定にしたがって判断するようにしてもよい。つまり、記憶領域Bには、シャッタ音を放音しない旨の情報が記憶されている場合でも、ユーザによってシャッタ音を放音すると設定されている場合には、シャッタ音を放音すると判断する。
ステップS13で、シャッタ音を放音すると判断すると、CPU10は、シャッタ音を記録するか否かの判断を行う(ステップS14)。この判断は、メモリ9の記憶領域Aに記憶されている情報に基づいて行なう。記憶領域Aに、シャッタ音の記録を示す情報が記憶されている場合にはシャッタ音を記録すると判断し、シャッタ音を記録しないことを示す情報が記憶されている場合にはシャッタ音を記録しないと判断する。なお、ユーザがシャッタ音の記録/非記録を設定することができるようにし、ユーザによってシャッタ音の記録/非記録が設定されている場合には、その設定にしたがって判断するようにしてもよい。つまり、記憶領域Aには、シャッタ音を記録しない旨の情報が記録されている場合でも、ユーザによってシャッタ音を記録すると設定されている場合には、シャッタ音を記録すると判断する。
ステップS14で、シャッタ音を記録すると判断すると、CPU10は、シャッタ音を合成記録するか否かの判断を行う(ステップS15)。つまり、シャッタ音を内蔵スピーカから放音することにより内蔵マイクを介して該放音されたシャッタ音の録音を行なうのか、内蔵マイクを介して録音されている音データにメモリ9に記録されているシャッタ音の音データを合成させることによりシャッタ音の録音を行なうのかを判断する。この判断の手法として、静止画アニメモードに設定されている場合には、合成音の記録を行なうと判断するようにしてもよいし、所定の撮影条件で動画撮影が行なわれている場合や、静止画撮影を行なおうとしている場合には合成音の記録を行なうと判断するようにしてもよい。更に、ユーザにより合成音を記録すると設定された場合には、合成音の記録を行なうと判断するようにしてもよい。
ステップS15で、シャッタ音の合成記録を行なうと判断すると、CPU10は、音声処理部14のシャッタ音除去フィルタをOnにする(ステップS16)。これにより、内蔵マイクによって集音された被写体の音声、シャッタ音などの音データのうち、シャッタ音の音データのみを除去することができる。
図4は、シャッタ音除去フィルタがOn、Offのときにおける音声処理部の様子を示すものである。
シャッタ音除去フィルタのOn、Offに拘わらず、内蔵マイクによって集音された音(被写体の音声、シャッタ音)の音データはシャッタ音除去フィルタに入力させるが、シャッタ音除去フィルタがOnの場合には図4(a)に示すように、シャッタ音除去フィルタは入力された音データのうちシャッタ音の音データのみを除去して、出力する。つまり、被写体の音声しか出力されないこととなる。
次いで、CPU10は、メモリ9からシャッタ音の音データを読み出して、内蔵スピーカからシャッタ音を放音させるとともに、シャッタ音除去フィルタ20から出力された音データに該読み出したシャッタ音の音データを合成記録させて(ステップS17)、ステップS23に進む。つまり、内蔵マイク19に入力されたシャッタ音はシャッタ音除去フィルタ20によって除去され、該シャッタ音が除去された音データ(被写体の音声の音データ)にシャッタ音の音データが合成されて記録されることとなる。これにより、録音されるシャッタ音の音質を良くすることができる。
一方、ステップS15で、シャッタ音の合成音を記録しないと判断すると、CPU10は、メモリ9に記録されているシャッタ音の音データを読み出し、音声処理部14の内蔵スピーカからシャッタ音を放音して(ステップS18)、ステップS23に進む。これにより、内蔵スピーカから放音されたシャッタ音は、内蔵マイク19を介してシャッタ音が記録されることとなる。
シャッタ音除去フィルタ20がOffの場合には、図4(b)に示すように、シャッタ音除去フィルタ20は、シャッタ音を除去することなく入力された音データをそのまま出力する。つまり、シャッタ音除去フィルタ20がOffの時には、シャッタ音が除去されることなく、内蔵マイク19に集音された音(被写体の音声とシャッタ音)の音データが記録されることとなる。
一方、ステップS14で、シャッタ音を記録しないと判断すると、CPU10は、CPU10は、音声処理部14のシャッタ音除去フィルタ20をOnにする(ステップS19)。これにより、内蔵マイク19によって集音された被写体の音声、シャッタ音などの音データのうち、シャッタ音の音データのみを除去することができる。
次いで、CPU15は、メモリ9に記録されているシャッタ音の音データを読み出し、音声処理部14の内蔵スピーカからシャッタ音を放音して(ステップS20)、ステップS23に進む。これにより、内蔵スピーカからシャッタ音が放音された場合であっても、内蔵スピーカに入力されたシャッタ音はシャッタ音除去フィルタ20によって除去されるのでシャッタ音が記録されない。
一方、ステップS13で、シャッタ音を放音しないと判断すると、CPU10は、シャッタ音を記録するか否かの判断を行う(ステップS21)。この判断は、上述したようにメモリ9の記憶領域Aに記憶されている情報に基づいて行なう。記憶領域Aに、シャッタ音の記録を示す情報が記憶されている場合にはシャッタ音を記録すると判断し、シャッタ音を記録しないことを示す情報が記憶されている場合にはシャッタ音を記録しないと判断する。
ステップS21で、シャッタ音を記録すると判断すると、CPU10は、メモリ9からシャッタ音の音データを読み出し、内蔵マイク19を介して得られた音データに該読み出したシャッタ音の音データを合成記録させて(ステップS22)、ステップS23に進む。
一方、ステップS21で、シャッタ音を記録しないと判断すると、そのままステップS23に進む。
ステップS23に進むと、CPU10は、静止画撮影処理を行い、該撮影処理により得られた画像データをフラッシュメモリ11に記録する。
次いで、動画撮影・記録処理を再開して(ステップS22)、ステップS9に戻る。つまり、CCD5により、所定のフレームレート(1/30秒の固定周期)で撮像され、バッファメモリに記憶された動画データのフレームデータに対してJPEG圧縮を施し、該圧縮したフレームデータを順次フラッシュメモリ11に記録するという処理を再開する。
B−1.シャッタ音記録判定処理
次に、シャッタ音記録判定処理の動作の一例として、図5のフローチャートに従って説明する。
まず、CPU10は、フレームレートが所定フレームレート以上であるか否かの判断を行う(ステップS31)。
ステップS31で、フレームレートが所定フレームレート以上でないと判断すると、CPU10は、静止画撮影により得られる静止画像の解像度が所定の解像度以上であるか否かの判断を行う(ステップS32)。
ここで、ステップS31での判断と、ステップS32での判断は、静止画撮影処理により欠落する動画フレームが多いか(所定枚数以上か)否かを判断している。つまり、動画のフレームレートが所定フレームレート以上である場合、静止画の解像度が所定の解像度以上の場合には、欠落する動画フレームデータが多い(所定枚数以上)ということになる。
なお、動画のフレームレート、静止画の解像度、及び、判断基準となる所定フレームレート、所定の解像度は予め設定されているが、ユーザが動画のフレームレート、静止画の解像度、及び、判断基準となる所定フレームレート、所定の解像度の設定を行なうことができるようにしてもよい。
ステップS32で、静止画像の解像度が所定の解像度以上でないと判断すると、CPU10は、シャッタ音を記録しないと判定し、その旨を示す情報を記憶領域Aに記憶させる(ステップS33)。つまり、フレームレートが所定以上でない場合、静止画の解像度が所定の解像度以上でない場合には、静止画撮影記録処理により動画撮影・記録処理が中止になっても、欠落する動画フレームの枚数は少ないので(所定枚数以下なので)、該動画撮影・記録処理により得られた動画データを再生した場合でも、ユーザは欠落していることに気づかないからであり、耳障りなシャッタ音を録音するのは好ましくないからである。
ステップS31でフレームレートが所定フレームレート以上と判断した場合、ステップS32で静止画像の解像度が所定の解像度以上と判断した場合は、静止画撮影処理により動画撮影が中止することにより、欠落する動画フレームの枚数が多くなり(所定枚数以上となり)、該動画撮影・記録処理により得られた動画データを再生した場合には、その動画フレームの欠落により不自然な動画が再生されることになる。
したがって、ステップS31でフレームレートが所定フレームレート以上と判断した場合、ステップS32で静止画像の解像度が所定の解像度以上と判断した場合には、CPU10は、シャッタ音を記録すると判定し、その旨を示す情報を記憶領域Aに記憶させる(ステップS34)。
つまり、静止画撮影前にシャッタ音を録音させることにより、動画再生時において欠落動画フレームの直前にシャッタ音がなり、ユーザがここで静止画撮影を行なったということを認識させ、動画フレームの欠落の不自然さを払拭させるというものである。
なお、この所定フレームレート、及び所定の解像度は、予め決まっていても良いが、ユーザがこの所定フレームレート、解像度を設定することができるようにしてもよい。
なお、言うまでもないが、他の条件に基づいて、シャッタ音を記録するか否かの判定を行なうようにしてもよい。
B−2.シャッタ音放音非放音判定処理
次に、シャッタ音放音非放音判定処理の動作の一例として、図6のフローチャートに従って説明する。
まず、CPU10は、撮影場所が屋外であるか否かの判断を行う(ステップS51)。この判断は、自動ホワイトバランス処理により得た光の光源の色温度が太陽光の色温度であると判断すると屋外と判断し、自動ホワイトバランス処理により得た光の光源の色温度が太陽光の色温度でないとないと判断すると屋内と判断する。
ステップS51で、撮影場所が屋外でないと判断すると、CPU10は、録音している音声(記録している音声データ)の録音レベルが所定以上であるか否かの判断を行う(ステップS52)。
ステップS52で、録音レベルが所定レベル以上でないと判断すると、被写体の動きが所定以上であるか否かを判断する(ステップS53)。つまり、動画フレームの画像を認識して被写体の動きが所定レベル以上であるか否かの判断を行う。動きのない画像は、直前に認識した画像との差分が0となり、動きがあればあるほど直前に認識した画像との差分が大きくなるので、この差分が所定以上であるか否かの判断を行うこととなる。
ステップS53で、被写体の動きが所定以上でないと判断すると、シャッタ音の報知が不必要であると判定し、その判定結果をメモリ9の記憶領域Bに記憶させる(ステップS54)。
一方、ステップS51で屋外でないと判断された場合、ステップS52で録音レベルが所定以上でないと判断された場合、ステップS53で被写体の動きが所定以上であると判断した場合には、シャッタ音の放音が必要であると判定し、その判定結果を記憶領域Bに記憶させる(ステップS55)。
つまり、撮影場所が屋外の場合や録音レベルが高い場合、被写体の動きは所定以上(激しい)場合には、騒々しい場所で撮影すると考えられるためシャッタ音を放音することにより、被写体に対してこれから撮影を行なう旨を伝達することができる。
なお、言うまでもないが、他の条件に基づいてシャッタ音を放音/非放音の判定を行なうようにしてもよい。
C.以上のように、実施の形態においては、音声付動画撮影記録処理中に静止画撮影の指示が行われると、シャッタ音を記録するか否かの判断を行い、シャッタ音を記録しないと判断すると、シャッタ音除去フィルタをOnさせることにより、内蔵マイク19により集音された音からシャッタ音を除去して音を録音するようにしたので、該動画データの再生時において、被写体の音声とともに煩わしいシャッタ音が鳴ることがない。
また、動画のフレームレートが所定フレームレート以上、静止画の解像度が所定解像度以上の場合には、シャッタ音を記録すると判断するようにしたので、動画再生時において欠落動画フレームの直前にシャッタ音を鳴らすことができ、ユーザはここで静止画撮影を行なったということを認識するとともに動画フレームの欠落の違和感を軽減させることができる。
また、シャッタ音が記録すると判断された場合には、合成音を記録させるか否かを判断し、合成音を記録すると判断すると、メモリ9からシャッタ音の音データを読み出して、内蔵スピーカからシャッタ音を放音させるとともに、シャッタ音除去フィルタ20から出力された音データに該読み出したシャッタ音の音データを合成記録させるようにしたので、音質のよりシャッタ音を録音することができる。
また、シャッタ音を放音させるか否かの判断を行うようにしたので、シャッタ音の放音が必要な場合のみシャッタ音を放音することができる。
また、シャッタ音を放音させないと判断された場合で、且つ、シャッタ音を記録すると判断された場合には、シャッタ音の音データをメモリ9から読み出し、内蔵マイク19によって集音された音データに該読み出したシャッタ音の音データを合成して記録するようにしたので、動画撮影中にシャッタ音が放音されない場合でも、動画の再生時にはシャッタ音が放音されるので、ユーザはこの場面で静止画撮影を行なったのだな、と再確認することができる。
なお、図3のステップS13でシャッタ音を放音させると判断し、ステップS14でシャッタ音を記録しないと判断した場合には、ステップS19でシャッタ音除去フィルタをOnにさせて、ステップS20でシャッタ音を放音させるようにしたが、ステップS14でシャッタ音を記録しないと判断した場合には、シャッタ音を内蔵スピーカから放音させないようにしてもよい。つまり、シャッタ音の放音を禁止するようにしてもよい。この方法でも、シャッタ音は記録されずにすむこととなる。
また、図5のシャッタ音記録判定処理においては、動画のフレームレートが所定フレーム以上、静止画の解像度が所定の解像度以上の場合には、欠落する動画フレームが多い(所定枚数以上)と判断するようにしたが、静止画撮影記録処理によって実際に欠落した動画フレームが、所定枚数以上の場合にはシャッタ音を記録すると判定するようにしてもよい。
この場合には、ステップS13でシャッタ音の報知を行うと判断すると、シャッタ音除去フィルタをOnし、シャッタ音を放音して静止画撮影記録処理を実行させる。その後、シャッタ音記録判定処理によって、静止画撮影記録処理により実際に欠落した動画フレームが所定枚数以上である場合には、シャッタ音を記録すると判定し、後から、シャッタ音の音データを合成するようにしてもよい。このときには、静止画撮影処理を実行する際に録音された音データにシャッタ音を合成させるようにする。
また、図3のステップS13で、シャッタ音を鳴らすか否かの判断を行うようにしたが、シャッタ音を通常の音で鳴らすか、小さい音で鳴らすかを判断するようにしてもよい。
ステップS13で、通常の音で鳴らすと判定した場合には、ステップS14に進み、上記実施の形態と同様のステップを踏む。
一方、ステップS13で、小さい音で鳴らすと判断した場合は、ステップS14〜ステップS20と同様のステップを踏む。つまり、シャッタ音を通常の音で鳴らすと判断した場合と同様のステップを踏むことになる。しかし、シャッタ音を鳴らす場合には、小さい音でシャッタ音を鳴らし、シャッタ音を合成して記録する場合には、シャッタ音が小さい音で再生されるような音データを合成して記録する。この場合には、内蔵スピーカで放音されたシャッタ音を内蔵マイクを介して記録する場合であっても、内蔵スピーカから放音されるシャッタ音は小さいため、内蔵マイクを介してシャッタ音を記録しても、音割れもせず、音質の悪いシャッタ音が記録されることもない。
また、図6のシャッタ音放音非放音判定処理においては、ステップS53でNに分岐すると、ステップS54でシャッタ音の小さい音で鳴らすと判定し、その判定結果を記憶領域Bに記憶させる。また、ステップS51、ステップS52、ステップS53で、Yに分岐すると、ステップS55でシャッタ音を通常の音で鳴らすと判定し、その判定結果を記憶領域Bに記憶させる。
更に、上記実施の形態におけるデジタルカメラ1は、上記実施の形態に限定されるものではなく、カメラ付き携帯電話、カメラ付きPDA、カメラ付きパソコン、カメラ付きICレコーダ、又はデジタルビデオカメラ等でもよく、要は動画撮影中に静止画撮影を行なうことができる機器であれば何でもよい。
本発明の実施の形態のデジタルカメラのブロック図である。 本実施の形態のデジタルカメラの動作を示すフローチャートである。 本実施の形態のデジタルカメラの動作を示すフローチャートである。 シャッタ音除去フィルタがOn、Offのときにおける音声処理部の様子を示す図である。 シャッタ音記判定処理の動作を示すフローチャートである。 シャッタ音放音非放音判定処理の動作を示すフローチャートである。
符号の説明
1 デジタルカメラ
2 撮影レンズ
3 レンズ駆動ブロック
4 絞り兼用シャッタ
5 CCD
6 TG
7 ユニット回路
8 DRAM
9 メモリ
10 CPU
11 フラッシュメモリ
12 画像表示部
13 キー入力部
14 音声処理部
15 ストロボ駆動部
16 ストロボ発光部
17 カードI/F
18 メモリ・カード
19 内蔵マイク
20 シャッタ音除去フィルタ

Claims (12)

  1. 被写体を撮像する撮像手段と、
    音を集音するマイクロホンと、
    前記撮像手段による動画の撮影を制御して得られた動画データを記録手段に記録するとともに、前記マイクロホンにより集音された音を音データとして記録する音声付動画撮影記録制御手段と、
    ユーザが静止画の撮影を指示するための指示手段と、
    前記指示手段により静止画の撮影が指示された場合は、撮影を報知する報知音の音データを記憶手段から読み出して報知手段から放音させる放音制御手段と、
    前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクロホンにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録制御手段により制御されている前記撮像手段による動画の撮影を一時中断して、前記撮像手段による静止画の撮影を制御して得られた静止画データを前記記録手段に記録する静止画撮影記録制御手段と、
    前記放音制御手段により放音される報知音を記録するか否かを判定する第1の判定手段と、
    前記第1の判定手段により報知音を記録しないと判定され、且つ、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクにより集音された音の音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御する第1の制御手段と、を備え
    前記第1の判定手段は、前記静止画撮影記録制御手段により制御される静止画の撮影及び得られた静止画データの記録により、欠落する動画フレームが所定枚数以下しかないと判定した場合には、報知音の音データを記録しないと判定することを特徴とする動画撮像装置。
  2. 前記第1の判定手段は、前記音声付動画撮影記録処理により撮影される動画のフレームレートが所定フレームレート以上でない場合は、欠落する動画フレームが所定枚数以下しかないと判定することを特徴とする請求項1記載の動画撮像装置。
  3. 前記第1の判定手段は、前記静止画撮影記録制御手段により撮影される静止画の解像度が所定の解像度以上でない場合には、欠落する動画フレームが所定枚数以下しかないと判定することを特徴とする請求項1又は2記載の動画撮像装置。
  4. ユーザが報知音を記録するか否かを設定するための第1の設定手段を備え、
    前記第1の判定手段は、前記第1の設定手段により設定された結果に基づいて判定することを特徴とする請求項1乃至3の何れかに記載の動画撮像装置
  5. 前記第1の制御手段は、前記放音制御手段による報知音の放音を禁止することにより、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御することを特徴とする請求項1乃至4の何れかに記載の動画撮像装置。
  6. 前記第1の制御手段は、前記マイクロホンにより集音された音のうち前記放音制御手段により放音された報知音を除去することにより、前記音声付動画撮影記録制御手段により記録される音に報知音が含まれないように制御することを特徴とする請求項1乃至4の何れかに記載の動画撮像装置。
  7. 前記第1の判定手段により報知音を記録すると判定され、且つ、前記音声付動画撮影記録制御手段により撮影された動画データと、前記マイクにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記マイクロホンにより集音された音のうち前記放音制御手段により放音された報知音を除去し、該報知音が除去された音の音データに前記記憶手段に記憶されている報知音の音データを合成して前記記録手段に記録する第2の制御手段を備えたことを特徴とする請求項1乃至6の何れかに記載の動画撮像装置。
  8. 報知音の放音が必要か否かを判定する第2の判定手段と、
    前記第2の判定手段による判定にしたがって、前記放音制御手段による報知音の放音、非放音を制御する報知制御手段と、
    を備えたことを特徴とする請求項1乃至7の何れかに記載の動画撮像装置。
  9. 前記第2の判定手段は、 撮影場所が屋外であるという条件、録音レベルが所定レベル以上であるという条件、被写体の動きが所定以上であるという条件のうち、少なくとも1つ以上の条件に基づいて判定することを特徴とする請求項8記載の動画撮像装置。
  10. ユーザが報知音の放音を行なうか否かを設定するための第2の設定手段を備え、
    前記第2の判定手段は、前記第2の設定手段により設定された結果に基づいて判定することを特徴とする請求項9記載の動画撮像装置。
  11. 前記第2の制御手段は、前記第2の判定手段により報知音の放音が不必要と判定された場合には、前記マイクロホンにより集音された音の音データに、前記記憶手段に記憶されている報知音の音データを合成して記録することを特徴とする請求項8乃至10の何れかに記載の動画撮像装置。
  12. 被写体を撮像する撮像素子を制御して動画の撮影を行ない、該得られた動画データを記録媒体に記録するとともに、音を集音するマイクロホンにより集音された音を音データとして記録する音声付動画撮影記録処理と、
    静止画の撮影を指示する指示処理と、
    前記指示処理により静止画の撮影が指示された場合は、撮影を報知する報知音の音データを記憶媒体から読み出して報知部から放音させる放音処理と、
    前記音声付動画撮影記録処理により撮影された動画データと、前記マイクロホンにより集音された音データとを記録している最中に、前記指示手段により静止画の撮影が指示された場合には、前記音声付動画撮影記録処理により制御されている前記撮像素子による動画の撮影を一時中断して、前記撮像素子による静止画の撮影を制御して得られた静止画データを前記記録媒体に記録する静止画撮影記録処理と、
    前記放音処理により放音される報知音を記録するか否かを判定する判定処理と、
    前記判定処理により報知音を記録しないと判定され、且つ、前記音声付動画撮影記録処理により撮影された動画データと、前記マイクにより集音された音の音データとを記録している最中に、前記指示処理により静止画の撮影が指示された場合には、前記音声付動画撮影記録処理により記録される音に報知音が含まれないように制御する処理と、をコンピュータで実行させるプログラムであって、
    前記判定処理は、前記静止画撮影記録制御処理により制御される静止画の撮影及び得られた静止画データの記録により、欠落する動画フレームが所定枚数以下しかないと判定した場合には、報知音の音データを記録しないと判定することを特徴とするプログラム。
JP2005133944A 2005-05-02 2005-05-02 動画撮像装置及びそのプログラム Expired - Fee Related JP4487314B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005133944A JP4487314B2 (ja) 2005-05-02 2005-05-02 動画撮像装置及びそのプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005133944A JP4487314B2 (ja) 2005-05-02 2005-05-02 動画撮像装置及びそのプログラム

Publications (2)

Publication Number Publication Date
JP2006311412A JP2006311412A (ja) 2006-11-09
JP4487314B2 true JP4487314B2 (ja) 2010-06-23

Family

ID=37477723

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005133944A Expired - Fee Related JP4487314B2 (ja) 2005-05-02 2005-05-02 動画撮像装置及びそのプログラム

Country Status (1)

Country Link
JP (1) JP4487314B2 (ja)

Also Published As

Publication number Publication date
JP2006311412A (ja) 2006-11-09

Similar Documents

Publication Publication Date Title
JP4379728B2 (ja) 撮像装置及びそのプログラム
JP4999306B2 (ja) 撮像装置、撮影方法及びプログラム
JP4697078B2 (ja) 撮像装置及びそのプログラム
JP4449973B2 (ja) 撮像装置及びそのプログラム
JP4637045B2 (ja) 撮像装置
JP5158409B2 (ja) 撮像装置及びそのプログラム
JP2006174412A (ja) 撮像装置
JP4916268B2 (ja) 撮像装置、及びその制御方法
JP2005228400A (ja) 音声記録装置及び音声記録方法
JP2009077265A (ja) 撮像装置
JP4379921B2 (ja) 撮像装置及びそのプログラム
JP4553134B2 (ja) 画像生成装置及びそのプログラム
JP4654947B2 (ja) 動画処理装置及びそのプログラム
JP2006287828A (ja) 動画撮像装置及びそのプログラム
JP4487314B2 (ja) 動画撮像装置及びそのプログラム
JP2004120264A (ja) デジタルカメラ
JP2004222074A (ja) 撮像装置
JP5593652B2 (ja) カメラ、および動画再生用プログラム
JP2006217111A (ja) 動画撮影装置、及び動画撮影方法
JP2006330042A (ja) 撮像装置及びそのプログラム
JP4352236B2 (ja) 撮影装置及びそのプログラム
JP2005117077A (ja) 携帯電子機器およびデータ再生方法
JP2000236508A (ja) 画像記録装置
JP2007222509A (ja) 画像再生装置及び撮像装置
JP2006033752A (ja) デジタルカメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091030

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091203

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100308

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100321

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130409

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4487314

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130409

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140409

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees