JP5414374B2 - 撮像記録装置及びその制御方法 - Google Patents

撮像記録装置及びその制御方法 Download PDF

Info

Publication number
JP5414374B2
JP5414374B2 JP2009136569A JP2009136569A JP5414374B2 JP 5414374 B2 JP5414374 B2 JP 5414374B2 JP 2009136569 A JP2009136569 A JP 2009136569A JP 2009136569 A JP2009136569 A JP 2009136569A JP 5414374 B2 JP5414374 B2 JP 5414374B2
Authority
JP
Japan
Prior art keywords
moving image
recording
instruction
audio
reproduced
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009136569A
Other languages
English (en)
Other versions
JP2010283689A (ja
Inventor
竜也 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009136569A priority Critical patent/JP5414374B2/ja
Publication of JP2010283689A publication Critical patent/JP2010283689A/ja
Application granted granted Critical
Publication of JP5414374B2 publication Critical patent/JP5414374B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Description

本発明は、撮像記録装置等に関し、特に記録済み音声データに関連付けた動画像データを撮像或いは記録する撮像記録装置等に関するものである。
従来、音楽と映像を任意に組み合わせた、いわゆるミュージッククリップ作品を制作するには、パーソナルコンピュータ(PC)等での編集ソフトを用いていた。
ミュージッククリップ作品を製作する場合、映像を撮像装置を用いて撮影する時、その映像を組み合わせようとする音楽を撮影前に聞いておきたい場合がある。だが、実際に撮影を開始する時には、撮影における記録音声に再生されている音楽が混入するのを防止するため、撮影時には音楽再生を停止することが好ましい。このような再生されている音楽の記録音声への混入を防ぐ技術としては、例えば特許文献1に開示がある。
特許文献1では、音声を含む情報の再生中にレリーズスイッチから画像の記録が指示されたときに、音声を含む情報の再生の停止を指示してから、画像の記録の開始を指示する記録再生制御ユニットを備える情報処理装置が開示されている。
特開2001−245192号公報
しかしながら、音声データの特定のタイミングに所望の動画像をあわせたミュージッククリップ作品を制作したい場合、上述の特許文献1に開示された技術であってもPC等で編集ソフトを用いる必要があることに変わりは無く、手間がかかるといった問題がある。
そこで、本発明は、PC等で編集ソフトを用いずとも、容易にミュージッククリップ作品を制作することが可能な撮像記録装置等を提供することを目的とする。
本発明の撮像記録装置は、音声を再生する音声再生手段と、動画像を撮像する撮像手段と、前記撮像手段で撮像された動画像を記録する動画像記録手段と、前記動画像記録手段による動画像の記録を指示する記録指示手段と、前記音声再生手段で音声が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付ける関連付け手段と、を有し、前記関連付け手段は、前記指示により記録される動画像の開始時間を、前記指示があった時点で前記音声再生手段で再生されていた音声の経過時間と関連付けることを特徴とする。
本発明によれば、ビデオカメラ等の撮像記録装置本体が再生する音声の進行タイミングに合わせて動画像の記録指示操作をするだけで、音声に動画像を関連付けて記録することができ、ミュージッククリップ作品を容易に製作することができる。
本発明の第1の実施の形態に係る撮像記録装置のシステム構成を示すブロック図である。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像記録の動作について説明するフローチャートである。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像再生の動作について説明するフローチャートである。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像記録における音楽再生時の画面表示の一例を示した図である。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像記録時における、ダイレクトモード設定時の音声データと動画像データとの関係を模式的に示した図である。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像記録時における、クオンタイムズモード設定時の音声データと動画像データとの関係を模式的に示した図である。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像記録時における、クリップフィルモード設定時の音声データと動画像データとの関係を模式的に示した図である。 本発明の第1の実施の形態に係る撮像記録装置をミュージッククリップモードとして記録した音声データと動画像データを模式的に示した図である。 本発明の第2の実施の形態に係る撮像記録装置をミュージッククリップモードとした場合の動画像記録の動作について説明するフローチャートである。
以下、本発明の好ましい実施の形態を添付の図面に基づいて詳細に説明する。なお、以下に示す実施の形態において用いる「音声」とは、音楽又は人の声等とする。
<第1の実施の形態>
(システム構成)
先ず図1を参照して、本発明の第1の実施の形態に係る撮像記録装置のシステム構成について説明する。図1は、本発明の第1の実施の形態に係る撮像記録装置(以下、ビデオカメラ)のシステム構成を示すブロック図である。
図1において、10はビデオカメラ全体を示す。ビデオカメラ10において、101はレンズ、102は撮像素子であるCCD(CMOS等でも良い)である。103はカメラ信号処理部であり、CCD102からの出力信号を記録/再生制御部104が処理可能な信号となるように処理し、記録/再生制御部104に出力する。また、114はカメラ周囲の音声を集音するためのマイクである。
104は記録/再生制御部である。記録/再生制御部104は、複数の構成要素を含んで構成される。すなわち、117はカメラ信号処理部103から出力された信号を動画像データとして記録するための動画像記録処理部であり、119はマイク114から出力された信号を音声データとして記録するための音声記録処理部119である。また、118は動画像データの再生処理を行う動画像再生処理部であり、120は音声データの再生処理を行う音声再生処理部である。また、121は再生する動画像データにビデオカメラ10本体の各種制御状態を文字や図等で重畳表示するためのOSD(オンスクリーンディスプレイ)である。また、116はビデオカメラ10に記録される動画像データと音声データとを関連付けして管理する動画像/音声データ管理部である。
105は記録媒体制御部であり、106はハードディスクドライブ等の記録装置である。動画像データと音声データは、記録媒体制御部105を通じて、記録装置106に符号圧縮化された状態で格納され、記録装置106に格納された動画像データと音声データは、記録装置106から取り出すことが可能である。また、動画像/音声データ管理部116により動画像データと音声データとが関連付けされた場合は、記録媒体制御部105を介して、関連付けに係る情報が記録装置106に記録或いは登録される。
108はLCD表示回路であり、109は表示装置であるLCDである。LCD表示回路108は、映像信号を記録/再生制御部104から出力され、LCD109を駆動して表示する。115は本発明でいう音声再生手段の一構成に対応するスピーカであり、音声再生処理部120で再生された音声データを出力する。スピーカ115は、動画像データに対応した音声データのみならず、別途記録した音楽等の音声データの出力も可能である。
107はシステム制御マイコンであり、ビデオカメラ10全体の制御を行う。110は本発明でいう記録指示手段の一構成に対応する記録開始/停止スイッチであり、ユーザの操作により、システム制御マイコン107に対して記録の開始と停止の指示を出力する。記録の開始や停止の指示があった場合、システム制御マイコン107は、ビデオカメラ10内の各部の制御を行い、動画像データの記録の制御を行う。
111はモード設定部であり、ユーザの操作に応じて、動画像記録モード又は動画像再生モードの切り替え、通常モード又はミュージッククリップモードの切り替えの指示をシステム制御マイコン107に出力する。通常モードとは、記録開始/停止スイッチ110の操作に応じて動画像を記録又は停止するモードであり、ミュージッククリップモードとは、記録開始/停止スイッチ110に応じて音声データに動画像データを関連付けしつつ記録するモードである。モード設定部111は、ハードウェアのスイッチ等で構成しても良いし、LCD109上にインタフェースを表示してここから設定を行うように構成しても良い。また、112は操作部であり、十字左右キー等を含み、ユーザの操作に応じて、システム制御マイコン107に対してビデオカメラ10の各種設定の指示を出力する。また、不図示ではあるが、ビデオカメラ10はUSB等の外部機器との接続部を有しており、外部機器から動画像データや音声データを取り込んで記録することも可能となっている。
<記録時の動作>
次に、ビデオカメラ10における動画像記録時の動作を説明する。図2は、ビデオカメラ10をミュージッククリップモードとした場合の動画像記録の動作について説明するフローチャートである。なお、以下で説明する動作は、システム制御マイコン107がビデオカメラ10の各部を制御することで実行されるため、動作主体はシステム制御マイコン107となる。
先ずステップS201において処理が開始されると、ステップS202においてシステム制御マイコン107は、ユーザによるモード設定部111の操作に応じて、ビデオカメラ10を動画像記録モードに設定する。
次にステップS203においてシステム制御マイコン107は、ユーザによるモード設定部111の操作に応じて、ビデオカメラ10を「通常モード」から「ミュージッククリップモード」に切替設定する。この際、システム制御マイコン107は、音声データの選択を促すメニューリストをLCD109に表示する。
次にステップS204においてシステム制御マイコン107は、ステップS203でユーザにより選択された音声データについての情報を表示する。
より詳しく説明すると、ステップS203でLCD109に表示されたメニューリストでは、ユーザは予め記録されている音声データを選択することができる。ここでユーザが所望の音声データを選択すると、ステップS204においてシステム制御マイコン107は、選択された音声データ名と記録すべき総ショートクリップ数(=音声データ長/ショートクリップ長)を表示する。本実施の形態では、音声データは複数の音声区間に時間的に等分されて区分けされており、この音声区間の時間的長さがショートクリップ長、つまり記録される動画像データの時間的長さとなっている。
更に、ステップS204でシステム制御マイコン107は、音声データの再生を開始し、これと同時にビデオカメラ10をRECP状態(撮影可能状態)とする。また、LCD109の画面下方にプログレスバーを表示し(タイムライン画面下段のプログレスバー表示と似た形態)、現在の音声データの再生位置(経過時間)をリアルタイムにショートクリップ長単位で分かるように表示する。
次にステップS205においてシステム制御マイコン107は、ユーザの操作に応じて、「ショートクリップ長」を設定変更する。ショートクリップ記録される動画像データの時間的長さであるショートクリップ長が変更されると、これに応じて、総ショートクリップ数表示、プログレスバーの表示が変更される。なお、ショートクリップ長の変更は、操作部112に含まれる十字左右キー等を用いて行うことができる。また、ここでの設定は必ずしも必要ではない。
次にステップS206においてシステム制御マイコン107は、ユーザの操作に応じて、「総ショートクリップ数」を設定変更する。総ショートクリップ数が変更されると、これに応じて、ショートクリップ記録される動画像データの長さであるショートクリップ長が変更され、プログレスバーの表示も変更される。なお、総ショートクリップ数の変更も、操作部112に含まれる十字左右キー等を用いて行うことができる。また、ここでの設定は必ずしも必要ではない。
次にステップS207においてシステム制御マイコン107は、ユーザの操作に応じて、「リピートモード」を設定する。ここでは、リピート範囲をショートクリップ長単位で、「1」から「記録すべきクリップ数」までの範囲で設定可能である。リピート範囲を総クリップ数未満とした場合は、そのリピート範囲が現在の音声データ再生位置を含む範囲で設定され、プログレスバーに表示される。なお、リピートモードの設定も、操作部112に含まれる十字左右キー等を用いて行うことができる。
次にステップS208においてシステム制御マイコン107は、ユーザの操作に応じて、音声データの再生の早送り/戻しをショートクリップ長単位で行う。ここでは、ステップS206でリピート範囲を総クリップ数未満とした場合は、そのリピート範囲で前後移動することができる。なお、音声データ再生の早送り/戻しに関しても、操作部112に含まれる十字左右キー等を用いて行うことができる。なお、ここでの設定は必ずしも必要ではない。
次にステップS209においてシステム制御マイコン107は、ユーザの操作に応じて、「ダイレクトモード」又は「クオンタイズモード」又は「クリップフィルモード」を設定する。これら各モードの詳細については後述する。また、ここでの各種設定も、操作部112に含まれる十字左右キー等を用いて行うことができる。
次にステップS210においてシステム制御マイコン107は、撮影済みクリップ数(ショートクリップの数)が0であるかどうかを確認する。ここで、撮影済みクリップ数が0であればステップS212に進み、撮影済みクリップ数が0でなければステップS211に進む。
ステップS211においては、システム制御マイコン107は、サブメニューに含まれる「関連付け解除メニュー」を表示し、音声データとショートクリップとの関連付けを解除する否かを選択可能とする。
ステップS211で音声データとショートクリップの関連付けを解除したい場合は、サブメニューに含まれる「関連付け解除メニュー」におけるプログレスバーにて個々の関連付け済み部分(ショートクリップ長単位で表示)を左右キーで選択する。このような関連付け済み部分は強調表示等により判別可能な態様で表示される。そして、いずれかの関連付け済み部分を選択すると、そこに関連付けされたショートクリップがリピート再生される。そこで、アイコン表示された「関連付け解除」を選択実行すると、関連付けが解除される。このようにすることで、関連付け解除した位置に対する撮影が再び可能になる。ただし、ここで解除された関連付けされたショートクリップの動画像データ自体が削除される訳ではない。後で別途再生モード等にて、関連付け再登録、関連付け位置の移動、関連付けタイミングのクオンタイズ等が可能である。また、ここで関連付けの解除を望まない場合は、アイコン表示された「撮影動作」を選択実行するとステップS212に進むようになっている。なおプログレスバーにて個々の関連付け済み部分(ショートクリップ長単位)を表示する処理は、本発明でいう関連付け範囲表示制御手段の一処理に対応する。また、ここではショートクリップ長単位で関連付け済み部分が表示されるようにしたが、通常クリップで撮影をした場合にはその通常クリップの長さ分の範囲を明示的に表示するようにしても良い。
そしてステップS212においてシステム制御マイコン107は、記録開始/停止スイッチ110の操作を待つ。ここでユーザは、現在再生されている音声を聞きながら、かつ、現在再生されている音声の位置(経過時間)をプログレスバーにより確認して、関連付けたい被写体にビデオカメラ10を向けて、音声の所望の位置で記録開始/停止スイッチ110を押すようにする。
ステップS212で記録開始/停止スイッチ110が押されたことを確認すると、ステップS213においてシステム制御マイコン107は、再生されている音声を停止し、ショートクリップ撮影、撮影されるショートクリップの音声データへの関連付けを行う。ここで、ショートクリップと音声データとの関連付けは、システム制御マイコン107からの指示を受けた動画像/音声データ管理部116によりなされ、ステップS209で設定したモードに応じて、以下(a),(b),(c)のいずれかの態様でなされる。
(a)ダイレクトモードの場合
記録開始/停止スイッチ110が押された瞬間を始点(開始時間)としたショートクリップが撮影され、記録される。
記録開始/停止スイッチ110が押された瞬間に再生されていた音声データの位置(経過時間)にショートクリップの始点(開始時間)が関連付けされる。
(b)クオンタイズモードの場合
記録開始/停止スイッチ110が押された瞬間を始点(開始時間)としたショートクリップが撮影され、記録される。
記録開始/停止スイッチ110を押した瞬間に再生されていた音声データの位置(経過時間)に対応するショートクリップ長(音声区間)の先頭位置(開始時間)にショートクリップの始点(開始時間)が関連付けされる。
(c)クリップフィルモードの場合
プリREC(プリ記録)が行われており、記録開始/停止スイッチ110を押した瞬間に再生されていた音声データの位置(経過時間)に対応するショートクリップ長(音声区間)の先頭位置(開始時間)よりショートクリップが撮影され、記録される。
前述ショートクリップ長の先頭位置(開始時間)に、ショートクリップの始点(開始時間)が関連付けされる。
以上のようなショートクリップ撮影及び記録と、音声データの特定位置に当該ショートクリップを関連付けする処理が終了すると、RECP状態に戻り、記録すべきショートクリップ数が減算されて再表示される。なお、ショートクリップは、記録開始操作をすると所定の設定時間後に自動的に記録終了がなされる。
その後、ステップS214においてシステム制御マイコン107は、記録(撮影)すべきショートクリップ数が0かどうかをチェックする。ここで、0ならばステップS216に進み、処理を終了する。また、0でなければステップS215に進み、ユーザが再撮影したいかどうかを確認する。再撮影を希望しない場合は、メニュー操作等によりその旨を選択してステップS216に進み、処理を終了する。また、再撮影を希望する場合はステップS212に戻る。
そして、上述のようにしてステップS212に戻った場合は、プログレスバー上にて、そのショートクリップ関連付け済みの範囲に、「関連付け済み」である旨の表示がされる。更に再生される音声では、そのショートクリップ関連付け済み範囲を飛ばしてリピート再生される。このようにして、必要に応じて、同様に撮影を繰り返す。
なお、ここではショートクリップ撮影をした動画像データを音声データに関連付けすることを説明したが、ショートクリップのみでなく、通常クリップ(通常モードで撮影された動画像データ)を音声データの特定位置に関連付けて撮影することも可能である。この際は、動画像記録開始時と動画像記録終了時に、記録開始/停止スイッチ110をそれぞれ押すようにする。この場合もリピート区間は任意の区間に設定可能である。
<再生時の動作>
次に、ビデオカメラ10における動画像再生時の動作を図3を用いて説明する。図3は、ビデオカメラ10をミュージッククリップモードとした場合の動画像再生の動作について説明するフローチャートである。なお、以下で説明する動作は、システム制御マイコン107がビデオカメラ10の各部を制御することで実行されるため、動作主体はシステム制御マイコン107となる。
先ずステップS301において処理が開始されると、ステップS302においてシステム制御マイコン107は、ユーザによるモード設定部111の操作に応じて、ビデオカメラ10を動画像再生モードにする。
次にステップS303においてシステム制御マイコン107は、ユーザによるモード設定部111の操作に応じて、ビデオカメラ10を「通常モード」から「ミュージッククリップモード」に切替設定する。
次にステップS304においてシステム制御マイコン107は、音声データの選択を促すメニューリストを表示する。ここで表示されたメニューリストでは、ユーザは予め記録されている音声データを選択することができ、音声データを選択する場合には実行キーを押すようにする。
ステップS304で音声データが選択されると、ステップS305においてシステム制御マイコン107は、選択された音声データの再生を開始し、これとともに当該音声データの関連付けされた位置にて、関連付けされたショートクリップを再生する。なお、再生中において、関連付けされたショートクリップが存在しない位置では、次のような態様で表示する。
・この音声データに関連付けされたショートクリップを再生する(ランダム、順次等)。
・別途登録したショートクリップ又は静止画を表示する。
・何も未登録の場合は、グレー画或いはブルー画を表示し、「未登録です」と警告表示する。
音声データの再生が完了すると、ステップS306で処理が終了する。
<動画像記録時の画面表示>
次に、図2のフローチャートで説明した動画像記録モードにおける音楽再生時の画面表示の一例を図4に示す。
図4において、401は表示画面全体を示す。表示画面401において、409はEE画像(エレクトリック・アイ画像)であり、現在カメラ系で撮像している被写体が表示される。このような画像の表示により、表示画面が電子ビューファインダとして機能する。
402は上述したプログレスバーである。プログレスバー402の全長は、選択した音声データの時間的長さに対応している。プログレスバー402において、403はリピート再生対象領域であり、404は現在実際に再生中となっている再生中領域である。本図に示されるように、リピート再生対象領域403や再生中領域404は、プログレスバー402において強調表示され、視覚的に容易に判別可能な態様で表示される。なお、リピート再生対象領域403に含まれる領域及び再生中領域404は、プログレスバー402の全長すなわち音声データの長さをショートクリップ数で割った、ショートクリップ単位で領域が区切られている。
リピート再生対象領域403の長さ(範囲)は、上述したように任意に選択可能である。具体的には、音声データ全体をリピートする、又は、1クリップ分の長さをリピートする、連続した3クリップ分の長さをリピートする等、1クリップ刻みでメニュー設定可能である。
また、リピート再生対象領域403の長さを音声データ長未満とした場合は、左右十字キーにより、リピート再生対象領域を移動させることが可能である。例えば、図4において、再生中領域404はリピート再生対象領域403の中に入っていなくてはならないが、リピート再生対象領域403の紙面左端に位置する領域に十字キーを移動して再生中領域404をリピート再生対象領域403の端部とすることができる。更に、この状態で十字キー操作を継続すると、再生中領域404も同時に移動させることができ、すなわち音楽再生部位の早送り早戻しをショートクリップ単位で行うことも可能である。
また、表示画面401の紙面右上において、405は音声データの長さである音声データ長(本例では4分50秒)、406はショートクリップの長さであるクリップ長(本例では29秒)である。また、407は全クリップ数(本例では10クリップ)、408は未記録クリップ数(本例では7クリップ)である。音声データ長405、クリップ長406、全クリップ数407の関係は次の式(1)で表される。
音声データ長=クリップ長×全クリップ数・・・(1)
音声データ長405は、音声データを選択した時点で決まる値である。よって、ショートクリップモードの設定にてクリップ長が定まっていれば、音声データを選択した時点で、上記式(1)の関係により、全クリップ数を算出可能である。また、全クリップ数をメニュー設定することにより、ショートクリップ撮影機能のクリップ長を算出して変更することも可能である。
また、未記録クリップ数408は、次の式(2)で表される。
未記録クリップ数=全クリップ数−記録済クリップ数・・・(2)
上記式(2)の関係により、音声データに関連付けたショートクリップを撮影する毎に、記録済みクリップ数は加算され、未記録クリップ数は減算される。このような表示処理は、本発明でいう関連付け区間表示制御手段の一処理例に対応する。
<関連付けの詳細>
次に、図2のフローチャートで説明した音声データとショートクリップ(動画像データ)の関連付けの方法、すなわち、ダイレクトモード、クオンタイズモード、クリップフィルモードそれぞれの詳細について説明する。
先ず図5を用いてダイレクトモード設定時の動作の詳細を説明する。図5は、ダイレクトモード設定時の音声データと動画像データとの関係を模式的に示した図である。
図5において、501は音声データを表す。502は音声データの先頭(開始時間)を表す。503は音声データの終わり(終了時間)を表す。511〜520は音声データをショートクリップ長で分割した音声区間(以下、区間)1〜10であり、時系列に並んで示されている。521は記録時に音声データをリピート再生させるリピート再生区間である。ここでは、区間3(513)〜区間7(517)までの5区間をリピートする設定としている。
522は撮影された動画像データであり、526はユーザによる動画像データ522についての撮影開始操作時点を示す。動画像データ522は、撮影開始操作時点526から撮影されて記録される。また動画像データ522の時間的長さはショートクリップ長と同じである。
上述したように、ミュージッククリップモードで撮影操作がなされると、再生されている音声データは停止される。リピート再生区間521において、523と525は、非撮影時の音声データの再生が実行される区間であり、524は撮影実行中に音声データの再生が停止される区間である。
ダイレクトモードにおける音声データ501と動画像データ522との関連付けは、撮影開始操作時点526に相当する動画像データ522の先頭を、撮影開始操作時点526で音声データで再生されていた時点に「ダイレクト」に関連付ける。すなわち、527は撮影開始操作時点526があった時点の音声データ501の再生されていた時点を示すが、この時点527に動画像データ522の先頭が関連付けされることなる。その結果、動画像データ522の末尾は、528に示すように区間6(516)の途中の時点となる。これを詳しく説明すると、動画像データ522だけを考えた場合、これの先頭の時間は「00:00」つまり再生における開始時間である。そして、音声データ501だけを考えた場合、これの撮影開始操作時点526に対応する時点は、例えば「03:33」つまり再生における経過時間である。すなわち、ダイレクトモードでは、動画像データの開始時間を、音声データの撮影開始操作があった時点での経過時間に関連付けることになる。なお、図5で説明した例では、音声データ501が区分けされているため、この場合は、区間5(515)の○○秒といったかたちで、動画像データの開始時間と関連付けてもよい。
次に図6を用いてクオンタイズモード設定時の動作の詳細を説明する。図6は、クオンタイムズモード設定時の音声データと動画像データとの関係を模式的に示した図である。なお、ここでは、上述したダイレクトモード設定時の動作との差異のみ説明する。
図6において、動画像データ522の撮影開始操作時点526は、区間5(515)の途中に位置するが、動画像データ522の先頭は、区間5(515)の途中の時点ではなく、音声データの区間、本例では区間5(515)の区間の先頭に関連付けする。すなわち、627に示すように、区間5(515)の先頭、つまり開始時間に「クオンタイズ」されて、或いは補正されて関連付けされる。その結果、動画像データ522の末尾は、628に示すように区間5(515)の末尾と同位置となる。
次に図7を用いてクリップフィルモード設定時の動作の詳細を説明する。図7は、クリップフィルモード設定時の音声データと動画像データとの関係を模式的に示した図である。なお、ここでは、上述したダイレクトモード設定時の動作、クオンタイズモード設定時の動作との差異のみ説明する。
クリップフィルモードでの撮影待機時、すなわち撮影開始操作がなされる前までは、プリ記録が行われている。プリ記録とは、CCD102、カメラ信号処理部103等を通じて取り込んだ動画像データを、記録装置106には記録せず、いわゆるリングバッファに一時的に保存する処理である。
722は、クリップフィルモードで記録される動画像データを示すが、動画像データ722は、撮影開始操作時点526の前後の撮像内容を含む動画像データとして記録される。つまり、撮影開始操作時点526が生じた際、撮影開始操作時点526に対応する音声データの区間、本例では区間5(515)の先頭から撮影開始操作時点526までの撮像内容が729で示すプリ記録で保存されたデータから動画像データ722に取り込まれる。また、撮影開始操作時点526から、音声データの区間、本例では区間5(515)の終了時点までの撮像内容は730で示す通常記録として動画像データ722に取り込まれる。そして、前述の通り、動画像データ722の始点と終点は、音声データの区間、本例では区間5(515)の始点と終点と同じタイミングとなり、その関係のままで関連付けがなされ、記録装置106内の情報管理ファイル等に登録される。つまり、クリップフィルモードでは、事前に音声データ全体を分割して定義したショートクリップの相当区間の始点から撮影開始操作が為された区間を満たす、すなわち「フィル」された動画像データの記録を行っている。
ここで、図8は、図5〜図7で説明した各モードで動画像データを撮影して音声データに関連付けした結果の音声データと動画像データを模式的に示した図である。ここでは、図5〜図7に対する差異部分のみを説明する。
801〜810は、動画像データ1〜10であり、これらの動画像データは全て、音声データ501を区間分割したショートクリップ長と同じ時間長となっている。動画像データ1(801)の先頭は、区間1(511)の先頭に、811の矢印で示すように関連付けされている。動画像データ2(802)の先頭は、区間2(512)の先頭に、812の矢印で示すように関連付けされている。動画像データ3(803)の先頭は、区間3(513)の先頭に、813の矢印で示すように関連付けされている。
また、図8に示す例では、区間4(514)に関連付けされた動画像データは撮影していない状態であり、831に示すように区間4(514)は関連付け無し区間とされる。
また、動画像データ4(804)の先頭は、区間5(515)の先頭に、814の矢印で示すように関連付けされている。動画像データ5(805)の先頭は、区間5(515)の中間地点に、815の矢印で示すように関連付けされている。動画像データ6(806)の先頭は、区間6(516)の中間地点に、816の矢印で示すように関連付けされている。動画像データ7(807)の先頭は、区間7(517)の中間地点に、817の矢印で示すように関連付けされている。動画像データ8(808)の先頭は、区間8(518)の中間地点に、818の矢印で示すように関連付けされている。動画像データ9(809)の先頭は、区間9(519)の中間地点に、819の矢印で示すように関連付けされている。動画像データ10(810)の先頭は、区間10(520)の中間地点に、820の矢印で示すように関連付けされている。
図8に示すように音声データと動画像データとが関連付けされた音声データ501を再生すると、音楽が再生開始されると同時に、区間1(511)の音声データの再生が開始される。そして、これとともに区間1(511)の先頭に関連付けされた動画像データ1(801)の再生が開始される。
音声データ501の再生が812の地点に到達すると、動画像データ2(802)の再生が開始される。また、音声データ501の再生が813の地点に到達すると、動画像データ3(803)の再生が開始される。
動画像関連付け無し区間831では、再生すべき動画像データの関連付け登録を行っていないので、その代わりに、別途登録した静止画やバックグラウンド再生用の動画像等が再生される。
そして、音声データ501の再生が814の地点に到達すると、動画像データ4(804)の再生が開始される。音声データ501の再生が815の地点に到達すると、再生中の動画像データ4(804)における824で示す部分の再生は中止され、815にて関連付けされた動画像データ5(825)の再生が開始される。同様に、音声データ501の再生が816の地点に到達すると、動画像データ5(805)における825で示す部分の再生は中止され、816で関連付けされた動画像データ6(806)の再生が開始される。音声データ501の再生が817の地点に到達すると、その地点で動画像データ6(806)の再生は完了しており、続いて動画像データ7(807)の再生が開始される。
そして、音声データ501の再生が818の地点に到達すると、動画像データ7(807)における827で示す部分の再生は中止され、動画像データ8(808)の再生が開始される。その後、819の地点では動画像データ9(809)、820の地点では動画像データ10(810)の再生が開始される。830は動画像データ10(810)が音声データ501の音声データの終わり503を越えていることを示している。本例では、音声データの終わり(503)と共に動画像データ10の再生も停止するが、動画像データ10(810)をフェードアウトさせる、又は最後まで再生させて、その間の音声データの再生は、音声データ再生停止状態とする、等としても良い。
以上で本発明の第1の実施の形態に係る撮像記録装置であるビデオカメラ10の説明をした。このビデオカメラ10では、音声データを基に音声を再生し、ユーザが音声を聞きながら、任意の進行タイミングで撮影指示操作し、これを契機に再生されている音声データに撮影した動画像データを関連付けして記録できる。このような構成により、音声データと動画像データを、ユーザの意図する内容及びタイミングで組み合わせたミュージッククリップ作品を、PC等で編集ソフトを使用せずに、ビデオカメラ10本体のみで容易に作成できる。
また、音声データと動画像データを関連付けて記録することにより、動画像データを音声データ毎にグループ分けでき、大容量記録メディアに多数記録される動画像データの管理が容易となる。音声データと動画像データの内容及びタイミングが整った作品としてのミュージッククリップ作品を制作する用途のみならず、音声データと関連付けて動画像データを記録することで、動画像データ管理用のインデックスとして、動画像データの検索が容易となる。
また、RECP時、すなわち撮影開始前に音声データを再生することにより、これから記録しようとする動画像データの内容と関連付けようとする音声データの内容の把握が、容易となり、ユーザの好みに応じたミュージッククリップビデオを容易に製作できる。より詳しくは、撮影開始前(RECP時)に実際に音声データの再生音声を聴きながら、RECボタンである記録開始/停止スイッチ110を押すことで関連付けがされるため、音声データと動画像データのタイミング合わせが容易にできる。
また、REC時、すなわち撮影開始後は音声データを再生停止することにより、記録音声に再生音声が混入することを回避している。
また、RECP時の音声データ再生を設定区間でリピート再生することにより、所望のタイミングが訪れるまで数分待ったり、再生再開操作や早送り戻し操作等を行う手間を省くことができる。これにより、これから記録しようとする動画像データの音声データとのタイミング合わせが容易となる。
より具体的には例えば、結婚式のミュージッククリップビデオを制作する場合、音楽の最も盛り上がる場面に、結婚式の進行で最も盛り上がるケーキ入刀の場面を関連付けたいという使い方が考えられる。その際、一般的な音楽は数分程度であることが多く、全体をリピート再生としてしまうと、一旦タイミング合わせを逃した場合に数分待つことになると、撮影の機会を逃してしまう。その場合は、本実施の形態のように、音声データリピート再生区間を短く設定することで、より容易に音声データのタイミングに合わせた動画撮影が可能となる。
また、予め音声データを所定のショートクリップ長に設定し、複数の音声区間で区分けして、各音声区間にショートクリップを関連付けるようにすることで、その音声データに必要な総クリップ数を表示でき、ユーザの製作を容易にする工夫がなされている。また、この場合に、撮影済みクリップ数を減算した、撮影が必要なクリップ数を表示することで、より容易に撮影が可能なものとなるように工夫がされている。また、総クリップ数を指定することで、ショートクリップ長を自動設定することもできる。
なお、第1の実施の形態では、記録開始操作をすると設定時間後に自動的に記録終了する、いわゆるショートクリップ撮影時に本発明を適用したが、記録終了処理を自動とせずに記録終了操作により終了させる、通常撮影時に対して適用することも可能である。
(第2の実施の形態)
次に、本発明の第2の実施の形態に係る撮像記録装置について説明する。以下では、第1の実施の形態に対する差異を中心に説明する。なお、本発明の実施の形態に係る第2の実施の形態に係る撮像記録装置(ビデオカメラ10’とする)のシステム構成は図1と同様である。
本実施の形態に係るビデオカメラ10’の動作を図9を用いて説明する。第1の実施の形態に係る記録時の動作と同様である部分は説明を割愛し、差異点を中心に説明する。
ステップS902においては、システム制御マイコン107は、ユーザによるモード設定部111の操作に応じて、ビデオカメラ10’を動画像再生モードに設定する。
ステップS903においては、システム制御マイコン107は、ユーザによるモード設定部111の操作に応じて、ビデオカメラ10’をキャプチャーモードに切り替える。
ステップS904においては、システム制御マイコン107は、ステップS204で選択された音声データの再生を開始するのと同時に、ビデオカメラ10’に記録済みの動画像データを自動再生する。
そして、ステップS910においては、システム制御マイコン107は、再生されている動画像データを、新たな動画像データとして撮影或いは記録するとともに、関連付けを行う。
第1の実施の形態では、記録対象がCCD等の撮像系から取り込んだ動画像データであるのに対し、第2の実施の形態では、記録対象が記録装置106に記録済みの動画像データを再生した動画像データである。すなわち、第2の実施の形態では、記録済みの動画像データを再生して、その再生した動画像データを再撮影する、或いは、表示されている動画像を新たな動画像データとして記録する(キャプチャー)という考え方である。
なお、第2の実施の形態において記録済みの動画像データを再生する場合には、図4に示した409の領域に動画像データを再生するようにしても良い。また、この際に、プログレスバー402において、リピート再生対象領域403や再生中領域404、音声データ長405、クリップ長406、全クリップ数407、未記録クリップ数408等を表示しても良い。
また、第2の実施の形態に係るビデオカメラ10’では、記録装置106に記録済みの動画像データを自動再生するにあたり、複数の動画像データが記録済みである場合は、それら複数の動画像データを、管理ファイルに登録されている順に再生しても良い。又は、ランダムに再生する等、工夫しても良い。また、再生される動画像を、再生される音声とは独立して、早送り/早戻し等を操作可能として、より積極的に再撮影対象の動画像を撮影者に選択させても良い。
また、第2の実施の形態に係るクリップフィルモードでは、撮影開始操作がなされる前までは、プリ記録が行われている。すなわち、ここでは再生された動画像データを記録装置106には記録せず、いわゆるリングバッファに一時的に保存するようにしている。そして、撮影開始操作が生じた際、撮影開始操作に対応する音声データの区間の先頭から、撮影開始操作までの再生内容をプリ記録で保存されたデータから動画像データに取り込むようにしている。
以上、本発明の好ましい実施の形態について説明したが、本発明はこれらの実施の形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
また、本発明を実現するために、上述した実施形態の機能を実現するソフトウェアのプログラムコード(コンピュータプログラム)を記録した記憶媒体を用いても良い。この場合には記憶媒体をシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによって本発明の目的が達成される。
この場合、記憶媒体から読み出されたプログラムコード自体が上述した実施形態の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
また、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(基本システム或いはオペレーティングシステム)等が実際の処理の一部又は全部を行う場合も含まれることは言うまでもない。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれてもよい。この場合には、書き込まれたプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行ってもよい。
10,10’ ビデオカメラ
101 レンズ
102 CCD
103 カメラ信号処理部
104 記録/再生制御部
105 記録媒体制御部
106 記録装置
107 システム制御マイコン
108 LCD表示回路
109 LCD
110 記録開始/停止スイッチ
111 モード設定部
112 操作部
115 スピーカ
116 動画像/音声データ管理部
117 動画像記録処理部
118 動画像再生処理部
119 音声記録処理部
120 音声再生処理部
121 OSD(オンスクリーンディスプレイ)

Claims (12)

  1. 音声を再生する音声再生手段と、
    動画像を撮像する撮像手段と、
    前記撮像手段で撮像された動画像を記録する動画像記録手段と、
    前記動画像記録手段による動画像の記録を指示する記録指示手段と、
    前記音声再生手段で音声が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付ける関連付け手段と、を有し、
    前記関連付け手段は、前記指示により記録される動画像の開始時間を、前記指示があった時点で前記音声再生手段で再生されていた音声の経過時間と関連付けることを特徴とする撮像記録装置。
  2. 音声を再生する音声再生手段と、
    動画像を撮像する撮像手段と、
    前記撮像手段で撮像された動画像を記録する動画像記録手段と、
    前記動画像記録手段による動画像の記録を指示する記録指示手段と、
    前記音声再生手段で音声が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付ける関連付け手段と、を有し、
    前記音声再生手段で再生される音声は複数の音声区間に時間的に区分けされており、
    前記関連付け手段は、前記指示により記録される動画像の開始時間を、前記指示があった時点に対応する音声区間の開始時間に関連付けることを特徴とする撮像記録装置。
  3. 前記指示により記録される動画像を、前記指示があった時点に対応する音声区間の開始時間からの撮像内容を含む動画像として記録することを特徴とする請求項に記載の撮像記録装置。
  4. 前記撮像手段で撮像された動画像を一時的に保存するプリ記録手段を有し、
    前記指示があった時点に対応する音声区間の開始時間からの撮像内容を、前記プリ記録手段を用いて前記指示により記録される動画像に含めることを特徴とする請求項に記載の撮像記録装置。
  5. 音声を再生する音声再生手段と、
    動画像を再生する動画像再生手段と、
    前記動画像再生手段で再生された動画像の記録を指示する記録指示手段と、
    前記音声再生手段で音声が再生されるとともに、前記動画像再生手段で動画像が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付ける関連付け手段と、を有し、
    前記関連付け手段は、前記指示により記録される動画像の開始時間を、前記指示があった時点で前記音声再生手段で再生されている音声の経過時間と関連付けることを特徴とする撮像記録装置。
  6. 音声を再生する音声再生手段と、
    動画像を再生する動画像再生手段と、
    前記動画像再生手段で再生された動画像の記録を指示する記録指示手段と、
    前記音声再生手段で音声が再生されるとともに、前記動画像再生手段で動画像が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付ける関連付け手段と、を有し、
    前記音声再生手段で再生される音声は複数の音声区間に時間的に区分けされており、
    前記関連付け手段は、前記指示により記録される動画像の開始時間を、前記指示があった時点に対応する音声区間の開始時間に関連付けることを特徴とする撮像記録装置。
  7. 前記指示により記録される動画像を、前記指示があった時点に対応する音声区間の開始時間からの再生内容を含む動画像として記録することを特徴とする請求項に記載の撮像記録装置。
  8. 前記動画像再生手段で再生された動画像を一時的に保存するプリ記録手段を有し、
    前記指示があった時点に対応する音声区間の開始時間からの再生内容を、前記プリ記録手段を用いて前記指示により記録される動画像に含めることを特徴とする請求項に記載の撮像記録装置。
  9. 音声を再生する音声再生手段と、動画像を撮像する撮像手段と、前記撮像手段で撮像された動画像を記録する動画像記録手段と、前記動画像記録手段による動画像の記録を指示する記録指示手段とを有する撮像記録装置の制御方法であって、
    前記音声再生手段で音声が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付けるステップを有し、
    前記ステップでは、前記指示により記録される動画像の開始時間を、前記指示があった時点で前記音声再生手段で再生されていた音声の経過時間と関連付けることを特徴とする撮像記録装置の制御方法。
  10. 音声を再生する音声再生手段と、動画像を撮像する撮像手段と、前記撮像手段で撮像された動画像を記録する動画像記録手段と、前記動画像記録手段による動画像の記録を指示する記録指示手段とを有する撮像記録装置の制御方法であって、
    前記音声再生手段で音声が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付けるステップを有し、
    前記音声再生手段で再生される音声は複数の音声区間に時間的に区分けされており、
    前記ステップでは、前記指示により記録される動画像の開始時間を、前記指示があった時点に対応する音声区間の開始時間に関連付けることを特徴とする撮像記録装置の制御方法。
  11. 音声を再生する音声再生手段と、動画像を再生する動画像再生手段と、前記動画像再生手段で再生された動画像の記録を指示する記録指示手段とを有する撮像記録装置の制御方法であって、
    前記音声再生手段で音声が再生されるとともに、前記動画像再生手段で動画像が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付けるステップを有し、
    前記ステップでは、前記指示により記録される動画像の開始時間を、前記指示があった時点で前記音声再生手段で再生されている音声の経過時間と関連付けることを特徴とする撮像記録装置の制御方法。
  12. 音声を再生する音声再生手段と、動画像を再生する動画像再生手段と、前記動画像再生手段で再生された動画像の記録を指示する記録指示手段とを有する撮像記録装置の制御方法であって、
    前記音声再生手段で音声が再生されるとともに、前記動画像再生手段で動画像が再生されている際に、前記記録指示手段の指示があった場合に、前記音声再生手段で再生されている音声を停止し、前記指示により記録される動画像を、前記音声再生手段で再生されてい音声と関連付けるステップを有し、
    前記音声再生手段で再生される音声は複数の音声区間に時間的に区分けされており、
    前記ステップでは、前記指示により記録される動画像の開始時間を、前記指示があった時点に対応する音声区間の開始時間に関連付けることを特徴とする撮像記録装置の制御方法。
JP2009136569A 2009-06-05 2009-06-05 撮像記録装置及びその制御方法 Expired - Fee Related JP5414374B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009136569A JP5414374B2 (ja) 2009-06-05 2009-06-05 撮像記録装置及びその制御方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009136569A JP5414374B2 (ja) 2009-06-05 2009-06-05 撮像記録装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP2010283689A JP2010283689A (ja) 2010-12-16
JP5414374B2 true JP5414374B2 (ja) 2014-02-12

Family

ID=43540028

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009136569A Expired - Fee Related JP5414374B2 (ja) 2009-06-05 2009-06-05 撮像記録装置及びその制御方法

Country Status (1)

Country Link
JP (1) JP5414374B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5687961B2 (ja) * 2011-06-28 2015-03-25 パイオニア株式会社 同期再生装置及び同期再生方法
JP6478162B2 (ja) * 2016-02-29 2019-03-06 株式会社Hearr 携帯端末装置およびコンテンツ配信システム
CN110781349A (zh) * 2018-07-30 2020-02-11 优视科技有限公司 用于短视频生成的方法、设备、客户端装置及电子设备

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001291371A (ja) * 2000-04-03 2001-10-19 Sharp Corp 記録装置
JP4622600B2 (ja) * 2005-03-16 2011-02-02 カシオ計算機株式会社 撮影装置、撮影方法、プログラム
JP4654947B2 (ja) * 2006-03-10 2011-03-23 カシオ計算機株式会社 動画処理装置及びそのプログラム

Also Published As

Publication number Publication date
JP2010283689A (ja) 2010-12-16

Similar Documents

Publication Publication Date Title
JP4902415B2 (ja) 記録再生装置及びその制御方法
JP2007221681A (ja) 画像再生装置、音楽加工プログラム、および画像再生プログラム
JP2009118215A (ja) 撮像装置
JP4646046B2 (ja) 録画再生装置
US9990955B2 (en) Image recording apparatus and method, and image playback apparatus and method
JP5066037B2 (ja) 情報処理装置
JP2009225361A (ja) 記録装置および記録方法、ならびに、編集装置および編集方法
JP2005191756A (ja) デジタルスチルカメラ
JP5414374B2 (ja) 撮像記録装置及びその制御方法
JP2004007435A (ja) 電子カメラ、画像記録装置、画像記録方法及びプログラム
JP2007166501A (ja) 画像記録装置、画像記録再生方法、プログラム及びコンピュータ読み取り可能な記憶媒体
JP5743512B2 (ja) 撮像装置とその制御方法
JP2006261953A (ja) 記録再生装置及びその制御方法並びに撮像装置
JP5284074B2 (ja) 画像処理装置及び画像処理方法
JP2008206099A (ja) 記録装置
JP4743264B2 (ja) 録画再生装置
JP4915978B2 (ja) 動画再生装置及びそのプログラム
JP2007235432A (ja) 画像音声記録装置および画像音声記録制御プログラム
JP2006092681A (ja) 画像管理方法、画像管理装置及び画像管理システム
JP6173122B2 (ja) 画像再生装置および画像再生方法
JP5414844B2 (ja) 撮像装置
JP2005328154A (ja) 記録装置、ファイル分割方法、及びプログラム
JP2010141414A (ja) 撮像再生装置
JP4991272B2 (ja) カメラ装置およびカメラ装置における再生制御方法
JP2006310978A (ja) 電子撮影装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120524

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130723

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130927

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131015

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131112

R151 Written notification of patent or utility model registration

Ref document number: 5414374

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees